Nội dung:
Đã xuất hiện các trường hợp thực tế về việc sử dụng Generative AI không đúng cách!
Tại Đài Loan, hệ thống chăm sóc khách hàng AI của tàu điện ngầm Đài Bắc có thể viết hộ mã lập trình; ở nước ngoài, nhân viên Samsung đã tải dữ liệu nội bộ lên dịch vụ công cộng; tại Mỹ, một luật sư đã dùng AI sai cách và bịa ra các án lệ để tranh tụng tại tòa. Những ví dụ này cho thấy rõ các rủi ro tiềm ẩn của LLM ở nhiều khía cạnh khác nhau.
Khuyến nghị:
Top 10 rủi ro trong báo cáo nổi tiếng OWASP, đã liệt kê và liên tục cập nhật 10 rủi ro bảo mật hàng đầu khi ứng dụng mô hình LLM. Báo cáo không chỉ chỉ ra các mối đe dọa tiềm ẩn, mà còn cảnh báo các nhà cung cấp dịch vụ Generative AI, cũng như doanh nghiệp và cá nhân sử dụng công nghệ này, cần đặc biệt chú ý đến các vấn đề an toàn thông tin.
Nguồn dữ liệu:
https://www.ithome.com.tw/news/168424