內容：
生成式AI不當使用出現實際案例！臺灣有北捷AI客服可代寫程式碼，國外有三星員工將內部資料上傳至公用服務，以及美國律師誤用AI虛構判例打官司，均具體呈現LLM在不同層面的潛在風險。
建議：
在知名OWASP Top 10風險排名報告中，已列出並持續更新大型語言模型（LLM）應用的十大安全風險，不僅揭露應用的潛在威脅，也提醒生成式AI服務供應商，以及應用這些技術的企業與個人，應注意這方面的安全問題！
資料來源：
【當心提示注入、敏感資訊洩漏、錯誤資訊等問題】已在真實世界發生的LLM資安風險
內容：
生成式AI不當使用出現實際案例！臺灣有北捷AI客服可代寫程式碼，國外有三星員工將內部資料上傳至公用服務，以及美國律師誤用AI虛構判例打官司，均具體呈現LLM在不同層面的潛在風險。
建議：
在知名OWASP Top 10風險排名報告中，已列出並持續更新大型語言模型（LLM）應用的十大安全風險，不僅揭露應用的潛在威脅，也提醒生成式AI服務供應商，以及應用這些技術的企業與個人，應注意這方面的安全問題！
資料來源：