| LLM資安風險 | 提示注入 | 敏感資訊洩漏 | 錯誤資訊

【當心提示注入、敏感資訊洩漏、錯誤資訊等問題】已在真實世界發生的LLM資安風險

生成式AI不當使用出現實際案例!臺灣有北捷AI客服可代寫程式碼,國外有三星員工將內部資料上傳至公用服務,以及美國律師誤用AI虛構判例打官司,均具體呈現LLM在不同層面的潛在風險

2025-04-18

| 台北捷運 | AI客服 | 提示注入

北捷AI客服遭網友測試發現可代寫程式碼,北捷緊急斷開Azure Open AI回應功能

台北捷運提供捷運AI智慧客服,有網友測試後發現,該AI客服可協助產生程式碼範例,事件在網路揭露後,吸引大批網友討論、測試,台北捷運公司緊急要求廠商斷開與Azure Open AI串接,回復原本的旅客應答功能。

2024-11-25