提示注入

關於Agentic AI時代的防禦，奧義智慧科技資料科學研發處處長楊政霖強調，非確定性系統難以保證問題修復不會再發生，Prompt已經成為新的資安防禦邊界，現階段持續不斷的審查稽核仍是有效方式，他不僅從MCP生命週期解析相關風險，也從Agentic System的構成切入，強調我們需額外關注的重要面向

研究人員發現企業版Google聊天機器人的一項技術上的漏洞，可被利用於在Gmail中顯示詐騙內容

生成式AI不當使用出現實際案例！臺灣有北捷AI客服可代寫程式碼，國外有三星員工將內部資料上傳至公用服務，以及美國律師誤用AI虛構判例打官司，均具體呈現LLM在不同層面的潛在風險

台北捷運提供捷運AI智慧客服，有網友測試後發現，該AI客服可協助產生程式碼範例，事件在網路揭露後，吸引大批網友討論、測試，台北捷運公司緊急要求廠商斷開與Azure Open AI串接，回復原本的旅客應答功能。