OWASP公布AI代理的10大資安威脅

這兩年生成式AI應用起飛，已逐漸融入你我生活，相關的新技術也帶來了新的風險，過去經常發布10大資安風險的非營利組織OWASP，從2023年8月開始，彙整大型語言模型（LLM）的10大資安風險，去年底公布最新的2025版，隨著許多應用聚焦在AI代理，現在他們公布AI代理的10大資安風險。

這10大資安風險當中，又以前三大最被凸顯。其中OWASP列為第一的是Agent Goal Hijack，光從字面上不容易直接理解其風險為何，OWASP說明指出，這種風險來自攻擊者操縱AI代理的自然語言輸入，改變原本的目標，導致資料外流、輸出結果被竄改，或是工作流程被挾持的情況，而這的確是時下最常見的AI代理威脅之一。

排名第二和第三的威脅，就相對容易理解：分別是工具濫用及漏洞利用（Tool Misuse and Exploitation），以及身分與特殊權限的濫用（Identity and Privilege Abuse），這些威脅展現攻擊者如何顛覆AI代理能力，以及其背後的基礎設施，而且，涉及AI代理的資安威脅，已在各行各業浮現。

對於OWASP從彙整LLM資安風險轉向AI代理風險的原因，帶頭彙整10大威脅的Tenable AI資安資深團隊經理Keren Katz指出，許多企業已曝露AI代理遭到攻擊的風險，但他們還沒掌握AI代理已在網路環境運作的情況，由於新的威脅資訊量極為龐大，想要有效保護企業防範相關威脅，必須深入了解AI代理的運作方式。

OWASP在列出十大威脅之餘，也提供一系列的指引供企業參考，內容涵蓋AI資安的治理、資安解決方案藍圖、安全AI代理應用程式實作指引，以及AI代理威脅與緩解手冊等。

對於生成式AI帶來的資安風險，近期不斷有相關發現公布。例如，攻擊者可透過遵循禮節的商業電子郵件，操縱瀏覽器Perplexity Comet的AI代理，刪除受害者於Google Drive存放的資料；Google近期修補的企業版Gemini零點擊漏洞GeminiJack，攻擊者只要共享文件、發出行事曆邀請，或是寄送Gmail郵件，就有機會竊取企業內部資料並外流。而在軟體開發領域，攻擊鏈IDEsaster與提示注入漏洞PromptPwnd，也與AI代理有關。