圖片來源: 

Anthropic

AI新創Anthropic本周揭露,該公司在今年9月偵測到由中國國家支持的駭客組織GTG-1002,利用AI於全球發動高度複雜的間諜行動,鎖定全球30個目標展開攻擊,並由AI完成了超過8成的任務,堪稱是首起幾乎完全由AI代理人執行的網路攻擊行動,亦顯示出AI可自主滲透高價值目標。

Anthropic發現,駭客操縱該公司的AI程式代理模型Claude Code,自動執行偵察、漏洞發現、滲透、橫向移動、憑證竊取與資料外洩,總計由AI完成了80~90%的任務。人類的參與度介於10~20%之間,主要在於關鍵決策,例如滲透授權或是外洩批准等,且在Claude偶爾出現幻覺或誤報時,由人工來驗證結果。

整起活動是由駭客建構自動化框架,結合Claude Code與MCP(Model Context Protocol)工具,以多代理架構運作,並由Claude負責掃描、驗證、擷取資料與橫向移動。

駭客先行設定攻擊目標,涵蓋科技、金融、化工及政府機構,並以網路安全測試為名來欺騙Claude;接著Claude即會自動掃描網域、認證機制與漏洞,且能同時處理多個目標並建立獨立作業環境;Claude繼之自動撰寫攻擊載荷並測試可行性,人類僅在升級至實際攻擊前進行審核;Claude還負責蒐集與測試帳密,辨識權限等級,以及自動進行橫向滲透;之後還由AI自動登入資料庫,建立後門,提取及分類高價值資料,而人類僅負責審核最終外洩清單;最後Claude還會自動生成Markdown報告,記錄憑證、系統及入侵流程,還會支援交接與後續滲透。

GTG-1002主要採用公開銷售的滲透工具,而非自製惡意軟體,卻利用AI協調這些工具並達到國家級規格的滲透效率,而且成功地滲透了部分目標組織。

在Anthropic察覺此事後,立即封鎖了駭客的帳號,通知受害者並通報主管機關,另也擴充了偵測能力及AI分類器,著手開發早期預警系統及分散式攻擊偵測技術,亦把此次的攻擊經驗及偵測模式,納入Anthropic整體安全與政策框架。

Anthropic提醒,AI的崛起降低了網路攻擊的門檻,還讓小型組織得以發動複雜攻擊,AI同時成為威脅與防禦的核心,未來應加強AI防護與跨產業威脅情報共享,並持續投資於預防濫用安全機制。

熱門新聞

Advertisement