微軟、Mitre釋出機器學習攻擊模擬外掛工具

微軟與Mitre本周釋出，可模擬針對機器學習（machine learning，ML）系統之攻擊的外掛工具Arsenal。

這是微軟與Mitre針對機器學習系統防護的最新一項合作。雙方2020年合作Adversarial ML Threat Matrix開發框架，去年微軟推出Counterfit自動化紅隊演練AI攻擊測試工具，供企業對AI演算法進行安全評估。最新的Arsenal即是將Counterfit整合於外掛中。

Mitre的資源頁說明，這個外掛可儲存和建立Mitre攻擊ATT&CK資料庫ATLAS（Adversarial Threat Landscape for Artificial-Intelligence Systems）定義的攻擊策略和手法，並整合到其CALDERA自動化攻擊模擬平臺App。Arsenal外掛也可和CALDERA視覺化外掛Almanac配合使用。

Arsenal可協助安全研究人員發現ML工作流程各元素的漏洞，並提供防護方法。截至1月，這個最新外掛提供發現遠端、本機及可用的網路服務與ML專門服務，還可匯出ML模型並以counterfit程式庫繞過ML模型。Mitre表示未來會持續強化Arsenal的功能。

Arsenal可執行於Ubuntu 18.04或20.04的系統上，並需要Python 3.7以上版本。

不過Arsenal目前還不是CALDERA預設的外掛，用戶需要連到caldera-atlas程式庫循指示下載。