微軟公布惡意程式逆向工程AI代理人Project Ire原型

微軟本周公布惡意軟體分類AI代理人系統Project Ire原型。

Project Ire是源自微軟研究院、Microsoft Defender Research、以及Microsoft Discovery& Quantum三個單位的合作計畫，整合安全、操作知識和全球惡意程式遙測（telemetry）及AI的研究，旨在克服惡意程式研究困難且耗時的挑戰，透過代理式AI自動執行完全逆向工程流程，達到大規模、快速、一致性的惡意程式分類。

微軟解釋，和資安其他AI應用不同，惡意軟體分類欠缺可運算的檢驗機制，AI必須在沒有明確驗證情況下下判斷，例如軟體許多行為，像是逆向工程防護機制都沒有清楚說明這個程式是良性或惡意的。這使得樣本研究必須逐步累積證據，這個過程既複雜且曠日廢時，也讓分析難以自動化或大規模執行。

為解決上述問題，Project Ire的目的在以自動系統運用專門工具進行軟體（包括惡意程式）逆向工程。技術基礎方面，該系統實行多層次推理，從低階二進位檔分析、控制流重建到高階程式碼行為的解譯等。此外它透過API使用內外部工具來協助了解檔案，像是微軟以Project Freta為基礎的記憶體分析沙箱工具、客製工具和開源工具、文件搜尋，以及多種反編譯器（decompiler）等。

軟體評估的過程如下。首先是以自動逆向工程工具根據檔案型態、架構等來分類，其次，系統利用angr或Ghidra等框架重建軟體控制流，建立圖表。最後Project Ire的記憶體模型根據流程圖表分析，後者即透過反覆功能分析，以API呼叫工具協助判讀，總結關鍵功能產出報告。每次分析結果都會加入「證據鏈」（chain of evidence），這些詳細紀錄說明將可支援安全團隊次級複檢，而若有誤分類情形也當成系統回饋協助改進。

Project Ire也可以呼叫驗證工具交叉比對報告和證據鏈以檢查其發現，最後完成惡意或良性程式樣本分類的正式報告。

在測試階段，研究團隊以Project Ire運用公開Windows驅動程式資料集執行測試，正確辨識出90%的惡意程式，僅有2%被誤判為惡性，精準度達0.98、召回率為0.83。其低誤判率顯示有潛力部署於實際安全場景。

微軟說Project Ire是該公司第一個能撰寫定罪案例的逆向工程師。微軟並將Project Ire用來分析真實環境近4,000個難以分類、無法被現有自動化工具辨識的高難度檔案。Project Ire完全自動運作，雖然效能還不高，但準確率（Precision）達0.89，召回率（Recall）為0.26，誤判率（False Positive Rate）僅4%。

微軟說，依據Project Ire的初步表現，其原型之後會用於Defender部門作為二進位檔分析。微軟計畫提升該系統的速度和準確率，使其準確分類任何來源的檔案，最終希望它能直接偵測到記憶體內的新式惡意程式。