資安業者揭露疑似全球最早的LLM驅動惡意程式MalTerminal

美國資安業者SentinelOne上周五（9/19）揭露一個整合了大型語言模型（LLM）的惡意程式MalTerminal，並說它在2023年就現身，很可能是全球首個LLM惡意程式，早於今年6月出現的LameHug，以及8月現身的PromptLock。

SentinelOne成立於2013年，打造了基於AI的端點安全與EDR/XDR服務，然而，該公司認為，隨著愈來愈多的軟體開發流程整合LLM，使其也可能變成駭客的新武器，防禦方必須理解相關影響才能因應資安生態的變化。

不過，如果一個惡意程式把惡意功能交給LLM去生成即時程式碼，那對偵測工程師而言便是一場惡夢，因為每次執行LLM都會成生獨特的程式碼，而讓利用靜態簽章來比對的傳統防毒失效；此外，這類惡意程式的行為路徑也每次不同，亦對動態偵測帶來挑戰。

為了發掘這類樣本，SentinelOne透過模式比對嵌入式的API金鑰，以及特定的提示架構來找出由LLM驅動的惡意程式，並發現了由Python腳本程式及Windows執行檔組成的MalTerminal惡意程式樣本。MalTerminal會呼叫OpenAI GPT-4，可在執行時即時生成勒索軟體的程式碼，或建立反向連線殼（reverse shell）以供遠端控制。

此外，研究人員也發現MalTerminal所使用的OpenAI Chat Completions API端點，在2023年11月就被官方棄用，因而推斷MalTerminal很可能是目前所知最早的LLM惡意程式樣本。

SentinelOne並沒有發現MalTerminal被應用在實際攻擊行動中，亦未被大規模部署，猜測它或許只是個概念性驗證（PoC）惡意程式或是紅隊測試工具。