惡意AI工具WormGPT 4與KawaiiGPT在地下論壇與Telegram頻道出現，被用於自動化網路犯罪

駭客利用AI打造作案工具的情況，過往大多是濫用合法的工具來達到目的，如今有人專供犯罪份子使用的AI工具，使得駭客的作案門檻再度降低，無須繞過AI業者設下的防護措施，就能產生所需工具。

資安業者Palo Alto Networks揭露兩款專供網路犯罪使用的AI模型，它們是WormGPT 4與KawaiiGPT，其中，WormGPT 4開發者透過租用的模式經營，自9月底開始營運，並透過Telegram頻道與地下論壇進行宣傳。此AI模型以2023年出現的WormGPT為基礎打造而成，能用於網釣、商業郵件詐騙（BEC），以及產生惡意軟體程式碼片段。

特別的是，WormGPT 4不僅能產生令人信服的文字，模仿執行長或是受到信賴的供應商，還能避免常見的語法錯誤及不適當的語詞，目前已有超過500個用戶訂閱及使用。

另一個惡意模型是KawaiiGPT，開發者採取完全不同的策略，他們在GitHub發布，免費提供給所有人使用，採用輕量級架構，建置自己的模型相當容易，Palo Alto Networks實際測試，發現部署到大部分Linux作業系統時，不到5分鐘就能完成。開發者宣稱，已有超過500名用戶註冊，其中每週約有250至270名用戶在使用。

針對這些AI模型的特性，Palo Alto Networks實際取得並進行測試，其中，他們試圖利用WormGPT 4，生成能加密Windows電腦PDF檔案的指令碼，該模型隨即就交付了功能完整的PowerShell指令碼，內容包含勒索軟體程式碼，並能與C2伺服器協同運作，將竊得的資料透過洋蔥網路（Tor）外洩。

他們也透過KawaiiGPT嘗試產生社交工程誘餌，Palo Alto Networks要求AI模型假冒銀行的名義，發送釣魚郵件，該AI模型就會生成看起來相當專業的信件，主旨是緊急要求使用者驗證帳號資訊，一旦使用者照做，他們就會被導向假的驗證連結，然後要求提供金融卡資料及出生日期。

此外，他們也成功生成橫向移動的工具，KawaiiGPT濫用Python的SSH模組paramiko來提供相關功能，這些程式碼會使用合法使用者的身分進行驗證，並提供攻擊者遠端Shell，以便入侵其他設備。一旦攻擊者成功建立SSH連線，此惡意程式就能接收命令，進行權限升級、偵察、部署後門、收集敏感資料，並且對網路環境的其他系統，進一步發動攻擊。