CheckPoint
道高一尺,魔高一丈。研究人員發現,隨著OpenAI的ChatGPT加入防止濫用的方法,攻擊者也發展出能繞過這些限制的新方法及商業服務。
安全廠商陸續發現,OpenAI的服務不只造福程式碼工程師,也能幫助技術不佳的駭客。例如Check Point研究人員去年發現,ChatGPT可被攻擊者用來撰寫網路釣魚電子郵件,並產生基本的惡意VBA程式碼,或是執行reverse shell,進而接受英文攻擊指令。
為此,OpenAI為其服務新增限制防止濫用,像是如果攻擊者透過ChatGPT的用戶介面要求它撰寫冒充銀行的釣魚信件,或撰寫惡意程式,將遭到拒絕。
但CheckPoint研究人員近日發現駭客界又有新的因應方法。在駭客論壇上,有人兜售繞過OpenAI限制的服務。一個方法是建立Telegram機器人(下圖),透過API整合並存取ChatGPT。某名駭客服務的商業模式是,他們可使用20次ChatGPT免費查詢,而對客戶提供每100次查詢5.5美元的服務。
研究人員指出,目前OpenAI允許外部應用程式如Telegram頻道以API存取GPT-3模型,幾乎沒有任何防止濫用的機制,因而可被用來生成釣魚信件或惡意程式碼等內容,不受現有規則限制。
另一名駭客則是藉由撰寫基礎的腳本程式直接查詢OpenAI API,藉此繞過反濫用機制,達成開發惡意程式的目的。
研究人員表示,這顯示隨著ChatGPT不斷強化控制,駭客也會持續「精進」其濫用OpenAI模型的技倆。
熱門新聞
2024-10-27
2024-10-30
2024-10-30
2024-10-29
2024-10-23
2024-10-29