大型語言模型(LLM)爆紅,全球都關注採用這類人工智慧技術或服務的應用系統發展,而在資安風險的層面上,絕大多數關注的層面是圍繞著提示的濫用,以及訓練資料的竄改,以雲端原生防護產品著稱的資安新創公司Sysdig,本週揭露新的攻擊手法,他們觀察到有些惡意活動利用盜取的雲端服務身分憑證,而且是鎖定前10大雲端LLM服務,並將這種行為稱為LLM綁架(LLMjacking),在上述情境之下,攻擊者會將LLM存取權賣給其他網路犯罪份子,同時,這些雲端服務帳號持有者可能還在持續支付使用LLM應用的帳單,形同幫歹徒的AI使用而埋單。
用戶的雲端服務身分憑證之所以被偷走,Sysdig僅簡略表示是來自一個擁有許多用戶的系統,由於當中執行具有CVE-2021-3129漏洞的PHP框架Laravel,而導致這些資料外流。
關於LLM綁架具體運作流程,根據Sysdig的描述,一旦攻擊者拿到雲端服務的初步存取方式,他們會挖出登入憑證、獲取雲端環境的存取權,而在這裡他們會試圖存取雲端服務廠商在此代管的LLM模型。在他們觀察到的執行個體當中,業者在這個環境所設置的Anthropic Claude v2/v3模型,是遭到攻擊者鎖定濫用的目標,如果上述狀況沒被發現,受害者為了LLM的使用每天可能需支付超過4.6萬美元(逼近新臺幣150萬元)。
Sysdig研究人員也發現一些證據,例如,LLM的反向代理被用於提供這些遭駭帳號的存取權,從這狀況研判,攻擊者是有財務層面的動機,另一個可能動機則是為了提取LLM訓練資料。
熱門新聞
2024-12-08
2024-12-10
2024-12-10
2024-12-10
2024-11-29
2024-12-08