網路資訊安全的預測真的是變化莫測,一方面是現代網路在硬體、軟體、協議和服務的複雜度增加了攻擊面,再則網路攻擊者也在不斷更新攻擊技術與手法,這也增加了保護系統的難度。2023年我們針對網路資訊安全預測,有些預測真的準確無誤,如API相關的安全漏洞與前一年相比,上升了三分之一以上,超過1.2億的資料在去年22次漏洞中被公開,其中大多數是由於身份驗證或授權失效引起的。其中27% 的漏洞是由安全配置錯誤引起的,相較2022年增加了近4倍。開發人員通常未遵循組織已定義的標準和政策,部署了影子API,這無疑也屬於“安全配置錯誤”的範疇。

有鑑於知己知彼更能擬定周全的安全策略的信念下,在F5的安全營運工程師和威脅情報分析師的研究發現,“AI提升攻擊者的能力上產生極大的影響”。表面上來說,這並不像是一個多麼具體前瞻的預測,因為從ChatGPT首次亮相以來,全球的安全專業人員都在預測,使用大型語言模型 (LLMs) 來撰寫釣魚郵件的危害。事實上,這只是開始,生成式人工智慧將以各種方式成為威脅的增強器。我們認為,釣魚攻擊的真正瓶頸不是惡意鏈接的初始點擊,而是追求經濟利益,受害者被攻擊的次數遠比我們可能想像的更多更複雜。

以下的威脅預測,我們將針對在攻擊者可以利用LLMs的超大型深度學習的一些具體方式下,將展開的行動。

預測 1:生成式人工智慧將與釣魚受害者對話

受益於生成式人工智慧,攻擊者透過社交工程學手段欺騙用戶,模擬特定人物或情境,他們讓詐騙者與受害者的溝通,聽起來更具說服力。F5安全情報中心研究發現,生成式語言模型(LLMs)將接管詐騙者和受害者之間的來回對話,組織犯罪團體把LLMs當作支援中心,直接翻譯被攻擊者使用的非母語,並以真實的模擬對話回應,無需招募更多的詐騙人。同時,它還會利用公開可得的個人資料,建立極為逼真的詐騙行為,進而提高社交工程攻擊的成功率。

這將使傳統釣魚網路攻擊在規模和效率上都有了巨大的轉變,生成式人工智慧的使用,也不僅限於製作最初的電子郵件誘餌。

預測 2:使用生成式人工智慧進行虛假資訊宣傳與製作虛假帳戶

生成式人工智慧工具在不久的將來將顯著改變惡意資訊操作的方式,包括建立虛假內容、自動生成的虛假訊息、有針對性的活動誤導以及規避內容審核。F5研究報告觀察發現,小規模的影響是在全球當今的國家衝突中,生成式人工智慧產出的圖像,已經被國家和非國家行為者散播,以獲得對其一方的支持。在更大的範圍使用上,我們預計在2024年包括美國總統選舉和巴黎奧運會等重大世界事件之前,將會有不同的行為者利用這種技術。

同時,AI還可用於創建虛假內容,包括圖像和文字,以製作難以區分真實人類內容的虛假帳戶。這將擴展到利用AI進行政治虛假信息,並在組織犯罪中用於製造虛假帳戶以實施詐騙、憑證填充、虛假訊息和市場操縱等攻擊策略。在無需成本的情況下,生產力無法想像。

預測 3:網路攻擊將使用生成式人工智慧的即時輸入

網路攻擊將採用生成式人工智慧的即時輸入。這種做法可能會引入新的漏洞,原因在於使用人工智慧的即時輸入,讓攻擊者能夠根據防禦措施做出即時反應。生成式人工智慧可能會在攻擊中動態地調整程序序列,以應對防禦策略,這可能創造出新的攻擊向量或漏洞,使得現有的安全防護措施變得無法立即應對,從而增加了系統的弱點。不久的將來,可以預期LLMs將使攻擊鏈多樣化,對我們構成威脅。

預測 4LLM運作的不透明性洩漏隱憂

生成式人工智慧(例如大型語言模型 - LLMs)在其運作中的不可預測性和不透明性是很大的潛在問題,在難以準確預測其生成的內容或行為,這使得可能導致出現意外結果,包括未預期的錯誤或泄漏,也使得安全、隱私以及治理/合規性團隊執行任務時變得更複雜。我們預測將會看到一些由生成式人工智慧驅動的工具的驚人失敗,例如大規模的個人資料的外洩、未經授權的存取新技術,以及DDoS攻擊。這種不透明性增加了管理、監督和調整生成式AI應用的難度與隱憂,特別是在需要確保安全性、隱私和合規性的情境下。

預測 5:速度凌駕安全導致生成式漏洞

生成式人工智慧(GenAI)也造就 ”生成式代碼助理” 應運而生,當大家沉浸於高速、效率的代碼生成協助時,如果缺乏適當的防護機制,使得開發人員在短時間內難以進行全面的審查,,可能會錯過潛在的漏洞或安全問題,導致生成的代碼存在風險。此外,大型語言模型(LLM)只能根據現有建構時間,它可能無法掌握最新的漏洞訊息,這可能導致生成的代碼中未考慮到最新的安全漏洞,使得生成的代碼容易受到已知漏洞的攻擊。

在生成式人工智慧時代,將速度置於安全性之上的組織,將不可避免地引入新的漏洞。架構複雜性也將使安全防護變得更棘手,系統和安全架構的各種變化,以及對代碼安全性缺乏全面考慮和審查。將導致生成的代碼存在著各種潛在的安全風險。

預測 6:邊緣將成為主要攻擊面

邊緣運算涉及多種複雜的軟體和應用,以及與邊緣設備通訊的API,在邊緣運算中,資料處理分散在不同的邊緣設備,而不是集中在傳統的資料中心。這使得攻擊者有更多的目標點,可以試圖利用分散的邊緣系統進行攻擊,從而形成更大的攻擊面。

邊緣運算的崛起將驅動攻擊面的劇增,75% 企業的資料將在傳統資料中心或在雲端生成和處理,這種模式重新定義了組織的邊界。邊緣的工作負載可能包含敏感資訊和特權,由於其分散性、硬體接觸風險、管理複雜性以及軟體和API漏洞的存在,這使得攻擊者在邊緣系統中找到攻擊點的可能性增加,這就是為什麼Shahn預測邊緣運算將成為主要攻擊面的原因。。

預測 7:攻擊者將提升其利用「生存於陸地」(Living off the Land)的能力

Living off the Land" (LOTL) 是指攻擊者利用受害系統上,已經存在的合法工具和軟體來實施攻擊,而不是依賴於外部的惡意軟體。F5解決方案架構師Kieron Shepard預測,面對日益增長的架構複雜性,更多攻擊者將利用我們的工具來進行攻擊。IT環境的不斷增長,特別是在雲和混合架構中,使得監控和檢測生存於陸地攻擊變得更加具有挑戰性。

LOTL技術可以被納入供應鏈攻擊,進而影響整個系統的安全性,以破壞關鍵基礎設施並干擾營運。由於攻擊者使用已存在的合法工具,攻擊活動通常更加低調,攻擊活動更難被傳統的防禦機制所檢測。透過網路中提高可視性,是預防攻擊者達到他們的攻擊目的的方法之一。

熱門新聞

Advertisement