一份由歐洲刑警組織 (Europol)、聯合國區域犯罪與司法研究院 (UNICRI) 及全球網路資安解決方案領導廠商趨勢科技 (東京證券交易所股票代碼:4704) 共同製作的研究報告在今天正式出爐,內容揭露了歹徒如何利用今日的人工智慧 (AI) 技術來犯罪,並預測其未來的可能發展。該報告點出了今日及未來一些可能運用 AI 技術的網路攻擊,並提供相關建議給執法人員、政策制定單位以及其他機構知道該如何降低這類風險。

Europol 網路犯罪中心主任 Edvardas Šileris 表示:「AI 為世界提升了效率、自動化與自主性。然而隨著大眾對 AI 遭到濫用的疑慮不斷升高,我們有必要公開揭露這些威脅,也應探討 AI 技術的一些發展潛力。這份報告不僅有助於我們預測 AI 可能會如何遭到濫用,也有助於我們主動防範並降低這些威脅,如此才能真正釋放 AI 的潛力,讓 AI 系統發揮正面影響力。」

這份報告的結論指出,AI 既是網路犯罪集團的攻擊手法,也是攻擊目標。雖然 Deepfake 是目前最為人熟知的 AI 攻擊手法,但也警告我們未來需要新的過濾技術來防範假訊息攻擊與網路勒索的風險,並防範專門以 AI 資料為目標的攻擊。

AI 可能遭歹徒利用的方式包括:

  • 製造難辨真偽的大規模社交工程攻擊。

  • 開發文件內容辨識惡意程式以提升攻擊效率。

  • 躲避影像辨識與語音生物辨識技術。

  • 勒索病毒攻擊,利用人工智慧來篩選攻擊目標並躲避偵測。

  • 資料汙染,發掘偵測規則中的盲點。

UNICRI 人工智慧與機器人中心主任 Irakli Beridze 指出:「隨著 AI 應用程式開始對真實世界發揮重大影響,很顯然地,它將成為我們未來的一項技術基礎。然而,如同 AI 對人類社會的貢獻具體而真實一樣,其遭到歹徒不肖濫用的威脅也同樣存在。我們很榮幸能與 Europol 及趨勢科技合作,共同揭露 AI 的黑暗面,希望能藉此發揮拋磚引玉的效果,激發更多關於這項重大議題的討論。」

除此之外,這份報告也警告:歹徒正在開發一些 AI系統來提升惡意程式的成效,並干擾惡意程式防護與臉部辨識系統的運作。

趨勢科技前瞻威脅研究 (Forward-looking Threat Research,FTR) 團隊總監 Martin Roesler 表示:「網路犯罪集團一直都是最新技術的率先採用者,AI 技術也不例外。正如這份報告所指出,AI 已經被用於猜測密碼、破解 CAPTCHA 認證、複製人類語音,以及其他眾多開發當中的非法技術。我們很榮幸能與 Europol 及 UNICRI 攜手合作,共同提升大眾對這些威脅的認知,為人類打造一個更安全的數位未來。」

以下是三家機構在結論中所提供的幾項建議:

  • 發揮 AI 的潛力,讓它成為打擊犯罪的工具,也讓網路資安產業與執法機關跟上時代洪流。

  • 藉由持續不斷的研究來激發更多防禦技術的發展。

  • 提倡並發展安全的 AI 設計架構。

  • 減少政治口水,讓 AI 應用於網路資安用途。

  • 透過公私部門合作來建立跨領域專家群組。

有關該研究的完整內容請參閱此處:

https://www.trendmicro.com/vinfo/us/security/news/cybercrime-and-digital-threats/exploiting-ai-how-cybercriminals-misuse-abuse-ai-and-ml

關於 Europol 的歐洲網路犯罪中心 (EC3)

Europol 於 2013 年成立歐洲網路犯罪中心 (European Cybercrime Centre,EC3) 來強化歐盟在網路犯罪領域的執法力道以保障歐洲人民、企業及政府機關安全,免於網路犯罪的危害。我們的工作重點是歐盟境內那些獲利龐大 (如網路詐騙)、嚴重傷害受害人 (如網路兒童性剝削) 或是破壞重大基礎建設與資訊系統的組織性網路犯罪,包括網路攻擊在內。Europol EC3 自成立以來即一直為打擊網路犯罪而做出重大貢獻,參與了數百起重要行動、支援了數百次就地營運部署,並協助破獲了數百件犯罪案例。https://www.europol.europa.eu/about-europol/european-cybercrime-centre-ec3

關於 UNICRI

聯合國區域犯罪與司法研究院 (UNICRI) 成立於 1968 年,該機構致力在其廣大轄區內藉由各種研究、教育訓練、田野調查以及資訊的蒐集、交換與傳播來做出貢獻。促進犯罪防治、司法與新興資安威脅政策的提升與落實,並適度地將這些政策納入更大的政策之下,帶動社會與經濟的變革與發展,達成捍衛人權的目標。

2017 年,UNICRI 在荷蘭海牙 (Hague) 成立了人工智慧與機器人中心 (Centre for Artificial Intelligence and Robotics),努力提升人類對人工智慧、機器人與相關技術之於犯罪防治、司法、法治及安全領域的了解。目的是要分享這些技術在良性應用上的潛力,協助消除任何不良影響與不肖用途。www.unicri.it

關於趨勢科技

趨勢科技為網路資安解決方案全球領導廠商,致力建立一個安全的資訊交換世界。趨勢科技憑著 30 多年的資安專業經驗、全球威脅情報與持續不斷的創新,為企業機構、政府機關以及一般消費者提供從雲端工作負載、端點、電子郵件到 IIoT 及網路環環相扣的資安解決方案。我們的 XGen™ 防護策略為我們的解決方案提供跨世代融合的威脅防禦技巧,針對各種主流環境而最佳化,運用共享的威脅情報,提供更優質、更快速的防護。趨勢科技全球共超過 6,700 名員工,遍及 65 個國家,並擁有全世界最先進的全球威脅研究及情報,是企業保護連網環境的最佳夥伴。如需更多資訊,請至:www.trendmicro.com


Advertisement

更多 iThome相關內容