有了網際網路與Facebook、Line等社群平台的推波助瀾,五花八門的不實訊息傳播迅速,內容農場與網路謠言處處可見。近年來,伴隨著AI合成技術的發展,不斷衍生出新型態的各式詐騙與不實訊息,尤其在COVID-19疫情衝擊與推波助瀾下,與疫苗、健康、養生相關的假消息更是層出不窮,不實訊息的影響無遠弗屆。

資策會數位服務創新研究所(服創所)與資安科技研究所(資安所)在經濟部技術處科技專案計畫的支持下,多年深耕AI鑑識技術的研發,旗下「不實訊息快篩平台」除了輔助大量不實訊息的快速彙整與過濾、建立查核知識資料庫,藉以加速假消息的發掘與澄清。今年更以「AI鑑識技術與台灣不實訊息聯防體系技術」勇奪美國 R&D 100 Awards全球百大科技研發與企業社會責任特殊貢獻兩項大獎。

因應激烈的全球市場競爭與產業結構變遷,經濟部技術處格外重視產業技術的創新與研發,大力支持法人發展資安關鍵技術,以協助企業提升競爭優勢。故而委託資策會投入AI信任鑑識技術的研發,並整合在地產學研多方能量、進行國際技術交流與合作,透過偵測、濾除、追蹤、鑑別、解析等核心技術,發展出能有效處理各類型不實訊生成、傳播、重製及攻擊等過程的快篩技術平台,希望透過創新科技能量來導正各種假消息漫天亂傳、數位詐騙四處橫行的現況。

複合性假消息日益嚴重,AI鑑識技術在數位行銷與資安應用商機可期

跨頻道、跨資料型態的「不實訊息快篩平台」迅速而即時的匯集大量疑似謠言的訊息,融合深度自然語言處理(NLP)、異質資料交叉比對與社群數據擴增等技術,先將格式不同、但內容相近的可疑訊息自動化分群,再與事實資料庫比對後,透過建構快篩儀表板來提供查核人員對新訊息即時觀測。

作為繁體中文鑑識技術的先驅者,資策會服創所組長陳棅易博士表示,以事實查核的篩選、檢視與驗證流程的自動化技術為基礎,將更積極與產官學各研究單位合作,綜括並深入各種文字、語音、圖片、影片等不同領域的辨識技術,形成一個整合式的多模態不實訊息鑑識技術與解決方案,未來也希望有更多的企業與資安業者一同加入這個不實訊息查核與數位信任鑑識生態系。

查克佬Check It Out!,事實查核專家、全民起動起來

謠言止於智者。有鑑於網路謠言的猖獗,資策會將「不實訊息快篩平台」的關鍵技術擷取出來,開發出Chrome擴充功能「查克佬Check It Out!」,提供並協助查核人員、新聞媒體業和一般大眾查詢不實訊息與評估風險的服務。

「查克佬」提供使用者一鍵回傳可疑訊息的功能,與事實查核報告資料庫進行比對之後,告知該訊息是否已經過主要事實查核組織的查證,未查證的訊息將透過風險評估技術來提出警示。一般民眾可以下載語言特徵分析報告,辨識出不實訊息經常使用的語言特徵,來培養網路謠言敏感度。

陳棅易組長指出,「查克佬」除了能夠培養並建立一般民眾的查核意識,提供民眾一個多方查證的選擇,也將持續充實AI鑑識技術的應用,期待藉此有助於形成一個全民動起來的協作環境,共同防堵不實訊息的擴散。

台灣電商規模迅速成長,違規廣告偵測系統應運而生

數位廣告無孔不入,其實,大部分美容、醫藥類等違規廣告和不實訊息擁有類似的特徵,都具備包含文字、圖像、影像、語音、網址連結等多模態的特性。像是文字中帶有宣稱療效或保證字詞,或是使用變造過的圖片,偽造名人加持或政府的許可證明等,都是不實廣告常見的元素。資策會以不實訊息鑑識技術為基礎,經過內容分析、傳播模式、溯源分析等建構出AI風險模型,發展違規/不實廣告內容的自動化偵測技術。

疫情帶動遠距商機,台灣電商規模迅速成長,資策會正積極與合作夥伴共同建置違規廣告偵測系統。未來這個平台不僅能夠提供給電商網站、社群平台、或是主管機關應用於廣告內容的自動偵測,另外也作為廠商在製作廣告內容的檢核工具,以減少違規觸法的風險。

一頁式購物廣告詐騙時有所聞,AI鑑識技術來幫忙

每個人的每段網路瀏覽足跡皆充斥著一頁式廣告,刺激民眾衝動消費,在社群平台或網路購物受騙上當的案例也時有所聞,一頁式廣告詐騙案逐年成長,民眾對於沒有揭露完整店家資訊的廣告要更加小心,仔細觀察網頁內容,像是內容魚目混珠以假亂真,金流付款機制沒有保障等。

除了已知詐騙網址的查詢,也可運用AI鑑識技術去偵測一頁式廣告的內容,找出詐騙網頁常見的特徵,像是網頁上客服或聯絡資訊是否可信,是否具備詐騙廣告的慣用字語偵測等,無獨有偶,資策會也將不實訊息快篩應用於詐騙廣告的偵測上。

AI鑑識技術再進化,企業防詐未雨綢繆

「以為真的是老闆打來要求轉出鉅額貨款的電話」,歐美已接連發生以聲音模擬成功詐騙的案例。深偽技術(Deepfake)與AI擬聲專案(Real-Time-Voice-Cloning)這類的AI合成技術已然是網路詐騙的新興利器,在遠距會議、智慧醫療、網路金融成為生活日常的同時,人臉、聲音、指紋都可以作為身分辨識與帳號登入的依據,隨之而來的資安潛在風險也越來越高。

AI合成技術的演進將是AI鑑識下一個要防範於未然的領域。陳棅易組長進一步指出,AI合成在GPU運算能力的加持下細緻度大幅演進,檢測工具勢必要跟著精進。資策會在AI合成發展初期未雨綢繆,希望結合產官學的能量快速累積彙整成一個共通的多模態資料庫。陳棅易組長最後總結,AI鑑識技術接下來將朝數位行銷與資訊安全等多元應用發展,像是提供主管機關違規查核、電商業者廣告快篩及企業防詐等更多元化的服務。


熱門新聞

Advertisement