AI造假影片為害日益氾濫,微軟和臉書共同發起名為Deepfake Detection Challenge大賽,以總獎金上千萬美元鼓勵辨識Deepfake影片的技術開發。

Deepfake影片是以人工智慧(AI)技術將名人臉部和色情片主角或其他人的嘴形或身體移花接木,製作造假影片,達成惡作劇或毁謗目的。

大會表示,愈來愈多極端人士製作Deepfake影片來製造假新聞、煽動群眾或激化衝突。另一方面,這類技術快速演進,使偵測愈形困難。現在沒有一家公司能單憑一己之力解決這些問題,Deepfake Detection Challenge即希望邀集各方好手打造能供大家辨識造假影片的技術,主辦者包括臉書、微軟、康乃爾、牛津、馬里蘭、加州大學柏克萊分校、紐約市立大學阿巴尼分校、麻省理工學院、及社區大學(College Park)市。

這項大賽預計從2019年10月舉行到2020年3月。臉書會和外部廠商合作以AI技術將一些真實影片加工製作出一批Deepfake影片,供參賽AI模型偵測。參賽者上傳的模型最後由大會的測試團隊評選出最優秀的模型。臉書強調這些真實影片都是經過授權取得,且未動用到臉書用戶的影片。

單單臉書即捐贈1000多萬元贊助這項大賽。臉書本身也會加入競賽,但不會參與角逐獎金。

臉書會在今年稍晚公佈比賽規則、競賽獎金及開放影片資料的授權。

臉書不但是許多假影片上傳的平台,自己也深受其害。今年IG上流傳一則造假臉書執行長祖克柏(Mark Zuckerberg)的影片,片中假的祖克柏聲稱自己擁有數百萬人的被竊資料、祕密,也掌握了這些人的未來。


Advertisement

更多 iThome相關內容