圖片來源: 

Google

媒體發現Google一項提供訓練AI模型的服務Colab,禁止使用者用它來製作Deepfake影片。

Colab全名為Colaboratory,可供學生、資料學家或是AI 研究人員在瀏覽器中編寫及執行Python程式碼,具有不必進行任何設定、輕鬆共用、免費使用 GPU的優點。對於無法負擔動輒數千美元的學生和研究人員來說,這是一項相當好用的服務。

媒體報導,知名的Deepfake影片製作網站DeepFaceLab用戶本周發現,在Colab上執行DeepFaceLab的程式時會觸發警告,表示用戶已執行不被允許的程式碼,這行為可能限縮用戶未來使用Colab的權限。不過同類型較小的網站用戶則尚未接獲類似警告。

Deepfake是利用AI技術改造特定個人頭像、說話動作或聲音,以便冒充他人,主要目的是誹謗、散布不實消息或詐騙。例如3月間烏克蘭媒體網站及電視臺遭駭,以散布deepfake影片,冒充烏克蘭總統要求烏國軍隊棄械投降。本月網路上也流傳冒用馬斯克(Elon Musk)等科技界名人身分的Deepfake影片,以推銷一個加密貨幣交易的詐騙平臺。

不過不確定Google是為了道德理由、或防範濫用資源考量才禁止deepfake影片製作。Google Collab另外禁止的行為包括:使用遠端桌面或連結遠端代理伺服器、採礦、執行DDoS攻擊、破解密碼、或下載Torrent影片或點對點(P2P)檔案分享等。


熱門新聞

Advertisement