示意圖,Photo by Kon Karampelas on unsplash

一度認為AI過濾不當影片內容成效驚人的YouTube,近日對媒體表示,將重新引入審查內容的人員,原因是有過高比例合規的影片遭AI誤判下架。

YouTube於2017年6月首度引進人工智慧(AI)協助檢視與標註違規影片,並指出導入AI後成效卓著,同年最後3個月AI已為YouTube移除了超過800萬則違規影片。今年3月隨著Google員工被迫在家上班,YouTube決定擴大AI應用,由AI負責下架影片。

YouTube 上個月指出從今年4到6月,一共有1,140萬則影片被下架,其中1,085萬則是由AI標註並移除。

不過YouTube產品長Neal Mohan上周對英國金融時報(Financial Times)表示,將再把人員調來審查影片。原因是AI誤判率太高。上一季下架的1,100多萬則中,有32萬則接獲作者的申訴,其中近半經審查後重新上架。

例如一個粉絲上看1200萬的YouTuber 9月初抱怨YouTube封鎖了他的頻道,顯然AI不只下架單則影片,也能封鎖整個頻道。YouTube隨後也對「執法過當」(over-enforcement)道歉,並將影片重新上架。

The Verge指出,這個誤判率是人工審查的近2倍,顯示AI審查過於嚴苛。

Mohan 指出,YouTube原本也知道AI準確度不如人類,但在疫情開始前他們仍然決定為了保護使用者而願意犯錯,即使他們的下架率比人工審查來得高。調回審查人員後,他說尤其是在仇恨言論、醫療假消息或騷擾上,人類比較能判別細微的差別。

五月時The Verge也發現,只要YouTube用戶留言中包含「五毛」、「共匪」等批評中國政府的詞彙,就會被立即自動刪除,引發懷疑是言論檢肅,但YouTube表示應該是系統錯誤所致。

除了YouTube,微軟年中使用AI編輯取代人類來產製新聞報導,也發生認錯人、配錯圖的問題。


Advertisement

更多 iThome相關內容