微軟5月底裁掉內部新聞編輯,希望以AI演算法取代。不過英國衛報報導,剛上路的AI編輯就出現認錯新聞人物,貼錯照片的糗事。

英國女子歌唱團體混合甜心(Little Mix)成員之一的Jade Thirlwall,上周參加英國黑人平權運動「Black Lives Matter」的抗議活動時,談及她因為有黑人血統,小時候遭遇的歧視待遇。但關於她的新聞在由MSN.com轉載刊出後,AI演算法卻辨識錯誤,而用了同為混血的團隊成員Leigh-Anne Pinnock的照片。

Thirlwall隨後透過IG抗議指出,如果MSN還要再從其他精準的新聞媒體copy and paste文章,最好也確定用對混血族裔的成員照片。

按照MSN及微軟新聞服務的作法,所有新聞內容來自合作的第三方新聞網站提供,再由微軟的編輯員工負責審稿。這批人員5月底遭到裁撤後,將由AI演算法包辦從挑選新聞、處理、改寫標題、配照片到出刊的所有工作,全自動化作業將於6月30日正式上路。

但是AI臉部辨識一直存在性別及種族偏差問題,在辨識白人男性精確度較高,但在辨識女性及少數民族、有色種族時就有很高的誤判率。在微軟裁員時就有人擔心,以機器取代人類可能導致微軟新聞服務大亂,尤其在處理暴力、色情或冒犯性內容,連人類都可能判斷出錯。

微軟表示,公司一發現錯誤,即立即解決,換掉錯誤的配圖。但對於AI演算法偏差問題,以及是否考慮回復舊制,微軟並未作出評論。


Advertisement

更多 iThome相關內容