這套系統可透過機器學習,從多數人認為的惡意評論,從中找出相似的內容。

圖片來源: 

google

Google母公司Alphabet旗下關注社會議題的孵化器Jigsaw周四宣佈了新的研發計畫,打算透過機器學習技術來找出網路上的惡意言論,簡化新聞媒體與網路平台對惡意言論的管理,希望能進而消滅網路上氾濫、散布仇恨的言論。
 
Jigsaw與Google宣布啟動Perspective計畫,透過開放API供新聞媒體與網路平台使用,協助他們找出網路服務中的「有毒」評論,進而決定要採行何種措施,例如刪除明顯惡意的言論,或是在使用者的評論正式發表前,先提醒使用者的言論內容可能涉及仇恨等。
 
Perspective採用人工智慧技術,自動學習網路上成千上萬經真人檢核員評定為惡意或有害的言論內容,進而再依據機器學習訓練所得,針對新的評論內容進行評分,隨著分析的文具內容與得到的用戶回饋增加,該系統的評定將會日益準確。
 
Jigsaw總裁Jared Cohen在官方部落格中表示,有高達72%的美國網路使用者曾經見證過網路騷擾,而親身遭到網路騷擾的人亦高達近5成,甚至有約三分之一的人會因為擔心遭到報復,而進行自我言論審查;許多仰賴讀者討論新聞時事的新聞媒體也深受不理性或明顯惡意言論困擾,讓新聞公共空間很難進行理性討論,不少媒體甚至無力負擔維護留言或論壇服務的理性程度,乾脆關掉留言功能。Cohen希望Perspective的推出能夠改善這些問題。 
 
目前已有紐約時報等媒體參與測試,Google與Jigsaw未來還打算將該服務延伸到如英國衛報、經濟學人等媒體使用。Jigsaw亦表示,並未對Perspective適用的對象設限,其他大型網路服務平台若願意使用,他們亦抱持開放態度。

 


Advertisement

更多 iThome相關內容