圖片來源: 

Google最近的一項人事異動引發爭議,挑起了美國人種族議題的敏感神經,Google知名AI倫理學家Timnit Gebru表示遭公司報復性解僱。支援Timnit Gebru的公開抗議信指控,Timnit Gebru是Google內少數的黑人女性科學家,但受到公司以種族主義,與審查其研究等不平等對待。該抗議活動要求Google給出交代,並發起使用#ISupportTimnit,以及#BelieveBlackWomen兩個Hashtag的活動。

Timnit Gebru12月3日於推特發文提到,他被Google人工智慧主管Jeff Dean火速開除。Jeff Dean是深度學習領域的知名研究者,而Timnit Gebru則來自衣索比亞,是一位電腦科學家,專業領域是研究人工智慧的公平性,避免模型在特定情況出現偏差,解決像是人臉辨識系統,在處理黑人女性臉孔錯誤率偏高等問題,同時,Timnit Gebru也是討論黑人在人工智慧領域議題Black in AI非營利組織的共同創辦人,而在Google,Timnit Gebru是人工智慧倫理團隊的共同領導人。

Timnit Gebru在12月3日的推文提到,他的企業帳號被迅速停權,相當於立刻被開除。這項人事爭議越演越烈,Jeff Dean隨後發出了一封內部信件(現已公開)試圖給出解釋平息眾怒,Jeff Dean表示Timnit Gebru是自己表達辭職意願,他僅是尊重Timnit Gebru的決定。Jeff Dean雖解釋Timnit Gebru並非被開除,但顯然雙方認知不同,Timnit Gebru在推特上直指他是被開除的。

外媒提到,這項爭議的源頭,來自一篇稱為〈On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?〉的論文,內容寫道「事實上,大多數的語言技術,都是為滿足那些,已經在社會上享有最大特權的人們而開發」。

該論文對當前的大型語言模型提出質疑,認為這些模型過大而具有風險,在過去幾年,語言模型使用極大量的文本資料進行訓練,人工智慧所產生的文字結果,與人類的文字越來越相近,甚至能夠假以亂真。該篇論文反思人們是不是已經對這些可能面臨的風險,進行足夠的思考與了解,並且發展夠完善的策略,避免這些風險帶來的影響。

論文提到,大型語言模型所使用的方法,必須要用到極大量的資料,但因為需要的資料量太大,以至於無法對所有資料集進行紀錄與文件化。文件建置提供了潛在問責性,像是可以要求產生文本的作者負起責任,但是如果因為訓練資料太大,而無法進行紀錄與文件化,便沒有咎責對象,則無法處理已知問題,更別說要發現並解決未知問題。

該篇論文還指出了其他大型語言模型所帶來的問題,包括因為模型需要大量的資料進行訓練,因此耗能和碳足跡呈現爆炸性成長;而且大型語言模型並無法理解語言真正的含義,僅是善於操作語言,但是因為大型科技公司可以透過操作語言模型來獲利,因此大型科技公司寧可投入資源研究大型語言模型,也不研究可以理解語言的模型,或是使用更精緻的資料集,達到更好效果的方法。

最後,論文研究人員認為,大型語言模型還有一個嚴重的問題,由於模型善於模仿人類語言,即便產生錯誤的內容,也會讓人深信不疑,而因此容易對特定族群產生傷害,論文中提到,曾有因為語言被錯誤翻譯,所導致人身自由被侵害等例子。

Jeff Dean回應Timnit Gebru事件的信件提到,Timnit Gebru、Google員工以及外部合作者共同撰寫的論文,在提交前需要經過內部審查程序,這是Google的既定政策,而他們認為這篇Timnit Gebru與其他作者合著的論文,未達出版標準,審核小組認為該篇研究忽略太多相關研究,像是雖然談到大型語言模型對環境的影響,卻忽略其他研究,顯示這些模型帶來更高效率的結果,而且對語言模型具有偏見的評論,也沒有參考最近對於減輕這些偏見問題的研究。Jeff Dean還提到,Timnit Gebru在未經過審核同意就已經提交論文。

Timnit Gebru要求Jeff Dean達成數個要求,包括提供Jeff Dean與Google Research工程副總裁Megan Kacholia否決論文的討論內容,以及Jeff Dean諮詢的名單,否則就要離開公司。Jeff Dean表示,他們只是接受並且尊重Timnit Gebru的選擇,該篇論文存在一些沒有解釋的空白,他們無法就這樣掛上Google的名字。

但Timnit Gebru在其推特的系列推文提到,他沒有要辭職,但他的上司直接發送同意辭職的報告。Timnit Gebru解釋他只是開了條件,如果Jeff Dean可以達成這些條件,則他會把自己的名字從論文中拿掉,如果Jeff Dean無法,那他就會離職(原文:I can work on a last date)。

從Timnit Gebru被解僱的消息傳開以來,已經有超過1,600名Google員工,以及超過2,500名學術界人士,簽署支持Timnit Gebru的抗議信,要求Google Research高層公開論文審查過程,包括Jeff Dean與Megan Kacholia的對話過程,以及其他審查人員拒絕論文的過程,還要求Google Research對研究完整性和學術自由作出明確承諾。另外,也有不少學術界人士發起,拒絕審查Google組織出版物的行動。

熱門新聞


Advertisement