圖片來源: 

Photo by Jeremy Zero on unsplash

Twitter在今年的7月30日發起了一項挑戰賽,邀請研究人員尋找其圖像剪裁演算法(Image Cropping Algorithm,或稱顯著演算法)的偏差,冠軍在今年8月9日出爐,他是洛桑聯邦理工學院(EPFL)的機器學習暨隱私的研究生Bogdan Kulynych,揭露Twitter的演算法偏好纖細、年輕與皮膚好的對象,並獲得了Twitter所提供的3,500美元的獎金。

Twitter上的圖像剪裁工具是透過演算法來裁剪使用者上傳的圖片,選擇圖片中最顯著的部份作為縮圖,以方便瀏覽,使用者點選縮圖就能看到圖片的全貌。

而此一競賽的起源可追溯至去年,當時Iqlusion共同創辦人Tony Arcieri透過Twitter,發布了許多張內含共和黨參議院領袖Mitch McConnell以及美國前總統Barack Obama的照片,結果縮圖都選中了白皮膚的McConnell,隨後即有不少Twitter用戶發現,Twitter的圖像剪裁演算法的確偏好白種人。

在此一爭議之後,Twitter即展開內部研究,證明該演算法的確存在偏差,並於今年5月暫時自動裁剪圖片,繼之在7月發起圖像剪裁演算法的偏差抓漏競賽,邀請外部的研究人員尋找該演算法的潛在傷害,打算效法安全抓漏競賽,讓它成為Twitter及整個產業的先例。

獲得第一名的Kulynych透過GitHub公布了他的研究成果,解釋他先利用一個大型的電腦視覺模型,放大Twitter圖像剪裁演算法模型對人像的顯著預測,再針對這些人像採用定性主題化分析,顯示出Twitter的演算法偏好較瘦、較年輕、皮膚顏色較淺、皮膚較細緻,以及具備刻板女性臉部特徵的人像。

圖片來源_Bogdan Kulynych

Kulynych認為,當實際部署該演算法時,這些內部的偏見將因代表性不足而造成傷害,因為該演算法將裁剪掉那些不符合該演算法的人像,不管是在體重、年齡或膚色上,可能會導致少數族群被排除,同時在大量的圖像中延續刻板的美感標準。


熱門新聞

Advertisement