Google AI聊天機器人Gemini因近日多起在產製歷史人物圖像生成時,發生種族方面的錯誤,Google已暫時關閉其人物圖像生成功能。
Google稍早透過X官方帳號表示,團隊正在解決近日Gemini圖像生成功能的問題。為此該公司將暫停人物圖像生成功能,很快會再重新推出改善版本。
此事是發生在用戶本周利用由Bard改名後的Gemini生成人物圖像的功能。但不少用戶發現Gemini生成的一些人物圖像有離譜錯誤,而歷史人物圖片上特別明顯,例如生成非裔的美國開國元勛、看起來不像Larry Page及Sergey Brin的Google創辦人,以及亞洲臉孔的納粹軍官、非裔天主教教宗等。顯然用以設計Gemini生成內容的平等、多元化原則套用在歷史人物上並不完全適用。
Google昨日已獲報Gemini產生歷史人物圖像發生不精確的問題。Google坦承Gemini的AI圖像生成功能的確產出各種人物,通常這是好事,因為使用者來自世界各地,但此時卻有點尷尬。
Gemini產品經理Jack Krawczyk在稍早的X貼文上指出(現已刪除),Google設計Gemini的圖像生成功能乃為了反映其全球使用者組成結構。
這不是生成式AI第一次出現圖片爭議。去年Midjourney的免費版AI圖片生成服務被人濫用生成天主教教宗方濟各(Pope Francis)穿著貌似知名品牌的外套,脖子上還掛著十字架項鍊。微軟的圖片AI生成工具也被用來產生知名藝人Taylor Swift的不雅照,但微軟隨後修正這項問題。
由於出錯容易引發爭議甚至當局介入,主要業者從OpenAI到微軟、Google、Meta等任何圖片或影片AI生成服務上線前,都會設下使用限制並找來專業團隊執行攻擊演練,防止濫用。
熱門新聞
2024-10-11
2024-10-13
2024-10-11
2024-10-11
2024-10-11
2024-10-12