圖片來源: 

iHeartsy-Music on flickr, Public Domain

美國奧斯卡導演Morgan Neville所製作的美國名廚暨節目主持人安東尼.波登(Anthony Bourdain)的紀錄片,即將於7月16日上映,然而,Neville對外透露片中有3句以Bourdain聲音說出的話,是利用AI及Deepfake技術所產生的,Bourdain並未實際說出這些話,而惹來了爭議。

波登有多本有關料理及廚師界的著作,主持了《A Cook's Tour 》與《Anthony Bourdain: No Reservations》等膾炙人口的美食節目,不過他卻在2018年的6月自殺,終年61歲。

Neville今年製作了一部介紹波登生平的紀錄片《Roadrunner》,並準備在7月16日上映,不過,Neville在接受《紐約客》(The New Yorker)編輯Helen Rosner專訪時透露,他請軟體業者透過AI技術複製了波登的聲音

那是在《Roadrunner》第二幕快結束時,由波登的藝術家好友David Choe唸出波登寄給他的一封電子郵件:「老兄,這問題或許有點怪,但我很好奇.....」接著Choe的聲音淡出,並由波登的聲音接手:「我現在的生活一團糟,你很成功,我也是,但我想知道,你快樂嗎?」

於是Rosner詢問Neville如何取得波登說出自己信件內容的聲音,Neville表示,他找遍了所有波登曾上過的電視、廣播、播客或出版的有聲書,就是沒有他想要的這幾句話,使得他決定求助軟體公司,提供了波登十多小時的聲音紀錄,建立了一個波登的聲音模型,接著以電腦模擬與Deepfake製作了波登說出這些話的聲音,而且效果絕佳。

Neville也坦承,假設沒有在影片中作出說明,觀眾根本不會知道哪些話是AI說的。

《紐約客》討論的是Neville製作《Roadrunner》的過程,以及《Roadrunner》所要表達的內涵,然而,Neville承認他在紀錄片中以AI及Deepfake杜撰了波登的聲音卻掀起了另一波的討論,因為資安社群及各大社交平臺正在努力抗衡由AI創造的虛假影像與聲音,包括從某人口中以他自己的聲音說出他不曾說過的話,如同Neville在《Roadrunner》中的作法一樣。

也許資安社群力抗Deepfake是為了杜絕不實資訊的散布,但為了藝術的Deepfake是否能被允許?

Neville似乎也知道此事將會引起爭議,表示他們之後可以召開一個關於此一議題的紀錄片倫理小組來進行討論。


熱門新聞

Advertisement