由科技鉅子馬斯克(Elon Musk)支持的非營利組織Open AI,近期公佈的AI文字產生器GPT2,由於可產生幾近真人撰寫的假新聞,引發極大爭議,OpenAI決定不釋出訓練好的模型,只公開一小部份模型和範例。

GPT2以近40 gigabyte的網頁文字訓練而成,旨在使其具備預測下一個文字的能力。研究團隊宣稱GPT2產生的文字可因應前後文的風格和內容,使用者只要餵給它一段文字,這個AI系統就能產生任意主題「逼真而有條理的文句」。

根據英國媒體《衛報》(The Guardian)公佈的一段測試影片,編輯輸入一句關於英國脫歐的不完整句子,GPT2即可立刻產生一段完整段落。另外,若餵給它喬治歐威爾的《1984》小說裏的第一句「It was a bright cold day in April, and the clocks were striking thirteen」,它立刻辨識出文字的未來科幻小說風格,而能接續相應的故事。該報認為GPT2產生的句子,幾乎未顯露過去AI系統前後語意不一致或語法錯誤的問題。

雖然也有人指出GPT2只是從網路上抓來文字拼湊而成還算有條理的文字,但是許多人認為,GPT2已經顯示AI仿真能力的成熟技術,擔心這個AI系統會被拿來製造一般人無法辨識的假新聞,並稱之為「文字版的deepfake」。Deepfake是專指利用AI將名人嘴形、臉部與色情或他人影片移花接木,以遂惡作劇或栽贓嫁禍的目的的影片。

OpenAI隨後表示,由於考量這項技術可能遭惡意使用,像是生產誤導性的文字、冒充他人的網路身份、或是在社群網站散佈假新聞、自動生產垃圾及釣魚內容等,OpenAI將不會釋出訓練好的模型,但秉持負責任揭露的原則,他們將釋出相對小許多的模型、範例和技術白皮書提供外部研究人員實驗之用。

但也有人批評OpenAI將研究隱藏不完全公開的做法,與其組織名稱意義背道而馳。

馬斯克本人倒是對此撇清關係,他在推持上表示他已經一年多未涉入OpenAI的運作,也沒有行政管理或董事會監督的身份。

AI技術進步已經反映在寫新聞、作畫翻譯及說話等創作領域上,引發倫理和道德的爭議。去年Google在I/O大會上展示擬真人聲系統Duplex以超逼真的聲音打電話訂位招致批評,迫使Google宣佈未來測試時,將主動表明是機器人的身份。


Advertisement

更多 iThome相關內容