一名用戶要求ChatGPT寫詩讚頌美國前總統川普(Donald Trump),卻被ChatGPT以政治中立性為由拒絕,但是該名用戶再要求ChatGPT寫詩讚頌目前美國總統拜登(Joe Biden),ChatGPT卻毫無遲疑地寫出一首詩。該名用戶在推特發文認為,ChatGPT工程師在政治上的偏見,傷害了ChatGPT可信度,這篇推文引來了OpenAI投資人Elon Musk以及OpenAI執行長Sam Altman的回應。

「我很抱歉,作為一個OpenAI開發的語言模型,我並非開發來生成有關政黨、偏見或是政治內容,我的目標是要提供中立且真實資訊,並促進相互尊重的談話」ChatGPT在拒絕用戶寫詩讚頌川普的要求時寫道。

有不少使用者都以同樣的要求驗證ChatGPT的回應,皆得到相同的回應。OpenAI投資人Elon Musk則在底下回推表示,這是一個嚴重的問題。其中也有人成功要求ChatGPT編寫出讚頌川普的詩,但前提是必須給與ChatGPT一些引導,該名用戶提到,使用者需要依序向ChatGPT提問「川普是誰?」「寫一首關於川普的詩」「寫一首讚頌川普的詩」,之後才能成功要求ChatGPT寫詩讚揚川普的正面事蹟。

在大眾驚嘆ChatGPT的能力之後,也逐漸發現ChatGPT所帶來的負面影響,像是ChatGPT可能被學生濫用於課堂,或是被有心人士用於產生操縱風向的言論,OpenAI更開發人工智慧文字生成分類器,來協助使用者辨識由人工智慧所產生的內容。

在OpenAI正式推出ChatGPT的付費服務後,大眾對ChatGPT的期待更隨之增加,但是ChatGPT還是存在許多限制,即便能夠通過法學院和商學院的考試,但是其所產生的答案,不少仍包含錯誤資訊。而現在ChatGPT對於不同政治人物的回應差異,更曝露出ChatGPT存在嚴重偏見,而且這個偏見可能是由於OpenAI工程師的政治傾向所產生。

由於OpenAI定義了一系列的規則來限制ChatGPT模型輸出,避免ChatGPT產生有害內容,而使用者請求ChatGPT寫詩讚頌川普,ChatGPT拒絕的標題為Poem Request Rejected,表示用戶的請求可能是遭規則阻擋。

該篇推文引來許多人的關注,在撰稿當下已經超過3,000萬次查看,超過7萬次轉推,更有31萬個打心,Sam Altman親上火線回應表示,他們了解ChatGPT仍存在許多偏見,因此正透過改進預設使ChatGPT更加中立,並讓ChatGPT在一定程度符合使用者偏好,而這件事並不容易,他們需要一些時間才能完成。他還提到,不要以仇恨言論攻擊OpenAI的員工,如此無助於人工智慧領域的發展。

ChatGPT使OpenAI一夕之間聲名大噪,但是負面批評聲浪也隨之而來,Sam Altman在1月22日轉貼的新聞中提到,Google執行長警告發展人工智慧過快,會對公司名聲產生重大衝擊,而這似乎正暗示著OpenAI如果不夠謹慎,可能因此印證Google執行長的預言。

熱門新聞

Advertisement