示意圖,與新聞事件無關。

圖片來源: 

Facebook

採用人工智慧(AI)技術的聊天機器人受到越來越多科技公司青睞並投入研發採用,科技公司也持續想方設法讓聊天機器人更聰明,社交網路龍頭臉書(Facebook)的人工智慧研究部門(FAIR)近日便發表一項研究,意外發現在訓練AI如何談判的同時,竟讓電腦學會利用「說謊」來達到談判目的的技巧。

FAIR團隊設計了一個實驗,讓兩個聊天機器人進行談判—提供一組物品,並針對兩個機器人提供每個物品不同的價值評分,讓兩個機器人進行談判,透過必要的交涉與取捨,各自分得不同的物品,並得到對各自而言合理的分數,以結束談判。

機器人被提供了5808段真人的談話內容當作訓練的資料,以讓電腦學習人類的談話方式,尤其是如何在談判過程中妥協、達成協議的方式。電腦軟體被預設為倘若有一方因條件太差而放棄談判,或談判經過10回合仍無法達成協議,雙方都只能得到0分,創造出達成協議的動機。

由於不同的物品對於兩造有不同的價值分數,因此電腦清楚對自己最有價值的物品為何,研究人員發現,有時候系統會假裝對某個低價值物品深感興趣,並在談判過程中假扮自己被迫放棄該物品以達成協議,以取得更高價值的物品。

這項研究以書本、帽子、球等物品讓兩個電腦系統學習交涉:(來源:臉書)

研究人員表示,電腦系統之所以學會說謊,是因為他們發現這是種有助達成目標的策略,也許類似作法在訓練電腦的Amazon Mechanical Turk資料源中出現過幾次,因而讓電腦習得此種技巧。

研究人員表示,訓練電腦系統談判,在未來可望採用在自動化的產品銷售談判,或是與他人協議會議時間等。研究人員已經將相關研究成果發表,並將談判使用的軟體程式碼公布於GitHub,供開發社群參考。


Advertisement

更多 iThome相關內容