示意圖,與新聞事件無關。

圖片來源: 

Google

隨著人工智慧(AI)發展,也許有一天,整個或部份人類社會運作會由AI控制。科學家現在的疑問是,當AI碰上另一個AI會發生什麼情況?他們會彼此合作,還是互相廝殺? 

Google旗下的AI事業部門DeepMind日前公佈一項研究,即試圖解答這個疑問。這項研究旨在了解,在不同社會困境下AI彼此之間會發展出什麼行為。

其中一項最有名的社會困境是囚徒困境(prisoner’s dilemma),兩名同夥的嫌疑犯被分開審問,不得相互溝通,嫌犯只要供出同伴就能立即獲釋。理論上這個困境的結果是,團體中個人可因為自私行為而獲益,但如果大家都採取自私行為,就會所有人皆輸。 

在實驗中,DeepMind團隊設計了二個遊戲讓兩個AI系統進行競賽。其中一個是撿蘋果比賽,比賽中,玩家可以以雷射射對方使其暫時消失,則它就能獲得較多撿蘋果的時間。第二項是狼群遊戲,兩位玩家要在重重障礙環境下抓住AI獵物。抓到獵物時不只有抓住的那位,所有在旁邊的玩家都能得分。 

研究人員發現,在不同情境下,AI有時會產生合作行為,有時會相互對抗或競爭。例如在撿蘋果比賽中,如果蘋果還很多,兩個AI玩家就相安無事。但隨著蘋果愈來愈少,AI彼此射擊的頻率就逐漸升高。而如果研究人員為其中一個AI加入更大運算資源,即使之「更聰明」,則不論蘋果多寡它的行為都呈現較高攻擊性。 

但這並不表示AI一定會發展出競爭行為。研究人員認為,攻擊他人這種行為本身就相當耗運算資源,如果在算計或攻擊上投入太多心力(或運算資源)就會減少撿蘋果的時間。也就是說,AI是權衡過,競爭能讓它拿到較多蘋果才會攻擊對方。反之,如果不會因此拿到比較多蘋果,它就會和他人與合作。 

而在第二項比賽中,合作能讓大家都得分,而研究中的AI愈聰明,它們彼此合作的機率會大於較不聰明的AI。研究人員認為,這是因為和他人合作,並設計圍捕獵物需要較多智慧(或運算資源)。 

研究人員結論,在不同情況下,AI會發展出競爭或是合作的行為,而AI所屬的遊戲規則則扮演相當關鍵性的角色。研究人員指出,透過這項研究,更能有助於了解在多行為者的複雜系統下,如經濟、交通或環境生態的行為控制,這些都仰賴人類的長期合作。


Advertisement

更多 iThome相關內容