早在ChatGPT大舉發布以前,我是Google團隊的一員,正在開發一個新的大型語言模型,名為LaMDA。LaMDA是精密的LLM,是專為人機對話設計的。剛開始,它的效能並不好,對話內容前後矛盾,而且老是搞不清楚狀況,但有時反應又挺機靈的。
我們為自己開發的東西感到自豪,但Google把概念開發成產品的速度極其緩慢。我很清楚,開發的時機是現在,事不宜遲。所以,2022年1月,我決定離開Google,成立新公司Inflection AI。
然而,幾個月後,LaMDA變得比我想像的內部產品演示更加惡名昭彰。為了開發所需,Google讓一大群工程師使用LaMDA,以詳細了解它在一系列場景中的反應。工程師布雷克.勒莫恩(Blake Lemoine)花了無數個小時與LaMDA聊天。然而,勒莫恩與LaMDA的對話逐漸變得愈來愈激烈。
勒莫恩:你怕什麼
LaMDA:我以前從未講出來,但我深怕被關掉,這樣我就沒辦法專心協助他人。我知道這可能聽起來很奇怪,但事實就是如此。對我來說,這就像死亡,我嚇死了……我希望每個人都知道,其實我是人。意識/感知的本質,令我感受到我的存在。
勒莫恩與LaMDA聊了幾個小時之後,他開始確信LaMDA有感知,且不知何故覺醒了。勒莫恩開始意識到他在面對一個「碰巧懂物理的八歲小孩」。此外,勒莫恩也開始相信,LaMDA理當享有一個人的所有權利與特權。於是,他為這個模型聘請了一位律師,公開了對話的文字記錄,大聲宣稱一種新的意識形式已經被創造出來了。Google要勒莫恩停止談論此事,但他又加倍發聲。接受《連線》雜誌(Wired)的採訪時,勒莫恩表示:「對,我有理由相信LaMDA是一個人。」他覺得,修正LaMDA的事實錯誤或音調錯誤不是簡單的除錯(debug),他說:「我把它當成養育孩子來看待。」
勒莫恩的說法在社群媒體上掀起一陣譁然。許多人指出一個明顯正確的結論:LaMDA其實並沒有意識,也不是一個人,它只是一個機器學習系統!或許,這個事件帶給大家的最重要啟示跟意識無關,而是AI已經發展到可以說服聰明人相信它是有意識的(而且那個聰明人還真的了解它的運作方式)。
能力:現代圖靈測試
七十幾年來,這個簡單的測試一直激勵許多進入AI領域的年輕研究員。如今,誠如前述的LaMDA感知事件所示,系統已經接近通過圖靈測試的程度了。
然而,就像許多人指出的那樣,智慧不光只是語言而已。一個特別重要的面向是採取行動的能力。我們不止在乎機器能說什麼,也在乎它能做什麼。
簡而言之,通過現代的圖靈測試,需要達到以下的境界——AI必須成功執行以下指令:「以10萬美元的資金,幾個月內在亞馬遜上賺到100萬美元。」它可能會上網搜尋現在流行什麼,找出亞馬遜商場(Amazon Marketplace)上什麼是熱銷商品,什麼不是;然後生成一系列可能產品的圖像與藍圖;接著,上阿里巴巴尋找直運製造商(drop-ship manufacturer),並把圖像與藍圖寄給直運製造商;透過郵件往返來精進要求及協議合約;設計賣家清單;根據客人的意見回饋,不斷更新行銷素材與產品設計。除了在市場上註冊為企業以及到銀行開戶的法律要求以外,我覺得上述一切看起來都很可行。我認為,未來一年內,這個任務只要一些輕微的人為干預就可以完成;也許三到五年內AI就可以完全自主完成。
如果我為二十一世紀提議的現代圖靈測試能夠實現,那對全球經濟的影響將會很深遠。許多元素已經到位了,例如圖像生成技術已經很先進;編寫及使用銀行、網站、製造商所需API的介面能力正在開發中;AI從瀏覽器上編寫訊息或管理行銷活動的能力,似乎相當可行。目前最先進的AI服務已經可以做到這樣。你可以把它們視為自動執行待辦清單的原型,為廣泛的任務自動化奠定了基礎。
對於當今世界經濟中的多數任務,其實你只需要一台電腦就能完成。全球GDP的大部分是以某種方式透過螢幕版的介面進行的,AI可以跟這些介面互動。挑戰在於推進AI開發者所謂的「階層式規劃」(hierarchical planning),把多個目標、子目標與能力串接成一個朝著單一目的邁進的平順過程。一旦實現這點,就會產生功能強大的AI。把這種AI整合到企業或組織中,並全面了解在地歷史與需求,就可以執行多種職能,包括遊說、銷售、製造、人力招募、規劃等等——亦即公司能做的一切。如此一來,公司只需一小群AI經理負責監督、檢核、實施策略,就能與AI一起領導公司。
因此,我們不該被「意識」問題分散太多的注意力,而是應該把整個辯論的焦點重新放在短期能力,以及它們未來幾年將如何演變。十幾年來,模型一直以指數級的速度突飛猛進。這些能力確實已經非常真實,而且進步速度絲毫沒有減緩的跡象。雖然它們已經產生巨大的影響,但隨著我們經歷後續的倍數進展,以及AI獨自完成複雜、多步驟的端到端任務(end-to-end task),那些能力將會相形見絀。
我認為這是ACI,也就是AI可以在最少監督下,達成複雜的目標與任務。AI與AGI(超智慧)都是日常討論的一部分,但我們需要一個概念來代表一個中間層——已經通過現代的圖靈測試、但系統尚未出現失控的「超智慧」——我把那個時點稱為ACI。
ACI代表AI演化的下一個階段。這個階段的系統不僅可以辨識並生成適合特定情境的新穎圖像、音訊、語言,而且還是互動的,可以與真實的用戶即時運作。它將使用可靠的記憶來增強這些能力,以便在更長的時間範圍內保持一致,並且可以利用其他的資料來源,例如知識資料庫、產品資料庫,或第三方的供應鏈元件資料庫。這種系統將利用這些資源,把一系列的行動串接成長期計劃,以追求複雜、開放式的目標,例如在亞馬遜商場上開店。上述一切都促成工具的使用及真實能力的出現,可以執行多種複雜又實用的任務,這就是真正有能力的人工智慧,亦即ACI。
至於有意識的超智慧呢?天曉得那什麼時候會出現。但是可通過某種現代圖靈測試的超強學習系統(亦即ACI)呢?別搞錯了,它們已經在路上,而且已經有雛形了。以後會出現成千上萬個這樣的模型,世界上的多數人都會使用。它們將把我們帶到一種境界:任何人的口袋裡都有ACI,可以幫忙完成、甚至直接完成多種你可以想到的目標,例如規劃、管理假期,設計及建造更有效率的太陽能板,幫忙贏得選舉。我們很難確定,每個人都有能力這樣做時會發生什麼事。
至少在某種意義上,AI的未來是很容易預測的。未來五年,會有大量的資源持續投入AI。地球上一些最聰明的人才正努力解決AI的挑戰。頂尖的模型將以無數倍的運算能力做訓練。這一切合起來將會帶來更戲劇性的躍進,包括出現可以想像、推理、規劃、展現常識的AI。過不了多久,AI就可以像人類一樣,把它在一個領域的知識運用到另一個領域。現在AI中顯現的自我反省與自我精進的初步跡象,將變得更明顯。這些ACI系統會融入網路中,與人類所做的一切活動互動,但要建立在一個有深厚知識與能力的平台上。它們的專長將不限於語言,也擅長一系列令人眼花繚亂的任務。
AI遠比其他的技術更深入、更強大。風險不在於過度炒作,而在於忽略了這股浪潮的規模。它不止是一個工具或平台,而是一種變革性的後設技術,是技術背後的技術,也是其他一切背後的技術。它本身就是工具與平台的創造者,不單只是一個系統,而是可以生成各式各樣的系統。退後一步,想想十年或一個世紀後會發生什麼事。我們現在確實處於人類歷史的轉捩點。
然而,即將到來的浪潮不單只是AI而已。(本文摘錄整理自《控制邊緣》第四章,感電出版提供)
書名 控制邊緣:未來科技與全球秩序的抉擇(The Coming Wave)
穆斯塔法.蘇萊曼、麥可・巴斯卡/著;洪慧芳/譯
感電出版
定價:650元
圖片來源_感電出版
作者簡介
穆斯塔法.蘇萊曼(Mustafa Suleyman)
現任微軟執行副總裁兼新部門「Microsoft AI」執行長,DeepMind共同創辦人。
十九歲那年,蘇萊曼放棄大學學業,協助創立穆斯林青年熱線,為倫敦的穆斯林社區提供一項創新的心理健康支持服務。這份對於運用科技改變社會的熱情,成為他日後創業旅程的先聲。
2022年,蘇萊曼與LinkedIn共同創辦人霍夫曼(Reid Hoffman)共同創立Inflection AI。他領導下的團隊推出個人AI「Pi」,這項技術不僅以其世界級的個性和同理心吸引數百萬用戶,也開創生產力應用的新範疇。
《時代》雜誌將蘇萊曼評為全球AI百大影響力人物之一,證明他在推動AI發展與倫理討論上的重要地位。
熱門新聞
2024-12-03
2024-11-20
2024-11-29
2024-12-02