今年微軟Build大會有場GAI開發工具新功能的演講,格外讓我印象深刻,再次擴大了我對GAI應用可能性的想像!講者舉了Copilot最新代理能力的三種應用場景,IT求助桌、新人上手助教和第三種「私人門房」,以第三種最讓我驚艷。
AI代理可以扮演一位私人專屬的數位門房,當你收到一封來自客戶下單買東西的Email,不用等到自己讀信,就會先觸發了AI代理Copilot。這隻AI代理,先看懂信中的「訂購」意圖,彙整信中提供的訂購資訊,建立一張新的服務訂單。查了一下CRM,發現這名顧客帳戶是熟客後,就調出他過往的訂購紀錄,也參考了過去的訂購對話,補齊更多下單需要的資訊細節,再同步比對庫存系統中的商品數量,最後,AI代理彙整了這些行動得到的資訊,將顧客來信轉成了一份真正的訂單,並產生一封訂單確認信,寄回給顧客確認細節,問對方是否滿意。一但收到對方確認無誤的回信後,AI代理就可以真正送出這份訂購單,交給出貨部門接手。
在這個過程中,原本要負責處理訂單Email的真人業務員,幾乎可以完全不用動手。AI代理以這名業務人員的身分(因為從他的筆電上,以他的帳號來行動)來閱讀信件,查詢CRM、建立新訂單、回信給顧客、送出訂單。真人業務頂多只需要在寄給顧客確認訂單之前,多看一眼(金額不高的話,甚至可以不用看)。
這個私人門房的場景,不只是業務人員訂單,只要是經常用Email溝通的辦公人員,都可以建立不同「用途」的AI代理,自動在背景處理不同類型的信件。甚至不只Email,即時通訊軟體、社群平臺等不同數位通路上,都可以設立不同的AI代理,作為來訊處理的私人門房。
今年兩大公雲巨頭,Google、微軟在年度大會上,都開始強調AI代理是GAI應用的新主流,兩家的AI開發工具也要開始支援這類應用的打造。不過,單從「AI代理可以用你的身分來採取行動」,這麼簡單的一句話,很難具體想像,有哪些實際可能的應用。這場演講提到的私人門房場景,一下子就打開了我的想像空間,各種可能的商用機會點子,不斷冒出來。
代替你的身分行事的作法,並不稀奇,企業常見的RPA腳本機器人也能做到,但是,LLM所打造的AI代理,最大的突破是能判斷人類的意圖,可以進行簡單的推理和技術,打破了過去「靠一套固定規則來行動」的RPA代理模式,才成為更具智慧的AI代理。
但是,從另一個角度來思考,若是惡意程式,變成了惡意的AI代理,那又會如何?
新亮相的AI PC,在本機端內建了NPU,微軟新的Windows Copilot Runtime也要將具備推理和理解能力的小模型SLM,內建到OS層級的函式庫中。惡意AI代理程式一旦有機會植入到AI PC上,只需呼叫本機端GAI API,就能「暗中」運用推理能力,慢慢計畫嘗試各種滲透,甚至以你的身分進入企業內部應用,竊取機敏資料。過去,只有熟諳APT技巧的資深駭客才能做到的事,隨著AI代理能力越來越強,這類惡意AI代理的威脅性,也相對比過去更高。
企業如何發現這些更懂得匿蹤、更擅長滲透的惡意AI代理,只能靠隨時觀察企業內網種種可疑行為,才能及時發現。在今年臺灣資安大會主題演講中,奧義智慧科技創辦人邱銘彰(Birdman)回顧十年資安發展,他強調:「雲端時代的戰場,不再是端點,而是各式各樣的工作流程中的身分風險。」
Birdman更歸納了資安典範的轉移,從過去以「了解敵人」的「什麼不能出現的Security典範」,現在變成了企業得「了解自己」的「什麼不該出現的Safety典範」。這一席話正點出了對抗惡意AI代理的關鍵策略。
專欄作者
熱門新聞
2024-10-05
2024-10-07
2024-10-07
2024-10-07
2024-10-07
2024-10-07
2024-10-07