國泰金控延續GAIA框架1.0的架構基礎下,推出了GAIA框架2.0。1.0版是生成式AI的基礎建設,到了2.0版則是為了AI代理而生的技術框架。(圖片來源/國泰金控)

「生成式AI已經從工具、助手的角色,開始邁向AI代理階段,」國泰金控副總經理暨國泰世華銀行數據長梁明喬表示,AI助手是人機協作,但AI代理則是AI主導的AI協作,最大特色是,可以理解上下文,能夠LLM來調動其他工具。所以,國泰金控延續生成式AI技術框架GAIA框架1.0的架構基礎下,推出了GAIA框架2.0。

從AI助手為主的1.0版框架,邁向AI代理的2.0版框架

梁明喬表示:「GAIA框架1.0是一套生成式AI的基礎建設,到了2.0版則是為了AI代理而生的技術框架。」2.0框架有四大特色,包括了AI代理編排框架Agent Core、提供安全可控Agent執行環境的Agent Workspace、用來支援彈性串接的Agent協定,以及一站式的AI整合市集Agent marketplace。

在今年國泰技術年會上,首度公開了國泰金控生成式AI Agent框架,也就是GAIA 2.0架構,上述四大特色就是2.0框架的四大模組,模組一是AI Agent Core,這是一套擬定AI代理和新的程式框架,涵蓋了打造AI代理時的問題定義、工作流程規畫,也可以提供工作管理、成果檢核、學習反思功能。

設計出了一款AI代理後,模組二的Agent Workspace則提供一個安全可控的環境,來執行這款AI代理。梁明喬比喻,若AI代理是一名負責特定任務的虛擬員工,模組一的用途就是這名虛擬員工的各種教育訓練,培訓完成後,Agent Workspace則可以依據權限,提供了這名虛擬員工一個專屬的辦公室。

第三個模組設負責提供AI溝通的通訊協定,換句話說,這就像是AI虛擬員工所用的一套標準化溝通語言,讓AI代理彼此可以溝通,甚至是調用各種工具。最後一個模組四,則提供了一個集中管理的元件目錄,這就像是一份虛擬同事(不同用途AI代理)的通訊錄,以及AI代理可調用的萬用工具箱。

不同於GAIA框架1.0的策略是打造一套自建的生成式AI框架,GAIA 2.0版的AI Agent框架改與許多合作夥伴協力來實現,梁明喬用一句話總結GAIA 2.0框架的目標是,「2.0框架可以用來打造出一個可以思考、合作、執行的AI團隊。」


國泰金控對AI代理的願景,涵蓋了各樣AI代理,從各種內部代理,如HR代理、風管代理、IT代理、行銷代理、法規代理、會計代理,到不同金融場景的A代理,如銀行代理、證券代理、人壽代理、產險代理,彼此溝通協作,串聯出一個提供顧客一站式金融服務的Agent生態圈。(圖片來源/國泰金控)


統一AI代理發展架構,搭配真人一鍵介入的可控執行環境

更進一步來看模組一「Agent代理核心程式框架」和模組二Agent執行的可控環境「Agent Workspace」,這兩大模組是AI代理運作最重要的配套機制。一項金融任務,可拆分成不同的子任務,交由不同功能的AI代理組成一個AI代理團隊來執行,如何定義這些不同任務的AI代理,Agent代理核心程式框架就是最重要的參考架構。

國泰金控會先梳理出Agent任務執行步驟,再依據不同的Agent任務角色來分配權限,還要結合人工監控機制,讓這一群AI代理可以自主運作但又不失控。

在Agent代理核心程式框架中,提供了一套AI代理開發模板,相關環境資源基礎配置餐,另外還有兩大類機制,一類是管理者機制(supervisor),用來確認使用者的意圖,或是可以規畫和指揮多AI代理團隊之間的協作。另一類機制是各種執行者(Worker)的模組,包括了多種不同用途的元件層級模組,像是資料庫查詢模組、解決方式設計模組,也有多種工具性的模組,如API串接模組、Web Search模組、系統操作模組等,也更低階、AI代理共用的技術模組,如工作記憶模組、情節模組、語意模組、常用程序模組等。

「為了讓國泰所有的AI代理架構能夠一致,而且可以擴展,Agent代理核心程式框架是全集團運用GAIA 2.0來發展AI代理時一定要遵守的框架。」梁明喬特別強調這件事。

設計好一款AI代理之後,接下來則由Agent Workspace模組來提供一個可控的執行環境。「這樣的環境必須獨立,與原本的系統隔離,也得做到權限最小化,還要有人為介入設計,若有問題,真人可以一鍵快速介入。」梁明喬解釋:「 我們希望AI代理可以在安全、可控又不失控的安全框架中完成任務。」

國泰金控在模組二Agent Workspace中,提供了四類機制,可用來建立每一個AI代理的執行環境。第一類是AI環境和基建元件的建立,像是OS設定、提供相關套件和相依版本、網路與儲存配置等,第二類機制是權限設計,採取最小權限原則,包括了工具存取限制、有條件開放系統權限、限定API可訪問的範圍等。

第三類機制是用來控管AI代理的工具調度能力,包括了輸入與輸出內容的過濾、異常偵測,以及工具調度的自動中斷機制。最後一類機制是即時人為介入機制,包括了AI代理運作的監控日誌,實時審查回顧,並要預先設置好人為介入的斷點機制等。AI代理一旦出現異常,這些機制可以真人即時把關,避免影響擴大。

支援主流AI代理協定,搭配自建轉接層統一安控

國泰金控想要打造的不是一隻超強的萬能AI代理,而是一個協同運作的AI代理團隊,為了讓這些AI代理之間可以彼此溝通,還需要一套共同的溝通語言,這就是模組三「AI通訊協定」要提供的能力。國泰金控希望可以讓各種AI代理彼此之間,AI代理與工具之間,可以有全集團統一的跨環境溝通方式,可以取得雙方的資訊,也等得知對方的狀態,就像是說同一種語言般的順暢溝通。

目前業界有兩大AI代理的協定,一個是Anthropic推出的MCP(模型上下文協定),讓LLM模型可以與各種工具、外部資料、第三方應用溝通。另一個是Google開源釋出的多代理人互通協定A2A協定(Agent2Agent)。

GAIA框架中模組三AI通訊協定也會支援這兩大主流協定,但是,對企業來說,只是支援主流協定還不夠,梁明喬指出,要讓它們可以溝通最重要的一點是,必須有Adapter(介接層),負責將企業內部系統的API,轉換成讓A2A或MCP協定可以溝通的形式。介接層是模組三AI Agent通訊協定中非常重要的環節,可以用來確保不同AI代理對不同系統的存取,可以有一致的安全性跟可控性。

建立集中管理的元件目錄,統一管理自製AI代理和工具

最後一個模組四是要建立一個集中管理的元件目錄(Marketplace),這就像是AI型錄,還可分為兩個部分,一個部分是各種自製AI代理的目錄,就像一份虛擬員工的同事通訊錄一樣,來註冊員工自行開發的所有AI代理,另一個部分是各樣工具的型錄,這是用來登記各種自製工具,就像一個萬用工具箱的型錄一樣,例如記憶工具、創作工具、執行工具等。

在模組二的Agent Workspace提供一個AI代理的執行環境時,也會依據這個AI代理所具備的權限,來開放這個代理可以調的元件目錄上的哪些工具,透過這個集中管理的元件目錄,不只可以管理元件基本資訊、安全和隱私、技術合規性,也可以對這些註冊到型錄上的各種元件,提供涵蓋到整個元件生命周期的管理。

AI代理不只是技術升級,而是可以重塑整個金融服務

梁明喬指出,AI代理帶來的影響,不只是技術上的升級,而是可以重塑整個金融服務,是一種全面性的創新。他用責任險報價作業為例來說明,AI代理可以如何重新定義金融場景的作業流程。

在產險中,產品責任險的報價作業非常複雜,因為責任險的種類非常多樣化,相關資料非常豐富,要對企業顧客報價,保險業務員提出報價申請後,現行報價流程,要先進行案件分流,人工風險評估後,再來計算保費,產生產險報價的文件,讓保險業務員提供給企業顧客考慮。過去這個報價作業仰賴人工評估,非常耗時。

未來,可以借助AI代理來協助,將整個產品責任險視為一項任務,可以拆解流程交由三、四隻不同功能的AI代理來協作完成,例如,當業務人員提供了投保相關資訊後,可以啟用一隻「報價決策分流Agent」,在模組二Agent Workspace提供的獨立執行環境中運作,擔任主要AI代理,分析案件需求,來規畫這一次風險評估任務的意圖,並且負責協調其他子Agent的互動。

接著,主要AI代理,透過模組三的Agent通訊協定,來調用一隻「過往風險評估Agent」,根據客戶過往紀錄來評估潛在風險,並有另一隻「外部風險評估Agent」,可以同步搜集外部資料,評估內部資料的準確性和整體案件風險,最後再調動「風險報告生成Agent」,負責整合內外部案件相關資料,來生成一份風險評估報告,並且提供風險等級建議,作為核保作業的參考。

不論是「過往風險評估Agent」、「外部風險評估Agent」、「風險報告生成Agent」等,這些都是已經註冊到模組四元件目錄中的AI代理,可以讓「報價決策分流Agent」直接調用的子代理。

「長期來看,這樣的AI代理,不是要取代核保人員,而是變成審查協作的行動夥伴。」梁明喬強調。

國泰金控的GAIA 2.0戰略藍圖,希望能發展出各種對話式的服務,能夠全天候運作的AI代理,也能提供高度個人化的代理,提供跨平臺的整合和建議,來發展各種具備主動、精準、整合能力的金融AI代理,來提升客戶體驗。

串連不同AI代理協作,發展AI代理生態圈

在技術年會中,梁明喬更揭露了國泰金控對於AI代理未來發展的願景,涵蓋了各式各樣的AI代理,像是各種內部代理,如HR代理、風管代理、IT代理、行銷代理、法規代理、會計代理,到不同金融場景的A代理,如金控代理、銀行代理、證券代理、人壽代理、產險代理等。梁明喬指出:「不同的AI代理可以彼此溝通協作,串聯出一個提供顧客一站式金融服務的Agent生態圈。」這正是國泰金控想要實現的AI代理生態圈。


 臺灣科技金融的AI力標竿 

從2020年,國泰金控第一次舉辦臺灣首次、全球少見的金融技術年會,我就在現場,現任的國泰金控科技長姚旭杰穿著牛仔褲,像是閒話家常般的分享,一場在小巨蛋旁餐館的聚會,國泰高層邀請他加入,建立一個推動數位轉型的技術團隊,也就是後來業界知名的數數發團隊。

當年國泰高層問姚旭杰,能不能將國泰變成一家不只提供金融服務的科技公司,更要擁有研發能力?這個「變身科技公司」的願景,後來成了國泰數位轉型發展藍圖的重要方向,也是國泰金控不斷擁抱新科技變革的初衷。後續,一連六年,每一年國泰金控都會舉辦技術年會,展現每一年的金融科技成果和IT技術變革,從數據戰略、雲端架構、數位轉型到開源管理。今年甚至接連舉辦了兩場技術日活動,除了技術年會之外,還多了一場未來保險體驗日的保險科技成果揭露。

過去兩年來,國泰金控全力擁抱生成式AI,去年發表了生成式AI框架GAIA 1.0,今年則更進化成了AI代理框架的GAIA 2.0。國泰金控統計,自製生成式AI NoCode開發工具,上線不到一年,就推出了35款知識型AI助手,開發與正式環境中的各式LLM模型,已經執行超過了18億個Token數量來服務各類AI專案所需。 

不只自家舉辦技術年會,國泰金控也鼓勵技術員工對外分享科技運用的成果和經驗,iThome每一年的技術研討會,都會收到很多來自國泰金控的分享投稿,光是今年開發者大會Hello World就錄取了十多位國泰技術人員的投稿分享,大多是與他們一年來生成式AI運用的經驗和成果。

國泰金在技術年會中所展現的技術實力,成了吸引頂尖IT人才的重要舞臺,許多想要在當紅科技和現代化IT環境中發揮所長的高手,可以從技術年會中找到有興趣投入的場域。

技術年會對人才的吸引力,帶動了一些企業也跟進舉辦技術年會,有的是只對內部開放的科技日,但也有對外公開的技術日,如台積電IT Day、永豐金科技年會等。

無疑,國泰金控已經成了臺灣科技金融(TechFin)的標竿企業,透過這些分享和技術年會,帶給產業,甚至是整個臺灣企業科技發展的正向技術競賽。


熱門新聞

Advertisement