臺灣人工智慧實驗室發布FedGPT AgentTeam產品,他們也用平臺其中一項功能AgentTeam Flow來打造流程自動化,能根據雅婷逐字稿客戶帳號來查帳,縮短人工作業時間。

圖片來源: 

攝影/王若樸

臺灣人工智慧實驗室(Taiwan AI Labs)今日宣布推出代理型AI產品FedGPT AgentTeam平臺,主打多專家小模型架構、多模態、可離線執行且用語高度在地化等特色,還支援MCP協定,能整合企業內外部工具與資料,來更自動化完成作業流程。

代理AI平臺3大功能:RAG、微調、自建工作流程

進一步來說,這款FedGPT AgentTeam平臺由大型語言模型(LLM)驅動,整合了語音辨識(ASR)、文字轉語音(TTS)和影像與視覺問答(VLM)等多模態AI模型,能以低程式碼/無程式碼形式提供服務。

臺灣人工智慧實驗室創辦人杜奕瑾指出,這款產品的目的,是要將企業內部複雜流程自動化。而產品背後的模型,則是以Llama、Mistral等主流開源LLM為基礎,再以臺灣情境語料訓練,打造為適合不同產業情境的基礎模型。

比如他們有以1,000億個Token訓練出具備臺灣知識的通用模型、以150億Token優化的具備臺灣醫療專業模型,以及用10億Token訓練的臺灣金融專用模型等。

就整個FedGPT AgentTeam平臺來說,主要有3大功能,包括可以理解企業專屬知識的AgentTeam RAG、能讓員工訓練出符合專業需求大腦的AgentTeam Tuning,以及可用拖拉式建立代理工作流程的AgentTeam Flow。

臺灣人工智慧實驗室核心平臺產品總監杜長城解釋,AgentTeam RAG可用於專業知識問答,他現場示範,給FedGPT AgentTeam平臺一張特斯拉股票走勢圖,並詢問特斯拉執行長馬斯克與美國總統川普決裂的那天,特斯拉股價變化如何,AI除了根據圖中描述給出說明,也會加上圖表文字未說明的下跌百分比(如下圖)。

又或是給一張自2018年至2024年的每年度可轉債成交金額長條圖,AI可以給出詳細的趨勢解讀,包括一些年份小幅下降,但整體走勢是上漲的(如下圖)。

總的來說,AgentTeam RAG支援多格式、多來源、多模態的知識檢索與生成,能處理圖片、圖表、影片、語音、文字等非結構化資料。臺灣人工智慧實驗室補充,AgentTeam RAG也會判斷問題難易度,選擇最合適的解題方式。

再來,AgentTeam Tuning可支援企業內部專業語境,進行多模態模型微調(fine-tuning),如文字、圖表、語音、圖片等。杜長城在現場展示,一段背景音吵雜的護理錄音,若沒有以專業資料微調,模型無法給出正確的語音轉文字答案。而有了專業資料微調,就能辨識出專業術語和藥物名稱(如下圖)。這些資料也可依使用者需求,匯入到醫療資訊系統中。

另一方面,使用者也能在後臺查看,模型微調前後的差異,並測試、比較版本差異。

用AgentTeam Flow自建發文和查帳工作流程

而AgentTeam Flow是一款流程設計功能,提供低/無程式碼介面,就算沒有專業背景的企業員工,也能快速上手,自動化加速跨部門作業。

臺灣人工智慧實驗室產業方案總經理黃佳欣指出,他們自己就用這個功能,來用於公關發文作業。他現場示範,建立一套發稿工作流程(如下圖),可細分為內容生成引擎和標題創意發想兩大類。在內容生成引擎中,又可分為負責社群貼文的社群小編角色,以及產出正式新聞稿的公關專員。

首先,他們將訪談內容輸入在右側的聊天欄,FedGPT會詢問生成樣式,如社群貼文還是新聞稿,並根據需求產出相應的文章,接著也能產出候選標題。(如下圖)

另一個例子是,臺灣人工智慧實驗室打造的雅婷客服Agent工作流程。黃佳欣解釋,早年他們推出雅婷逐字稿服務,隨著客戶數增加,不少人會打電話詢問帳單資訊。通常,團隊需要手動查詢系統,輸入帳號、查詢帳單,再告知客戶。這個流程繁瑣,因此團隊決定打造Agent流程來自動化查詢。(如下圖)

他們將任務分流,包括帳號驗證、通報和轉介真人服務。由於AgentTeam Flow支援MCP協定、作為MCP Client端,能與同樣支援MCP的外部工具,比如企業協作工具Slack、Gmail等。在這個例子中,就能將通報結果串接Slack,來傳遞資訊。

臺灣人工智慧實驗室還預告,未來將支援Agent to Agent(A2A)協定,來互通AI代理的資訊、更精準完成任務。未來,平臺也會納入對更多模型的支援。

產業應用範例:金融客服訓練員

杜奕瑾指出,FedGPT模型本身具備強大的本土知識和用語。比如在臺灣認知測試中,FedGPT分數高達81.4 分(滿分 100 分),遠高於中國的千問模型(44.3 分)和 Deepseek(38.7 分),顯示模型對臺灣語境的理解和使用上有極大優勢。

FedGPT目前也已應用在不同領域,如醫療、金融、教育、公部門等,花蓮慈濟醫院、輔大醫院、東華大學、台新銀行等皆已使用。

在發表會現場,也有一家專攻金融業客服服務的廠商華厚,現場展示一套金融客服訓練員,可讓金融專員更快上手。這套金融客服訓練員背後串接不同LLM,FedGPT也在其中,能扮演顧客角色、分析專員的回答並給建議。(如下圖)

熱門新聞

Advertisement