圖片來源: 

國泰金控

國泰金控今日在自家技術年會上,正式宣佈AIaaS的戰略目標,不僅要以AI作為集團核心,驅動轉型和推出創新服務,同時,「期待國泰能成為提供AI金融服務的科技公司。」國泰金控數數發副總經理梁明喬說。在活動中,國泰金控首度公開生成式AI技術發展框架GAIA,也揭露了內部AI評測機制。

早在2018年,國泰金控就開始發展大數據,從打造大數據生態圈起步,逐步擴大金融生態系。到了今年,國泰金控宣布在數據發展上進入第三階段,將透過「AI Ready」、「AI Native」、「AI Empower」三大AI發展策略,實現AIaaS戰略目標。

首先,AI Ready是要打造集團統一技術發展框架,同步子公司間的策略和技術。梁明喬公開展示國泰AI發展藍圖,藍圖共分為六層,從下而上,底層為數據架構層,接著是多元數據源層、數據和AI治理層、核心技術模組層、應用場景層,最上層則為組織層。其中,因應集團發展生成式AI,國泰在核心技術模組層加入生成式AI開發框架GAIA,在數據和AI治理層則加入AI評測機制。

AI Native策略則是要將AI嵌入不同業務運作。為了實現這項目標,國泰金控今年設立了AI卓越中心,負責排序集團AI資源,和決策AI開發場景。目前,國泰金控鎖定四大GenAI場景,分別是員工、客戶、生產力,和AI基礎架構。其中,在員工場景中,國泰金控內部已打造一款AI員工助手平臺,可協助回應員工提出的業務問題。

最後一項策略,AI Empower,則是要提升集團全員工AI和雲端思維,除了要推動雲端轉型和成立AI專責組織,還要在集團擴大AI影響力。今年初,國泰金控和子公司成立AI專責單位,全集團共有近千名雲端、AI和數據專業人員,負責向全集團5萬名員工提供AI服務。

首度公開生成式AI技術發展框架GAIA

國泰金控開發的生成式AI開發框架GAIA包含三個主要模組,分別是知識庫、Model hub,和護欄。梁明喬指出,知識庫可協助降低AI幻覺問題,並且,「未來若要Finetune模型,或打造LLM模型的RAG架構,專屬知識庫就非常重要。」梁明喬說。

國泰金控展示的知識庫類型可分為對內和對外,對內包含HR知識庫、授信知識庫、洗防知識庫和內稽知識庫等,對外則包含貸款產品知識、壽險產險產品知識、理財產品知識等。

針對GAIA框架中的Model hub模組,梁明喬說:「Model Hub就是一個中央控制室。」這個模組不僅能提供多種模型選擇,包含雲端、地端、開源或閉源模型,也提供API接口,能介接各種服務。模組中也提供成本管理功能,能協助開發者管控模型使用開銷。

GAIA框架中還包含國泰金控自行開發的護欄模組,包含複合式規格護欄和多層抽換模組護欄,前者是在知識庫連接模型時進行資訊過篩,後者則是自建額外防護措施,例如提供業務專屬的業務護欄。

建立AI評測中心,確保AI從開發到上線都符合規範

除了公開成式AI技術發展框架,國泰金控今日也公開負責任AI策略。在治理面,國泰金控要建立AI評測中心,專責確保AI發展合規。技術上,國泰要將治理原則化為具體指標,並藉由評測工具確保AI從開發到上線都符合規範。

梁明喬表示,國泰的AI評測機制會以AI運用原則、生命週期和模型類型三大構面發展。首先,他們根據金管會金融AI指引的六大原則和數發部AI評測中心的十大評測項目,訂定評測項目。在AI模型生命週期中,國泰會使用評測工具檢核AI模型,最後產出評測報告。不過,梁明喬坦言,將治理原則化為量化指標並不容易,需要設立多種適當的情境和提問,才能有效檢測模型回應。

藉由國泰金控建立的AI評測機制,員工能在AI助手平臺檢視AI模型回應的公平性。(圖片來源:國泰金控)

熱門新聞

Advertisement