身為國內老牌電信公司,中華電信約2萬名員工中,其中不少是中高齡的資深員工,他們正面臨一波龐大的員工退休潮,光是2023年,退休員工超過1,300人,更有4千人將在5年內屆齡退休。大量有經驗的員工退休,如何補充新血,傳承經驗是一大難題。如何提高員工生產力,成了中華電信持續成長的重要挑戰。
中華電信這幾年致力於運用科技,提升員工生產力、內部營運效率,例如5年前他們啟動新一波策略轉型,業務及組織面調整,從電信供應商角色,轉型為以客戶為中心,畫分個人家庭、企業、國際三大分公司,並整合集團資訊及技術研發資源,支援業務發展。在IT方面,也通過資訊系統改造,向現代化、雲化發展,降低成本,增加資源彈性運用,加快軟體開發、更版、部署,推出資通訊服務來迎合市場需求。
中華電信也導入數位科技來提升營運效率,由於旗下業務涵蓋行動網路、固網、寬頻上網、市話、MOD、海纜、衛星等眾多通訊業務,這些業務更擁有數百萬,甚至上千萬用戶,龐大的用戶需求帶來大量工作負擔,因此在E化、M化後,自動化、智慧化是這家老牌電信公司下階段發展的重要目標,一方面提高員工生產力,提升整體營運效率,一方面克服退休潮及新進人員可能帶來的經驗傳承不及問題。
AI就是中華電信近幾年積極導入的新科技,作為老牌電信公司,中華電信的AI發展史可以分為5個階段,第一階段從1950到1990年,以規則為基礎,從1991年到2009年開始以統計方法為基礎的大數據分析應用,2010年到2017年,中華電信開始投入發展神經網路的監督式學習,這些都是中華電信自己形容是AI 1.0的應用,舉凡運用AI模型辨識語音、文字、影像,例如語音轉文字、文字轉語音技術,還有準確辨識影像中的車牌號碼、人流、人臉辨識等等。
2017年到2021年發展語言模型,包括預訓練、參數微調,2023年則從AI 1.0向2.0發展,也就是生成式AI。
成立AI策略委員會,從AI 1.0進化到2.0
去年7月中華電信總經理林昭陽上任後,曾多次對外表示看好生成式AI的應用潛力,2023年更成立AI 2.0企業策略委會員,推動全集團的AI 2.0策略布局。
該委員會由中華電信管理高層擔任,由董事長督導,總經理擔任主委,4位總公司執行副總擔任委員,顯示集團對於GAI應用發展的重視。策略委員會底下又分為業務及技術推動兩大分組,其中技術推動組涵蓋技術、平臺、資料、治理4個小分組,業務推動組分為業務及應用兩個小分組,對內推動AI 2.0應用擴散,提升員工業務效率,內服外用,進而對外提供相關服務。
中華電信在2023年下半年設立AI 2.0企業策略委員會,啟動集團的GAI布局,該委員會由董事長督導,總經理擔任主任委員,大力推動GAI的技術、業務應用。其中技術包含治理、資料、平臺及技術,業務應用則推動內部GAI應用及外部服務。(圖片來源/中華電信)
在AI應用之前,需要先擬定原則,因此該委員會也參考國內外的相關規範,包括行政院提出的公關機關生成式AI應用規範等,訂定AI治理原則,例如透明、不可侵權、可回溯性等等,這些原則不只作為中華電信內部AI治理準則,也涵蓋提供外部客戶的AI相關服務。
中華電信執行副總經理兼技術長黃志雄認為,過去使用的辨識型AI由於並非多模態,且需要專家訓練,多為單一領域的應用,而生成式AI的創作能力帶來更大的想像,其應用幾乎涵蓋產銷人發財,各行各業幾乎都能夠使用,應用的潛力更為廣泛。
全力發展AI算力、平臺到應用
「IT轉型是打造數位神經系統,AI則是這個數位神經系統的大腦,通過以AI作為數位神經系統的大腦,強化我們內部營業效益或是對外業務擴展,帶來非常突破性的進展」,黃志雄說明,AI在中華電信轉型過程中的重要性。
中華電信從3個層次推動,在底層的基礎建設層次,建置內部或外部可以使用的GPU as a Service,即AI算力雲,而在IDC方面,中華電信也規畫因應企業建置AI機房的需要,計畫建置AIDC機房,提供代建代維。
至於中間的平臺層次,廣泛支援各種開源或付費大型語言模型,近幾年中華電信號召相關的人才加入,提高對大型語言模型的深度瞭解,以推薦客戶適合的模型,可運用多年累積經驗,協助調校大型語言模型參數。
首先發展智慧客服等6項GAI 應用
而在上層應用方面,發展各種垂直領域的AI 2.0內外部應用,中華電信設立AI策略委員會後,提出6個觸媒計畫發展GAI應用,這6個子計畫包括智慧客服、智慧櫃臺、法律助理、SDLC、M365 Copilot、算力雲,其中智慧客服與智慧櫃臺主要提升客戶服務能量,法律助理則是協助法務人員撰寫法律契約,M365 Copilot則提供員工個人生產力。中華電信期望通過6項生成式AI應用能夠快速見效,並吸引更多內部單位加入,進一步擴散應用。
以客服為例,中華電信現有2千多位客服人員,24小時服務上千萬行動用戶、數百萬寬頻用戶、近千萬市話用戶,如此龐大用戶為客服帶來相當大工作負荷,客戶提出的需求五花八門,可能是與帳務有的問題,或是某個服務的申請或技術障礙解決有關,不只是用戶,非用戶也會進線提出問題,例如舉辦行銷活動,造成短時間內大量客服電話進線,這些都增加客服工作量。
為了減輕客服的工作負擔,他們在幾年前就發展問答機器人,推出智慧文字客服,讓民眾的問題可以透過問題機器人完成,來提高用戶的自助服務率,而不需進到真人客服。現在,他們更進一步結合生成式AI,在客戶與客服對談中理解客戶的意圖,針對客戶的問題找到相關資訊,並且協助客服人員妥善應答處理。
中華電信董事長郭水義也曾對外說明自家的AI 2.0應用,他以智慧客服作為範例,整合AI知識庫Copilot技術,以生成式AI模型,加上Prompt Engineering,AI訓練師建置和更新知識庫,縮短7成的人工建置時間。
另外,在軟體開發方面,他們也應用生成式AI在軟體開發生命周期(Software Development Life Cycle,SDLC),以軟體開發的前期為例,訪談客戶的需求後,過去人員要撰寫客戶需求書、系統規格書等,主要以人工登打,現在透過生成式AI輔助生成需求書、規格書,縮短花費的時間。
不只是軟體開發的前期規格文件,程式碼撰寫方面,他們也利用生成式AI虛擬助理來協助,例如AI虛擬助理生成網頁,AI虛擬助理依照開發人員的要求調整,再生成Code,送到測試環境,再來回調整優化。
中華電信資訊技術分公司總經理楊慧琪表示,今年中華電信才開始運用生成式AI在SDLC,用於提高軟體開發生命周期各階段的工作效率,目前測試結果獲得不錯的反應,具體的效益還有待時間來驗證。在SDLC整個流程試著導入生成式,目標是將整個生命周期的工作效率提升30%以上。
從成立AI 2.0策略委員會,到6個應用觸媒計畫,中華電信結合長久以來累積的知識庫及專業領域的專家推動生成式AI應用。除了提升員工的工作效率,也能緩解退休潮造成的人才斷層、經驗傳承問題。
「生成式AI生成內容看似無中生有,實際上背後海納百川,運用多年下來累積的大量歷史資料才能做到,發展生成式AI應用能力,同樣需以資料作為基礎,建構特定領域的KM,再發展相關應用」,黃志雄說。
中華電信執行副總暨技術長黃志雄表示,生成式AI生成內容看似無中生有,實際上背後海納百川,運用多年下來累積的大量歷史資料才能做到,發展生成式AI應用能力,同樣需以資料作為基礎,建構特定領域的KM,再發展相關應用。(攝影/洪政偉)
用生成式AI處理用戶漫遊紙本帳單
現在不只是6項應用,其他單位也感受到GAI帶來的好處,發展更多GAI應用,例如用戶到國外旅遊使用國際漫遊,國外漫遊合作的電信商提供中華電信該用戶所使用漫遊服務的帳單,然而這些帳單可能形式不一,可能是紙本傳真、電子郵件等不同形式,中華電信需要投入大量人力處理。
為了讓整個處理過程自動化,他們利用OCR辨識漫遊紙本帳單,再由生成式AI去解讀,生成標準化的帳務重點資訊,再送進資訊系統。但是,仰賴生成式AI來處理漫遊紙本帳單,替代過去人工作業的方式,這樣做雖然能夠節省時間,仍要建立多種機制,以提高生成式資訊的正確性。
中華電信運用長久以來所積累的領域知識、經驗,並投入領域專家,運用RAG、Prompt Engineering等技術,讓GAI生成內容「有所本」,提高生成內容的正確度、可被信賴,並且克服退休潮導致有經驗的員工大量流失,新手員工專業領域知識經驗不足的問題。
以客服為例,客服人員流動率較高,少子化招工不易,客服人員代表公司對外服務客戶,新進客服人員都需要經過一定訓練,但是,中華電信底下行動網路、寬頻網路、市話、MOD等各種業務龐雜,面對客戶提出各式各樣的問題,新進人員往往不容易快速找到資訊,因此他們在客服人員值機應答工作,將過去累積的問答知識庫,結合生成式AI,幫助客服人員快速找到資訊。
在生成式AI的值機應答協助之下,加快新手客服人員的養成速度,客服應答也能達到一定的水準,並且降低客服對於難以回答的疑難雜症,進入1.5線尋求資深或技術人員支援的比例,同時縮短客戶等待回應時間。
同樣的情形也在網路維運管理,電信事業屬於關鍵基礎建設,中華電信投入大量人力維護網路基礎建設的正常運作,設備如果出現異常導致服務中斷,可能影響廣大用戶的生活,或是工程人員到用戶家中進行安裝檢修,網路維護工作高度仰賴人員經驗,雖然新手可以查詢相關資料,在缺乏領域經驗之下,反覆查找耗費時間,並不容易找到需要的相關知識。
中華電信運用生成式AI發展家用寬頻安裝維運虛擬專員,當工程維護人員到客戶家中維修,如果遇到疑難雜症,透過App與虛擬專員對話,相當於多了一位助手,幫助工程人員快速查找知識庫中的相關資訊,傳承維運專家多年累積的知識經驗。
黃志雄表示,過去在網路維運上,利用AI監控及預測設備的劣化,當預測即將發生故障前,及早汰換設備避免客訴產生,但是生成式AI應用在數位孿生(Digital Twin),對網路維運、韌性提升也相當重要,例如當發生災害時,研擬不同的行動方案,利用Digital Twin模擬環境,藉此觀察不同行動方案產生的效果,能夠提升網路韌性。
建立算力池、算力雲服務
由於AI需要大量的算力,因此在AI2.0的策略中也包含了基礎建設部分,中華電信已有全盤布局。他們已盤點全國各地機房資源,計畫建構算力池,先滿足內部AI應用需要及外部客戶應用的需要打造AI算力雲,考慮到目前GPU供貨問題,採用Nvidia DGX,採用8片H100,結合原先已構建的GPU資源,以建立可滿足模型訓練需要的AI算力。
至於IDC機房,中華電信集團下的IDC機房,在國內IDC市場占有一席之地,因應客戶建立AI機房的需要,該公司計畫建置AIDC機房,符合AI運算伺服器需要的高用電、地板載重、充足機房空間,提供代建代維或顧問服務。
應用平臺工程概念快速擴散內部GAI應用
在歷經約一年時間發展,為讓AI進一步擴大應用領域,今年建置共用平臺,讓產銷人發財不同領域員工,即使不會AI相關技術,也不會軟體開發,只要將他們的業務資料整理好後,通過該平臺產生自己業務上的小幫手。
運用平臺工程的概念,將跨領域業務共用的功能,例如權限管理、資料庫納入共用平臺,搭配No-code、Low-code工具,即使不會軟體開發的員工也能簡單地產生他們業務上需要的AI助理。
楊慧琪表示,中華電信投入發展平臺工程基本功已有一段時間,考慮到生成式AI近幾年發展相當快,未來可能成為每位員工業務上都需要的基礎幫手,今年將生成式AI納進平臺工程,希望能擴散產生更多的AI 2.0應用。
而對使用單位而言,業務工作上如果想要使用生成式AI,透過該平臺,能夠簡單打造其業務領域的AI助理,這個概念不只是內部,也計畫推向外部,例如基於AI算力基礎架構的AI Factory平臺,讓客戶可以通過AI Factory的生產線概念打造垂直領域的GAI應用。
中華電信資訊技術分公司總經理楊慧琪表示,中華電信投入平臺工程基本功已有一段時間,生成式AI近幾年快速發展,未來每位員工可能需要基礎AI助理,運用平臺工程概念,希望擴散更多的生成式AI應用。(圖片來源/中華電信)
熱門新聞
2024-10-05
2024-10-07
2024-10-07
2024-10-05
2024-10-07
2024-10-07
2024-10-07