台灣大哥大以AI 2.0技術優化智能客服機器人，提高對用戶提問的理解及回答正確率

台灣大現有700多萬行動用戶，近期公平交易委員會終於通過台灣大哥大與台灣之星合併案，未來兩家業者完成合併之後，旗下行動用戶規模將一舉提高至近千萬，勢必增加客服工作量。近期台灣大哥大分享科技轉型部分成果，針對客戶服務方面，運用大型語言模型等AI 2.0技術，來提升智能客服機器人對用戶提問的理解，以及回答的正確率。

目前台灣大每月約有149萬次的用戶需求進線到客服中心，為處理如此大量的用戶需求，台灣大哥大的客服中心現有約1,500位真人客服，提供7x24客戶服務，除了真人客服團隊接聽電話，台灣大也透過App、官網、IVR提供客戶自助服務，每個月使用量超過600萬次，通過這些線上客戶自助服務，一方面分擔真人客服的工作量，另方面也能降低服務成本。

台灣大也開發智能客服機器人小麥，來分擔真人客服工作，應對用戶每月提出各式各樣問題需求，這個運用AI技術打造的ChatBot，平均每月回覆42萬次提問，滿意度達到95%。

然而，客服團隊仍希望通過AI 2.0技術，提升自助服務能力，他們和IT團隊合作，分為兩階段，首先是讓文字服務機器人更善解人意，能夠更精準理解客戶的問題，提供更精準的答覆，其次是增加語音類型的服務機器人，能聽懂客戶的提問，以語音回客戶的問題。台灣大希望以此擴大客戶服務範疇，降低服務成本。

台灣大哥大資訊長室資深處長吳竹松指出，從直覺來看，企業會將資料提供語言模型進行優化調整，再讓語言模型來回答用戶的提問，結果發現語言模型生出錯誤答案，因為大型語言模型是天文數量的資料訓練，但企業資料的佔比可能低於1%，語言模型會根據過去學習資料來生成回答內容，因此有很大機率產生錯誤答案。

因此，他們改變作法，先將企業的知識點資料庫，轉換為語言模型能運算的向量空間，讓語言模型理解客戶的提問，在向量空間內作信度計算，將信度最高的答案回答出來，確保語言模型能回應正確的回答，而非任意生成回答。如果企業的知識點不足，則利用語言模型善於文字接龍的特性，在後臺擴充知識。

吳竹松表示，採用AI 2.0優化後，客服機器人小麥相比先前的技術，對於客戶艱澀難懂的提問，語言模型的回答正確率提高3倍之多，後臺原本將近1萬的知識點，也利用語言模型的文字接龍能力，以每周0.2%的速度持續增加。智能客服機器人經過優化後，客戶的滿意度、回答的正確率皆提高。

其次是打造語音型客服機器人，台灣大哥大展示一段AI客服語音對話，運用ASR語音辨識技術，AI客服能辨識用戶提問中所夾雜的國台語、英文，且能辨識企業服務的特殊用語，來正確回應客戶的問題。另外，還展示運用語音生成技術，以真人的語音資料，展示能模仿真人發聲的模型，可控制說話的音調及語速快慢。

吳竹松表示，在開發AI 2.0的客服機器人過程中，企業面臨許多的挑戰，這些挑戰可歸類為4類，第一是挑選適合的語言模型，如何訓練及運用模型，第二是讓訓練好的語言模型和企業應用整合，第三是如何在企業有限的預算下，使用GPU運算訓練模型，第四個挑戰則是從文字型的ChatBot，發展語音ChatBot。

台灣大將自身經驗及服務，整合打包為AI 2.0方案，為AIaaS（AI as a Service）的一站式服務，包括在底層的基礎架構方面，提供多雲、混合雲架構的GPU運算，企業可選擇使用的LLM模型，例如台智雲的FFM（Formosa Foundation Model），台灣大也與台智雲合作，按Token使用計算費用。此外，也提供Tool Kit工具，以及ASR語音辨識、TTS語音生成工具。