瞄準生成式AI浪潮,老牌臺灣ERP廠商鼎新電腦在11月初更名為鼎新數智,要轉型為平臺供應商,今天(11/19)進一步發表了GAI產品戰略和六款新AI助理服務。
鼎新去年就發表了用Azure OpenAI服務打造的METIS數智平臺,推出一款AI助理,可用自然語言方式來彙整跨文件知識、進度追蹤等特定任務。鼎新今天更詳細揭露了如何將GAI技術整合到鼎新ERP產品線的布局。
鼎新數智WorkFlow暨ERPII方案中心總經理黃盈彰指出,鼎新AI產品戰略分為三層,最一層是AI模型建置,可提供以產業領域知識預訓練的LLM模型,也可供企業自行微調,及落地部署的軟硬體設備。
除了使用微軟的OpenAI服務上的模型,鼎新也以開源商用模型LLaMA的2.5版(也就是Code LLaMA)的 34B參數量版本,最新3.2版的90B參數量版本作為基礎模型,用自行搜集的產業領域知識(以製造業為主)、專業術語的素材,微調出一個鼎新大模型,也強化LLaMA繁中語言能力較弱的問題。鼎新PaaS服務所用的模型主要是90B參數量的模型版本,而落地部署設備所用的模型則是34B參數量的版本。
接著,鼎新再用LoRA架構的作法,以不同領域知識,訓練出不同領域、功能的小模型,以外掛模型的形式,來搭配鼎新大模型,強化對特定領域的能力。
第二層是應用開發平臺層,提供助理設計工具、外掛程式等,可供企業客制AI應用。第三層則是訂閱式的生成式AI應用服務,先推出6款AI助手服務,包括了知識助理、行政助理、生單助理、設備助理、數智助理和決策助理。
黃盈彰表示,他們希望將生成式AI的三項能力,封裝到ERP的核心,包括了訂單生成、文件總結和報表分析能力。例如,AI 數智助理可以快速回應重點數據,像是讀取營運報表和資料庫的數據,提供高階主管或員工想要查詢的關鍵數據,也能生成對比式的表格圖表。
或是,另一款訂單生成助手或差旅報銷助手工具,則利用多模態LLM(目前用的是GPT-4o)的圖片理解能力,取代傳統的OCR技術,可以不受限於單據中的欄位格式,取得數據來自動輸入,自動生成訂單或報銷用的申請表單,減少人工輸入的麻煩。而知識助理則是利用了RAG作法來進行跨文件的搜尋,還能兼顧不同職位的存取權限控管。
為了提高LLM模型對於結構化數據的讀取能力,鼎新會先將資料庫中的數據,製作成各種不同主題的情報文件,而非讓LLM直接存取資料庫中的數字,再以提示工程指令,讓LLM模型讀取這些情報文件,來回答使用者的問題,例如產能利用率多少,接單是否成長等問題。黃盈彰解釋,這個方法可以提高不少LLM對數據、數字的解讀和分析準確度。
黃盈彰解釋,採取微調的基礎模型搭配LoRA架構小模型的作法,企業可以用自己的資料來訓練自己的外掛小模型,來搭配鼎新大模型使用。另外,採取這樣的大小模型搭配作法,日後基礎模型若有新版,只需重新微調基本的鼎新大模型,即可搭配企業原有的外掛小模型來使用。
目前,鼎新正在開發一款用生成式AI打造的ERP程式碼助手,整合了鼎新過往開發各產業ERP的知識,已經可以用來檢查ERP程式碼的錯誤,甚至可以分辨出多種業務邏輯的問題,來協助ERP工程師加速開發。鼎新內部ERP產品開發輔助已開始試用這款程式碼助手,日後計畫發展成對外的產品功能。
鼎新數智製造事業群臺灣副總裁梅祥雲表示,未來會朝平臺生態圈的方向發展,甚至連手其他軟體開發商,在鼎新的GAI平臺上提供服務。
熱門新聞
2025-01-16
2025-01-15
2025-01-13
2025-01-17
2025-01-14
2025-01-14