【iThome 2025 CIO大調查(上)｜GAI戰略4：採用布局】破5成領先者4種部門率先導入GAI，6成今年採用代理型AI

生成式AI最大賣點之一是提高員工的生產力，但是可以用來取代哪一種類型的工作？哪一種職務，一直是生成式AI採用與否的熱門議題，根據今年iThome CIO大調查，69%領先企業的CIO認為，GAI有助於緩解目前IT人力足的情況，另有4成認為可緩解維運人力不足，近3成認為可緩解資安人力缺口。這都反映出GAI可以分擔日常IT瑣事的能力越來越高，減少對這類工作人手的壓力，這也影響了企業對於生成式AI的採用決策。

臺灣資訊部門的人力普遍不足，尤其是一般製造業，所以，多數資訊長都從自己所屬部門，也就是資訊部門開始導入，IT團隊也成了臺灣大型企業最積極採用GAI的部門。不只是各產業，對GAI領先企業更是如此，高達86%領先者資訊部門已經開始用GAI輔助處理日常工作，尤其是59%的領先者已經採用了AI來增強軟體開發，領先者積極度，遠高於一般企業只有62%導入到資訊部門。GAI領先者也積極將GAI導入到不同部門，尤其是研發部門、業務部門、法務部門的採用率，都比一般企業高出2到3倍的比例。

不只鼓勵全員採用，領先者更積極擁抱國際主流的GAI技術和應用，像是主流的RAG(檢索增強生成)，高達7成4的領先者今年採用。而去年開始爆紅，今年主流開發工具紛紛支援的代理型AI技術，也有高達59%的領先企業今年要採用。

對於各種GAI應用背後所用的大型語言模型，近9成領先者會使用現成的LLM服務來加快開發速度，但也有41%領先者要用開源LLM自行預訓練模型，可用於機敏考量較高的落地部署之用。對企業來說，落地部署是最保險的做法，但是這個做法初期成本高，也相當費時。

臺灣仍有5成企業，處於計畫或是驗證測試階段，他們多半不敢貿然投入大筆預算來建置一套地端AI運算叢集，而是更傾向於採用現在的LLM服務來測試，尤其不少企業採取「速效」策略，希望將GenAI投入可以快速展現效益的應用場景，一方面練手累積GenAI經驗和知識，另一方面也提高對GenAI應用的信心。這也是為何GenAI領先企業高達8成多，直接採用現成LLM服務的緣故。

隨著今年越來越多GenAI領導廠商，釋出更強大的開源LLM模型，甚至像Google開始在自家地端私有雲解決方案中，提供主力生成式AI技術Gemini的落地部署，而不只是開源版LLM而已，這也會帶動更多競爭對手，如微軟或OpenAI，考慮釋出可落地部署的商用LLM版本。這也更符合企業想要再自家環境中，採用最強大LLM模型的需求，在兼顧安全可控的情況下，提供更強大的生成式AI應用。

 調查說明  調查執行從2024年12月30日到2025年2月3日為止，針對臺灣大型企業，歷屆CIO大調查企業，政府機關和大學的IT與資安主管，進行線上問卷。有效問卷數395家，其中有72%是CIO與IT主管，62％是CISO與資安主管。