【2024 IT十大趨勢 7】AI監管浪潮捲進臺灣，產業指引將形塑未來1年臺灣企業的AI發展架構

生成式AI在2023年遍地開花，也催生出各種AI監管法規。比如，美國在去年秋季頒布AI行政命令，要制定AI安全標準、落實AI系統隱私技術強化，還要訂定行政機關使用和採購AI指引，來控管公部門對AI的應用。

而上個月，歐盟通過《人工智慧法案》，是世界首個AI監管法令框架，將AI系統分為最小風險、高風險、不可接受風險和特定透明度風險等4大類，要求AI廠商和使用組織遵循規範，例如高風險系統需具備風險緩解系統，並預計2025年正式上路。

這股AI監管風潮也吹進臺灣，政府不只開始研議AI基本法草案，來降低使用風險，還在2023年下半年祭出公部門生成式AI參考指引，規範行政機關的運用方式。

甚至，金管會還開出產業主管機關開出第一槍，在去年10月揭露金融業運用AI核心原則，以建立治理及問責機制、重視公平性和以人為本價值觀、保護隱私及客戶權益、確保系統穩健性與安全性、落實透明性與可解釋性、促進永續發展等6大原則和8項配套政策，制定出金融業運用AI指引草案，已於上個月發布、徵詢意見，未來將供金融業者參考遵循。

企業需具備AI系統生命周期的管理機制

這份指引是國內的第一份產業AI指引，其他產業主管機關如衛福部、經濟部、交通部等後續也會推出相應的產業AI指引，也很可能參考金管會的作法，來供各產業業者遵循。

因此，以金融業運用AI指引草案為例，該草案定義了AI系統和AI系統生命周期，包括系統規畫及設計、資料蒐集及輸入、模型建立及驗證，以及系統部署及監控等4大階段，意味著企業管理AI系統的範圍，不再只是單純的應用階段，而是涵蓋完整的系統生老病死，企業得具備各周期的管理機制，才能因應指引要求。

舉例來說，該草案聚焦的6大核心原則，其中有4項就按照AI系統生命周期的4個階段，提出每個階段的執行建議。比如公平性原則，建議金融業者在系統規畫和設計時，除了確立目的、辨識可能受不利影響群體外，還要提供救濟管道。

而在資料蒐集階段，則要確保資料、蒐集方式和來源不會產生偏見，在模型建立和驗證階段，企業要自行檢驗模型對不同群體的產出結果、聘請外部專家審查驗證，在最後的系統部署和監控階段，還要定期檢視、分析AI系統產出的結果是否存在歧視。

另一項產業非常重視的AI系統可解釋性原則，在系統設計階段給出的建議是，企業得選擇適合的解釋工具，並在資料蒐集及輸入階段，要留下與AI系統訓練資料相關資訊的書面紀錄。到了模型建立及驗證階段，還要提供可解釋性報告，並驗證內部人員是否了解AI模型的功能和決策因素。至於最後一個系統部署和監控階段，則是要持續監控可解釋性是否達成。

不只要兼顧AI系統生命周期，另外還有項建立治理及問責機制原則，更明確建議企業可做3件事，包括建立專屬團隊，來處理內部AI系統的運用，並針對AI模型進行風險管理和追蹤，如建立模型清單、部署後持續驗證等，甚至對已上線的AI系統，也要持續監控、記錄和審查。

而永續原則強調，企業要優化演算法、減少模型複雜度和運算需求，來達到節能效果，另也要採用高效能硬體設備、優化硬體設施的配置和管理。這些建議，將企業AI運作管理範圍，從資料科學進一步擴大到IT硬體採購與配置。

雖然這只是金融產業的AI指引草案，但更明確的提供了企業AI建置時實務可參考的架構，而且可能是未來各產業AI指引的參考架構。不只金融業，其他產業也可以先以金融業指引，作為自己打造AI系統時的建置和治理參考，來預作準備。

AI評測中心成立，要出臺AI產品標準規範

除了針對公部門和特定產業設置使用指引，就在2023年最後一個月，政府還瞄準AI產品，啟動了AI產品與系統評測中心（簡稱AI評測中心），要來制定AI產品和系統的評測制度與指引。這些制度和指引，預計今年出爐。

這個AI評測中心，是依據臺灣AI行動計畫2.0而成立。該計畫在2023年展開，目標是在2023年至2026年間，從人才、技術與產業發展、國際影響力、運作環境和人文社會等5大層面下手，強化臺灣AI國力。

其中的運作環境，就是指完善法規制度和資料治理環境，可細分為推動資料治理、對通用領域和特定領域設置AI法規、成立AI產品和系統評測中心、加速發展接軌國際的AI規範與標準。其中，相關法規、指引已開始成形，數位部數位產業署也成立AI評測中心，下設制度推動委員會、技術審議小組等單位，來制定AI產品系統評測制度和指引。

他們還針對驅動生成式AI應用的大型語言模型（LLM），建立了10項初步評測項目，包括安全性、可解釋性、彈性、公平性、準確性、透明性、當責性、可靠性、隱私和資安等項目，來把關模型品質。由國科會主導的可信任人工智慧對話引擎（TAIDE），也正接受這10項評測，未來還有更多模型將納入這項評測。

這些評測項目和今年要問世的評測制度，將成為企業推出對外AI服務時的重要參考。因為，對企業來說，取得國家AI評測認證，就像是獲得食品標章一樣，證明自家服務所使用的模型，具備可解釋性、透明性和資安等能力，讓服務使用者安心採用。再加上臺灣逐步成形的產業AI指引，雖不具強制性，但將影響臺灣企業在未來一年的AI發展架構。

 相關報導