生成式AI在2023年遍地開花,也催生出各種AI監管法規。比如,美國在去年秋季頒布AI行政命令,要制定AI安全標準、落實AI系統隱私技術強化,還要訂定行政機關使用和採購AI指引,來控管公部門對AI的應用。
而上個月,歐盟通過《人工智慧法案》,是世界首個AI監管法令框架,將AI系統分為最小風險、高風險、不可接受風險和特定透明度風險等4大類,要求AI廠商和使用組織遵循規範,例如高風險系統需具備風險緩解系統,並預計2025年正式上路。
這股AI監管風潮也吹進臺灣,政府不只開始研議AI基本法草案,來降低使用風險,還在2023年下半年祭出公部門生成式AI參考指引,規範行政機關的運用方式。
甚至,金管會還開出產業主管機關開出第一槍,在去年10月揭露金融業運用AI核心原則,以建立治理及問責機制、重視公平性和以人為本價值觀、保護隱私及客戶權益、確保系統穩健性與安全性、落實透明性與可解釋性、促進永續發展等6大原則和8項配套政策,制定出金融業運用AI指引草案,已於上個月發布、徵詢意見,未來將供金融業者參考遵循。
企業需具備AI系統生命周期的管理機制
這份指引是國內的第一份產業AI指引,其他產業主管機關如衛福部、經濟部、交通部等後續也會推出相應的產業AI指引,也很可能參考金管會的作法,來供各產業業者遵循。
因此,以金融業運用AI指引草案為例,該草案定義了AI系統和AI系統生命周期,包括系統規畫及設計、資料蒐集及輸入、模型建立及驗證,以及系統部署及監控等4大階段,意味著企業管理AI系統的範圍,不再只是單純的應用階段,而是涵蓋完整的系統生老病死,企業得具備各周期的管理機制,才能因應指引要求。
舉例來說,該草案聚焦的6大核心原則,其中有4項就按照AI系統生命周期的4個階段,提出每個階段的執行建議。比如公平性原則,建議金融業者在系統規畫和設計時,除了確立目的、辨識可能受不利影響群體外,還要提供救濟管道。
而在資料蒐集階段,則要確保資料、蒐集方式和來源不會產生偏見,在模型建立和驗證階段,企業要自行檢驗模型對不同群體的產出結果、聘請外部專家審查驗證,在最後的系統部署和監控階段,還要定期檢視、分析AI系統產出的結果是否存在歧視。
另一項產業非常重視的AI系統可解釋性原則,在系統設計階段給出的建議是,企業得選擇適合的解釋工具,並在資料蒐集及輸入階段,要留下與AI系統訓練資料相關資訊的書面紀錄。到了模型建立及驗證階段,還要提供可解釋性報告,並驗證內部人員是否了解AI模型的功能和決策因素。至於最後一個系統部署和監控階段,則是要持續監控可解釋性是否達成。
不只要兼顧AI系統生命周期,另外還有項建立治理及問責機制原則,更明確建議企業可做3件事,包括建立專屬團隊,來處理內部AI系統的運用,並針對AI模型進行風險管理和追蹤,如建立模型清單、部署後持續驗證等,甚至對已上線的AI系統,也要持續監控、記錄和審查。
而永續原則強調,企業要優化演算法、減少模型複雜度和運算需求,來達到節能效果,另也要採用高效能硬體設備、優化硬體設施的配置和管理。這些建議,將企業AI運作管理範圍,從資料科學進一步擴大到IT硬體採購與配置。
雖然這只是金融產業的AI指引草案,但更明確的提供了企業AI建置時實務可參考的架構,而且可能是未來各產業AI指引的參考架構。不只金融業,其他產業也可以先以金融業指引,作為自己打造AI系統時的建置和治理參考,來預作準備。
AI評測中心成立,要出臺AI產品標準規範
除了針對公部門和特定產業設置使用指引,就在2023年最後一個月,政府還瞄準AI產品,啟動了AI產品與系統評測中心(簡稱AI評測中心),要來制定AI產品和系統的評測制度與指引。這些制度和指引,預計今年出爐。
這個AI評測中心,是依據臺灣AI行動計畫2.0而成立。該計畫在2023年展開,目標是在2023年至2026年間,從人才、技術與產業發展、國際影響力、運作環境和人文社會等5大層面下手,強化臺灣AI國力。
其中的運作環境,就是指完善法規制度和資料治理環境,可細分為推動資料治理、對通用領域和特定領域設置AI法規、成立AI產品和系統評測中心、加速發展接軌國際的AI規範與標準。其中,相關法規、指引已開始成形,數位部數位產業署也成立AI評測中心,下設制度推動委員會、技術審議小組等單位,來制定AI產品系統評測制度和指引。
他們還針對驅動生成式AI應用的大型語言模型(LLM),建立了10項初步評測項目,包括安全性、可解釋性、彈性、公平性、準確性、透明性、當責性、可靠性、隱私和資安等項目,來把關模型品質。由國科會主導的可信任人工智慧對話引擎(TAIDE),也正接受這10項評測,未來還有更多模型將納入這項評測。
這些評測項目和今年要問世的評測制度,將成為企業推出對外AI服務時的重要參考。因為,對企業來說,取得國家AI評測認證,就像是獲得食品標章一樣,證明自家服務所使用的模型,具備可解釋性、透明性和資安等能力,讓服務使用者安心採用。再加上臺灣逐步成形的產業AI指引,雖不具強制性,但將影響臺灣企業在未來一年的AI發展架構。
熱門新聞
2024-10-05
2024-10-07
2024-10-07
2024-10-05
2024-10-04
2024-10-04
2024-10-04
2024-10-05