加州政府
加州州長周日(9/29)Gavin Newsom 否決了一項具爭議的AI法案SB 1047,該法案要求模型開發者必須設計一個可完全關閉模型的能力,也必須經過第三方審核,以防止AI帶來重大傷害。
Newsom說,全球50家領先的AI公司有32家位於加州,它們是現代歷史上最重要進步技術之一的先驅,有許多與AI相關的法案在今年送到他桌上,但SB 1047放大了關於部署AI可能出現威脅的說法,爭議之一為應否將開發AI的成本及運算數字作為納入監管的門檻,SB 1047只針對大規模模型的要求可能帶來一種虛假的安全感,因為小模型跟大模型一樣、甚至更危險,通過SB 1047的代價可能是削弱有利於公共利益的進步創新。
Newsom認為,要監管一個尚處於起步階段的技術,需要一個微妙平衡,但SB 1047並未考慮AI系統是否部署於高風險環境中,是否涉及關鍵決策,或者是使用敏感資料,反而就算是大型模型的最基本功能都必須符合嚴格的標準,這不應是保護公眾免受AI威脅的最佳方法。
總之,雖然SB 1047法案當初主要的爭議在於要求開發者得以控制模型的開關,但Newsom卻是以該法案的適用範圍過於狹窄而予以否決。
全球第一個AI法案是由歐盟催生的AI Act,它定義了4種風險等級不同的AI系統與其行為準測,最高風險的AI系統必須符合最嚴格的要求,諸如AI醫療軟體,亦有某些AI系統直接被禁止,例如由政府或企業主導的「社會評分」(social scoring)AI系統。AI Act已於今年8月1日正式生效,歐盟各國將陸續於兩年內實施。
熱門新聞
2024-10-13
2024-10-14
2024-10-13
2024-10-11
2024-10-11
2024-10-12
2024-10-11