美國國安局設立AI安全中心

美國國安局（National Security Agency，NSA）於9月28日宣布，將設立AI安全中心（AI Security Center）來監督美國國家安全系統中的AI能力發展與整合，以協助美國國家安全企業及國防工業可安全地採用新的人工智慧（AI）技術。

國安局局長Paul Nakasone解釋，所謂的AI安全指的是保護各式的AI系統，以避免它們學習、執行或揭露錯誤的事情。而此一AI安全研究中心將與情報領域的美國產業、國家實驗室、學術界，以及國防部及其它國外的夥伴密切合作，負責發展及導入安全AI的最佳實作、評估方法及風險框架。

AI安全中心的設立源自於AI在美國國家安全、國防與情報上，扮演著愈來愈重要的角色，例如美國國防部在2020年便出版《負責任的AI策略與實施途徑》（Responsible AI Strategy and Implementation Pathway），並於今年1月更新了有關負責任開發自主武器的2012年指令，使其符合最新的AI標準，此外，美國政府也提出了於軍事上負責任地使用AI的政治宣言。

NSA的研究顯示，AI模型被竊或是遭到破壞已成為重要的國家安全挑戰，特別是生成式AI具備著為善與為惡的雙刃潛力。

此外，Nakasone認為，有鑑於AI對美國與盟國的外交、技術與經濟上的影響日益重大，美國應該維持於AI領域上的領先地位，且不應將其視為理所當然，因為競爭對手數十年來持續剽竊與利用美國的智慧財產來促進其利益，未來亦將利用美國於AI上的進步，同時破壞美國的AI應用。

因此，美國必須深入理解外國情報機構用來威脅AI系統的安全漏洞，同時應對這些威脅，才能確保AI的安全，亦因確保這些情報機構無法竊取美國的AI能力，並用它們來攻擊美國。