Anthropic成立Anthropic Institute研究AI對社會與經濟長期影響

人工智慧公司Anthropic周三（3/11）宣布成立Anthropic Institute，這是一個專門研究前沿AI系統對社會與經濟影響的研究機構，未來也將參與AI政策與治理議題的研究。

Anthropic表示，AI技術在公司成立5年以來發展迅速，在成立兩年後推出第一個商用模型，並在隨後3年間開發出能發現嚴重資安漏洞、執行多種實際工作任務，甚至開始加速AI研究進展的模型。Anthropic預測，未來兩年AI能力仍可能出現更劇烈的提升。

隨著AI系統能力持續增強，Anthropic認為政府與產業將面臨一系列重要問題，例如AI將如何改變就業市場與經濟活動、是否會帶來新的安全風險，以及社會應如何制定AI系統所遵循的價值與治理原則。此外，如果未來AI開始出現遞迴式自我改進能力，相關監管與治理機制也將成為重要議題。

Anthropic Institute將整合公司三個研究團隊，包括負責測試AI能力極限的Frontier Red Team，研究AI在現實世界應用的Societal Impacts團隊，以及分析AI對就業與經濟影響的Economic Research團隊。研究院也將推動新的研究計畫，例如預測AI發展速度，以及研究強大AI系統與法律制度之間的互動。

該研究院將由Anthropic共同創辦人Jack Clark領導，他原本負責公司的公共政策業務，並已擔任公共政策主管超過五年。此次人事調整後，他將轉任公共利益主管（Head of Public Benefit），負責帶領研究院的相關工作。

而公共政策主管則由原本的對外事務主管Sarah Heck接任。Anthropic表示，公共政策團隊將持續關注AI安全與透明度、能源與AI基礎設施投資、出口管制以及AI治理等政策議題，並計畫在今年春天於華盛頓特區設立新的政策辦公室。

近期Anthropic也因政策爭議受到關注。美國政府日前將Anthropic列為供應鏈風險（Supply Chain Risk，SCR），限制其技術在部分政府專案中的使用。Anthropic已對此提起訴訟，挑戰該項決定。