加州州長簽署全美首個陪伴型聊天機器人安全法案

加州州長Gavin Newsom周一（10/13）簽署了多項法案，其中之一為全美首個陪伴型聊天機器人（Companion Chatbot）安全法案SB-243，用以預防它對使用者造成傷害。

SB-243是由Steve Padilla與Josh Becker兩名參議員共同提出，正式名稱為《陪伴型聊天機器人法》（Companion Chatbots Act），主要規範陪伴型聊天機器人平臺的使用安全。

它要求平臺必須明確告知使用者該聊天機器人是由AI生成，而非真實人類。在平臺得知互動對象為未成年用戶時，除了必須告知用戶正在與AI互動之外，若雙方互動時間超過3小時，必須提醒用戶休息，且再次標示AI身分，亦禁止生成或建議任何色情內容。

此外，平臺必須建立預防生成自殺或自殘內容的協議，且自2027年7月1日起，每年都必須向自殺防治辦公室提交報告。

該法令所定義的陪伴型聊天機器人為採用自然語言介面，可提供真人特性的回覆，滿足使用者的社交需求，並可多次來回互動以維持關係的AI系統。至於用於客服、技術支援、遊戲，或是喇叭等智慧裝置中的AI聊天機器人則不在此列。