中國準備規範擬人化AI服務

中國政府準備規範擬人化的AI服務，在上周六（12/28）發表了《人工智慧擬人化互動服務管理暫行辦法》，此一草案主要規範的是提供模擬人類人格特性、思維模式與溝通風格，透過文字或其它形式與人類進行情感互動的產品或服務，要求供應商在偵測到用戶出現過度依賴或沉迷傾向時，必須即時提醒。

此一草案出自中國國家互聯網信息辦公室，舉凡提供擬人化互動服務，註冊用戶達到100萬或是每月活躍用戶超過10萬的都會受到規範。儘管它並未舉例，但外界認為不管是聊天機器人，或者是陪伴型聊天AI，以及虛擬戀人都在受監管之列。

該草案要求相關服務不得生成或傳播危害國家安全/利益、非法宗教活動、暴力及誹謗等內容；也不得提供嚴重影響用戶行為的虛假承諾及損害人際關係的服務；不得藉由美化或暗示自殘，或是透過語言暴力及情感操控等方式損害用戶身體健康；不得藉由演算法操控或設置情感陷阱，來誘導用戶作出不合理的決策。

還說供應商的模型預訓練必須使用符合社會主義核心價值觀的資料集，強化資料集的透明度及可靠性，也應定期改善或升級資料集。此外，也要求供應商必須具備心理健康保護、情感邊界引導，以及依賴風險預警等安全能力，不能將取代社會交往、控制用戶心理，以及誘導沈迷依賴等特性作為服務的設計目標。

該草案要求供應商必須具備用戶狀態識別能力，發現涉及威脅用戶生命及財產安全的高風險傾向時，及時輸出安撫及鼓勵尋求幫助等內容；建立緊急回應機制，在用戶明確提出自殺或自殘等極端情境時，由人工接管對話並聯絡用戶監護人。針對未成年人及老年人用戶要求填寫監護人與緊急聯絡人。

當系統發現用戶出現過度依賴或沈迷狀況時，或者是在用戶初次使用及重新登錄時，都應該要以彈出式視窗提醒，所互動的對象為AI。一旦用戶連續使用該服務超過2小時，也應提供用戶暫時休息。