中國國家互聯網信息辦公室本周發布Deepfake人工智慧合成影片服務的管理法規,將要求業者應在合作的Deepfake影片提供明顯標識,避免Deepfake影片用於非法行為,此外也應主動審查客戶內容以避免散布假新聞。
中國網信辦是在11月初通過《互聯網資訊服務深度合成管理規定》規定。深度合成服務指的是提供工具產製AI合成模仿知名人物影片(或稱deepfake影片)的服務業者。
網信辦這項法令旨在明訂深度合成數據和技術管理規範,防止有人利用深度合成服務從事危害國家安全和利益、擾亂社會經濟秩序。中國政府要求業者應擔任資訊安全主體,建立使用者註冊、定期審核演算法、發布審核資訊、確保用戶個資保護、防範電信網路詐騙,並具備安全技術措施。
較重要的一點是,法規要求,4類深度合成服務業者應在生成或編輯的內容特定位置加上顯著標識,以避免公眾遭到混淆或誤導。這4類包括AI對話、智能寫作等生成文本的服務;合成人聲、仿人聲及顯著改變個人身份的服務;人臉生成、替換、人臉操控及姿態操控、影片生成的服務;沈浸式擬真場景等生成或編輯服務等,以及其他類。而且任何組織或個人不得以技術手段刪除、隱藏或竄改這些標識。
法規要求,業者和使用者不得使用深度合成服務製作或發布、散布假新聞,轉載深度合成服務發布的新聞,應同時轉載官方新聞稿源。而深度合成服務業者也應加強內容管理,對使用者輸入的資料和合成結果進行技術或人工審查,一旦發現違法和不良訊息,應立即向主管當局通報,並對使用者發布警告或限制功能、暫停服務或關帳號等措施。
這項法規在12月11日公布後,將在2023年1月10日起上路。
熱門新聞
2024-12-10
2024-12-10
2024-11-29
2024-12-11
2024-12-10
2024-12-08