中國AI生成內容新規上路，要求平臺與用戶標註來源與技術資訊

中國對人工智慧生成內容的規範進入正式實施階段，從9月1日開始《人工智慧生成合成內容標識辦法》要求規範生成式AI服務的業者以及內容傳播平臺，必須在文字、圖片、音訊、影片與虛擬場景等各類生成內容上，加註來源標示並留下技術性資訊。根據外媒South China Morning Post報導，抖音、微信和小紅書等平臺都已經推出措施來符合人工智慧內容標示的新規範。

新規要求雙層標示，顯式標示必須直接呈現在內容中，像是文字開頭或結尾的提示、音訊片段的語音提示、圖片上的清楚標註，或影片播放介面的顯眼符號，而隱式標示則嵌入檔案的後設資料，包含生成來源、服務提供者代碼與內容編號等，並建議同步加入數位浮水印。這些隱藏資訊主要提供平臺與監管單位在後續檢驗與追蹤時使用。

內容平臺被賦予更多義務，當上傳內容的檔案中繼資料標明為人工智慧生成，平臺必須在發布頁面加上提示，要是來源無隱式標示，但使用者聲明為生成內容，平臺同樣需要註記。如果沒有標示也無聲明，但系統偵測到生成痕跡，仍需標示為「疑似」生成內容提醒使用者，且平臺還須把相關資訊寫回檔案後設資料，確保後續內容傳播的可追溯性。

除了《人工智慧生成合成內容標識辦法》，中國政府同時發布了強制性國家標準《網路安全技術人工智慧生成合成內容標識方法》，並提供服務供應商編碼規則的配套指南。技術標準的重點在於，不同格式檔案中嵌入屬性資訊的方法，以及規範生成內容的標記方式，讓業者在實作時有明確依據。

中國並非唯一要求人工智慧生成內容標註的國家，歐盟於2024年通過的《人工智慧法案》已對文字、圖片、音訊與影片的生成內容訂下透明義務，要求部署者在內容中揭露人工智慧的參與。西班牙則希望進一步推動高額罰則，擬對未正確標示的企業處以最高3,500萬歐元或全球營收7％的罰鍰。

美國目前沒有聯邦層級的強制標示義務，2023年科技公司與白宮簽署自願性承諾，承諾投入數位浮水印等機制標示生成內容。部分州針對選舉深度偽造立法，但也出現如加州違憲爭議並被法院暫時禁止之案例。