Meta企圖建立辨識AI內容的產業標準

Meta本周揭露，正在與合作夥伴共同開發用來辨識AI內容的通用技術標準，包括目前較為普及的AI圖像辨識標準，以及相較之下較不普遍的AI影片及AI音訊辨識標準，以期在遭到大規模濫用之前先行一步保護使用者。Meta計畫未來幾個月就會基於相關標準，於臉書、Instagram及Threads上標註由AI生成的圖像。

其實Meta已針對自家Meta AI功能所生成的圖像，提供Imagined with AI標籤以供使用者辨識，但此一標籤僅限於來自Meta AI的圖像，無法擴及其它工具或平臺所生成的AI作品。於是Meta著手與Partnership on AI（PAI）等論壇合作，共同發展C2PA及IPTC等各種標準，以用來辨識來自Google、OpenAI、微軟、Adobe、Midjourney與Shutterstock等採用不同技術的AI圖像。

根據Meta的說明，來自Meta AI的生成式圖像具備兩種AI標記，一種是直接呈現於圖像上的可見標記，另一種則是出現在圖像檔案中的元資料與不可見的浮水印，當中，不可見標記的作法剛好與PAI的最佳實作一致。

於是Meta開始與PAI及其它合作夥伴共同建置各種工具，以用來大規模辨識這些隱藏於AI作品中的不可見標記，因為上述的Google、OpenAI與微軟等業者，也都在以它們工具所建置的AI圖像中加入了元資料。

只不過，現階段業者才開始將標記功能加到圖像生成器中，尚未擴及影片與音訊生成器，使得Meta決定推出暫時性功能，讓使用者在分享AI生成影片及音訊的內容時自行揭露，以便Meta將它們加上AI標籤。倘若使用者不從，那麼Meta可能會施以罰則，此外，Meta亦打算針對那些可能帶來重大影響的AI內容上嵌入更明顯的標籤以示警告。

Meta指出，這可能是目前最先進的作法，只是還未能延伸至所有由AI生成的內容，而且人們還有許多可移除不可見標記的方法，使得該公司決定多管齊下，包括開發可自動偵測缺乏不可見標記之AI內容的分類器，或是尋找讓人們更難移除或變更不可見浮水印的方法，以及打造一個名為Stable Signature的技術，可直接將浮水印功能整合到某些影像生成器的生成程序中，非常適用於開源模型。

Meta認為，AI既是劍也是盾牌，除了不肖份子利用它來創造虛假內容以欺騙使用者之外，該公司使用AI系統來偵測平臺上的仇恨言論及其它有害內容，將仇恨言論的普及率調降至0.01-0.02%，等同於使用者每1萬次的瀏覽，只會看到一、兩個內容含有仇恨言論。

未來幾個月，使用者在臉書、Instagram或Threads上所看的AI生成圖像，不管它們是採用何種技術所生成，只要可被基於標準的指標所偵測到，都會出現標籤。