Meta
Meta本周揭露,正在與合作夥伴共同開發用來辨識AI內容的通用技術標準,包括目前較為普及的AI圖像辨識標準,以及相較之下較不普遍的AI影片及AI音訊辨識標準,以期在遭到大規模濫用之前先行一步保護使用者。Meta計畫未來幾個月就會基於相關標準,於臉書、Instagram及Threads上標註由AI生成的圖像。
其實Meta已針對自家Meta AI功能所生成的圖像,提供Imagined with AI標籤以供使用者辨識,但此一標籤僅限於來自Meta AI的圖像,無法擴及其它工具或平臺所生成的AI作品。於是Meta著手與Partnership on AI(PAI)等論壇合作,共同發展C2PA及IPTC等各種標準,以用來辨識來自Google、OpenAI、微軟、Adobe、Midjourney與Shutterstock等採用不同技術的AI圖像。
根據Meta的說明,來自Meta AI的生成式圖像具備兩種AI標記,一種是直接呈現於圖像上的可見標記,另一種則是出現在圖像檔案中的元資料與不可見的浮水印,當中,不可見標記的作法剛好與PAI的最佳實作一致。
於是Meta開始與PAI及其它合作夥伴共同建置各種工具,以用來大規模辨識這些隱藏於AI作品中的不可見標記,因為上述的Google、OpenAI與微軟等業者,也都在以它們工具所建置的AI圖像中加入了元資料。
只不過,現階段業者才開始將標記功能加到圖像生成器中,尚未擴及影片與音訊生成器,使得Meta決定推出暫時性功能,讓使用者在分享AI生成影片及音訊的內容時自行揭露,以便Meta將它們加上AI標籤。倘若使用者不從,那麼Meta可能會施以罰則,此外,Meta亦打算針對那些可能帶來重大影響的AI內容上嵌入更明顯的標籤以示警告。
Meta指出,這可能是目前最先進的作法,只是還未能延伸至所有由AI生成的內容,而且人們還有許多可移除不可見標記的方法,使得該公司決定多管齊下,包括開發可自動偵測缺乏不可見標記之AI內容的分類器,或是尋找讓人們更難移除或變更不可見浮水印的方法,以及打造一個名為Stable Signature的技術,可直接將浮水印功能整合到某些影像生成器的生成程序中,非常適用於開源模型。
Meta認為,AI既是劍也是盾牌,除了不肖份子利用它來創造虛假內容以欺騙使用者之外,該公司使用AI系統來偵測平臺上的仇恨言論及其它有害內容,將仇恨言論的普及率調降至0.01-0.02%,等同於使用者每1萬次的瀏覽,只會看到一、兩個內容含有仇恨言論。
未來幾個月,使用者在臉書、Instagram或Threads上所看的AI生成圖像,不管它們是採用何種技術所生成,只要可被基於標準的指標所偵測到,都會出現標籤。
熱門新聞
2024-12-02
2024-11-29
2024-12-02
2024-11-30
2024-12-02