OpenAI強化平臺安全性，避免生成式AI工具被用於選舉操作

雖然臺灣大選剛結束，但2024年還有許多國家面臨重大選舉，OpenAI也對此情況做出應對，要提升投票資訊的準確度，與執行謹慎的政策，還要提高透明度，進一步強化平臺安全性。OpenAI結合安全系統、威脅情報、法律、工程和政策專家的力量，快速回應並打擊潛在的濫用行為，確保各國選舉過程的公正和穩定。

OpenAI透過紅隊測試，以及徵求用戶和外部合作夥伴的回饋，建立安全緩解措施，防範潛在的危害，避免像是針對性誤導的深偽影片，或是規模化的影響力操作，甚至是冒充候選人聊天機器人的出現。

OpenAI限制其工具，不允許用戶將其用於政治競選和遊說的應用程式，並且也不允許開發假裝是候選人等真實人物或是政府機關的機器人。同時，OpenAI也不允許濫用應用程式阻擋人們參與民主，像是錯誤陳述投票過程和資格，或是宣稱投票無意義等抑制投票等行為。

官方提到，他們特別在選舉期間，提高人工智慧生成內容方面的透明度。OpenAI採取的措施，包括強化圖像來源的透明度，藉由實施內容來源和真實性聯盟數位憑證，以密碼學對內容來源資訊進行編碼，使得圖像來源更容易追蹤。

此外，OpenAI還在開發一種稱為來源分類器的工具，用以辨識DALL·E所生成的圖像，即便圖像被常見的方法修改過，還是不影響其溯源效果，官方計畫之後將開放記者、平臺和研究者進行測試。與此同時，ChatGPT也逐步與現有的資訊來源整合，像是全球即時新聞報導的來源和連結，有助於選民更好地評估資訊，獨立做出判斷。

在美國，OpenAI與全國國務卿協會（NASS）合作，指引用戶存取美國投票資訊權威網站，而這項合作也作為OpenAI在與其他國家合作的經驗。OpenAI接下來還會持續更新選舉年新措施，並且與更多組織合作，避免工具遭到濫用。