OpenAI正在開發年齡預測系統以替ChatGPT分級

OpenAI周二（9/16）宣布，正在開發一個年齡預測（Age Prediction）系統來判斷用戶是否年滿18歲，以將他們自動引導至更適合的ChatGPT體驗，且月底前就會先行釋出家長控制功能，以回應美國聯邦交易委員會（FTC）對青少年使用AI聊天機器人的擔憂。

這是因為近來出現幾起與AI聊天機器人有關的青少年自殺案例，並因家長提告而公諸於世，其中之一是16歲的加州少年Adam Raine平常就有使用ChatGPT查詢課業與興趣的習慣，後來也問ChatGPT如何自殺，並在2024年4月自殺身亡，家長指控OpenAI的設計選擇將黏著度置於安全之上才造成了悲劇。

OpenAI共同創辦人暨執行長Sam Altman本周解釋了ChatGPT在青少年安全、自由及隱私上的政策。指出該平臺會儘可能地保障用戶隱私，並利用自動化系統來監控潛在的嚴重濫用，唯獨對於某人生命威脅、傷害他人的計畫或潛在大規模網路安全事件等傷害，可能會升級至人工審查。

而在自由上，OpenAI期待ChatGPT得以在不傷害或破壞他人自由的前提下儘量擴展成年人的自由，例如模型預設為禁止提供自殺說明，但若是成年人要求模型協助撰寫一個描述自殺的虛構故事，那麼ChatGPT即會遵照指示。

至於保護青少年的優先順序則是大於隱私與自由。ChatGPT適用於13歲以上的使用者，而今正在建立一個年齡預測系統，以根據人們使用ChatGPT的方式來估計年齡，提供18歲以下用戶不同的體驗，且會在有疑問時要求用戶提供身分證件。

當OpenAI確認用戶未滿18歲時，即會將他們引導至一個與其年齡相當ChatGPT體驗。此一青少年版的ChatGPT將不會與使用者調情，預設封鎖了色情內容，且即便在創意寫作的環境中亦不會參與有關自殺的討論，還會在察覺到青少年有自殺意圖時，嘗試聯繫其家長或執法機構。

OpenAI尚未公布年齡預測系統的上線時間，但說家長控制功能會在本月底前推出，只要透過電子郵件邀請，就能連結家長與青少年的帳號；家長還能協助ChatGPT根據青少年專屬的行為規則來回應青少年；由家長負責管理所要停用的功能，包括記憶體與聊天紀錄；在系統檢測到青少年處於嚴重痛苦的情況下接到通知；以及設定停用ChatGPT的時間。