微軟發布了一個稱為Artemis的專案,目的是要針對誘拐孩童的常用管道,利用系統自動標記出誘拐兒童特定的對話模式,並交由管理員進行人工審查,以利執法單位進一步介入處理,這項技術被用來監控Xbox平臺上的聊天,從1月10日開始,該技術將交由合作的非營利組織Thorn處理技術授權。

打擊線上兒童剝削(child Exploitation)是社會共識,微軟現在對其他線上聊天服務,共享新研發的誘拐偵測技術,以偵測、解決並回報試圖引誘孩童的惡意行為,這項技術是由微軟、The Meet Group、Roblox、Kik和Thorn合作開發,建立在微軟的專利技術基礎上,這項專利應用在文字聊天對話上,能夠評估對話特徵並給出可能性評分,用戶可以設定評分閾值,決定什麼樣的受標記對話,要交給管理員審核,並將具有立即危險性的案件,轉介給執法部門和其他兒童保護組織。

Artemis專案是於2018年,在微軟、WePROTECT全球聯盟和兒童尊嚴聯盟,合辦的一場跨產業黑客松中起始,這場黑客松是多面向的活動,之中發起的專案除了注重技術與功能之外,同時也專注於法律、政策以及其執行面,Artemis專案由PhotoDNA發明人Hany Farid帶領,PhotoDNA是Hany Farid在達特茅斯學院時,與微軟合作開發的免費工具,可用來偵測、破壞並回報兒童性剝削圖像,被全球150多家組織使用。

這個新的兒童誘拐偵測技術已經被應用在Xbox平臺,未來可能還會用在Skype等其他聊天服務。微軟表示,Artemis專案將透過Thorn,免費提供給其他具有聊天功能的合格線上服務公司使用,Thorn本身是一個專門抵禦兒童性虐待的非營利技術組織。

微軟提到,Artemis專案是打擊線上兒童性剝削的一大步,但不是萬靈丹,偵測兒童性剝削、性濫用以及線上兒童誘拐是複雜的問題,因此微軟共享工具助其他企業打擊兒童性剝削,並希望有更多的科技公司參與貢獻,以持續改進與完善系統。


Advertisement

更多 iThome相關內容