IBM執行長Arvind Krishna(圖片來源/IBM)

甫於今年4月上任的IBM執行長Arvind Krishna,在本周向國會提交了攸關促進美國種族平等的政策建議,並首度對外揭露,為了解決執法機構負責任地使用技術的問題,IBM將退出一般用途的人臉辨識與分析軟體產品。

Krishna說,未來IBM將不再提供一般用途的人臉辨識或分析軟體,該公司堅決反對也不會縱容以任何技術來執行大規模監控、種族歧視、侵犯基本人權與自由,或是任何有違IBM價值觀及《信任與透明度原則》的目的,不只是IBM不再開發相關技術,也反對第三方提供人臉辨識技術來從事以上行為。

Krishna強調,他相信現在是啟動全國性對話,來討論美國執法機構是否應部署人臉辨識技術的時候了。

儘管Krishna同意,人工智慧(AI)是一項可協助執法人員維持民眾安全的強大工具,但AI系統的製造商及使用者必須確保這些系統通過偏見測試,特別是在執法中使用時,而且這類的測試也必須受到稽核。

Krishna亦呼籲美國政策應該要鼓勵警方,使用具備強大透明度與問責的技術來維持治安,像是穿戴式攝影機與現代化的資料分析技術。

事實上,根據Axios的報導,IBM內部在幾個月前就作了此一決定,也與客戶溝通過,此次卻是IBM首度對外公開將棄守人臉辨識業務,未來IBM將不再行銷或更新相關產品,只會在需要時支援既有客戶。

CNBC則引述消息來源報導,人臉辨識的相關產品並非IBM的重要營收,該決策同時考量到業務與道德因素。

除了宣布棄守人臉辨識業務之外,Krishna亦建議美國國會應該要訂定新的聯邦法律,以讓行為不當的警察承擔更多的責任,同時透過教育或訓練來增加有色人種的經濟機會,以促進美國的種族平等。


Advertisement

更多 iThome相關內容