圖片來源: 

Google

近來Google與美國國防部合作的人工智慧專案Maven受到內外圍攻,外界與Google員工紛紛對Google的行徑表達不滿,促使Google執行長Sundar Pichai於本周發表了Google的七大AI準則,也明列了Google不會開發的四大AI應用,一次對外說清楚。

Maven是由美國國防部所主導的專案,主要用來處理無人機所拍攝的大量影片,Google則提供TensorFlow API機器學習服務並動用了內部人力資源來協助該專案;即便Google表示只是利用AI技術幫國防部進行影像識別,但Google員工與外界卻認為識別結果便可能成為軍方的轟炸目標。

除了外界的撻伐之外,逾3,000名的Google員工今年連署要求Google立即退出Maven專案,擬定清楚的AI政策,更有十多名員工採取更激烈的離職抗議手段。

這迫使Google於本周揭櫫該公司發展人工智慧(AI)應用的7大準則與目標,包括必須造福社會、避免建立或加強偏見、在以安全為基準的前提下建立及測試、要對人們負責、納入隱私設計、採用科學卓越的高標準,而且只支援符合這些原則的用途。

關於最後一項,Google認為許多技術都有不同的用途,該公司將會努力限制具有潛在傷害的應用,將會考量AI應用的主要目的、所釋出技術的獨特或普遍性、相關技術的影響力,以及Google涉入的程度等。

除了說明打造AI應用的守則之外,Google也列了不涉足的四大AI領域,包括那些可能會危害全體的技術、會直接傷害人們的武器或技術、能蒐集或利用資訊進行監控而違反國際公約的技術,以及違反人權與國際法的技術。

不過,Pichai強調,即使Google不會研發用於武器中的AI技術,但仍會與各國政府與軍隊在許多領域上合作,包括網路安全、訓練、招募、老兵的健康照護、搜索及救難等。

在Pichai發表AI準則的同一天,Google Cloud執行長Diane Greene亦宣布Google Cloud將沿用該準則,將不支援於武器系統中使用AI,也不會追求特定型態的政府合約。

Greene也點出了大眾對Google參與Maven專案的疑慮,她說此一合作協議所牽涉的是以AI來辨識無人機所拍攝的影片與低解析度的物件辨識,最主要的目的是用來拯救生命。雖然外界希望Google能終止此一在去年9月與美國國防部所簽下的Maven合約,但她想明確地向外界表達,Google Cloud尊重與客戶所簽署的合約,只能承諾不會再續約,也會與既有客戶釐清Google的義務與AI準則。


Advertisement

更多 iThome相關內容