微軟總裁兼首席法務官Brad Smith敦促政府應對臉部辨識技術的應用制定相關法令。

圖片來源: 

微軟

學術界於ICRAC(International Committee for Robot Arms Control)網站發表公開信給Amazon以及美國政府,除了要求AWS即刻停止提供美國政府臉部辨識技術外,也要求科技公司應建立道德準則,來規範臉部辨識技術的應用。而微軟總裁兼首席法務長Brad Smith在自家部落格發文,除了敦促政府應該制定相關法令外,也提及科技公司有其道德責任維護人權。

公開信提到,人臉辨識技術嚴重影響公民隱私以及自由,即便是以最嚴謹的傳統監管方法,都無法消除該技術帶來的威脅,而Amazon有義務權衡其產品所使用的攝影機、臉部資料庫以及生物辨識資料等基礎設施,對於隱私以及人權造成的傷害。

信中開頭特別點名Amazon創辦人Jeffrey Bezos、AWS人工智慧總監Hassan Sawaf以及AWS人工智慧總經理Matt Wood三個人,要他們好好傾聽學術界的聲音,不要再說Amazon沒有收到Rekognition服務被執法濫用的報告。因為相對的,外界也沒有獲得足夠的證據證明,Rekognition服務沒有遭到濫用,而且也沒有系統紀錄,來防止Rekognition服務在非法歧視、侵犯人權、公民權或隱私權等領域被濫用。信中指出,Amazon有責任確保這類技術被販售時,在開發以及部署上,提供透明的問責制度。

聯署人來自資訊科技領域的教授以及研究人員,並聯合超過70個公民團體,與Amazon的員工站在同一陣線,即刻要求Amazon停止提供政府臉部辨識技術,並且取消與Palantir這類提供警方以及軍方,資料分析與人工智慧服務的中介公司合作。另外,還要求AWS應制定道德準則,嚴格禁止侵犯人民權利,並禁止技術被武器化與軍事化。

呼應這封公開信,微軟總裁兼首席法務長Brad Smith在7月13日發表了文章,討論了臉部辨識技術現存的問題,以及政府與企業需要補足的部分。他認為,臉部辨識技術有其優點,適當的應用可以幫助協尋走失的小孩、幫警方捉拿恐怖份子,甚至可以幫助盲人認識參與會議的人等。但是被濫用也會造成嚴重的問題,像是當政府未經許可紀錄國人旅行的地點,或是紀錄參與社運集會成員的身分,而日常一點的應用,可能是未經許可的收集消費習慣。

Brad Smith認為,雖然還不至於發生像是電影關鍵報告所演的情況,但是現在正處在邊緣的時刻。

目前人臉辨識技術處在不受監管的狀態,Brad Smith提到,美國是一個法治國家,政府需要在監管臉部辨識技術扮演重要的角色。當整個社會擔心這項技術被部署的狀況以及濫用的情形,他認為,政府應該主動介入管理這項技術。或許對於一間企業來說,要求政府主動監管一項技術不太尋常,但是Brad Smith提到,嚴謹且經過仔細研擬的監管方法,反而能為生產者與消費者帶來更健康的環境。

不過,政府的管理並無法免除科技公司的道德責任,Brad Smith話鋒一轉提到,整個科技業的發展,都應該與社會價值觀方向一致。有三點是科技公司現在應盡的義務,首先,企業有責任修正人臉辨識技術的辨識偏差,像是降低該技術對於女性或是有色人種的辨識錯誤率。第二,人臉辨識技術的開發及應用,應該制定道德原則並且採用開放透明的方法。最後,他提到,許多技術都要求快速大規模的部署,但是當社會對於人臉辨識技術存在擔憂時,反而應該放慢速度,確保人們的基本權利受到保障。

針對這個議題,紐約時報詢問了微軟發言人April Isenhower相關的問題,但是他拒絕回答微軟是否有向其他政府機關,提供人臉辨識的服務,也拒絕討論微軟對於消費者同意臉部辨識應用的立場。


Advertisement

更多 iThome相關內容