示意圖,與新聞事件無關。

人工智慧(AI)除了方便,但也一直存在是否會反過來危害人類安全的疑慮,日本政府為了促進AI產業發展,打算自2018年起推動AI安全性標準與認證,希望透過建立社會信任的方式,加速AI產業發展。 

位階類似我國內政部但同時負責管理通訊傳播與國勢的日本總務省,近日表示將研發一套審核人工智慧科技的審查制度,用來管理未來市場上所有配備AI技術的產品,包括已知的IBM Watson以及AI機器人等,確保其對使用者的安全性,以贏取社會對AI技術的信任。 

總務省已經開始研擬認證內容,預計最快將由2018年起正式推行該制度。該部門估計,AI、Big Data與物聯網相關產業,可望在2020年為日本增加33兆日圓(約合新台幣9兆元)的國民生產毛額(GDP)。 

總務省的政策目標並非透過審核制度來限制AI產業的發展,而是希望透過該制度,讓符合安全規範的產品,能有認證來提高市場能見度。該計畫認證的內容可能將包括產品設計具備可讓人類隨時取回控制權的安全性設計,以及預防AI系統在遭到未經核准使用者取用時,洩漏敏感個資,而一般操作時的個資取用設計,也會列入審核項目。 

總務省預計將組成獨立團隊,針對AI技術進行審查,同時要求研發人員解釋在遭遇特殊意外事件時,配備AI技術的設備進行反應的設計邏輯等。此外,總務省也將針對AI設備在運作時倘若發生傷害他人的結果時,相關的責任歸屬,進行研究,以控制可能的風險。


Advertisement

更多 iThome相關內容