歐盟網路安全機構(ENISA)和聯合研究中心(JRC)對自動駕駛車輛中的人工智慧進行研究,發現其存在網路相關的風險,並提供了緩解這風險的建議。歐盟網路安全機構執行董事Juhan Lepassaar提到,當自駕車越過歐盟成員國的邊界時,同時也帶來了自駕車的弱點,因此安全性必須是自駕車可否上路的優先考量重點。

歐盟提到,自駕車由於消除了發生交通事故最主要的成因——人,因此有望減少交通事故和死亡人數,但是卻可能對駕駛員、乘客和行人帶來完全不同的風險。自動駕駛汽車使用人工智慧系統,透過機器學技術來收集、分析和傳輸資料,執行人類駕駛汽車所會執行的決策,但這些系統和其他IT系統一樣,容易受到攻擊,威脅車輛的正常功能。

自動駕駛汽車的AI系統,能夠辨識交通與道路號誌,偵測車輛及其他道路物體的移動,進而規畫行進的路線,除了像是突然故障的意外,研究報告指出,人工智慧系統還很脆弱,難以抵禦刻意的攻擊,不只人工智慧系統被干擾,重要的安全功能也會受到破壞。

像是在道路上的塗鴉,可能誤導車輛導航功能,或是在停止標誌貼上貼紙,阻止人工智慧系統的辨識,這些行為都可能導致人工智慧判斷錯誤,進而採取危險的行為,影響乘客或是行人的安全。

為了提高自動駕駛汽車人工智慧的安全性,研究報告建議,人工智慧元件應該定期進行安全評估,對人工智慧模型和資料執行系統性驗證,以確保車輛在意外情況或是惡意攻擊時,總是能正確的做出反應。報告還建議在連續風險評估流程中應用威脅情報(Threat Intelligence),用來辨識自動駕駛汽車中,潛在的人工智慧風險以及新興威脅。

另外,整個汽車供應鏈,也應該由人工智慧安全策略,和安全文化主導,報告提到,汽車工業應該從一開始,就採用安全設計方案部署人工智慧功能,使得網路安全成為數位設計的核心要素,而且汽車工業也必須提高回應安全事件的能力,以便具備快速處理人工智慧和相關新興網路安全問題的能力。

即便人工智慧存在風險,但JRC總裁Stephen Quest提到,自動駕駛帶來的優點,不會被安全風險抵銷,這份報告的重點是更深入的了解自動駕駛人工智慧技術與相關網路風險,以確保自駕車的安全性。


熱門新聞

Advertisement