誤判與漏判的情形,是開發過程中特別需要留意的問題

圖片來源: 

周峻佑

在資安的防護上,人工智慧的應用,算是相當常見,但對於企業而言,可能不會想到,能透過這樣的技術,改善企業流程上的某些問題。在2018年趨勢科技舉辦的CloudSec大會上,該公司的全球研發資深副總周存貹認為,企業應從鼓勵的角度,讓員工內部開發,將人工智慧的技術,帶入企業環境。

周存貹指出,趨勢科技的內部,一共擁有超過50個人工智慧應用的專案,不光是改善惡意威脅偵測的效率,也包含營運上流程的強化,像是用來預測客戶的忠誠度,藉此讓業務能調整維持顧客關係的資源比重,得以發揮更好的效益。

對於人工智慧在趨勢科技的資安應用,周存貹舉出了許多案例,因應人類可能難以直接判別、幾可亂真的情形。例如,針對電子郵件的變臉詐騙,他們就讓人工智慧學習執行長彙寫信件的風格,進而區別大多數由詐騙集團假冒執行長寄給財務長的電子郵件。

對於人工智慧的應用,趨勢科技全球研發資深副總周存貹舉出他們分析變臉詐騙郵件的方法,根據不同職位的員工寫信的特色,歸納出一些特性,例如,執行長(圖中桃紅色)普遍用詞精確,而財務長(綠色)會大量使用重覆性字句,至於財務主管(灰色)的信件中,會含有許多的大寫字母等現象。

開發的動機與機器學習資料來源,是必備的基本條件

藉由前述舉出的例子,周存貹說,隨著開發工具和建置教學的資訊,很容易從網路上取得,因此他認為,真正的關鍵,還是在於企業看待人工智慧的態度,所以,周存貹指出應用的4大要點,並且不要害怕失敗。

周存貹表示,這些要點,同時也是人工智慧應用的開發流程。這4個要點分別是確認需要解決的問題(Aspiration)、尋找能夠利用的資料(Data)、選擇採取的演算法和模型(Algorithm),以及實際專案執行(Execution)的管理與溝通,進而開枝散葉,開發更多的專案。

其中,最重要的,應該莫過於開發的動機,也就是要如何應用人工智慧。周存貹舉例,像是為了解決員工工作量太大的問題,企業為此進行開發的目標,可能就是要降低工作量。再者,企業有沒有可用、甚至是已經正規化的資料,也是相當重要的前提,因此,人工智慧所需學習的資料來源,也是相當關鍵。

有了目標與能夠用來機器學習的資料後,並挑選合適的演算法後,專案執行的過程,也有一些要留意的地方,像是與上級主管的溝通,開發團隊可能要讓主管理解專案進行的情況,而在專案中,往往也要跨部門橫向溝通、協調,才能完成。

周存貹指出,人工智慧專案的執行,與上級主管的溝通,是最為重要的關鍵。再者,則是在開發的過程中,可能往往會面臨到誤判(False Positives,FP)和漏判(False Negative,FN)比率,不如開發者預期的情形,因此也要評估其誤差帶來問題的嚴重程度,以及要採用何種方式加以改善。

在開發人工智慧的應用時,趨勢科技也遇過失敗的專案。周存貹說,他們曾經想要用來找出含有色情圖片的網站,然而實際開發後,發現機器學習難以歸納出擁有這種特性的規則,導致無法實際應用。不過,周存貹表示,開發人工智慧應用時,不需過度害怕失敗,實際的開發過程中,往往也需要調整演算法,或是學習模型等情況,甚至是重新來過,而失敗的專案,很有可能成為讓下一個專案能夠成功的關鍵經驗。

而周存貹也提到,企業開始運用人工智慧,或許應該考慮由內部的有志之士開發,讓公司開始「+AI」,而不是外包給其他專門開發的公司做(AI+)。透過提供課程、舉辦競賽等方式,培養內部員工,進而改善企業的體質,成為公司一部分的價值。


Advertisement

更多 iThome相關內容