寶鼎出版

現今的資安工具主要是透過簡易的統計途徑,以人工方式來偵測不尋常的活動,所具備的性能就好比業餘股票交易網站的功效。從這種角度來看,認知運算解決方案(cognitive computing solution)就有如股票界被譽為「奧馬哈先知」(Sage of Omaha)的華倫・巴菲特(Warren Buffett)先生。這樣的演算法究竟有何三頭六臂,竟然能和全世界最聰明的投資人相比擬呢?請容我說明一下。

業餘股票交易者多半是利用線上網站買賣股票,他們主要從基本統計分析著手,也就是先研究一些跟目標公司的財務狀況或績效有關的變數,接著再觀察該公司的競爭對手,或許做個對照比較,最後再做一些技術分析,比方說繪製「移動平均線」(moving average)或類似的統計函數等等。大致來講,這種流程就是簡易技術交易的基礎。

現在來看看巴菲特是怎麼做的。真要說起來,純統計的做法他都會避開。多年下來,他已經對評估公司價值或預測公司的未來前景時該掌握哪些關鍵環節,形成了自己的一套理論。他不曾公開談過這套「模式」的操作細節,大概是只能意會不能言傳的緣故,畢竟講到評估公司,巴菲特本人就是活生生的認知演算法,他所積累的知識經過不斷淬鍊和校準後,已經從技術專業蛻變成一種藝術。巴菲特曾表示,在各種考量因素當中,他花很多時間評量公司現有的管理團隊,以此作為公司是否有望成功的基準。他露出了很多蛛絲馬跡,不過在一般人看來都很主觀。特別要強調的是,一般人之所以覺得主觀,是因為那些線索其實是非常多看似不相干又無足輕重的小動作匯聚而成,比方說有時他會突然不安地抽動一下,有時轉了一下眼睛,或者是握手時力道堅定,笑聲特別高亢或低沉等等之類的姿態行動。如果想打造出和巴菲特式的高效模式一樣的途徑,我們就必須緊盯著細節不放,收集各種看起來主觀但實則有脈絡可循的線索,並加以融會貫通,無論這些線索有無規則可尋,如此才能大大有益於我們進行預測與建構模式。而照這樣看來,數字和統計只能算是可利用的兵器之一,絕對不是主宰一切的因素。

巴菲特大半輩子都在辨識模式,可謂戰績彪炳。他愈是往那些主觀的背景資訊鑽探,出錯的比例就降得愈低,認知型資安演算法也是如此。基本上,這種認知處理流程運用的是「建立與測試假說」的科學方法,打個比方,其實和文學界經典的偵探角色福爾摩斯(Sherlock Holmes)很像。這系列的偵探小說在故事剛開始的時候,主角福爾摩斯並沒有假說可以作為能支撐他觀察所得的鷹架。陸陸續續地,第一樣證據引起他的注意,第二樣證據則讓他有了集中注意力的焦點,第三樣證據又變成了三個資料點。至此他有了一個方向可以進行深入的探索,而這個方向就是框架。接下來他要做的就是設法為這個框架注入血肉,例如他會說「我認為泰德在溫室裡用燭臺殺了瑪麗」,或反過來說「瑪麗被殺了,但對於是誰幹的、殺人手法又是如何,我還摸不著頭緒」。

認知處理流程彙整了多種機器學習演算法,所以具有跟福爾摩斯如出一轍的功力。演算法會調查以下二個問題:這是良性要求還是有人藉機掃描我網站的資安漏洞?這位只是終端使用者,還是有人偽裝成終端使用者試圖駭入我的資料庫?把結構化資料和無規則可循的資料(也就是巴菲特最擅長發揮的主觀背景資訊)都加以消化之後,演算法會提出一個假設:我認為這是惡意程式。接下來的工作就是做更進一步的研究,「仔細研讀」頁面,深入探勘記錄檔(log)、網路活動或其他與假設有關的證據元素。認知處理流程經過這個階段之後,會產生一定程度的把握,不是確認最初所主張的假設正確無誤(沒錯,這的確是惡意程式!),就是認定那並非惡意程式的活動,無須進一步探究。

科學作家瑪莉亞・柯妮可娃(Maria Konnikova)在其著作《福爾摩斯思考術:讓思考更清晰、見解更深入的心智策略》(Mastermind: How to Think Like Sherlock Holmes)概述福爾摩斯的辦案流程。她在書中針對人類直覺在辨識模式過程所扮演既是敵又是友的糾結角色,做了一番剖析:

人類的直覺由背景脈絡形塑而成,背景脈絡又以人類生活的周遭環境為基礎,也因此直覺有時就像眼罩(或各種盲點)那般蒙蔽我們......然而,我們可以透過覺察力,設法在釐清直覺是否正確與接受各種可能性之間取得平衡,再利用手邊資訊以及對該資訊有可能隨著時間產生變化的認知,做出最明智的判斷。

不過,機器學習在形成結論的過程中,並不會陷入這種進退兩難的窘境。就我的經驗來看,AI在運作時所推測的結論或是提出的行動建議,通常「不是直覺作為」。如果AI都是靠直覺行事的話,那就和思考速度快一點的人類研究員沒有兩樣了,但AI的能耐往往不只如此。

直覺是人類智慧的根基,我們好巧不巧就會用上這種便利的內心能力。然而這種對人類而言非常好用的功能(即人類用來評估一大串選項以利達成目標的方法),一旦碰上了錯綜複雜的問題,就會黯然失色,完全被AI比了下去。即便是眾所周知的「房內最聰明的人」【smartest guys in the room,取自於根據安隆(Enron)事件所寫成的暢銷書,指那些自以為聰明無敵、為求暴利到處鑽漏洞的人】,也不夠聰明到能像AI那樣有能力從資料中找出違背直覺的模式。

在繼續深入討論之前,請容我再舉一個例子。我撰寫本章時,正好出現了一個勒索軟體,這個可怕的新型加密勒索病毒來無影去無蹤,把全球性的網路系統搞得天翻地覆,我們對AI網路資安解決方案的需求更顯得迫在眉睫了。

Adylkuzz重創暗網

資安領域正手忙腳亂地應付WannaCry留下的一片狼藉之際,一個更加陰險的病毒也開始侵襲系統,挖取暗網上的虛擬貨幣。2017年春天,駭客組織Shadow Brokers公開了微軟系統的若干漏洞。儘管微軟緊急針對這些瑕疵釋出修補程式,但全球各地還是有許多網路型系統門戶洞開。Adylkuzz病毒開始利用這些漏洞,尤其是透過從美國國安局(NSA)外洩的EternalBlue漏洞。Adylkuzz的擴散速度不像WannaCry那麼迅速,但造成的破壞卻更令人不堪設想。它不走加密資訊的路線,而是安裝祕密「礦工」來挖掘加密貨幣「門羅幣」。基本上,Adylkuzz的威力比拖慢電腦系統速度或是要求贖金以交還使用權還要來得可怕。這款病毒會劫持電腦,使電腦成為網路罪犯的生財工具。Adylkuzz開採的加密貨幣類似比特幣,但更為隱密,也因此成為販賣毒品、被竊信用卡和仿冒品的地下網站最愛的貨幣。只要Adylkuzz在系統上祕密開挖門羅幣的時間愈長,網路攻擊者就會收到愈多的虛擬貨幣。

為了阻擋這種類型的威脅,開發先進的認知型防毒程式勢在必行。AI資安系統利用機器學習演算法的效能,以數百萬筆惡意檔案進行訓練之後,就能在祕密礦工造成破壞之前,找出Adylkuzz這隻蠕蟲的行蹤,而事實上也真的辦到了。據網路資安專家指出,最精密的AI解決方案早在2017年4月24日就發現Adylkuzz的存在,當時WannaCry甚至尚未被公諸於世。AI演算法將機器學習的能耐發揮到極致,只花了一點點時間就把Adylkuzz 關閉,連幾分鐘的時間都用不上,而人類分析師甚至還沒有進入迴路。(摘錄整理自《AI創世紀》,寶鼎出版)

AI創世紀:即將來臨的超級人工智慧時代

埃米爾‧侯賽因(Amir Husain)/著;溫力秦/譯

寶鼎出版

售價:360元

作者簡介

埃米爾‧侯賽因(Amir Husain)既是發明家,也是得過獎的連續創業家。他創辦SparkCognition新創公司並身兼執行長,專精於發展人工智慧平臺,協助企業與政府以更好的因應之道來面對日益進化的大量威脅。他的公司在2014年贏得IBM舉辦的InnovateApp 全球大賽「年度創新應用程式獎」。


Advertisement

更多 iThome相關內容