新聞中心

EEPW首頁 > 智能計算 > 業(yè)界動態(tài) > 人工智能之無監(jiān)督學(xué)習(xí)模型可發(fā)現(xiàn)入侵黑客

人工智能之無監(jiān)督學(xué)習(xí)模型可發(fā)現(xiàn)入侵黑客

作者: 時間:2018-11-23 來源:網(wǎng)絡(luò) 收藏

  Darktrace新網(wǎng)絡(luò)安全公司與劍橋大學(xué)的數(shù)學(xué)家合作,開發(fā)了一種利用機器學(xué)習(xí)來捕捉內(nèi)部漏洞的工具。它運用方法,查看大量未標(biāo)記的數(shù)據(jù),并找到不遵循典型模式的碎片。這些原始數(shù)據(jù)匯集到60多種不同的算法中,它們相互競爭以發(fā)現(xiàn)異常行為。

本文引用地址:http://butianyuan.cn/article/201811/394771.htm

  2013,一群英國情報人員注意到一些奇怪的事情。雖然大多數(shù)保護數(shù)字基礎(chǔ)設(shè)施的努力都集中在阻止壞人進入,但很少有人關(guān)注反面:阻止他們泄露信息?;谶@個想法,該集團成立了一個新的網(wǎng)絡(luò)安全公司,稱為Darktrace。

  該公司與劍橋大學(xué)的數(shù)學(xué)家合作,開發(fā)了一種利用機器學(xué)習(xí)來捕捉內(nèi)部漏洞的工具。然而,它們不需要在攻擊的歷史實例上訓(xùn)練算法,而是需要系統(tǒng)識別異常行為新實例的方法。他們轉(zhuǎn)向,這是一種基于一種罕見的機器學(xué)習(xí)算法的技術(shù),它不需要人類指定尋找什么。

  Darktrace已經(jīng)把注意力放在一種被感染的裝置上,表現(xiàn)出反常的行為。“這非常像人體自身的免疫系統(tǒng),”該公司的CO-CEO NicoleEagan說。盡管它是復(fù)雜的,但它具有自我和非自我的內(nèi)在感覺。當(dāng)它發(fā)現(xiàn)不屬于自己的東西時,它會有極其精確和快速的反應(yīng)。

  絕大多數(shù)機器學(xué)習(xí)應(yīng)用依賴于監(jiān)督學(xué)習(xí)。這包括給機器提供大量仔細標(biāo)記的數(shù)據(jù),以訓(xùn)練它識別一個狹義的模式。說你想讓你的機器識別黃金獵犬。你喂它幾百或幾千張金毛獵犬的照片,以及那些不是金毛獵犬的東西,同時明確地告訴它哪些是金毛獵犬。最終,你會發(fā)現(xiàn)一個相當(dāng)不錯的金毛獵犬識別機器。

  在網(wǎng)絡(luò)安全中,有監(jiān)督的學(xué)習(xí)效果很好。你訓(xùn)練一臺機器,面對你的系統(tǒng)以前面臨的各種威脅,并且無情地追逐它們。

  但有兩個主要問題。一方面,它只適用于已知的威脅;未知的威脅仍然潛藏在雷達下。另一方面,監(jiān)督學(xué)習(xí)算法最適合于平衡數(shù)據(jù)集——換言之,那些具有相同數(shù)量的示例,說明它在尋找什么,以及它可以忽略什么。網(wǎng)絡(luò)安全數(shù)據(jù)高度不平衡:很少有威脅行為的例子埋藏在絕大多數(shù)正常行為中。

  一個特定子網(wǎng)絡(luò)內(nèi)所有連接的可視化。幸運的是,在監(jiān)督學(xué)習(xí)失敗的情況下,無人監(jiān)督的學(xué)習(xí)勝過了。后者可以查看大量未標(biāo)記的數(shù)據(jù),并找到不遵循典型模式的片段。因此,它可以面對系統(tǒng)從未見過的威脅,并且需要很少的反常數(shù)據(jù)點來這樣做。

  當(dāng)Darktrace部署其軟件時,它會在客戶端的網(wǎng)絡(luò)周圍建立物理和數(shù)字傳感器來繪制其活動。這些原始數(shù)據(jù)被傳送到60多個不同的無監(jiān)督學(xué)習(xí)算法,這些算法相互競爭以發(fā)現(xiàn)異常行為。

  然后,這些算法將它們的輸出吐出到另一個主算法中,該主算法使用各種統(tǒng)計方法來確定60個中的哪些要聽,哪些要忽略。所有這些復(fù)雜性被封裝成一個最終的可視化,允許人類操作員快速地查看和響應(yīng)可能的違規(guī)行為。當(dāng)人類下一步該做什么時,系統(tǒng)就可以通過隔離被感染設(shè)備的所有外部通信來隔離破裂直到解決。

  然而,無人監(jiān)督的學(xué)習(xí)并不是一顆銀彈。隨著攻擊者變得越來越復(fù)雜,他們在愚弄機器,無論他們使用什么類型的機器學(xué)習(xí)方面都變得更好。有一個貓和老鼠的游戲,攻擊者可以嘗試改變他們的行為,Dawn Song說:“網(wǎng)絡(luò)安全和機器學(xué)習(xí)專家在加州大學(xué)伯克利分校。

  作為回應(yīng),網(wǎng)絡(luò)安全界已經(jīng)轉(zhuǎn)向了積極的方法——“更好的安全架構(gòu)和原則,以便系統(tǒng)通過構(gòu)建更加安全,”她說。但要徹底根除所有違規(guī)和欺詐行為還有很長的路要走。畢竟,她補充道,“整個系統(tǒng)的安全性取決于它最薄弱的環(huán)節(jié)?!?/p>

  注: 現(xiàn)實生活中常常會有這樣的問題:缺乏足夠的先驗知識,因此難以人工標(biāo)注類別或進行人工類別標(biāo)注的成本太高。很自然地,我們希望計算機能代我們完成這些工作,或至少提供一些幫助。根據(jù)類別未知(沒有被標(biāo)記)的訓(xùn)練樣本解決模式識別中的各種問題,稱之為無監(jiān)督學(xué)習(xí)。




評論


相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉