獨(dú)家 | 三種使用AI攻擊網(wǎng)絡(luò)安全的方法

專家告誡：攻擊者可以用機(jī)器學(xué)習(xí)來更快地破解密碼，以及建立會藏匿的惡意軟件。

三個網(wǎng)絡(luò)安全專家在NCSA和納斯達(dá)克網(wǎng)絡(luò)安全峰會上解釋了人工智能和機(jī)器學(xué)習(xí)如何逃避網(wǎng)絡(luò)安全的防護(hù)并且完成更快更有效的破壞。

十月六日星期二，國家網(wǎng)絡(luò)安全聯(lián)盟的執(zhí)行董事Kelvin Coleman，在以 “可用的安全：影響和丈量人類行為的改變”為主題的論壇中對這一部分進(jìn)行了探討。

國立標(biāo)準(zhǔn)與技術(shù)學(xué)院，員工信息技術(shù)實(shí)驗(yàn)室的首席Elham Tabassi，是這次“網(wǎng)絡(luò)安全中的人工智能和機(jī)器學(xué)習(xí)：善、惡、丑”講座中的一位嘉賓。

查看:

Security threats on the horizon: What IT pro's need to know (free PDF) (TechRepublic)

“攻擊者能使用AI來躲避檢查，藏在不能被找到的地方，并且自動開啟反偵查模式?！盩abassi說。

Digital Guardian的數(shù)字首席信息安全官Tim Bandos認(rèn)為，網(wǎng)絡(luò)安全總是需要借助人類思維來建立更強(qiáng)的防御措施來抵抗攻擊。

“AI 是助手，安全分析師和威脅偵查官是超級英雄”他說。

以下是3種AI和ML被用于網(wǎng)絡(luò)安全攻擊中的方式。

數(shù)據(jù)中毒

Tabsassi說，攻擊者有時會瞄準(zhǔn)用來訓(xùn)練機(jī)器學(xué)習(xí)模型的數(shù)據(jù)。數(shù)據(jù)中毒是通過操縱一個訓(xùn)練集來控制模型的預(yù)測能力，使模型做出錯誤的預(yù)測，比如標(biāo)記垃圾郵件為安全內(nèi)容。

數(shù)據(jù)中毒有兩種類型：攻擊ML算法可用性和攻擊算法的完整性。研究表明，訓(xùn)練集中3%的數(shù)據(jù)遭遇數(shù)據(jù)中毒會導(dǎo)致預(yù)測準(zhǔn)確率下降11%。

通過后門攻擊，一個入侵者能夠在模型的設(shè)計(jì)者不知情的情況下，在算法中添加入?yún)?。攻擊者用這個后門使得ML系統(tǒng)錯誤地將特定的可能攜帶病毒的字符串識別為良性。

Tabsssi說毒害數(shù)據(jù)的方法能夠從一個模型轉(zhuǎn)移到另一個模型。

“數(shù)據(jù)是機(jī)器學(xué)習(xí)的血液和燃料, 用來訓(xùn)練模型的數(shù)據(jù)應(yīng)該被予以同模型一樣的重視?！彼f，“用戶信任度是被模型和訓(xùn)練的質(zhì)量以及其中的數(shù)據(jù)所影響的?！?/p>

Tabassi 說業(yè)界需要制定一個標(biāo)準(zhǔn)和規(guī)則來保證數(shù)據(jù)的質(zhì)量，NIST已經(jīng)在制定國家規(guī)范以約束AI的可靠性，規(guī)范包含高階的規(guī)則和強(qiáng)調(diào)準(zhǔn)確性、安全性、偏差性、隱私性和可解釋性的技術(shù)要求。

查看 :

Social engineering: A cheat sheet for business professionals (free PDF) (TechRepublic)

生成對抗網(wǎng)絡(luò)

生成對抗網(wǎng)絡(luò)（GANs）是由兩個相互對抗的AI組成 -- 一個模擬原有的內(nèi)容，另一個負(fù)責(zé)挑出錯誤。通過二者的對抗，他們共同創(chuàng)立出與原先高度擬合的內(nèi)容。

Nvidia的研究者訓(xùn)練了一個特殊的AI模型來重建吃豆人游戲。（https://www.zdnet.com/article/nvidia-researchers-use-ai-to-recreate-pac-man-without-a-game-engine/）這個模型只是簡單地觀察了幾個小時的游戲，沒有借助游戲引擎，Stephanie Condon在ZDNet中解釋道。

Bandos說攻擊者使用GANs來模擬一般的數(shù)據(jù)傳輸規(guī)律，來將分散系統(tǒng)的注意力，并且找到能使敏感數(shù)據(jù)迅速撤離的方法。

“因?yàn)橛辛诉@些能力，他們可以在30-40分鐘內(nèi)完成進(jìn)出?！彼f，“一旦攻擊者開始使用AI和機(jī)器學(xué)習(xí)，他們就能自動運(yùn)行這些任務(wù)了?！?/p>

GANs還可以用于破解密碼，躲避殺毒軟件和欺騙面部識別，Thomas Klimek在文章“生成對抗網(wǎng)絡(luò)：他們是什么，為什么我們要害怕?！?/p>

（https://www.cs.tufts.edu/comp/116/archive/fall2018/tklimek.pdf）中如是描述。一個用機(jī)器學(xué)習(xí)建立的密碼猜測對抗網(wǎng)絡(luò)（PassGAN system），使用行業(yè)標(biāo)準(zhǔn)密碼清單上訓(xùn)練模型，最終該網(wǎng)絡(luò)能夠猜測到比其他幾個在同樣數(shù)據(jù)集上訓(xùn)練的工具更多的密碼。除了生成數(shù)據(jù)，GANs能創(chuàng)造可以躲避基于機(jī)器學(xué)習(xí)檢測的惡意軟件。

Bandos認(rèn)為用于網(wǎng)絡(luò)安全的AI算法不得不通過頻繁地重復(fù)訓(xùn)練才能識別新的攻擊。

“惡意軟件在進(jìn)化，我們也要一起進(jìn)化?！彼f。

他用“混淆”作為例子，比如一個惡意軟件的大部分是由合規(guī)的代碼組成的（所謂用合法代碼來混淆/偽裝），一個ML算法必須要能夠識別其中的惡意代碼。

僵尸程序

VMware Carbon Black的高級網(wǎng)絡(luò)安全策略師Greg Foss講道，如果AI算法被用于做決策，那么他們也能被操控做出錯誤的決策。

“如果攻擊者理解這些模型，他們就能夠用他們做壞事。”他說。

Foss說最近的一次對加密貨幣交易系統(tǒng)的攻擊就是通過僵尸程序執(zhí)行的。

“攻擊者進(jìn)入系統(tǒng)并且發(fā)現(xiàn)計(jì)算機(jī)程序如何進(jìn)行交易，然后他們用這個程序去迷惑算法?！彼f，“這個也有很多其他應(yīng)用?！?/p>

Foss補(bǔ)充說這個技術(shù)不是新的，但是現(xiàn)在這些算法比以更智能了，這大大提高了算法做出一個壞決策的風(fēng)險。

可閱覽更多相關(guān)文章

1.How to become a cybersecurity pro: A cheat sheet (TechRepublic)

2.Social engineering: A cheat sheet for business professionals (free PDF) (TechRepublic)

3.Shadow IT policy (TechRepublic Premium)

4.Online security 101: Tips for protecting your privacy from hackers and spies (ZDNet)

5.All the VPN terms you need to know (CNET)

6.Cybersecurity and cyberwar: More must-read coverage (TechRepublic on Flipboard)

原文標(biāo)題：

3 ways criminals use artificial intelligence in cybersecurity attacks

原文鏈接：

https://www.techrepublic.com/article/3-ways-criminals-use-artificial-intelligence-in-cybersecurity-attacks/