下一波重大網(wǎng)絡(luò)攻擊很可能涉及人工智能系統(tǒng)，而且攻擊活動(dòng)可能將很快發(fā)生：在最近召開的一次網(wǎng)絡(luò)安全會(huì)議上，100位受訪行業(yè)專家中的62位認(rèn)為，首輪AI強(qiáng)化型網(wǎng)絡(luò)攻擊很可能在接下來12個(gè)月內(nèi)出現(xiàn)。
這并不是說機(jī)器人將很快成為網(wǎng)絡(luò)攻擊活動(dòng)中的主體。相反，人工智能將繼續(xù)遵循現(xiàn)有網(wǎng)絡(luò)攻擊的套路(例如身份竊取、拒絕服務(wù)攻擊以及密碼破解)，只是具備更為強(qiáng)大的能力與執(zhí)行效率。但憑這一點(diǎn)，足以造成經(jīng)濟(jì)損失、情感傷害甚至人身威脅等危險(xiǎn)后果。規(guī)模更大的攻擊活動(dòng)甚至有可能導(dǎo)致數(shù)十萬人陷入無電可用的境地，關(guān)閉醫(yī)院甚至影響到國家安全。
AI決策制定的研究者警告稱，AI仍然很難解釋人類行為，而人類也并不真正相信AI系統(tǒng)作出的重大決策。因此與電影橋段有所不同，AI能夠?yàn)榫W(wǎng)絡(luò)攻擊以及網(wǎng)絡(luò)防御帶來的并非由計(jì)算機(jī)選定目標(biāo)并自動(dòng)施以攻擊。人們?nèi)匀恍枰孕袆?chuàng)建AI攻擊系統(tǒng)，并設(shè)定特定目標(biāo)再將其啟動(dòng)。但盡管如此，AI的介入仍然會(huì)進(jìn)一步升級(jí)目前的網(wǎng)絡(luò)犯罪與網(wǎng)絡(luò)安全體系，進(jìn)而成為攻擊者與防御者之間軍備競賽的核心支柱之一。
AI的優(yōu)勢
除了不需要進(jìn)食與休息之外，計(jì)算機(jī)相較于人類黑客團(tuán)隊(duì)還擁有另一大根本性優(yōu)勢，以自動(dòng)化方式提升復(fù)雜攻擊的速度與執(zhí)行效率。
截至目前，自動(dòng)化的實(shí)際效果仍然存在局限。幾十年以來，病毒程序自動(dòng)復(fù)制等能力已經(jīng)屬于非常基本的AI型功能，其能夠在無需人類指令操縱的前提下完成在計(jì)算機(jī)之間的傳播。
另外，程序員還會(huì)利用自有技能對(duì)不同黑客元素進(jìn)行自動(dòng)化升級(jí)。舉例來說，分布式攻擊利用多臺(tái)計(jì)算機(jī)或設(shè)備上的遠(yuǎn)程程序?qū)⒎?wù)器吞沒。
2016年10月導(dǎo)致部分互聯(lián)網(wǎng)體系癱瘓的攻擊活動(dòng)就采用了這種實(shí)現(xiàn)方式。在某些情況下，普通攻擊亦可通過腳本形式起效，從而允許技術(shù)水平較低的用戶選定目標(biāo)并發(fā)動(dòng)攻擊。
不過AI能夠幫助人類網(wǎng)絡(luò)犯罪分子定制攻擊手段。舉例來說，魚叉式釣魚攻擊要求攻擊者獲取潛在目標(biāo)的個(gè)人信息以及其它詳細(xì)資料，具體包括銀行帳戶或者其選擇的醫(yī)療保險(xiǎn)公司。AI系統(tǒng)能夠幫助攻擊者快速收集、組織并處理大型數(shù)據(jù)庫，從而對(duì)信息進(jìn)行關(guān)聯(lián)與識(shí)別，最終簡化攻擊實(shí)施門檻并加快攻擊執(zhí)行速度。另外，工作量的降低將使得網(wǎng)絡(luò)犯罪分子能夠發(fā)動(dòng)大量小規(guī)模攻擊。由于單次攻擊的影響較為有限，因此這類活動(dòng)即使被檢測到也往往會(huì)受到忽視。
AI系統(tǒng)甚至可被用于從多個(gè)來源處同時(shí)提取信息，從而發(fā)現(xiàn)那些易受攻擊活動(dòng)影響的目標(biāo)。舉例來說，住院的病患或者身處療養(yǎng)院的老人可能不會(huì)注意到自己的帳戶余額已經(jīng)被惡意人士所竊取。
提升適應(yīng)能力
AI支持型攻擊者在遇到阻力，或者網(wǎng)絡(luò)安全專家修復(fù)了原有漏洞時(shí)將能夠快速作出反應(yīng)。在這種情況下，AI可能會(huì)在無需人為指示的前提下轉(zhuǎn)而利用另一項(xiàng)漏洞，或者對(duì)系統(tǒng)進(jìn)行掃描以找到新的可行入侵方式。
這可能意味著人類應(yīng)急工作者及防御者將無法跟上AI方案的進(jìn)攻速度。這極有可能引發(fā)新一輪編程與技術(shù)性軍備競賽，其中防御者開發(fā)出AI助手以發(fā)現(xiàn)并抵御攻擊活動(dòng)，甚至打造出擁有報(bào)復(fù)性攻擊能力的AI方案。
AI同樣可能帶來的危險(xiǎn)
自主操作可能導(dǎo)致AI系統(tǒng)攻擊其本不應(yīng)攻擊，甚至可能造成意外損失的系統(tǒng)。
舉例來說，原本只打算竊取資金的攻擊者在運(yùn)行AI軟件后，其也許會(huì)決定將目標(biāo)指向醫(yī)院計(jì)算機(jī)，這極易導(dǎo)致人身傷害甚至是死亡等嚴(yán)重后果。無人機(jī)的自主運(yùn)行能力也存在類似的問題：人類仍需要負(fù)責(zé)做出關(guān)于目標(biāo)選取的決定。
盡管后果與影響如此重要，但大多數(shù)在遭遇第一次AI攻擊時(shí)并不會(huì)注意到此類重大變化。對(duì)于大多數(shù)受影響群體，其面臨的結(jié)果與人為觸發(fā)的攻擊將基本相同。但隨著我們不斷利用互聯(lián)網(wǎng)機(jī)器人系統(tǒng)改進(jìn)自身家庭環(huán)境、工廠、辦公室乃至交通運(yùn)輸系統(tǒng)，人工智能引發(fā)的潛在威脅必將不斷提升。
轉(zhuǎn)型的最終目的 -提質(zhì)降本增效
分享到微信 ×
打開微信，點(diǎn)擊底部的“發(fā)現(xiàn)”，
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。