當前，5G、大數(shù)據(jù)、云計算、深度學習等新技術不斷發(fā)展并廣泛應用，帶來了諸多新型安全防護挑戰(zhàn)，而人工智能在威脅識別、告警研判、態(tài)勢感知、風險評估、惡意檢測、安全運營等方面具有獨特價值和先天優(yōu)勢，因此利用人工智能技術為網(wǎng)絡安全領域賦能成為大勢所趨。
新形勢對網(wǎng)絡安全防護
提出新要求
隨著全球網(wǎng)絡空間戰(zhàn)略博弈的升級和攻防對抗的持續(xù)加劇，網(wǎng)絡安全形勢正在發(fā)生深刻變化。一方面，網(wǎng)絡攻擊強度烈度不斷升級。網(wǎng)絡攻擊手段不斷升級、強度持續(xù)提升、規(guī)模不斷擴大，網(wǎng)絡攻擊主體更加多元，涉及個人、企業(yè)、社會組織甚至國家。另一方面，網(wǎng)絡安全形勢發(fā)生深刻變化。隨著人工智能、物聯(lián)網(wǎng)、大數(shù)據(jù)等技術不斷創(chuàng)新和相互滲透，網(wǎng)絡空間與物理空間高度融合，二者關聯(lián)愈發(fā)密切、邊界趨于模糊。因此，網(wǎng)絡空間攻擊可對物理空間造成威脅，甚至引發(fā)國計民生領域相關業(yè)務停滯，安全風險從單點向全局蔓延。
同時，信息技術的持續(xù)演進催生了新的安全防護需求。例如，6G、算力網(wǎng)絡、人工智能等新一代信息技術賦能行業(yè)創(chuàng)新發(fā)展，在“技術紅利”加速釋放之際，安全問題也愈發(fā)凸顯，安全防護需求急劇增加。
一是6G多元融合應用激發(fā)增強級安全防御需求。6G網(wǎng)絡具有海量多模數(shù)據(jù)、多元融合場景、全域網(wǎng)絡融合等特點，在沉浸式通信、智慧城市運營、智能制造交互等場景應用方面，產生了輕量化、細粒度、可定制、原子化、可編排等新的安全防護需求。
二是算力網(wǎng)絡提速發(fā)展面臨錯綜復雜的安全挑戰(zhàn)。算力網(wǎng)絡已成為千行百業(yè)數(shù)字化轉型的基石底座，“云、網(wǎng)、邊、算”等環(huán)節(jié)安全風險積聚，風險點位和攻擊入口增多;算力、網(wǎng)絡、管理方面風險交織，安全風險級聯(lián)影響范圍不斷擴大。
三是人工智能應用帶來新的安全風險。ChatGPT引發(fā)全球大模型競賽，推動人工智能從專用弱智能向通用強智能邁進，智能水平的躍遷、應用模式的變革加劇了人工智能安全風險。“類人”的通用強智能使得大模型具有很強的邏輯、記憶、理解、推理和生成能力，可以做到觸類旁通和智能涌現(xiàn)。但同時，人工智能技術也將大幅降低網(wǎng)絡攻擊的技術“門檻”，批量“釣魚”郵件生成、批量漏洞挖掘、批量惡意代碼生成等手段，顯著加劇整體威脅態(tài)勢。此外，人工智能發(fā)展也將帶來安全風險，包括數(shù)據(jù)隱私泄露、虛假信息泛濫、算法偏見歧視、算法弱可靠性、“數(shù)據(jù)投毒”等。
在此背景下，傳統(tǒng)的網(wǎng)絡安全技術已無法滿足日益增長的安全防護需求，基于人工智能的新型網(wǎng)絡安全技術和產品應運而生。
政策、標準就位
人工智能技術經過數(shù)十年的積累和醞釀，經歷了專家系統(tǒng)、機器學習與神經網(wǎng)絡、深度學習、大模型四個階段的發(fā)展，終于開啟了實踐應用之路。目前，人工智能正驅動新一輪基礎設施建設，并與實體經濟深度融合，賦能千行百業(yè)，引發(fā)“鏈式”變革。
人工智能戰(zhàn)略法規(guī)
當前，人工智能產業(yè)蓬勃發(fā)展，全球主要國家和地區(qū)紛紛發(fā)布人工智能發(fā)展戰(zhàn)略規(guī)劃，構建人工智能安全標準體系，人工智能已然成為國際競爭的新焦點。美國公布了《國家人工智能研發(fā)戰(zhàn)略計劃》等一系列圍繞人工智能使用和發(fā)展的新舉措;歐盟委員會發(fā)布了《人工智能法案》，依法對人工智能發(fā)展進行監(jiān)管;日本提出了超智能社會5.0戰(zhàn)略，人工智能是實現(xiàn)該戰(zhàn)略的核心技術之一;韓國也發(fā)布了人工智能研發(fā)戰(zhàn)略。
而我國早在2017年就正式印發(fā)了《新一代人工智能發(fā)展規(guī)劃》(以下簡稱《規(guī)劃》)，從戰(zhàn)略態(tài)勢、總體要求、資源配置、立法、組織等層面闡述了我國人工智能發(fā)展規(guī)劃?！兑?guī)劃》還要求加強人工智能標準框架體系研究，其中包括人工智能網(wǎng)絡安全、隱私保護等技術標準。
人工智能相關標準
在人工智能的發(fā)展浪潮下，全球主要國家和標準組織積極研究制定人工智能相關標準。ISO/IEC JTC1制定了《信息技術人工智能 人工智能可信度概述》《信息技術人工智能風險管理》《信息技術人工智能倫理和社會關注概述》等標準;IEEE制定了《個人數(shù)據(jù)人工智能代理標準》《倫理驅動的機器人和自動化系統(tǒng)的本體標準》等標準;美國國家標準與技術研究院發(fā)布了《關于政府如何制定人工智能技術標準和相關工具的指導意見》。
2020年，我國國家標準化管理委員會等五部門印發(fā)《國家新一代人工智能標準體系建設指南》，要求建立人工智能標準體系，全面引領人工智能產業(yè)規(guī)范化發(fā)展的新格局。目前，國家標準化管理委員會和中國通信標準化協(xié)會(CCSA)等標準組織正在開展人工智能相關技術研究及標準化工作。
在國家標準方面，2018年1月，國家標準化管理委員會正式成立國家人工智能標準化總體組，負責人工智能標準化工作的統(tǒng)籌協(xié)調和規(guī)劃布局，目前已發(fā)布《人工智能安全標準化白皮書(2019版)》《人工智能倫理風險分析報告》等標準規(guī)范，正在研究制定人工智能術語、人工智能倫理風險評估等標準。
在行業(yè)標準方面，中國通信標準化協(xié)會聚焦人工智能大模型的技術、開發(fā)、安全、評估等方面展開研究，正在制定《人工智能開發(fā)平臺通用要求》《可信人工智能 人工智能系統(tǒng)風險管理能力要求》《移動智能終端可信人工智能安全指南》《生成式人工智能技術及產品評估方法》等行業(yè)標準。
顯然，人工智能賦能網(wǎng)絡安全已獲得足夠的政策支持，并且有全方位的標準指導，我國進入全面智能防護時代指日可待。
人工智能助力網(wǎng)絡
安全范式轉變
人工智能技術的快速發(fā)展使得網(wǎng)絡安全領域迎來前所未有的變革。在人工智能的加持下，5G、6G網(wǎng)絡安全防護能力將大幅提升，具備內生安全自感知、自適應、自生長等特點;運營商網(wǎng)絡安全運營能力體系建設將更加完善，實現(xiàn)對海量數(shù)據(jù)的降噪與分析，對新型、未知網(wǎng)絡威脅的自動化監(jiān)測和預警等。
5G內生安全
基于人工智能技術，在5G設備、5G網(wǎng)絡邊界、5G網(wǎng)元等多元視角下，構建各類5G網(wǎng)絡安全知識庫(如增強防御能力規(guī)則庫、行為庫、關聯(lián)關系庫、攻擊對抗策略庫等);基于5G網(wǎng)絡安全知識庫，設計并訓練人工智能算法，如基于狀態(tài)和行為特征挖掘的漏洞檢測算法、基于API關系圖的聚類檢測算法、基于行為特征的關聯(lián)分析算法等，進而構建5G網(wǎng)元的記憶和學習能力系統(tǒng)，實現(xiàn)智能的5G安全感知和檢測等。
6G內生安全
6G網(wǎng)絡安全將具備主動免疫、彈性自治、虛擬共生和泛在協(xié)同四個特點。主動免疫是指6G網(wǎng)絡需構建安全可信的通信環(huán)境，使網(wǎng)絡基礎設施具備一定的主動防御能力;彈性自治主要是為了適應6G云化網(wǎng)絡的安全要求，因6G的彈性可伸縮網(wǎng)絡框架已完全打破傳統(tǒng)的安全邊界，所以需要實現(xiàn)安全能力的按需定制、動態(tài)部署和彈性伸縮;虛擬共生旨在賦能安全演練、安全運維等場景，6G時代物理世界與虛擬世界深度融合，需要實現(xiàn)物理網(wǎng)絡與虛擬孿生網(wǎng)絡安全的統(tǒng)一部署，利用數(shù)字孿生技術可幫助物理網(wǎng)絡實現(xiàn)低成本試錯和智能化決策;泛在協(xié)同指的是6G網(wǎng)絡將建立“端、邊、網(wǎng)、云”智能主體間的泛在交互和協(xié)同機制，借助人工智能技術，精準感知網(wǎng)絡安全態(tài)勢并預測潛在風險，進而實現(xiàn)主動防御和風險自動處置。
在6G內生安全框架中，新增獨立的安全平面，推動資源層、網(wǎng)絡層、應用層和服務層實現(xiàn)智能協(xié)同，并靈活調整網(wǎng)元、設備的安全策略，針對應用與服務按需部署安全功能，進而實現(xiàn)主動、縱深安全防御。
自動化網(wǎng)絡安全運營
運營商網(wǎng)絡是國家重要的信息基礎設施，一旦遭受網(wǎng)絡攻擊，可能會導致通信中斷和業(yè)務損失，因此需要對運營商網(wǎng)絡通信系統(tǒng)面臨的安全威脅進行監(jiān)測、分析和預警。然而，現(xiàn)有網(wǎng)絡安全運營能力尚不能完全滿足日益增長的網(wǎng)絡安全防護新要求，需要不斷提升安全威脅的檢測能力和處置效率。
以人工智能大模型技術賦能網(wǎng)絡安全已成為行業(yè)共識。一方面，人工智能技術(如安全沙箱人工智能技術)可用于惡意樣本監(jiān)測，深度學習技術可用于惡意程序家族識別、惡意加密攻擊流量監(jiān)測和DGA(域名生成算法)域名監(jiān)測等。另一方面，借助大模型技術，可以自動執(zhí)行數(shù)據(jù)收集、提取以及威脅搜索與檢測等重復且煩瑣的任務，并通過簡單的自然語言提示實現(xiàn)任何檢測、調查或響應工作流程，降低安全運營的時間和人力成本;可以對超大規(guī)模網(wǎng)絡威脅信息進行檢測分析，對海量數(shù)據(jù)進行精準降噪，深度挖掘數(shù)據(jù)價值;可以幫助經驗不足的安全運維人員更快更好地作出決策，安全大模型擁有豐富的網(wǎng)絡安全知識，具備高級安全人員的邏輯思維和推理能力，可助力運維人員執(zhí)行復雜的安全操作，進而提升網(wǎng)絡安全運營的智能化、自動化水平。人工智能大模型賦能網(wǎng)絡安全關鍵技術如圖1所示。
結語
目前，人工智能技術在網(wǎng)絡安全領域的應用日漸成熟，我國主流廠商已先后推出多款網(wǎng)絡安全大模型產品，主要用于解決網(wǎng)絡安全運營告警數(shù)據(jù)量大、人工分析研判效率低、高級安全專家資源稀缺等問題?？梢灶A見，網(wǎng)絡安全大模型將以“虛擬安全專家”等形態(tài)快速提高網(wǎng)絡安全智能化水平，推動網(wǎng)絡安全防護更加高效、精準和全面。
分享到微信 ×
打開微信，點擊底部的“發(fā)現(xiàn)”，
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。
施工企業(yè)的數(shù)字化是怎么被玩廢的
