人工智能時代，如何打造網(wǎng)絡(luò)安全“新范式”？

當(dāng)前，5G、大數(shù)據(jù)、云計算、深度學(xué)習(xí)等新技術(shù)不斷發(fā)展并廣泛應(yīng)用，帶來了諸多新型安全防護(hù)挑戰(zhàn)，而人工智能在威脅識別、告警研判、態(tài)勢感知、風(fēng)險評估、惡意檢測、安全運(yùn)營等方面具有獨(dú)特價值和先天優(yōu)勢，因此利用人工智能技術(shù)為網(wǎng)絡(luò)安全領(lǐng)域賦能成為大勢所趨。

01、新形勢對網(wǎng)絡(luò)安全防護(hù)提出新要求

隨著全球網(wǎng)絡(luò)空間戰(zhàn)略博弈的升級和攻防對抗的持續(xù)加劇，網(wǎng)絡(luò)安全形勢正在發(fā)生深刻變化。一方面，網(wǎng)絡(luò)攻擊強(qiáng)度烈度不斷升級。網(wǎng)絡(luò)攻擊手段不斷升級、強(qiáng)度持續(xù)提升、規(guī)模不斷擴(kuò)大，網(wǎng)絡(luò)攻擊主體更加多元，涉及個人、企業(yè)、社會組織甚至國家。另一方面，網(wǎng)絡(luò)安全形勢發(fā)生深刻變化。隨著人工智能、物聯(lián)網(wǎng)、大數(shù)據(jù)等技術(shù)不斷創(chuàng)新和相互滲透，網(wǎng)絡(luò)空間與物理空間高度融合，二者關(guān)聯(lián)愈發(fā)密切、邊界趨于模糊。因此，網(wǎng)絡(luò)空間攻擊可對物理空間造成威脅，甚至引發(fā)國計民生領(lǐng)域相關(guān)業(yè)務(wù)停滯，安全風(fēng)險從單點(diǎn)向全局蔓延。

同時，信息技術(shù)的持續(xù)演進(jìn)催生了新的安全防護(hù)需求。例如，6G、算力網(wǎng)絡(luò)、人工智能等新一代信息技術(shù)賦能行業(yè)創(chuàng)新發(fā)展，在“技術(shù)紅利”加速釋放之際，安全問題也愈發(fā)凸顯，安全防護(hù)需求急劇增加。

一是6G多元融合應(yīng)用激發(fā)增強(qiáng)級安全防御需求。6G網(wǎng)絡(luò)具有海量多模數(shù)據(jù)、多元融合場景、全域網(wǎng)絡(luò)融合等特點(diǎn)，在沉浸式通信、智慧城市運(yùn)營、智能制造交互等場景應(yīng)用方面，產(chǎn)生了輕量化、細(xì)粒度、可定制、原子化、可編排等新的安全防護(hù)需求。

二是算力網(wǎng)絡(luò)提速發(fā)展面臨錯綜復(fù)雜的安全挑戰(zhàn)。算力網(wǎng)絡(luò)已成為千行百業(yè)數(shù)字化轉(zhuǎn)型的基石底座，“云、網(wǎng)、邊、算”等環(huán)節(jié)安全風(fēng)險積聚，風(fēng)險點(diǎn)位和攻擊入口增多；算力、網(wǎng)絡(luò)、管理方面風(fēng)險交織，安全風(fēng)險級聯(lián)影響范圍不斷擴(kuò)大。

三是人工智能應(yīng)用帶來新的安全風(fēng)險。ChatGPT引發(fā)全球大模型競賽，推動人工智能從專用弱智能向通用強(qiáng)智能邁進(jìn)，智能水平的躍遷、應(yīng)用模式的變革加劇了人工智能安全風(fēng)險?！邦惾恕钡耐ㄓ脧?qiáng)智能使得大模型具有很強(qiáng)的邏輯、記憶、理解、推理和生成能力，可以做到觸類旁通和智能涌現(xiàn)。但同時，人工智能技術(shù)也將大幅降低網(wǎng)絡(luò)攻擊的技術(shù)“門檻”，批量“釣魚”郵件生成、批量漏洞挖掘、批量惡意代碼生成等手段，顯著加劇整體威脅態(tài)勢。此外，人工智能發(fā)展也將帶來安全風(fēng)險，包括數(shù)據(jù)隱私泄露、虛假信息泛濫、算法偏見歧視、算法弱可靠性、“數(shù)據(jù)投毒”等。

在此背景下，傳統(tǒng)的網(wǎng)絡(luò)安全技術(shù)已無法滿足日益增長的安全防護(hù)需求，基于人工智能的新型網(wǎng)絡(luò)安全技術(shù)和產(chǎn)品應(yīng)運(yùn)而生。

02、政策、標(biāo)準(zhǔn)就位“人工智能+安全”風(fēng)口已至

人工智能技術(shù)經(jīng)過數(shù)十年的積累和醞釀，經(jīng)歷了專家系統(tǒng)、機(jī)器學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)、大模型四個階段的發(fā)展，終于開啟了實(shí)踐應(yīng)用之路。目前，人工智能正驅(qū)動新一輪基礎(chǔ)設(shè)施建設(shè)，并與實(shí)體經(jīng)濟(jì)深度融合，賦能千行百業(yè)，引發(fā)“鏈?zhǔn)健弊兏铩?/p>

人工智能戰(zhàn)略法規(guī)

當(dāng)前，人工智能產(chǎn)業(yè)蓬勃發(fā)展，全球主要國家和地區(qū)紛紛發(fā)布人工智能發(fā)展戰(zhàn)略規(guī)劃，構(gòu)建人工智能安全標(biāo)準(zhǔn)體系，人工智能已然成為國際競爭的新焦點(diǎn)。美國公布了《國家人工智能研發(fā)戰(zhàn)略計劃》等一系列圍繞人工智能使用和發(fā)展的新舉措；歐盟委員會發(fā)布了《人工智能法案》，依法對人工智能發(fā)展進(jìn)行監(jiān)管；日本提出了超智能社會5.0戰(zhàn)略，人工智能是實(shí)現(xiàn)該戰(zhàn)略的核心技術(shù)之一；韓國也發(fā)布了人工智能研發(fā)戰(zhàn)略。

而我國早在2017年就正式印發(fā)了《新一代人工智能發(fā)展規(guī)劃》（以下簡稱《規(guī)劃》），從戰(zhàn)略態(tài)勢、總體要求、資源配置、立法、組織等層面闡述了我國人工智能發(fā)展規(guī)劃?！兑?guī)劃》還要求加強(qiáng)人工智能標(biāo)準(zhǔn)框架體系研究，其中包括人工智能網(wǎng)絡(luò)安全、隱私保護(hù)等技術(shù)標(biāo)準(zhǔn)。

人工智能相關(guān)標(biāo)準(zhǔn)

在人工智能的發(fā)展浪潮下，全球主要國家和標(biāo)準(zhǔn)組織積極研究制定人工智能相關(guān)標(biāo)準(zhǔn)。ISO/IEC JTC1制定了《信息技術(shù)人工智能 人工智能可信度概述》《信息技術(shù)人工智能風(fēng)險管理》《信息技術(shù)人工智能倫理和社會關(guān)注概述》等標(biāo)準(zhǔn)；IEEE制定了《個人數(shù)據(jù)人工智能代理標(biāo)準(zhǔn)》《倫理驅(qū)動的機(jī)器人和自動化系統(tǒng)的本體標(biāo)準(zhǔn)》等標(biāo)準(zhǔn)；美國國家標(biāo)準(zhǔn)與技術(shù)研究院發(fā)布了《關(guān)于政府如何制定人工智能技術(shù)標(biāo)準(zhǔn)和相關(guān)工具的指導(dǎo)意見》。

2020年，我國國家標(biāo)準(zhǔn)化管理委員會等五部門印發(fā)《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》，要求建立人工智能標(biāo)準(zhǔn)體系，全面引領(lǐng)人工智能產(chǎn)業(yè)規(guī)范化發(fā)展的新格局。目前，國家標(biāo)準(zhǔn)化管理委員會和中國通信標(biāo)準(zhǔn)化協(xié)會（CCSA）等標(biāo)準(zhǔn)組織正在開展人工智能相關(guān)技術(shù)研究及標(biāo)準(zhǔn)化工作。

在國家標(biāo)準(zhǔn)方面，2018年1月，國家標(biāo)準(zhǔn)化管理委員會正式成立國家人工智能標(biāo)準(zhǔn)化總體組，負(fù)責(zé)人工智能標(biāo)準(zhǔn)化工作的統(tǒng)籌協(xié)調(diào)和規(guī)劃布局，目前已發(fā)布《人工智能安全標(biāo)準(zhǔn)化白皮書（2019版）》《人工智能倫理風(fēng)險分析報告》等標(biāo)準(zhǔn)規(guī)范，正在研究制定人工智能術(shù)語、人工智能倫理風(fēng)險評估等標(biāo)準(zhǔn)。

在行業(yè)標(biāo)準(zhǔn)方面，中國通信標(biāo)準(zhǔn)化協(xié)會聚焦人工智能大模型的技術(shù)、開發(fā)、安全、評估等方面展開研究，正在制定《人工智能開發(fā)平臺通用要求》《可信人工智能 人工智能系統(tǒng)風(fēng)險管理能力要求》《移動智能終端可信人工智能安全指南》《生成式人工智能技術(shù)及產(chǎn)品評估方法?》等行業(yè)標(biāo)準(zhǔn)。

顯然，人工智能賦能網(wǎng)絡(luò)安全已獲得足夠的政策支持，并且有全方位的標(biāo)準(zhǔn)指導(dǎo)，我國進(jìn)入全面智能防護(hù)時代指日可待。

03、人工智能助力網(wǎng)絡(luò)安全范式轉(zhuǎn)變

人工智能技術(shù)的快速發(fā)展使得網(wǎng)絡(luò)安全領(lǐng)域迎來前所未有的變革。在人工智能的加持下，5G、6G網(wǎng)絡(luò)安全防護(hù)能力將大幅提升，具備內(nèi)生安全自感知、自適應(yīng)、自生長等特點(diǎn)；運(yùn)營商網(wǎng)絡(luò)安全運(yùn)營能力體系建設(shè)將更加完善，實(shí)現(xiàn)對海量數(shù)據(jù)的降噪與分析，對新型、未知網(wǎng)絡(luò)威脅的自動化監(jiān)測和預(yù)警等。

5G內(nèi)生安全

基于人工智能技術(shù)，在5G設(shè)備、5G網(wǎng)絡(luò)邊界、5G網(wǎng)元等多元視角下，構(gòu)建各類5G網(wǎng)絡(luò)安全知識庫（如增強(qiáng)防御能力規(guī)則庫、行為庫、關(guān)聯(lián)關(guān)系庫、攻擊對抗策略庫等）；基于5G網(wǎng)絡(luò)安全知識庫，設(shè)計并訓(xùn)練人工智能算法，如基于狀態(tài)和行為特征挖掘的漏洞檢測算法、基于API關(guān)系圖的聚類檢測算法、基于行為特征的關(guān)聯(lián)分析算法等，進(jìn)而構(gòu)建5G網(wǎng)元的記憶和學(xué)習(xí)能力系統(tǒng)，實(shí)現(xiàn)智能的5G安全感知和檢測等。

6G內(nèi)生安全

6G網(wǎng)絡(luò)安全將具備主動免疫、彈性自治、虛擬共生和泛在協(xié)同四個特點(diǎn)。主動免疫是指6G網(wǎng)絡(luò)需構(gòu)建安全可信的通信環(huán)境，使網(wǎng)絡(luò)基礎(chǔ)設(shè)施具備一定的主動防御能力；彈性自治主要是為了適應(yīng)6G云化網(wǎng)絡(luò)的安全要求，因6G的彈性可伸縮網(wǎng)絡(luò)框架已完全打破傳統(tǒng)的安全邊界，所以需要實(shí)現(xiàn)安全能力的按需定制、動態(tài)部署和彈性伸縮；虛擬共生旨在賦能安全演練、安全運(yùn)維等場景，6G時代物理世界與虛擬世界深度融合，需要實(shí)現(xiàn)物理網(wǎng)絡(luò)與虛擬孿生網(wǎng)絡(luò)安全的統(tǒng)一部署，利用數(shù)字孿生技術(shù)可幫助物理網(wǎng)絡(luò)實(shí)現(xiàn)低成本試錯和智能化決策；泛在協(xié)同指的是6G網(wǎng)絡(luò)將建立“端、邊、網(wǎng)、云”智能主體間的泛在交互和協(xié)同機(jī)制，借助人工智能技術(shù)，精準(zhǔn)感知網(wǎng)絡(luò)安全態(tài)勢并預(yù)測潛在風(fēng)險，進(jìn)而實(shí)現(xiàn)主動防御和風(fēng)險自動處置。

在6G內(nèi)生安全框架中，新增獨(dú)立的安全平面，推動資源層、網(wǎng)絡(luò)層、應(yīng)用層和服務(wù)層實(shí)現(xiàn)智能協(xié)同，并靈活調(diào)整網(wǎng)元、設(shè)備的安全策略，針對應(yīng)用與服務(wù)按需部署安全功能，進(jìn)而實(shí)現(xiàn)主動、縱深安全防御。

自動化網(wǎng)絡(luò)安全運(yùn)營

運(yùn)營商網(wǎng)絡(luò)是國家重要的信息基礎(chǔ)設(shè)施，一旦遭受網(wǎng)絡(luò)攻擊，可能會導(dǎo)致通信中斷和業(yè)務(wù)損失，因此需要對運(yùn)營商網(wǎng)絡(luò)通信系統(tǒng)面臨的安全威脅進(jìn)行監(jiān)測、分析和預(yù)警。然而，現(xiàn)有網(wǎng)絡(luò)安全運(yùn)營能力尚不能完全滿足日益增長的網(wǎng)絡(luò)安全防護(hù)新要求，需要不斷提升安全威脅的檢測能力和處置效率。

以人工智能大模型技術(shù)賦能網(wǎng)絡(luò)安全已成為行業(yè)共識。一方面，人工智能技術(shù)（如安全沙箱人工智能技術(shù)）可用于惡意樣本監(jiān)測，深度學(xué)習(xí)技術(shù)可用于惡意程序家族識別、惡意加密攻擊流量監(jiān)測和DGA（域名生成算法）域名監(jiān)測等。另一方面，借助大模型技術(shù)，可以自動執(zhí)行數(shù)據(jù)收集、提取以及威脅搜索與檢測等重復(fù)且煩瑣的任務(wù)，并通過簡單的自然語言提示實(shí)現(xiàn)任何檢測、調(diào)查或響應(yīng)工作流程，降低安全運(yùn)營的時間和人力成本；可以對超大規(guī)模網(wǎng)絡(luò)威脅信息進(jìn)行檢測分析，對海量數(shù)據(jù)進(jìn)行精準(zhǔn)降噪，深度挖掘數(shù)據(jù)價值；可以幫助經(jīng)驗(yàn)不足的安全運(yùn)維人員更快更好地作出決策，安全大模型擁有豐富的網(wǎng)絡(luò)安全知識，具備高級安全人員的邏輯思維和推理能力，可助力運(yùn)維人員執(zhí)行復(fù)雜的安全操作，進(jìn)而提升網(wǎng)絡(luò)安全運(yùn)營的智能化、自動化水平。人工智能大模型賦能網(wǎng)絡(luò)安全關(guān)鍵技術(shù)如圖1所示。

圖1 人工智能大模型賦能網(wǎng)絡(luò)安全關(guān)鍵技術(shù)

04、結(jié)語

目前，人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用日漸成熟，我國主流廠商已先后推出多款網(wǎng)絡(luò)安全大模型產(chǎn)品，主要用于解決網(wǎng)絡(luò)安全運(yùn)營告警數(shù)據(jù)量大、人工分析研判效率低、高級安全專家資源稀缺等問題?？梢灶A(yù)見，網(wǎng)絡(luò)安全大模型將以“虛擬安全專家”等形態(tài)快速提高網(wǎng)絡(luò)安全智能化水平，推動網(wǎng)絡(luò)安全防護(hù)更加高效、精準(zhǔn)和全面。

*本文刊載于《通信世界》總第947期 2024年7月10日 第13期?原文標(biāo)題：人工智能賦能網(wǎng)絡(luò)安全新范式的研究

作者：中國信息通信研究院 楊紅梅 吳紅紅 戴爽

責(zé)編/版式：王禹蓉

審校：王 濤?梅雅鑫

監(jiān)制：劉啟誠