“新基建”下人工智能面臨的安全態(tài)勢(shì)與對(duì)策

一、“新基建”中的安全挑戰(zhàn)1.“新算力”挑戰(zhàn)：人工智能安全在“新基建”的發(fā)展進(jìn)程中，一方面，人工智能、異構(gòu)計(jì)算處理器等先進(jìn)計(jì)算機(jī)軟硬件技術(shù)將極大提升算法效率和計(jì)算能力；另一方面，5G、云計(jì)算等新型信息基礎(chǔ)設(shè)施的建設(shè)使高算力變得人人可及，對(duì)網(wǎng)絡(luò)空間安全提出了新的挑戰(zhàn)。首先，人工智能的關(guān)鍵任務(wù)對(duì)安全防護(hù)的及時(shí)性提出了更高要求。從銀行業(yè)務(wù)到自動(dòng)駕駛，從家庭自動(dòng)化到機(jī)器人輔助手術(shù)，這些應(yīng)用通常都具有高動(dòng)態(tài)、強(qiáng)實(shí)時(shí)等特征，要求系統(tǒng)快速適應(yīng)新環(huán)境并學(xué)習(xí)新技能。例如，汽車(chē)自動(dòng)駕駛技術(shù)通過(guò)實(shí)時(shí)學(xué)習(xí)其他成功駕駛案例，可以快速適應(yīng)意外和危險(xiǎn)的道路條件。同時(shí)，此類(lèi)關(guān)鍵任務(wù)型的人工智能系統(tǒng)也必須具備快速檢測(cè)入侵事件、識(shí)別攻擊模式并采取抵御措施的實(shí)時(shí)防護(hù)能力，從而處理噪聲輸入、抵御惡意攻擊。其次，人工智能的個(gè)性化服務(wù)需求對(duì)敏感信息保護(hù)提出了更高要求。人工智能應(yīng)用的場(chǎng)景越來(lái)越廣泛，根據(jù)用戶行為的特征（例如，適用于用戶口音的虛擬助理）和用戶偏好（例如，學(xué)習(xí)用戶駕駛習(xí)慣的自動(dòng)駕駛系統(tǒng)）提供定制化的智能決策服務(wù)已成為人工智能應(yīng)用的主要方向之一。然而，在為用戶提供更精準(zhǔn)服務(wù)的同時(shí)，系統(tǒng)需要收集大量的用戶個(gè)人信息（包括個(gè)人敏感信息）。盡管歐盟已發(fā)布GDRP，但目前關(guān)于隱私保護(hù)的政策法規(guī)和技術(shù)手段尚不完善，使得保護(hù)用戶個(gè)人隱私信息和利用這些數(shù)據(jù)獲取巨大商業(yè)利益之間的矛盾日益突出。再次，人工智能跨組織融合對(duì)數(shù)據(jù)安全共享提出了更高要求。在“新基建”趨勢(shì)下，各類(lèi)系統(tǒng)和業(yè)務(wù)的融合速度加快，跨組織、跨地域的數(shù)據(jù)共享需求越來(lái)越高。例如，醫(yī)院共享數(shù)據(jù)以預(yù)防流行病爆發(fā)，金融機(jī)構(gòu)共享數(shù)據(jù)以提高其欺詐檢測(cè)能力擴(kuò)散等。這些智能應(yīng)用有時(shí)需要使用不同機(jī)構(gòu)（甚至是有競(jìng)爭(zhēng)關(guān)系的實(shí)體）擁有的數(shù)據(jù)進(jìn)行聯(lián)合訓(xùn)練，一方面可能造成數(shù)據(jù)所有者敏感信息（如商業(yè)秘密等）泄露，另一方面也為惡意攻擊提供了更高價(jià)值的攻擊目標(biāo)和更多源的攻擊渠道。最后，基于機(jī)器學(xué)習(xí)的安全算法與軟件漏洞問(wèn)題日益突出。近年來(lái)，越來(lái)越多的網(wǎng)絡(luò)安全解決方案正在應(yīng)用機(jī)器學(xué)習(xí)方法來(lái)提高安全效率和能力。然而，機(jī)器學(xué)習(xí)系統(tǒng)引入了特定的漏洞，熟練的攻擊者可以利用這些漏洞來(lái)危害整個(gè)系統(tǒng)。因此，基于機(jī)器學(xué)習(xí)的算法和軟件本身可能成為安全鏈中最薄弱的環(huán)節(jié)。此外，在開(kāi)放互聯(lián)的數(shù)字世界中，學(xué)習(xí)系統(tǒng)經(jīng)常被部署在對(duì)抗性的環(huán)境中處理“未知”的未知信息。由于建模攻擊通常依賴(lài)于“已知”的未知信息，而“未知”的未知信息是不可預(yù)測(cè)的，這使得對(duì)機(jī)器學(xué)習(xí)系統(tǒng)的大量潛在攻擊也成為不可預(yù)測(cè)的。2.“新網(wǎng)絡(luò)”挑戰(zhàn)：5G生態(tài)安全5G網(wǎng)絡(luò)變革將帶來(lái)技術(shù)和產(chǎn)業(yè)的顛覆式發(fā)展，是數(shù)字經(jīng)濟(jì)的全面實(shí)踐和完整體現(xiàn)。雖然在網(wǎng)絡(luò)安全方面5G技術(shù)進(jìn)一步加強(qiáng)了認(rèn)證授權(quán)、隱私保護(hù)、網(wǎng)絡(luò)架構(gòu)與互通安全等保障力度，但實(shí)際應(yīng)用中的5G生態(tài)極為復(fù)雜，傳統(tǒng)的在遠(yuǎn)端集中部署的安全保護(hù)模式已經(jīng)不能滿足5G時(shí)代行業(yè)數(shù)字化、業(yè)務(wù)邊緣化的安全防護(hù)需求。首先，5G的“萬(wàn)物互聯(lián)”模式打通了物理世界和數(shù)字世界，數(shù)字資產(chǎn)的價(jià)值和意義日益突出。隨著工業(yè)互聯(lián)網(wǎng)、車(chē)聯(lián)網(wǎng)等發(fā)展，社會(huì)場(chǎng)景數(shù)字化、人工智能算法化、工業(yè)數(shù)據(jù)模型化、工業(yè)知識(shí)軟件化等趨勢(shì)越來(lái)越明顯，使得數(shù)字資產(chǎn)的范圍不斷擴(kuò)大，其價(jià)值已逐步接近物理世界資產(chǎn)，未來(lái)甚至?xí)轿锢硎澜缳Y產(chǎn)。目前，由于數(shù)字資產(chǎn)的內(nèi)涵和邊界尚不清晰，使得建立以數(shù)字資產(chǎn)保護(hù)為核心的數(shù)據(jù)保護(hù)體系面臨巨大挑戰(zhàn)。其次，5G網(wǎng)絡(luò)提供網(wǎng)絡(luò)切片機(jī)制來(lái)服務(wù)于不同的應(yīng)用業(yè)務(wù)，靈活的整體端到端切片管理編排和資源管理，使得網(wǎng)絡(luò)邊界變得十分模糊，對(duì)傳統(tǒng)依賴(lài)物理網(wǎng)絡(luò)邊界保護(hù)網(wǎng)絡(luò)空間安全的方法帶來(lái)極大挑戰(zhàn)。原則上，每個(gè)網(wǎng)絡(luò)切片是一個(gè)相對(duì)獨(dú)立的網(wǎng)絡(luò)域，配置各自不同的安全機(jī)制。但如果切片間出現(xiàn)信息泄露，攻擊者就可能從一個(gè)低安全等級(jí)的切片進(jìn)入另一個(gè)高安全等級(jí)切片，竊取、干擾目標(biāo)切片通信內(nèi)容。此外，由于是在同一物理網(wǎng)絡(luò)上共存多個(gè)切片，因此很容易受到側(cè)信道攻擊等。最后，5G利用邊緣計(jì)算模式將業(yè)務(wù)決策能力下沉到終端，從而提升用戶體驗(yàn)。但由于邊緣節(jié)點(diǎn)所處的用戶側(cè)環(huán)境復(fù)雜，容易受到非授權(quán)訪問(wèn)、惡意數(shù)據(jù)篡改等攻擊，一旦用戶側(cè)5G業(yè)務(wù)被攻擊，如果沒(méi)有配套的安全監(jiān)測(cè)手段，很容易對(duì)整個(gè)安全生產(chǎn)和基礎(chǔ)設(shè)施產(chǎn)生巨大影響。另外，由于5G網(wǎng)絡(luò)支持多樣化終端，使其面臨著終端軟件和硬件設(shè)計(jì)漏洞導(dǎo)致的安全風(fēng)險(xiǎn)。3.“新模式”挑戰(zhàn)：新型融合創(chuàng)新應(yīng)用安全隨著我國(guó)城市化進(jìn)程的快速推進(jìn)，“新基建”將新型交通網(wǎng)絡(luò)（尤其是軌道交通）和新型能源網(wǎng)絡(luò)建設(shè)作為傳統(tǒng)基礎(chǔ)設(shè)施升級(jí)的典型示范領(lǐng)域，進(jìn)而帶動(dòng)國(guó)民經(jīng)濟(jì)各行業(yè)的生產(chǎn)基礎(chǔ)設(shè)施向網(wǎng)絡(luò)化、數(shù)字化、智能化轉(zhuǎn)型，有效推動(dòng)各行業(yè)在技術(shù)、產(chǎn)業(yè)和商業(yè)模式的融合創(chuàng)新。隨著這些基礎(chǔ)設(shè)施智能化和自動(dòng)化程度的提高，其面臨的安全問(wèn)題日益突出。以近年來(lái)發(fā)展迅猛的軌道交通為例，我國(guó)即將進(jìn)入以全自動(dòng)駕駛、智能調(diào)度、智能維修、多模態(tài)生物信息識(shí)別等新技術(shù)為代表的智能運(yùn)營(yíng)時(shí)代。然而，針對(duì)軌道交通系統(tǒng)的信息安全防護(hù)還集中在對(duì)傳統(tǒng)網(wǎng)絡(luò)和信息系統(tǒng)的各類(lèi)主機(jī)及關(guān)鍵節(jié)點(diǎn)的資產(chǎn)管理、威脅預(yù)警和應(yīng)急響應(yīng)等，無(wú)法滿足未來(lái)智能交通系統(tǒng)的安全保障需求。首先，交通關(guān)鍵信息基礎(chǔ)設(shè)施安全防護(hù)體系尚不完善。隨著交通系統(tǒng)的自動(dòng)化和智能化程度越來(lái)越高，其關(guān)鍵信息基礎(chǔ)設(shè)施（如軌道交通中列車(chē)運(yùn)行控制系統(tǒng)、調(diào)度指揮系統(tǒng)、運(yùn)輸調(diào)度管理信息系統(tǒng)、客票發(fā)售與預(yù)訂系統(tǒng)等）之間的耦合關(guān)系愈發(fā)緊密。而針對(duì)這類(lèi)緊耦合復(fù)雜系統(tǒng)的安全防護(hù)體系目前還處于理論自洽階段，還遠(yuǎn)不能滿足以調(diào)度控制一體化、軌道交通公交化、旅客出行個(gè)性化等為代表的實(shí)際運(yùn)營(yíng)需求。其次，交通外場(chǎng)設(shè)備成為網(wǎng)絡(luò)安全保障盲點(diǎn)。我國(guó)交通網(wǎng)絡(luò)規(guī)模急速增長(zhǎng)，各類(lèi)交通外場(chǎng)設(shè)施、載運(yùn)工具和移動(dòng)終端等數(shù)量大幅度增長(zhǎng)且分布極為廣泛。而針對(duì)交通外場(chǎng)設(shè)施的安全保障方法受限于接口種類(lèi)、通信協(xié)議等尚沒(méi)有實(shí)現(xiàn)統(tǒng)一管理，無(wú)法實(shí)時(shí)了解各類(lèi)交通外場(chǎng)設(shè)施的運(yùn)行狀態(tài)和正在面臨的網(wǎng)絡(luò)安全威脅等內(nèi)容，更不能對(duì)這些設(shè)施實(shí)現(xiàn)遠(yuǎn)程防護(hù)和應(yīng)急響應(yīng)等功能，遠(yuǎn)未達(dá)到智能化安全管理的應(yīng)用需求。最后，交通網(wǎng)絡(luò)未知威脅感知能力尚顯不足。針對(duì)交通運(yùn)輸網(wǎng)絡(luò)中特有的交調(diào)設(shè)備、氣象設(shè)備、監(jiān)控設(shè)備、邊坡設(shè)備等，業(yè)內(nèi)尚缺乏對(duì)攻擊特征的積累，一旦遭受攻擊就可能是毫無(wú)防御能力的未知攻擊。另外，以高級(jí)持續(xù)攻擊(APT)攻擊為代表的網(wǎng)絡(luò)攻擊往往采用多種綜合的攻擊手法，能夠繞開(kāi)傳統(tǒng)基于規(guī)則的安全產(chǎn)品的檢測(cè)，使得傳統(tǒng)的基于脆弱性、反應(yīng)性、邊界性的周界安全模型很難應(yīng)對(duì)全球化、規(guī)?；?、快速演變的網(wǎng)絡(luò)攻擊。這些都極大限制了軌道交通系統(tǒng)應(yīng)對(duì)突發(fā)網(wǎng)絡(luò)安全事件的應(yīng)急響應(yīng)技術(shù)能力。二、“新基建”給安全帶來(lái)的新機(jī)遇1.人工智能為安全防護(hù)賦能人工智能技術(shù)為網(wǎng)絡(luò)空間安全防護(hù)智能化提供了新的發(fā)展機(jī)遇，可以為網(wǎng)絡(luò)空間安全防護(hù)在預(yù)測(cè)、檢測(cè)、防御和響應(yīng)等各環(huán)節(jié)全面提升安全性能提供技術(shù)支撐。在網(wǎng)絡(luò)攻擊預(yù)測(cè)方面，人工智能系統(tǒng)可以利用機(jī)器學(xué)習(xí)預(yù)判網(wǎng)絡(luò)攻擊，并結(jié)合專(zhuān)家系統(tǒng)給出智能決策，以抵御攻擊并且評(píng)估風(fēng)險(xiǎn)；在安全檢測(cè)方面，可以實(shí)時(shí)監(jiān)控網(wǎng)絡(luò)系統(tǒng)，無(wú)需人工監(jiān)視，感知網(wǎng)絡(luò)安全態(tài)勢(shì)；在網(wǎng)絡(luò)防御方面，可以利用已有的攻擊樣本判斷攻擊類(lèi)型，實(shí)現(xiàn)安全防御自動(dòng)化；在攻擊響應(yīng)方面，可以實(shí)現(xiàn)安全響應(yīng)自動(dòng)化，并允許人工干預(yù)，快速形成攻擊案件分析，為專(zhuān)家系統(tǒng)的決策支持提供基礎(chǔ)數(shù)據(jù)。2.區(qū)塊鏈的基礎(chǔ)作用區(qū)塊鏈作為一種基于密碼學(xué)原理、共識(shí)機(jī)制和數(shù)據(jù)存儲(chǔ)結(jié)構(gòu)等關(guān)鍵機(jī)制的分布式數(shù)據(jù)庫(kù)技術(shù)，使傳統(tǒng)上難以流通和商品化的“注意力”與“信用度”成為可以批量化生產(chǎn)的流通商品，革命性地?cái)U(kuò)展了經(jīng)濟(jì)活動(dòng)的范圍與提高效率的途徑。2020年4月20日，國(guó)家發(fā)改委首次明確新型基礎(chǔ)設(shè)施的范圍，基于區(qū)塊鏈的新技術(shù)基礎(chǔ)設(shè)施是其中重要組成部分。區(qū)塊鏈的兩個(gè)核心性質(zhì)“去中心化”和“不可篡改”，保證了區(qū)塊鏈的高度透明化和可追溯性，在高度開(kāi)放的動(dòng)態(tài)計(jì)算環(huán)境中創(chuàng)造了可信任基礎(chǔ)，有助于在“新基建”中建設(shè)數(shù)字社會(huì)可信體系。另外，通過(guò)將區(qū)塊鏈技術(shù)與人工智能、物聯(lián)網(wǎng)和5G等新興信息技術(shù)進(jìn)行深度融合，可以自底向上地與互聯(lián)網(wǎng)基礎(chǔ)架構(gòu)融合，實(shí)現(xiàn)可信、可靠、可用、高效的集成化應(yīng)用，從而促進(jìn)數(shù)據(jù)共享、優(yōu)化業(yè)務(wù)流程、提升協(xié)同效率、降低運(yùn)營(yíng)成本。三、“新基建”下的安全新范式“新基建”將極大促進(jìn)物理世界、人工世界和心理世界的融合進(jìn)程，為社會(huì)物理信息系統(tǒng)（Cyber-Physical-SocialSystems,CPSS）的構(gòu)建提供重要支撐?！靶禄ā睍r(shí)代的網(wǎng)絡(luò)空間安全內(nèi)涵也需要不斷發(fā)展和進(jìn)化，安全防護(hù)理念、技術(shù)思想、產(chǎn)業(yè)思維和人才培養(yǎng)等都需要全面升級(jí)。其核心就是要求安全防護(hù)體系從傳統(tǒng)“打補(bǔ)丁”式的被動(dòng)檢測(cè)防護(hù)向“增強(qiáng)免疫力”為目標(biāo)的預(yù)測(cè)引導(dǎo)防護(hù)演進(jìn)。1.建立并完善“共識(shí)性”網(wǎng)絡(luò)空間安全標(biāo)準(zhǔn)體系目前，我國(guó)已經(jīng)在大數(shù)據(jù)、人工智能、云計(jì)算等領(lǐng)域建立了較完善的技術(shù)體系和較深厚產(chǎn)業(yè)積累，在5G、智能交通、新能源等方面甚至取得了先發(fā)技術(shù)和產(chǎn)業(yè)優(yōu)勢(shì)，這使得在“新基建”發(fā)展過(guò)程中，同步建立新型網(wǎng)絡(luò)安全標(biāo)準(zhǔn)體系的技術(shù)條件和時(shí)機(jī)日漸成熟，從而促進(jìn)網(wǎng)絡(luò)空間安全領(lǐng)域從安全觀和安全策略等方面實(shí)現(xiàn)進(jìn)一步升級(jí)。在安全觀方面，傳統(tǒng)的安全觀主要強(qiáng)調(diào)物理系統(tǒng)（如工業(yè)設(shè)備）或者網(wǎng)絡(luò)空間（如互聯(lián)網(wǎng)）的單一世界安全，而在安全邊界延展過(guò)程中，基于波普爾的“三個(gè)世界”理論將成為新安全觀演化的基礎(chǔ)，即未來(lái)的安全應(yīng)該是能夠同時(shí)保障物理世界、心理世界和人工世界均安全的“大安全”。整體的、動(dòng)態(tài)的、開(kāi)放的、相對(duì)的和共同的安全觀已經(jīng)成為網(wǎng)絡(luò)信息安全領(lǐng)域的普遍共識(shí)。在安全策略方面，傳統(tǒng)的安全策略還停留在描述性安全為主、預(yù)測(cè)性安全為輔的“打補(bǔ)丁”式被動(dòng)檢測(cè)防護(hù)模式，這種“兵來(lái)將擋水來(lái)土掩”的安全策略在面對(duì)系統(tǒng)復(fù)雜性不斷提升而帶來(lái)的安全威脅時(shí)顯得力不從心。因此，需要將攻防雙方的心理和社會(huì)因素納入到安全策略的建設(shè)體系中，利用生成式對(duì)抗模型產(chǎn)生的安全大數(shù)據(jù)填補(bǔ)認(rèn)知鴻溝，建立以引導(dǎo)安全為主、預(yù)測(cè)性安全和描述性安全為輔的主動(dòng)式安全防護(hù)體系，不斷增強(qiáng)系統(tǒng)的免疫力。此外，隨著我國(guó)“一帶一路”“高鐵走出去”等的推進(jìn)，在更大范圍內(nèi)建立并完善具有共識(shí)性的網(wǎng)絡(luò)空間安全標(biāo)準(zhǔn)體系，可以有效延展網(wǎng)絡(luò)空間安全邊界，為建立網(wǎng)絡(luò)空間縱深防御體系提供基礎(chǔ)支撐。2.建立以ACP理論為基礎(chǔ)的平行安全智能系統(tǒng)通過(guò)深入分析CPSS系統(tǒng)的安全特征，融合人工智能、區(qū)塊鏈等新技術(shù)和心理學(xué)、社會(huì)學(xué)等人因要素，建立以平行智能理論為基礎(chǔ)，集描述性安全、預(yù)測(cè)性安全和引導(dǎo)性安全為一體的平行安全理論與技術(shù)體系，就成為“新基建”時(shí)代保護(hù)各類(lèi)CPSS系統(tǒng)的一種有效解決方案。其核心思想是利用人工系統(tǒng)來(lái)模擬和表示復(fù)雜的實(shí)際安全系統(tǒng)，通過(guò)計(jì)算實(shí)驗(yàn)進(jìn)行各種安全模型的訓(xùn)練分析和評(píng)估，借助虛實(shí)互動(dòng)的平行執(zhí)行來(lái)在線優(yōu)化安全模型，形成虛實(shí)空間的反饋與閉環(huán)，從而提升對(duì)復(fù)雜系統(tǒng)的智能安全防護(hù)與免疫能力。平行安全系統(tǒng)的基本框架如圖1所示。首先，通過(guò)綜合考慮CPSS系統(tǒng)中的各種復(fù)雜因素，結(jié)合理論建模、經(jīng)驗(yàn)建模和數(shù)據(jù)建模方法，建立與實(shí)際安全系統(tǒng)“伴生”的一個(gè)或多個(gè)人工安全系統(tǒng)。其次，在人工安全系統(tǒng)中，利用生成式對(duì)抗學(xué)習(xí)等智能方法與人工參與相結(jié)合的方式對(duì)系統(tǒng)攻防雙方特征與行為進(jìn)行精確建模，以自底向上的涌現(xiàn)方式實(shí)施海量計(jì)算實(shí)驗(yàn)，并在實(shí)驗(yàn)過(guò)程中模擬、記錄系統(tǒng)實(shí)時(shí)狀態(tài)及演化特性，輔助推理和預(yù)測(cè)實(shí)際安全系統(tǒng)各核心要素在不同情況下的耦合關(guān)系與演化規(guī)律。最終，通過(guò)特定的平行交互機(jī)制與協(xié)議將人工安全系統(tǒng)和實(shí)際安全系統(tǒng)連接，實(shí)時(shí)同步數(shù)據(jù)、模型、場(chǎng)景和決策等要素，并通過(guò)人工系統(tǒng)中場(chǎng)景推演，實(shí)現(xiàn)對(duì)系統(tǒng)未來(lái)狀態(tài)的預(yù)測(cè)，并相應(yīng)地調(diào)節(jié)各自的管理與控制方式。3.培養(yǎng)網(wǎng)絡(luò)空間安全優(yōu)秀人才現(xiàn)階段我國(guó)網(wǎng)絡(luò)空間安全人才培養(yǎng)遠(yuǎn)遠(yuǎn)不能滿足網(wǎng)絡(luò)大國(guó)向網(wǎng)絡(luò)強(qiáng)國(guó)轉(zhuǎn)變的需求。因此，網(wǎng)絡(luò)空間安全優(yōu)秀人才的培養(yǎng)已成為當(dāng)務(wù)之急。首先，打造“國(guó)家政策護(hù)航、高校教育為主，產(chǎn)業(yè)實(shí)踐支撐”的人才培養(yǎng)新格局。從國(guó)家層面提高網(wǎng)絡(luò)空間安全的政治站位，從保障國(guó)家安全的戰(zhàn)略高度，支持網(wǎng)絡(luò)空間安全人才的培養(yǎng)；從高校、科研機(jī)構(gòu)層面，加強(qiáng)理論知識(shí)和實(shí)際應(yīng)用的結(jié)合，提升網(wǎng)絡(luò)空間安全人才的整體水平；從產(chǎn)業(yè)應(yīng)用方面，加強(qiáng)與科研院校的實(shí)踐合作，交換信息，分享經(jīng)驗(yàn)，從而共同建設(shè)一支國(guó)際