人工智能對(duì)網(wǎng)絡(luò)威脅的近期影響（中文版）

人工智能對(duì)網(wǎng)絡(luò)威脅的短期影響-NCSC。GOV.英國(guó)人工智能對(duì)網(wǎng)絡(luò)威脅的近期影響NCSC的評(píng)估，重點(diǎn)是人工智能將如何影響網(wǎng)絡(luò)行動(dòng)的效力，以及未來(lái)兩年對(duì)網(wǎng)絡(luò)威脅的影響。英國(guó)網(wǎng)絡(luò)政策評(píng)論在2023年11月舉行的布萊切利人工智能協(xié)會(huì)峰會(huì)上，國(guó)際領(lǐng)導(dǎo)人聚在一起在促進(jìn)經(jīng)濟(jì)增長(zhǎng)、推動(dòng)科學(xué)進(jìn)步和為其提供廣泛的公眾服務(wù)方面的巨大潛責(zé)任的開(kāi)發(fā)和使用人工智能技術(shù)可能帶來(lái)的安全風(fēng)險(xiǎn)。英國(guó)政府正在評(píng)估雖然我們必須關(guān)注人工智能所構(gòu)成的風(fēng)險(xiǎn)，但。例如，人工智能可以改進(jìn)對(duì)網(wǎng)絡(luò)攻擊的檢測(cè)和分類，并識(shí)別峰會(huì)宣言強(qiáng)調(diào)了確保人工智能以安全、以人為本、可靠用的重要性。NCSC繼續(xù)與國(guó)際合作伙伴和行業(yè)合作，為人工智能的安全開(kāi)們能夠?qū)崿F(xiàn)人工智能為社會(huì)提供的貢獻(xiàn)，并于2023年11月發(fā)布安全NCSC評(píng)估NCSC評(píng)估（NCSC-A）是關(guān)于英國(guó)面臨的網(wǎng)絡(luò)威脅的權(quán)威聲音。我們?nèi)诤狭怂衼?lái)源的信息——分類情報(bào)、行業(yè)知識(shí)、學(xué)術(shù)材料和開(kāi)源——來(lái)提供獨(dú)立的關(guān)鍵判斷，為政策決策和改善英國(guó)的網(wǎng)絡(luò)安全。我們與政府、行業(yè)和國(guó)際合作伙伴密切合作，為我們的評(píng)估提供專家意見(jiàn)。.英國(guó)/報(bào)告/網(wǎng)絡(luò)對(duì)網(wǎng)絡(luò)威脅的影響1/8人工智能對(duì)網(wǎng)絡(luò)威脅的短期影響-NCSC。GOV.英國(guó)NCSC-A是情報(bào)評(píng)估專業(yè)負(fù)責(zé)人（PHIA）的一部分。PHIA通過(guò)分析貿(mào)易技術(shù)、專業(yè)標(biāo)準(zhǔn)、建立和維持一個(gè)跨政府社區(qū)來(lái)領(lǐng)導(dǎo)該行業(yè)的發(fā)展。他的報(bào)告使用了來(lái)自NCSC-A產(chǎn)品的正式概率語(yǔ)言（見(jiàn)標(biāo)準(zhǔn)），來(lái)告知讀者人工智能對(duì)網(wǎng)絡(luò)威脅的短期影響。要了解更多關(guān)于NCSC-A的信息，請(qǐng)聯(lián)系查詢@.uk.“現(xiàn)實(shí)的可能性”有多大？專業(yè)情報(bào)評(píng)估主管（PHIA）概率標(biāo)準(zhǔn)每次我們做出評(píng)估、判斷或預(yù)測(cè)時(shí)，NCSC評(píng)估都使用PHIA概率標(biāo)準(zhǔn)。所使用的術(shù)語(yǔ)對(duì)應(yīng)于以下的可能性范圍：關(guān)鍵判斷人工智能（AI）幾乎肯定會(huì)在未來(lái)兩年內(nèi)增加網(wǎng)絡(luò)攻擊的數(shù)量，并提高網(wǎng)絡(luò)攻擊的影響。然而，對(duì)網(wǎng)絡(luò)威脅的影響將是不均勻的（見(jiàn)表1）。.英國(guó)/報(bào)告/網(wǎng)絡(luò)對(duì)網(wǎng)絡(luò)威脅的影響2/8人工智能對(duì)網(wǎng)絡(luò)威脅的短期影響-NCSC。GOV.英國(guó)對(duì)2025年的威脅來(lái)自于現(xiàn)有戰(zhàn)術(shù)、技術(shù)和程序（TTPs）的發(fā)展和增強(qiáng)。所有類型的網(wǎng)絡(luò)威脅行動(dòng)者——國(guó)家和非國(guó)家，技術(shù)熟練和技能較低——已經(jīng)在不同程度上使用人工智能。人工智能在偵察和社會(huì)工程方面提供了能力提升，幾乎肯定使其更有效、高效和更難探測(cè)。人工智能在網(wǎng)絡(luò)行動(dòng)中更復(fù)雜的應(yīng)用很可能僅限于能夠獲得高質(zhì)量培訓(xùn)數(shù)據(jù)、重要專業(yè)知識(shí)（包括人工智能和網(wǎng)絡(luò)）和資源的威脅行動(dòng)者。更先進(jìn)的用途不太可能在2025年之前實(shí)現(xiàn)。人工智能幾乎肯定會(huì)使對(duì)英國(guó)的網(wǎng)絡(luò)攻擊更具影響力，因?yàn)橥{行為者將能夠更快、更有效地分析外部過(guò)濾后的數(shù)據(jù)，并利用它來(lái)訓(xùn)練人工智能模型。人工智能降低了網(wǎng)絡(luò)罪犯新手、雇傭黑客和黑客活動(dòng)人員進(jìn)行有效獲取和信息收集行動(dòng)的障礙。這種增強(qiáng)的訪問(wèn)方式可能會(huì)在未來(lái)兩年內(nèi)造成全球勒索軟件的威脅。在2025年及以后，人工智能在犯罪和商業(yè)市場(chǎng)的能力商品化幾乎肯定會(huì)提高網(wǎng)絡(luò)犯罪和國(guó)家行為者的能力。上下文他的評(píng)估集中在人工智能將如何影響網(wǎng)絡(luò)行動(dòng)的有效性，以及在未來(lái)兩年內(nèi)對(duì)網(wǎng)絡(luò)威脅的影響。它沒(méi)有解決人工智能工具所面臨的網(wǎng)絡(luò)安全威脅，也沒(méi)有解決將它們納入系統(tǒng)架構(gòu)時(shí)所面臨的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。該評(píng)估假設(shè)在這段時(shí)間內(nèi)，變革性人工智能沒(méi)有取得重大突破。這一假設(shè)應(yīng)該得到審查，因?yàn)槿魏瓮黄贫伎赡軐?duì)惡意軟件和零日漏洞開(kāi)發(fā)產(chǎn)生重大影響，從而產(chǎn)生網(wǎng)絡(luò)威脅。.英國(guó)/報(bào)告/網(wǎng)絡(luò)對(duì)網(wǎng)絡(luò)威脅的影響3/8人工智能對(duì)網(wǎng)絡(luò)威脅的短期影響-NCSC。GOV.英國(guó)人工智能對(duì)網(wǎng)絡(luò)威脅的影響將被人工智能通過(guò)檢測(cè)和通過(guò)設(shè)計(jì)提高網(wǎng)絡(luò)安全彈性的作用所抵消。我們需要做更多的工作來(lái)了解人工智能在網(wǎng)絡(luò)安全方面的發(fā)展將在多大程度上限制威脅的影響。評(píng)估1.人工智能對(duì)網(wǎng)絡(luò)威脅的影響是不均衡的；無(wú)論是在網(wǎng)絡(luò)威脅行為者的使用方面，還是在能力的提升方面。2.表1：未來(lái)兩年由人工智能造成的能力提升的程度。.英國(guó)/報(bào)告/網(wǎng)絡(luò)對(duì)網(wǎng)絡(luò)威脅的影響4/8人工智能對(duì)網(wǎng)絡(luò)威脅的短期影響-NCSC。GOV.英國(guó)Intent高高機(jī)會(huì)主義的精通人工智能和網(wǎng)絡(luò)技術(shù)，資源豐富在網(wǎng)絡(luò)上有技能，有些資源限制新手網(wǎng)絡(luò)技能，有限資源Reconnaissance中度隆起中度隆起升壓工程,升壓升壓顯著提升（來(lái)自低基層）實(shí)際的隆起可能性最小隆起中等隆升（來(lái)自低基層)最小隆起最小隆起無(wú)隆起升壓升壓升壓最適合利用人工智能在先進(jìn)網(wǎng)絡(luò)操作中對(duì)抗網(wǎng)絡(luò)的潛力，例如用于高級(jí)惡意軟件生成。偵察、社會(huì)工程和滲透能力提升。將使人工智能工具激增給網(wǎng)絡(luò)新手。降低了進(jìn)入有效和可擴(kuò)展的訪問(wèn)操作的障礙——增加了設(shè)備和帳戶的成功妥協(xié)的數(shù)量。關(guān)鍵：最小隆升區(qū)區(qū)隆升區(qū)SIG顯著隆起3.人工智能將主要為威脅行動(dòng)者提供在社會(huì)工程方面的能力提升。生成型人工智能（GenAI）已經(jīng)可以用于與受害者進(jìn)行令人信服的互動(dòng)，包括創(chuàng)建誘餌文件，而不需要經(jīng)常顯示網(wǎng)絡(luò)釣魚的翻譯、拼寫和語(yǔ)法錯(cuò)誤。隨著模型的發(fā)展和吸收量的增加，這一數(shù)字在未來(lái)兩年內(nèi)很可能會(huì)增加。.英國(guó)/報(bào)告/網(wǎng)絡(luò)對(duì)網(wǎng)絡(luò)威脅的影響5/8人工智能對(duì)網(wǎng)絡(luò)威脅的短期影響-NCSC。GOV.英國(guó)4.人工智能快速總結(jié)數(shù)據(jù)的能力也很可能使威脅行動(dòng)者識(shí)別高價(jià)值資產(chǎn)進(jìn)行檢查和滲透,提高未來(lái)兩年網(wǎng)絡(luò)攻擊的價(jià)值和影響。5.包括勒索軟件參與者在內(nèi)的網(wǎng)絡(luò)參與者已經(jīng)在使用人工智能來(lái)提高網(wǎng)絡(luò)行動(dòng)的效率和有效性，如偵察、網(wǎng)絡(luò)釣魚和編碼。這一趨勢(shì)幾乎肯定會(huì)持續(xù)到2025年及以后。網(wǎng)絡(luò)釣魚通常是為了傳遞惡意軟件或竊取密碼信息，它在提供網(wǎng)絡(luò)犯罪分子進(jìn)行勒索軟件攻擊或其他網(wǎng)絡(luò)犯罪所需的初始網(wǎng)絡(luò)訪問(wèn)方面發(fā)揮著重要作用。因此，網(wǎng)絡(luò)犯罪使用可用的人工智能模型來(lái)改善訪問(wèn)能力，很可能會(huì)在短期內(nèi)導(dǎo)致全球勒索軟件的威脅。6.人工智能很可能通過(guò)使現(xiàn)有技術(shù)更高效，幫助惡意軟件和利用開(kāi)發(fā)、漏洞研究和橫向移動(dòng)。然而，在短期內(nèi)，這些地區(qū)將繼續(xù)依賴于人類的專業(yè)知識(shí)，這意味著任何有限的提升都很可能局限于已經(jīng)有能力的現(xiàn)有威脅行動(dòng)者。人工智能有可能產(chǎn)生惡意軟件，從而逃避當(dāng)前安全過(guò)濾器的檢測(cè)，但前提是它要經(jīng)過(guò)了高質(zhì)量利用數(shù)據(jù)的訓(xùn)練。這是一個(gè)現(xiàn)實(shí)的可能性，即高能力的狀態(tài)有足夠大的惡意軟件存儲(chǔ)庫(kù)，可以有效地訓(xùn)練為此目的的人工智能模型。7.隨著技術(shù)的發(fā)展，網(wǎng)絡(luò)彈性的挑戰(zhàn)將變得更加嚴(yán)峻。2025年，GenAI和大型語(yǔ)言模型(llm）將使每個(gè)人，無(wú)論他們的網(wǎng)絡(luò)安全理解水平如何，都難以評(píng)估電子郵件或密碼重置請(qǐng)求是否真實(shí)，或識(shí)別網(wǎng)絡(luò)釣魚、欺騙或社會(huì)工程嘗試。發(fā)布安全更新以修復(fù)新發(fā)現(xiàn)的漏洞和利用未打補(bǔ)丁軟件的威脅行動(dòng)者之間的時(shí)間已經(jīng)減少。這加劇了網(wǎng)絡(luò)經(jīng)理在利用已知漏洞之前修補(bǔ)它們的挑戰(zhàn)。人工智能極有可能加速這一挑戰(zhàn)，因?yàn)樽R(shí)別脆弱設(shè)備的偵察會(huì)變得更快和更精確。8.目前，專業(yè)知識(shí)、設(shè)備、時(shí)間和財(cái)政資源對(duì)于在網(wǎng)絡(luò)行動(dòng)中利用人工智能的更先進(jìn)應(yīng)用至關(guān)重要。只有那些.英國(guó)/報(bào)告/網(wǎng)絡(luò)對(duì)網(wǎng)絡(luò)威脅的影響6/8人工智能對(duì)網(wǎng)絡(luò)威脅的短期影響-NCSC。GOV.英國(guó)投資于人工智能，擁有資源和專業(yè)知識(shí)，并能夠獲得高質(zhì)量的數(shù)據(jù)，這將受益于其在2025年之前被用于復(fù)雜的網(wǎng)絡(luò)攻擊。幾乎可以肯定的是，高能力的國(guó)家行動(dòng)者在網(wǎng)絡(luò)威脅行動(dòng)者中最能利用人工智能在先進(jìn)網(wǎng)絡(luò)行動(dòng)中的潛力。其他國(guó)家行動(dòng)者和大多數(shù)商業(yè)公司將在未來(lái)18個(gè)月內(nèi)在社會(huì)工程、偵察和滲透方面獲得適度的能力提升。有能力和已建立的犯罪集團(tuán)也很可能有足夠的培訓(xùn)數(shù)據(jù)和資源來(lái)獲得一些提升。9.然而，這些因素可能會(huì)減少，這是一種現(xiàn)實(shí)的可能性隨著時(shí)間的推移，隨著更復(fù)雜的人工智能模型的普及和吸收量的增加，這一點(diǎn)很重要。公開(kāi)的人工智能模型已經(jīng)在很大程度上消除了參與者創(chuàng)造自己的復(fù)制技術(shù)的需求，特別是在低-諸如魚叉式網(wǎng)絡(luò)釣魚等復(fù)雜的操作。到2025年，技能較低的網(wǎng)絡(luò)行動(dòng)者幾乎肯定會(huì)從顯著的能力提升中獲益。網(wǎng)絡(luò)犯罪能力的補(bǔ)償，例如“即服務(wù)”的商業(yè)模式，幾乎可以肯定，有能力的群體將從人工智能網(wǎng)絡(luò)工具貨幣化，使任何愿意支付的人都可以獲得改進(jìn)的能力。10.到2025年，對(duì)人工智能進(jìn)行高質(zhì)量數(shù)據(jù)的培訓(xùn)，對(duì)于其在網(wǎng)絡(luò)行動(dòng)中的有效使用仍然至關(guān)重要。自動(dòng)偵察目標(biāo)、社會(huì)工程和惡意軟件的縮放障礙都主要與數(shù)據(jù)有關(guān)。但到2025年及以后，隨著成功滲透的發(fā)生，人工智能的數(shù)據(jù)幾乎肯定會(huì)改善，實(shí)現(xiàn)更快、更精確的網(wǎng)絡(luò)行動(dòng)。11.網(wǎng)絡(luò)行動(dòng)數(shù)量的增加、行動(dòng)的復(fù)雜性和影響的增加將表明威脅行動(dòng)者能夠有效地利用人工智能。這很有可能在短期內(nèi)加強(qiáng)英國(guó)政府和私營(yíng)部門面臨的網(wǎng)絡(luò)彈性挑戰(zhàn)。詞匯表.英國(guó)/報(bào)告/網(wǎng)絡(luò)對(duì)網(wǎng)絡(luò)威脅的影響