計算機行業(yè)市場前景及投資研究報告：AI+安全投資機遇

計算機行業(yè)專題AI+安全投資機遇2023年6月1日核心觀點

安全+AI大模型有望變革網(wǎng)絡安全行業(yè)，成為安全建設新范式。

伴隨ChatGPT的持續(xù)火熱，大模型技術開始逐步應用于各個領域，其中大模型技術在網(wǎng)絡安全領域具有廣闊的應用前景。3月，微軟發(fā)布由AI賦能的安全分析工具——Microsoft

Security

Copilot，結合OpenAI大模型與微軟安全模型，大幅提升安全事件響應效率。此外，深信服在國內(nèi)率先展示安全GPT應用，基于“大模型算法+威脅情報+安全知識”訓練而成，具有自主可控、數(shù)據(jù)不出境等特性。我們認為，AI技術將推動網(wǎng)絡安全產(chǎn)業(yè)迎來重要變革，網(wǎng)絡安全廠商將以自然語言交互方式提供安全能力，可以實現(xiàn)對網(wǎng)絡安全威脅分析和響應的更加主動與智能化，將推動網(wǎng)絡安全建設迎來新范式，同時AI技術也將促進網(wǎng)絡安全產(chǎn)品和服務的創(chuàng)新和發(fā)展，激發(fā)政企機構對于安全技術的投入意愿與力度。

生成式AI應用帶來潛在的數(shù)據(jù)安全等問題，內(nèi)容監(jiān)管逐步提上日程。

AI大模型在訓練、推理過程中涉及用戶數(shù)據(jù)調用，部分案例表明ChatGPT或導致企業(yè)機密、個人隱私泄露等問題。以意大利、加拿大為代表的多國政府、隱私保護機構開始關注ChatGPT相關的數(shù)據(jù)安全問題，三星電子、蘋果公司等公司也限制員工在工作場景使用ChatGPT。與此同時，由于AI大模型在生成內(nèi)容上的概率統(tǒng)計原理，其內(nèi)容可靠性可能存在問題，AI生成的內(nèi)容也可能反映社會上的偏見或成見，或被用于詐騙等相關活動，如虛假信息制造、欺詐行為等。因此，圍繞生成式AI潛在的數(shù)據(jù)安全及生成內(nèi)容如何被合理使用引發(fā)市場關注，催生相關的安全需求。我們認為，應結合數(shù)據(jù)采集、傳輸、存儲等全生命周期，通過加密、數(shù)據(jù)水印等技術手段保護用戶隱私數(shù)據(jù)，并且對AI生成內(nèi)容進行標記，同時利用鑒別技術對AI生成內(nèi)容的可靠性及傳播鏈路進行把關。

投資策略：關注三類安全廠商。

一方面，AI技術帶來的效率提升有望激發(fā)政企對新興技術的購買意愿；另一方面，生成式AI帶動外界對數(shù)據(jù)安全問題的關注，包括大模型訓練、調優(yōu)所使用數(shù)據(jù)的安全問題，以及大模型生成內(nèi)容的可靠性、使用方式。推薦：1）數(shù)據(jù)安全解決方案提供廠商；2）內(nèi)容監(jiān)管能力提供廠商；3）密碼技術提供廠商。風險提示：

大模型開發(fā)進展不及預期；大模型結合網(wǎng)絡安全技術進度不及預期；AI生成內(nèi)容遭到濫用；監(jiān)管政策落地進度不及預期；市場競爭進一步加??；行業(yè)需求不及2預期。CONTENTS目錄1.

安全+AI大模型成為安全建設新范式2.

生成式AI應用催生相關的安全需求3.

投資策略4.

風險因素31.安全+AI大模型成為安全建設新范式I.

Microsoft

Security

Copilot開啟安全AI新歷程II.

以深信服為代表國內(nèi)安全廠商積極推進安全AI應用41.1微軟發(fā)布SecurityCopilot，大模型+安全模型開啟安全AI新歷程

3月28日，微軟推出Microsoft

Security

Copilot，首次將大模型技術應用于網(wǎng)絡安全中。Security

Copilot結合OpenAI的大模型與微軟的安全模型，大模型提供生成式AI能力，安全模型由微軟的威脅情報能力和每天超過65萬億個信號所提供的信息支持。Security

Copilot能力包括：1）通過基于自然語言的調查，提供事件響應的分步指導；2）捕捉可能遺漏的威脅，預測下一步威脅；3）通過用戶反饋和交互進行閉環(huán)學習，適應企業(yè)偏好；4）與微軟安全終端產(chǎn)品集成，提供基于安全信號的高效體驗。我們認為，Security

Copilot改變傳統(tǒng)的網(wǎng)安防御流程，有望以效率提升激發(fā)政企投入意愿；此外，繼SOAR、SASE、零信任、XDR等新興技術模式之后，Security

Copilot有望接力引領網(wǎng)安技術、模式創(chuàng)新。Security

Copilot通過自然語言交互的演示界面5資料：微軟公司官網(wǎng)1.1大模型技術強化網(wǎng)絡安全廠商的安全能力

利用生成式AI技術能夠幫助網(wǎng)絡安全廠商加強安全能力。大模型（LLM）加持的AIGC技術的出現(xiàn)，不會顛覆以前建立的ML威脅防護的技術，但隨著持續(xù)發(fā)展和能力增強，可以在更多安全領域積極使用，大幅提升威脅檢測和響應效率，降低網(wǎng)絡安全總體投入成本。大模型大幅提升網(wǎng)絡安全能力資料：亞信安全，中信證券研究部61.2深信服自研安全大模型亮相，GPT能力將賦能全產(chǎn)品線

5月18日，深信服安全GPT首秀，未來將持續(xù)投入AI大模型研發(fā)。深信服在安全領域應用GPT技術具備天然優(yōu)勢：1）擁有大量的算法、安全、調優(yōu)算力人才；2）對威脅情報和攻防技術擁有深刻理解。深信服安全GPT由“大模型算法+威脅情報+安全知識”訓練而成，具有檢測效果好、專業(yè)性強、可個性化配置、迭代快速等特點，大幅提升對流量和日志的安全檢測效果，可自動分析用戶安全現(xiàn)狀并生成處置建議，自動化調查、分析、研判以提升安全運營效率，自然語言交互以提高用戶體驗。此外，深信服安全GPT不依賴開源模型服務，做到完全自主可控，且訓練數(shù)據(jù)部署在深信服托管云上，本土采集的安全大數(shù)據(jù)不出境，在合規(guī)前提下實施匿名化和去標識化，以堅持網(wǎng)絡安全和數(shù)據(jù)安全底線。深信服安全GPT首秀深信服安全GPT界面總覽7資料：深信服公司官方微信公眾號資料：深信服公司官方微信公眾號1.2國內(nèi)多家安全廠商積極關注AI+安全應用機會

除深信服以外，多家國內(nèi)網(wǎng)絡安全廠商積極推進安全AI應用。例如，表示將基于ChatGPT相關技術和自身積累的海量安全數(shù)據(jù)，訓練專有的類ChatGPT安全大模型；安恒信息已將類ChatGPT的AI算法與數(shù)據(jù)分類分級、告警處置分析等多安全場景相結合；三六零已將國內(nèi)領先的安全大數(shù)據(jù)及安全專家能力賦能360安全AI。我們看好國內(nèi)安全AI前瞻布局者，結合政策端對網(wǎng)絡安全的持續(xù)重視，行業(yè)供給生態(tài)有望進一步豐富，行業(yè)活力有望持續(xù)向上。國內(nèi)網(wǎng)安廠商積極推進安全AI應用公司布局情況擁有IP、DNS、URL、文件黑白名單等四大信譽數(shù)據(jù)庫，是最大的威脅情報數(shù)據(jù)擁有者之一。正基于ChatGPT相關技術和自身積累的海量安全數(shù)據(jù)，訓練專有的類ChatGPT安全大模型。結合微軟Security

Copilot所展現(xiàn)的強大應用潛力，安全大模型有望廣泛應用于威脅檢測、漏洞挖掘、安全運營及自動化等領域?；诙嗄陮ψ匀徽Z言理解、自然語言處理、大數(shù)據(jù)分析、智能化處理方面研究，疊加在安全領域的技術、數(shù)據(jù)等積累，啟明星辰2022年發(fā)布“PanguBot（盤小古）”，以Chat為窗口、以人工智能為核心、以安全分析處置自動化為手段，是公司新一代智能化安全運營支撐的關鍵角色，已逐漸進入實戰(zhàn)階段，有望顯著降低政企機構安全運營成本。啟明星辰安恒信息將類ChatGPT的AI算法和數(shù)據(jù)分類分級、智能生成檢測規(guī)則、告警處置分析、客服問答系統(tǒng)、釣魚郵件分析、加密流量檢測等多場景進行結合，推進研究，并逐步落地到產(chǎn)品中。以智能加密流量檢測為例，公司EMT智能流量檢測系統(tǒng)可以結合ChatGPT技術進行更全面的流量分析，加速網(wǎng)絡威脅檢測，實時發(fā)現(xiàn)和響應攻擊行為。安恒信息三六零三六零已將國內(nèi)領先的安全大數(shù)據(jù)及安全專家能力賦能360安全AI，目前累計發(fā)現(xiàn)的高危、嚴重漏洞數(shù)量在全球各大廠商中排名第一。公司創(chuàng)始人周鴻祎近期表示，三六零很快會將全網(wǎng)數(shù)字安全大腦和GPT結合，以更好實現(xiàn)對網(wǎng)絡攻擊的防御；同時應發(fā)展城市級GPT，讓每個城市擁有自己的智慧大腦。資料：各公司官網(wǎng)及官方微信公眾號，中信證券研究部82.生成式AI應用催生相關的安全需求I.

生成式AI數(shù)據(jù)安全問題引多國關注及限制使用II.

生成式AI應用帶來潛在的內(nèi)容安全風險和機遇92.1ChatGPT潛在數(shù)據(jù)安全問題顯現(xiàn)，多國及知名機構限制使用

ChatGPT疑似數(shù)據(jù)泄露事件多發(fā)，多國關注生成式AI潛在數(shù)據(jù)安全問題。根據(jù)韓國媒體《Economist》報道（轉引自澎湃新聞），三星電子的半導體暨裝置解決方案部門發(fā)生三起涉及ChatGPT誤用與濫用案例，包括“設備信息泄露”和“會議內(nèi)容泄露”。此外，英國廣播電視公司報道稱，有ChatGPT用戶看到其他用戶的對話標題。生成式AI涉及的數(shù)據(jù)安全問題開始成為各國政府及隱私監(jiān)管機構的關注重點，如意大利個人數(shù)據(jù)保護局因年齡審核、數(shù)據(jù)和隱私安全等問題，宣布限制ChatGPT運營；加拿大聯(lián)邦隱私監(jiān)管機構宣布OpenAI涉嫌“未經(jīng)同意收集、使用和披露個人信息”。多家知名機構限制使用ChatGPTOpenAI發(fā)布聲明向ChatGPT漏洞致用戶信息泄露道歉單位具體要求公司內(nèi)部備忘錄顯示，三星電子擔心傳輸?shù)缴墒紸I平臺的數(shù)據(jù)被存儲在外部服務器上，導致其難以被追回和刪除，并可能最終被泄露給其他用戶。三星電子的新規(guī)禁止在公司所屬的電腦、平板電腦、電話及內(nèi)部網(wǎng)絡使用生成式AI系統(tǒng)。三星電子據(jù)報道，摩根大通（JP

Morgan）已限制員工使用ChatGPT，有摩根大通香港大學花旗集團知情人士稱這是出于合規(guī)方面考慮。香港大學向師生發(fā)出內(nèi)部郵件，表明禁止在港大所有課堂、作業(yè)和評估中使用chatgpt或其他ai工具。根據(jù)《財經(jīng)新聞報》（Financial

News）報道，知情人士稱，花旗不允許員工在整個公司范圍內(nèi)訪問ChatGPT。根據(jù)《華爾街日報》看到的一份文件以及知情人士的消息，開發(fā)自己的AI技術之際，蘋果公司已經(jīng)限制使用ChatGPT和其他外部AI工具。根據(jù)這份文件，蘋果公司擔心員工使用這類程序可能會泄露機密數(shù)據(jù)。蘋果公司10資料：澎湃新聞，界面新聞，中國新聞網(wǎng)，上觀新聞，中信證券研究部資料：推特@OpenAI2.1推進數(shù)據(jù)分類分級，達成數(shù)據(jù)全生命周期保護

生成式AI涉及大量用戶數(shù)據(jù)調用，數(shù)據(jù)全生命周期保護重要性進一步強化。由于AI大模型在訓練、推理、調優(yōu)等過程中涉及大量的用戶數(shù)據(jù)調用，且其中不乏敏感數(shù)據(jù)，我們認為，伴隨生成式AI技術熱潮掀起，數(shù)據(jù)安全應進一步加快提上日程。首先，各類機構需進行數(shù)據(jù)分類分級，不同類型、不同級別的數(shù)據(jù)，重要程度、可能造成的危害程度不同，應當匹配不同的保護措施，如針對敏感數(shù)據(jù)，應嚴格限制流轉至AIGC應用。此外，在數(shù)據(jù)采集、傳輸、存儲、處理、共享、銷毀等數(shù)據(jù)生命周期各階段，應通過加密、數(shù)據(jù)水印、隱私計算等多類技術手段保護用戶數(shù)據(jù)，如隱私計算技術的理念即為數(shù)據(jù)可用不可見。數(shù)據(jù)安全貫穿數(shù)據(jù)全生命周期全球數(shù)據(jù)安全技術發(fā)展情況資料：國家標準《信息安全技術數(shù)據(jù)安全治理能力成熟度模型》，中信證券研究部資料：中國信通院，Gartner數(shù)據(jù)安全技術成熟度曲線112.2生成式AI應用廣泛，Midjourney加速文生圖的推進

隨著AIGC技術的突破，生成式AI的內(nèi)容開始大范圍應用于社會中。生成式AI技術以較低的門檻、較強的娛樂屬性備受市場關注，目前越來越多的企業(yè)開始應用相關的技術，如在自然語言處理領域，生成式AI可以用于自動摘要、機器翻譯、對話系統(tǒng)等應用場景，為用戶提供更加高效、準確的服務；在圖像處理領域，生成式AI可以用于圖像生成、圖像修復等應用場景，為用戶帶來更加優(yōu)質的視覺體驗。

Midjourney發(fā)布第五代商業(yè)AI圖像生成服務，文生圖應用加速推進。Midjourney是市面上最流行、最有質感的AI圖像生成平臺之一，可將輸入的文本轉換為圖像。2023年4月，公司發(fā)布了第五代V5模型，圖更逼真、對prompt反應更靈敏，并且突破了AI繪畫最難的畫手環(huán)節(jié)，AI繪畫的元年已經(jīng)到來。Midjourney合成圖片Midjourney合成圖片資料：Midjourney，推特資料：Midjourney，澎拜新聞122.2生成式AI技術可能被濫用，引起違法犯罪行為持續(xù)增多

生成式AI內(nèi)容可能存在生成虛假信息的風險，從而引起詐騙、勒索等違法行為持續(xù)增多。由于大模型在生成內(nèi)容上的概率統(tǒng)計原理，其內(nèi)容可靠性可能存在問題，如引用的客觀數(shù)據(jù)是否是最新且的偏見或成見，或引發(fā)事件爭議?？煽康?，AI生成的內(nèi)容也可能反映社會上

隨著生成式AI技術的逐漸大眾化，技術被濫用的風險也在不斷增加，其中，生成式AI可能會被用于詐騙等相關活動。例如，通過訓練生成式AI模型，可以生成大量的虛假信息（虛假新聞、虛假廣告等），這些信息可能會誤導公眾，破壞社會穩(wěn)定。此外，生成式AI還可以被用于欺詐行為，如冒充身份、偽造證據(jù)等，這些行為可能會給個人和企業(yè)帶來巨大的經(jīng)濟損失。近期國內(nèi)AI詐騙事件匯總事件相關新聞日期類型福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元AI換臉冒充領導來詐騙2023年5月20日2023年5月5日2023年5月25日2023年4月14日2023年5月4日2023年5月24日2023年5月29日AI換臉AI換臉安徽男子9秒被騙132萬AI換臉偽造人臉動態(tài)注冊手機卡AI換臉廣州地鐵事件AI侵犯個人隱私AI虛假視頻AI新聞編撰AI主播換臉帶貨涉嫌虛假宣傳及肖像權侵犯“火車撞修路工人”假新聞傳播資料：光明網(wǎng)、北青網(wǎng)、南方都市報等，中信證券研究部132.2科技公司推出預防和打假AI行動，OpenAI發(fā)布安全辦法

科技大廠陸續(xù)推出預防和“打假AI”的行動，大模型廠商OpenAI發(fā)布保障AI的安全辦法。目前，Google、微軟、Meta等海外廠商都推出相應的產(chǎn)品或規(guī)范去預防和鑒別AI生成的虛假內(nèi)容。在大模型廠商中，2023年4月，OpenAI在官網(wǎng)發(fā)布ChatGPT安全方法（Our

approach

to

AI

safety），通過技術手段確保安全、可靠地為全球用戶提供ChatGPT服務。在發(fā)布的安全方法中，OpenAI從六個方面出發(fā)，來考慮系統(tǒng)的安全問題：構建日益安全的人工智能系統(tǒng)，從實際應用中學習以改進安全保障措施，保護兒童，尊重隱私，提高事實準確性，持續(xù)地研究和參與?？萍脊绢A防和“打假AI”的行動OpenAI發(fā)布安全辦法科技公司預防和“打假AI”的行動2019年就發(fā)布了一個大型開源數(shù)據(jù)庫，招募演員錄制了視頻后利用網(wǎng)上現(xiàn)有的deepfake技術進行偽造，最終生成的視頻數(shù)據(jù)可以幫助打假技術的開發(fā)者更好學習deepfake的算法和邏輯。2023年Google還在歐洲地區(qū)開始了用付費廣告進行對反信謠和鑒別虛假信息的大型宣傳。Google2022年推出了一個叫做“Video

Aunthenticator”的工具，它能夠對畫面中渲染邊界和灰度等級進行逐幀的實時分析進而生成可靠指數(shù)，以此來幫助用戶鑒別內(nèi)容的真實性。微軟推出過和Google類似的開源數(shù)據(jù)庫，還和微軟及MIT、牛津、UC伯克利等高校聯(lián)合發(fā)起了提供1000萬美元獎金激勵的挑戰(zhàn)賽，鼓勵更多檢測虛假信息和深度偽造技術的創(chuàng)新。MetaTwitter會對經(jīng)常發(fā)布deepfake和虛假信息的賬號進行封殺，還會將比較可疑的內(nèi)容打上標簽，并且在用戶轉發(fā)這類內(nèi)容時還會進行“確定要轉發(fā)嗎？”的提問。最新推出的社群規(guī)范規(guī)定使用真實場景進行合成的內(nèi)容必須被明確指出，這就說明所有以生成合成式AI創(chuàng)造出的內(nèi)容必須在標題或者tag中使用“合成”“虛假”等詞匯。TikTok資料：OpenAI官網(wǎng)資料：海投全球，新浪財經(jīng)，中信證券研究部142.2

AI鑒別技術或將興起，美亞柏科布局AI監(jiān)管

與此同時，AI鑒別技術或將開始逐步興起。AI應用持續(xù)引發(fā)的風險有望推動AI鑒別技術的興起，過去幾年間，數(shù)億美元資金涌向開發(fā)鑒別虛假信息技術的初創(chuàng)公司這一賽道。美亞柏科推出AIGC檢測平臺，對生成式AI產(chǎn)生內(nèi)容進行檢測識別和鑒定。在AI監(jiān)管產(chǎn)品方面，美亞柏科發(fā)布了AI-3300“慧眼”視頻圖像鑒真工作站，可以對深度合成偽造的視頻圖像、AIGC生成視頻圖像進行監(jiān)測鑒定。AI-3300“慧眼”視頻圖像鑒真工作站涵蓋40余種視頻圖像真?zhèn)舞b定算法，近10種深偽鑒定算法，同時具有智能鑒定和專業(yè)鑒定兩種鑒定模式，支持卷宗管理和三種鑒定文書生成，為司法鑒定人員提供一站式視頻圖像檢驗鑒定服務。海外AI鑒別初創(chuàng)公司情況AI-3300“慧眼”視頻圖像鑒真工作站公司融資金額主要業(yè)務在今年推出了一個叫做RAV3NCopilot的AI助手，通過使用生成式AI來制作敘事性智能和風險報告，為虛假信息安全隱患提供更多的背景分析，以此幫助安全部門進行更加高效和自動化的監(jiān)控和分析。1000萬美元BlackbirdPrimerPrimer的神經(jīng)網(wǎng)絡技術可以快速對大量文本進行掃描，根據(jù)詞語的頻率和重點提取主題，快速識別可疑信息，這樣以來可以對全球事件進行即時分析，識別用虛假信息進行的大型宣傳，對網(wǎng)絡安全攻擊事件進行反擊等等。1.68億美元使用NLP對全網(wǎng)正在進行的對話進行搜索，即使是網(wǎng)絡最深處的角落也可以觸及，然后通過對“壞種子”式信息的預判進行風險分析，這就意味著它可以預估一段看似無害的對話是否會被造謠者惡意使用，導致更加深遠的惡性影響，這種前瞻性對于虛假信息的預防來說格外關鍵。ActiveFence

1億美元研究如何監(jiān)測合成音頻和視頻的技術，對其監(jiān)測工具的訓練方式就是通過用自家的合成工具不斷生成deepfake，然后考驗監(jiān)測系統(tǒng)是否能夠察覺。DeepMedia-資料：美亞柏科官網(wǎng)資料：網(wǎng)易新聞，各公司官網(wǎng)，中信證券研究部152.2生成式AI內(nèi)容逐步納入監(jiān)管，相關制度不斷完善

各國政府正在加大對人工智能技術的監(jiān)管力度。2023年4月，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》，明確了提供者在提供服務過程中的主體責任，從生成內(nèi)容、數(shù)據(jù)安全、模型算法設計、運營規(guī)范四個方面對生成式人工智能產(chǎn)品進行約束。與此同時，美國、意大利、歐盟等國家和地區(qū)的監(jiān)管部門圍繞生成式AI也正在推進相關的監(jiān)管政策和措施，后續(xù)將落地。各國和地區(qū)圍繞生成式AI采取的監(jiān)管措施時間國家/地區(qū)主要內(nèi)容國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》，并向社會公開征求意見?！豆芾磙k法》中稱，國家支持人工智能算法、框架等技術的自主創(chuàng)新、推廣應用和國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源。《管理辦法》中明確了提供者在提供服務過程中的主體責任，從生成內(nèi)容、數(shù)據(jù)安全、模型算法設計、運營規(guī)范四個方面對生成式人工智能產(chǎn)品進行約束。