AI韌性：AI安全的革命性基準(zhǔn)模型

/research/working-groups/ai-go?2024云安全聯(lián)盟大中華區(qū)-保留所有權(quán)利。你可以在你的電腦上下載、儲(chǔ)存、展示、查看及打印，或者訪問云安全聯(lián)盟大中華區(qū)官網(wǎng)（）。須遵守以下：(a)本文只可作個(gè)人、信息獲取、非商業(yè)用途；(b)本文內(nèi)容不得篡改；(c)本文不得轉(zhuǎn)發(fā)；(d)該商標(biāo)、版權(quán)或其他聲明不得刪除。在遵循中華人民共和國(guó)著作權(quán)法相關(guān)條款情況下合理使用本文內(nèi)容，使用時(shí)請(qǐng)?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有2報(bào)告中文版支持單位標(biāo)志著公司邁入全新的發(fā)展階段。多年來，啟明星辰持續(xù)深耕于信息安全行業(yè)，星辰入侵檢測(cè)/入侵防御、統(tǒng)一威脅管理、安全管理平臺(tái)、數(shù)據(jù)安全、運(yùn)維安全審計(jì)、數(shù)據(jù)庫(kù)安全審計(jì)與防護(hù)、漏洞掃描、工業(yè)防火墻、硬件WAF、托管安全?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有4報(bào)告英文版編寫專家主要作者貢獻(xiàn)者審稿人CSA全球員工?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有5?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有6 8 9 9 9 11 12 14 16 18 20 39 40 40 40 41 42 42?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有7跟上技術(shù)進(jìn)步的步伐，這將對(duì)企業(yè)的聲譽(yù)和運(yùn)營(yíng)帶?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有8這一創(chuàng)新方法使決策者和技術(shù)團(tuán)隊(duì)能夠評(píng)估人第一部分：基本理論1.1治理與合規(guī)1.1.1治理與合規(guī)：不斷變化的目標(biāo)?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有9低對(duì)個(gè)人或社會(huì)造成傷害的風(fēng)險(xiǎn)。要做到這一點(diǎn)，就必須進(jìn)行嚴(yán)格的測(cè)試、（Privacy-by-Design）和安全設(shè)計(jì)（Secur測(cè)和評(píng)估，以識(shí)別并消除偏見和歧視。偏見為知情決策奠定基礎(chǔ)，同時(shí)發(fā)現(xiàn)可能存在的偏見。在醫(yī)療保健領(lǐng)域?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有10學(xué)習(xí)。這對(duì)模型生成正確且有用的輸出結(jié)果至擾或操縱的人工智能。本文提出了一種新視角1.2人工智能概覽1.2.1人工智能簡(jiǎn)史?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有11段簡(jiǎn)短的人工智能歷史展示了從最基本的計(jì)算器到生成1.2.2人工智能技術(shù)?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有12l機(jī)器學(xué)習(xí)（ML）l微型機(jī)器學(xué)習(xí)（tinyML）傳感器數(shù)據(jù)分析，從而實(shí)現(xiàn)各種始終在線的用例并以電池供l深度學(xué)習(xí)（高級(jí)ML）l生成式人工智能（GenAI）成、匹配學(xué)習(xí)數(shù)據(jù)的高階模式和/或預(yù)測(cè)分析。數(shù)據(jù)的簡(jiǎn)化表示進(jìn)行編碼，并預(yù)測(cè)與原始數(shù)據(jù)相l(xiāng)通用人工智能（AGI）?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有131.2.3訓(xùn)練方法概述l監(jiān)督學(xué)習(xí)l無監(jiān)督學(xué)習(xí)示例算法：k-均值聚類（k-means）、k-中l(wèi)強(qiáng)化學(xué)習(xí)?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有14l半監(jiān)督學(xué)習(xí)顯得尤為重要，因?yàn)樗茏屇Ｐ统浞掷梦礃?biāo)l聯(lián)邦學(xué)習(xí)來說是一個(gè)很好的選擇，因?yàn)樵紨?shù)據(jù)被認(rèn)為是不可?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有15聯(lián)邦學(xué)習(xí)的另一個(gè)優(yōu)勢(shì)（在之前提到的論文1.2.4訓(xùn)練方法的監(jiān)管和倫理考量框架的影響，包括《通用數(shù)據(jù)保護(hù)條例》（GDPR）、《歐盟人工智能法案》和經(jīng)濟(jì)合作與發(fā)展組織（OECD）的人工智能原則。此許多政府機(jī)構(gòu)正在積極制定相關(guān)法規(guī)，并促進(jìn)行業(yè)內(nèi)合整和倫理考量，以及對(duì)數(shù)據(jù)收集和使用的限制/要求、），?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有161.3人工智能技術(shù)的許可、專利和版權(quán)許多機(jī)器學(xué)習(xí)框架和庫(kù)都遵循開源計(jì)劃許可協(xié)議，如Apache2.0[16]或AI或ML發(fā)明的申請(qǐng)人必須更詳盡地闡明數(shù)學(xué)技術(shù)和訓(xùn)練輸入/數(shù)據(jù)，以確保能結(jié)了這些變更的深遠(yuǎn)影響，并就此主題進(jìn)行第二部分：真實(shí)案例研究和行業(yè)挑戰(zhàn)?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有172.1人工智能案例簡(jiǎn)史研究l2016年：微軟的Tay微軟的人工智能聊天機(jī)器人Tay，最初用于在Twitter上進(jìn)行有趣的對(duì)話，應(yīng)。這一事件凸顯了人工智能從公共數(shù)據(jù)中學(xué)習(xí)并反映社會(huì)偏見的挑戰(zhàn)。盡管亞馬遜開發(fā)了一個(gè)人工智能招聘引擎，但由于該引擎在篩選時(shí)傾向于男性候選人，從而引發(fā)了問題。2017年，由于公平性擔(dān)l2019年：特斯拉自動(dòng)駕駛汽車事故功能（Autopilot），隨后車輛與一輛半掛卡車相撞，導(dǎo)致Banner死亡。這一事?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有18可能間接導(dǎo)致了事故的發(fā)生和人員的死亡。盡管有人已就Autopilot的局限性發(fā)l2019年：醫(yī)療算法中的種族偏差ZiadObermeyer等人的研究論文[23]指出，一種廣泛使用的醫(yī)療算法存在嚴(yán)l2019年：蘋果信用卡涉嫌性別歧視“在一位知名軟件開發(fā)商揭露了蘋果信用卡為男性和女性客戶提供不同信束的一項(xiàng)調(diào)查[36]發(fā)現(xiàn)，蘋果的銀行合作伙伴不存在基l2020年：有偏見的罪犯評(píng)估系統(tǒng)加拿大航空公司（AirCanada）面臨嚴(yán)格審查，因?yàn)槠淞奶鞕C(jī)器人提供了有?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有19在一場(chǎng)針對(duì)聯(lián)合健康保險(xiǎn)（UnitedHealth）的法律訴訟中，多個(gè)家庭指控該人個(gè)體。埃隆-馬斯克和保守派人士指責(zé)谷歌的算法有偏見。作為回應(yīng)，Google暫停了Gemini的進(jìn)一步推廣，但其回應(yīng)缺乏透明度。這一事件凸隨著谷歌努力恢復(fù)公眾信任，Gemini事件強(qiáng)調(diào)2.2行業(yè)：法規(guī)與挑戰(zhàn)?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有202.2.1汽車汽車行業(yè)1尋求在自動(dòng)駕駛和無人駕駛功能（SAE4級(jí)和5級(jí)[45]）中應(yīng)用人許多監(jiān)管機(jī)構(gòu)目前正在制定針對(duì)汽車行業(yè)的標(biāo)準(zhǔn)供支持。此外，ISO/TR4804:2020《道路車輛——自動(dòng)駕全設(shè)計(jì)、驗(yàn)證與確認(rèn)》[52]也進(jìn)一步強(qiáng)調(diào)了安準(zhǔn)重點(diǎn)關(guān)注自動(dòng)駕駛系統(tǒng)（SAE3級(jí)和4級(jí)）的開發(fā)與驗(yàn)證，并提供了全球適用?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有21相比的情況下，顯著降低因自動(dòng)駕駛而引發(fā)的總體2.2.2航空認(rèn)的信息技術(shù)安全標(biāo)準(zhǔn)，包括ISO/IEC27001[53]、ISO/IEC42001[54]、ISO/TR全球航空業(yè)的管理機(jī)構(gòu)，如美國(guó)聯(lián)邦航空局（FA），車輛、機(jī)場(chǎng)和空軍基地的預(yù)測(cè)性維護(hù)和實(shí)體安全。此外，AI還用于管理IT安全客運(yùn)和貨運(yùn)管理等工作。大多數(shù)提出的AI使用方案都圍繞著預(yù)測(cè)性維護(hù)、航線在空中交通管理中應(yīng)用的CORDIS成果包，涵蓋了歐洲人工智能控制空中交通的?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有222.2.3關(guān)鍵基礎(chǔ)設(shè)施和基本服務(wù)點(diǎn)關(guān)注監(jiān)管框架、安全標(biāo)準(zhǔn)以及適應(yīng)技術(shù)不斷而，在大多數(shù)情況下，僅通過物聯(lián)網(wǎng)（IoT）設(shè)備、集成tinyML[8]和邊緣計(jì)算來統(tǒng)響應(yīng)速度，但卻擴(kuò)大了潛在網(wǎng)絡(luò)威脅的攻擊面。國(guó)際標(biāo)準(zhǔn)化組織（ISO）和國(guó)27002等通用框架，以及以工業(yè)自動(dòng)化和控制系統(tǒng)為重點(diǎn)的ISA/IEC6244礎(chǔ)設(shè)施中的物聯(lián)網(wǎng)和邊緣人工智能的法規(guī)具智能法案、NIS2指令和美國(guó)人工智能行政命令等現(xiàn)行法規(guī)非常重視網(wǎng)絡(luò)安全和?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有23全球范圍內(nèi)采取一致、有效的方法來保護(hù)關(guān)鍵基礎(chǔ)設(shè)施的安全。2022年，由水范網(wǎng)絡(luò)安全威脅）、預(yù)測(cè)（系統(tǒng)狀態(tài)）和優(yōu)管措施和安全治理框架也要共同發(fā)展，這就要求我們?cè)诎踩O(jiān)管方面采取謹(jǐn)慎、?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有24且在實(shí)際決策或操作中，必須要有人類參與，僅將人現(xiàn)行舉措l歐盟人工智能法案?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有25l經(jīng)合組織人工智能原則l人工智能和數(shù)據(jù)法案（AIDA）AIDA[72]旨在指導(dǎo)加拿大國(guó)內(nèi)人工智能系統(tǒng)可能會(huì)受到的傷害，避免可能產(chǎn)生的偏差結(jié)果。AIDA概述?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有26國(guó)防機(jī)構(gòu)的規(guī)則和要求也有助于國(guó)防和非國(guó)防部門推動(dòng)的。利用自然語言處理（NLP）將語音轉(zhuǎn)為文案例不斷涌現(xiàn)。1970年，通過投放傳感器，人工智能模型?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有27名的預(yù)言：“誰成為這一領(lǐng)域的領(lǐng)導(dǎo)者，誰就將成為世界的是否會(huì)造成戰(zhàn)爭(zhēng)發(fā)生得太快而人類無法干預(yù)A.Prabhakar博士的話說：“當(dāng)我們審視人人工智能在國(guó)防領(lǐng)域的應(yīng)用因其潛在的不可?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有28（NATO）制定了一項(xiàng)戰(zhàn)略，聚焦于加快推動(dòng)人工智能在國(guó)防當(dāng)中的應(yīng)用進(jìn)程。2.2.5教育和政策制定者之間有必要開展合作，來指導(dǎo)開發(fā)符?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有292.2.6金融但人們對(duì)這些法規(guī)的認(rèn)識(shí)還很有限。它們屬于風(fēng)險(xiǎn)管?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有30），?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有31?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有32模型風(fēng)險(xiǎn)管理（MRM）職能的范圍正在不斷擴(kuò)大，銀框架、流程和工具，深化了對(duì)模型生命周期的數(shù)據(jù)安全標(biāo)準(zhǔn)（DSS）是一項(xiàng)全球信息安全標(biāo)準(zhǔn)2并不涉及人工智能條款。此外，不涉及交易的銀行應(yīng)?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有33首要關(guān)注點(diǎn)是監(jiān)管合規(guī)，保護(hù)敏感和機(jī)密數(shù)據(jù)以2.2.7醫(yī)療保健高度（但非全球性）監(jiān)管的行業(yè)中，區(qū)分ML（機(jī)器學(xué)習(xí)）和GenAI（生成式人解釋性）、安全性、隱私以及防止誤用和/或故意濫用的措施等方面帶來重大挑少和/或降低相關(guān)風(fēng)險(xiǎn)。給出的相關(guān)定義包括可解釋性、問責(zé)制、透明度、遵守法規(guī)和標(biāo)準(zhǔn)、道德和負(fù)責(zé)?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有34文獻(xiàn)脫穎而出：世界衛(wèi)生組織（WHO）出版了一本非百多個(gè)相關(guān)文獻(xiàn)，提出了一個(gè)治理框架；A?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有35在醫(yī)療保健及其他領(lǐng)域利用人工智?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有36?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有37ML/AI應(yīng)用還有助于改善制藥行業(yè)的生）：為單個(gè)預(yù)測(cè)創(chuàng)建易于理解的解釋來實(shí)現(xiàn)這一點(diǎn)，即使模型本身很復(fù)雜，可以把它看作（SHapleyAdditiveexPlanations）：SHAP是另一種特征（如年齡、收入等）在進(jìn)行預(yù)測(cè)時(shí)最為重要。它幫助我們看到不同因素如何影響?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有38第三部分：人工智能韌性的重構(gòu)，受進(jìn)化論啟發(fā)的基準(zhǔn)模型示人類智能（HI）與人工智能（AI）之間的差異，最后從心理學(xué)角度審視韌性，3.1比較：生物進(jìn)化與人工智能的發(fā)展?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有393.2人工智能系統(tǒng)的多樣性和韌性智能技術(shù)和可靠但個(gè)性化的人工智能韌性解能力適應(yīng)變化的物種?！?.3對(duì)人工智能韌性進(jìn)行基準(zhǔn)測(cè)試的挑戰(zhàn)的飽和狀態(tài)，一些系統(tǒng)的性能已超過人類設(shè)定的基準(zhǔn)[106]。斯坦福大學(xué)的基礎(chǔ)個(gè)場(chǎng)景和50個(gè)指標(biāo)對(duì)模型進(jìn)行評(píng)估。重點(diǎn)是性能和預(yù)防傷害。通過評(píng)估模型在兩個(gè)截然不同的數(shù)據(jù)集（IMDB和BooIQ）中的表現(xiàn)來檢查其韌性能力；重點(diǎn)是3.4人工智能韌性的定義?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有40）：度和持續(xù)時(shí)間（外部因素）以及受壓對(duì)象的韌性/適應(yīng)制、改進(jìn)、糾正和預(yù)防行動(dòng)和/或風(fēng)險(xiǎn)具有挑戰(zhàn)性。在3.5人工智能韌性評(píng)分標(biāo)準(zhǔn)?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有413.6智能感知3.7智能系統(tǒng)的基本差異?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有42?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有43參考文獻(xiàn)/dictihttps://dictionary.camb2024]./topics/explainable-ai?utm_conten=43700074359379082&p5=e&gclid=CjwKCAjw4ZWkBhA4EiwAVJXw20HE0gNhPjlU09SzOtlJ888FRz91kTGBO2tRsZZBoC_aAQAvD_BwE&gclsrc=aw.ds.2024].Accountability,andTransparency.au/brain/intelligent-machines/history-artif?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有44/blog/what-i/topics/strong-ft.me/2015/12/24/types/wiki/Wisdom/en/tos./2024/02/23/reddit-60m-deal-google-search-els-on-posts/.[Access/license/apache-2Available:/license/mit.[Accessed02 ____ ____/epo-updates-guidelines-for-e?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有45https://www.privacyworld.blog/2024/03/japans-new-draft-guideyright-is-it-really-ok-to-train-ai-using-pirated-materials/.[Accessed012024]./2016/3/24/11297050/tay-micrAvailable:/blog/2016/03/25/learning-tays-introduction/./wiki/Tay_(chatbot).[27]J.Dastin,"httpshttps://globalnews.ca/news/4532172/amazon-jobs-ai-bias/2018/10/10/17958784/ai-recruiting[29]S.W.a.H.Schellmann,"LinkedIn’sj?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有46/2021/06/23/1026825/linkedter-monster-artificial-intel/technology/interactive/2023//business/2019/11/11/apple-ks-gender-bias-allegations-against-goldman-sachs[Online].Available:/news/story/the-apple-card-didnt-see-gendera/2019/11/10/business/Apple-credit-ca/2019/11/11/20958953/apple-creditmination-algorithms-black-bo?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有47investigatorssay,"The/2021/3/23/22347127/goldman-sacder-discrimination.[Access/2020/07/17/1005396/predicthms-racist-dismantled-machine-learning-bias-crimi2024].[40]A.Zilber,"AirCanadaorderedtorefundpassengerafter‘misleading’/2024/02/19/business/air-canada-ordered-after-ai-chatbots-misleading-messages/.[Acc/tech-policy/2024/02/air-canada-must-honvented-by-airlines-chatbot//news/unitedhealth-lawsuit-ai-deny-antage-health-insurance-denials/.[Acce/legal/lawsuit-claims-unitedhealth-ai-wderly-extendedcare-2023-11-14/.[Accehttps://blog.google/technology/ai/google-gemini-next-generatio?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有48/6835975/google-gemini-backlash-bias/blog/sAvailable:https://eur-lex.europa.eu/eli/reg/2019/224022024].[Online].Available:ht2024].https://www.iks.fraunhofer.de/en/topics/artificial-intelligence/ai/standhttps://www.iec.ch/blog/new-standard-inc/s?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有49Available:https://nvlpubs.nist2024].https://www.caa.co.2024]. __ __2024]./aviation-news/aerospace/2023-0on-how-ai-transformhttps://op.europa.eu/en/publication-detail/-/publication/c0e52-01aa75ed71a1.[AccessedTheWorld’sOnlyCo/standards-and-publications/isa-standards/ishttps://webstore.iec.ch/publihttps://webstore.iec.ch/publi?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有50https://www.enisa.europa.eu/publications/cybersecurity-and-priva/sites/default/files/file/2022-11/2022_IW/briefing-room/presidential-acttive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificiaelligence/.[Accessed24DefenseAgency,[Onlinhttps://eur-lex.europa.eu/legal-contehttps://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a75ed71a1.0001.02/DOC_2&format=PDF.[Accessedhttps://www.europarl.europa.eu/news/en/press-room/20231206-intelligence-actdeal-on-comprehensive-rules-fo2024].?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有51Available:https://oecd.ai/en/dashboardhttps://ised-isde.canada.ca/site/innovation-better-canada/en/artific/magazines/naval-history-magazine/2021/News/Releases/Release/Article/17utlines-path-forward-for-artificial-intelligence/.[Accessed02032024]./2017/09/01/world/putin-artificial-intellig/index.html.[Accessed02032014].?2024云安全聯(lián)盟大中華區(qū)版權(quán)所有52/supervi/article/286790/software-testing-lessons-letrack.us/congress/bill/bill/107th2024].https://www.bankingsupervision.europa.eu/press/pr/date/209~8c10a7d827.en.html.[Acce