可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報(bào)告

可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報(bào)告前 言隨著新一輪科技革命和產(chǎn)業(yè)變革的深入推進(jìn)，人工智能呈現(xiàn)爆發(fā)式成長(zhǎng)，廣泛應(yīng)用于日常生產(chǎn)、生活的方方面面，社會(huì)各界對(duì)可信品質(zhì)的關(guān)注度也提升到了前所未有的高度。近年來(lái)，各界均在不斷探索將更多的可信理念從基礎(chǔ)能力、算法技術(shù)、應(yīng)用場(chǎng)景和產(chǎn)品設(shè)備等不同層面進(jìn)行融合實(shí)踐，實(shí)現(xiàn)了人工智能在安全性、可靠性、可解釋、可問(wèn)責(zé)等一系列內(nèi)在屬性的可信賴(lài)程度逐步提升，為構(gòu)建我可信智能產(chǎn)生態(tài)了有益考。為廣泛吸納產(chǎn)學(xué)研用各界的優(yōu)秀經(jīng)驗(yàn)，中國(guó)信息通信研究院聯(lián)合京東探索研究院及政產(chǎn)學(xué)研多家單位共同編寫(xiě)《可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報(bào)告》，對(duì)人工智能產(chǎn)業(yè)融合可信要素的發(fā)展態(tài)勢(shì)進(jìn)行總體分析，研判發(fā)展趨勢(shì)并提出措施建議，希望能為社會(huì)各界提供借鑒和考。主要觀如下：全球可信人工智能發(fā)展態(tài)勢(shì)向好。人工智能監(jiān)管向立法執(zhí)法拓展，歐盟發(fā)布全球首部《人工智能法案》，美國(guó)推出02算法問(wèn)責(zé)法案》，中國(guó)人工智能地方立法相繼落地；穩(wěn)定性、隱私保護(hù)成為熱點(diǎn)，可解釋性、公平性等研究正逐步開(kāi)展；標(biāo)準(zhǔn)層面，行業(yè)組織、企和研構(gòu)共同進(jìn)，打造可信AI標(biāo)準(zhǔn)系?？尚湃斯ぶ悄墚a(chǎn)業(yè)生態(tài)加快形成?？尚湃斯ぶ悄軅惱?、法律研究進(jìn)一步深入，在硬件、技術(shù)、應(yīng)用及支撐體系等層面蓬勃發(fā)展，形成兼顧穩(wěn)定性、可解釋性、隱私保護(hù)和公平性，涵蓋基礎(chǔ)硬件、技術(shù)平、產(chǎn)備、應(yīng)場(chǎng)景元化產(chǎn)生態(tài)。未來(lái)，可信人工智能向著形成產(chǎn)業(yè)共識(shí)、突出理念落地、優(yōu)化技術(shù)布局、注重動(dòng)態(tài)平衡、強(qiáng)化多元主體發(fā)展。凝聚強(qiáng)化產(chǎn)業(yè)共識(shí)，進(jìn)一步向具體實(shí)踐邁進(jìn)，可信人工智能一體化研究和技術(shù)發(fā)展加速創(chuàng)新，能力之間的動(dòng)態(tài)平衡引發(fā)更多關(guān)注，并形成了多元化主體參與可信智能生。建議從加強(qiáng)要素協(xié)同、前瞻布局研究、健全標(biāo)準(zhǔn)體系、強(qiáng)化可信流程管理、推動(dòng)產(chǎn)業(yè)交流合作等方面推動(dòng)深入落地。協(xié)調(diào)制度、技術(shù)、人員整體推進(jìn)；前瞻布局技術(shù)研究，將可信理念融入全流程管理；健全標(biāo)準(zhǔn)評(píng)估體系，系統(tǒng)性推進(jìn)更多領(lǐng)域可信落地；強(qiáng)化產(chǎn)業(yè)交流作，打造可產(chǎn)業(yè)朋友圈?？尚湃斯ぶ悄苷幱陲w速發(fā)展階段，我們的認(rèn)識(shí)有待不斷深化，報(bào)存在之處，請(qǐng)不正。目 錄一、可信人工智能發(fā)展背景 1（一）基本內(nèi)涵 1（二）發(fā)展意義 4二、可信人工智能發(fā)展態(tài)勢(shì) 5（一）總體發(fā)展 5（二）政策規(guī)劃 9（三）技術(shù)進(jìn)展 10（四）標(biāo)準(zhǔn)建設(shè) 13三、可信人工智能生態(tài)分析 16（一）基礎(chǔ)能力 16（二）算法技術(shù) 23（三）應(yīng)用場(chǎng)景 29（四）產(chǎn)品設(shè)備 39四、可信人工智能前景展望 49（一）未來(lái)發(fā)展趨勢(shì) 49（二）產(chǎn)業(yè)發(fā)展建議 52圖目錄圖1全球主要國(guó)家及組織可信人工智能發(fā)展動(dòng)向 6圖2全球可信人工智能產(chǎn)業(yè)生態(tài)實(shí)踐圖 7圖3可信人工智能相關(guān)政策發(fā)展歷程 10圖4可信人工智能領(lǐng)域論文數(shù)量（20172022.4） 圖5全球/中國(guó)可信人工智能領(lǐng)域?qū)＠暾?qǐng)量（20172022.4） 12圖6可信人工智能領(lǐng)域?qū)＠暾?qǐng)量技術(shù)分布（20172022.4） 13圖7平臺(tái)系統(tǒng)領(lǐng)域的典型可信應(yīng)用 17圖8數(shù)據(jù)要素領(lǐng)域的典型可信應(yīng)用 20圖9計(jì)算能力領(lǐng)域的典型應(yīng)用 22圖10計(jì)算機(jī)視覺(jué)領(lǐng)域典型可信應(yīng)用 24圖11智能語(yǔ)音領(lǐng)域的典型可信應(yīng)用 27圖12自然語(yǔ)言處理領(lǐng)域的典型可信應(yīng)用 28圖13智慧金融領(lǐng)域的典型可信需求與實(shí)踐 30圖14智慧醫(yī)療領(lǐng)域的典型可信需求與實(shí)踐 32圖15智慧教育領(lǐng)域的典型可信需求與實(shí)踐 35圖16智能制造領(lǐng)域的典型可信需求與實(shí)踐 36圖17智慧政務(wù)領(lǐng)域的典型可信需求與實(shí)踐 39圖18醫(yī)療設(shè)備與器械領(lǐng)域的典型可信需求與實(shí)踐 40圖19智能終端領(lǐng)域的典型可信需求與實(shí)踐 42圖20智能駕駛領(lǐng)域的典型可信需求與實(shí)踐 45圖21智能機(jī)器人領(lǐng)域的典型可信需求與實(shí)踐 46圖22虛擬現(xiàn)實(shí)設(shè)備領(lǐng)域的典型可信需求與實(shí)踐 48表目錄表1主流可信人工智能概念梳理 1表2主要國(guó)際組織可信人工智能標(biāo)準(zhǔn)進(jìn)展 14一、可信人工智能發(fā)展背景（一）基本內(nèi)涵可信人工智能并不是一個(gè)新名詞，隨著可信實(shí)踐的深入，產(chǎn)業(yè)界對(duì)可信人工智能的認(rèn)識(shí)也在不斷深化。目前關(guān)于可信人工智能概念解釋繁多，我們梳理了一些具有代表性的觀點(diǎn)。業(yè)界除了關(guān)注透明度、隱私保護(hù)、責(zé)任、公平等方面，近年更強(qiáng)調(diào)“人類(lèi)對(duì)可信人工智能認(rèn)識(shí)及素養(yǎng)的提升”以及“對(duì)提升人工智能可信度的可持續(xù)性工具提出。表1主流可信人工智能概念梳理國(guó)家組織時(shí)間文件項(xiàng)目?jī)?nèi)涵美國(guó)2019.10《人工智能原則：國(guó)防部應(yīng)用人工智能倫理建議》1）負(fù)責(zé)任；2）公平性；3）可溯性；4）可靠性；5）可控性2021.07“可信及負(fù)責(zé)任人工智能”項(xiàng)目1）準(zhǔn)確性；2）可解釋性；3）私；4）可靠性；5）穩(wěn)健性；6）安全性；7）減少有害偏見(jiàn)2021.11《人工智能指南道德標(biāo)準(zhǔn)》人工智能系統(tǒng)開(kāi)發(fā)、測(cè)試和審符合最高公平性、問(wèn)責(zé)制和透度標(biāo)準(zhǔn)歐盟2017.01關(guān)于機(jī)器人民事法規(guī)則的歐洲委員會(huì)建議1）自由；2）隱私；3）正值和尊嚴(yán)；4）自決和不歧視；5）個(gè)數(shù)據(jù)保護(hù)2019.04《人工智能道德準(zhǔn)則》1）受人類(lèi)監(jiān)管；2）技術(shù)的穩(wěn)健性和安全性；3）隱私和數(shù)據(jù)管理；4）透明度；5）多樣性、非歧視性和公平性；6）社會(huì)和環(huán)境福祉；7）問(wèn)責(zé)制日本2017.02《人工智能學(xué)會(huì)倫理指針》1）對(duì)人類(lèi)的貢獻(xiàn)；2）遵守法規(guī)則；3）尊重他人隱私權(quán)；4）公正性；5）安全性；6）誠(chéng)信為；7）對(duì)社會(huì)的責(zé)任2017.07《AI發(fā)展綱領(lǐng)》開(kāi)發(fā)者參照技術(shù)的特性在可能范圍內(nèi)，應(yīng)努力排除包含I系統(tǒng)學(xué)習(xí)數(shù)據(jù)在內(nèi)，所形成的一切見(jiàn)和其他不當(dāng)差別對(duì)待的措施開(kāi)發(fā)者應(yīng)遵守國(guó)際人權(quán)法、國(guó)人道法，隨時(shí)注意I系統(tǒng)是否有不符合人類(lèi)價(jià)值的行為2019.03《以人為中心的人工智能社會(huì)原則》1）以人為中心；2）教育應(yīng)用；3）隱私保護(hù)；4）安全保障；5）公平競(jìng)爭(zhēng)；6）公平；7）問(wèn)責(zé)透明；8）創(chuàng)新加拿大2018.12《可靠的人工智能草案蒙特利爾宣言》1）福祉；2）自主；3）正義；4）隱私；5）知識(shí)；6）民主；7）責(zé)任澳大亞2019.11《澳大利亞人工智能倫理框架》1）人類(lèi)、社會(huì)和環(huán)境福祉；2）以人為本的價(jià)值觀；3）公平；4）隱私保護(hù)和安全；5）可靠性和安全性；6）透明度和可解釋性；7）可爭(zhēng)論性；8）問(wèn)責(zé)性新西蘭2020.03《新西蘭值得信賴(lài)的人工智能的指導(dǎo)原則》1）公平和正義；2）可靠性、全性和私密性；3）透明度；4）人類(lèi)的監(jiān)督和責(zé)任；5）福利韓國(guó)2020.12《國(guó)家人工智能倫理標(biāo)準(zhǔn)》1）人權(quán)保障；2）隱私保護(hù)；3）尊重多樣性；4）禁止侵權(quán)；5）社會(huì)宣傳；6）主體合作；7）據(jù)管理；8）明確責(zé)任；9）確安全；10）透明度中國(guó)2017.11S36香山會(huì)議中國(guó)科學(xué)院何積豐院士首次提出可信人工智能，包含人、信息物理三大要素2019.08《人工智能行業(yè)自律公約》1）安全可控；2）透明可釋?zhuān)?）；保護(hù)隱私；4）明確責(zé)任；5）多元包容2019.09《新一代人工智能倫理規(guī)范》1）增進(jìn)人類(lèi)福祉；2）促進(jìn)公公正；3）保護(hù)隱私安全；4）?？煽乜尚?；5）強(qiáng)化責(zé)任擔(dān)當(dāng)；6）提升倫理素養(yǎng)2021.07《可信人工智能白皮書(shū)》可信人工智能是從技術(shù)和工程踐的角度，落實(shí)倫理治理要求實(shí)現(xiàn)創(chuàng)新發(fā)展和風(fēng)險(xiǎn)治理的有平衡。可信包含可靠可控、透可釋、數(shù)據(jù)保護(hù)、明確責(zé)任、元包容5項(xiàng)可信要素生命來(lái)研機(jī)構(gòu)2017.02《阿西洛馬AI原則》安全性、故障透明性、司法透性、責(zé)任、價(jià)值觀的調(diào)和、人價(jià)值觀、個(gè)人隱私權(quán)、自由和私、共享利益、共享繁榮、人控制、非破壞EE2017.03旨在推進(jìn)人工智能和自治系統(tǒng)的倫理設(shè)計(jì)的EE全球倡議書(shū)1）人權(quán)；2）福祉；3）問(wèn)責(zé)；4）透明；5）慎用202019.0620人工智能原則1）包容性增長(zhǎng)、可持續(xù)發(fā)展及人類(lèi)福祉；2）以人為本的價(jià)值觀和公平；3）透明度和可解釋性；4）健壯性、信息安全性和物理安全性；5）問(wèn)責(zé)制世界生組2021.06《健康領(lǐng)域人工智能倫理與治理指南》1）保護(hù)自主權(quán)；2）促進(jìn)人類(lèi)全和福祉；3）確保透明度；4）促進(jìn)問(wèn)責(zé)制；5）確保公平；6）促進(jìn)具有響應(yīng)性和可持續(xù)性的具聯(lián)合教科組織2021.11《人工智能倫理問(wèn)題建議書(shū)》1）相稱(chēng)性和不損害；2）安全安保；3）公平和非歧視；4）持續(xù)性；5）隱私權(quán)和數(shù)據(jù)保護(hù)；6）透明度和可解釋性；7）責(zé)和問(wèn)責(zé)；8）人類(lèi)的監(jiān)督和決定；9）認(rèn)識(shí)和素養(yǎng)資料來(lái)源：根據(jù)公開(kāi)資料整理針對(duì)人工智能產(chǎn)業(yè)現(xiàn)狀，切實(shí)結(jié)合當(dāng)前發(fā)展需求，我們認(rèn)為《可信人工智能白皮書(shū)》中對(duì)“可信人工智能”的表述更為貼切，因此本報(bào)告將沿用中國(guó)信通院所提出的內(nèi)涵，即“‘可信’反映了人工智能系統(tǒng)、產(chǎn)品和服務(wù)在安全性、可靠性、可解釋、可問(wèn)責(zé)等一系列內(nèi)在屬性的可信賴(lài)程度?！被谶@一內(nèi)涵，企業(yè)、院校和各類(lèi)機(jī)構(gòu)等各類(lèi)參與者，在人工智能產(chǎn)業(yè)各個(gè)環(huán)節(jié)中，秉持可信理念，將可信貫穿研發(fā)、生產(chǎn)、經(jīng)營(yíng)等內(nèi)部全流程，落實(shí)于算力、算法、數(shù)據(jù)等產(chǎn)業(yè)核心要素中，打造出全面融合可信要素的人工智能產(chǎn)業(yè)，建形可信的工智業(yè)生態(tài)。（二）發(fā)展意義人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，廣泛應(yīng)用于醫(yī)療、金融、交通等領(lǐng)域，帶來(lái)了巨大的經(jīng)濟(jì)效益與社會(huì)效益。據(jù)DC相數(shù)據(jù)21全人工智產(chǎn)業(yè)為39億美元，預(yù)計(jì)在22年比增長(zhǎng)19%，到40。然而隨著人工智能應(yīng)用的深入，其自身的技術(shù)缺陷以及帶來(lái)的決策偏見(jiàn)、使用安全等問(wèn)題引發(fā)了信任危機(jī)，可信成為關(guān)注焦點(diǎn)。技術(shù)上，算法脆弱易受攻擊帶來(lái)的危險(xiǎn)性；黑箱模型導(dǎo)致算法不透明，使得人們無(wú)法直觀理解決策背后的原因。應(yīng)用上，訓(xùn)練數(shù)據(jù)中存在的偏見(jiàn)歧視導(dǎo)致公平性缺失；以人臉識(shí)別技術(shù)為代表的生物識(shí)別信息的頻繁使用增加了隱私泄露的可能。倫理上，人工智能系統(tǒng)決策復(fù)雜，難以界定責(zé)任主體，帶來(lái)倫理安全問(wèn)題。構(gòu)建可信人工智能成為緩和消些擔(dān)憂必然。學(xué)術(shù)界率先推開(kāi)了可信人工智能的大門(mén)，在可信人工智能概念提出后，逐步推廣可信共識(shí)20年起，可信人工智能領(lǐng)域研究論文數(shù)量飛速增長(zhǎng)，圍繞魯棒性、可解釋性、隱私保護(hù)等方面的技術(shù)研究持續(xù)升溫。隨著產(chǎn)業(yè)界開(kāi)始落地實(shí)踐，針對(duì)人工智能產(chǎn)業(yè)化過(guò)程中的可信探索與實(shí)踐不斷成熟，融合可信要素的人工智能產(chǎn)業(yè)生態(tài)開(kāi)始起?？尚乓殉蔀橹悄墚a(chǎn)發(fā)展要素，動(dòng)人能規(guī)發(fā)展。工智有可信靠，獲得可續(xù)性對(duì)用而言，可要素動(dòng)人工能技箱趨于明，用戶對(duì)工智能的任感開(kāi)發(fā)者言，釋的人智能于全生期的企管理助于履內(nèi)部和外部管合務(wù)，確用和服在最度上減偏見(jiàn)?？尚抛鱾鹘y(tǒng)數(shù)字化型賦子，培數(shù)字新興長(zhǎng)點(diǎn)。著人能產(chǎn)業(yè)可信索與實(shí)不斷，其代透明度、可性強(qiáng)、定性特性將國(guó)防律、醫(yī)領(lǐng)域深結(jié)合解當(dāng)前用人能時(shí)所到的保護(hù)、穩(wěn)定等題，信賦能字化，甚至生出細(xì)分領(lǐng)道，促傳統(tǒng)生態(tài)健高質(zhì)展，成數(shù)字新的可增長(zhǎng)點(diǎn)。二、可信人工智能發(fā)展態(tài)勢(shì)（一）總體發(fā)展可信人工智能處快速發(fā)展中。17年可信人工智能的概念正式提出后，各國(guó)積極開(kāi)展研究，隨后可信理念深入到人工智能全生命周期，各項(xiàng)人工智能監(jiān)管指南相繼推出，21年后融合可信要素的人工智能產(chǎn)業(yè)生態(tài)開(kāi)始構(gòu)建。目前，企業(yè)已成為實(shí)踐可信人工智能的主要力量，各大高校與行業(yè)組織也在積極同步推進(jìn)打造人工智能可信態(tài)環(huán)。資料來(lái)源：中國(guó)信息通信研究院整圖1全球主要國(guó)家及組織可信人工智能發(fā)展動(dòng)向總體來(lái)看，可信人工智能的發(fā)展與各國(guó)人工智能產(chǎn)業(yè)基礎(chǔ)緊密關(guān)聯(lián)，隨著人工智能產(chǎn)業(yè)化過(guò)程中可信要素的融入，企業(yè)日益成為可信人工智能實(shí)踐主體。以微軟、谷歌為代表的美國(guó)科技巨頭通過(guò)內(nèi)部開(kāi)設(shè)人工智能倫理委員會(huì)，以及發(fā)布專(zhuān)注于人工智能可解釋、公平性等倫理服務(wù)及工具，開(kāi)展可信人工智能探索工作；以商湯、騰訊為代表的中國(guó)頭部科技企業(yè)通過(guò)發(fā)布行業(yè)內(nèi)人工智能可解釋、倫理等域?qū)８?，分各自信AI術(shù)、準(zhǔn)服務(wù)等關(guān)實(shí)踐；以nnce為代表歐洲通過(guò)在身產(chǎn)融合可元素，以提高AI具服務(wù)的可信度；以u(píng)aKox為表的以色列企業(yè)致力于將安全融入到智慧交通領(lǐng)域，實(shí)現(xiàn)“零信任”；以三星為代表日韓則注重工智業(yè)應(yīng)用隱私的保障。資料來(lái)源：中國(guó)信息通信研究院整圖2全球可信人工智能產(chǎn)業(yè)生態(tài)實(shí)踐圖在可信人工智能實(shí)踐上，世界各國(guó)高度重視，在政策、技術(shù)、標(biāo)準(zhǔn)的研究制定上均采取了相關(guān)措施。美國(guó)、歐盟、中國(guó)依托人工智能技術(shù)、人才、產(chǎn)業(yè)優(yōu)勢(shì)，在可信人工智能研究及治理實(shí)踐上處于全球領(lǐng)先，成為全球可信人工智能領(lǐng)跑者；以日本、韓國(guó)、加拿大等為代表的人工智能第二發(fā)展梯隊(duì)的追趕正在加速，試圖通過(guò)構(gòu)建人工能倫準(zhǔn)打造工智康發(fā)展境。政策發(fā)布上，全球持續(xù)探索人工智能立法，推動(dòng)可信人工智能范式法化自21年以，從發(fā)布人智能的第一綜合性法案《人工智能法案》，到美國(guó)推出《22算法問(wèn)責(zé)法案》，再到中國(guó)深圳、上海等各地方相繼推動(dòng)人工智能立法條例。各國(guó)針對(duì)人工智能算法的監(jiān)測(cè)、人工智能應(yīng)用的審查的相關(guān)監(jiān)管法規(guī)不斷增加，工智理已進(jìn)建章階段。技術(shù)研究上，提升人工智能系統(tǒng)穩(wěn)定性、隱私保護(hù)技術(shù)占據(jù)可信人工智能技術(shù)研究主流，可解釋性、公平性等技術(shù)研究緊隨其后。當(dāng)前以對(duì)抗訓(xùn)練、梯度屏蔽為代表的人工智能系統(tǒng)穩(wěn)定性技術(shù)穩(wěn)步發(fā)展，技術(shù)重點(diǎn)從數(shù)字域逐步向物理域擴(kuò)展1][]，人工智能系統(tǒng)的穩(wěn)定性測(cè)試技術(shù)成為科技巨頭布局方向；以同態(tài)加密、多方安全計(jì)算、差分隱私等為代表的隱私安全技術(shù)發(fā)展迅速[3]4]，全球隱私計(jì)算專(zhuān)利數(shù)量迎來(lái)井噴；人工智能可解釋性增強(qiáng)技術(shù)研究當(dāng)前仍處于初期階段，以谷歌、IBM、微軟、騰訊為代表的科技巨頭推出多個(gè)AI可釋性工具及服務(wù)提升人工智能公平性主流方法分別從數(shù)據(jù)和技術(shù)兩方面入手，通過(guò)構(gòu)建完整異構(gòu)數(shù)據(jù)集及引入公平?jīng)Q策量化指標(biāo)算，以決策偏。標(biāo)準(zhǔn)研制上，行業(yè)組織成為可信人工智能標(biāo)準(zhǔn)重要推進(jìn)者，涵蓋多個(gè)可信人工智能領(lǐng)域。國(guó)際標(biāo)準(zhǔn)化組織和國(guó)際電工委員IS/IEC布局最早，涉及AI系統(tǒng)偏差、風(fēng)險(xiǎn)管理、AI系統(tǒng)質(zhì)量模型、神經(jīng)網(wǎng)絡(luò)魯棒性等；電氣和電子工程師協(xié)會(huì)（EE）主要以隱私、可解釋為突破點(diǎn)；中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIA）牽頭制定了《可信AI操指引》成立智能治與可員會(huì)，持續(xù)開(kāi)展信AI測(cè)工具征和可信AI試評(píng)估落地。自21年起，中美兩國(guó)加快了對(duì)可信人工智能領(lǐng)域標(biāo)準(zhǔn)研制工作的步伐，美國(guó)發(fā)布《人工智能風(fēng)險(xiǎn)管理框架概念文件》旨在降低人工智能系統(tǒng)風(fēng)險(xiǎn)；全國(guó)信標(biāo)委人工智能分委會(huì)作為中國(guó)可信人工智能標(biāo)準(zhǔn)主要研制單位，持續(xù)推動(dòng)《人工智能可信賴(lài)規(guī)范第一部分：通用要求》等信賴(lài)智能標(biāo)系列工作。（二）政策規(guī)劃27年以來(lái)，全球各個(gè)國(guó)家（地區(qū)）在可信人工智能領(lǐng)域進(jìn)行了廣泛的政策部署，內(nèi)容主要涉及倫理道德、隱私保護(hù)、負(fù)責(zé)任、公平性、安全性等層面，在實(shí)施路徑與側(cè)重點(diǎn)方面體現(xiàn)出了一定的特色與異。美國(guó)以府和雙輪驅(qū)動(dòng)AI新展，維人工領(lǐng)域的全球領(lǐng)導(dǎo)地位。美國(guó)以推動(dòng)快速發(fā)展、降低創(chuàng)新門(mén)檻以及成本最小化為宗旨，政府和行業(yè)共同發(fā)力。一是制定基于性能的靈活性框架，權(quán)衡AI技術(shù)創(chuàng)新利弊，以適應(yīng)AI應(yīng)用程序的快速迭代和更新；二是設(shè)立行業(yè)準(zhǔn)則、“安全港”、靈活監(jiān)管、監(jiān)管例外、監(jiān)管豁免等內(nèi)容，促進(jìn)效益最大化的同時(shí)最小化潛在風(fēng)險(xiǎn)；三是制定可信AI標(biāo)指南業(yè)創(chuàng)新發(fā)展詳細(xì)路圖。歐盟致于構(gòu)建AI信任生系統(tǒng)管框架確保數(shù)字化轉(zhuǎn)型的領(lǐng)先者。一是以合法性、倫理性和魯棒性為基準(zhǔn)制定可信人工智能架，了實(shí)現(xiàn)信AI的法與評(píng)準(zhǔn)則培育可生態(tài)提供參照；二是通過(guò)發(fā)布《走向卓越與信任—?dú)W盟人工智能監(jiān)管新路徑，依營(yíng)與公投資互合作為建信I創(chuàng)造政策環(huán)境；三是規(guī)劃制定《人工智能法》并定位全球最高標(biāo)準(zhǔn)，通過(guò)制靈活的規(guī)則可信生態(tài)提法制。我國(guó)協(xié)調(diào)發(fā)展與治理，憑借規(guī)范化治理確保人工智能可信賴(lài)。一是從規(guī)則、標(biāo)準(zhǔn)、評(píng)估、管控等層面的戰(zhàn)略角度出發(fā)，協(xié)調(diào)并明確發(fā)展與治理的關(guān)系；二是通過(guò)成立新一代人工智能治理專(zhuān)業(yè)委員會(huì)，為人工智能治理框架和行動(dòng)指南提供技術(shù)與規(guī)則支撐，積極引導(dǎo)全社負(fù)責(zé)開(kāi)展AI研發(fā)應(yīng)活動(dòng)；是通個(gè)人信保護(hù)、網(wǎng)絡(luò)安全、數(shù)據(jù)安全等領(lǐng)域強(qiáng)化立法與執(zhí)法力度，構(gòu)建可信人工智能層要堅(jiān)固法體系而確保領(lǐng)域安全可。資料來(lái)源：根據(jù)公開(kāi)資料整圖3可信人工智能相關(guān)政策發(fā)展歷程（三）技術(shù)進(jìn)展當(dāng)前對(duì)于可信人工智能技術(shù)聚焦在提升人工智能系統(tǒng)穩(wěn)定性、可解釋性、隱私保護(hù)、公平性等方面，這些技術(shù)構(gòu)成了可信人工智能的基礎(chǔ)支撐能力。我們結(jié)合當(dāng)前產(chǎn)業(yè)與技術(shù)發(fā)展最新趨勢(shì)及熱點(diǎn)，對(duì)關(guān)文專(zhuān)利檢分析出如下現(xiàn)?？尚湃斯ぶ悄茴I(lǐng)域論文發(fā)表量在人工智能論文發(fā)表量占比逐步提升，近2；國(guó)、中、英全球可人工領(lǐng)域論發(fā)表主要國(guó)家，占比超過(guò)全球0%?？尚湃斯ぶ悄苤饾u進(jìn)入研究者視野，各大科技巨頭加速實(shí)踐落地，可信人工智能領(lǐng)域論文數(shù)量迎來(lái)井噴，21年可信人工智能領(lǐng)域論文數(shù)量同比增長(zhǎng)%，在全球人工智能領(lǐng)域論文數(shù)量中占比也由0年的0%提升到1%左右。03年至02年4月，球可人工智領(lǐng)域文數(shù)文共計(jì)09。國(guó)、中、英可信人智能論文發(fā)的主要國(guó)，三表的論總數(shù)球論文總數(shù)%。數(shù)據(jù)來(lái)源：bofSiene官圖4可信人工智能領(lǐng)域論文數(shù)量（20172022.4）1可信人工智能領(lǐng)域，中國(guó)累計(jì)專(zhuān)利申請(qǐng)量與授權(quán)量居全球首位，在全球申請(qǐng)數(shù)占比持續(xù)增長(zhǎng)。全球可信人工智能領(lǐng)域?qū)＠暾?qǐng)量快速增長(zhǎng)，27年至22年4累計(jì)達(dá)74件我國(guó)申請(qǐng)量79，占比8。全球計(jì)可工智能域?qū)?quán)量達(dá)681中國(guó)信息通信研究院根據(jù)ebofcee檢索整理。件，我累計(jì)量12件占達(dá)7%。自08年開(kāi)始全球可信人工智能相關(guān)專(zhuān)利申請(qǐng)數(shù)量迅速增長(zhǎng)，這或許與全球各國(guó)開(kāi)始重視并展可工智能關(guān)研關(guān)，中22年利申請(qǐng)量下降可能受部分專(zhuān)利申請(qǐng)流程存在滯后性的影響。我國(guó)在全球可信人工智能領(lǐng)域?qū)＠暾?qǐng)數(shù)占比處于持續(xù)增長(zhǎng)，這可能與我國(guó)較強(qiáng)的人工智能技術(shù)基礎(chǔ)、人工智能企業(yè)更加注重知識(shí)產(chǎn)權(quán)保護(hù)和我國(guó)大力倡導(dǎo)展“賴(lài)人工能”素有關(guān)。數(shù)據(jù)來(lái)源圖5全球/中國(guó)可信人工智能領(lǐng)域?qū)＠暾?qǐng)量（20172022.4）2專(zhuān)利技術(shù)分布上，針對(duì)人工智能隱私保護(hù)、提升人工智能系統(tǒng)穩(wěn)定性領(lǐng)域?qū)＠紦?jù)主流，可解釋性、公平性等領(lǐng)域?qū)＠燥@落后。從可信人工智能領(lǐng)域技術(shù)來(lái)看，主要集中于隱私保護(hù)方向與人工智能系統(tǒng)穩(wěn)定性方向，隱私保護(hù)領(lǐng)域?qū)＠急?%，人工智能系統(tǒng)穩(wěn)定性領(lǐng)域?qū)＠急?%，對(duì)于人工智能可解釋性與公平性方向?qū)＠芯枯^少。這或許與可信人工智能產(chǎn)業(yè)應(yīng)用成熟度有關(guān)，由于隱私保護(hù)與系統(tǒng)穩(wěn)定性相關(guān)技術(shù)應(yīng)用場(chǎng)景較為廣泛，且成熟度高，因此這兩個(gè)方向的專(zhuān)利申請(qǐng)呈集聚趨勢(shì)；而人工智能可解釋性與公平性由于相關(guān)實(shí)踐應(yīng)用落地不夠，且相關(guān)技術(shù)研究仍處于初期階段，因針對(duì)個(gè)領(lǐng)域?qū)＠鄬?duì)較。數(shù)據(jù)來(lái)源圖6可信人工智能領(lǐng)域?qū)＠暾?qǐng)量技術(shù)分布（20172022.4）3（四）標(biāo)準(zhǔn)建設(shè)自17年以，際標(biāo)準(zhǔn)組織國(guó)政府續(xù)布信人工智能標(biāo)準(zhǔn)?？傮w來(lái)說(shuō)，當(dāng)前對(duì)于可信人工智能的研究，主要涉及安全性、可靠性、公平性、透明性以及對(duì)人工智能的風(fēng)險(xiǎn)評(píng)估等。綜合各可信人工智能相關(guān)標(biāo)準(zhǔn)看，當(dāng)前標(biāo)準(zhǔn)研究更多集中在隱私安全、倫理道德、風(fēng)險(xiǎn)評(píng)估，以及人工智能在金融、醫(yī)療等領(lǐng)域的可信應(yīng)用針對(duì)性、透度等，相關(guān)準(zhǔn)研顯不足。表2主要國(guó)際組織可信人工智能標(biāo)準(zhǔn)進(jìn)展國(guó)家組織時(shí)間標(biāo)準(zhǔn)領(lǐng)域ISO/IEC2020.05《信息技術(shù)人工智能人工智能可信度概述》可信概念2021.03《人工智能神經(jīng)網(wǎng)絡(luò)魯棒性評(píng)價(jià)第1部分概述》穩(wěn)定性2021.11《信息技術(shù)人工智能人工智能系統(tǒng)和人工智能輔助決策的偏見(jiàn)》公平性在研《信息技術(shù)人工智能風(fēng)險(xiǎn)管理》風(fēng)險(xiǎn)管理在研《信息技術(shù)人工智能倫理和社會(huì)關(guān)注概述》倫理道德在研《人工智能神經(jīng)網(wǎng)絡(luò)魯棒性評(píng)價(jià)第2部分：常規(guī)方法選擇方式》穩(wěn)定性IEEE在研P7000系列（15項(xiàng)標(biāo)準(zhǔn)）倫理道德隱私安全透明度、平性、可釋在研《可解釋人工智能結(jié)構(gòu)框架指南》可解釋在研《自適應(yīng)教學(xué)系統(tǒng)中人工智能倫理設(shè)計(jì)實(shí)踐》倫理道德2021.01《金融服務(wù)可信數(shù)據(jù)和人工智能系統(tǒng)》綜合ITT在研《技術(shù)報(bào)告：全同態(tài)加密技術(shù)為機(jī)器學(xué)習(xí)的安全推理服務(wù)和數(shù)據(jù)聚合提供安全指導(dǎo)隱私安全在研《技術(shù)報(bào)告：人工智能安全技術(shù)應(yīng)用安全管理指南》隱私安全資料來(lái)源：中國(guó)信息通信研究院整理國(guó)際標(biāo)準(zhǔn)組織以O(shè)/、EE等為代表，在可信人工智能標(biāo)準(zhǔn)領(lǐng)域搶先布局國(guó)際標(biāo)準(zhǔn)化組織和國(guó)際電工委員IIEC在可信人工智領(lǐng)域最早，下設(shè)的G3作組門(mén)開(kāi)可信人智能研究并已局10項(xiàng)可人工能標(biāo)準(zhǔn)究，及AI系偏差、風(fēng)險(xiǎn)管理、AI系統(tǒng)質(zhì)量模型、神經(jīng)網(wǎng)魯棒性等電氣和電子工程師協(xié)會(huì)（EE）主要以隱私、可解釋為突破點(diǎn)，其下轄工作組開(kāi)展了一系列人工智能倫理相關(guān)標(biāo)準(zhǔn)研究工作。其中，70系列涉及倫理、透明度、隱私、安全機(jī)制等，是可信人工智能領(lǐng)域倫理方面較權(quán)威準(zhǔn)，受業(yè)界關(guān)注。至22年4月，E70系列至開(kāi)展15標(biāo)準(zhǔn)工作。際電盟電信準(zhǔn)化部門(mén)（UT）設(shè)多個(gè)工智作組，中17工作組人工智能安全視為未來(lái)重要工作方向，因此致力于研究相關(guān)隱私安全標(biāo)準(zhǔn)，至22年4月，17有三份研技告，涵機(jī)器學(xué)習(xí)安應(yīng)用工智能術(shù)應(yīng)全管理方面。美國(guó)、歐盟具備依托人工智能領(lǐng)域領(lǐng)先優(yōu)勢(shì)，加強(qiáng)在可信人工智能領(lǐng)域標(biāo)準(zhǔn)研究，構(gòu)建可信人工智能生態(tài)。美國(guó)國(guó)家標(biāo)準(zhǔn)和技術(shù)研究院（IT）隸屬于美國(guó)商務(wù)部，在美國(guó)政府支持下進(jìn)行人工智能研究作。在218年NIT就動(dòng)了人智能與標(biāo)準(zhǔn)礎(chǔ)項(xiàng)目，涉及人工智能系統(tǒng)安全性、可解釋性、透明性等標(biāo)準(zhǔn)；0年NT發(fā)布《人工智能風(fēng)險(xiǎn)管理框架概念文件》等報(bào)告，旨在建立可信賴(lài)負(fù)責(zé)任的人工智能框架，打造可信人工智能生態(tài)，維持美國(guó)在全球人工智能領(lǐng)域領(lǐng)導(dǎo)地位。歐盟從倫理向監(jiān)管推進(jìn)，搶占全球倫理規(guī)則主導(dǎo)權(quán)。從《人工智能道德準(zhǔn)則草案》到《人工智能法》草案，歐盟希望通過(guò)搶占全球倫理規(guī)則主導(dǎo)權(quán)，構(gòu)建“卓越生態(tài)系統(tǒng)”和“信任生態(tài)系統(tǒng)”，將歐洲建設(shè)成為全球人工智能研究和創(chuàng)新“燈心”。中國(guó)科研機(jī)構(gòu)及相關(guān)企業(yè)積極參與可信人工智能領(lǐng)域相關(guān)標(biāo)準(zhǔn)制定，涉及隱私安全、算法安全、風(fēng)險(xiǎn)管理、行業(yè)應(yīng)用等多個(gè)方面，標(biāo)準(zhǔn)類(lèi)型囊括國(guó)際標(biāo)準(zhǔn)、國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)等各類(lèi)型，參與者覆蓋了中國(guó)信通院、電子標(biāo)準(zhǔn)院等各類(lèi)研究機(jī)構(gòu)，以及華為、百度、阿等人能頭部業(yè)。三、可信人工智能生態(tài)分析可信已經(jīng)在人工智能產(chǎn)業(yè)各個(gè)環(huán)節(jié)中落地，貫穿研發(fā)、生產(chǎn)、經(jīng)營(yíng)等內(nèi)部全流程，打造出全面融合可信要素的人工智能產(chǎn)業(yè)，涵蓋基礎(chǔ)能力、理論技術(shù)、應(yīng)用場(chǎng)景與產(chǎn)品設(shè)備等多元化模塊。其中，基礎(chǔ)能力提供基于不同業(yè)務(wù)需求的“最優(yōu)可信設(shè)計(jì)”，構(gòu)筑“安全、透明、可追蹤、可計(jì)量”的數(shù)據(jù)體系，不斷提升可信計(jì)算效能。算法技術(shù)在隱私保護(hù)、數(shù)據(jù)標(biāo)注、精準(zhǔn)識(shí)別、噪聲處理等方面不斷提升算法公平性、穩(wěn)定性與可解釋性水平[5]6][7]。應(yīng)用場(chǎng)景方面目前已涌現(xiàn)出面向隱私安全保護(hù)、風(fēng)險(xiǎn)識(shí)別與控制、數(shù)據(jù)傳輸與共享等的諸多案例][9]，并已在金融、醫(yī)藥、教育、制造等領(lǐng)域?qū)崿F(xiàn)商業(yè)化應(yīng)用。產(chǎn)品設(shè)備方面已逐步滲透至醫(yī)療設(shè)備與器械、智能終端、智能駕駛、智能機(jī)器人、虛擬現(xiàn)實(shí)設(shè)備等領(lǐng)域，打造兼具穩(wěn)定性、合性、釋性等征的體系。（一）基礎(chǔ)能力平臺(tái)系統(tǒng)人工智能平臺(tái)和系統(tǒng)通過(guò)搭建云邊端協(xié)同模式，保證模型在不同的現(xiàn)實(shí)環(huán)境中都能部署和運(yùn)營(yíng)，幫助企業(yè)和開(kāi)發(fā)者將精力聚焦在算法開(kāi)發(fā)、模型驗(yàn)證和業(yè)務(wù)運(yùn)營(yíng)中，有效提升研發(fā)實(shí)施效率。近年來(lái)，隨著機(jī)器學(xué)習(xí)和深度學(xué)習(xí)算法的深入實(shí)踐，以及預(yù)訓(xùn)練模型、低代碼/無(wú)代碼接口、自助服和生命周期自動(dòng)化工具的快速發(fā)展，與人工智能平臺(tái)發(fā)展相互促進(jìn)，更具有可信屬性的人工智能平臺(tái)系統(tǒng)迅速展。目前，人工智能平臺(tái)系統(tǒng)與可信理念的融合在數(shù)據(jù)處理、模型構(gòu)建、部署和支撐服務(wù)等方面還面臨不少挑戰(zhàn)。數(shù)據(jù)處理方面，數(shù)據(jù)接入、數(shù)據(jù)分析、數(shù)據(jù)管理和數(shù)據(jù)標(biāo)注已經(jīng)普遍實(shí)現(xiàn)，團(tuán)隊(duì)標(biāo)注成為標(biāo)配，數(shù)據(jù)預(yù)處理的自動(dòng)化實(shí)現(xiàn)和無(wú)監(jiān)督數(shù)據(jù)增強(qiáng)還需要持續(xù)探索。模型構(gòu)建方面，雖然現(xiàn)有人工智能平臺(tái)和系統(tǒng)普遍配置了豐富框架和算法，支持交互式、可視化、自動(dòng)化多種開(kāi)發(fā)模式和單機(jī)/分布式多種訓(xùn)練方式，但是模型評(píng)估建議能力和可解釋性還需要增強(qiáng)，特別是面向文本、語(yǔ)音和視頻場(chǎng)景的自動(dòng)學(xué)習(xí)建模模版能力。此外，還需要提升基于規(guī)則的模型自動(dòng)更新和模型在端云設(shè)備的協(xié)同部署力，強(qiáng)U虛化和化優(yōu)化數(shù)和模安全性。資料來(lái)源：中國(guó)信息通信研究院整圖7平臺(tái)系統(tǒng)領(lǐng)域的典型可信應(yīng)用人工智能企業(yè)主要圍繞業(yè)務(wù)生命周期，重點(diǎn)構(gòu)建系列可信能力。一是將內(nèi)置模型保護(hù)于框架中，實(shí)現(xiàn)模型的安全、可信，通過(guò)魯棒性評(píng)測(cè)、對(duì)抗測(cè)評(píng)、對(duì)抗訓(xùn)練、模型加密等方法增強(qiáng)模型保護(hù)能力，為人工智能模型安全性評(píng)估和增強(qiáng)提供支持。以對(duì)抗訓(xùn)練為例[10]11]，通過(guò)在輸入上進(jìn)行梯度上升，在參數(shù)上進(jìn)行梯度下降，從而向增大損失的方向增加擾動(dòng)。二是搭建混合引擎架構(gòu)，實(shí)現(xiàn)跨場(chǎng)景可信協(xié)同，集成運(yùn)用隱私評(píng)估、差分訓(xùn)練、聯(lián)邦學(xué)習(xí)等多種技術(shù)方法[][1][2][3][4][9]，通過(guò)數(shù)據(jù)安全交換協(xié)議有效利用多源數(shù)據(jù)，僅協(xié)同經(jīng)過(guò)處理后的、不帶有隱私信息的梯度和模型信息，在保證用戶隱私數(shù)據(jù)保護(hù)的前提下實(shí)現(xiàn)跨場(chǎng)景協(xié)同。一些場(chǎng)景和平臺(tái)中，也選擇加入?yún)^(qū)塊鏈技術(shù)實(shí)現(xiàn)全流程的可記錄、可驗(yàn)證、可追溯、可審計(jì)，以證書(shū)授權(quán)實(shí)現(xiàn)雙向認(rèn)證，確保參與方身份真實(shí)性。三是整合運(yùn)用多種可解釋技術(shù)，全面提升可解釋性，融合語(yǔ)義級(jí)可解釋技術(shù)、可解釋方法工具集等技術(shù)，建立適當(dāng)可視化機(jī)制嘗試評(píng)估和解釋模型的中間狀態(tài)，整合數(shù)據(jù)治理、資源管理和應(yīng)用管理核心能力，大幅提高模型的可解釋性，讓用戶更理解、信任并有效地使用模型。在16年起，歌、I、微軟騰訊技巨頭相繼推出可解釋性工具與服務(wù)，探索人工智能算法可解釋化。四是持續(xù)加強(qiáng)虛擬化和池化，提升運(yùn)營(yíng)維護(hù)和運(yùn)營(yíng)調(diào)度的可信能力，將服務(wù)器等物理資源抽象成邏輯資源，通過(guò)區(qū)分優(yōu)先次序并及時(shí)調(diào)度分配工作負(fù)載，讓U、內(nèi)存、磁盤(pán)等硬件變成可以動(dòng)態(tài)管理的“資源池”，現(xiàn)資源的離。數(shù)據(jù)安全數(shù)據(jù)是人工智能三大要素之一。人類(lèi)把需要計(jì)算機(jī)識(shí)別和分辨的內(nèi)容打上標(biāo)簽，讓計(jì)算機(jī)不斷地識(shí)別這些特征標(biāo)簽，從而讓計(jì)算機(jī)“學(xué)會(huì)”人類(lèi)的理解和判斷。只有經(jīng)過(guò)大量的訓(xùn)練，人工智能算法才能總結(jié)出規(guī)律并順利應(yīng)用到新的樣本上，因此，大量、多種類(lèi)、標(biāo)精準(zhǔn)據(jù)對(duì)人智能效果極重要?？尚湃斯ぶ悄茉跀?shù)據(jù)安全治理方面的應(yīng)用主要集中在基于傳統(tǒng)的人工方式難以處理的規(guī)模龐大、類(lèi)型復(fù)雜的數(shù)據(jù)資產(chǎn)管理與分類(lèi)分級(jí)，涉及安全、隱私計(jì)算、存證溯源、數(shù)據(jù)控制、計(jì)算處理等多種技術(shù)[5][6][7]。在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等一系列法律法規(guī)和政策文件出臺(tái)后，金融、電信、工業(yè)等行業(yè)均已出臺(tái)行業(yè)標(biāo)準(zhǔn)，形成以法律法規(guī)和行業(yè)標(biāo)準(zhǔn)為引導(dǎo)加快推進(jìn)可信進(jìn)展的局面。企業(yè)主要以訓(xùn)練樣本合成、可信多位標(biāo)簽、存儲(chǔ)治理追蹤、智能巡檢與兜底等方式，通過(guò)建設(shè)自動(dòng)化的數(shù)據(jù)分類(lèi)分級(jí)能力，確保分散在組織各處各層面的各類(lèi)數(shù)據(jù)能夠被及時(shí)發(fā)現(xiàn)和準(zhǔn)確標(biāo)，實(shí)能化的動(dòng)分級(jí)和安保護(hù)?？尚咆灤?shù)據(jù)采集、標(biāo)注、存儲(chǔ)和巡檢全過(guò)程。在數(shù)據(jù)采集環(huán)節(jié)，以訓(xùn)練樣本合成替代敏感數(shù)據(jù)采集。由于部分?jǐn)?shù)據(jù)涉及到身份證號(hào)碼、住址等個(gè)人隱私信息，敏感程度很高，收集難度極大，因此在數(shù)據(jù)收集階段，業(yè)內(nèi)主要使用公開(kāi)樣本數(shù)據(jù)和自主合成樣本的方法，一方面收集和使用相關(guān)公開(kāi)賽事的數(shù)據(jù)樣本，另一方面開(kāi)發(fā)隱私數(shù)據(jù)訓(xùn)練樣本自動(dòng)合成算法來(lái)模擬真實(shí)樣本數(shù)據(jù)。為解決數(shù)據(jù)量不足的困難，大多選擇使用旋轉(zhuǎn)、加噪等數(shù)據(jù)增強(qiáng)方法來(lái)擴(kuò)充訓(xùn)練樣本。通過(guò)構(gòu)建可信的多維標(biāo)簽體系，進(jìn)行靈活的數(shù)據(jù)分類(lèi)分級(jí)，融合目標(biāo)檢測(cè)、光學(xué)字符識(shí)別、圖像分類(lèi)、人臉識(shí)別、文本校驗(yàn)、風(fēng)格識(shí)別等算法模型，結(jié)合多方信息聯(lián)合判定校驗(yàn)，輸出多維度標(biāo)簽，進(jìn)一步提升隱私數(shù)據(jù)識(shí)別和治理的準(zhǔn)確性，克服單一模型難以應(yīng)對(duì)復(fù)雜的分級(jí)場(chǎng)景和不同治理需求、解釋性較弱的問(wèn)題。嚴(yán)格執(zhí)行分級(jí)加密存儲(chǔ)和明暗水印追蹤，對(duì)于分類(lèi)分級(jí)識(shí)別后的高敏感數(shù)據(jù)，通常需要經(jīng)過(guò)加密后進(jìn)行存儲(chǔ)，基于區(qū)塊鏈、數(shù)據(jù)沙箱等技術(shù)，實(shí)現(xiàn)長(zhǎng)久穩(wěn)固儲(chǔ)存、全方位安全防護(hù)、安全共享；在文件分發(fā)流轉(zhuǎn)過(guò)程中，添加對(duì)應(yīng)的明暗水印以便數(shù)據(jù)泄露后展開(kāi)追蹤調(diào)查。強(qiáng)化智能巡檢與兜底，推動(dòng)可信能力的持續(xù)建設(shè)與優(yōu)化，依賴(lài)安全運(yùn)營(yíng)專(zhuān)家人工驗(yàn)證需要耗費(fèi)大量的人力，面對(duì)新增業(yè)務(wù)數(shù)據(jù)也很難及時(shí)發(fā)現(xiàn)異常，極易漏審、誤審；通過(guò)智能巡檢和兜底機(jī)制，將安全專(zhuān)家經(jīng)驗(yàn)與機(jī)器學(xué)習(xí)能力相結(jié)合，并結(jié)合黑盒驗(yàn)證、紅藍(lán)演練等推可信的持續(xù)設(shè)與。資料來(lái)源：中國(guó)信息通信研究院整圖8數(shù)據(jù)要素領(lǐng)域的典型可信應(yīng)用計(jì)算能力人工智能發(fā)展的關(guān)鍵要素是數(shù)據(jù)，而讓數(shù)據(jù)發(fā)揮作用的關(guān)鍵則是算力。目前，各行各業(yè)都存在更多維度、更大深度的智能需求，而在這背后需要更多的算力來(lái)為人工智能算法提供處理能力。算力已經(jīng)成為助推經(jīng)濟(jì)發(fā)展的動(dòng)力，據(jù)中國(guó)信通院測(cè)算，在算力中每投入1元，可帶動(dòng)3-4元經(jīng)濟(jì)產(chǎn)出，“算力正成為數(shù)字經(jīng)濟(jì)時(shí)代的重要驅(qū)動(dòng)力已成識(shí)。在這種情況下，以人工智能芯片為代表的計(jì)算架構(gòu)也承擔(dān)了越來(lái)越多的敏感數(shù)據(jù)計(jì)算職能，對(duì)可信有極大的需求。例如，智能駕駛場(chǎng)景下，從感知系統(tǒng)進(jìn)行數(shù)據(jù)收集，到車(chē)載計(jì)算平臺(tái)實(shí)時(shí)處理，再到快速傳輸分析結(jié)果，每一個(gè)環(huán)節(jié)都離不開(kāi)人工智能芯片的支持；由于智能駕駛場(chǎng)景較為復(fù)雜，一旦失效可能引發(fā)嚴(yán)重后果，對(duì)穩(wěn)定性有很高要求?；诖?，建立可信智能計(jì)算能力成為人工智能算力發(fā)展的一大趨勢(shì)，歐盟委員會(huì)人工智能高級(jí)專(zhuān)家組（IHG）于29年和01年發(fā)布的《可信人工智能政策投資建議》和《人工智能聯(lián)合計(jì)劃》就建議共同研發(fā)邊緣端AI芯片，從基礎(chǔ)軟硬件方支撐信I系統(tǒng)。資料來(lái)源：中國(guó)信息通信研究院整圖9計(jì)算能力領(lǐng)域的典型應(yīng)用可信執(zhí)行環(huán)境（Tstdxctnnioet，E）是人工智能芯片常見(jiàn)的可信技術(shù)，是密碼學(xué)與系統(tǒng)安全的結(jié)合，通過(guò)軟硬件方法在中央處理器中構(gòu)建安全區(qū)域，保護(hù)內(nèi)部加載程序和數(shù)據(jù)的機(jī)密性與完整性，隔離的硬件設(shè)備提升了可信計(jì)算抵御攻擊的能力，同時(shí)也可避免額外的通信過(guò)程以及公鑰密碼學(xué)中大量的計(jì)算開(kāi)銷(xiāo)。目，主流TE以X6集架構(gòu)的nelX和ARM指令集的TuZne代表中芯片廠起步?？尚潘憧蚣苋〉秒A段性進(jìn)展，構(gòu)建系列可信能力，英特爾可信計(jì)算框架（F）將密集運(yùn)算和隱私數(shù)據(jù)處理工作轉(zhuǎn)移至區(qū)塊鏈下，以此解決區(qū)塊鏈的可擴(kuò)展性和隱私問(wèn)題，并使用可信執(zhí)行環(huán)境保證網(wǎng)絡(luò)彈性和安全性；模型部署上，模型訓(xùn)練工具鏈遷移能力不足，對(duì)數(shù)據(jù)隔離條件下的訓(xùn)練、敏感數(shù)據(jù)的加密訓(xùn)練等都未能提供有效支持，需要通過(guò)開(kāi)放模型生產(chǎn)工具鏈平臺(tái)，向上對(duì)接訓(xùn)練數(shù)據(jù)協(xié)議、向下具備規(guī)范模型安全、模型格式等能力。目前，全球首個(gè)內(nèi)存安全的可信安計(jì)算框架saE利用InelX技和S內(nèi)存安全技術(shù)，兼顧云上數(shù)據(jù)代碼完整性、保密性和內(nèi)存安全帶來(lái)的不可繞過(guò)性全景I框架思idpe成為個(gè)得CE2+證書(shū)的人工智能框架。通用的和可解釋的智能芯片設(shè)計(jì)流程將成為下一個(gè)發(fā)展重點(diǎn)。許多芯片設(shè)計(jì)為了適應(yīng)不斷變化的模型結(jié)構(gòu)，需要在設(shè)計(jì)的通用性和效率之間尋求平衡，帶來(lái)較大設(shè)計(jì)難度。未來(lái)，可信的智能芯片設(shè)計(jì)可能使用神經(jīng)符號(hào)化方法構(gòu)建可組合的模型，將芯片轉(zhuǎn)變?yōu)橛蓪?duì)應(yīng)算法、具有可解釋硬件模塊的集合，從而在保證通用和可性的前下實(shí)需的性。（二）算法技術(shù)計(jì)算機(jī)視覺(jué)計(jì)算機(jī)視覺(jué)技術(shù)囊括很多能夠理解圖像（包括圖片和視頻）的算法23]27]28]30]，得益于深度學(xué)習(xí)技術(shù)的不斷進(jìn)步，計(jì)算機(jī)視覺(jué)在近些年飛速發(fā)展，在感知領(lǐng)域的研究已經(jīng)相對(duì)成熟，內(nèi)容合成與圖像識(shí)別等某些人工智能任務(wù)已經(jīng)能夠通過(guò)圖靈測(cè)試，并在金融、安防、制等場(chǎng)落地，有一對(duì)成熟產(chǎn)品。在為生產(chǎn)生活帶來(lái)便利的同時(shí)，計(jì)算機(jī)視覺(jué)算法的應(yīng)用也在隱私泄露、識(shí)別失效、偏見(jiàn)歧視等方面引發(fā)新關(guān)注。例如，在商業(yè)零售領(lǐng)域?qū)τ脩粼诓恢榈那闆r下進(jìn)行人臉識(shí)別和營(yíng)銷(xiāo)活動(dòng)等產(chǎn)生了個(gè)人信息和隱私保護(hù)問(wèn)題，造成了惡劣的社會(huì)影響。面具仿冒、對(duì)抗樣本攻擊可能造成識(shí)別失效，此外，也可能涉及到針對(duì)不同人種、老年人的偏見(jiàn)歧視等倫理問(wèn)題，美國(guó)一些零售店和警務(wù)工作中使用的部識(shí)術(shù)會(huì)錯(cuò)識(shí)別，引發(fā)抗議管。資料來(lái)源：中國(guó)信息通信研究院整圖10計(jì)算機(jī)視覺(jué)領(lǐng)域典型可信應(yīng)用為了增強(qiáng)計(jì)算機(jī)視覺(jué)算法的可信能力，產(chǎn)業(yè)界進(jìn)行了多種嘗試，不斷提升計(jì)算機(jī)視覺(jué)算法可信水平，為重要產(chǎn)品提供核心能力支撐。一是通過(guò)聯(lián)合解譯和認(rèn)知推理深入理解場(chǎng)景或事件，增強(qiáng)可解釋性，人造物體和場(chǎng)景設(shè)計(jì)中暗含了潛在的、未以像素表示的實(shí)體和關(guān)系（近似于人類(lèi)的常識(shí)），通過(guò)推理這些可見(jiàn)像素以外的不可見(jiàn)因素，使用有限的數(shù)據(jù)來(lái)實(shí)現(xiàn)各種任務(wù)的泛化17]18]9][6]，形成“以小數(shù)據(jù)驅(qū)動(dòng)大任務(wù)”的新型范式。二是采用數(shù)學(xué)可證明的形式，融合不同形態(tài)的噪聲進(jìn)行改造，以掩碼等方法使其滿足不可逆、可撤銷(xiāo)、不可關(guān)聯(lián)等特性，提升模型魯棒性，避免樣本不均衡，實(shí)現(xiàn)安全、可信且準(zhǔn)確率高的識(shí)別。三是對(duì)于已有的生物識(shí)別系統(tǒng)，可以應(yīng)用安全多方計(jì)算和同態(tài)加密等技術(shù)手段，在生物特征的密文狀態(tài)下進(jìn)行計(jì)算，并將最終結(jié)果恢復(fù)成明文，有效保護(hù)原始生物特征的安全。在實(shí)際應(yīng)用中，同態(tài)加密與安全多方計(jì)算經(jīng)常結(jié)合使用，在金融領(lǐng)域反洗錢(qián)和跨實(shí)體欺詐分析、抗擊新冠疫情敏感健康數(shù)據(jù)等場(chǎng)景下得到應(yīng)用。四是形成行業(yè)合力，推進(jìn)與不同風(fēng)險(xiǎn)場(chǎng)景、主體結(jié)合的分級(jí)分類(lèi)標(biāo)準(zhǔn)建設(shè)，例如，上海在全國(guó)率先立項(xiàng)人臉識(shí)別地方標(biāo)準(zhǔn)《公共場(chǎng)所人臉識(shí)別分級(jí)分類(lèi)應(yīng)用規(guī)范》，積極探索使用主體和實(shí)施主體對(duì)公共場(chǎng)所人臉識(shí)別系統(tǒng)的分級(jí)分類(lèi)應(yīng)用原則，并提出相應(yīng)的評(píng)估方法；中國(guó)信通院發(fā)起成立“可信人臉應(yīng)用守護(hù)計(jì)劃”，聯(lián)合多方力量，通過(guò)標(biāo)準(zhǔn)制定、測(cè)試評(píng)估和行業(yè)自律等手，共范人臉用健展。智能語(yǔ)音智能語(yǔ)音技術(shù)是人工智能主要算法技術(shù)之一，從最初只能識(shí)別孤立的數(shù)字以及有限的詞匯，逐步發(fā)展到通過(guò)聲音模式和特征設(shè)置參數(shù)實(shí)現(xiàn)基于大量詞匯的連續(xù)語(yǔ)音識(shí)別，再到基于概率統(tǒng)計(jì)建模、基于深度學(xué)習(xí)的識(shí)別。目前，智能語(yǔ)音算法已經(jīng)逐步成熟，在移動(dòng)設(shè)備、汽車(chē)、家居等C端場(chǎng)景以及呼叫中心、在線客服等B端場(chǎng)景深入賦能并逐透到安、旅法律等業(yè)中。語(yǔ)音識(shí)穩(wěn)定性、語(yǔ)音詐欺等問(wèn)題成為焦點(diǎn)。語(yǔ)音識(shí)別的魯棒性問(wèn)題顯著，業(yè)內(nèi)普遍宣稱(chēng)的高準(zhǔn)確率，更多是在安靜室內(nèi)近場(chǎng)識(shí)別中實(shí)現(xiàn)的，在真實(shí)使用場(chǎng)景中則要考慮遠(yuǎn)場(chǎng)、方言、噪音、斷句等問(wèn)題，準(zhǔn)確率會(huì)大打折扣。語(yǔ)言往往一詞多義，語(yǔ)音分析目前主要是淺層處理，詞義消歧依然是瓶頸，想要讓機(jī)器像人一樣運(yùn)用知識(shí)儲(chǔ)備結(jié)合上下文進(jìn)行理解和交互，還需要更多的探索。此外，隨著各種語(yǔ)音合成工具的普及，語(yǔ)音合成濫用等語(yǔ)音欺詐問(wèn)題也隨之而來(lái)，為產(chǎn)展關(guān)注焦點(diǎn)。為解決以上問(wèn)題，企業(yè)先后開(kāi)展探索，積累了一批成功經(jīng)驗(yàn)。一是向用戶充分告知相關(guān)風(fēng)險(xiǎn)，通過(guò)簽署協(xié)議等方式對(duì)數(shù)據(jù)的采集和使用進(jìn)行限制，允許用戶對(duì)何時(shí)和如何上傳使用語(yǔ)音信息做出選擇，例如設(shè)置手動(dòng)關(guān)閉語(yǔ)音采集裝置的開(kāi)關(guān)、允許不自動(dòng)升級(jí)、只有在用戶允許的情況下進(jìn)行語(yǔ)音的采集和識(shí)別。二是在數(shù)據(jù)存儲(chǔ)、處理和刪除等方面遵循各類(lèi)法律法規(guī)的規(guī)定，推進(jìn)技術(shù)向善，嚴(yán)格按照個(gè)人信息保護(hù)法、數(shù)據(jù)安全法、網(wǎng)絡(luò)安全法、個(gè)人信息安全規(guī)范等國(guó)章以及盟D國(guó)CCA的規(guī)定展業(yè)務(wù)。例如，《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》對(duì)基于新技術(shù)新應(yīng)用制作、發(fā)布、傳播音視頻信息明確了安全評(píng)估、標(biāo)識(shí)、信息管理、辟謠等方面的要求，避免利用智能語(yǔ)音技術(shù)侵害他人合法權(quán)益。三是嘗試基于大規(guī)模無(wú)標(biāo)注訓(xùn)練，語(yǔ)音領(lǐng)域的無(wú)監(jiān)督學(xué)習(xí)成功案例較少，有監(jiān)督訓(xùn)練成本較高，因此，半監(jiān)督學(xué)習(xí)獲得廣泛關(guān)注，即在海量無(wú)標(biāo)簽數(shù)據(jù)上訓(xùn)練大規(guī)模通用預(yù)訓(xùn)練模型，并對(duì)少量有標(biāo)簽數(shù)據(jù)進(jìn)行精細(xì)調(diào)整，從而更好地強(qiáng)化訓(xùn)練效果，提升可信能力。這種利用少量帶標(biāo)注數(shù)據(jù)來(lái)訓(xùn)練大量無(wú)標(biāo)注數(shù)據(jù)的超大規(guī)模自監(jiān)督學(xué)習(xí)技術(shù)已展現(xiàn)出很強(qiáng)的通用學(xué)習(xí)能力。四是語(yǔ)音對(duì)抗攻擊與防御技術(shù)獲得更多關(guān)注，語(yǔ)音領(lǐng)域的對(duì)抗攻擊將從當(dāng)前的白盒攻擊，進(jìn)?步進(jìn)化成黑盒攻擊，攻擊內(nèi)容將從當(dāng)前流行的utaget攻擊進(jìn)化成tagt攻擊。基于這些嘗試，智能語(yǔ)音正在從以往基于語(yǔ)音交互的智能輔助工具形態(tài)進(jìn)化為基于虛擬人多模態(tài)交互的智能助手形態(tài)。資料來(lái)源：中國(guó)信息通信研究院整圖11智能語(yǔ)音領(lǐng)域的典型可信應(yīng)用自然語(yǔ)言處理自然語(yǔ)言處理是人工智能從感知邁向認(rèn)知的關(guān)鍵技術(shù)，近年來(lái)，自然語(yǔ)言處理加快與知識(shí)圖譜等的融合，推動(dòng)機(jī)器翻譯、對(duì)話系統(tǒng)、閱讀理解等技術(shù)在特定任務(wù)上超越人類(lèi)水平，從而持續(xù)提升在搜索引擎、對(duì)話交互、個(gè)性推薦等場(chǎng)景的性能，并隨著全球各地協(xié)同發(fā)和語(yǔ)化交流合而培育出的需。自然語(yǔ)言處理在發(fā)展過(guò)程中還存在不少技術(shù)挑戰(zhàn)，其中之一便是很難獲取到大量高質(zhì)量的標(biāo)注數(shù)據(jù)。自然語(yǔ)言處理領(lǐng)域認(rèn)知類(lèi)任務(wù)較多，數(shù)據(jù)標(biāo)注的時(shí)間成本和人力成本相較與語(yǔ)音識(shí)別、圖像處理等感知類(lèi)任務(wù)更大。從可信人工智能的視角來(lái)看，自然語(yǔ)言處理發(fā)展仍存在建模、融合、消除歧視等挑戰(zhàn)。一是自然語(yǔ)言語(yǔ)義空間寬泛，依賴(lài)特定語(yǔ)料學(xué)習(xí)，通用性和遷移性存在瓶頸，難以有效建模；二是自然語(yǔ)言涉及多種模態(tài)，跨模態(tài)關(guān)系抽取、語(yǔ)義理解等技術(shù)還缺乏深層結(jié)構(gòu)分析，難以精準(zhǔn)融合；三是大型預(yù)訓(xùn)練模型可能導(dǎo)致對(duì)性別、種族和年齡等受保護(hù)屬性的偏見(jiàn)，例如一項(xiàng)研究表明，通過(guò)某特定報(bào)紙和一家面向老年人的報(bào)紙訓(xùn)練的自然語(yǔ)言處理結(jié)果脫了年和女性交流。資料來(lái)源：中國(guó)信息通信研究院整圖12自然語(yǔ)言處理領(lǐng)域的典型可信應(yīng)用目前，自然語(yǔ)言處理領(lǐng)域中已經(jīng)開(kāi)展了不少可信相關(guān)工作?？山忉屝苑矫妫捎锰卣髦匾?、替代模型、樣例驅(qū)動(dòng)、溯源、陳述歸納等制提釋。例，構(gòu)于prigtsk測(cè)模型的義理解能力，尋找簡(jiǎn)單的替代模型或者將模型的局部分類(lèi)面簡(jiǎn)化；理論分析NN的泛[18；運(yùn)一階數(shù)顯著衡量輸入單最終決策的貢獻(xiàn)量；注意力機(jī)制模擬人類(lèi)理解語(yǔ)言時(shí)會(huì)集中注意到一些關(guān)鍵詞的行為，在一系列任務(wù)上顯著提升模型性能[19]。此外，還可以模仿人類(lèi)解決問(wèn)題的過(guò)程進(jìn)行可解釋的結(jié)構(gòu)設(shè)計(jì)，由于該架構(gòu)包含模擬人類(lèi)認(rèn)知的組件，學(xué)習(xí)到的模型（部分）可解釋。公平性方面，擴(kuò)大和豐富樣本數(shù)據(jù)來(lái)源，并對(duì)樣本進(jìn)行偏移，識(shí)別和減輕偏見(jiàn)，擴(kuò)大自然語(yǔ)言樣本來(lái)源范圍和種類(lèi)，除了常見(jiàn)的社交媒體、報(bào)紙等數(shù)據(jù)來(lái)源，將樣本來(lái)源進(jìn)一步擴(kuò)大到維基百科、城市字典(UbnDconr)，甚至圣經(jīng)和古蘭經(jīng)的解釋及公開(kāi)雜志[20]。在預(yù)訓(xùn)練模型使用的各個(gè)階段盡可能消除偏見(jiàn)[21]，一些算法可以在保持有用信息的同時(shí)，修改實(shí)際矢量以刪除定型信息，實(shí)現(xiàn)對(duì)模型的偏移，從而改善公平性?？煽啃苑矫?，小樣本學(xué)習(xí)性能和魯棒性提升，同時(shí)出現(xiàn)了很多能夠可靠評(píng)估模型的方法，性能指標(biāo)逐漸由單一轉(zhuǎn)向多元。通過(guò)數(shù)據(jù)增廣、增加先驗(yàn)知識(shí)等實(shí)現(xiàn)小樣本學(xué)習(xí)性能和魯棒性的提升，有效避免故障模式的發(fā)生。以欺詐短信分類(lèi)識(shí)別場(chǎng)景為例，通過(guò)對(duì)公開(kāi)的短信數(shù)據(jù)進(jìn)行改造，對(duì)樣本量少的類(lèi)別進(jìn)行過(guò)采樣操作，以及綜合使用ac-1等多分類(lèi)的評(píng)價(jià)函數(shù)、atTt算法等技術(shù)，能夠有效提升模型的穩(wěn)定性[2]。隨著近年來(lái)自然語(yǔ)言處理模型的快速改進(jìn)，基準(zhǔn)度量能力也在不斷提升，動(dòng)態(tài)對(duì)抗性評(píng)估、社區(qū)驅(qū)動(dòng)型評(píng)估、跨多種錯(cuò)誤類(lèi)型的交互式細(xì)粒度評(píng)估、超單一指標(biāo)評(píng)模型維評(píng)估新基漸出現(xiàn)。（三）應(yīng)用場(chǎng)景智慧金融人工智能驅(qū)動(dòng)金融服務(wù)應(yīng)用程序已經(jīng)成為金融創(chuàng)新的一大趨勢(shì)，在金融產(chǎn)品設(shè)計(jì)、市場(chǎng)營(yíng)銷(xiāo)、風(fēng)險(xiǎn)管理、客戶服務(wù)和其它支持性活動(dòng)等金融行業(yè)主要業(yè)務(wù)鏈條均有落地，生物特征識(shí)別、知識(shí)圖譜、智語(yǔ)音術(shù)已經(jīng)生出營(yíng)銷(xiāo)、能客典型場(chǎng)。人工智能賦能金融業(yè)的深度逐漸加深，金融系統(tǒng)復(fù)雜性日益提升，對(duì)金融市場(chǎng)的公平性、透明度和穩(wěn)定性提出了新的挑戰(zhàn)。依托可信人工智能適當(dāng)和透明的設(shè)計(jì)能夠合理規(guī)避風(fēng)險(xiǎn)，增進(jìn)消費(fèi)者保護(hù)和信任。一方面，通過(guò)解釋人工智能算法如何開(kāi)發(fā)與運(yùn)作，能夠促進(jìn)建立對(duì)人工智能應(yīng)用的信任，整體提升金融市場(chǎng)的可信度；另一方面，減少人工智能結(jié)果的偏見(jiàn)，避免產(chǎn)生歧視性結(jié)果及市場(chǎng)趨同和羊行為而確保場(chǎng)的性和可現(xiàn)性。資料來(lái)源：中國(guó)信息通信研究院整圖13智慧金融領(lǐng)域的典型可信需求與實(shí)踐可信人工智能在金融領(lǐng)域的實(shí)踐主要集中于業(yè)務(wù)運(yùn)營(yíng)、風(fēng)險(xiǎn)管控、銷(xiāo)售營(yíng)銷(xiāo)等環(huán)節(jié)。在業(yè)務(wù)運(yùn)營(yíng)環(huán)節(jié)，匿蹤私密查詢等技術(shù)能夠保護(hù)用戶隱私，防止用戶信息被誤用濫用。金融機(jī)構(gòu)在聯(lián)合運(yùn)營(yíng)商、政務(wù)機(jī)構(gòu)、保險(xiǎn)機(jī)構(gòu)、支付機(jī)構(gòu)等獲取相關(guān)客戶信息解決日常業(yè)務(wù)的過(guò)程中，使用匿蹤私密查詢技術(shù)對(duì)查詢方的客戶身份D進(jìn)行混淆加密，使數(shù)據(jù)源方無(wú)法確切知道客戶信息，有效避免客戶身份ID信息泄漏。通過(guò)不可更改的固件安全啟動(dòng)、硬件加密算法保證的加密信任鏈以及離線簽名的加解密算法，保證系統(tǒng)運(yùn)行環(huán)境的無(wú)人為篡改和可信安全性。在風(fēng)險(xiǎn)管控環(huán)節(jié)，通過(guò)聯(lián)合計(jì)算與統(tǒng)計(jì)解決風(fēng)險(xiǎn)信息不對(duì)稱(chēng)問(wèn)題，豐富目標(biāo)主體風(fēng)險(xiǎn)評(píng)價(jià)信息維度，提升金融服務(wù)的普惠性和公平性。通過(guò)安全求交等技術(shù)[24]25]，橫縱向打通不同領(lǐng)域數(shù)據(jù)，從而實(shí)現(xiàn)金融機(jī)構(gòu)風(fēng)控信息的全面補(bǔ)充，形成跨行業(yè)線上線下真實(shí)經(jīng)營(yíng)數(shù)據(jù)信息的評(píng)估鏈條，交換機(jī)器學(xué)習(xí)參數(shù)，提升對(duì)目標(biāo)主體信貸風(fēng)險(xiǎn)洞察能力，實(shí)現(xiàn)本行優(yōu)質(zhì)高潛客戶挖掘，有效緩解中小銀行客戶相對(duì)資質(zhì)稍差的問(wèn)題。支付服務(wù)環(huán)節(jié)，以注入式攻擊防御方案增強(qiáng)支付系統(tǒng)安全穩(wěn)定性。針對(duì)刷臉支付等新型支付潮流和潛在的注入式攻擊威脅，金融機(jī)構(gòu)主要采用整套防控方案，既包含硬件環(huán)境檢測(cè)+傳感器參數(shù)+圖像視覺(jué)特征融合的多模態(tài)防控方案+E+暗水印，又融合隱式多幀、微表情等算法創(chuàng)新，可以防御9%入擊。智慧醫(yī)療人工智能作為一種“通用”技術(shù)，幾乎滲透醫(yī)療系統(tǒng)所有領(lǐng)域，從臨床決策到生物醫(yī)學(xué)研究和衛(wèi)生系統(tǒng)管理等，將臨床醫(yī)生從非臨床事務(wù)中解放出來(lái)，在影像診斷、藥物發(fā)現(xiàn)、腫瘤診治等行醫(yī)過(guò)程中至具高的效。如何在人工智能可信框架內(nèi)規(guī)范智慧醫(yī)療，高效發(fā)揮人工智能技術(shù)作用至關(guān)重要。可信治理框架強(qiáng)調(diào)透明度、信任的重要性，可信人工智能在醫(yī)療領(lǐng)域的推廣能夠在保護(hù)數(shù)據(jù)隱私的同時(shí)打通數(shù)據(jù)群島、實(shí)現(xiàn)數(shù)據(jù)價(jià)值、提升醫(yī)療算法的可解釋性，從而提高社會(huì)整體醫(yī)療水平與效率。目前，醫(yī)療行業(yè)內(nèi)存在數(shù)據(jù)共享難、分析難的困境，伴隨療數(shù)據(jù)構(gòu)、復(fù)雜等題。資料來(lái)源：中國(guó)信息通信研究院整圖14智慧醫(yī)療領(lǐng)域的典型可信需求與實(shí)踐可信人工智能在醫(yī)療領(lǐng)域的運(yùn)用主要體現(xiàn)在醫(yī)療輔助診斷、藥物發(fā)現(xiàn)與罕見(jiàn)病治療方面。醫(yī)療輔助診斷方面，可信人工智能能夠?qū)崿F(xiàn)高質(zhì)量醫(yī)療服務(wù)的標(biāo)準(zhǔn)化，緩解地區(qū)醫(yī)療水平發(fā)展不平衡的問(wèn)題。通過(guò)數(shù)字化、標(biāo)準(zhǔn)化的專(zhuān)家經(jīng)驗(yàn)和知識(shí)圖譜，可將高質(zhì)量醫(yī)療服務(wù)復(fù)制并輸出，增加醫(yī)療資源的總體供給，快速提升基層醫(yī)院的醫(yī)療水平，使得患者無(wú)論是在發(fā)達(dá)地區(qū)或是偏遠(yuǎn)地區(qū)，均可就近就醫(yī)，享受到基本同質(zhì)的醫(yī)療服務(wù)，促進(jìn)醫(yī)療衛(wèi)生資源均衡化發(fā)展。藥物研發(fā)和罕見(jiàn)病研究方面，以聯(lián)邦學(xué)習(xí)協(xié)同各機(jī)構(gòu)合作，提高精度和成功率，保護(hù)病人隱私。單個(gè)機(jī)構(gòu)罕見(jiàn)病數(shù)據(jù)量偏少且高度有偏，共享存在高壁壘、高成本、高機(jī)密性等困難，聯(lián)邦學(xué)習(xí)框架下，機(jī)構(gòu)之間僅通過(guò)共享模型權(quán)重即可協(xié)同訓(xùn)練，彼此增強(qiáng)模型效果，還可通過(guò)蒸餾學(xué)習(xí)解決參與聚合的模型參數(shù)量過(guò)大的問(wèn)題，維護(hù)系統(tǒng)穩(wěn)定性。此外，將隨機(jī)對(duì)照試驗(yàn)作為檢驗(yàn)醫(yī)療人工智能創(chuàng)新的金標(biāo)準(zhǔn)，保證泛化性和可靠性。隨機(jī)對(duì)照試驗(yàn)（T）通常被認(rèn)為是醫(yī)臨床的黃金準(zhǔn)21年Naureviwancer的一篇研究顯示38項(xiàng)與深度學(xué)習(xí)相關(guān)的癌癥診斷技術(shù)研究中，符合三期臨床T標(biāo)的僅有3項(xiàng)。，結(jié)腸算助診斷冠脈TA等領(lǐng)已開(kāi)展了合醫(yī)準(zhǔn)的科驗(yàn)證而保證療人工智的準(zhǔn)和可靠。智慧教育智慧教育在發(fā)展過(guò)程中已催生出大量應(yīng)用和新業(yè)態(tài)，覆蓋教育各個(gè)環(huán)節(jié)，依托知識(shí)圖譜、情感計(jì)算、自然語(yǔ)言處理等技術(shù)，通過(guò)計(jì)算機(jī)輔助教學(xué)、學(xué)習(xí)管理系統(tǒng)、自適應(yīng)學(xué)習(xí)等方式，全面促進(jìn)教育機(jī)會(huì)樣性容豐富，方活性與徑便。教育的社會(huì)性與敏感性意味著人工智能帶來(lái)的不確定性和風(fēng)險(xiǎn)更加顯著?？尚湃斯ぶ悄茉诠剑€(wěn)健、保護(hù)隱私的前提下充分發(fā)揮人工智能在教育領(lǐng)域的潛力。一方面，降低系統(tǒng)復(fù)雜性，給出選擇特定學(xué)習(xí)軌跡的過(guò)程與理由，避免信息不對(duì)稱(chēng)及歧視性結(jié)果，確保包容、公平的優(yōu)質(zhì)教育。另一方面，在保護(hù)用戶個(gè)人數(shù)據(jù)的前提下促進(jìn)材施個(gè)性化習(xí)，個(gè)人信濫用道德風(fēng)?？尚湃斯ぶ悄茉诮逃I(lǐng)域的實(shí)踐主要體現(xiàn)在確保公平性、增強(qiáng)系統(tǒng)穩(wěn)健性、完善數(shù)據(jù)安全保障三方面?？尚胖腔劢逃墓叫泽w現(xiàn)在系統(tǒng)設(shè)計(jì)的多樣性與無(wú)偏性。一方面，保證設(shè)計(jì)和訓(xùn)練人工智能系統(tǒng)團(tuán)隊(duì)多樣性，如在專(zhuān)業(yè)領(lǐng)域、教育背景方面，并定期更新教學(xué)數(shù)據(jù)避免系統(tǒng)固化；另一方面，對(duì)系統(tǒng)設(shè)計(jì)建立監(jiān)督程序，明確分析系統(tǒng)的目的、操作范圍、限制和要求等，評(píng)估可能出現(xiàn)不公平偏見(jiàn)的情況，并保證人工智能教育系統(tǒng)態(tài)度、診斷和教學(xué)行為的一致性。可信智慧教育能夠確保系統(tǒng)的穩(wěn)健型，對(duì)抗惡意攻擊與數(shù)據(jù)過(guò)載等問(wèn)題，全程保障教學(xué)質(zhì)量。一方面，建立穩(wěn)健教學(xué)服務(wù)引擎，對(duì)教學(xué)服務(wù)實(shí)時(shí)監(jiān)控，并設(shè)立預(yù)警通知機(jī)制，保障監(jiān)測(cè)到警告信息后及時(shí)處理，以維持底層服務(wù)的穩(wěn)定性；另一方面，通過(guò)對(duì)各個(gè)關(guān)鍵業(yè)務(wù)點(diǎn)的智能模擬訪問(wèn)，保障教育系統(tǒng)實(shí)時(shí)可用，并依據(jù)運(yùn)行狀態(tài)數(shù)據(jù)分析，動(dòng)態(tài)調(diào)整云端環(huán)境的配置和數(shù)量，提升業(yè)務(wù)高峰期的運(yùn)行穩(wěn)定性。可信智慧教育將教育大數(shù)據(jù)的信息儲(chǔ)存和共享變得安全、可信。一方面，強(qiáng)化防泄漏、防竊取的全場(chǎng)景監(jiān)測(cè)、預(yù)警和應(yīng)急處置等能力建設(shè)，并建立起數(shù)據(jù)流動(dòng)的異常行為畫(huà)像機(jī)制，對(duì)可能存在的風(fēng)險(xiǎn)部署人工智能檢測(cè)模型，將數(shù)據(jù)的時(shí)效性和檢測(cè)行為融為一體；另一方面，建立可信執(zhí)行環(huán)境，通過(guò)密文查詢手段防止工作人員查詢敏感數(shù)據(jù)，保護(hù)學(xué)生隱私。同時(shí)，提升區(qū)域教育大數(shù)據(jù)含金量，實(shí)現(xiàn)隱私保護(hù)下的高質(zhì)量數(shù)據(jù)協(xié)作，利用上鏈數(shù)據(jù)實(shí)現(xiàn)事數(shù)據(jù)可控，后可監(jiān)管、計(jì)。資料來(lái)源：中國(guó)信息通信研究院整圖15智慧教育領(lǐng)域的典型可信需求與實(shí)踐智能制造在機(jī)器視覺(jué)、語(yǔ)音技術(shù)、機(jī)器學(xué)習(xí)等技術(shù)助力下，人工智能在工業(yè)領(lǐng)域的應(yīng)用推動(dòng)了生產(chǎn)優(yōu)化、智能質(zhì)檢、生產(chǎn)設(shè)備預(yù)測(cè)性維護(hù)以及供鏈管制造體的全策優(yōu)化推動(dòng)提質(zhì)增。目前，人工智能在工業(yè)領(lǐng)域的實(shí)踐存在工業(yè)數(shù)據(jù)流通不暢、信息泄露，數(shù)據(jù)價(jià)值融合、釋放困難，數(shù)據(jù)涉及主體眾多、無(wú)法確權(quán)等問(wèn)題?？尚湃斯ぶ悄茉噲D尋找一種適合工業(yè)場(chǎng)景的新型數(shù)據(jù)共享流通解決方案，在數(shù)據(jù)價(jià)值釋放及數(shù)據(jù)安全需求中取得平衡，保障工業(yè)數(shù)據(jù)合規(guī)流動(dòng)與有序利用，有助于構(gòu)建數(shù)據(jù)驅(qū)動(dòng)、人機(jī)協(xié)同、跨界融，共享的智工業(yè)形態(tài)。資料來(lái)源：中國(guó)信息通信研究院整圖16智能制造領(lǐng)域的典型可信需求與實(shí)踐可信人工智能在工業(yè)領(lǐng)域的實(shí)踐主要體現(xiàn)于生產(chǎn)優(yōu)化、智能質(zhì)檢與生產(chǎn)設(shè)備預(yù)測(cè)性維護(hù)等方面?？尚湃斯ぶ悄苣軌虮苊庑畔⒐聧u帶來(lái)的效率低下、工藝水平參差、重復(fù)性工作等問(wèn)題，促進(jìn)生產(chǎn)優(yōu)化。通過(guò)建立以數(shù)據(jù)+模型雙驅(qū)動(dòng)的數(shù)據(jù)共享方案，將樣本數(shù)據(jù)傳輸至云端進(jìn)行聯(lián)邦學(xué)習(xí)實(shí)現(xiàn)多條產(chǎn)線間的聯(lián)合訓(xùn)練與模型共享，并通過(guò)數(shù)據(jù)清洗與儲(chǔ)存、數(shù)據(jù)計(jì)算處理等步驟沉淀量化行業(yè)知識(shí)，構(gòu)建高品質(zhì)、高效率的生產(chǎn)新模式。通過(guò)無(wú)量綱和互無(wú)量綱指標(biāo)實(shí)現(xiàn)生產(chǎn)設(shè)備的預(yù)測(cè)性維護(hù)，降低隨機(jī)故障幾率。原始振動(dòng)與特征信號(hào)通常隱藏了大量設(shè)備狀態(tài)信息，能夠反映設(shè)備系統(tǒng)狀態(tài)與變化規(guī)律，通過(guò)對(duì)該信號(hào)的提取與分析，能夠有效進(jìn)行設(shè)備故障診斷。一些企業(yè)利用無(wú)量綱理論提取敏感特征，從而避免特征冗余，提升設(shè)備故障識(shí)別和分類(lèi)效率；在一些對(duì)精細(xì)度要求較高的領(lǐng)域，可以利用實(shí)際模擬仿真，推導(dǎo)出具有更高靈敏性的互無(wú)量綱指標(biāo)，適用于環(huán)境和設(shè)備結(jié)構(gòu)復(fù)雜的情況。使用基于正樣本的異常檢測(cè)、基于小樣本的模型快速迭代和基于未知缺陷的分割等方法，優(yōu)化智能質(zhì)檢。人工智能質(zhì)檢在汽車(chē)制造、電子制造、新能源等多個(gè)工業(yè)細(xì)分領(lǐng)域均有落地，目前主要采用基于正樣本的異常檢測(cè)、基于小樣本的模型快速迭代和基于未知缺陷的分割等方法，解決較為常見(jiàn)的換型效率與模型精度要求高、難以使用一個(gè)通用模型覆蓋所有應(yīng)用場(chǎng)景、樣本數(shù)量不足以滿足訓(xùn)練需求、數(shù)據(jù)質(zhì)量參差不齊等問(wèn)題，優(yōu)化問(wèn)題工件預(yù)模型行全量動(dòng)化。智慧政務(wù)人工智能融合知識(shí)圖譜、語(yǔ)義分析、文字識(shí)別、語(yǔ)音識(shí)別等技術(shù)，已經(jīng)應(yīng)用到政府辦公、信息管理和公共服務(wù)等多個(gè)場(chǎng)景中，助力政務(wù)決策、業(yè)務(wù)流程優(yōu)化，提升利企便民服務(wù)體驗(yàn)，提高城市政務(wù)服務(wù)力與。智慧政務(wù)在助力政府信息化建設(shè)和實(shí)現(xiàn)政務(wù)應(yīng)用無(wú)障礙的過(guò)程中，數(shù)據(jù)共享、隱私安全與協(xié)同效率等受到挑戰(zhàn)。可信人工智能幫助促進(jìn)政府信息在各部門(mén)間及時(shí)交換和廣泛共享，為跨部門(mén)協(xié)同與領(lǐng)導(dǎo)決策提供準(zhǔn)確可靠的數(shù)據(jù)支撐，全面保證數(shù)據(jù)的可知、可管、可控、可用，并為公眾建立一個(gè)更為透明、公平、功能強(qiáng)大的公眾服務(wù)平臺(tái)，提高政府的公共服務(wù)管理水平。目前，智慧政務(wù)主要面臨橫、縱向信息交換存在“數(shù)據(jù)壁壘”，政務(wù)協(xié)同缺乏信任基礎(chǔ)等問(wèn)題?？尚湃斯ぶ悄茉谡?wù)領(lǐng)域的實(shí)踐主要體現(xiàn)在實(shí)現(xiàn)跨域數(shù)據(jù)共享，加強(qiáng)政務(wù)系統(tǒng)可靠性與實(shí)現(xiàn)公平普惠?？尚湃斯ぶ悄苣軌蛲黄普?wù)跨域數(shù)據(jù)壁壘，打通政務(wù)跨域數(shù)據(jù)應(yīng)用價(jià)值鏈。建立非人為控制的信任系統(tǒng)，通過(guò)聯(lián)合計(jì)算、聯(lián)合建模等實(shí)現(xiàn)政務(wù)數(shù)據(jù)協(xié)同計(jì)算與數(shù)據(jù)資源合規(guī)市場(chǎng)化、安全應(yīng)用化、價(jià)值最大化，為跨部門(mén)跨層級(jí)數(shù)據(jù)互聯(lián)互通提供安全、可信環(huán)境，并實(shí)現(xiàn)政務(wù)信息的全流程存證與數(shù)據(jù)確權(quán)，面向數(shù)據(jù)權(quán)屬、采集、存儲(chǔ)、存證、計(jì)算，提供全生命周期安全保障。提高異構(gòu)應(yīng)用訪問(wèn)的適應(yīng)性，實(shí)現(xiàn)外部公共數(shù)據(jù)分布式訪問(wèn)，進(jìn)一步提升公共數(shù)據(jù)融合和流通服務(wù)質(zhì)量及效率，形成社會(huì)效益與經(jīng)濟(jì)效益雙發(fā)展?？尚湃斯ぶ悄苣軌驑?gòu)建穩(wěn)健政務(wù)系統(tǒng)，穩(wěn)固信任基礎(chǔ)。政府層面，通過(guò)人工智能對(duì)抗技術(shù)，幫助政府解決AI應(yīng)用中的安全問(wèn)題。定期檢測(cè)AI模型安全漏洞，防御攻擊AI系統(tǒng)的行為，提升政務(wù)系統(tǒng)安全性，保證政府業(yè)務(wù)的全流程安全訪問(wèn)，并防止政務(wù)敏感信息截屏、轉(zhuǎn)發(fā)、復(fù)制等。用戶層面，持續(xù)監(jiān)測(cè)終端設(shè)備和用戶的安全風(fēng)險(xiǎn)，根據(jù)授權(quán)主體、客體環(huán)境和行為風(fēng)險(xiǎn)進(jìn)行動(dòng)態(tài)授權(quán)。通過(guò)檢測(cè)鑒別AI偽造內(nèi)容，降低因?yàn)E用AI導(dǎo)致的社會(huì)隱私和倫理風(fēng)險(xiǎn)?？尚湃斯ぶ悄芡ㄟ^(guò)確保系統(tǒng)決策的公平性，幫助構(gòu)建泛在可及、公平普惠的公共服務(wù)信息體系。一方面，構(gòu)建完整的異質(zhì)數(shù)據(jù)集，避免因文化、政策或歷史因素所造成的社會(huì)偏見(jiàn)，如針對(duì)少數(shù)和弱勢(shì)群體，在設(shè)計(jì)理念與實(shí)際應(yīng)用中考慮特殊需求，推出相應(yīng)的頁(yè)面與符合群體特征的應(yīng)用機(jī)制。另一方面，定期檢查數(shù)據(jù)集以確保數(shù)據(jù)的高質(zhì)量，使用公平性指標(biāo)來(lái)減輕或消除偏見(jiàn)潛。資料來(lái)源：中國(guó)信息通信研究院整圖17智慧政務(wù)領(lǐng)域的典型可信需求與實(shí)踐（四）產(chǎn)品設(shè)備醫(yī)療設(shè)備與器械醫(yī)療設(shè)備和器械在臨床檢查治療中占有重要地位，是保證醫(yī)院正常醫(yī)療研究教學(xué)工作的必要條件。發(fā)達(dá)國(guó)家和地區(qū)起步較早，產(chǎn)品水平總體領(lǐng)先，通用電氣、飛利浦、西門(mén)子等企業(yè)壟斷了醫(yī)療器械行業(yè)的主要份額，盡管我國(guó)企業(yè)也緊抓機(jī)遇快速發(fā)展，但中高端診療設(shè)仍主賴(lài)進(jìn)口。醫(yī)療設(shè)備和器械的可信能力是監(jiān)管機(jī)構(gòu)重點(diǎn)關(guān)注的能力之一，國(guó)家藥監(jiān)局器審中心《醫(yī)療器械網(wǎng)絡(luò)安全注冊(cè)審查指導(dǎo)原則（0年修訂版）》要求醫(yī)療器械對(duì)于網(wǎng)絡(luò)安全威脅應(yīng)具備必要的識(shí)別、保護(hù)能力和適當(dāng)?shù)奶綔y(cè)、響應(yīng)、恢復(fù)能力，保密性、完整性等方面的風(fēng)險(xiǎn)在全生命周期應(yīng)處于可接受水平。未經(jīng)授權(quán)的泄密已經(jīng)成為醫(yī)療行業(yè)數(shù)據(jù)安全的首要風(fēng)險(xiǎn)，多類(lèi)型、多型號(hào)的IoT設(shè)備分布在多科室，且設(shè)備廠商的遠(yuǎn)程運(yùn)維方式多樣，這導(dǎo)致了風(fēng)險(xiǎn)暴露面積的增加，原有安全防護(hù)手段難以應(yīng)對(duì)。醫(yī)用級(jí)智能可穿戴設(shè)備可能將代表性不足的群體排除在醫(yī)學(xué)研究之外，美國(guó)國(guó)立衛(wèi)生研究院的一項(xiàng)研究表明，由于設(shè)備價(jià)格太高，大多數(shù)使用智能手表和其他可以追蹤健康狀況的可穿戴設(shè)備的人都是受過(guò)良好教育的富有白人，低收入體和種族群被排使用可戴數(shù)研究之。資料來(lái)源：中國(guó)信息通信研究院整圖18醫(yī)療設(shè)備與器械領(lǐng)域的典型可信需求與實(shí)踐通過(guò)政府、行業(yè)和企業(yè)的共同努力，醫(yī)療設(shè)備與器械領(lǐng)域的可信實(shí)踐正在加快落地。實(shí)踐中，醫(yī)療設(shè)備和器械行業(yè)需要遵循法律法規(guī)和相關(guān)標(biāo)準(zhǔn)的要求，其中既有《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》等法律法規(guī)，也有相關(guān)標(biāo)準(zhǔn)予以規(guī)范。此外，監(jiān)督管理部門(mén)根據(jù)申請(qǐng)，按照相應(yīng)的法定程序，對(duì)擬上市醫(yī)療器械進(jìn)行系統(tǒng)評(píng)價(jià)，其中安全性是重要的指標(biāo)之一。從產(chǎn)品角度看，由于可解釋性差、醫(yī)療數(shù)據(jù)無(wú)法完全代表臨床決策要素等原因，企業(yè)結(jié)合應(yīng)用場(chǎng)景需求和產(chǎn)品特點(diǎn)，運(yùn)用多種不同的技術(shù)手段提升產(chǎn)品可信能力。智能醫(yī)療設(shè)備領(lǐng)域，強(qiáng)化自動(dòng)精準(zhǔn)校正和全局軌跡規(guī)劃，全面保障設(shè)備運(yùn)行，提升系統(tǒng)穩(wěn)定性；采用多維神經(jīng)網(wǎng)絡(luò)進(jìn)行分布漸進(jìn)式學(xué)習(xí)優(yōu)化，兼顧噪聲、對(duì)比度、分辨率，有效保證成像和影像識(shí)別結(jié)果的可靠性；聚焦患者關(guān)懷，為婦幼胎兒、肥胖患者、運(yùn)動(dòng)醫(yī)學(xué)檢查精準(zhǔn)診斷與個(gè)性化治療提供針對(duì)性支撐產(chǎn)品。胃鏡等器械領(lǐng)域，將知識(shí)圖譜、計(jì)算機(jī)視覺(jué)等技術(shù)融入產(chǎn)品設(shè)計(jì)，使用診療規(guī)范指導(dǎo)產(chǎn)品研發(fā)，從而增強(qiáng)系統(tǒng)可解釋性；精準(zhǔn)分類(lèi)、快速分離，在不增加檢查時(shí)長(zhǎng)的前提下，有效降低漏檢率，最大限度地減少不必要的活檢，顯著改善患者就診體驗(yàn)；將人工智能與G結(jié)合，支持遠(yuǎn)程檢查，增強(qiáng)高水平醫(yī)療服務(wù)的公平普惠。醫(yī)用可穿戴設(shè)備方面，產(chǎn)品設(shè)計(jì)時(shí)考慮到肥胖、重癥、特殊疾病的病人需求，并推出不同價(jià)格層次的產(chǎn)品，讓更多患者享受到優(yōu)質(zhì)服務(wù)；以專(zhuān)業(yè)醫(yī)生臨床診斷需求為標(biāo)桿，對(duì)標(biāo)醫(yī)院場(chǎng)景下的數(shù)據(jù)準(zhǔn)確度，提供醫(yī)用級(jí)數(shù)據(jù)監(jiān)測(cè)，利用循證人工智能算法幫助患者解決危急情況預(yù)警等痛點(diǎn)，指導(dǎo)用戶的行、用生活方。智能終端智能終端覆蓋了智能手機(jī)、AD、智能音箱、智能車(chē)載終端等多種類(lèi)別，幾乎是數(shù)字化、智能化場(chǎng)景中都不可缺少的構(gòu)件。受益于人均收入增加、城鎮(zhèn)化水平提升和老齡化進(jìn)展，智能終端相關(guān)產(chǎn)品需求將得到持續(xù)不斷的拉動(dòng)，幫助提升社會(huì)資源的普惠性、均衡性分布增進(jìn)體驗(yàn)感滿意。作為數(shù)字經(jīng)濟(jì)的關(guān)鍵入口和主要?jiǎng)?chuàng)新平臺(tái)，智能終端在提供更多便利的同時(shí)也面臨著嚴(yán)峻考驗(yàn)，特別是在穩(wěn)定性和隱私保護(hù)方面。為了實(shí)現(xiàn)更多功能的集成，必然要求智能終端增加交互接口，這也意味著可能被攻擊的入口數(shù)量增加。據(jù)媒體報(bào)道，來(lái)自英國(guó)和意大利的研究團(tuán)隊(duì)遠(yuǎn)程黑入某智能音箱，讓智能音箱給自己下達(dá)惡意指令，平均成功率達(dá)%。同時(shí)，為了提供個(gè)性化服務(wù)，智能終端需要大量收集用戶隱私及交互數(shù)據(jù)，用戶數(shù)據(jù)和隱私環(huán)境被侵害的可能大增。資料來(lái)源：中國(guó)信息通信研究院整圖19智能終端領(lǐng)域的典型可信需求與實(shí)踐沙箱技術(shù)、身份鑒別、訪問(wèn)控制等傳統(tǒng)安全手段已經(jīng)不再適用余智能終端新的可信需求。近幾年來(lái)，針對(duì)硬件的可信執(zhí)行環(huán)境（EE）逐漸流行，基于指紋等生物特征支付成為主流支付手段后，智能終端廠商紛紛將E技術(shù)作為保障終端支付安全的基礎(chǔ)平臺(tái)，發(fā)布支持E的產(chǎn)品，蘋(píng)果、高通等企業(yè)培育和發(fā)展出從底層硬件到上層軟件的TE整體方案。然而，由于TEE組件數(shù)量多、組件交互復(fù)雜，涉及的底層技術(shù)眾多，目前國(guó)內(nèi)對(duì)這類(lèi)可信智能終端的安全評(píng)估還略顯薄弱，可能成為未來(lái)重點(diǎn)發(fā)展的方向。軟件方面，基于深度學(xué)習(xí)模型產(chǎn)生的各類(lèi)智能化產(chǎn)品通用性較差，終端廠商主要限制敏感數(shù)據(jù)收集，提升算法的通用性和精準(zhǔn)度，強(qiáng)化可解釋交互式人工智能來(lái)提升可能能力，一是通過(guò)嚴(yán)格限制非必要的數(shù)據(jù)采集、敏感信息脫敏、不強(qiáng)制升級(jí)、用戶數(shù)據(jù)收集協(xié)議等方式強(qiáng)化可信能力；二是參考可信人工智能的相關(guān)準(zhǔn)則及框架進(jìn)行系統(tǒng)涉及開(kāi)發(fā)，微軟、谷歌、IBM等企業(yè)已將自身提出的可信理念貫徹于產(chǎn)品研發(fā)設(shè)計(jì)之中；三是強(qiáng)化算法模型的可解釋性，在復(fù)雜度、透明度等維度上尋求平衡，一般選用自解釋模型或引入注意力機(jī)制、深化統(tǒng)計(jì)模型、基于物理模型等構(gòu)建具有內(nèi)置可解釋性的事前解釋模型，也可運(yùn)用激活最大化、概念激活矢量測(cè)試、知識(shí)蒸餾等事后解釋模型或算法。三是將可解釋性納入前期用戶研究考察維度，針對(duì)智能終端使用者所希望了解的解釋內(nèi)容以及相關(guān)要素的潛在影響等進(jìn)行廣泛、科學(xué)的調(diào)研，為產(chǎn)品的實(shí)際研發(fā)提供參考，提升智能終端產(chǎn)交互解釋能，使加貼合類(lèi)認(rèn)。智能駕駛?cè)斯ぶ悄芗夹g(shù)的發(fā)展加速了汽車(chē)智能化、網(wǎng)聯(lián)化變革步伐，汽車(chē)成為具備感知和決策能力的智能載具。圍繞芯片、系統(tǒng)、算法、人車(chē)交互四大核心，在智能算力的支持下，車(chē)企通過(guò)自研和接入第三方智能駕駛系統(tǒng)獲得智能駕駛能力，頭部車(chē)企已經(jīng)能夠?qū)崿F(xiàn)“芯片+操作系統(tǒng)+算法”垂直整合，打造智能化、集成化智能駕駛系統(tǒng)，逐打通景鏈路。嵌入式系統(tǒng)、高精度導(dǎo)航、智能傳感器等技術(shù)的發(fā)展為智能駕駛奠定了良好基礎(chǔ)，使得傳統(tǒng)上完全依賴(lài)人為控制的機(jī)動(dòng)車(chē)輛具備了智能化的數(shù)據(jù)采集、匯總、分析、決策能力。智能駕駛車(chē)輛配備的高精度定位設(shè)備，通過(guò)同步定位與建圖模式算法即可進(jìn)行地圖測(cè)繪作業(yè)，配合車(chē)載攝像頭拍攝周邊的精確環(huán)境與地貌，在精準(zhǔn)定位的同時(shí)也存在重大安全隱患；人類(lèi)駕駛員在使用過(guò)程中對(duì)智能駕駛系統(tǒng)的高度認(rèn)可，或誤認(rèn)為其已擁有與人類(lèi)相近的駕駛能力，導(dǎo)致相關(guān)交通事故增多。因此，對(duì)智能駕駛產(chǎn)品的要求不能僅僅局限于做出安全、實(shí)時(shí)的決策，而且需要解釋這些決策是如何做出的，從而建立人工的信任。針對(duì)智能駕駛產(chǎn)品環(huán)境感知、數(shù)據(jù)處理和存儲(chǔ)、系統(tǒng)穩(wěn)定可靠等不同模塊產(chǎn)生了不同的可信方法。融合多種傳感手段和神經(jīng)網(wǎng)絡(luò)算法提升環(huán)境感知能力。為彌補(bǔ)目前各類(lèi)傳感器在低光或惡劣天氣工況下的缺陷，智能駕駛企業(yè)大多選擇同時(shí)使用多種傳感器，通過(guò)融合多種傳感手段，結(jié)合Tasorr神經(jīng)網(wǎng)絡(luò)與卷積神經(jīng)網(wǎng)絡(luò)(CN術(shù)，感知系更深理解環(huán)語(yǔ)義解決AI大模型量產(chǎn)部署的難題；同時(shí)，用視覺(jué)注意的反省（intsetve）文本描述尋求因果o-hc）解釋?zhuān)^(guò)卷積神經(jīng)網(wǎng)絡(luò)模型N實(shí)時(shí)獲取交通參與者精準(zhǔn)的位置、類(lèi)別和速度朝向等信息。運(yùn)用數(shù)據(jù)分級(jí)分類(lèi)和區(qū)塊鏈等技術(shù)做好數(shù)據(jù)處理和存儲(chǔ)。對(duì)各類(lèi)數(shù)據(jù)進(jìn)行分類(lèi)分級(jí)，人臉、車(chē)牌等敏感數(shù)據(jù)實(shí)現(xiàn)輪廓保留前提下的脫敏處理；寶馬、通用汽車(chē)、雷諾、福特等傳統(tǒng)汽車(chē)制造商正鼎力支持利用區(qū)塊鏈技術(shù)提供可信存證服務(wù)，并成立了移動(dòng)開(kāi)放區(qū)塊鏈倡議（OBI），索塊鏈在汽車(chē)和移出行領(lǐng)域的潛力數(shù)據(jù)存儲(chǔ)方面需要按照法律法規(guī)要求，對(duì)用戶信息做高保密等級(jí)的存儲(chǔ)，個(gè)人信息或者重要數(shù)據(jù)應(yīng)當(dāng)依法在境內(nèi)存儲(chǔ)，確需向境外提供的，應(yīng)當(dāng)通過(guò)數(shù)據(jù)出境安全評(píng)估。通過(guò)保證硬件安全和系統(tǒng)測(cè)試提升穩(wěn)定可靠性能。依靠硬件安全芯片和安全網(wǎng)關(guān)，構(gòu)筑安全、可信的人工智能平臺(tái)環(huán)境，實(shí)現(xiàn)網(wǎng)段隔離、訪問(wèn)控制、識(shí)別異常入侵，規(guī)避黑客攻擊風(fēng)險(xiǎn)；從可信需求規(guī)劃、設(shè)計(jì)、實(shí)施、集成、驗(yàn)證、確認(rèn)、配置等方面，嚴(yán)密開(kāi)展基本功能測(cè)試、軟件測(cè)試、運(yùn)營(yíng)流測(cè)試、意外測(cè)試等能模安全試認(rèn)證。資料來(lái)源：中國(guó)信息通信研究院整圖20智能駕駛領(lǐng)域的典型可信需求與實(shí)踐智能機(jī)器人智能機(jī)器人是產(chǎn)業(yè)智能化轉(zhuǎn)型升級(jí)的重要切入口。因?yàn)椴皇車(chē)?yán)苛環(huán)境限制、不被情緒影響，能按照設(shè)定的算法和程序代替人類(lèi)完成危險(xiǎn)、繁瑣的工作，20世紀(jì)中期，智能機(jī)器人產(chǎn)業(yè)逐步發(fā)展成型，滿足了大批量生產(chǎn)的迫切需求，顯著提升社會(huì)經(jīng)濟(jì)效率。近年來(lái)，隨著自動(dòng)化、新一代信息技術(shù)的迅速發(fā)展，智能機(jī)器人正向著輕型化、柔性化和人機(jī)協(xié)作發(fā)展，并不斷地將人的認(rèn)知能力與機(jī)器人的工效率合，滿更多場(chǎng)景的要。在為人類(lèi)帶來(lái)方便的同時(shí)，智能的機(jī)器人的發(fā)展和應(yīng)用也帶了新的問(wèn)題，例如，手術(shù)機(jī)器人通過(guò)計(jì)算機(jī)視覺(jué)技術(shù)識(shí)別病灶，一旦視覺(jué)系統(tǒng)受到污染，算法做出錯(cuò)誤判斷，將出現(xiàn)醫(yī)療事故；工業(yè)機(jī)器人系統(tǒng)一旦被黑客惡意操作，可能轉(zhuǎn)而攻擊人類(lèi)；協(xié)作機(jī)器人人機(jī)交互法未時(shí)識(shí)別同步，影響用效。資料來(lái)源：中國(guó)信息通信研究院整圖21智能機(jī)器人領(lǐng)域的典型可信需求與實(shí)踐為實(shí)現(xiàn)智能機(jī)器人領(lǐng)域的可信落地，企業(yè)主要采取了以下幾類(lèi)做法。一是落實(shí)法律法規(guī)和標(biāo)準(zhǔn)要求，在研發(fā)和測(cè)試環(huán)節(jié)加強(qiáng)可信能力建設(shè)，結(jié)合《網(wǎng)絡(luò)安全法》、等保20等法律法規(guī)，將風(fēng)險(xiǎn)評(píng)估、安全監(jiān)測(cè)、數(shù)據(jù)防護(hù)、應(yīng)急處置等納入產(chǎn)品研發(fā)和測(cè)試環(huán)節(jié)，將智能機(jī)器人與人類(lèi)交互的可解釋性、自身的穩(wěn)定性等作為智能機(jī)器人產(chǎn)品的重要亮點(diǎn)。二是部署可信防御新技術(shù)，加強(qiáng)接口管理和物理隔離，增強(qiáng)抗攻擊能力，結(jié)合動(dòng)態(tài)安全防護(hù)、威脅態(tài)勢(shì)感知等，采用“一片雙芯”、虛擬化雙操作系統(tǒng)等技術(shù)把安全環(huán)境與互聯(lián)網(wǎng)環(huán)境進(jìn)行嚴(yán)格物理隔離，構(gòu)建智能機(jī)器人產(chǎn)品可信安全架構(gòu)；基于區(qū)鏈技建安全速獨(dú)身的機(jī)人VN提節(jié)點(diǎn)和源站間高頻率鏈路質(zhì)量探測(cè)和智能切換，打造多層安全保障。三是靈活運(yùn)用機(jī)器視覺(jué)、步態(tài)控制等算法優(yōu)化動(dòng)作控制，強(qiáng)化自身物理穩(wěn)定性，將模糊邏輯、基于概率論的推理、神經(jīng)網(wǎng)絡(luò)、遺傳算法、多平面分割和混沌等具有更高魯棒性的軟計(jì)算技術(shù)應(yīng)用到智能機(jī)器人中，通過(guò)柔順控制、精準(zhǔn)步態(tài)規(guī)劃、視覺(jué)伺服、模型預(yù)測(cè)控制器等技術(shù)，讓智能機(jī)器人穩(wěn)定靈活地移動(dòng)。四是通過(guò)增加身份選項(xiàng)或消除身份信息，糾正或避免潛在的機(jī)器人偏見(jiàn)，為用戶提供多種機(jī)器人身份選項(xiàng)（比如允許用戶選擇機(jī)器人的“性別”“姓名”“形象”），或是避免建造具有人名和身份的“人性化”機(jī)器人，使機(jī)器人在性別、種族和文化背景中表現(xiàn)更公平、更公正，從而來(lái)識(shí)別和正潛見(jiàn)。虛擬現(xiàn)實(shí)設(shè)備虛擬現(xiàn)實(shí)（Vitaleaiy，VR）設(shè)備強(qiáng)調(diào)全方位的沉浸式體驗(yàn)，彌補(bǔ)了智能手機(jī)等終端只能在二維圖像層面接受文字、圖片、音視頻等信息的缺陷，將信息傳播拓展到三維層面，進(jìn)一步提升了媒介傳遞信息的效率和復(fù)雜程度，改變了參與者與媒介信息的交互模式。未來(lái)，VR為代表的未來(lái)視頻正在成為數(shù)字孿生、元宇宙等新業(yè)態(tài)的重點(diǎn)發(fā)展路徑，既能作為日常生活的虛擬助手，又能在一定程度成為力平臺(tái)文娛的演進(jìn)態(tài)。虛擬現(xiàn)實(shí)設(shè)備在增強(qiáng)公平性方面具有獨(dú)特優(yōu)勢(shì)，通過(guò)提供“身臨其境”“感同身受”的虛擬體驗(yàn)，能夠減少偏見(jiàn)和歧視，滿足殘障等人士的需求，增強(qiáng)人之人之間的交互。隨著虛擬現(xiàn)實(shí)設(shè)備的加速推廣，隱私保護(hù)、歧視性、人身安全舒適性和安全性等方面的可信需求也逐步提升。一是AVR技術(shù)需要以用戶提供的基本信息和交互信息為起點(diǎn)，可能涉及所處位置、運(yùn)動(dòng)狀態(tài)、生物特征，可能帶來(lái)新的隱私保護(hù)和歧視性問(wèn)題；二是針對(duì)虛擬現(xiàn)實(shí)設(shè)備的人身安全舒適性和安全性研究還有待深入，近期一起“VR性侵案”登上熱搜，在擬世猥行為構(gòu)成犯引發(fā)激烈討。資料來(lái)源：中國(guó)信息通信研究院整圖22虛擬現(xiàn)實(shí)設(shè)備領(lǐng)域的典型可信需求與實(shí)踐通過(guò)多環(huán)節(jié)的措施可以有效提升虛擬現(xiàn)實(shí)設(shè)備的可信水平。一方面，賦予用戶更大權(quán)限控制，提供離線等多種可選的訪問(wèn)方式，允許用戶自主選擇何時(shí)以及如何向設(shè)備提供可以推斷身份信息和共享敏感數(shù)據(jù)，以此限制敏感信息收集；設(shè)置“個(gè)人邊界”等多項(xiàng)安全功能，使得其他虛擬人物無(wú)法觸碰，以此杜絕虛擬現(xiàn)實(shí)騷擾行為。另一方面，將可信列入產(chǎn)品開(kāi)發(fā)和測(cè)試必須考慮的范圍，豐富身份選擇，優(yōu)化算法增強(qiáng)“現(xiàn)實(shí)感”，邀請(qǐng)不同性別、職業(yè)、年齡等多類(lèi)型的用戶參與測(cè)試，并為用戶提供多樣化的身份選擇，允許用戶選擇身份呈現(xiàn)的具體內(nèi)容；不斷向全面沉浸發(fā)展，融合運(yùn)用近眼顯示、感知交互、渲染處理等新一代技術(shù)，為用戶提供身臨其境的體驗(yàn)。三是改進(jìn)R設(shè)備細(xì)節(jié)設(shè)計(jì)，提升用戶使用舒適度，虛擬現(xiàn)實(shí)設(shè)備大多直接由用戶佩戴使用，其舒適度體驗(yàn)主要與重量尺寸、發(fā)熱散熱程度、面部貼合度和透氣性等因素有關(guān)。近年來(lái)，隨著設(shè)計(jì)水平和原料器件的改善提升，VR設(shè)備使用體驗(yàn)進(jìn)一步優(yōu)化，以VR顯示器件為例，經(jīng)歷了從CT到TTLDALD的變革，在分辨率提升、效應(yīng)速度加快的同時(shí)，屏幕體積不斷縮小，重量持續(xù)降低。四是制定引入安全保障和行為準(zhǔn)則，構(gòu)建良好的虛擬社區(qū)氛圍，通過(guò)邀請(qǐng)URL引入新用戶，確保鏈接的分發(fā)僅限于受信任個(gè)人，限定可以創(chuàng)建或邀請(qǐng)新用戶的范圍；創(chuàng)建并發(fā)布行為準(zhǔn)則，指定受信任的用戶充當(dāng)管理者，幫助新用戶熟悉虛擬社區(qū)，嚴(yán)格限制和處罰惡意行為，積極引導(dǎo)形成友善、公平的虛擬社區(qū)氛圍，減輕虛擬體中的和歧視。四、可信人工智能前景展望（一）未來(lái)發(fā)展趨勢(shì)形成產(chǎn)業(yè)共識(shí)，由各自表述向統(tǒng)一理念邁進(jìn)。與人工智能產(chǎn)業(yè)發(fā)展歷程相似，可信人工智能也經(jīng)歷了早期的摸索階段，對(duì)于可信人工智能的內(nèi)涵，雖然各個(gè)國(guó)家、機(jī)構(gòu)、企業(yè)的表述并不相同，但是側(cè)重點(diǎn)較為統(tǒng)一，并已針對(duì)透明度、隱私保護(hù)、公平等方面形成初步共識(shí)，已經(jīng)邁入了形成統(tǒng)一理念的新發(fā)展階段。在此基礎(chǔ)上，學(xué)術(shù)界和產(chǎn)業(yè)界對(duì)可信人工智能理念的共識(shí)將進(jìn)一步凝聚和增強(qiáng)，隨著可信人工智能在更多領(lǐng)域的持續(xù)落地，理念與實(shí)踐間將形成良性互動(dòng)，以可信理念指導(dǎo)產(chǎn)業(yè)實(shí)踐落地，用產(chǎn)業(yè)實(shí)踐不斷豐富可信內(nèi)涵，而進(jìn)鞏固統(tǒng)的產(chǎn)識(shí)。突出理念落地，由抽象概念向具體實(shí)踐發(fā)展。產(chǎn)業(yè)是可信理念的落腳點(diǎn)，目前，可信人工智能正處在由抽象的學(xué)術(shù)概念向產(chǎn)業(yè)實(shí)際加速落地的關(guān)鍵時(shí)期，產(chǎn)業(yè)主體正在由以理論界為主向產(chǎn)業(yè)界落地為主轉(zhuǎn)變，產(chǎn)出形態(tài)由論文為主向產(chǎn)品服務(wù)為主轉(zhuǎn)變，專(zhuān)利數(shù)量持續(xù)增長(zhǎng)，并已經(jīng)形成了一批可見(jiàn)可用的產(chǎn)業(yè)成果，誕生了一批代表性企業(yè)，覆蓋人工智能產(chǎn)業(yè)鏈主要環(huán)節(jié)。未來(lái)，可信人工智能理念將更深層次地與人工智能產(chǎn)業(yè)鏈各環(huán)節(jié)結(jié)合，與元宇宙、人工智能生成內(nèi)容等新技術(shù)、新業(yè)態(tài)互相促進(jìn)，在人工智能場(chǎng)景和產(chǎn)品中得到更