人工智能白皮書（2022年）

No.202205

人工智能白皮書

（2022年）

中國(guó)信息通信研究院

2022年4月

前言

在新科技革命和產(chǎn)業(yè)變革的大背景下，人工智能與產(chǎn)業(yè)深度融

合，是釋放數(shù)字化疊加倍增效應(yīng)、加快戰(zhàn)略新興產(chǎn)業(yè)發(fā)展、構(gòu)筑綜

合競(jìng)爭(zhēng)優(yōu)勢(shì)的必然選擇。當(dāng)前，人工智能加快向各產(chǎn)業(yè)滲透，正在

促進(jìn)新興產(chǎn)業(yè)之間、新興產(chǎn)業(yè)與傳統(tǒng)產(chǎn)業(yè)之間以及技術(shù)與社會(huì)的跨

界融合發(fā)展。在“十四五”開端，全面梳理人工智能的發(fā)展態(tài)勢(shì)，具

有十分重要的參考意義。

本白皮書重點(diǎn)從人工智能政策、技術(shù)、應(yīng)用和治理等維度進(jìn)行

了闡述。政策層面，國(guó)內(nèi)外不斷強(qiáng)化人工智能的戰(zhàn)略地位，推動(dòng)釋

放人工智能紅利。技術(shù)及應(yīng)用層面，以深度學(xué)習(xí)為代表的人工智能

技術(shù)飛速發(fā)展，新技術(shù)開始探索落地應(yīng)用；工程化能力不斷增強(qiáng)，

在醫(yī)療、制造、自動(dòng)駕駛等領(lǐng)域的應(yīng)用持續(xù)深入；可信人工智能技

術(shù)引起社會(huì)廣泛關(guān)注。與此同時(shí)，治理層面工作也受到全球高度關(guān)

注，各國(guó)規(guī)制進(jìn)程不斷加速，基于可信人工智能的產(chǎn)業(yè)實(shí)踐不斷深

入。

總體來(lái)看，本白皮書認(rèn)為人工智能逐步進(jìn)入新的階段，下一步

的發(fā)展方向，將由技術(shù)創(chuàng)新、工程實(shí)踐、可信安全“三維”坐標(biāo)來(lái)

定義和牽引。具體來(lái)看，第一個(gè)維度突出創(chuàng)新，圍繞著算法和算力

方面的創(chuàng)新仍會(huì)不斷涌現(xiàn)。第二個(gè)維度突出工程，工程化能力逐漸

成為人工智能大規(guī)模賦能千行百業(yè)的關(guān)鍵要素。第三個(gè)維度突出可

信，發(fā)展負(fù)責(zé)任和可信的人工智能成為共識(shí)，將抽象的治理原則落

實(shí)到人工智能全生命流程將成為重點(diǎn)。

由于人工智能發(fā)展速度之快、輻射范圍之廣、影響程度之深前

所未有，我們對(duì)人工智能的認(rèn)識(shí)還有待進(jìn)一步深化，白皮書中存在

的不足之處，歡迎大家批評(píng)指正。

圖目錄

圖1人工智能演進(jìn)的三個(gè)維度示意圖5

圖2大模型參數(shù)量和訓(xùn)練數(shù)據(jù)規(guī)模增長(zhǎng)示意圖9

圖3人工智能治理機(jī)制示意圖21

圖4人工智能安全框架28

圖5可信人工智能總體框架30

人工智能白皮書（2022年）

一、人工智能發(fā)展概述

人工智能是引領(lǐng)未來(lái)的新興戰(zhàn)略性技術(shù)，是驅(qū)動(dòng)新一輪科技革

命和產(chǎn)業(yè)變革的重要力量。習(xí)近平總書記多次作出重要指示，強(qiáng)調(diào)

“要深入把握新一代人工智能發(fā)展的特點(diǎn)，加強(qiáng)人工智能和產(chǎn)業(yè)發(fā)展

融合，為高質(zhì)量發(fā)展提供新動(dòng)能”。近年來(lái)，人工智能相關(guān)技術(shù)持續(xù)

演進(jìn)，產(chǎn)業(yè)化和商業(yè)化進(jìn)程不斷提速，正在加快與千行百業(yè)深度融

合。站在“十四五”開端這一特殊的節(jié)點(diǎn)，我們堅(jiān)信全面梳理人工智

能政策、技術(shù)、應(yīng)用以及治理的發(fā)展態(tài)勢(shì)，能夠有益于凝聚業(yè)界共

識(shí)，推動(dòng)人工智能持續(xù)健康發(fā)展。

(一)全球不斷升級(jí)人工智能戰(zhàn)略，紛紛搶抓重要發(fā)展

機(jī)遇

人工智能已成為科技創(chuàng)新的關(guān)鍵領(lǐng)域和數(shù)字經(jīng)濟(jì)時(shí)代的重要支

柱。自2016年起，先后有40余個(gè)國(guó)家和地區(qū)將推動(dòng)人工智能發(fā)展

上升到國(guó)家戰(zhàn)略高度。近兩年來(lái)，特別是新冠疫情的沖擊下，越來(lái)

越多的國(guó)家認(rèn)識(shí)到，人工智能對(duì)于提升全球競(jìng)爭(zhēng)力具有關(guān)鍵作用，

紛紛深化人工智能戰(zhàn)略。歐盟發(fā)布《2030數(shù)字化指南：歐洲數(shù)字十

年》、《升級(jí)2020新工業(yè)戰(zhàn)略》等，擬全面重塑數(shù)字時(shí)代全球影響

力，其中將推動(dòng)人工智能發(fā)展列為重要的工作。美國(guó)陸續(xù)成立了國(guó)

家人工智能倡議辦公室、國(guó)家AI研究資源工作組等機(jī)構(gòu)，各部門密

集出臺(tái)了系列政策，將人工智能提到“未來(lái)產(chǎn)業(yè)”和“未來(lái)技術(shù)”

1

人工智能白皮書（2022年）

領(lǐng)域的高度，不斷鞏固和提升美國(guó)在人工智能領(lǐng)域的全球競(jìng)爭(zhēng)力，

確?！邦I(lǐng)頭羊”地位。日本繼制定《科學(xué)技術(shù)創(chuàng)新綜合戰(zhàn)略2020》

之后，于2021年6月發(fā)布“AI戰(zhàn)略2021”1，致力于推動(dòng)人工智能

領(lǐng)域的創(chuàng)新創(chuàng)造計(jì)劃，全面建設(shè)數(shù)字化政府。英國(guó)于2021年9月發(fā)

布國(guó)家級(jí)人工智能新十年戰(zhàn)略，這是繼2016年后推出的又一重要戰(zhàn)

略，旨在重塑人工智能領(lǐng)域的影響力。中國(guó)《中共中央關(guān)于制定國(guó)

民經(jīng)濟(jì)和社會(huì)發(fā)展第十四個(gè)五年規(guī)劃和2035遠(yuǎn)景目標(biāo)綱要的建議》

指出，要瞄準(zhǔn)人工智能等前沿領(lǐng)域，實(shí)施一批具有前瞻性、戰(zhàn)略性

重大科技項(xiàng)目，推動(dòng)數(shù)字經(jīng)濟(jì)健康發(fā)展。

面向人工智能領(lǐng)域創(chuàng)新需求的投資不斷加大。主要經(jīng)濟(jì)體通過(guò)

激勵(lì)計(jì)劃和直接投資項(xiàng)目等推動(dòng)人工智能發(fā)展已廣泛實(shí)踐。歐盟不

斷加大人工智能產(chǎn)業(yè)資金支持力度，大力促進(jìn)歐洲的數(shù)字變革。歐

盟有史以來(lái)最大的支持研發(fā)和創(chuàng)新項(xiàng)目——“地平線歐洲”計(jì)劃總

投資額達(dá)955億歐元，明確將人工智能列入資金支持范圍。2021年

4月，歐盟以條例的形式通過(guò)“數(shù)字歐洲計(jì)劃”，對(duì)包括人工智能在

內(nèi)的項(xiàng)目進(jìn)行投資，總額達(dá)75.9億歐元2。美國(guó)以保持領(lǐng)先地位為戰(zhàn)

略目標(biāo)并持續(xù)加大人工智能領(lǐng)域投入。美國(guó)2021年人工智能非國(guó)防

預(yù)算增加約30%，總額達(dá)到15億美元3。此外在《美國(guó)創(chuàng)新與競(jìng)爭(zhēng)

法案》中，將人工智能、量子計(jì)算等列為2022財(cái)年美國(guó)研發(fā)預(yù)算優(yōu)

1https://www8.cao.go.jp/cstp/ai/aistrategy2021_gaiyo.pdf

2資料來(lái)源：歐盟委員會(huì)。

3/a/413600243_115978

2

人工智能白皮書（2022年）

先事項(xiàng)，未來(lái)對(duì)包括人工智能在內(nèi)的多個(gè)領(lǐng)域共投入1000億美金進(jìn)

行研發(fā)工作。英國(guó)將投資和規(guī)劃人工智能生態(tài)系統(tǒng)作為長(zhǎng)期戰(zhàn)略，

啟動(dòng)國(guó)家人工智能研究與創(chuàng)新計(jì)劃，支持人工智能先進(jìn)研究等。據(jù)

4

統(tǒng)計(jì)，2014年到2021年之間對(duì)人工智能的投資已經(jīng)超過(guò)23億英鎊。

通過(guò)應(yīng)用牽引推動(dòng)人工智能技術(shù)落地成為各國(guó)共識(shí)。美國(guó)引導(dǎo)

人工智能技術(shù)在行業(yè)領(lǐng)域的創(chuàng)新和融合應(yīng)用。2021年7月，美國(guó)國(guó)

家科學(xué)基金會(huì)聯(lián)合多個(gè)部門和知名企業(yè)等，新成立11個(gè)國(guó)家人工智

能研究機(jī)構(gòu)，涵蓋了人機(jī)交互、人工智能優(yōu)化、動(dòng)態(tài)系統(tǒng)、增強(qiáng)學(xué)

習(xí)等方向，研究項(xiàng)目更是涵蓋了建筑、醫(yī)療、生物、地質(zhì)、電氣、

教育、能源等多個(gè)領(lǐng)域。英國(guó)支持人工智能產(chǎn)業(yè)化，啟動(dòng)人工智能

辦公室和英國(guó)研究與創(chuàng)新局聯(lián)合計(jì)劃等，確保人工智能惠及所有行

業(yè)和地區(qū)，促進(jìn)人工智能的廣泛應(yīng)用。日本將基礎(chǔ)設(shè)施建設(shè)和人工

智能應(yīng)用作為重點(diǎn)，提出加快建設(shè)相關(guān)基礎(chǔ)設(shè)施，重點(diǎn)強(qiáng)調(diào)了跨行

業(yè)的數(shù)據(jù)傳輸平臺(tái)以及人工智能相關(guān)標(biāo)準(zhǔn)等，全面推動(dòng)人工智能在

醫(yī)療、農(nóng)業(yè)、交通物流、智慧城市、制造業(yè)等各個(gè)行業(yè)開展應(yīng)用，

并加大對(duì)中小企業(yè)的支援。我國(guó)十四五規(guī)劃綱要明確大力發(fā)展人工

智能產(chǎn)業(yè)，打造人工智能產(chǎn)業(yè)集群以及深入賦能傳統(tǒng)行業(yè)成為重點(diǎn)。

2021年4月，工信部支持創(chuàng)建北京、天津（濱海新區(qū)）、杭州、廣

州、成都等第二批國(guó)家人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)，不斷強(qiáng)化應(yīng)用牽

4.uk/government/news/new-ten-year-plan-to-make-britain-a-global-ai-superpower

3

人工智能白皮書（2022年）

引作用。科技部支持建設(shè)多個(gè)人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)，陸續(xù)批復(fù)

北京、上海、天津、深圳、杭州等15個(gè)國(guó)家新一代人工智能創(chuàng)新發(fā)

展試驗(yàn)區(qū)。

(二)人工智能開始邁入全新階段，持續(xù)健康發(fā)展成為

焦點(diǎn)

人工智能自1956年誕生以來(lái)，相關(guān)理論和技術(shù)持續(xù)演進(jìn)。直到

近十年，得益于深度學(xué)習(xí)等算法的突破、算力的不斷提升以及海量

數(shù)據(jù)的持續(xù)積累，人工智能才得以真正大范圍地從實(shí)驗(yàn)室研究走向

產(chǎn)業(yè)實(shí)踐。產(chǎn)業(yè)發(fā)展和賦能的過(guò)程中，一方面，大量的實(shí)踐場(chǎng)景均

能看到從“可用”到“好用”的發(fā)展路徑，這離不開技術(shù)自身的持

續(xù)迭代，工程實(shí)現(xiàn)的不斷優(yōu)化，以及管理體系的支撐保障。另一方

面，隨著人工智能應(yīng)用暴露出各種風(fēng)險(xiǎn)和挑戰(zhàn)，以及人們對(duì)人工智

能認(rèn)識(shí)的不斷深入，人工智能治理已經(jīng)成為全球各界高度關(guān)注的議

題，對(duì)可信安全的呼聲不斷增多。

未來(lái)人工智能除了重視技術(shù)創(chuàng)新以外，還更加關(guān)注工程實(shí)踐和

可信安全，這也構(gòu)成了新的“三維”發(fā)展坐標(biāo)，牽引人工智能技術(shù)

產(chǎn)業(yè)邁向新的階段。事實(shí)上，業(yè)界在各個(gè)維度上的努力早已開始，

并且從未停止過(guò)，只是時(shí)至今日，工程實(shí)踐和可信安全被擺在了更

為重要的位臵。三維坐標(biāo)并非完全獨(dú)立，而是相互交織、相互支撐。

圖1給出了本輪人工智能浪潮以來(lái)沿著各個(gè)方向演進(jìn)的示意圖，概

4

人工智能白皮書（2022年）

述了各坐標(biāo)下的發(fā)展脈絡(luò)。

來(lái)源：中國(guó)信息通信研究院

圖1人工智能演進(jìn)的三個(gè)維度示意圖

追求特定場(chǎng)景下的技術(shù)創(chuàng)新一直是人工智能發(fā)展的目標(biāo)和驅(qū)動(dòng)

力。以深度學(xué)習(xí)為代表的算法爆發(fā)拉開了人工智能浪潮的序幕，在

計(jì)算機(jī)視覺、智能語(yǔ)音、自然語(yǔ)言處理等領(lǐng)域廣泛應(yīng)用，相繼超過(guò)

5

人工智能白皮書（2022年）

人類識(shí)別水平5。人工智能算力的多元化以及單點(diǎn)算力的不斷提升，

有力支撐了人工智能的發(fā)展。再到近期，國(guó)內(nèi)外超大規(guī)模預(yù)訓(xùn)練模

型頻繁涌現(xiàn)，不斷刷新各個(gè)應(yīng)用領(lǐng)域的榜單。未來(lái)，在算法、算力

等方面仍將持續(xù)變革，為邁向更加智能的時(shí)代奠定基礎(chǔ)。

工程實(shí)踐能力日益成為釋放人工智能技術(shù)紅利的重要支撐。在

工程實(shí)踐方面的努力，最早可追溯至Caffe、TensorFlow、PaddlePaddle

等開源框架的誕生，通過(guò)屏蔽底層硬件和操作系統(tǒng)細(xì)節(jié)，大幅降低

模型開發(fā)和部署難度，有效推動(dòng)了人工智能技術(shù)的擴(kuò)散。當(dāng)前，人

工智能與云計(jì)算、大數(shù)據(jù)等支撐技術(shù)的融合不斷深入，圍繞著數(shù)據(jù)

處理、模型訓(xùn)練、部署運(yùn)營(yíng)和安全監(jiān)測(cè)等各環(huán)節(jié)的工具鏈不斷豐富。

人工智能研發(fā)管理體系日益完善，以MLOps為代表的自動(dòng)運(yùn)維技術(shù)

受到越來(lái)越多的關(guān)注。隨著工程實(shí)踐能力的不斷提升，“小作坊、

項(xiàng)目制”的賦能方式正在成為歷史，未來(lái)將會(huì)更加便捷、高效地實(shí)

現(xiàn)人工智能落地應(yīng)用和產(chǎn)品交付。

可信安全逐漸成為人工智能賦能過(guò)程中不可或缺的保障。可信

人工智能最早由學(xué)術(shù)界提出，近年來(lái)圍繞著安全性、穩(wěn)定性、可解

釋性、隱私保護(hù)、公平性等方面的可信人工智能研究持續(xù)升溫?？?/p>

信人工智能理念得到了國(guó)際組織的廣泛關(guān)注，二十國(guó)集團(tuán)（G20）在

2019年6月提出的“G20人工智能原則”中明確建議促進(jìn)可信賴的人

5/2021-report/gathering-strength-gathering-storms-one-hundred-year-study-artificial-int

elligence

6

人工智能白皮書（2022年）

工智能創(chuàng)新發(fā)展，成為了重要的共識(shí)?？尚湃斯ぶ悄艿睦砟钪鸩截?/p>

徹到人工智能的全生命周期之中，產(chǎn)業(yè)實(shí)踐不斷豐富，已經(jīng)演變?yōu)?/p>

落實(shí)人工智能治理相關(guān)要求的重要方法論。

總的來(lái)看，人工智能正在邁入“創(chuàng)新驅(qū)動(dòng)、應(yīng)用深化、規(guī)范發(fā)

展”的新階段。從人工智能自身產(chǎn)業(yè)化的角度來(lái)看，技術(shù)迭代升級(jí)

是發(fā)展的源動(dòng)力，目前人工智能尚不完善，智能化路徑還在加快探

索，技術(shù)的創(chuàng)新驅(qū)動(dòng)將有助于拓展新的發(fā)展空間。從人工智能賦能

傳統(tǒng)產(chǎn)業(yè)的角度來(lái)看，特別是疫情以來(lái)，數(shù)字化、智能化轉(zhuǎn)型不斷

提速，推動(dòng)人工智能應(yīng)用邁入加速軌道，相關(guān)應(yīng)用不斷深化。從治

理角度來(lái)看，技術(shù)和產(chǎn)業(yè)發(fā)展要領(lǐng)先于監(jiān)管和制度，治理問(wèn)題日益

嚴(yán)峻，保障人工智能的健康發(fā)展成為全球共同關(guān)注。這里面既有漸

進(jìn)的變化，也有結(jié)構(gòu)性甚至方向性的調(diào)整，需要全面、系統(tǒng)地提升

各方面能力，從而推動(dòng)人工智能持續(xù)且健康的發(fā)展。

二、人工智能技術(shù)及應(yīng)用沿著“創(chuàng)新、工程、可信”三

個(gè)方向持續(xù)演進(jìn)

在新的背景下，人工智能技術(shù)亦需要適應(yīng)新的變化。本章按照

新三維坐標(biāo)對(duì)人工智能技術(shù)及應(yīng)用的發(fā)展態(tài)勢(shì)進(jìn)行了梳理。圍繞著

算法、算力和數(shù)據(jù)的技術(shù)創(chuàng)新始終是前進(jìn)主旋律；工程實(shí)踐中的相

關(guān)技術(shù)開始覆蓋人工智能全流程，加速人工智能大規(guī)模落地應(yīng)用；

人工智能可信技術(shù)是破解治理難題的重要支撐，愈發(fā)受到各界關(guān)注。

7

人工智能白皮書（2022年）

(一)人工智能在追求極致創(chuàng)新方面不斷突破

一直以來(lái)，算法、算力和數(shù)據(jù)被認(rèn)為是人工智能發(fā)展的三駕馬

車，也是推動(dòng)人工智能發(fā)展的重要基礎(chǔ)。在算法層面，超大規(guī)模預(yù)

訓(xùn)練模型等成為近兩年最受關(guān)注的熱點(diǎn)之一，不斷刷新各領(lǐng)域榜單[1,

2]；知識(shí)驅(qū)動(dòng)的人工智能等方向研究成為提升認(rèn)知能力的重要探索[3,

4]；人工智能與各科學(xué)研究領(lǐng)域的融合創(chuàng)新日益受到關(guān)注，人工智能

成為基礎(chǔ)科學(xué)研究的重要工具。在基礎(chǔ)算力層面，單點(diǎn)算力持續(xù)提

升，算力定制化、多元化成為重要發(fā)展趨勢(shì)；計(jì)算技術(shù)圍繞數(shù)據(jù)處

理、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)交互三大能力要素演進(jìn)升級(jí)，類腦芯片、量子

計(jì)算等方向持續(xù)探索[5]。在數(shù)據(jù)層面，以深度學(xué)習(xí)為代表的人工智能

技術(shù)需要大量的標(biāo)注數(shù)據(jù)，這也催生了專門的技術(shù)乃至服務(wù)，隨著

面向問(wèn)題的不斷具體化和深入，數(shù)據(jù)服務(wù)走向精細(xì)化和定制化；此

外，隨著知識(shí)在人工智能的重要性被廣泛提及，對(duì)知識(shí)集的構(gòu)建和

利用不斷增多。

1.新算法不斷涌現(xiàn)，技術(shù)融合成重要趨勢(shì)

超大規(guī)模預(yù)訓(xùn)練模型推動(dòng)技術(shù)效果不斷提升，繼續(xù)朝著規(guī)模更

大、模態(tài)更多的方向發(fā)展。自O(shè)penAI于2020年推出GPT-3以來(lái)，

谷歌、華為、智源研究院、中科院、阿里巴巴等企業(yè)和研究機(jī)構(gòu)相

繼推出超大規(guī)模預(yù)訓(xùn)練模型，包括SwitchTransformer、DALL〃E、

MT-NLG、盤古、悟道2.0、紫東太初和M6等，不斷刷新著各榜單

8

人工智能白皮書（2022年）

紀(jì)錄，百度ERNIE3.0模型[6]在自然語(yǔ)言理解任務(wù)上的綜合評(píng)分

（GLUE）已達(dá)90%以上，智源悟道文瀾模型[7]在多源圖文數(shù)據(jù)集評(píng)

分（RUC-CAS-wenlan）相比OpenAI的CLIP模型大幅提升37.0%。

當(dāng)前，預(yù)訓(xùn)練模型參數(shù)數(shù)量、訓(xùn)練數(shù)據(jù)規(guī)模按照300倍/年的趨勢(shì)增

長(zhǎng)，繼續(xù)通過(guò)增大模型和增加訓(xùn)練數(shù)據(jù)仍是短期內(nèi)演進(jìn)方向；另外，

跨模態(tài)預(yù)訓(xùn)練大模型日益普遍，已經(jīng)從早期只學(xué)習(xí)文本數(shù)據(jù)，到聯(lián)

合學(xué)習(xí)文本和圖像，再到如今可以處理文本、圖像、語(yǔ)音三種模態(tài)

數(shù)據(jù)，未來(lái)使用更多種圖像編碼、更多種語(yǔ)言、以及更多類型數(shù)據(jù)

的預(yù)訓(xùn)練模型將會(huì)涌現(xiàn)，這也是實(shí)現(xiàn)人工智能通用化的有益探索。

來(lái)源：中國(guó)信息通信研究院

圖2大模型參數(shù)量和訓(xùn)練數(shù)據(jù)規(guī)模增長(zhǎng)示意圖

輕量化深度學(xué)習(xí)技術(shù)不斷探索，計(jì)算效率顯著提升。復(fù)雜的深

度學(xué)習(xí)模型往往需要消耗大量的存儲(chǔ)空間和計(jì)算資源，難以在端、

邊等資源受限情形下應(yīng)用，具備低內(nèi)存和低計(jì)算量?jī)?yōu)勢(shì)的技術(shù)成為

9

人工智能白皮書（2022年）

業(yè)界需求。輕量化深度學(xué)習(xí)成為解決這一挑戰(zhàn)的重要技術(shù)，包括設(shè)

計(jì)更加緊湊和高效的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)、對(duì)大模型進(jìn)行剪枝（即“裁剪”

掉部分模型結(jié)構(gòu)），以及對(duì)網(wǎng)絡(luò)參數(shù)進(jìn)行量化從而減少計(jì)算量等方

向。例如，谷歌提出的MobileNet和曠視提出ShuffleNet等成為緊湊

模型的典型代表；百度推出的輕量化PaddleOCR模型規(guī)模減小至

2.8Mb，在GitHub上開源后受到熱捧6。

“生成式人工智能”技術(shù)不斷成熟，未來(lái)聽、說(shuō)、讀、寫等能

力將有機(jī)結(jié)合起來(lái)。目前，“生成式人工智能”技術(shù)被廣泛應(yīng)用于

智能寫作、代碼生成、有聲閱讀、新聞播報(bào)、語(yǔ)音導(dǎo)航、影像修復(fù)

等領(lǐng)域，通過(guò)機(jī)器自動(dòng)合成文本、語(yǔ)音、圖像、視頻等正在推動(dòng)互

聯(lián)網(wǎng)數(shù)字內(nèi)容生產(chǎn)的變革。聽、說(shuō)、讀、寫等能力的有機(jī)結(jié)合成為

未來(lái)發(fā)展趨勢(shì)。例如央視、新華社、光明網(wǎng)等均推出了數(shù)字人主播，

支持從音頻/文本內(nèi)容一鍵生成視頻，能夠?qū)崿F(xiàn)節(jié)目?jī)?nèi)容快速、自動(dòng)

化生產(chǎn)，相關(guān)數(shù)字人主播和數(shù)字人記者，已在全國(guó)兩會(huì)、春節(jié)晚會(huì)

等大型報(bào)道和節(jié)目中廣泛應(yīng)用。

知識(shí)計(jì)算成為推動(dòng)人工智能從感知智能向認(rèn)知智能轉(zhuǎn)變的重要

探索。知識(shí)凝聚了人的智慧，知識(shí)和數(shù)據(jù)的雙驅(qū)動(dòng)有助于解決不完

全信息、不確定性和動(dòng)態(tài)環(huán)境下的推理決策問(wèn)題，可以提高人工智

能系統(tǒng)的智能化水平。目前，圍繞著知識(shí)獲取、知識(shí)建模、知識(shí)管

6/PaddlePaddle/PaddleOCR

10

人工智能白皮書（2022年）

理、知識(shí)應(yīng)用等過(guò)程，已經(jīng)形成了涵蓋知識(shí)圖譜、知識(shí)庫(kù)、圖計(jì)算

等技術(shù)，覆蓋知識(shí)表示、知識(shí)計(jì)算、知識(shí)推理與決策能力的體系，

可實(shí)現(xiàn)對(duì)知識(shí)的管理與利用。學(xué)術(shù)界和產(chǎn)業(yè)界都已經(jīng)開始推出基于

知識(shí)的人工智能應(yīng)用平臺(tái)或解決方案，例如清華大學(xué)、浙江大學(xué)、

華為云、智源研究院、百度、竹間智能、國(guó)雙等推出的知識(shí)計(jì)算引

擎、知識(shí)中臺(tái)、知識(shí)工程平臺(tái)、知識(shí)智能平臺(tái)等解決方案。未來(lái)，

知識(shí)計(jì)算將著力在深度學(xué)習(xí)算法中嵌入先驗(yàn)知識(shí)建立可解釋模型，

讓知識(shí)深入?yún)⑴c模型求解，進(jìn)一步提高人工智能的效率、水平以及

魯棒性、可解釋性、可遷移性。

人工智能與科學(xué)研究融合不斷深入，開始“顛覆”傳統(tǒng)研究范

式。近年來(lái)，人工智能對(duì)海量數(shù)據(jù)的分析能力能夠讓研究者不再局

限于常規(guī)的“推導(dǎo)定理式”研究，可以基于高維數(shù)據(jù)發(fā)現(xiàn)相關(guān)信息

繼而加速研究進(jìn)程。2020年，DeepMind提出AlphaFold2在國(guó)際蛋

白質(zhì)結(jié)構(gòu)預(yù)測(cè)競(jìng)賽（CASP）撥得頭籌，能夠精確地預(yù)測(cè)蛋白質(zhì)的3D

結(jié)構(gòu)，其準(zhǔn)確性可以與使用冷凍電子顯微鏡等實(shí)驗(yàn)技術(shù)解析的3D結(jié)

構(gòu)相媲美。中美研究團(tuán)隊(duì)使用AI的方法，在保證“從頭計(jì)算（abinitio）”

高精度的同時(shí)，將分子動(dòng)力學(xué)極限提升了數(shù)個(gè)量級(jí)，比過(guò)去同類工

作計(jì)算空間尺度增大100倍，計(jì)算速度提高1000倍，獲得2020年

ACM戈登貝爾獎(jiǎng)7。更為驚喜的是人工智能與力學(xué)、化學(xué)、材料學(xué)、

7/skhtmlnews/2021/3/4443.html

11

人工智能白皮書（2022年）

生物學(xué)乃至工程領(lǐng)域等融合探索不斷涌現(xiàn)，未來(lái)將不斷拓展人工智

能應(yīng)用的深度和廣度。

2.單點(diǎn)算力持續(xù)突破，新技術(shù)仍處于探索階段

當(dāng)前人工智能算力持續(xù)突破，面向訓(xùn)練用和推斷用的芯片仍在

快速演進(jìn)。這主要源于算力需求的驅(qū)動(dòng)，一方面體現(xiàn)在模型訓(xùn)練階

段，根據(jù)OpenAI數(shù)據(jù)，模型計(jì)算量增長(zhǎng)速度遠(yuǎn)超人工智能硬件算

力增長(zhǎng)速度，存在萬(wàn)倍差距[8]；另一方面，由于推斷的泛在性，使得

推斷用算力需求持續(xù)增長(zhǎng)。與此同時(shí)，新的算力架構(gòu)也在不斷研究

中，類腦芯片、存內(nèi)計(jì)算、量子計(jì)算等備受關(guān)注，但總體上處于探

索階段。

訓(xùn)練芯片創(chuàng)新加速，推斷芯片朝著專用定制化發(fā)展?；贕PU

的訓(xùn)練芯片持續(xù)增多，面向GPU創(chuàng)新的企業(yè)開始發(fā)力，出現(xiàn)了摩爾

線程、天數(shù)智芯、壁仞科技等一批專注GPU賽道的初創(chuàng)公司?；?/p>

ASIC等架構(gòu)云端訓(xùn)練芯片能力提升顯著，寒武紀(jì)的思元370、燧原

科技的“邃思2.0”以及百度的昆侖2等相對(duì)上一代產(chǎn)品均有3-4倍以

上的算力提升。專用定制的端側(cè)推理芯片百花齊放，面向手機(jī)應(yīng)用

的智能芯片成為亮點(diǎn)。2021年1月，聯(lián)發(fā)科推出了高端手機(jī)芯片

Dimensity1200，可邊緣處理5G、AI和圖像數(shù)據(jù)等。8月，谷歌為

其Pixel系列手機(jī)專門推出了首款智能手機(jī)芯片Tensor。

類腦芯片、存內(nèi)計(jì)算、量子計(jì)算等依舊是重點(diǎn)探索方向。類腦

12

人工智能白皮書（2022年）

芯片、存內(nèi)計(jì)算、量子計(jì)算等技術(shù)在理論層面可實(shí)現(xiàn)高算力、低功

耗等優(yōu)點(diǎn)，取得了一些進(jìn)展，但總體上來(lái)看目前技術(shù)成熟度相對(duì)較

低。北京大學(xué)類腦智能芯片中心在2021年ISSCC發(fā)布“超低功耗智

能物聯(lián)網(wǎng)芯片(AIoT)”等成果。新型人工智能芯片受到投資資金青睞，

2021年以來(lái)多家企業(yè)完成了億元級(jí)A輪或A+輪融資，包括3D視覺

AI芯片廠商埃瓦科技，專注神經(jīng)擬態(tài)感存算一體芯片研發(fā)的九天睿

芯，以及AI視覺芯片研發(fā)公司愛芯科技等。

3.數(shù)據(jù)規(guī)模不斷提升，構(gòu)建領(lǐng)域知識(shí)集成熱點(diǎn)

人工智能的快速發(fā)展推動(dòng)數(shù)據(jù)規(guī)模不斷提升。據(jù)IDC測(cè)算，2025

年全球數(shù)據(jù)規(guī)模將達(dá)到163ZB，其中80%-90%是非結(jié)構(gòu)化數(shù)據(jù)8。數(shù)

據(jù)服務(wù)進(jìn)入深度定制化的階段，百度、阿里巴巴、京東等公司推出

根據(jù)不同場(chǎng)景和需求進(jìn)行數(shù)據(jù)定制的服務(wù)；企業(yè)需求的數(shù)據(jù)集從通

用簡(jiǎn)單場(chǎng)景向個(gè)性化復(fù)雜場(chǎng)景過(guò)渡，例如語(yǔ)音識(shí)別數(shù)據(jù)集從普通話

向小語(yǔ)種、方言等場(chǎng)景發(fā)展，智能對(duì)話數(shù)據(jù)集從簡(jiǎn)答問(wèn)答、控制等

場(chǎng)景向應(yīng)用場(chǎng)景、業(yè)務(wù)問(wèn)答等方向發(fā)展。

各方積極探索建立高質(zhì)量知識(shí)集，支撐未來(lái)知識(shí)驅(qū)動(dòng)的人工智

能應(yīng)用發(fā)展。知識(shí)集中包含語(yǔ)音、圖像、文本等傳統(tǒng)數(shù)據(jù)和定義、

規(guī)則、邏輯關(guān)系等，是知識(shí)的數(shù)據(jù)化呈現(xiàn)，業(yè)界著名知識(shí)集有Wordnet、

Hownet等。例如阿里巴巴聯(lián)合香港理工大學(xué)基于服裝設(shè)計(jì)知識(shí)開發(fā)

8《數(shù)據(jù)時(shí)代2025》IDC

13

人工智能白皮書（2022年）

FashionAI知識(shí)集，加速了AI在服裝設(shè)計(jì)產(chǎn)業(yè)落地應(yīng)用。

(二)人工智能工具鏈成為工程實(shí)踐能力核心

隨著人工智能技術(shù)不斷發(fā)展，近年來(lái)工程落地應(yīng)用呈現(xiàn)加速態(tài)

勢(shì)。金融領(lǐng)域，人工智能技術(shù)開始深入前臺(tái)、中臺(tái)、后臺(tái)全過(guò)程；

醫(yī)療人工智能開始邁入市場(chǎng)化階段，截至2021年8月底，共有28

款產(chǎn)品獲批三類醫(yī)療器械注冊(cè)證；制造領(lǐng)域人工智能快速發(fā)展，德

勤預(yù)計(jì)我國(guó)未來(lái)五年將保持年均40%以上的增長(zhǎng)率。目前企業(yè)應(yīng)用

人工智能呈現(xiàn)出從初步探索到規(guī)模應(yīng)用的過(guò)渡，總體上來(lái)看，不斷

提升工程實(shí)踐能力成為未來(lái)應(yīng)用的關(guān)鍵。

人工智能工程化開始成為各界關(guān)注焦點(diǎn)。學(xué)術(shù)界，卡耐基梅隆

大學(xué)軟件工程學(xué)研究所于近年啟動(dòng)人工智能工程化研究，并聯(lián)合高

校和工業(yè)界承擔(dān)了一項(xiàng)由美國(guó)官方機(jī)構(gòu)資助的國(guó)家研究計(jì)劃；世界

知名人工智能專家喬丹（MichaelI.Jordan）、邢波等認(rèn)為人工智能

工程化是一門新興的工程科學(xué)，是人工智能從理論學(xué)科到工程學(xué)科

發(fā)展的趨勢(shì)。產(chǎn)業(yè)界，Gartner連續(xù)兩年把人工智能工程化列為年度

戰(zhàn)略技術(shù)趨勢(shì)之一，阿里云等企業(yè)把人工智能工程化視作將AI變?yōu)?/p>

企業(yè)生產(chǎn)力的關(guān)鍵。

人工智能工程化聚焦工具體系、開發(fā)流程、模型管理全生命流

程的高效耦合。工具體系層面，體系化與開放化成為研發(fā)平臺(tái)技術(shù)

工具鏈的發(fā)展特點(diǎn)。圍繞機(jī)器學(xué)習(xí)和深度學(xué)習(xí)等技術(shù)，已初步構(gòu)建

14

人工智能白皮書（2022年）

起較為完備的工具體系，大幅降低數(shù)據(jù)處理、模型開發(fā)和部署、運(yùn)

維管理等難度，其中關(guān)鍵的軟件框架多采用TensorFlow、PyTorch、

Paddle、MindSpore、OneFlow等開源框架；開發(fā)流程層面，工程化

關(guān)注人工智能模型開發(fā)的生命流程，追求高效且標(biāo)準(zhǔn)化的持續(xù)生產(chǎn)、

持續(xù)交付和持續(xù)部署，最終以最佳的模型進(jìn)入應(yīng)用層面產(chǎn)生商業(yè)價(jià)

值。例如MLOps就是為了連接模型構(gòu)建團(tuán)隊(duì)、業(yè)務(wù)團(tuán)隊(duì)和運(yùn)維團(tuán)隊(duì)，

建立起標(biāo)準(zhǔn)化的模型開發(fā)、部署與運(yùn)維流程。模型管理層面，隨著

企業(yè)智能化應(yīng)用的逐步加深，模型種類和數(shù)量大幅增長(zhǎng)，企業(yè)需要

建設(shè)對(duì)模型生命周期的管理機(jī)制，對(duì)模型的版本歷程、性能表現(xiàn)、

屬性、相關(guān)數(shù)據(jù)、衍生的模型檔案等進(jìn)行標(biāo)準(zhǔn)化的管理運(yùn)維。

自動(dòng)機(jī)器學(xué)習(xí)技術(shù)是提升工程化能力的重要能力。自動(dòng)機(jī)器學(xué)

習(xí)是指在機(jī)器學(xué)習(xí)開發(fā)應(yīng)用全流程的部分環(huán)節(jié)或者全部環(huán)節(jié)實(shí)現(xiàn)自

動(dòng)化，可以有效降低當(dāng)前階段人工智能開發(fā)門檻高、技術(shù)人才匱乏

等挑戰(zhàn)。該技術(shù)主要包括自動(dòng)數(shù)據(jù)預(yù)處理、自動(dòng)特征工程、自動(dòng)超

參數(shù)搜索、自動(dòng)模型網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)、自動(dòng)模型部署等內(nèi)容，低代碼

開發(fā)、預(yù)訓(xùn)練模型等技術(shù)也與自動(dòng)機(jī)器學(xué)習(xí)密切相關(guān)，并呈現(xiàn)融合

發(fā)展的趨勢(shì)。當(dāng)前，頭部互聯(lián)網(wǎng)企業(yè)和創(chuàng)新企業(yè)已經(jīng)開始積極布局

AutoML技術(shù)和工具，但受限于技術(shù)成熟度，AutoML的應(yīng)用場(chǎng)景還

停留在某些開發(fā)環(huán)節(jié)（如特征工程）或者某些特定的技術(shù)領(lǐng)域（如

語(yǔ)音識(shí)別、目標(biāo)檢測(cè)、智能對(duì)話等）。

云邊端協(xié)同管理的技術(shù)需求逐漸凸顯，人工智能上云進(jìn)程不斷

15

人工智能白皮書（2022年）

加速。隨著人工智能與各個(gè)行業(yè)的深度融合，人工智能邊緣端和終

端設(shè)備將得到越來(lái)越廣泛的應(yīng)用，同時(shí)開發(fā)者也將面臨邊端設(shè)備繁

雜不易適配、運(yùn)維管理難等問(wèn)題。一方面，平臺(tái)通過(guò)模型壓縮、自

適應(yīng)模型生成等技術(shù)實(shí)現(xiàn)邊端設(shè)備的模型適配和部署；另一方面，

通過(guò)對(duì)編譯優(yōu)化、中間表示等的設(shè)計(jì)和配臵，實(shí)現(xiàn)云邊端設(shè)備的協(xié)

同管理和運(yùn)維。

(三)安全可信人工智能技術(shù)朝著一體化發(fā)展

隨著社會(huì)各界對(duì)人工智能信任問(wèn)題的不斷關(guān)注，安全可信的人

工智能技術(shù)已成為研究熱點(diǎn)。研究的焦點(diǎn)主要是提升人工智能系統(tǒng)

穩(wěn)定性、可解釋性、隱私保護(hù)、公平性等，這些技術(shù)構(gòu)成了可信人

工智能的基礎(chǔ)支撐能力[9]。

人工智能系統(tǒng)穩(wěn)定性技術(shù)重點(diǎn)逐步從數(shù)字域擴(kuò)展到物理域。人

工智能系統(tǒng)面臨中毒攻擊、對(duì)抗攻擊、后門攻擊等特有攻擊，這加

大了安全性方面的挑戰(zhàn)。這些攻擊技術(shù)既可互相獨(dú)立也可以同時(shí)存

在，例如通過(guò)打印對(duì)抗樣本眼鏡等能夠直接對(duì)人臉識(shí)別系統(tǒng)造成物

理層面的干擾，攻擊者在路牌上粘貼對(duì)抗樣本擾動(dòng)圖案，使得自動(dòng)

駕駛系統(tǒng)錯(cuò)誤地將“停止”路牌識(shí)別為“限速”路牌等[10]。圍繞著

人工智能系統(tǒng)的穩(wěn)定性測(cè)試技術(shù)也成為了關(guān)鍵，華為、百度等紛紛

推出基于模糊理論的相關(guān)測(cè)試技術(shù)，致力于探索提高人工智能系統(tǒng)

的穩(wěn)定性。

16

人工智能白皮書（2022年）

人工智能可解釋性增強(qiáng)技術(shù)仍處在初期階段，多種路徑持續(xù)探

索。增強(qiáng)人工智能系統(tǒng)的可解釋性成為熱點(diǎn)工作[11,12,13]，主要路徑

包括建立適當(dāng)?shù)目梢暬瘷C(jī)制嘗試評(píng)估和解釋模型的中間狀態(tài)；通過(guò)

影響函數(shù)來(lái)分析訓(xùn)練數(shù)據(jù)對(duì)于最終收斂的人工智能模型的影響；通

過(guò)方法分析人工智能模型利用哪些數(shù)據(jù)特征做出預(yù)測(cè)；通過(guò)使用簡(jiǎn)

單的可解釋模型對(duì)復(fù)雜的黑盒模型進(jìn)行局部近似來(lái)研究黑盒模型的

可解釋性等。

隱私計(jì)算技術(shù)助力人工智能數(shù)據(jù)安全可信地進(jìn)行協(xié)作。人工智

能系統(tǒng)需要依賴大量數(shù)據(jù)，然而數(shù)據(jù)的流轉(zhuǎn)過(guò)程以及人工智能模型

本身都有可能泄漏敏感隱私數(shù)據(jù)。AI結(jié)合隱私計(jì)算技術(shù)，可從數(shù)據(jù)

源端確保原始數(shù)據(jù)真實(shí)可信。利用隱私計(jì)算技術(shù)，數(shù)據(jù)“可用不可見”，

形成物理分散的多元數(shù)據(jù)的邏輯集中視圖，可以保證AI模型有充足

的、可信的數(shù)據(jù)可供利用。

提升人工智能公平性的關(guān)鍵在于從數(shù)據(jù)和技術(shù)兩方面入手。隨

著人工智能系統(tǒng)的廣泛應(yīng)用，不公平?jīng)Q策行為以及對(duì)部分群體的歧

視等問(wèn)題越來(lái)越突出，導(dǎo)致這些決策偏見主要原因如下：受數(shù)據(jù)采

集條件限制，不同群體在數(shù)據(jù)中所占權(quán)重不均衡；在不平衡數(shù)據(jù)集

上訓(xùn)練得到的人工智能模型，造成模型決策不公平。為了保障人工

智能系統(tǒng)的決策公平性，從數(shù)據(jù)層面來(lái)看，主要通過(guò)構(gòu)建完整異構(gòu)

數(shù)據(jù)集，將數(shù)據(jù)固有歧視和偏見最小化；對(duì)數(shù)據(jù)集進(jìn)行周期性檢查，

17

人工智能白皮書（2022年）

保證數(shù)據(jù)高質(zhì)量性。從技術(shù)層面來(lái)看，需要通過(guò)引入公平?jīng)Q策量化

指標(biāo)的算法，來(lái)減輕或消除決策偏差及潛在的歧視。

體系化推進(jìn)人工智能可信安全技術(shù)將是重要趨勢(shì)。一方面，當(dāng)

前相關(guān)研究多是從穩(wěn)定、隱私、公平等單一維度展開。已有研究工

作表明，穩(wěn)定性、公平性、可解釋性等不同要求之間存在相互協(xié)同

或相互制約的關(guān)系，若僅考慮某一個(gè)方面的要求則可能會(huì)造成其他

要求的沖突。如何構(gòu)建系統(tǒng)的研究框架，從而保持不同特征要素之

間的最優(yōu)動(dòng)態(tài)平衡成為關(guān)鍵。另一方面，需要從系統(tǒng)層面開展可信

安全的研究[14]，這一問(wèn)題不僅僅是人工智能算法層面問(wèn)題，還涉及

到整個(gè)系統(tǒng)，例如人工智能承載操作系統(tǒng)、軟件框架、第三方庫(kù)，

以及硬件設(shè)備自身的安全問(wèn)題等，需要構(gòu)建人工智能全鏈條、全生

命周期的可信安全。

三、全球高度關(guān)注人工智能治理工作，人工智能安全可

信成重點(diǎn)

人工智能發(fā)展的空間越大、影響越深、挑戰(zhàn)越多，對(duì)它的治理

就越重要、越緊迫。當(dāng)前，全球已經(jīng)形成多元主體參與、協(xié)同共治

的治理模式，各國(guó)及各組織推出了一系列治理原則，立法進(jìn)程取得

實(shí)質(zhì)性進(jìn)展，行業(yè)組織及企業(yè)主體積極探索可信落地實(shí)踐。

(一)人工智能風(fēng)險(xiǎn)不斷增多，全球初步建立治理機(jī)制

1.人工智能深入賦能引發(fā)挑戰(zhàn)

18

人工智能白皮書（2022年）

人工智能帶來(lái)的風(fēng)險(xiǎn)與挑戰(zhàn)是多方面的。除了人工智能技術(shù)自

身存在天然的缺陷外，區(qū)別于純粹的技術(shù)風(fēng)險(xiǎn)，人工智能風(fēng)險(xiǎn)的淵

源是人工智能系統(tǒng)的應(yīng)用對(duì)現(xiàn)有的規(guī)范體系以及倫理與社會(huì)秩序的

沖擊[15]。

人工智能固有技術(shù)風(fēng)險(xiǎn)持續(xù)放大。以深度學(xué)習(xí)為核心的人工智

能技術(shù)正在不斷暴露出由其自身特性引發(fā)的風(fēng)險(xiǎn)隱患。一是深度學(xué)

習(xí)模型存在脆弱和易受攻擊的缺陷，使得人工智能系統(tǒng)的可靠性難

以得到足夠的信任。二是黑箱模型具備高度復(fù)雜性和不確定性，算

法不透明容易引發(fā)不確定性風(fēng)險(xiǎn)。三是人工智能算法產(chǎn)生的結(jié)果過(guò)

度依賴訓(xùn)練數(shù)據(jù)，如果訓(xùn)練數(shù)據(jù)中存在偏見歧視，會(huì)導(dǎo)致不公平的

智能決策產(chǎn)生。

現(xiàn)有法律及規(guī)范體系受到的挑戰(zhàn)不斷擴(kuò)大。人工智能對(duì)就法律

及規(guī)范體系造成了多個(gè)方面沖擊：在主體資格界定方面，沙特阿拉

伯授予機(jī)器人索菲亞以公民資格引發(fā)全球爭(zhēng)議，此外還產(chǎn)生了人工

智能是否能夠成為專利的發(fā)明者等問(wèn)題，如2021年7月澳大利亞聯(lián)

邦法院裁定人工智能系統(tǒng)可被列為專利申請(qǐng)中的發(fā)明人，與美國(guó)、

英國(guó)持截然不同的態(tài)度9。在隱私保護(hù)方面，人工智能的發(fā)展伴隨侵

犯?jìng)€(gè)人隱私問(wèn)題時(shí)有發(fā)生，央視“3·15”晚會(huì)曝光，大量企業(yè)違規(guī)采集

9.au/news/2021-08-01/historic-decision-allows-ai-to-be-recognised-as-an-inventor/10033926

4?utm_campaign=news-article-share-2-control&utm_content=twitter&utm_medium=content_shared&utm_sourc

e=abc_news_web

19

人工智能白皮書（2022年）

顧客人臉信息用于商業(yè)目的10。在責(zé)任劃分方面，2015年英國(guó)首例

機(jī)器人手術(shù)致人死亡11，特斯拉“失控門”事件使得自動(dòng)駕駛輔助系統(tǒng)

受到質(zhì)疑12。

倫理及社會(huì)秩序受到的沖擊愈發(fā)嚴(yán)重。人工智能存在對(duì)人類權(quán)

利造成沖擊的風(fēng)險(xiǎn)，人工智能引發(fā)歧視、對(duì)人類行為提出新規(guī)則、

勞動(dòng)力的變革更替等問(wèn)題。2021年8月，俄羅斯在線支付服務(wù)公司

Xsolla使用算法判斷員工“不敬業(yè)且效率低”，并解雇了公司占總?cè)藬?shù)

三分之一的147名員工13。人工智能直接或間接傷害人類，沖擊社會(huì)

秩序。2020年11月有媒體報(bào)道伊朗核科學(xué)家被“人工智能”控制的武

器刺殺14，2019年亞馬遜智能音箱曾給出勸人類自殺的建議15。

2.全球掀起人工智能治理浪潮

當(dāng)前，面臨人工智能深入賦能而引發(fā)的多方面風(fēng)險(xiǎn)及挑戰(zhàn)，全

球各國(guó)越來(lái)越重視人工智能治理。人工智能治理是一項(xiàng)復(fù)雜的系統(tǒng)

工程，根據(jù)《人工智能治理白皮書》[16]，人工智能治理體系由政府、

行業(yè)組織、企業(yè)以及公眾等多元主體共同參與、協(xié)同合作，形成了

10/tech/article/G55HQCAA00097U7R.html

11/internation/2018_11_08_478891.shtml

12/rain/a/20210210A0CPO600

13/2021/08/04/xsolla-fires-150-employees-using-big-data-and-ai-analysis-ceos-let

ter-causes-controversy

14/s?id=1685477846545190363&wfr=spider&for=pc

15

https://www.dailymail.co.uk/news/article-7809269/Amazon-Alexa-told-terrified-mother-29-stab-heart-greater-go

od.html

20

人工智能白皮書（2022年）

倫理原則等“軟法”以及法律法規(guī)等“硬法”相結(jié)合的治理手段，旨在

實(shí)現(xiàn)科技向善、造福人類的總體目標(biāo)愿景，推動(dòng)人工智能健康有序

發(fā)展。人工智能治理機(jī)制如圖3所示。

資料整理：中國(guó)信息通信研究院

圖3人工智能治理機(jī)制示意圖

世界主要經(jīng)濟(jì)體聚焦人工智能治理焦點(diǎn)議題的討論，政府間國(guó)

際組織成為重要發(fā)聲陣地，聯(lián)合國(guó)、G20、OECD、G7等成為引導(dǎo)

全球人工智能治理的重要組織。OECD相關(guān)研究成果對(duì)于推動(dòng)全球

人工智能治理起到了重要作用，是G7人工智能監(jiān)管相關(guān)決議、G20

人工智能原則的重要參考。

聯(lián)合國(guó)（UN）積極推動(dòng)人工智能倫理治理進(jìn)程。聯(lián)合國(guó)科教文

組織（UNESCO）于2021年11月25日發(fā)布《人工智能倫理問(wèn)題建

議書》，這是全球首個(gè)針對(duì)人工智能倫理制定的規(guī)范框架，是迄今

為止全世界在政府層面達(dá)成的最廣泛的共識(shí)，同時(shí)賦予各國(guó)在相應(yīng)

層面應(yīng)用該框架的責(zé)任。世界衛(wèi)生組織（WHO）于2021年6月28

21

人工智能白皮書（2022年）

日發(fā)布了第一份關(guān)于在醫(yī)療衛(wèi)生中使用人工智能的指南《醫(yī)療衛(wèi)生

中人工智能的倫理和管制》，確保人工智能技術(shù)能夠?yàn)槿蛩袊?guó)

家的公共利益服務(wù)。

二十國(guó)集團(tuán)（G20）于2019年6月在參考《OECD人工智能原

則》的基礎(chǔ)上，批準(zhǔn)了倡導(dǎo)人工智能使用和研發(fā)“尊重法律原則、人

權(quán)和民主價(jià)值觀”的《G20人工智能原則》，成為人工智能治理方面

的首個(gè)政府間國(guó)際共識(shí)，確立了以人為本的發(fā)展理念。中國(guó)支持圍

繞人工智能加強(qiáng)對(duì)話，落實(shí)G20人工智能原則，推動(dòng)全球人工智能

健康發(fā)展。

經(jīng)濟(jì)合作與發(fā)展組織（OECD）于2019年5月22日發(fā)布了全球

首個(gè)人工智能政府間政策指導(dǎo)方針，形成《OECD人工智能原則》，

確立了負(fù)責(zé)任地管理可信賴的人工智能的五項(xiàng)原則。OECD于2020

年2月設(shè)立了人工智能政策觀察站（OECD.AI），通過(guò)分享人工智

能政策及實(shí)踐的最佳案例，促進(jìn)國(guó)際合作，幫助成員國(guó)打造可信賴

的人工智能系統(tǒng)以實(shí)現(xiàn)全社會(huì)利益。

七國(guó)集團(tuán)（G7）在全球發(fā)達(dá)經(jīng)濟(jì)體間就人工智能治理開啟了共

識(shí)性的探索。2021年1月舉行的G7峰會(huì)表示各成員國(guó)將合作研究

國(guó)際人工智能標(biāo)準(zhǔn)16；9月，在G7數(shù)據(jù)保護(hù)和隱私當(dāng)局會(huì)議上，表

示未來(lái)將把數(shù)據(jù)保護(hù)和隱私監(jiān)管作為人工智能治理的核心工作，并

16/2021/01/hancock-uk-will-work-with-g7-and-others-to-look-at-ai-standards/

22

人工智能白皮書（2022年）

推動(dòng)業(yè)界設(shè)計(jì)滿足數(shù)據(jù)保護(hù)要求的人工智能產(chǎn)品。

(二)人工智能治理邁入軟硬法協(xié)同和場(chǎng)景規(guī)制新階段

自2017年《阿西洛馬人工智能原則》問(wèn)世以來(lái)，全球掀起了探

索制定人工智能倫理原則的熱潮。當(dāng)前，G20人工智能原則被國(guó)際

社會(huì)普遍認(rèn)同，政府間組織成為引導(dǎo)人工智能治理方向的重要力量，

全球各國(guó)加速完善人工智能治理相關(guān)規(guī)則體系。2021年歐盟率先推

出《人工智能法》草案標(biāo)志著人工智能治理從原則性約束的“軟法”

向更具實(shí)質(zhì)性監(jiān)管的“硬法”加速推進(jìn)；與此同時(shí)，隨著人工智能與

實(shí)體經(jīng)濟(jì)融合程度不斷加深，對(duì)人工智能治理越來(lái)越聚焦到具體的

場(chǎng)景上。

1.人工智能治理實(shí)質(zhì)化進(jìn)程加速推進(jìn)

當(dāng)前，各國(guó)人工智能治理側(cè)重各有不同，但整體上呈現(xiàn)加速演

進(jìn)態(tài)勢(shì)，即從初期構(gòu)建以“軟法”為導(dǎo)向的社會(huì)規(guī)范體系，開始邁向

以“硬法”為保障的風(fēng)險(xiǎn)防控體系。

歐盟從倫理向監(jiān)管穩(wěn)步推進(jìn)，欲引領(lǐng)全球人工智能監(jiān)管規(guī)則。

2021年4月21日，歐盟公布了《人工智能法》草案，是全球范圍內(nèi)

首部系統(tǒng)化規(guī)制人工智能的法律，細(xì)化了人工智能四級(jí)風(fēng)險(xiǎn)框架，

重點(diǎn)針對(duì)高風(fēng)險(xiǎn)系統(tǒng)作出規(guī)制，并提出了較為完善的監(jiān)管配套措施。

這是歐盟繼發(fā)布《可信人工智能倫理指南》（2018）和《人工智能

白皮書—通往卓越和信任的歐洲路徑》（2020）后的又一重要舉措，

23

人工智能白皮書（2022年）

標(biāo)志著全球人工智能治理從倫理原則等軟性約束，邁向全面且具有

可操作性的法律規(guī)制階段。

美國(guó)強(qiáng)調(diào)審慎監(jiān)管以促進(jìn)創(chuàng)新發(fā)展。最早由2019年行政令《保

持美國(guó)在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位》奠定了美國(guó)在人工智能治理方

面以強(qiáng)化全球領(lǐng)導(dǎo)地位為核心的總基調(diào)。美國(guó)2019年提出《算法問(wèn)

責(zé)法案》，要求對(duì)“高風(fēng)險(xiǎn)”的自動(dòng)決策系統(tǒng)進(jìn)行影響評(píng)估；2020年，

美國(guó)參議院發(fā)布《國(guó)家生物識(shí)別信息隱私法案》，在個(gè)人隱私數(shù)據(jù)

保護(hù)的基礎(chǔ)上，針對(duì)人工智能賦能的生物信息識(shí)別進(jìn)行了隱私保護(hù)；

2021年5月，美國(guó)《算法公正與在線平臺(tái)透明度法案》從用戶、監(jiān)

管部門和公眾三個(gè)主體維度提出算法透明的義務(wù)要求。2021年7月，

美國(guó)政府問(wèn)責(zé)局發(fā)布人工智能問(wèn)責(zé)框架，以確保人工智能系統(tǒng)的公

平、可靠、可追溯和可治理等。

中國(guó)軟法硬法雙兼顧，齊頭推進(jìn)人工智能治理。原則倫理層面，

國(guó)家新一代人工智能治理專業(yè)委員會(huì)繼2019年6月發(fā)布《新一代人

工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》之后，于2021年9月

發(fā)布《新一代人工智能倫理規(guī)范》，旨在將倫理道德融入人工智能

全生命周期，積極引導(dǎo)全社會(huì)負(fù)責(zé)任的開展人工智能研發(fā)與應(yīng)用活

動(dòng)。法律進(jìn)程方面，我國(guó)尚未出臺(tái)人工智能相關(guān)的統(tǒng)一法律，但是

2021年11月正式實(shí)施的《個(gè)人信息保護(hù)法》，與《網(wǎng)絡(luò)安全法》《數(shù)

據(jù)安全法》共同形成了治理人工智能底層要素的堅(jiān)固法律體系。此

外，地方層面積極探索，深圳于2021年7月出臺(tái)《深圳經(jīng)濟(jì)特區(qū)人

24

人工智能白皮書（2022年）

工智能產(chǎn)業(yè)促進(jìn)條例（草案）》，助力人工智能產(chǎn)業(yè)健康發(fā)展。

與此同時(shí)，英國(guó)、法國(guó)、日本、韓國(guó)等國(guó)家也針對(duì)人工智能治

理開展了相關(guān)工作。英國(guó)強(qiáng)調(diào)人工智能規(guī)范發(fā)展并推動(dòng)AI教育及

人才培養(yǎng)，在《人工智能：未來(lái)決策的機(jī)會(huì)和影響》（2016）、《英

國(guó)人工智能發(fā)展的計(jì)劃、意愿和能力》（2018）、《新興技術(shù)憲章》

（2021）多份文件和報(bào)告中呼吁建立國(guó)家層面的人工智能準(zhǔn)則與倫

理框架。法國(guó)通過(guò)專家研討、學(xué)術(shù)辯論等方式深化對(duì)人工智能倫理

問(wèn)題的認(rèn)識(shí)。日本、韓國(guó)等從制造業(yè)智能化轉(zhuǎn)型和新興技術(shù)應(yīng)用等

發(fā)展的角度關(guān)注人工智能倫理。

2.典型場(chǎng)景化治理各有側(cè)重加速落地

人工智能治理的復(fù)雜還體現(xiàn)在其應(yīng)用場(chǎng)景的多樣化和差異化。

在不同場(chǎng)景下，人工智能技術(shù)的應(yīng)用深度和影響各有不同，典型場(chǎng)

景的治理成為各國(guó)的工作重點(diǎn)，特別聚焦于自動(dòng)駕駛、智慧醫(yī)療和

人臉識(shí)別等領(lǐng)域。

自動(dòng)駕駛領(lǐng)域，德國(guó)率先制定倫理準(zhǔn)則及框架法案，各國(guó)加緊

部署分級(jí)分類監(jiān)管。德國(guó)于2017年推出《自動(dòng)駕駛倫理準(zhǔn)則》，于

2021年5月通過(guò)《自動(dòng)駕駛法》草案；2021年，英國(guó)討論修改《公

路法》，引入自動(dòng)駕駛汽車在高速公路上安全使用的新條款；我國(guó)

于2021年5月由國(guó)家互聯(lián)網(wǎng)信息辦公室會(huì)同有關(guān)部門起草了《汽車

數(shù)據(jù)安全管理若干規(guī)定（征求意見稿）》，向社會(huì)公開征求意見。

25

人工智能白皮書（2022年）

智慧醫(yī)療領(lǐng)域，倫理原則逐步得到發(fā)展，監(jiān)管層面注重規(guī)制醫(yī)

療器械準(zhǔn)入。美國(guó)FDA在2019年《人工智能醫(yī)療器械獨(dú)立軟件修

正監(jiān)管框架（討論稿）》的基礎(chǔ)上，于2021年1月發(fā)布了《基于人

工智能/機(jī)器學(xué)習(xí)的醫(yī)療器械軟件行動(dòng)計(jì)劃》，部署人工智能醫(yī)療器

械軟件監(jiān)管行動(dòng)。歐盟出臺(tái)醫(yī)療器械條例（MDR），要求自2021

年5月新的醫(yī)療器械申請(qǐng)合規(guī)性證書。中國(guó)于2021年6月發(fā)布了《人

工智能醫(yī)療器械注冊(cè)審查指導(dǎo)原則（征求意見稿）》，并推動(dòng)人工

智能醫(yī)療器械行業(yè)有序發(fā)展。

人臉識(shí)別領(lǐng)域，全球各國(guó)邁入隱私保護(hù)和信息數(shù)據(jù)安全的強(qiáng)監(jiān)

管時(shí)代。歐盟在2021年4月出臺(tái)的《人工智能法》草案中將人臉識(shí)

別納入高風(fēng)險(xiǎn)分類等級(jí)，10月歐洲議會(huì)投票通過(guò)決議，呼吁全面禁

止基于人工智能生物識(shí)別技術(shù)的大規(guī)模監(jiān)控。中國(guó)于2021年11月

實(shí)施《個(gè)人信息保護(hù)法》，與8月最高人民法院出臺(tái)的人臉識(shí)別相

關(guān)的司法解釋針對(duì)性地規(guī)制人臉信息處理。美國(guó)州或地方層面通過(guò)

立法禁止政府機(jī)構(gòu)在公共場(chǎng)所使用人臉識(shí)別技術(shù)。英國(guó)于2021年9

月發(fā)布《新興技術(shù)憲章》，指出要合法道德的使用人臉識(shí)別等技術(shù)。

(三)人工智能安全框架成為有效防范風(fēng)險(xiǎn)的關(guān)鍵指引

為有效防范人工智能技術(shù)應(yīng)用帶來(lái)的安全風(fēng)險(xiǎn)，保障事關(guān)國(guó)家

安全、經(jīng)濟(jì)命脈、社會(huì)穩(wěn)定等的人工智能系統(tǒng)的安全，亟需提出人

工智能系統(tǒng)安全體系，為行業(yè)逐步提升人工智能安全能力提供有效

26

人工智能白皮書（2022年）

指引。人工智能安全框架是從人工智能安全保護(hù)需求出發(fā)，將人工

智能安全技術(shù)體系和人工智能安全管理體系進(jìn)行有機(jī)融合，構(gòu)建的

人工智能安全整體體系設(shè)計(jì)與規(guī)劃，對(duì)維護(hù)國(guó)家人工智能安全和網(wǎng)

絡(luò)安全具有重要意義。

1.人工智能安全框架逐漸形成雛形

人工智能安全框架需包含安全目標(biāo)、安全能力、安全技術(shù)和安

全管理四個(gè)維度，如圖4所示。這四個(gè)防護(hù)維度基于自頂向下、層

層遞進(jìn)的方式指導(dǎo)企業(yè)構(gòu)建人工智能安全防護(hù)體系。其中，設(shè)定合

理安全目標(biāo)是保障人工智能應(yīng)用安全的起點(diǎn)和基礎(chǔ)，安全能力是實(shí)

現(xiàn)安全目標(biāo)的有效保障，安全技術(shù)和安全管理是安全能力的支撐和

體現(xiàn)。

27

人工智能白皮書（2022年）

來(lái)源：中國(guó)信息通信研究院

圖4人工智能安全框架17

17/kxyj/qwfb/ztbg/202012/t20201209_365680.htm

28

人工智能白皮書（2022年）

2.分類分級(jí)成為框架構(gòu)建的新方向

分類分級(jí)成為全球人工智能治理的新風(fēng)向。歐盟《人工智能法》

草案、美國(guó)《算法問(wèn)責(zé)法案》、加拿大《自動(dòng)化決策指令》、中國(guó)

《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》等世界主要

國(guó)家的法律法規(guī)和政策文件均提出建立人工智能系統(tǒng)或算法分類分

級(jí)管理方式的要求。然而，上述法律法規(guī)或僅提出分類分級(jí)管理要

求或采用列舉典型人工智能系統(tǒng)的方式描述分級(jí)方式，缺少分級(jí)原

則，沒有可遵循的分級(jí)方法和流程，無(wú)法適用于快速涌現(xiàn)的新型人

工智能應(yīng)用,亟需提出人工智能分類分級(jí)體系，明確分類分級(jí)原理以

及便于實(shí)際操作的分類分級(jí)要素和方法。

按照分類管理、分級(jí)保護(hù)的思路，本白皮書提出了以下人工智

能分類分級(jí)建議。根據(jù)人工智能系統(tǒng)的自主程度的不同，將人工智

能系統(tǒng)分為輔助人類智能系統(tǒng)、人機(jī)混合智能系統(tǒng)和完全自主智能

系統(tǒng)三類。依據(jù)人工智能系統(tǒng)的重要性和危害程度，將人工智能系

統(tǒng)分為中低風(fēng)險(xiǎn)智能系統(tǒng)、高風(fēng)險(xiǎn)智能系統(tǒng)和超高風(fēng)險(xiǎn)智能系統(tǒng)三

級(jí)。其中每一類人工智能系統(tǒng)均可進(jìn)一步分為三級(jí)。

(四)可信人工智能已成為落實(shí)治理要求的重要方法論

根據(jù)《可信人工智能白皮書》[9]，面對(duì)人工智能引發(fā)的全球信任

焦慮，發(fā)展可信人工智能已經(jīng)成為全球共識(shí)?？尚湃斯ぶ悄苁菑漠a(chǎn)

業(yè)維度出發(fā)，落實(shí)人工智能治理要求的一整套方法論，是人工智能

29

人工智能白皮書（2022年）

治理和產(chǎn)業(yè)實(shí)踐之間的橋梁。圖5給出了可信人工智能的總體框架。

來(lái)源：中國(guó)信息通信研究院

圖5可信人工智能總體框架

1.可信理念逐漸深入到人工智能全生命周期

可信人工智能從學(xué)術(shù)界提出，到各界積極研究，再到產(chǎn)業(yè)界開

始落地實(shí)踐，其內(nèi)涵也在逐步的豐富和演進(jìn)。可信人工智能已經(jīng)不

再僅僅局限于對(duì)人工智能技術(shù)、產(chǎn)品和服務(wù)本身狀態(tài)的界定，而是

逐步擴(kuò)展至一套體系化的方法論，涉及到如何構(gòu)造“可信”人工智能

的方方面面，包括企業(yè)內(nèi)部管理、研發(fā)、運(yùn)營(yíng)等環(huán)節(jié)，以及行業(yè)相

關(guān)工作，將相關(guān)抽象要求轉(zhuǎn)化為實(shí)踐所需的具體能力要求，從而提

升社會(huì)對(duì)人工智能的信任程度。

2.企業(yè)已成為實(shí)踐可信人工智能的主要力量

30

人工智能白皮書（2022年）

企業(yè)作為人工智能技術(shù)研發(fā)和創(chuàng)新應(yīng)用的一線，需要直面人工

智能信任挑戰(zhàn)，主動(dòng)開展自律自治工作，充分發(fā)揮企業(yè)能動(dòng)性落實(shí)

人工智能技術(shù)、產(chǎn)品和服務(wù)的可信要求。2018年以來(lái)，谷歌、微軟、

IBM、曠視、騰訊等眾多國(guó)內(nèi)外企業(yè)紛紛推出了企業(yè)人工智能治理

準(zhǔn)則，并形成相應(yīng)部門機(jī)構(gòu)推動(dòng)落實(shí)治理責(zé)任。另外，企業(yè)也在積

極探索以實(shí)踐可信為核心理念的人工智能治理模型，IBM、微軟、

華為、京東等國(guó)內(nèi)外企業(yè)發(fā)布多個(gè)人工智能可信工具，以幫助人工

智能產(chǎn)品在研發(fā)過(guò)程中提升安全性、魯棒性、可解釋性、公平性等

可信能力，并通過(guò)開源生態(tài)凝聚開發(fā)者宣傳可信理念。

3.行業(yè)組織推進(jìn)打造人工智能安全可信生態(tài)

可信人工智能的實(shí)現(xiàn)不僅僅是企業(yè)單方面的實(shí)踐和努力就能夠

完成的，更需要多方參與和協(xié)同，最終形成一個(gè)相互影響、相互支

持、相互依賴的良性生態(tài)。在標(biāo)準(zhǔn)制定層面，2017年以來(lái)ISO/IEC、

IEEE、SAC/TC28/SC42等國(guó)內(nèi)外標(biāo)準(zhǔn)組織已率先布局通用可信人

工智能標(biāo)準(zhǔn)。2021年4月，我國(guó)在人臉識(shí)別場(chǎng)景下的國(guó)家標(biāo)準(zhǔn)《信

息安全技術(shù)人臉識(shí)別數(shù)據(jù)安全要求》面向社會(huì)公開征求意見。在行

業(yè)自律層面，中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟2019年發(fā)布了《人工智能

行業(yè)自律公約》，隨后在2020年發(fā)布了《可信AI操作指引》，并

公布了首批商用人工智能系統(tǒng)可信評(píng)估結(jié)果，涉及11家企業(yè)的16

個(gè)人工智能系統(tǒng)，為用戶選型提供了重要參考。當(dāng)前，正在聯(lián)合業(yè)

31

人工智能白皮書（2022年）

界共同編制《可信人工智能研發(fā)管理指南》等，以期推動(dòng)人工智能

研發(fā)源頭的安全和可信。

四、總結(jié)與展望

我國(guó)人工智能技術(shù)和產(chǎn)業(yè)已經(jīng)取得了長(zhǎng)足的發(fā)展，我們相信“十

四五”期間，人工智能技術(shù)創(chuàng)新將進(jìn)一步加快，產(chǎn)業(yè)規(guī)模持續(xù)擴(kuò)大，

將涌現(xiàn)出一批發(fā)展?jié)摿Υ蟮膬?yōu)質(zhì)企業(yè)和產(chǎn)業(yè)集群，成為引領(lǐng)經(jīng)濟(jì)高

質(zhì)量發(fā)展的重要引擎。

追求技術(shù)創(chuàng)新、聚焦工程實(shí)踐、確?？尚虐踩饾u成為未來(lái)人

工智能發(fā)展的重要方向。回顧近十年的人工智能發(fā)展歷程，不難發(fā)

現(xiàn)技術(shù)創(chuàng)新與工程實(shí)踐相輔相成，算法和算力突破后帶動(dòng)了工具體

系的發(fā)展，工具的成熟進(jìn)一步又支撐了技術(shù)落地應(yīng)用。當(dāng)前，人工

智能已廣泛應(yīng)用于人們?nèi)粘Ｉa(chǎn)、生活的方方面面，對(duì)其安全可信

品質(zhì)的需要已經(jīng)提升到前所未有的高度，推動(dòng)人工智能可靠可控的

發(fā)展成為全球共識(shí)。站在“十四五”的開端，我們期待人工智能技

術(shù)持續(xù)改善，人工智能產(chǎn)業(yè)及應(yīng)用能在下一個(gè)五年內(nèi)蓬勃且健康地

發(fā)展。

一是在新技術(shù)不斷探索的同時(shí)，更加注重通過(guò)工程化的方式釋

放技術(shù)紅利，并且確保安全可信。人工智能企業(yè)能否快速賦能各行

各業(yè)，響應(yīng)多樣化需求，其關(guān)鍵因素在于企業(yè)的工程化能力。同時(shí)，

安全可信技術(shù)的需求越發(fā)重要，當(dāng)前圍繞著數(shù)據(jù)保護(hù)已經(jīng)催生了大

32

人工智能白皮書（2022年）

量從事隱私計(jì)算技術(shù)的企業(yè)，未來(lái)圍繞著人工智能穩(wěn)定性、公平性

等方面的技術(shù)也將會(huì)形成重要的力量。

二是在產(chǎn)業(yè)智能化進(jìn)程中，傳統(tǒng)行業(yè)的參與程度將越來(lái)越深入，

甚至?xí)鲗?dǎo)整個(gè)產(chǎn)業(yè)的發(fā)展進(jìn)程。產(chǎn)業(yè)發(fā)展重心已經(jīng)開始從“人工智

能+”向“+人工智能”轉(zhuǎn)變，隨著傳統(tǒng)行業(yè)數(shù)字化進(jìn)程的提升，將提供

海量的數(shù)據(jù)和豐富的應(yīng)用場(chǎng)景，為人工智能的應(yīng)用打開新的空間。

這些傳統(tǒng)行業(yè)或領(lǐng)域中，人工智能滲透率更高的機(jī)構(gòu)將會(huì)對(duì)整個(gè)領(lǐng)

域內(nèi)其他機(jī)構(gòu)輸出人工智能相關(guān)解決方案。

三是人工智能治理工作將越發(fā)關(guān)鍵，事關(guān)人工智能持續(xù)健康發(fā)

展，統(tǒng)籌治理和發(fā)展成為必需。治理工作不僅切實(shí)關(guān)系到人工智能

日常應(yīng)用問(wèn)題，也已上升為國(guó)際間競(jìng)爭(zhēng)與合作的重要議題。面臨世

界各國(guó)各地區(qū)不同文化背景、不同發(fā)展程度，如何有效的開展人工

智能治理實(shí)踐是重要的挑戰(zhàn)。我國(guó)政府、行業(yè)組織、企業(yè)等已在人

工智能治理方面率先開始探索，將安全可信的理念融入到人工智能

的全生命周期中，未來(lái)也將涌現(xiàn)出更多的實(shí)踐范式。

33

人工智能白皮書（2022年）

參考文獻(xiàn)

[1]HanX,ZhangZ,DingN,etal.Pre-TrainedModels:Past,Present

andFuture[J].2021.

[2]TamkinA,BrundageM,ClarkJ,etal.Understandingthe

Capabilities,Limitations,andSocietalImpactofLargeLanguage

Models[J].2021.

[3]LiuH,WangR,ShanS,etal.WhatisTabby?InterpretableModel

DecisionsbyLearningAttribute-basedClassificationCriteria[J].

IEEETransactionsonPatternAnalysisandMachineIntelligence,

2019,PP(99):1-1.

[4]張鈸,朱軍,蘇航.邁向第三代人工智能[J].中國(guó)科學(xué)：信息科學(xué),

2020,50(9):22.

[5]先進(jìn)計(jì)算發(fā)展研究報(bào)告[R].北京:中國(guó)信息通信研究院,2018.

[6]YuSun,ShuohuanWang,etal.ERNIE3.0:Large-scaleKnowledge

enhancedPre-TrainingforLanguageUnderstandingandgeneration.

[J]arXivpreprintarXiv:2107.02137,2021.

[7]YuqiHuo,etal.WenLan:BridgingVisionandLanguageby

Large-ScaleMulti-ModalPre-Training[J]arXivpreprint

arXiv:2103.06561,2021.

[8]DannyHernandez,TomB.Brown.MeasuringtheAlgorithmic

EfficiencyofNeuralNetworks[J].arXivpreprintarXiv:2005.04305,

34

人工智能白皮書（2022年）

2020.

[9]可信人工智能白皮書[R].北京:中國(guó)信息通信研究院,2021.

[10]Eykholt,K.,etal.Robustphysical-worldattacksondeep

learningvisualclassification[C].InProceedingsoftheIEEE

ConferenceonComputerVisionandPatternRecognition,pages

1625-1634,2018.

[11]LiuT.,etal.Algorithm-dependentgeneralizationboundsfor

multi-tasklearning[J].IEEETransactionsonPatternAnalysisand

MachineIntelligence,volume39,pages227-241,2016.

[12]HeF.,etal.Controlbatchsizeandlearningratetogeneralize

well:Theoreticalandempiricalevidence[C].InAdvancesinNeural

InformationProcessingSystems,pages1141-1150,2019.

[13]TuZ.,etal.Theoreticalanalysisofadversariallearning:A

minimaxapproach[C].InAdvancesinNeuralInformation

ProcessingSystems,pages12280–12290,2019.

[14]人工智能安全白皮書[R].浙江：浙江大學(xué)-螞蟻集團(tuán)金融科技

研究中心，2020.

[15]郭銳.人工智能的倫理和治理[M]北京：法律出版社，2020.

[16]人工智能治理白皮書[R].北京:中國(guó)信息通信研究院,2020.

35

目錄

一、人工智能發(fā)展概述1

(一)全球不斷升級(jí)人工智能戰(zhàn)略，紛紛搶抓重要發(fā)展機(jī)遇1

(二)人工智能開始邁入全新階段，持續(xù)健康發(fā)展成為焦點(diǎn)4

二、人工智能技術(shù)及應(yīng)用沿著“創(chuàng)新、工程、可信”三個(gè)方向持續(xù)演進(jìn)7

(一)人工智能在追求極致創(chuàng)新方面不斷突破8

(二)人工智能工具鏈成為工程實(shí)踐能力核心14

(三)安全可信人工智能技術(shù)朝著一體化發(fā)展16

三、全球高度關(guān)注人工智能治理工作，人工智能安全可信成重點(diǎn)18

(一)人工智能風(fēng)險(xiǎn)不斷增多，全球初步建立治理機(jī)制18

(二)人工智能治理邁入軟硬法協(xié)同和場(chǎng)景規(guī)制新階段23

(三)人工智能安全框架成為有效防范風(fēng)險(xiǎn)的關(guān)鍵指引26

(四)可信人工智能已成為落實(shí)治理要求的重要方法論29

四、總結(jié)與展望32

參考文獻(xiàn)34

人工智能白皮書（2022年）