網(wǎng)絡(luò)安全研究2024年第2期（總第79期）：全球人工智能治理發(fā)展報(bào)告

目錄目錄CONTENTS一人工智能治理概念內(nèi)涵… 1（一）概念內(nèi)涵 1（二）核心目標(biāo) 1（三）治理主體 3二全球人工智能治理趨勢(shì)和特點(diǎn)… 3（一）國(guó)際組織 3（二）國(guó)家和地區(qū) 4（三）科技企業(yè) 6三我國(guó)人工智能治理已開展的舉措… 7（一）政策發(fā)展 7（二）標(biāo)準(zhǔn)發(fā)展 7（三）行業(yè)發(fā)展 8（四）國(guó)際合作與倡議 9四、人工智能治理難點(diǎn)、風(fēng)險(xiǎn)和挑戰(zhàn) 11（一）各國(guó)立法步調(diào)不統(tǒng)一，全球監(jiān)管框架難以落地… 11（二）部分國(guó)家尋求規(guī)則主導(dǎo)權(quán)，在推動(dòng)人工智能治理過(guò)程中存在政治化苗頭 11（三）全球智能鴻溝進(jìn)一步放大數(shù)字鴻溝弊端，治理能力彌合難以追趕鴻溝擴(kuò)大速度 11（四）人工智能安全監(jiān)管滯后，仍較大程度依靠企業(yè)自我約束… 12五、促進(jìn)我國(guó)人工智能治理的對(duì)策建議… 12（一）完善頂層設(shè)計(jì) 12（二）實(shí)施有力監(jiān)管 13（三）推動(dòng)技術(shù)發(fā)展 13（四）強(qiáng)化國(guó)際合作 13本期主題：全球人工智能治理發(fā)展報(bào)告一、人工智能治理概念內(nèi)涵當(dāng)前，全球人工智能技術(shù)快速更迭，以ChatGPT為代表的生成式人工智能技術(shù)不斷催生新場(chǎng)景、新業(yè)態(tài)、新模式和新市場(chǎng)。在賦能人類社會(huì)經(jīng)濟(jì)進(jìn)步的同時(shí)，人工智能“狂飆突進(jìn)”式的發(fā)展也給全球帶來(lái)安全隱患和風(fēng)險(xiǎn)挑戰(zhàn)。（一）概念內(nèi)涵根據(jù)“全球治理委員會(huì)”的定義：治理是個(gè)人和制度、公共和私營(yíng)部門管理其共同事務(wù)的各種方法的綜合。人工智能治理是一個(gè)涉及倫理、法律、技術(shù)等多方面的概念，結(jié)合“治理”定義，我們將人工智能治理的概念定義為：人工智能治理是多方主體通過(guò)制定和執(zhí)行原則、標(biāo)準(zhǔn)、指南與政策法規(guī)等，確

保人工智能技術(shù)在尊重人權(quán)、保護(hù)隱私和安全的前提下，促進(jìn)其安全、可靠和健康發(fā)展的過(guò)程。（二）核心目標(biāo)人工智能治理的核心目標(biāo)是確保人工智能安全、可靠、可控，在此基礎(chǔ)上，最大限度地發(fā)揮其在經(jīng)濟(jì)、社會(huì)和文化領(lǐng)域的積極作用，防范和控制可能出現(xiàn)的風(fēng)險(xiǎn)與負(fù)面影響。為實(shí)現(xiàn)人工智能的安全、可靠、可控，我們結(jié)合方濱興院士、中國(guó)聯(lián)通等在人工智能安全架構(gòu)設(shè)計(jì)方面的觀點(diǎn)，提出了一個(gè)五層安全架構(gòu)模型，包括供應(yīng)鏈安全、數(shù)據(jù)安全、算法安全、應(yīng)用安全與倫理安全，以系統(tǒng)化地識(shí)別和應(yīng)對(duì)人工智能在不同層面上的安全需求。圖1人工智能安全架構(gòu)一是供應(yīng)鏈安全。人工智能供應(yīng)鏈安全是指在人工智能供應(yīng)鏈的整個(gè)生命周期中，確保所涉及的訓(xùn)練框架、第三方庫(kù)、操作系統(tǒng)、數(shù)據(jù)庫(kù)、芯片、云服務(wù)等軟硬件和服務(wù)的安全性、完整性和可靠性。二是數(shù)據(jù)安全。人工智能數(shù)據(jù)安全是指通過(guò)采取必要措施，確保人工智能系統(tǒng)使用的數(shù)據(jù)得到有效保護(hù)，并且合法、安全地被利用，同時(shí)具備持續(xù)保障數(shù)據(jù)安全狀態(tài)的能力。三是算法安全。人工智能算法安全是指在整個(gè)人工智能系統(tǒng)的設(shè)計(jì)、開發(fā)、部署和使用過(guò)程中，確

保算法的公正性、透明性、魯棒性和抗攻擊能力，同時(shí)采取必要措施保護(hù)算法免受未經(jīng)授權(quán)的訪問(wèn)和篡改，以及確保算法的決策過(guò)程和結(jié)果合法、合規(guī)。四是應(yīng)用安全。人工智能應(yīng)用安全是指確保人工智能應(yīng)用在實(shí)際操作中的安全性和可靠性，防止其被濫用或誤用，保障應(yīng)用的輸出和行為符合預(yù)期。五是倫理安全。人工智能倫理安全是指在人工智能系統(tǒng)的整個(gè)生命周期中，確保其設(shè)計(jì)和行為遵循以人為本的原則，尊重并保護(hù)個(gè)人權(quán)利，促進(jìn)社會(huì)價(jià)值和公共利益，同時(shí)避免產(chǎn)生不公平、歧視或責(zé)任不清等問(wèn)題。（三）治理主體一是國(guó)際織。國(guó)際組織是人工智能治理的協(xié)調(diào)者和推動(dòng)者，致力于促進(jìn)各國(guó)在人工智能領(lǐng)域的合作與交流，共同應(yīng)對(duì)人工智能治理全球性挑戰(zhàn)。一方面，搭建國(guó)際合作平臺(tái)，促進(jìn)各國(guó)在人工智能治理方面的協(xié)作與信息共享，共同探討人工智能的未來(lái)發(fā)展方向與治理機(jī)制。另一方面，牽頭統(tǒng)籌或參與制定人工智能的國(guó)際標(biāo)準(zhǔn)，確保人工智能技術(shù)的可信度和互操作性，促進(jìn)全球范圍內(nèi)的技術(shù)交流與合作。二是政府部門。政府部門是人工智能治理的主要監(jiān)管者和推動(dòng)者，保障人工智能技術(shù)的安全、可靠、可控。一方面，制定和執(zhí)行人工智能治理相關(guān)的政策法規(guī)，明確人工智能技術(shù)的研發(fā)、應(yīng)用和管理等方面的要求和規(guī)范，為人工智能技術(shù)的健康發(fā)展提供制度保障。另一方面，針對(duì)人工智能技術(shù)開展監(jiān)管和執(zhí)法，確保人工智能技術(shù)的應(yīng)用符合法律法規(guī)和道德準(zhǔn)則，防止濫用和誤用現(xiàn)象的發(fā)生。

三是科技企業(yè)。企業(yè)不僅是人工智能技術(shù)的研發(fā)者和應(yīng)用者，更是治理環(huán)節(jié)中的重要參與者和實(shí)踐者，是推動(dòng)人工智能技術(shù)健康發(fā)展的重要力量。一方面，遵循人工智能倫理原則，如可信、公平、非歧視等，確保技術(shù)的公正性和透明度，明確人工智能技術(shù)的研發(fā)、應(yīng)用和管理等方面的要求和規(guī)范，推動(dòng)企業(yè)內(nèi)部治理體系逐步完善。另一方面，參與行業(yè)自律與標(biāo)準(zhǔn)制定，推動(dòng)形成行業(yè)共識(shí)，共同應(yīng)對(duì)人工智能帶來(lái)的挑戰(zhàn)和問(wèn)題。除了國(guó)際組織、政府部門與科科研機(jī)構(gòu)等也在人工智能治理中發(fā)揮著重要作用，這些主體各自具有不同的優(yōu)勢(shì)和資源，通過(guò)相互合作和努力，共同推動(dòng)人工智能技術(shù)的二、全球人工智能治理趨勢(shì)和特點(diǎn)（一）國(guó)際組織全球人工智能治理從國(guó)際共識(shí)向全球共治演進(jìn)，逐步形成全球性的治理框架。近年來(lái)，國(guó)際組織如聯(lián)合國(guó)、經(jīng)濟(jì)合作與發(fā)展組織（OECD）、20國(guó)集團(tuán)（G20）等在人工智能治理方面發(fā)揮著關(guān)鍵作用，推動(dòng)各國(guó)針對(duì)人工智能發(fā)展表達(dá)合理關(guān)切、尋求解決方案。聯(lián)合國(guó)及其下設(shè)機(jī)構(gòu)積極推動(dòng)全球人工智能治理進(jìn)程。聯(lián)合國(guó)教2019能倫理問(wèn)題建議書》，呼吁各國(guó)政府、企業(yè)、社會(huì)組織和個(gè)體，在人工智能技術(shù)的研發(fā)、應(yīng)用、治理等推動(dòng)人工智能倫理原則的全球傳播與實(shí)施。202111成為聯(lián)合國(guó)教科文組織正式通過(guò)的首份全球性人工智能倫理協(xié)議。20237題為“人工智能給國(guó)際和平與安全這是安理會(huì)首次就人工智能問(wèn)題舉行會(huì)議，中國(guó)常駐聯(lián)合國(guó)代表提出關(guān)于人工智能治理的五條原則。202312月，聯(lián)合國(guó)秘書長(zhǎng)設(shè)立的人工智能咨詢機(jī)構(gòu)發(fā)布了《以人為本的人工智能治理》臨時(shí)報(bào)告，該報(bào)告闡明了人工智能對(duì)人類潛在益處的機(jī)會(huì)和推動(dòng)因素，強(qiáng)調(diào)了人工智能在當(dāng)前和未來(lái)一段時(shí)期潛在

的風(fēng)險(xiǎn)挑戰(zhàn)，并明確了解決全球治理赤字所需的原則以及滿足當(dāng)下需求的新功能和制度安排。2024年3月，聯(lián)合國(guó)大會(huì)通過(guò)了首個(gè)關(guān)于人工智能的全球決議，呼吁推動(dòng)開發(fā)“安全、可靠和值得信賴的”人工智能系統(tǒng)，以促進(jìn)可持續(xù)發(fā)展。其他國(guó)際組織也在全球人工智能治理中發(fā)揮重要作用。20195月，經(jīng)合組織通過(guò)了首部政府間人36國(guó)以及阿根廷、巴西、哥倫比亞、哥斯達(dá)黎加、秘魯和羅馬尼亞等國(guó)在部長(zhǎng)理事會(huì)會(huì)議上聯(lián)合簽署了經(jīng)合組織人工智能原則。它們包括具2024進(jìn)行了更新，以應(yīng)對(duì)人工智能技術(shù)的最新發(fā)展。同年，20《G20人工智能原則》，強(qiáng)調(diào)了人工智能的倫理和社會(huì)責(zé)任，鼓勵(lì)各國(guó)在人工智能技術(shù)的研發(fā)、應(yīng)用和治理方面，采取符合倫理要求和負(fù)責(zé)任的措施，并加強(qiáng)全球治理合作，共同推動(dòng)人工智能的健康發(fā)展。（二）國(guó)家和地區(qū)近年來(lái)，全球多個(gè)國(guó)家和地區(qū)高度重視人工智能治理，通過(guò)頒布政策文件、成立統(tǒng)籌機(jī)構(gòu)、發(fā)布指導(dǎo)框架等方式，逐步加強(qiáng)人工智能監(jiān)管與統(tǒng)籌，以確保人工智能的健康發(fā)展并應(yīng)對(duì)潛在風(fēng)險(xiǎn)。歐盟監(jiān)管風(fēng) 趨向于強(qiáng)硬，期望通過(guò)設(shè)立全球范圍的規(guī)則對(duì)人工智能進(jìn)行全面監(jiān)管早在2018年，歐盟就提出了《人工智能的倫理準(zhǔn)則》，強(qiáng)調(diào)人工智能的應(yīng)用必須符合人類價(jià)值觀和倫理原則，并建議采取措施加強(qiáng)人工智能的監(jiān)管和透明度，促進(jìn)人工智能技術(shù)的可持續(xù)發(fā)展。2021年，歐盟提出了《人工智能法案》，該法案對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的使用提出了嚴(yán)格的要求，并對(duì)不合規(guī)行為進(jìn)行罰款和制裁，以限制和減少人工智能系統(tǒng)算法歧視風(fēng)險(xiǎn)經(jīng)過(guò)多輪談判與協(xié)商2024年5月，歐盟理事會(huì)正式批準(zhǔn)該法案，其廣泛的域外適用效力將對(duì)歐盟和其他地區(qū)產(chǎn)生重要影響。同月，歐盟委員會(huì)宣布內(nèi)設(shè)人工智能辦公室旨在降低人工智能風(fēng)險(xiǎn)促進(jìn)人工智能的開發(fā)部署和應(yīng)用該辦公室將在歐《人工智能法案的實(shí)施中發(fā)揮關(guān)鍵作用。美國(guó)強(qiáng)調(diào)人工智能風(fēng)險(xiǎn)管理，

逐步向加強(qiáng)監(jiān)管靠攏。202310月，美國(guó)頒布《關(guān)于安全、可靠和值得信賴的人工智能開發(fā)和使用的行政命令》，建立安全和隱私保護(hù)標(biāo)準(zhǔn)，并要求開發(fā)人員對(duì)新模型進(jìn)行安全測(cè)試。20245議院跨黨派公布人工智能政策“路線圖”，要求在必要時(shí)對(duì)人工智能的高風(fēng)險(xiǎn)使用提出適當(dāng)?shù)?、具體要求，例如透明度、測(cè)試評(píng)估標(biāo)準(zhǔn)等，為美國(guó)人工智能治理立法拉開序幕。與此同時(shí)，美國(guó)人工智能監(jiān)管職責(zé)正由分散化向集中化轉(zhuǎn)變。202311頒布后宣布成立人工智能安全研究所（USAISI），以加快與其他聯(lián)邦政府機(jī)構(gòu)的協(xié)調(diào)工作，推進(jìn)人工智能風(fēng)險(xiǎn)管理。隨后，20243（OMB）要求在各聯(lián)邦機(jī)構(gòu)指定一名首席人工智能官（CAIO），并建立人工智能治理委員會(huì)，以推進(jìn)人工智能治理、創(chuàng)新和風(fēng)險(xiǎn)管理。新加坡逐步完善治理框，推動(dòng)國(guó)家負(fù)責(zé)任地使用人工智能。新加坡于2019年發(fā)布了首版《人工智能模型治理框架》，指導(dǎo)各組織大規(guī)模負(fù)責(zé)任地部署人工智能解決方案，該框架于2020年進(jìn)行了更新。20236媒體發(fā)展局發(fā)布了《生成式人工智能：對(duì)信任和治理的影響》，概括了生成式人工智能存在的安全風(fēng)險(xiǎn)并對(duì)現(xiàn)有的框架進(jìn)行審查。20241AIVerify基金會(huì)和新加坡信息通信媒體發(fā)展局聯(lián)合發(fā)布了《生成式人工智能模型治理框架草案》，以期培育可信的生成式人工智能生態(tài)系統(tǒng)。該框架草案在2020模型治理框架，推動(dòng)了關(guān)于生成式人工智能治理的國(guó)際共識(shí)。隨后，20245布。此外，20225出了全球首個(gè)人工智能治理測(cè)試框（AIVerify），允許公司對(duì)自身的人工智能系統(tǒng)進(jìn)行自愿（三）科技企業(yè)科技企業(yè)通過(guò)簽署承諾書、實(shí)施最佳實(shí)踐、設(shè)定風(fēng)險(xiǎn)閾值等方式，大力推動(dòng)了全球人工智能技術(shù)的安全和可靠。簽署自愿性承諾提升人工智能

系統(tǒng)安全可信度。20237月，美國(guó)拜登政府分別召集了包括Amazon、Anthropic、Google、Inflection、Meta、Microsoft、OpenAI、AdobeIBM15家領(lǐng)先的人工智能技術(shù)公司，共同作出自愿性承諾，旨在提升人工智能系統(tǒng)和產(chǎn)品的安全性與可信度。20242能（AI）倫理論壇上，全球移動(dòng)通INNITLGAI（LGAIResearch）、微軟、摩托羅拉、賽富時(shí)和西班牙電信八家全球性科技機(jī)構(gòu)和公司與聯(lián)合國(guó)教科文組織簽署協(xié)議，將結(jié)合教科文組織《人工智能倫理問(wèn)題建議書》中有關(guān)人工智能倫理的價(jià)值觀和原則，設(shè)計(jì)和使用人工智能系統(tǒng)。設(shè)定風(fēng)險(xiǎn)閾值管控人工智能安全風(fēng)險(xiǎn)。20245舉辦的人工智能首爾峰會(huì)上，包括OpenAIMicrosoft16家科技公司，共同簽署《前沿人工智能安全承諾》，這些公司自愿承諾實(shí)施與前沿人工智能安全相關(guān)的一系列最佳實(shí)踐，包括內(nèi)外部紅隊(duì)測(cè)試、信息共享、網(wǎng)絡(luò)安全投資、第三方漏洞報(bào)告機(jī)制等，并公開透明地報(bào)告其安全框架和風(fēng)險(xiǎn)管理方法。此外，簽署方還承諾設(shè)定并評(píng)估“不可容忍”的風(fēng)險(xiǎn)閾值，在風(fēng)險(xiǎn)過(guò)大時(shí)暫停開發(fā)或部署人工智能模型和系統(tǒng)，以確保技術(shù)的安全和可信。三、我國(guó)人工智能治理已開展的舉措（一）政策發(fā)展三大基本法為我國(guó)人工智能領(lǐng)域健康發(fā)展保駕護(hù)航。近年來(lái)，一系列規(guī)范人工智能技術(shù)發(fā)展和應(yīng)用的相關(guān)法規(guī)陸續(xù)出臺(tái)，展現(xiàn)出我國(guó)在人工智能治理方面的高度重視與積極作為。201761華人民共和國(guó)網(wǎng)絡(luò)安全法》開始施行，為人工智能的技術(shù)發(fā)展提供了202191華人民共和國(guó)數(shù)據(jù)安全法》開始施行，進(jìn)一步強(qiáng)化了人工智能系統(tǒng)或應(yīng)用中的數(shù)據(jù)安全法制保障。2021111人信息保護(hù)法》開始施行，有力維護(hù)了公民個(gè)人信息安全，為人工智

能的合規(guī)應(yīng)用奠定了基礎(chǔ)。不斷探索人工智能治理法制與監(jiān)管路徑。2021917布《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，旨在管理好使用好發(fā)展好算法應(yīng)用，全面提升網(wǎng)絡(luò)綜合治理能力。20231管理規(guī)定》開始施行，對(duì)人工智能在互聯(lián)網(wǎng)信息服務(wù)中的應(yīng)用進(jìn)行了規(guī)范，確保了信息的真實(shí)性、準(zhǔn)確2023815成式人工智能服務(wù)管理暫行辦法》開始施行，為生成式人工智能的發(fā)展和應(yīng)用提供了明確的管理規(guī)定，推動(dòng)我國(guó)人工智能產(chǎn)業(yè)健康有序發(fā)展。202312月，《科技倫理審查辦法（試行）》開始施行，人工智能研究單位被列入科技倫理（審查）委員會(huì)范圍。（二）標(biāo)準(zhǔn)發(fā)展前瞻性開展人工智能標(biāo)準(zhǔn)體系頂層設(shè)計(jì)。20196新一代人工智能治理專家委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了人工智能治理的框架和行動(dòng)指南。20208會(huì)、中央網(wǎng)信辦等五部門聯(lián)合印發(fā)《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》，明確了我國(guó)人工智能標(biāo)準(zhǔn)化頂層設(shè)計(jì)。20241和信息化部對(duì)外發(fā)布《國(guó)家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南》（征求意見稿），旨在進(jìn)一步加強(qiáng)人工智能標(biāo)準(zhǔn)化工作系統(tǒng)謀劃。積極推進(jìn)國(guó)內(nèi)外標(biāo)準(zhǔn)制定工作。目前我國(guó)也已經(jīng)開展了《網(wǎng)絡(luò)安全技術(shù)人工智能計(jì)算平臺(tái)安全框架》《網(wǎng)絡(luò)安全技術(shù)生成式人工智能服務(wù)安全基本要求》等多項(xiàng)國(guó)家標(biāo)準(zhǔn)的制定工作，《信息安全技術(shù)機(jī)器學(xué)習(xí)算法安全評(píng)估規(guī)范》（GB/T42888-2023）20243月實(shí)施。此外，中國(guó)作為國(guó)際標(biāo)準(zhǔn)化組織（ISO）的六大常任理事國(guó)之一，積極參與ISO和IEC制定的人工智能相關(guān)標(biāo)準(zhǔn)，例如ISO/IEC2382:2015，該標(biāo)準(zhǔn)針對(duì)信息技術(shù)中人工智能的使用提供了框架和指南。（三）行業(yè)發(fā)展我國(guó)人工智能科技企業(yè)漸成壯大態(tài)勢(shì)助力行業(yè)健康發(fā)展。近年來(lái)，

我國(guó)涌現(xiàn)出了一批具有國(guó)際競(jìng)爭(zhēng)力的人工智能領(lǐng)域科技企業(yè)。以百度、阿里巴巴、騰訊為代表的大型互聯(lián)網(wǎng)公司紛紛加大在人工智能領(lǐng)域的投入，不僅在語(yǔ)音識(shí)別、自然語(yǔ)言處理等技術(shù)方面取得了重要突破，還在智能硬件、自動(dòng)駕駛等領(lǐng)域展開了積極探索。此外，我國(guó)還培育了一批專注于人工智能技術(shù)研發(fā)和應(yīng)用的創(chuàng)新型企業(yè)，如商湯科技、曠視科技等，在人工智能芯片、計(jì)算機(jī)視覺等細(xì)分領(lǐng)域取得了顯著成果。在行業(yè)發(fā)展過(guò)程中，科技企業(yè)積極參與政府主導(dǎo)的人工智能治理工作，與政府、學(xué)術(shù)界和社會(huì)各界共同探討和制定人工智能的監(jiān)管政策和法規(guī)，推動(dòng)行業(yè)的健康發(fā)展。人工智能自律機(jī)制逐步建立完善。一是成立人工智能倫理委員會(huì)或相關(guān)部門。例如，阿里巴巴、百度、曠視科技等均成立了人工智能倫理委員會(huì)，注重人工智能技術(shù)的倫理和法律問(wèn)題；騰訊通過(guò)建立人工智能實(shí)驗(yàn)室和研究院，與全球的科研機(jī)構(gòu)合作，推動(dòng)人工智能健康發(fā)展。二是積極發(fā)布行業(yè)治理與倫理框架。例如，百度發(fā)布了《百度人工智能倫理宣言》，明確提出了在人工智能技術(shù)研發(fā)和應(yīng)用中應(yīng)遵循的倫理原則，如公平、公正、尊重隱私等。騰訊發(fā)布了《騰訊人工智能倫理準(zhǔn)則》，強(qiáng)調(diào)了人工智能技術(shù)的安全性、可靠性和公平性，并提出了在人工智能應(yīng)用中保護(hù)用戶隱私和數(shù)據(jù)的措施。三是將治理原則融入自身產(chǎn)品與應(yīng)用。例如，京東在物流和供應(yīng)鏈管理中應(yīng)用人工智能技術(shù)，同時(shí)注重保護(hù)用戶數(shù)據(jù)安全，提升服務(wù)透明度；曠視科技在其面部識(shí)別技術(shù)中實(shí)施了嚴(yán)格的倫理標(biāo)準(zhǔn)，確保技術(shù)的使用不會(huì)侵犯?jìng)€(gè)人隱私，并在公共安全等領(lǐng)域?yàn)樯鐣?huì)帶來(lái)積極影響。（四）國(guó)際合作與倡議積極彰顯人工智能治理中國(guó)主張。我國(guó)高度重視人工智能治理，早在2018年，習(xí)近平總書記在主持十九屆中央政治局第九次集體學(xué)

習(xí)時(shí)就強(qiáng)調(diào)要未雨綢繆，加強(qiáng)戰(zhàn)略研判，確保人工智能安全、可靠、可控。202211國(guó)大會(huì)提交《中國(guó)關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》，文件從人工智能技術(shù)監(jiān)管、研發(fā)、使用及國(guó)際合作等方面，進(jìn)一步梳理了中國(guó)關(guān)于人工智能倫理治理的主張。202310月，中國(guó)在第三屆“一帶一路”國(guó)際合作高峰論壇上正式發(fā)布《全球人工智能治理倡議》，這一倡議堅(jiān)持“以人為本、智能向善”，圍繞人工智能發(fā)展、安全、治理三個(gè)方面闡述人工智能治理的中國(guó)方案，為人工智能的開發(fā)與安全提出建設(shè)性的解決思路。此外，習(xí)近平總書記多次發(fā)表關(guān)于全球人工智能治理的重要講話，體現(xiàn)了中國(guó)為推動(dòng)全球人工智能治理所做出的積極努力。表1習(xí)近平總書記關(guān)于全球人工智能治理系列講話時(shí)間主旨講話相關(guān)講話內(nèi)容舉辦世界智能大會(huì)，旨在為世界智能科技領(lǐng)域搭建一個(gè)交流合作、共贏共享的平臺(tái)。希2019年習(xí)近平致第三屆世界望大家圍繞“智能新時(shí)代：進(jìn)展、策略和機(jī)516日智能大會(huì)的賀信推動(dòng)新一代人工智能健康發(fā)展，更好造福世界各國(guó)人民。時(shí)間主旨講話時(shí)間主旨講話相關(guān)講話內(nèi)容2020年1121日習(xí)近平在二十國(guó)集團(tuán)領(lǐng)導(dǎo)人第十五次峰會(huì)第一階段會(huì)議上的講話我們?cè)敢源藶榛A(chǔ)，同各方探討并制定全球數(shù)字治理規(guī)則。中方支持圍繞人工智能加強(qiáng)對(duì)話，倡議適時(shí)召開專題會(huì)議，推動(dòng)落實(shí)二十國(guó)集團(tuán)人工智能原則，引領(lǐng)全球人工智能健康發(fā)展。2023年823日習(xí)近平在金磚國(guó)家領(lǐng)導(dǎo)人第十五次會(huì)晤上的講話人工智能是人類發(fā)展新領(lǐng)域。金磚國(guó)家已經(jīng)同意盡快啟動(dòng)人工智能研究組工作。要充分加強(qiáng)信息交流和技術(shù)合作共同做好風(fēng)險(xiǎn)防范形成具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，不斷提升人工智能技術(shù)的安全性、可靠性、可控性、公平性。2024年530日習(xí)近平在中阿合作論壇第十屆部長(zhǎng)級(jí)會(huì)議開幕式上的主旨講話愿同阿方加強(qiáng)人工智能領(lǐng)域合作，共同促進(jìn)人工智能賦能實(shí)體經(jīng)濟(jì)，推動(dòng)形成具有廣泛共識(shí)的全球人工智能治理體系。2024年612日習(xí)近平向聯(lián)合國(guó)貿(mào)易60年慶?；顒?dòng)開幕式發(fā)表視頻致辭堅(jiān)持以人為本、智能向善，在聯(lián)合國(guó)框架內(nèi)加強(qiáng)人工智能規(guī)則治理。積極推動(dòng)人工智能治理雙多邊政策對(duì)話。2024年4月3互聯(lián)網(wǎng)發(fā)展與合作論壇成功舉行，中非雙方就人工智能領(lǐng)域的合作進(jìn)行深入交流，并發(fā)表了《2024非互聯(lián)網(wǎng)發(fā)展與合作論壇關(guān)于中非人工智能合作的主席聲明》，呼吁加強(qiáng)政策對(duì)話與溝通，推動(dòng)技術(shù)研發(fā)與應(yīng)用，促進(jìn)產(chǎn)業(yè)合作與發(fā)展，開展人才交流與能力建設(shè)，筑牢網(wǎng)絡(luò)和數(shù)據(jù)安全屏障。20245習(xí)近平總書記在對(duì)法國(guó)進(jìn)行國(guó)事訪問(wèn)期間，中法雙方共同發(fā)表《關(guān)于

人工智能和全球治理的聯(lián)合聲明》，就人工智能方面達(dá)成共識(shí)，包括深化人工智能國(guó)際治理模式、加強(qiáng)人工智能治理的國(guó)際合作以及各人工智能治理框架和倡議之間的互操作性等。倡議規(guī)范人工智能軍事應(yīng)用。2021年12月，我國(guó)首次就規(guī)范人工智能軍事應(yīng)用問(wèn)題發(fā)布《中國(guó)關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》，這份文件是《特定常規(guī)武器公約》框架下首份關(guān)于人工智能安全治理問(wèn)題的立場(chǎng)文件。文件聚焦人工智能軍事應(yīng)用涉及的研發(fā)、部署、使用等重要環(huán)節(jié)，并就如何在軍事領(lǐng)域負(fù)責(zé)任地開發(fā)和利用人工智能技術(shù)提出解決思路。該文件的發(fā)布有利于增進(jìn)國(guó)家間互信、維護(hù)全球戰(zhàn)略穩(wěn)定、防止軍備競(jìng)賽、緩解人道主義關(guān)切，也有助于打造包容性和建設(shè)性的全球安全伙伴關(guān)系，在人工智能領(lǐng)域推動(dòng)構(gòu)建人類命運(yùn)共同體。四、人工智能治理難點(diǎn)、風(fēng)險(xiǎn)和挑戰(zhàn)（一）各國(guó)立法步調(diào)不統(tǒng)一，全球監(jiān)管框架難以落地由于不同國(guó)家的發(fā)展階段、產(chǎn)業(yè)基礎(chǔ)、價(jià)值觀念等存在差異，各國(guó)在人工智能立法的目標(biāo)、重點(diǎn)與進(jìn)程上難以達(dá)成一致。例如，歐盟、美國(guó)等發(fā)達(dá)國(guó)家和地區(qū)在人工智能領(lǐng)域逐步建立健全人工智能立法和監(jiān)管體系，而一些發(fā)展中國(guó)家甚至還未開始涉足該領(lǐng)域。這種立法步調(diào)的不統(tǒng)一，使得全球人工智能治理面臨碎片化風(fēng)險(xiǎn)，全球共治步伐受阻。此外，人工智能技術(shù)的跨國(guó)界特性和廣泛影響意味著沒(méi)有任何單一國(guó)家、地區(qū)或企業(yè)能夠獨(dú)立應(yīng)

對(duì)人工智能安全風(fēng)險(xiǎn)挑戰(zhàn)。全球監(jiān)管框架的建立需考慮各國(guó)法律和文化差異，以及執(zhí)法和監(jiān)管能力的不同，這些因素阻滯了全球監(jiān)管框架的實(shí)際落地。（二）部分國(guó)家尋求規(guī)則主導(dǎo)權(quán)，在推動(dòng)人工智能治理過(guò)程中存在政治化苗頭在推進(jìn)全球人工智能治理的過(guò)程中，一些大國(guó)如美國(guó)和歐盟等，在強(qiáng)化本國(guó)人工智能治理體系的同時(shí)，也在尋求在全球新一輪科技治理規(guī)則制定中占據(jù)主導(dǎo)位置，試圖通過(guò)制定有利于自身利益和發(fā)展戰(zhàn)略的規(guī)則，爭(zhēng)奪在全球人工智能治理中的話語(yǔ)權(quán)和影響力。這種政治化的苗頭不僅可能加劇國(guó)際合作中的信任危機(jī)，還可能阻礙全球人工智能治理共識(shí)的形成，使得全球治理體系難以公平、公正地反映各國(guó)的共同利益。此外，部分國(guó)家可能利用全球治理體系中的規(guī)則漏洞，通過(guò)政治手段對(duì)其他國(guó)家的人工智能產(chǎn)業(yè)進(jìn)行限制和打壓，進(jìn)而損害全球人工智能技術(shù)的創(chuàng)新和發(fā)展。（三）全球智能鴻溝進(jìn)一步放大數(shù)字鴻溝弊端，治理能力彌合難以追趕鴻溝擴(kuò)大速度隨著人工智能技術(shù)的快速發(fā)展，技術(shù)和資源的不均衡分布導(dǎo)致全球范圍內(nèi)的智能鴻溝日益加劇。智能鴻溝是數(shù)字鴻溝在人工智能技術(shù)快速發(fā)展背景下的進(jìn)一步擴(kuò)大，它不僅體現(xiàn)在國(guó)家間，也體現(xiàn)在社會(huì)不同群體之間。例如，對(duì)于個(gè)人而言，智能鴻溝的擴(kuò)大造成技術(shù)接觸機(jī)會(huì)愈發(fā)不平等，資源豐富的個(gè)人能更多、更迅速地提升數(shù)字素養(yǎng)，而資源匱乏者則因機(jī)會(huì)有限而難以提高。對(duì)于國(guó)家而言，智能鴻溝的擴(kuò)大將進(jìn)一步威脅國(guó)家安全。技術(shù)落后可能導(dǎo)致國(guó)防能力、信息安全、關(guān)鍵基礎(chǔ)設(shè)施保護(hù)等方面的不足，從而增加國(guó)家安全的脆弱性。智能鴻溝因人工智能技術(shù)的自適應(yīng)、進(jìn)化性等特點(diǎn)，其擴(kuò)大速度將遠(yuǎn)超數(shù)字鴻溝，使得彌合治理能力的挑戰(zhàn)變得更加艱巨。（四）人工智能安全監(jiān)管滯后，仍較大程度依靠企業(yè)自我約束人工智能技術(shù)的快速迭代和廣泛應(yīng)用導(dǎo)致監(jiān)管措施滯后于實(shí)際應(yīng)用，從而難以有效應(yīng)對(duì)潛在的安全風(fēng)險(xiǎn)，使得當(dāng)下監(jiān)管與治理仍較大

程度依靠企業(yè)自我約束。但這種模式存在很大的局限性，難以形成統(tǒng)一、全面的安全保障。一是監(jiān)管滯后使得人工智能技術(shù)的應(yīng)用可能超出現(xiàn)有法律的約束，從而引發(fā)一系列的安全和倫理問(wèn)題。二是企業(yè)在追求利潤(rùn)最大化的過(guò)程中可能忽視人工智能技術(shù)的潛在風(fēng)險(xiǎn)，從而增加安全問(wèn)題和隱私泄露的風(fēng)險(xiǎn)。三是由于資源和技術(shù)實(shí)力的差異，不同企業(yè)在人工智能安全監(jiān)管方面的能力和投入存在顯著差異，使得整個(gè)行業(yè)面臨安全風(fēng)險(xiǎn)。五、促進(jìn)我國(guó)人工智能治理的對(duì)策建議（一）完善頂層設(shè)計(jì)針對(duì)供應(yīng)鏈安全、數(shù)據(jù)安全、算法安全、應(yīng)用安全、倫理安全五層人工智能安全架構(gòu)，識(shí)別人工智能在不同層面上的安全風(fēng)險(xiǎn)，制定對(duì)應(yīng)層級(jí)的治理目標(biāo)與計(jì)劃，完善我國(guó)人工智能治理頂層