2024生成式人工智能安全與全球治理報(bào)告

?jjlftAIffl&??:i:???)8J.ltlii5SafetyandGlobalGovernanceofGenerativeAlReporti!tWifit!ltR&*3??Uffrt?*???2024iF1F.I??±Jllrr.if3f??*t9.J'?Jan2024目錄編者的話I序言II人工智能治理：為了人工智能發(fā)展得更好更快，II以加速實(shí)現(xiàn)全球可持續(xù)發(fā)展目標(biāo)II龔克II介紹V第一章生成式人工智能的風(fēng)險(xiǎn)與挑戰(zhàn)1大語(yǔ)言模型怪獸對(duì)利維坦與法律秩序的挑戰(zhàn)1季衛(wèi)東1以更積極主動(dòng)的治理應(yīng)對(duì)人工智能發(fā)展中的風(fēng)險(xiǎn)與挑戰(zhàn)4段偉文4人類價(jià)值對(duì)齊難題與大模型倫理嵌入6王小紅6人工智能的全球監(jiān)管：主要差距和核心挑戰(zhàn)8羅斯塔姆·J·諾伊維爾特(RostamJ.Neuwirth)8生成式人工智能對(duì)全球治理的挑戰(zhàn)與應(yīng)對(duì)9孫南翔9全球人工智能風(fēng)險(xiǎn)不可避免地需要全球合作10鄧肯·卡斯-貝格斯(DuncanCass-Beggs)10第二章生成式人工智能的全球治理策略12基礎(chǔ)模型和生成式人工智能時(shí)代全球人工智能治理的制度設(shè)計(jì)原則12尼古拉斯·莫斯(NicolasMo?s)，尤蘭達(dá)·蘭奎斯特(YolandaLannquist)，12尼基·伊利亞迪斯(NikiIliadis)，尼古拉斯·米埃赫(NicolasMiailhe)12有關(guān)全球人工智能治理的關(guān)鍵政策建議14周輝14基礎(chǔ)模型開(kāi)發(fā)和部署的國(guó)際監(jiān)督16羅伯特·特拉格(RobertTrager)，菲恩·海德(FynnHeide)16協(xié)調(diào)、合作、緊迫性：國(guó)際人工智能治理的優(yōu)先事項(xiàng)18卡洛斯·伊格納西奧·古鐵雷斯(CarlosIgnacioGutierrez)18數(shù)據(jù)倫理與聯(lián)合國(guó)教科文組織開(kāi)放科學(xué)建議20國(guó)際科技數(shù)據(jù)委員會(huì)數(shù)據(jù)倫理工作組20通用人工智能或大型基礎(chǔ)模型的國(guó)際治理：漸進(jìn)原則與開(kāi)放探索22張鵬22第三章人工智能治理助力發(fā)展中國(guó)家與全球可持續(xù)發(fā)展23發(fā)展中國(guó)家距離利用人工智能的力量還有多遠(yuǎn)？23尤金尼奧·巴爾加斯·加西亞(EugenioVargasGarcia)23推動(dòng)發(fā)展中國(guó)家參與人工智能治理與可持續(xù)發(fā)展25魯傳穎25人工智能供應(yīng)鏈與地緣政治：與全球南方國(guó)家共同治理27方淑霞(Marie-TheresePng)27人工智能監(jiān)督可以從碳排放中學(xué)到什么29夏洛特·西格曼(CharlotteSiegmann)，丹尼爾·普里維特拉(DanielPrivitera)29人工智能治理如何促進(jìn)全球經(jīng)濟(jì)增長(zhǎng)與可持續(xù)發(fā)展？31廖璐31為全球大多數(shù)人的人工智能治理——以東南亞為例32莉安托涅特·蔡(LyantonietteChua)32第四章工程視角下的人工智能治理34理解模型能力是全球人工智能治理的優(yōu)先事項(xiàng)34納撒尼爾·沙拉丁(NathanielSharadin)34標(biāo)準(zhǔn)化視角下的人工智能安全治理全球協(xié)作與敏捷更新36馬騁昊、高萬(wàn)琪、范思雨36人工智能治理——一場(chǎng)再建巴比塔的革命38王俊，娜迪婭38新加坡治理生成式人工智能的方法和實(shí)踐41丹尼絲·王(DeniseWong)41通過(guò)人工智能技術(shù)民主化實(shí)現(xiàn)人工智能對(duì)齊43伊麗莎白·西格(ElizabethSeger)43學(xué)習(xí)機(jī)器的工程智慧45布雷特·卡蘭(BrettKarlan)，科林·艾倫(ColinAllen)45多元、開(kāi)放、互動(dòng)：生成式人工智能模型訓(xùn)練所需的原則47劉紀(jì)璐(JeeLooLiu)47第五章企業(yè)視角下的人工智能治理49一種負(fù)責(zé)任地?cái)U(kuò)展人工智能模型的框架49邁克爾·塞利托(MichaelSellitto)49以價(jià)值對(duì)齊塑造健康可持續(xù)的大模型發(fā)展生態(tài)51司曉、曹建峰51不要讓深黑盒人工智能鎖定了我們文明進(jìn)化的路徑53韋韜53英特爾負(fù)責(zé)任的人工智能應(yīng)用探索54鄒寧、王海寧54I致謝56免責(zé)聲明56聯(lián)系方式56貢獻(xiàn)情況56編者的話本報(bào)告是由多元的作者觀點(diǎn)匯集而成，旨在引起公眾對(duì)生成式人工智能技術(shù)發(fā)展的安全性和治理問(wèn)題的關(guān)注，并激發(fā)進(jìn)一步的思考。我們認(rèn)識(shí)到，這一領(lǐng)域的發(fā)展速度迅猛，伴隨著許多潛在的挑戰(zhàn)和機(jī)遇。報(bào)告中的具體觀點(diǎn)僅代表各個(gè)作者本人，而不代表世界工程組織聯(lián)合會(huì)創(chuàng)新技術(shù)專委會(huì)（WFEO-CEIT）或深圳科學(xué)技術(shù)協(xié)會(huì)的立場(chǎng)。我們強(qiáng)調(diào)，對(duì)于生成式人工智能技術(shù)的探索和應(yīng)用，需要行業(yè)內(nèi)外的廣泛合作與持續(xù)對(duì)話，以確?？萍嫉倪M(jìn)步能夠造福全人類，并在倫理和法律框架內(nèi)得到妥善管理。通過(guò)這份報(bào)告，我們希望促進(jìn)更多的交流和合作，共同探索這一前沿科技的未來(lái)。I生成式人工智能安全與全球治理報(bào)告序言人工智能治理：為了人工智能發(fā)展得更好更快，以加速實(shí)現(xiàn)全球可持續(xù)發(fā)展目標(biāo)龔克首先祝賀世界工程組織聯(lián)合會(huì)創(chuàng)新技術(shù)專委會(huì)（WFEO-CEIT）和深圳市科學(xué)技術(shù)協(xié)會(huì)共同組織編寫(xiě)了這份報(bào)告，做了一件很有意義的工作。在這份報(bào)告中，來(lái)自不同國(guó)家和地區(qū)、不同行業(yè)和領(lǐng)域的專家們，為我們帶來(lái)了在不同視角下對(duì)人工智能治理的觀察和思考以及有益的實(shí)踐經(jīng)驗(yàn)，他們從不同的角度提出完善人工智能治理的建議，包含了非常重要的共識(shí)：比如，加快建立人工智能全球多方共同治理的機(jī)制和開(kāi)展廣泛的對(duì)話，將倫理作為人工智能治理的最重要的基礎(chǔ)，將風(fēng)險(xiǎn)較高的領(lǐng)域作為加快建立全球治理規(guī)范的優(yōu)先領(lǐng)域，等等。發(fā)布這個(gè)報(bào)告的時(shí)間，恰好處于《聯(lián)合國(guó)2030年可持續(xù)發(fā)展議程》的中點(diǎn)。在不久前舉行2023年聯(lián)合國(guó)可持續(xù)發(fā)展目標(biāo)峰會(huì)上，各國(guó)領(lǐng)導(dǎo)人一致呼吁要加倍努力，加速實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)（SDGs）。聯(lián)合國(guó)秘書(shū)長(zhǎng)古特雷斯指出，可持續(xù)發(fā)展目標(biāo)不僅僅是一系列目標(biāo)，它們承載著各國(guó)人民的希望、夢(mèng)想、權(quán)利和期許。然而如今，只有15%的目標(biāo)按預(yù)期進(jìn)展，很多目標(biāo)甚至出現(xiàn)了倒退?，F(xiàn)在急需制定一項(xiàng)全球計(jì)劃來(lái)挽救這些目標(biāo)的實(shí)現(xiàn)。古特雷斯強(qiáng)調(diào)要在6個(gè)關(guān)鍵領(lǐng)域采取行動(dòng)，其中之一就是“利用數(shù)字化轉(zhuǎn)型機(jī)遇”?？梢哉f(shuō)，我們急需人工智能成為推動(dòng)SDG加速的實(shí)現(xiàn)的重要?jiǎng)恿ΑＨ斯ぶ悄苁歉锩缘耐ㄓ媚康募夹g(shù)，是驅(qū)動(dòng)第四次工業(yè)革命和經(jīng)濟(jì)社會(huì)數(shù)字化轉(zhuǎn)型的先進(jìn)生產(chǎn)力。無(wú)論是從全球的層面（如加速實(shí)現(xiàn)可持續(xù)發(fā)展轉(zhuǎn)型），區(qū)域和國(guó)家的層面（如結(jié)合區(qū)域與國(guó)家實(shí)際的能源轉(zhuǎn)型行動(dòng)、促進(jìn)經(jīng)濟(jì)增長(zhǎng)和就業(yè)），行業(yè)和企業(yè)以及各種組織的層面（如提高行業(yè)的數(shù)字化轉(zhuǎn)型、增進(jìn)企業(yè)競(jìng)爭(zhēng)力和組織效能），還是個(gè)人的層面（如提升職業(yè)能力、提升家庭生活的便捷性等等），人工智能都具有極大的潛力。因此，人工智能的治理無(wú)論如何都不是也不應(yīng)該是阻礙人工智能發(fā)展的治理，而是促使它更好更快發(fā)展的治理。人工智能的快速發(fā)展尤其今年以來(lái)生成式人工智能的快速發(fā)展，在給人們帶來(lái)前所未有的體驗(yàn)和驚喜的同時(shí)，也加劇了人們對(duì)人工智能安全和倫理的關(guān)切，甚至出現(xiàn)II序言了一定程度上的社會(huì)焦慮。這就凸顯了完善人工智能治理、保證人工智能可控、向善的重要性和緊迫性。鑒于人工智能等新興數(shù)字技術(shù)從本質(zhì)上將是全球性的技術(shù)，這些技術(shù)不認(rèn)可地緣政治邊界。人工智能的發(fā)展和治理，涉及全人類的共同利益，它們產(chǎn)生的影響（無(wú)論是正面的或是負(fù)面的）都會(huì)產(chǎn)生跨越國(guó)界、跨越行業(yè)和專業(yè)的全球性、全局性影響。因此，對(duì)于人工智能的有效治理必須是全球的、多利益相關(guān)方參與的共同治理。事實(shí)上，國(guó)際組織（聯(lián)合國(guó)、G20、G7、OECD、歐盟等）和各國(guó)政府以及人工智能企業(yè)已經(jīng)在人工智能治理上采取行動(dòng)，從這個(gè)報(bào)告中可以看到這些努力和重要的治理發(fā)展以及有益的實(shí)踐。然而，盡管各國(guó)、各個(gè)組織提出的這些治理原則在極大程度上是一致或相近的，但是仍然缺乏廣泛的明確的全球共識(shí)，作為進(jìn)一步加強(qiáng)全球行動(dòng)的基礎(chǔ)。在當(dāng)前已有的治理發(fā)展中，應(yīng)該特別重視聯(lián)合國(guó)教科文組織（UNESCO）的人工智能倫理建議書(shū)。世界工程組織聯(lián)合會(huì)（WFEO）從工程促進(jìn)可持續(xù)發(fā)展的使命出發(fā)，在高度重視促進(jìn)人工智能發(fā)展和應(yīng)用以加快雙重轉(zhuǎn)型的同時(shí)，也高度重視人工智能的治理。2020WFEO-CEIT在第一個(gè)世界工程日發(fā)布了在工程中負(fù)責(zé)任應(yīng)用大數(shù)據(jù)和人工智能的七項(xiàng)原則、2021年WFEO支持聯(lián)合國(guó)經(jīng)濟(jì)和社會(huì)事務(wù)部（UNDESA）和聯(lián)合國(guó)秘書(shū)長(zhǎng)技術(shù)事務(wù)特使辦公室一起發(fā)布了《人工智能發(fā)展戰(zhàn)略資源指南》，WFEO還積極參與了UNESCO的《人工智能倫理建議書(shū)》的咨詢工作。我們認(rèn)為，鑒于人工智能的發(fā)展和應(yīng)用都離不開(kāi)工程，而且只有工程化的人工智能才能真正在人類生產(chǎn)和生活中發(fā)生作用，所以，工程界應(yīng)該成為人工智能共同治理中重要的、積極的一員。從工程的角度看，應(yīng)該特別重視將人工智能治理的倫理原則、法律規(guī)定落實(shí)到可以檢驗(yàn)的技術(shù)標(biāo)準(zhǔn)之中。這些標(biāo)準(zhǔn)應(yīng)該是全球性的，可以互通的和具有互操作性的。而要是這些原則和標(biāo)準(zhǔn)落到實(shí)處而不是停留于紙面，應(yīng)當(dāng)優(yōu)先發(fā)展支持治理的技術(shù)手段和工具，比如隱私計(jì)算的技術(shù)、倫理審計(jì)的技術(shù)，等等。WFEO還強(qiáng)調(diào)，人工智能的發(fā)展和治理離不開(kāi)包括工程教育在內(nèi)的廣泛的能力建設(shè)，特別是要采取實(shí)際行動(dòng)減少與人工智能相關(guān)的數(shù)字能力鴻溝，這本身也應(yīng)該成為人工智能全球治理的題中應(yīng)有之義?？偠灾?，作為全球工程界的領(lǐng)導(dǎo)者——WFEO愿意在人工智能全球共同治理中發(fā)揮積極的作用。我們相信，人工智能先進(jìn)技術(shù)的發(fā)展和應(yīng)用，是無(wú)可阻擋的，人工智能治理應(yīng)該是促進(jìn)性的治理，即以人工智能更好更快的發(fā)展為目標(biāo)，最大限度發(fā)揮它的技術(shù)潛力為人類和地球的可持續(xù)發(fā)展服務(wù)；我們重申，人工智能的有效治理必須是全球的、多利益相關(guān)方參與的共同治理，當(dāng)前應(yīng)該的聯(lián)合國(guó)的框架內(nèi)組織廣泛參與III生成式人工智能安全與全球治理報(bào)告的對(duì)話以促進(jìn)明確的治理共識(shí)，并形成常效機(jī)制（如同氣候協(xié)定），作為進(jìn)一步推進(jìn)共同治理行動(dòng)的基礎(chǔ)；我們強(qiáng)調(diào)，人工智能的治理應(yīng)該是基于倫理的治理，UNESCO的《人工智能倫理建議書(shū)》為此提供了重要的基礎(chǔ)；我們還注意到，已經(jīng)提出的治理原則和正在進(jìn)行的治理實(shí)踐，都采取基于風(fēng)險(xiǎn)的差異化治理，因此我們呼吁對(duì)于人工智能的風(fēng)險(xiǎn)認(rèn)識(shí)應(yīng)成為全球多元對(duì)象的優(yōu)先事項(xiàng)；我們還主張，要把人工智能發(fā)展和治理的能力建設(shè)，特別是縮小人工智能能力差距，作為人工智能治理的重要方面，并在把幫助發(fā)展中國(guó)家建設(shè)人工智能能力方面，實(shí)施有力且緊迫的行動(dòng)。龔克，WFEO前任主席（2019-2022），WFEO-CEIT顧問(wèn)。IV介紹介紹2023年10月18日，習(xí)近平主席在第三屆“一帶一路”國(guó)際合作高峰論壇開(kāi)幕式主旨演講中宣布中方將提出《全球人工智能治理倡議》，并于同日由中央網(wǎng)信辦正式發(fā)布，圍繞人工智能的發(fā)展、安全和治理闡述立場(chǎng)主張，表示愿同各方就全球人工智能治理開(kāi)展溝通交流、務(wù)實(shí)合作，推動(dòng)人工智能技術(shù)造福全人類。10月26日，聯(lián)合國(guó)秘書(shū)長(zhǎng)古特雷斯宣布，正式組建一個(gè)新的高級(jí)別人工智能咨詢機(jī)構(gòu)，全球39名專家共商人工智能治理，以探討這項(xiàng)技術(shù)帶來(lái)的風(fēng)險(xiǎn)和機(jī)遇，并為國(guó)際社會(huì)加強(qiáng)治理提供支持。111日，首屆全球人工智能安全峰會(huì)在英國(guó)布萊切利園拉開(kāi)帷幕。包括中國(guó)、美國(guó)在內(nèi)的28個(gè)國(guó)家和歐盟，共同簽署了《布萊切利人工智能安全宣言》，一致認(rèn)為人工智能對(duì)人類構(gòu)成了潛在的災(zāi)難性風(fēng)險(xiǎn)。在這個(gè)背景下，本報(bào)告匯集了全球40多位人工智能治理、科技倫理、大模型安全和對(duì)齊、通用人工智能風(fēng)險(xiǎn)等領(lǐng)域的政策制定者、企業(yè)家、專家學(xué)者、工程師等的29篇評(píng)論，旨在引起對(duì)生成式人工智能發(fā)展與安全與治理的關(guān)注和進(jìn)一步的思考，呼吁開(kāi)展廣泛的合作。其中的具體觀點(diǎn)并不代表任何主辦和主編機(jī)構(gòu)。按照討論主題分為以下五章：第一章，生成式人工智能的風(fēng)險(xiǎn)與挑戰(zhàn)從近期和長(zhǎng)遠(yuǎn)兩個(gè)時(shí)間維度來(lái)看，專家們關(guān)注的近期風(fēng)險(xiǎn)和挑戰(zhàn)包括：一是大語(yǔ)言模型的隱私和安全隱患；二是大語(yǔ)言模型生成的虛假信息和“幻覺(jué)”問(wèn)題；三是模型的價(jià)值觀偏差和缺乏解釋性；四是模型濫用造成的道德和倫理風(fēng)險(xiǎn)；五是人工智能應(yīng)用帶來(lái)的知識(shí)產(chǎn)權(quán)和法律監(jiān)管問(wèn)題。而長(zhǎng)遠(yuǎn)風(fēng)險(xiǎn)和挑戰(zhàn)包括：一是人工智能可能導(dǎo)致經(jīng)濟(jì)和社會(huì)的重大變革，需要統(tǒng)籌應(yīng)對(duì)；二是人工智能可能顛覆現(xiàn)有國(guó)際法律體系和世界秩序；三是人工智能存在全球共同的風(fēng)險(xiǎn)，需要建立國(guó)際規(guī)范和監(jiān)管；四是不同國(guó)家和文化在人工智能價(jià)值觀上存在分歧；五是強(qiáng)人工智能可能脫離人類控制，產(chǎn)生災(zāi)難性風(fēng)險(xiǎn)?？傮w而言，近期的風(fēng)險(xiǎn)更多集中在個(gè)別模型和應(yīng)用層面，而長(zhǎng)期的風(fēng)險(xiǎn)和挑戰(zhàn)更多關(guān)乎人工智能技術(shù)的整體發(fā)展方向和社會(huì)影響。但無(wú)論近遠(yuǎn)，建立國(guó)際合作和制定倫理規(guī)范對(duì)于應(yīng)對(duì)人工智能風(fēng)險(xiǎn)都至關(guān)重要。第二章，生成式人工智能的全球治理策略專家們關(guān)注的優(yōu)先事項(xiàng)為：一是全球合作與協(xié)調(diào)：在人工智能治理中強(qiáng)調(diào)國(guó)際合作的必要性，盡快啟動(dòng)多邊協(xié)調(diào)與合作進(jìn)程，促進(jìn)廣泛國(guó)家參與治理；二是風(fēng)險(xiǎn)識(shí)別V生成式人工智能安全與全球治理報(bào)告與管理：集中關(guān)注人工智能系統(tǒng)可能帶來(lái)的共同大規(guī)模高風(fēng)險(xiǎn)危害；三是倫理和透明度：在人工智能的設(shè)計(jì)、開(kāi)發(fā)和部署中強(qiáng)調(diào)倫理原則和透明度；四是技術(shù)發(fā)展與安全的平衡：在促進(jìn)技術(shù)創(chuàng)新的同時(shí)，確保安全和合規(guī)性。為此提出的相關(guān)政策建議包括：一是建立多邊組織和國(guó)際社會(huì)的共同努力：為了識(shí)別和緩解人工智能風(fēng)險(xiǎn)，需要全球性的參與和合作，推動(dòng)建立國(guó)際人工智能組織來(lái)確保國(guó)際監(jiān)督標(biāo)準(zhǔn)的實(shí)施；二是制定風(fēng)險(xiǎn)預(yù)警和應(yīng)對(duì)機(jī)制：包括事后監(jiān)管審查和預(yù)防策略，確保系統(tǒng)的安全性和可靠性；三是建立第三方評(píng)估機(jī)制：獨(dú)立專家的第三方評(píng)估補(bǔ)充內(nèi)部評(píng)估，以提供一個(gè)穩(wěn)固的安全網(wǎng)；四是構(gòu)建可互操作的合規(guī)體系：推動(dòng)不同國(guó)家治理規(guī)則標(biāo)準(zhǔn)化和對(duì)接；五是制定國(guó)際公約：在全球范圍內(nèi)分享人工智能成果與利益?？傮w而言，當(dāng)前亟需統(tǒng)一全球視野，就人工智能治理原則和政策達(dá)成共識(shí)，并采取統(tǒng)籌協(xié)調(diào)的國(guó)際合作，以應(yīng)對(duì)快速發(fā)展帶來(lái)的挑戰(zhàn)。第三章，人工智能治理助力發(fā)展中國(guó)家與全球可持續(xù)發(fā)展專家們認(rèn)為，人工智能治理可以為發(fā)展中國(guó)家提供的助力包括：一是解決緊迫問(wèn)題：人工智能可以幫助發(fā)展中國(guó)家應(yīng)對(duì)貧困、饑餓、衛(wèi)生事件等迫切問(wèn)題，通過(guò)提供精確的數(shù)據(jù)分析和解決方案；二是彌補(bǔ)資源缺乏：利用人工智能，可以在資源有限的情況下有效地管理和分配資源，特別是在科技和教育領(lǐng)域；三是改善數(shù)字基礎(chǔ)設(shè)施：通過(guò)人工智能推動(dòng)網(wǎng)絡(luò)和通信技術(shù)的發(fā)展，提高互聯(lián)網(wǎng)接入和計(jì)算能力，縮小數(shù)字鴻溝；四是縮小能力差距：提供優(yōu)質(zhì)的教育和技術(shù)培訓(xùn)，提升本地人才的技術(shù)專長(zhǎng)，增強(qiáng)就業(yè)機(jī)會(huì)；五是本土化人工智能應(yīng)用：培養(yǎng)適應(yīng)本地需求和文化的人工智能應(yīng)用，特別是在語(yǔ)言和文化多樣性方面；六是國(guó)際合作：推動(dòng)發(fā)展中國(guó)家參與國(guó)際人工智能治理，確保它們?cè)谌蛉斯ぶ悄墚a(chǎn)業(yè)鏈和價(jià)值鏈中有話語(yǔ)權(quán)。對(duì)全球可持續(xù)發(fā)展的助力則包括：一是促進(jìn)經(jīng)濟(jì)增長(zhǎng)：人工智能可提升生產(chǎn)效率，降低成本，增強(qiáng)全球競(jìng)爭(zhēng)力，尤其對(duì)發(fā)展中國(guó)家而言，這是推動(dòng)經(jīng)濟(jì)多元化的關(guān)鍵；二是改進(jìn)社會(huì)服務(wù)和基礎(chǔ)設(shè)施：在教育、醫(yī)療、城市規(guī)劃等領(lǐng)域，人工智能能提供更高效、更精確的服務(wù)，提升資源利用率，減少浪費(fèi)；三是實(shí)現(xiàn)聯(lián)合國(guó)可持續(xù)發(fā)展目標(biāo)：人工智能可用于監(jiān)測(cè)和評(píng)估可持續(xù)發(fā)展目標(biāo)的進(jìn)展，為政策制定提供數(shù)據(jù)支持，幫助更有效地管理資源，減少環(huán)境影響；四是推動(dòng)包容性增長(zhǎng)：通過(guò)包容性人工智能治理，考慮到所有國(guó)家的需求和愿望，確保技術(shù)發(fā)展惠及全球大多數(shù)人；五是國(guó)際治理與合作：建立國(guó)際治理機(jī)構(gòu)和合作平臺(tái)，促進(jìn)知識(shí)和資源的共享，提供經(jīng)濟(jì)激勵(lì)促進(jìn)遵守規(guī)范，共同應(yīng)對(duì)全球挑戰(zhàn)；六是敏感性和透明度：監(jiān)督人工智能行業(yè)的實(shí)踐，確保其符合倫理標(biāo)準(zhǔn)，尊重?cái)?shù)據(jù)隱私和安全，減少剝削性做法。VI介紹總體而言，人工智能治理在幫助發(fā)展中國(guó)家加速發(fā)展和實(shí)現(xiàn)全球可持續(xù)發(fā)展目標(biāo)方面發(fā)揮著重要作用，但同時(shí)也需要注意其潛在的挑戰(zhàn)和風(fēng)險(xiǎn)，特別兼顧不同發(fā)展目標(biāo)方面。第四章，工程視角下的人工智能治理支持治理的技術(shù)手段和工具可能包括：了解和評(píng)估模型能力的重要性。目前還缺乏系統(tǒng)的概念框架來(lái)決定模型的具體能力，這阻礙了人工智能的有效治理。建議制定評(píng)估模型能力的標(biāo)準(zhǔn)化方法應(yīng)成為治理的優(yōu)先事項(xiàng)，并強(qiáng)調(diào)了在人機(jī)互動(dòng)中形成合理策略和廣泛的理解、知識(shí)和技能的重要性，可解釋的人工智能也有助于發(fā)展實(shí)用智慧。加強(qiáng)人工智能安全治理的標(biāo)準(zhǔn)化工作。如建立準(zhǔn)則更新機(jī)制、研制應(yīng)用領(lǐng)域?qū)ｍ?xiàng)標(biāo)準(zhǔn)、建設(shè)試驗(yàn)區(qū)等。這些標(biāo)準(zhǔn)化工作有助于引導(dǎo)人工智能的可控發(fā)展。基于風(fēng)險(xiǎn)和多方參與的方法治理生成式人工智能，開(kāi)發(fā)評(píng)估框架和工具，并尋求國(guó)際合作。這為負(fù)責(zé)任地應(yīng)用人工智能提供了參考。通過(guò)開(kāi)源和治理的民主化使人工智能開(kāi)發(fā)與部署更符合公共利益，建議構(gòu)建跨文化跨語(yǔ)言的倫理數(shù)據(jù)庫(kù)，保持開(kāi)放的公眾參與，這有助于提高人工智能系統(tǒng)的安全性和價(jià)值對(duì)齊。此外，還需要加強(qiáng)國(guó)際間的對(duì)話交流、建立包容的安全規(guī)則、開(kāi)源高質(zhì)量數(shù)據(jù)集等，以應(yīng)對(duì)當(dāng)前人工智能發(fā)展中的規(guī)則分散、價(jià)值對(duì)齊難度、加劇貧富分化等問(wèn)題?？傮w而言，工程技術(shù)對(duì)人工智能治理起關(guān)鍵支撐作用。需要深化對(duì)關(guān)鍵問(wèn)題的理解，并將之轉(zhuǎn)化為模型設(shè)計(jì)、訓(xùn)練與驗(yàn)證等具體實(shí)踐。第五章，企業(yè)視角下的人工智能治理各家企業(yè)的討論各有側(cè)重：邁克爾·塞利托(MichaelSellitto)介紹了Anthropic的人工智能安全級(jí)別(ASL)的概念，用于管理人工智能潛在的災(zāi)難性風(fēng)險(xiǎn)。該方法借鑒了處理危險(xiǎn)生物材料的生物安全級(jí)別(BSL)標(biāo)準(zhǔn)，根據(jù)人工智能能力定義了風(fēng)險(xiǎn)等級(jí)，并要求不同等級(jí)采取不同的安全措施。司曉和曹建峰討論了人類反饋強(qiáng)化學(xué)習(xí)在提高大模型價(jià)值對(duì)齊中的應(yīng)用，以及其他技術(shù)和治理手段如數(shù)據(jù)處理、可解釋性、對(duì)抗測(cè)試等在模型價(jià)值對(duì)齊中的作用，從工程層面保障人工智能系統(tǒng)價(jià)值觀安全和對(duì)齊的方法。韋韜指出了近年來(lái)大語(yǔ)言模型在快速進(jìn)步的同時(shí)，也面臨缺乏認(rèn)知對(duì)齊、原則性和可解釋性等問(wèn)題。這會(huì)導(dǎo)致人工智能系統(tǒng)產(chǎn)生嚴(yán)重的錯(cuò)誤決策并快速擴(kuò)散執(zhí)行，造VII生成式人工智能安全與全球治理報(bào)告成難以預(yù)見(jiàn)的后果。建議人工智能系統(tǒng)需要提高認(rèn)知一致性，建立可驗(yàn)證的推理鏈，并與人類專家互動(dòng)學(xué)習(xí)。英特爾文章以其開(kāi)發(fā)的偽造檢測(cè)技術(shù)為例，討論了負(fù)責(zé)任地應(yīng)用人工智能改善民眾生活的方法，如提高效率、創(chuàng)造力，幫助殘障人士等，從應(yīng)用視角闡釋了負(fù)責(zé)任的人工智能工程實(shí)踐?？傮w而言，這幾篇從企業(yè)實(shí)踐的角度，討論了人工智能安全分級(jí)管理、價(jià)值對(duì)齊、開(kāi)源治理、負(fù)責(zé)任應(yīng)用等人工智能治理中值得關(guān)注的若干問(wèn)題，提供了有益的建議和范例。其中，對(duì)于粵港澳大灣區(qū)，專家認(rèn)為可以發(fā)揮的獨(dú)特貢獻(xiàn)和價(jià)值中國(guó)社會(huì)科學(xué)院哲學(xué)所科技哲學(xué)研究室主任、中國(guó)科協(xié)-復(fù)旦大學(xué)科技倫理與人類未來(lái)研究院的段偉文建議粵港澳大灣區(qū)可從三方面為人工智能治理作出貢獻(xiàn)：一是數(shù)據(jù)治理創(chuàng)新，通過(guò)制度創(chuàng)新和試驗(yàn)探索，探索構(gòu)建可信任的數(shù)據(jù)互通共享機(jī)制；二是實(shí)施人工智能驅(qū)動(dòng)的區(qū)域整合發(fā)展戰(zhàn)略，將人工智能治理的目標(biāo)與人才、教育和就業(yè)戰(zhàn)略結(jié)合起來(lái)，對(duì)大灣區(qū)的人才、教育和產(chǎn)業(yè)進(jìn)行布局，使之適應(yīng)人工智能未來(lái)的發(fā)展；三是打造人工智能東方大灣區(qū)特區(qū)，在良好的人工智能治理和人工智能驅(qū)動(dòng)區(qū)域發(fā)展的基礎(chǔ)上，吸引全球人才，通過(guò)更具動(dòng)態(tài)可塑性產(chǎn)業(yè)促進(jìn)政策和不斷優(yōu)化的人工智能治理模式，構(gòu)建全球人工智能創(chuàng)新試驗(yàn)區(qū)。中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院的馬騁昊、高萬(wàn)琪和范思雨倡議在深圳建設(shè)國(guó)際人工智能對(duì)齊與治理創(chuàng)新示范區(qū)。呼吁全球人工智能企業(yè)及科研院所共同參與，在一定范圍內(nèi)共同驗(yàn)證相關(guān)的對(duì)齊方法、標(biāo)準(zhǔn)規(guī)范、治理工具、數(shù)據(jù)共享機(jī)制等方面內(nèi)容的科學(xué)性及可操作性。南財(cái)合規(guī)科技研究院的王俊和娜迪婭建議粵港澳大灣區(qū)具有海量數(shù)據(jù)規(guī)模和豐富應(yīng)用場(chǎng)景優(yōu)勢(shì)，數(shù)據(jù)要素市場(chǎng)不斷擴(kuò)大。應(yīng)該充分發(fā)揮自身優(yōu)勢(shì)，充分挖掘數(shù)據(jù)價(jià)值，在數(shù)據(jù)合規(guī)基礎(chǔ)之上，進(jìn)一步促進(jìn)公共數(shù)據(jù)等開(kāi)放，推進(jìn)多模態(tài)公共數(shù)據(jù)集建設(shè)，打造高質(zhì)量中文語(yǔ)料數(shù)據(jù)。香港大學(xué)的納撒尼爾·沙拉丁(NathanielSharadin)認(rèn)為，以系統(tǒng)的框架評(píng)估和理解模型能力，應(yīng)成為治理的優(yōu)先事項(xiàng)?；浉郯目梢岳脜^(qū)位優(yōu)勢(shì)，吸引國(guó)際人工智能企業(yè)來(lái)區(qū)內(nèi)共建治理示范區(qū)，進(jìn)行各類人工智能安全和倫理治理工具的驗(yàn)證，為全球治理貢獻(xiàn)經(jīng)驗(yàn)。綜合利用粵港澳的區(qū)位優(yōu)勢(shì)、產(chǎn)業(yè)基礎(chǔ)、開(kāi)放程度等方面的獨(dú)特條件，可以為全球人工智能治理作出積極貢獻(xiàn)，提升區(qū)域和中國(guó)的影響力。VIII第一章 生成式人工智能的風(fēng)險(xiǎn)與挑戰(zhàn)第一章 生成式人工智能的風(fēng)險(xiǎn)與挑戰(zhàn)大語(yǔ)言模型怪獸對(duì)利維坦與法律秩序的挑戰(zhàn)季衛(wèi)東2017年谷歌發(fā)布Transformer網(wǎng)絡(luò)架構(gòu)以來(lái)，短短五年多的時(shí)間，世界上迅速出現(xiàn)了一大群大模型，而這些模型又衍生出多種技術(shù)架構(gòu)、多種模態(tài)、多種場(chǎng)景。從已發(fā)布大模型的全球分布來(lái)看，中國(guó)和美國(guó)明顯領(lǐng)先，超過(guò)全球總量的80%，其中美國(guó)的大模型數(shù)量一直位居全球第一。ChatGPT于2022年11月底一經(jīng)發(fā)布，就憑借強(qiáng)大的對(duì)話能力和廣泛的應(yīng)用風(fēng)靡全球，短短兩個(gè)月的時(shí)間就讓月活躍用戶規(guī)模達(dá)到1億，增速極其可觀。此后，這些大型語(yǔ)言模型相繼發(fā)布，從賦能個(gè)人、減輕企業(yè)負(fù)擔(dān)等方面深刻影響了包括法律運(yùn)作在內(nèi)的各種社會(huì)實(shí)踐場(chǎng)景，留下了一幅生成式AI物種大爆發(fā)的數(shù)字“寒武紀(jì)”景觀。據(jù)不完全統(tǒng)計(jì)，截至2023年5月，中國(guó)科技企業(yè)和網(wǎng)絡(luò)平臺(tái)已上線各類人工智能語(yǔ)言模型79個(gè)，其中通用模型34個(gè)。必須承認(rèn)，大語(yǔ)言模式在給國(guó)家和社會(huì)帶來(lái)便利和利益的同時(shí)，也帶來(lái)了令人不安的風(fēng)險(xiǎn)甚至威脅。其中四項(xiàng)可列舉如下：首先，由于類似ChatGPT的大語(yǔ)言模型提供在線對(duì)話服務(wù)，它們可以比現(xiàn)有的互聯(lián)網(wǎng)搜索引擎收集更多的個(gè)人信息和隱私。因此，在“知道太多、利益沖突”的情況下，大型語(yǔ)言模型及其操作者可能會(huì)通過(guò)控制溝通，誘導(dǎo)用戶做出違背自己意圖和利益的選擇。其次，現(xiàn)階段的大語(yǔ)言模型會(huì)將訓(xùn)練數(shù)據(jù)中不存在也不可能存在的事物視為真實(shí)的，并在對(duì)話中以不容置疑的語(yǔ)氣進(jìn)行描述。這就是用戶經(jīng)常抱怨的“嚴(yán)重胡言亂語(yǔ)”的現(xiàn)象。從科學(xué)技術(shù)的角度來(lái)看，這當(dāng)然只是一種“幻覺(jué)”?！盎糜X(jué)”現(xiàn)象與機(jī)器學(xué)習(xí)用有限的訓(xùn)練數(shù)據(jù)處理無(wú)限的未知數(shù)據(jù)的泛化能力密切相關(guān)。但在應(yīng)用場(chǎng)景中，這種幻覺(jué)可能會(huì)導(dǎo)致虛假信息的傳播，這對(duì)用戶或社會(huì)來(lái)說(shuō)可能是致命的。再次，大語(yǔ)言模型在使用各種數(shù)據(jù)進(jìn)行學(xué)習(xí)或人工智能自動(dòng)生成各種內(nèi)容時(shí)，可能會(huì)引發(fā)復(fù)雜的知識(shí)產(chǎn)權(quán)識(shí)別和保護(hù)問(wèn)題。為了確保AIGC的可信性并明確責(zé)任，應(yīng)該發(fā)明、應(yīng)用和推廣數(shù)字水印技術(shù)。最后，大型語(yǔ)言模型可能有意無(wú)意地獲取企業(yè)或政府機(jī)構(gòu)的機(jī)密信息，操縱輿論，導(dǎo)致國(guó)家中央系統(tǒng)的安全體系出現(xiàn)漏洞，信息社會(huì)功能失調(diào)，甚至因惡意事故和犯罪而引發(fā)社會(huì)動(dòng)蕩。1生成式人工智能安全與全球治理報(bào)告人類對(duì)語(yǔ)言的處理和智力的利用實(shí)際上是在無(wú)意識(shí)的情況下發(fā)生的。科學(xué)哲學(xué)家邁克爾·波蘭尼曾在1964年指出：“我們知道的比我們能表述的更多?！睋Q言之，知識(shí)體系還應(yīng)包括這種沒(méi)有明確意識(shí)到、或未被社會(huì)常識(shí)所認(rèn)可、或不能言說(shuō)的默會(huì)知識(shí)。這一命題被表述為“波蘭尼悖論”，并成為人工智能理論的基礎(chǔ)。這也意味著人工智能對(duì)無(wú)意識(shí)的語(yǔ)言處理，根本就無(wú)法設(shè)計(jì)那種獲得和應(yīng)用所有語(yǔ)言的算法，也很難為機(jī)器學(xué)習(xí)設(shè)定明確的訓(xùn)練目標(biāo)?，F(xiàn)在通行利用神經(jīng)網(wǎng)絡(luò)進(jìn)行機(jī)器學(xué)習(xí)，通過(guò)誤差反向傳播算法不斷調(diào)整神經(jīng)元權(quán)重和更新網(wǎng)絡(luò)參數(shù)，逐漸減少誤差，尋找訓(xùn)練數(shù)據(jù)的正解。人們發(fā)現(xiàn)，當(dāng)神經(jīng)網(wǎng)絡(luò)的規(guī)模被大幅度擴(kuò)張之后，人工智能接龍預(yù)測(cè)的精確度就會(huì)突然得到顯著改善。這個(gè)發(fā)現(xiàn)及其有意識(shí)的應(yīng)用使機(jī)器學(xué)習(xí)進(jìn)入了深度學(xué)習(xí)階段：無(wú)需復(fù)雜的規(guī)則和學(xué)習(xí)方法，只要讓網(wǎng)絡(luò)規(guī)模倍增就可以使許多難題迎刃而解，迅速提高泛化能力——不言而喻，這種神奇效果也證明了大語(yǔ)言模型的重要意義。其實(shí)質(zhì)是多層網(wǎng)絡(luò)的自我學(xué)習(xí)和進(jìn)入語(yǔ)境（in-context）的學(xué)習(xí)，以及在此基礎(chǔ)上實(shí)現(xiàn)學(xué)習(xí)方法的學(xué)習(xí)——元學(xué)習(xí)。這樣一來(lái)，人類對(duì)機(jī)器學(xué)習(xí)的特征設(shè)計(jì)也就變得沒(méi)有意義，人工智能實(shí)際上是開(kāi)始進(jìn)行自我塑造，形成一種自動(dòng)化的生態(tài)系統(tǒng)，甚至有可能脫離人類的控制。正是在這里，“大語(yǔ)言建模怪獸”紛紛嶄露頭角，并且有可能因?yàn)樵趯?duì)數(shù)據(jù)進(jìn)行深度學(xué)習(xí)中放棄給定的特征設(shè)計(jì)，轉(zhuǎn)而自我設(shè)置次級(jí)目標(biāo)而脫離人類控制，進(jìn)而引起治理方面的嚴(yán)重問(wèn)題。這意味著大型語(yǔ)言模型將助產(chǎn)新型非人類或超人類智能的誕生，這種智能將逐漸遠(yuǎn)離人類并發(fā)展出與人類截然不同的價(jià)值觀。這也意味著，除了隱藏在區(qū)塊鏈中的平臺(tái)怪物和主權(quán)個(gè)體游擊隊(duì)之外，主權(quán)利維坦還將面臨數(shù)十甚至數(shù)百個(gè)強(qiáng)大的大型模型龐然大物的挑戰(zhàn)，即數(shù)字領(lǐng)域的國(guó)家主權(quán)，或者說(shuō)“數(shù)字主權(quán)”?！泵媾R著“百模大戰(zhàn)”和失控的挑戰(zhàn)?！皵?shù)字主權(quán)”概念明確體現(xiàn)了主權(quán)國(guó)家對(duì)社會(huì)數(shù)字化轉(zhuǎn)型的反應(yīng)和自衛(wèi)立場(chǎng)。為了防止上述各種風(fēng)險(xiǎn)演變成不可逆轉(zhuǎn)的災(zāi)難，專家和行業(yè)領(lǐng)袖提出了暫停大型模型開(kāi)發(fā)、實(shí)現(xiàn)價(jià)值對(duì)齊、加強(qiáng)人工智能監(jiān)管等各種對(duì)策和建議。僅就價(jià)值對(duì)齊而言，例如，美國(guó)布魯金斯學(xué)會(huì)2022年12月8日發(fā)表本杰明·拉森的文章《人工智能的地緣政治與數(shù)字主權(quán)的崛起》，作者認(rèn)為人工智能發(fā)展的不平衡將導(dǎo)致國(guó)家之間的不信任加劇，進(jìn)而導(dǎo)致數(shù)字主權(quán)的興起和技術(shù)脫鉤的出現(xiàn)；意識(shí)形態(tài)差異或道德原則差異可能對(duì)人工智能和信息技術(shù)的管理產(chǎn)生更廣泛的地緣政治影響；因此確保人工智能價(jià)值觀在國(guó)際層面的對(duì)齊可能是本世紀(jì)最重大的挑戰(zhàn)之一。無(wú)論如何，這是一場(chǎng)前所未有的巨變，將不可避免地塑造新的國(guó)家和法律存在形式，并促進(jìn)秩序范式的創(chuàng)新。2第一章 生成式人工智能的風(fēng)險(xiǎn)與挑戰(zhàn)針對(duì)這一重大變化，中國(guó)政府的策略是通過(guò)統(tǒng)一的超算網(wǎng)絡(luò)和基座模型層來(lái)合并和整合數(shù)十個(gè)大型模型巨頭，并通過(guò)所謂的“主權(quán)區(qū)塊鏈”來(lái)防止點(diǎn)對(duì)點(diǎn)交互失去控制的風(fēng)險(xiǎn)。結(jié)果必然會(huì)創(chuàng)建一個(gè)更強(qiáng)大的算法利維坦。正如米歇爾·?？滤A(yù)料的那樣，這個(gè)算法利維坦實(shí)際上是一個(gè)環(huán)視裝置。在這里，數(shù)十億個(gè)探測(cè)器形成了視線陷阱，創(chuàng)造了大衛(wèi)·里昂所描繪的那種監(jiān)視社會(huì)和文化。這種利維坦算法無(wú)處不在且強(qiáng)大，只有通過(guò)人工智能系統(tǒng)中嵌入的程序性正當(dāng)程序以及不同人工智能系統(tǒng)之間的去中心化制衡才能防止其濫用。從這個(gè)意義上說(shuō)，也可以說(shuō)，進(jìn)入大模型和生成式人工智能時(shí)代后，人工智能治理的重點(diǎn)將從防止算法歧視轉(zhuǎn)向防止模型濫用。在主權(quán)利維坦、平臺(tái)怪物、LLM巨頭乃至自我主權(quán)身份意識(shí)的互動(dòng)中，法律正當(dāng)程序原則將被重新定義并與技術(shù)正當(dāng)程序相結(jié)合，這種新的程序正義將發(fā)揮更重要的作用。人工智能價(jià)值對(duì)齊的挑戰(zhàn)是構(gòu)建符合人類價(jià)值觀和利益的人工智能系統(tǒng)(Russell,2019)。這一挑戰(zhàn)涵蓋技術(shù)和規(guī)范方面(Gabriel,2020)。這項(xiàng)技術(shù)挑戰(zhàn)旨在將人類價(jià)值觀編碼到人工智能系統(tǒng)中，確保它們按照預(yù)期行事。規(guī)范性挑戰(zhàn)涉及確定人工智能系統(tǒng)和更廣泛的人工智能開(kāi)發(fā)工作應(yīng)遵循哪些價(jià)值觀。本文重點(diǎn)關(guān)注規(guī)范方面，并探討了人工智能民主化的兩種形式——人工智能開(kāi)發(fā)的民主化和人工智能治理的民主化——作為在人工智能發(fā)展中代表不同人類價(jià)值觀的手段。季衛(wèi)東，上海交通大學(xué)文科資深教授、上海交通大學(xué)中國(guó)法與社會(huì)研究院院長(zhǎng)、人工智能治理與法律研究中心主任、計(jì)算法學(xué)與AI倫理中心主任、日本研究中心主任，美國(guó)斯坦福大學(xué)訪問(wèn)學(xué)者。國(guó)家重大人才工程特聘教授，享受國(guó)務(wù)院特殊津貼。3生成式人工智能安全與全球治理報(bào)告以更積極主動(dòng)的治理應(yīng)對(duì)人工智能發(fā)展中的風(fēng)險(xiǎn)與挑戰(zhàn)段偉文近年來(lái)，人工智能在認(rèn)知、決策、知識(shí)生產(chǎn)和智能代理等方面日益顯現(xiàn)出超強(qiáng)能力，這使得人工智能成為各國(guó)科技領(lǐng)域的優(yōu)先發(fā)展事項(xiàng)。但也因?yàn)槠浒l(fā)展所凸顯的危害、風(fēng)險(xiǎn)和爭(zhēng)議，而促使各國(guó)和全世界全面展開(kāi)了人工智能治理。人工智能治理主要針對(duì)兩個(gè)方面的問(wèn)題：一是由于人工智能發(fā)展的價(jià)值和目標(biāo)不明確，以及惡意使用和濫用，使其給人類、個(gè)人、社會(huì)、環(huán)境和生態(tài)系統(tǒng)造成了現(xiàn)實(shí)的危害和潛在的風(fēng)險(xiǎn)，其中包括對(duì)隱私和數(shù)據(jù)權(quán)侵害、偏見(jiàn)和歧視的加劇等。二是因人工智能發(fā)展的不平衡以及受益與風(fēng)險(xiǎn)分配的不公，帶來(lái)了“誰(shuí)受益？誰(shuí)付出？誰(shuí)承擔(dān)風(fēng)險(xiǎn)？”“誰(shuí)具有領(lǐng)先優(yōu)勢(shì)？誰(shuí)會(huì)被甩在后面？誰(shuí)處于‘暴露’狀態(tài)”等社會(huì)爭(zhēng)議。從防范風(fēng)險(xiǎn)的視角，目前全球人工智能治理的緊迫事項(xiàng)包括三個(gè)方面：一是如何避免有意和無(wú)意的人工智能濫用可能導(dǎo)致的重大風(fēng)險(xiǎn)，特別是以往沒(méi)有關(guān)注到的跨領(lǐng)域的復(fù)合風(fēng)險(xiǎn)，如隨著技術(shù)與信息可及性增加和門(mén)檻的降低，人工智能與生物技術(shù)的非常規(guī)結(jié)合導(dǎo)致的不可預(yù)見(jiàn)的安全風(fēng)險(xiǎn)；二是如何緩解人工智能特別是生成式人工智能對(duì)崗位、就業(yè)、人才、教育的巨大沖擊；三是如何在國(guó)際層面形成人工智能軍備競(jìng)賽的多方管控機(jī)制和公開(kāi)對(duì)話渠道。其中，對(duì)于國(guó)際社會(huì)如何建立有效的風(fēng)險(xiǎn)預(yù)警和應(yīng)對(duì)機(jī)制并確保在關(guān)鍵時(shí)刻人類有能力摁下停止鍵，這一問(wèn)題目前沒(méi)有直接的答案，當(dāng)可用從以下四個(gè)方面作出努力。一是各國(guó)和世界要在信息網(wǎng)絡(luò)系統(tǒng)的安全性方面加強(qiáng)互信與合作，建立起全球風(fēng)險(xiǎn)預(yù)警系統(tǒng)；二是各國(guó)、不同區(qū)域和全球要構(gòu)建起多個(gè)平行的信息網(wǎng)絡(luò)系統(tǒng)，在有必要的情況下構(gòu)建人類文明全數(shù)據(jù)備份時(shí)間機(jī)器、全球多個(gè)信息網(wǎng)絡(luò)平行運(yùn)作系統(tǒng)；三是發(fā)現(xiàn)和培養(yǎng)可用在人工智能時(shí)代具有超強(qiáng)認(rèn)知、決策能力和未來(lái)洞察力的人才，在各國(guó)實(shí)施超強(qiáng)人才教育培養(yǎng)計(jì)劃；四是加強(qiáng)人機(jī)行為的社會(huì)學(xué)、人類學(xué)、心理學(xué)和哲學(xué)研究，對(duì)此問(wèn)題展開(kāi)系統(tǒng)深入的探索。從促進(jìn)發(fā)展的視角，為了助力世界各國(guó)特別是發(fā)展中國(guó)家的高質(zhì)量發(fā)展和聯(lián)合國(guó)可持續(xù)發(fā)展目標(biāo)的落實(shí)，人工智能治理要從“被動(dòng)補(bǔ)償”和“主動(dòng)優(yōu)化”兩個(gè)方面入手：一是要設(shè)法緩解以上兩方面的問(wèn)題，促使人工智能系統(tǒng)在整個(gè)生命周期中以負(fù)責(zé)任和可信任的方式發(fā)展；二是應(yīng)聯(lián)合國(guó)際社會(huì)進(jìn)一步采取一系列主動(dòng)的預(yù)先應(yīng)對(duì)措施，包括利益補(bǔ)償和平衡發(fā)展政策的實(shí)施，風(fēng)險(xiǎn)預(yù)見(jiàn)和強(qiáng)化防范、欠發(fā)達(dá)地區(qū)的人工智能素養(yǎng)提升等。4第一章 生成式人工智能的風(fēng)險(xiǎn)與挑戰(zhàn)最后，對(duì)于粵港澳大灣區(qū)參與貢獻(xiàn)人工智能治理，我有三點(diǎn)建議：一是數(shù)據(jù)治理創(chuàng)新，通過(guò)制度創(chuàng)新和試驗(yàn)探索，探索構(gòu)建可信任的數(shù)據(jù)互通共享機(jī)制；二是實(shí)施人工智能驅(qū)動(dòng)的區(qū)域整合發(fā)展戰(zhàn)略，將人工智能治理的目標(biāo)與人才、教育和就業(yè)戰(zhàn)略結(jié)合起來(lái)，對(duì)大灣區(qū)的人才、教育和產(chǎn)業(yè)進(jìn)行布局，使之適應(yīng)人工智能未來(lái)的發(fā)展；三是打造人工智能東方大灣區(qū)特區(qū)，在良好的人工智能治理和人工智能驅(qū)動(dòng)區(qū)域發(fā)展的基礎(chǔ)上，吸引全球人才，通過(guò)更具動(dòng)態(tài)可塑性產(chǎn)業(yè)促進(jìn)政策和不斷優(yōu)化的人工智能治理模式，構(gòu)建全球人工智能創(chuàng)新試驗(yàn)區(qū)。段偉文，中國(guó)社會(huì)科學(xué)院哲學(xué)所科技哲學(xué)研究室主任、中國(guó)科協(xié)-復(fù)旦大學(xué)科技倫理與人類未來(lái)研究院教授，享受國(guó)務(wù)院特殊津貼專家。5生成式人工智能安全與全球治理報(bào)告人類價(jià)值對(duì)齊難題與大模型倫理嵌入王小紅信息倫理學(xué)家指出：必需確立一套基本的AI倫理準(zhǔn)則，但這不容易，因?yàn)榈赖聹?zhǔn)則會(huì)在不同文化背景和AI使用情境下產(chǎn)生差異。(TaddeoandFloridi,2018)機(jī)器道德哲學(xué)家也強(qiáng)調(diào)：雖然存在超越文化差異并為人類共享的價(jià)值觀，但不同文化以及人類的不同道德系統(tǒng)在細(xì)節(jié)上仍有分歧。(瓦拉赫，艾倫，2017:66)有實(shí)證調(diào)研指出：AI倫理原則取得實(shí)效的關(guān)鍵在于其本地化，而本地化過(guò)程中必然要遵循當(dāng)?shù)匚幕?、宗教和哲學(xué)傳統(tǒng)。(DanitGal2019:73)上述研究表明，“以人為本”這一抽象原則，在AI治理實(shí)際情境中，往往會(huì)因文化差異導(dǎo)致實(shí)踐價(jià)值差異，甚至可能出現(xiàn)AI治理技術(shù)的相互反制。由此，基于人類價(jià)值對(duì)其的難度和復(fù)雜性，我們提出AI倫理建構(gòu)的哲學(xué)智慧共識(shí)策略：第一，超越文化的“概念鴿子籠”。(Dewey,1921:188)多元文化、不同價(jià)值的交流中，人們往往使用自己熟悉的文化中的“概念鴿子籠”，把另外一種文化中的事實(shí)分格塞進(jìn)去，來(lái)解釋不同的文化現(xiàn)象，這就造成了輕率地歸類，主觀地下定論。洞悉一個(gè)不同的文化的真正意圖，任何時(shí)候都是復(fù)雜的任務(wù)。不同文化承載著不同的人類群體獨(dú)特而漫長(zhǎng)的生命歷程，“使歷史成為實(shí)際的原因是求生的意志和求幸福的欲望。但什么是幸福？人們對(duì)這個(gè)問(wèn)題的答案遠(yuǎn)非一致。這是由于我們有許多不同的哲學(xué)體系，許多不同的價(jià)值標(biāo)準(zhǔn)，從而有許多不同類型的歷史”。(馮友蘭,1922)人類只有反思自身，藉理性以糾偏。第二，在有利于人性進(jìn)步之準(zhǔn)則下，尊重不同的歷史所沉淀的多元價(jià)值。中西哲學(xué)比較研究揭示，文化差異性的一個(gè)重要方面就是，雖然所有文化共有一些基本價(jià)值，但是不同文化會(huì)給予這些價(jià)值不同的權(quán)重，形成不同的價(jià)值配置形式。(李晨陽(yáng),2019)不同文化在價(jià)值配置上可能永遠(yuǎn)無(wú)法一致，但是不同文化可以基于多元化的配置，達(dá)成有利于人性進(jìn)步和人類發(fā)展的共識(shí)。東西方哲學(xué)思想和思維方式歷經(jīng)上千年，不僅亙古常新，卻自古就不缺少深度共鳴。先秦孔子有言：“吾有知乎哉？無(wú)知也。有鄙夫問(wèn)于我，空空如也。我叩其兩端而竭焉。”古希臘蘇格拉底說(shuō)：“我只知道我一無(wú)所知”。中西方兩位哲人，幾乎在同一時(shí)期（雅思貝爾斯稱之軸心時(shí)代）道出了遙相呼應(yīng)的治學(xué)箴言?！墩撜Z(yǔ)》的多個(gè)表述，也與康德道德律令關(guān)鍵思想一致，即，只有當(dāng)你愿意依此準(zhǔn)則行事，才令此準(zhǔn)則為普遍規(guī)范。源于《禮記·中庸》的“慎獨(dú)”，新儒家繼承和發(fā)展的“修齊治平”工夫論，這些思想與亞里士多德倡導(dǎo)的美德倫理學(xué)，均投射出東西方古老文化共同的哲學(xué)智慧。6第一章 生成式人工智能的風(fēng)險(xiǎn)與挑戰(zhàn)第三，AI大模型的倫理嵌入，不論自上而下式還是自下而上式，皆需要分析和清晰呈現(xiàn)道德哲學(xué)的語(yǔ)義蘊(yùn)含。當(dāng)前成功的大模型所基于的訓(xùn)練范式，“高質(zhì)量數(shù)據(jù)集構(gòu)建—大規(guī)模預(yù)訓(xùn)練—指令微調(diào)—基于人類反饋的強(qiáng)化學(xué)習(xí)”，是符號(hào)主義進(jìn)路（自上而下式）與聯(lián)結(jié)主義進(jìn)路（自下而上式）的融合，被計(jì)算機(jī)科學(xué)家稱為未來(lái)優(yōu)先發(fā)展的“集成智能”方向。(陳小平,2020：116)其中，構(gòu)建推理基于的知識(shí)庫(kù)或者搜索基于的狀態(tài)空間，以及訓(xùn)練大模型的倫理規(guī)則神經(jīng)網(wǎng)絡(luò)，使用隱含倫理原則的代表性數(shù)據(jù)庫(kù)時(shí)，皆需要做基于道德語(yǔ)義的情境分析和評(píng)估。我們?cè)O(shè)想，為獲取人類價(jià)值共識(shí)，可以發(fā)展類似漢典建模(王小紅等,2023)的計(jì)算詮釋學(xué)，使道德概念的豐富涵義在形式層面得到梳理和辨析，將文化意義架構(gòu)整合進(jìn)有監(jiān)督（人工標(biāo)注）和無(wú)監(jiān)督（自動(dòng)標(biāo)注）的機(jī)器學(xué)習(xí)。王小紅，西安交通大學(xué)人文社會(huì)科學(xué)學(xué)院科技哲學(xué)教授，計(jì)算哲學(xué)實(shí)驗(yàn)室中方負(fù)責(zé)人。兼任中國(guó)自然辯證法研究會(huì)方法論委員會(huì)常務(wù)理事，陜西省自然辯證法研究會(huì)前副秘書(shū)長(zhǎng)。7生成式人工智能安全與全球治理報(bào)告人工智能的全球監(jiān)管：主要差距和核心挑戰(zhàn)羅斯塔姆·J·諾伊維爾特(RostamJ.Neuwirth)通常被稱為“人工智能”的新技術(shù)正在以更快的速度引入，并越來(lái)越多地滲透到人類生活的方方面面。正如2021年11月通過(guò)的聯(lián)合國(guó)教科文組織《人工智能倫理建議書(shū)》所反映的那樣，最初對(duì)AI潛在利益的熱情現(xiàn)已被對(duì)其實(shí)際和潛在危害的倫理關(guān)切所取代。為了解決這些問(wèn)題，全世界正見(jiàn)證著通過(guò)具有約束力的法律手段來(lái)監(jiān)管AI的全球競(jìng)賽。歐盟、歐洲委員會(huì)、中國(guó)、美國(guó)以及許多其他司法管轄區(qū)已經(jīng)采納或正在準(zhǔn)備針對(duì)人工智能的專用或通用的法律。然而，目前的全球AI競(jìng)賽對(duì)法律和現(xiàn)有國(guó)際法律框架提出了嚴(yán)峻的挑戰(zhàn)，首先是一個(gè)強(qiáng)烈的時(shí)間要素，即不僅要找到頒布AI法律或法規(guī)的最佳時(shí)機(jī)，還要使其具備未來(lái)一段有意義的時(shí)間內(nèi)的適用性。其次，它還具有空間維度，即由AI的無(wú)所不在或跨界性質(zhì)引起的法律問(wèn)題，這與法律的傳統(tǒng)領(lǐng)土觀念形成了鮮明對(duì)比。為了考慮到各種AI系統(tǒng)的互操作性，防止可能的技術(shù)故障或規(guī)范沖突，必須采取多層次治理方法，以實(shí)現(xiàn)各種地方、國(guó)家或地區(qū)監(jiān)管方法的全球協(xié)調(diào)和協(xié)調(diào)。第三個(gè)挑戰(zhàn)在于AI對(duì)社會(huì)、組織和人類的影響的全面效應(yīng)。這意味著AI是一種跨領(lǐng)域現(xiàn)象，它首先需要跨學(xué)科的討論，以支持基于建立一致的制度框架的協(xié)調(diào)監(jiān)管方法的制定，從而實(shí)現(xiàn)更有效的多機(jī)構(gòu)合作形式。第四個(gè)挑戰(zhàn)在于現(xiàn)有語(yǔ)言在更好地接納AI及相關(guān)技術(shù)的新特性方面的局限性。這個(gè)問(wèn)題表現(xiàn)在將AI定性為一種矛盾修辭，即一種修辭手法，將智能與人類和機(jī)器這兩個(gè)看似矛盾或極不相似的術(shù)語(yǔ)聯(lián)系起來(lái)。因此產(chǎn)生的矛盾要求重新思考人類認(rèn)知的基本前提，并澄清AI監(jiān)管的主要目標(biāo)，即它是旨在關(guān)注技術(shù)、將其投放市場(chǎng)的企業(yè)或提供者還是使用它們的人。在這方面，目前的提議往往過(guò)于模糊，或同時(shí)過(guò)于具體和過(guò)于寬泛。因此，真正全面的AI監(jiān)管需要新的思維方式，這些思維方式同時(shí)針對(duì)特定的法律問(wèn)題和法律系統(tǒng)整體的一致性。更重要的是，所有這些挑戰(zhàn)的復(fù)雜性需要就AI的潛在用途和對(duì)人類進(jìn)化更廣泛目的達(dá)成全球哲學(xué)共識(shí)。羅斯塔姆·J·諾伊維爾特(RostamJ.Neuwirth)，澳門(mén)大學(xué)法學(xué)院教授，研究興趣包括國(guó)際經(jīng)濟(jì)法和“貿(mào)易聯(lián)系辯論”、知識(shí)產(chǎn)權(quán)和創(chuàng)意經(jīng)濟(jì)、比較法以及法律和法律理論的各個(gè)跨學(xué)科方面。8第一章 生成式人工智能的風(fēng)險(xiǎn)與挑戰(zhàn)生成式人工智能對(duì)全球治理的挑戰(zhàn)與應(yīng)對(duì)孫南翔當(dāng)前，以生成式人工智能技術(shù)為代表的新興科技革命和產(chǎn)業(yè)革命正加速推進(jìn)。人工智能技術(shù)的運(yùn)用不僅推動(dòng)著國(guó)家治理體系的變革，也深刻影響著全球治理機(jī)制的發(fā)展進(jìn)程。生成式人工智能技術(shù)使得技術(shù)主體出現(xiàn)了“自知自覺(jué)自治”的能力，也使得非國(guó)家行為體擁有可比擬于國(guó)家的權(quán)力，法律的作用應(yīng)該被重新審視、重新開(kāi)創(chuàng)，特別是確保技術(shù)發(fā)展遵循人的發(fā)展之脈絡(luò)。全球治理同樣如此。與傳統(tǒng)時(shí)代相比，人工智能時(shí)代將顛覆傳統(tǒng)的國(guó)際法律框架，國(guó)際體系的主體、結(jié)構(gòu)、運(yùn)行規(guī)則等關(guān)鍵要素都將隨之發(fā)生巨變。人工智能技術(shù)的發(fā)展對(duì)世界秩序構(gòu)成了嚴(yán)峻的挑戰(zhàn)，當(dāng)然也必然帶來(lái)新的發(fā)展機(jī)會(huì)。當(dāng)前在世界范圍內(nèi)，生成式人工智能工具廣泛地運(yùn)用于傳媒、研究，甚至是運(yùn)輸和武裝沖突等領(lǐng)域。如何認(rèn)定人工智能工具的法律屬性的問(wèn)題至關(guān)重要，然而截至目前，人類社會(huì)尚未形成共識(shí)。在可預(yù)見(jiàn)的未來(lái)，生成式人工智能技術(shù)產(chǎn)生的自我學(xué)習(xí)與自我認(rèn)知能力，既不能被人類所規(guī)制，也無(wú)法為人類所預(yù)知。毫無(wú)疑問(wèn)，當(dāng)今世界面臨的巨大挑戰(zhàn)將是無(wú)知與未知的人工智能技術(shù)。從現(xiàn)階段人工智能的技術(shù)發(fā)展而言，生成式人工智能技術(shù)發(fā)源并受制于人，人工智能所產(chǎn)生的思想、觀念和認(rèn)知來(lái)自于人類世界。我們應(yīng)加速研究生成式人工智能技術(shù)對(duì)國(guó)內(nèi)與國(guó)際法律機(jī)制的影響以及其對(duì)人類社會(huì)生活的挑戰(zhàn)?？傮w上，應(yīng)對(duì)人工智能對(duì)國(guó)際法的挑戰(zhàn)應(yīng)堅(jiān)持體系融合原則、技術(shù)穿透原則和法律技術(shù)化原則。從此層面，國(guó)家應(yīng)積極探索法治原則對(duì)人工智能技術(shù)的約束作用，加強(qiáng)道德、倫理與技術(shù)的融合，并與世界各國(guó)攜手共同應(yīng)對(duì)生成式人工智能技術(shù)所引發(fā)的挑戰(zhàn)。孫南翔，中國(guó)社會(huì)科學(xué)院國(guó)際法研究所國(guó)際經(jīng)濟(jì)法研究室副研究員，主要從事國(guó)際經(jīng)濟(jì)法、網(wǎng)絡(luò)法研究。擔(dān)任中國(guó)法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)理事、北京市法學(xué)會(huì)互聯(lián)網(wǎng)金融法治研究會(huì)理事、對(duì)外經(jīng)貿(mào)大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心研究員、北京市法學(xué)會(huì)百名法學(xué)英才等。9生成式人工智能安全與全球治理報(bào)告全球人工智能風(fēng)險(xiǎn)不可避免地需要全球合作鄧肯·卡斯-貝格斯(DuncanCass-Beggs)超級(jí)人工智能可能比我們想象的更近。這給人類提出了緊迫的生存問(wèn)題，例如開(kāi)發(fā)這種先進(jìn)的人工智能系統(tǒng)是否以及何時(shí)安全，以及這些系統(tǒng)應(yīng)該在社會(huì)中發(fā)揮什么作用。為了有效和合法，這些選擇需要由國(guó)際社會(huì)共同做出并實(shí)施。這將需要在可能很短的時(shí)間內(nèi)進(jìn)行前所未有的全球合作，并且必須在地緣政治緊張和沖突的背景下取得成功。迎接這一挑戰(zhàn)需要堅(jiān)定的決心和不懈的創(chuàng)新。人工智能帶來(lái)的全球范圍的風(fēng)險(xiǎn)不能再被忽視。這些風(fēng)險(xiǎn)的存在取決于三個(gè)觀察結(jié)果：1）人工智能系統(tǒng)正在迅速發(fā)展，并且在廣泛的關(guān)鍵能力方面表現(xiàn)出可能遠(yuǎn)遠(yuǎn)超過(guò)人類的水平。這可能會(huì)比預(yù)期發(fā)生得更早。2）人類目前缺乏可靠地控制此類系統(tǒng)或以其他方式確保它們與人類利益保持對(duì)齊的手段。一些專家認(rèn)為，最終可能會(huì)證明，較低智力水平的人不可能持續(xù)可靠地、可持續(xù)地控制極其優(yōu)越的智力水平。3）如果人類創(chuàng)造出能力極其強(qiáng)大且無(wú)法可靠控制的人工智能系統(tǒng)，其結(jié)果很可能是有害的。先進(jìn)人工智能帶來(lái)的災(zāi)難性全球規(guī)模風(fēng)險(xiǎn)的例子包括：a）惡意行為者的濫用，例如新型病原體或網(wǎng)絡(luò)武器的創(chuàng)造和廣泛部署；b）未對(duì)齊，指創(chuàng)建一個(gè)或多個(gè)強(qiáng)大自主人工智能系統(tǒng)，其目標(biāo)與人類的目標(biāo)相沖突，無(wú)法控制或阻止。需要全球協(xié)調(diào)決策和執(zhí)行的第一個(gè)也是最緊迫的問(wèn)題是，是否以及何時(shí)足夠安全以允許超級(jí)智能的人工智能系統(tǒng)的開(kāi)發(fā)。世界各地的人們都有共同的利益，即確保任何地方的任何人都不會(huì)開(kāi)發(fā)出可能危害人類的人工智能系統(tǒng)。因此，在可靠的調(diào)整和控制機(jī)就緒之前，不應(yīng)允許具有超人類一般能力的人工智能系統(tǒng)。為了實(shí)現(xiàn)這一目標(biāo)，協(xié)調(diào)的許可制度可能需要事先進(jìn)行風(fēng)險(xiǎn)評(píng)估并獲得開(kāi)發(fā)最強(qiáng)大（即“前沿”）人工智能系統(tǒng)的許可，并且這種制度可以得到強(qiáng)有力的國(guó)際監(jiān)督機(jī)制的支持。然而，隨著開(kāi)發(fā)具有潛在危險(xiǎn)的強(qiáng)大人工智能系統(tǒng)所需的算法、數(shù)據(jù)和計(jì)算能力變得更加普及，執(zhí)行這一制度將變得更具挑戰(zhàn)性。人類必須共同解決的第二個(gè)問(wèn)題是，如果有可能開(kāi)發(fā)出安全且對(duì)齊的人工智能，那么我們要追求什么樣的未來(lái)。保證安全可能需要很長(zhǎng)時(shí)間，甚至被證明是不可能的，需要長(zhǎng)期或永久的全球嚴(yán)密禁止人工智能的發(fā)展。然而，如果在某個(gè)時(shí)刻人類確定創(chuàng)建一個(gè)或多個(gè)超級(jí)智能系統(tǒng)是安全的，就會(huì)出現(xiàn)許多基本問(wèn)題，例如要?jiǎng)?chuàng)建多少個(gè)人工智能系統(tǒng)，以及應(yīng)該賦予這些系統(tǒng)什么目標(biāo)、權(quán)利或限制。與不同國(guó)家可以獨(dú)立制定的許多人工智能政策選擇不同，圍繞引入一種新的高性能智能物種的問(wèn)題需要集體做出，因?yàn)檫@種人工智能系統(tǒng)甚至?xí)?duì)可能不希望擁有這種系統(tǒng)的社會(huì)產(chǎn)生影響，至10第一章 生成式人工智能的風(fēng)險(xiǎn)與挑戰(zhàn)少是間接影響。從理論上講，人類可以就某些此類問(wèn)題向人工智能本身尋求建議，但至少需要提前就這些問(wèn)題的參數(shù)和框架，以及選擇詢問(wèn)這些問(wèn)題的人工智能類型達(dá)成一定程度的共識(shí)。長(zhǎng)期以來(lái)，人工智能的變革潛力只存在于科幻小說(shuō)中，而現(xiàn)在，它實(shí)際上已經(jīng)來(lái)到了人類的家門(mén)口，需要在未來(lái)的幾個(gè)月和幾年里做出關(guān)鍵的決策和行動(dòng)。盡管這些問(wèn)題很嚴(yán)重，但似乎還遠(yuǎn)不能保證人類會(huì)認(rèn)識(shí)到這些問(wèn)題或及時(shí)應(yīng)對(duì)挑戰(zhàn)。需要努力幫助決策者了解風(fēng)險(xiǎn)并制定成功度過(guò)這一時(shí)期所需的新范式和新制度。要實(shí)現(xiàn)這一目標(biāo)，需要社會(huì)各界和世界各地的人貢獻(xiàn)想象力和奉獻(xiàn)精神。鄧肯·卡斯-貝格斯(DuncanCass-Beggs)，國(guó)際治理創(chuàng)新中心(CIGI)全球人工智能風(fēng)險(xiǎn)倡議執(zhí)行董事、經(jīng)濟(jì)合作與發(fā)展組織(OECD)前戰(zhàn)略展望顧問(wèn)。11生成式人工智能安全與全球治理報(bào)告第二章 生成式人工智能的全球治理策略基礎(chǔ)模型和生成式人工智能時(shí)代全球人工智能治理的制度設(shè)計(jì)原則尼古拉斯·莫斯(NicolasMo?s)，尤蘭達(dá)·蘭奎斯特(YolandaLannquist)，尼基·伊利亞迪斯(NikiIliadis)，尼古拉斯·米埃赫(NicolasMiailhe)基礎(chǔ)模型和生成式AI的新興時(shí)代為AI治理帶來(lái)了新的風(fēng)險(xiǎn)和挑戰(zhàn)。鑒于它們的廣泛應(yīng)用和快速采用，積極地理解和降低這些風(fēng)險(xiǎn)至關(guān)重要。本文提出了十條AI治理的制度設(shè)計(jì)原則，以確保安全和維護(hù)人類價(jià)值觀。內(nèi)在、廣泛和不可預(yù)測(cè)的風(fēng)險(xiǎn)：風(fēng)險(xiǎn)不受用例和應(yīng)用的限制，從設(shè)計(jì)到部署的整個(gè)生命周期都會(huì)出現(xiàn)。這些系統(tǒng)中的故障可能會(huì)以不可預(yù)測(cè)的方式出現(xiàn)，從廣泛的內(nèi)容審查偏見(jiàn)和公共心理健康危機(jī)，到自動(dòng)化惡意使用、生物安全、網(wǎng)絡(luò)安全和國(guó)家安全威脅，造成大規(guī)模、災(zāi)難性甚至生存性的風(fēng)險(xiǎn)?？尚诺脑O(shè)計(jì)：這種方法旨在從一開(kāi)始就將安全、安全性和倫理考慮因素嵌入AI中，而不是事后再進(jìn)行改裝，從而創(chuàng)造依賴于可信模型的新市場(chǎng)。收回控制權(quán)：獨(dú)立專家的第三方評(píng)估應(yīng)該補(bǔ)充內(nèi)部評(píng)估，以提供一個(gè)穩(wěn)固的安全網(wǎng)。監(jiān)管機(jī)構(gòu)必須有權(quán)力根據(jù)這些評(píng)估暫停或修改開(kāi)發(fā)過(guò)程。確保除私營(yíng)部門(mén)主導(dǎo)的內(nèi)部評(píng)估之外的穩(wěn)健機(jī)構(gòu)框架至關(guān)重要。技術(shù)和渠道中立：為確保公平競(jìng)爭(zhēng)并降低不可預(yù)見(jiàn)的風(fēng)險(xiǎn)，監(jiān)管應(yīng)橫跨技術(shù)和分銷渠道。無(wú)論AI系統(tǒng)是通過(guò)開(kāi)源平臺(tái)或API分發(fā)，還是使用不同的技術(shù)范式(如大腦仿真或基于規(guī)則的系統(tǒng))開(kāi)發(fā)，監(jiān)管審查的基線水平應(yīng)保持不變。針對(duì)性法律責(zé)任和社會(huì)責(zé)任：大型科技公司和AGI公司等強(qiáng)大利益相關(guān)者應(yīng)對(duì)其產(chǎn)品的影響負(fù)責(zé)和問(wèn)責(zé)，作為主要承擔(dān)責(zé)任的一方。在這些實(shí)體內(nèi)部，安全官和合規(guī)官等角色也應(yīng)承擔(dān)具體義務(wù)。結(jié)構(gòu)性和系統(tǒng)性實(shí)踐：安全、倫理和安全的做法應(yīng)該融入組織的文化中，而不僅僅局限于特殊的、附加的措施，如紅隊(duì)演練。法規(guī)應(yīng)強(qiáng)制執(zhí)行以基于證據(jù)的要求，這些要求應(yīng)隨著AI能力狀態(tài)的發(fā)展而變化?；谧C據(jù)的要求：開(kāi)發(fā)人員應(yīng)有義務(wù)通過(guò)經(jīng)驗(yàn)證據(jù)來(lái)證明其安全、倫理和安全實(shí)踐的有效性?；谧C據(jù)的措施應(yīng)隨著最先進(jìn)的AI能力以及風(fēng)險(xiǎn)緩解和預(yù)防措施的發(fā)展而變化，確保系統(tǒng)經(jīng)得起未來(lái)的考驗(yàn)。12第二章 生成式人工智能的全球治理策略公共部門(mén)能力建設(shè)：加強(qiáng)監(jiān)管有效性，這在很大程度上依賴于公共部門(mén)內(nèi)的知識(shí)和技能。這種知識(shí)應(yīng)該獨(dú)立獲得，不應(yīng)受到行業(yè)的不當(dāng)影響。知情的公共部門(mén)可以更好地抵制監(jiān)管俘獲，并在技術(shù)發(fā)展中對(duì)AI治理做出明智的決策?？蛇m應(yīng)和有韌性的治理機(jī)制：政策連續(xù)性必須具有靈活性，以適應(yīng)不斷變化的情況，同時(shí)避免行業(yè)控制導(dǎo)致范圍的稀釋或轉(zhuǎn)變。應(yīng)賦予新的機(jī)構(gòu)，如歐盟AI辦公室，更新規(guī)則的權(quán)力。來(lái)自民眾的監(jiān)督可以確保繼續(xù)關(guān)注安全、倫理和安全?？苫ゲ僮鞯娜蛑卫恚涸诟鱾€(gè)司法管轄區(qū)之間促進(jìn)一致的AI法規(guī)，這些法規(guī)在實(shí)施最穩(wěn)健的安全、倫理和安全措施方面相互補(bǔ)充。實(shí)體之間應(yīng)協(xié)調(diào)“提高治理要求的標(biāo)準(zhǔn)”，并避免法規(guī)碎片化導(dǎo)致的監(jiān)管套利。這些原則為治理提供了一個(gè)多方面、不斷發(fā)展的方法，可以適應(yīng)技術(shù)進(jìn)步。遵守這些原則可以幫助確保AI風(fēng)險(xiǎn)得到緩解，而收益得到廣泛和公平地分配。尼古拉斯·莫斯(NicolasMo?s)，未來(lái)社會(huì)(TFS)歐洲人工智能治理總監(jiān)，重點(diǎn)關(guān)注歐洲人工智能立法框架的發(fā)展，包括歐盟人工智能法案的起草和執(zhí)行機(jī)制。尤蘭達(dá)·蘭奎斯特(YolandaLannquist)，未來(lái)社會(huì)(TFS)全球人工智能治理總監(jiān)，與國(guó)際組織、政府、公司、學(xué)術(shù)界和非營(yíng)利組織一起領(lǐng)導(dǎo)人工智能治理和政策項(xiàng)目，以促進(jìn)人工智能安全、道德、安保和包容性。尼基·伊利亞迪斯(NikiIliadis)，未來(lái)社會(huì)(TFS)的人工智能和法治總監(jiān)，領(lǐng)導(dǎo)關(guān)于人工智能和法治以及美國(guó)人工智能政策的國(guó)際多利益相關(guān)者論壇雅典圓桌會(huì)議。尼古拉斯·米埃赫(NicolasMiailhe)，未來(lái)社會(huì)(TFS)總裁兼聯(lián)合創(chuàng)始人，人工智能全球伙伴關(guān)系(GPAI)、經(jīng)合組織人工智能專家組(ONE.AI)和聯(lián)合國(guó)教科文組織(UNESCO)人工智能倫理高級(jí)別專家組的專家。13生成式人工智能安全與全球治理報(bào)告有關(guān)全球人工智能治理的關(guān)鍵政策建議周輝在一個(gè)人工智能不斷重塑經(jīng)濟(jì)和社會(huì)結(jié)構(gòu)的時(shí)代，為這種變革性技術(shù)制定明智的治理機(jī)制已經(jīng)變得空前迫切。結(jié)合中國(guó)《人工智能法示范法》及歐盟、美國(guó)的治理探索來(lái)看，為更加有效地監(jiān)督通用人工智能或超越一定規(guī)模的基礎(chǔ)模型的研發(fā)和部署，建立有效的風(fēng)險(xiǎn)預(yù)警和應(yīng)對(duì)機(jī)制，需要采用多維度的框架以在適應(yīng)人工智能發(fā)展規(guī)律的同時(shí)，及時(shí)有效回應(yīng)由此產(chǎn)生的新風(fēng)險(xiǎn)新挑戰(zhàn)。一、倫理原則的規(guī)則化《人工智能法示范法》明確要求在人工智能研發(fā)、提供和使用活動(dòng)中，使用允許人類監(jiān)督和干預(yù)其運(yùn)行的系統(tǒng)架構(gòu)，這一制度設(shè)計(jì)旨在保障人為修正或停止人工智能系統(tǒng)運(yùn)作的能力，避免技術(shù)失控所帶來(lái)的危害。除此之外，為能夠更好預(yù)警風(fēng)險(xiǎn)，示范法吸收了一系列國(guó)際廣泛認(rèn)可的人工智能倫理原則，如確保人工智能透明度、公平、可追責(zé)等。人工智能研發(fā)者和提供者不僅需要對(duì)人工智能進(jìn)行標(biāo)記以提高用戶感知度，而且還需在設(shè)計(jì)中保障人工智能算法、模型的透明度和可解釋性，并在必要的時(shí)候向公眾或監(jiān)管機(jī)關(guān)提供相應(yīng)信息以進(jìn)行說(shuō)明。在公平方面，《人工智能法示范法》提出如下要求：一方面，人工智能研發(fā)應(yīng)用應(yīng)該促進(jìn)包容性，以減少數(shù)字鴻溝，并服務(wù)于各種弱勢(shì)群體；另一方面，人工智能系統(tǒng)需要盡可能減少歧視性內(nèi)容的生成和輸出，并遏制其使用者進(jìn)行類似活動(dòng)。二、精準(zhǔn)治理考慮到人工智能技術(shù)在復(fù)雜性和社會(huì)影響上的固有差異性，以及不同規(guī)模、不同用途的人工智能系統(tǒng)之間的區(qū)別，單一的治理框架難以滿足精準(zhǔn)治理的需要。《人工智能法示范法》提出了以負(fù)面清單為基礎(chǔ)的治理模型，采用事后的監(jiān)管審查作為其基石，同時(shí)為高風(fēng)險(xiǎn)的人工智能研發(fā)、提供納入預(yù)防策略。這種混合方法也與歐盟《人工智能法案》中明確的基于風(fēng)險(xiǎn)的框架相呼應(yīng)。針對(duì)通用人工智能或人工智能基礎(chǔ)模型，示范法亦對(duì)其研發(fā)者、提供者課以特別義務(wù)，這一模式借鑒平臺(tái)治理中對(duì)“數(shù)字守門(mén)人”提出專門(mén)責(zé)任義務(wù)要求的成熟實(shí)踐經(jīng)驗(yàn)，以減輕監(jiān)管壓力、提高治理效能。三、均衡發(fā)展與安全以人工智能技術(shù)助力經(jīng)濟(jì)社會(huì)發(fā)展，需要相關(guān)治理措施在發(fā)展和安全之間建立一個(gè)平衡，避免過(guò)于嚴(yán)苛的制度設(shè)計(jì)阻礙技術(shù)創(chuàng)新。為此，應(yīng)當(dāng)要求監(jiān)管機(jī)構(gòu)創(chuàng)造一個(gè)更加確定的監(jiān)管環(huán)境，保障相關(guān)企業(yè)的經(jīng)營(yíng)預(yù)期。此外，示范法納入了幾個(gè)明確旨在促進(jìn)人工智能技術(shù)發(fā)展的制度，包括發(fā)展算力基礎(chǔ)設(shè)施建設(shè)等配套領(lǐng)域和打通數(shù)據(jù)要14第二章 生成式人工智能的全球治理策略素供給、設(shè)計(jì)監(jiān)管沙盒制度、豁免開(kāi)源人工智能技術(shù)提供者的責(zé)任等。此外，負(fù)面清單制度也致力于營(yíng)造更寬松的低風(fēng)險(xiǎn)人工智能技術(shù)發(fā)展環(huán)境，除負(fù)面清單中所列的人工智能活動(dòng)需要獲取行政許可外，其余人工智能研發(fā)、提供活動(dòng)僅需完成與信息披露相關(guān)的備案程序，且該程序不應(yīng)成為實(shí)質(zhì)審批等行政阻礙。現(xiàn)有的法律框架仍可在低風(fēng)險(xiǎn)人工智能活動(dòng)中繼續(xù)適用。四、鼓勵(lì)技術(shù)治理和多元共治《人工智能法示范法》提出了鼓勵(lì)監(jiān)管科技、合規(guī)科技發(fā)展，實(shí)施多元主體綜合治理人工智能的愿景。一方面，應(yīng)支持監(jiān)管科技、合規(guī)科技的研發(fā)和應(yīng)用，創(chuàng)新治理工具，減輕治理壓力，促進(jìn)治理的智能化、自動(dòng)化、科學(xué)化和精準(zhǔn)化；另一方面，人工智能企業(yè)在治理中發(fā)揮重要作用，有充分條件將價(jià)值觀與法律規(guī)則融入人工智能系統(tǒng)中，并有充足動(dòng)機(jī)參與人工智能治理以為自己獲取穩(wěn)定發(fā)展環(huán)境。應(yīng)建立充分有效的溝通、會(huì)商機(jī)制，倡導(dǎo)企業(yè)自律和行業(yè)自治，并發(fā)揮社會(huì)輿論監(jiān)督作用，完善綜合治理體系。五、設(shè)立人工智能專責(zé)治理機(jī)關(guān)在目前的人工智能全球治理中，鑒于人工智能疊加現(xiàn)有網(wǎng)絡(luò)信息技術(shù)所能產(chǎn)生的跨區(qū)域、跨領(lǐng)域及跨國(guó)界應(yīng)用，解決潛在的重復(fù)監(jiān)管、多頭監(jiān)管問(wèn)題較為迫切。《人工智能法示范法》主張建立一個(gè)唯一的國(guó)家人工智能主管機(jī)關(guān)，承擔(dān)人工智能監(jiān)管職責(zé)的同時(shí)與其他部門(mén)進(jìn)行協(xié)調(diào)。這樣的機(jī)構(gòu)設(shè)計(jì)通過(guò)將監(jiān)管功能整合到一個(gè)專門(mén)的監(jiān)管機(jī)構(gòu)下，旨在增強(qiáng)治理的一致性、專業(yè)性和確定性。各國(guó)人工智能專門(mén)主管機(jī)關(guān)也可更高效率地建立和參與國(guó)際交流協(xié)調(diào)機(jī)制，推動(dòng)國(guó)家和地區(qū)間人工智能治理規(guī)則對(duì)接、規(guī)則互認(rèn)等合作。周輝，中國(guó)社會(huì)科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室副主任（主持工作）、副研究員，中國(guó)社會(huì)科學(xué)院大學(xué)法學(xué)院副教授、碩士生導(dǎo)師，耶魯大學(xué)法學(xué)院訪問(wèn)學(xué)者。15生成式人工智能安全與全球治理報(bào)告基礎(chǔ)模型開(kāi)發(fā)和部署的國(guó)際監(jiān)督羅伯特·特拉格(RobertTrager)，菲恩·海德(FynnHeide)對(duì)強(qiáng)大的新興技術(shù)建立國(guó)際監(jiān)督具有挑戰(zhàn)性。然而，對(duì)于先進(jìn)的人工智能，建立這樣的監(jiān)管體系勢(shì)在必行。這項(xiàng)技術(shù)帶來(lái)的風(fēng)險(xiǎn)跨越國(guó)界。即使一些國(guó)家引領(lǐng)人工智能發(fā)展，所有國(guó)家都會(huì)受到影響，因此所有國(guó)家都應(yīng)該在人工智能的開(kāi)發(fā)和部署監(jiān)管中擁有發(fā)言權(quán)。文本著眼于民用人工智能的國(guó)際治理機(jī)會(huì)。軍用人工智能的治理很重要，但更具挑戰(zhàn)性。我們可以從試圖通過(guò)《聯(lián)合國(guó)特定常規(guī)武器公約》來(lái)規(guī)范致命性自主武器的經(jīng)驗(yàn)中看到這一點(diǎn)。盡管經(jīng)過(guò)十年的努力，仍未采取具有法律約束力的措施。民用人工智能的國(guó)際監(jiān)督前景更加明朗。一種方法是使用類似于國(guó)際民用航空組(ICAO)、國(guó)際海事組織(IMO)或金融行動(dòng)特別工作組(FATF)的模式。這些組織不審計(jì)公司，而是審計(jì)管轄地。一個(gè)國(guó)際人工智能組織(IAIO)可以審計(jì)各轄區(qū)，以確保它們采用國(guó)際監(jiān)督標(biāo)準(zhǔn)并擁有執(zhí)行記錄。與IMO和ICAO一樣，這樣的組織應(yīng)與各國(guó)密切合作，以確保它們有合規(guī)能力。任何治理體系都需要促進(jìn)合規(guī)。促進(jìn)民用人工智能治理體系合規(guī)的一種方法是將其與貿(mào)易掛鉤。各國(guó)可能同意不從嚴(yán)重違反IAIO標(biāo)準(zhǔn)的司法管轄區(qū)進(jìn)口其供應(yīng)鏈包含人工智能的商品。他們還可能拒絕向此類司法管轄區(qū)出口關(guān)鍵投入，或向遵守協(xié)定框架的國(guó)家提供技術(shù)援助。由此產(chǎn)生的國(guó)內(nèi)層面的監(jiān)測(cè)和執(zhí)法可能會(huì)帶來(lái)重大好處。各國(guó)將不再那么擔(dān)心擴(kuò)散，局部的監(jiān)測(cè)和執(zhí)法可能有助于快速、有效地糾正違法行為。一般來(lái)說(shuō)，國(guó)內(nèi)執(zhí)法行動(dòng)比國(guó)際執(zhí)法行動(dòng)要快。該框架并未明確基礎(chǔ)模型監(jiān)管的具體細(xì)節(jié)——無(wú)論是國(guó)內(nèi)還是國(guó)際，我們對(duì)此還沒(méi)有達(dá)成共識(shí)。但建立國(guó)際治理并不需要完全的共識(shí),只需要對(duì)一套最小標(biāo)準(zhǔn)達(dá)成廣泛認(rèn)同即可。國(guó)際參與者可能會(huì)決定，超過(guò)一定規(guī)模的基礎(chǔ)模型將受到監(jiān)管審查，包括一系列標(biāo)準(zhǔn)化的模型評(píng)估。此類系統(tǒng)的開(kāi)發(fā)和部署可以得到當(dāng)?shù)刂鞴懿块T(mén)的許可。數(shù)據(jù)中心運(yùn)營(yíng)還需要一個(gè)許可證，該許可證需要類似于金融服務(wù)行業(yè)的“了解您的客戶”實(shí)踐。這樣的制度可以限制人工智能的有害發(fā)展，同時(shí)也促進(jìn)廣泛的應(yīng)用。事實(shí)上，監(jiān)管制度對(duì)于廣泛的應(yīng)用可能是必要的。如果監(jiān)管，前沿AI國(guó)家可能會(huì)擔(dān)心擴(kuò)散并更嚴(yán)格地限制對(duì)技術(shù)獲取。一個(gè)全球體制可以鼓勵(lì)前沿AI國(guó)家參與，同時(shí)保證全球受影響社區(qū)的發(fā)言權(quán)。16第二章 生成式人工智能的全球治理策略羅伯特·特拉格(RobertTrager)，牛津馬丁人工智能治理計(jì)劃主任、人工智能治理中心的國(guó)際治理負(fù)責(zé)人以及牛津大學(xué)布拉瓦尼克政府學(xué)院的高級(jí)研究員。專注于新興技術(shù)國(guó)際治理、外交實(shí)踐、制度設(shè)計(jì)和技術(shù)監(jiān)管。菲恩·海德(FynnHeide)，人工智能治理中心研究學(xué)者。專注于國(guó)際人工智能安全合作以及中國(guó)人工智能安全和政策。17生成式人工智能安全與全球治理報(bào)告協(xié)調(diào)、合作、緊迫性：國(guó)際人工智能治理的優(yōu)先事項(xiàng)卡洛斯·伊格納西奧·古鐵雷斯(CarlosIgnacioGutierrez)人工智能的國(guó)際治理本質(zhì)上是一個(gè)復(fù)雜的問(wèn)題，臨近2023年末，我們還沒(méi)有明確的解決方案。隨著這項(xiàng)技術(shù)的能力以不可預(yù)測(cè)的速度增長(zhǎng)，190多個(gè)國(guó)家管轄區(qū)承擔(dān)著管理其不斷升級(jí)和不可預(yù)見(jiàn)的風(fēng)險(xiǎn)的任務(wù)。為了解決這些風(fēng)險(xiǎn)，獨(dú)立行動(dòng)顯然不是一種最佳方法，因?yàn)樵谝粋€(gè)地方修補(bǔ)問(wèn)題，并不能阻止其蔓延到其他地方。相反，人工智能的有效治理是一項(xiàng)需要全球參與的共同努力?？紤]到這一點(diǎn)，社會(huì)應(yīng)優(yōu)先制定考慮以下因素多邊應(yīng)對(duì)措施：人工智能的哪些要素應(yīng)該受到治理以及如何治理？誰(shuí)應(yīng)該參與這個(gè)治理過(guò)程？什么時(shí)候是采取行動(dòng)的合適時(shí)機(jī)？何事和如何：人工智能風(fēng)險(xiǎn)的選擇空間兼具廣度和深度?？梢蕴岢鋈我鈹?shù)量的問(wèn)題來(lái)吸引國(guó)際社會(huì)的關(guān)注。然而，為了成功地推動(dòng)行動(dòng)，候選問(wèn)題必須在具有廣泛需求和能力的國(guó)家之間引發(fā)一種共同意識(shí)。啟動(dòng)對(duì)話的一項(xiàng)提議是重點(diǎn)關(guān)注減輕人工智能系統(tǒng)直接或間接造成的共同大規(guī)模高風(fēng)險(xiǎn)危害。設(shè)置這樣一個(gè)閾值的好處是它涵蓋了相對(duì)狹窄的關(guān)注集。此外，它還有助于集中認(rèn)識(shí)和同步努力，最好是通過(guò)一個(gè)多邊組織，其具體工作流程由以下目標(biāo)組成：識(shí)別人工智能系統(tǒng)產(chǎn)生的共同大規(guī)模高風(fēng)險(xiǎn)危害的載體。盡管通用人工智能系統(tǒng)會(huì)引起許多擔(dān)憂，但該工作的范圍必須包括符合其操作指南的狹窄系統(tǒng)。此外，它應(yīng)主動(dòng)告知利益相關(guān)者潛在風(fēng)險(xiǎn)并識(shí)別現(xiàn)有的危害媒介。協(xié)調(diào)技術(shù)上合理且符合最佳治理實(shí)踐的全球應(yīng)對(duì)措施。這可以采取多種形式，具體取決于當(dāng)前問(wèn)題的規(guī)模和根源。例如，應(yīng)對(duì)措施的范圍可以從征求自愿標(biāo)準(zhǔn)作為預(yù)防措施，到實(shí)施一套強(qiáng)制性規(guī)則作為對(duì)持續(xù)關(guān)注的反應(yīng)。強(qiáng)制遵守商定的行動(dòng)，以減少傷害的可能性和影響。由于人工智能的直接和間接影響往往不受管轄權(quán)的約束，因此建立有效的執(zhí)行機(jī)制需要最大限度地增加參與國(guó)的數(shù)量。雖然應(yīng)授權(quán)多邊努力發(fā)揮這一作用，但它也可以招募、認(rèn)證或委托公共機(jī)構(gòu)和第三方（通常是在管轄權(quán)的基礎(chǔ)上）來(lái)承擔(dān)這一任務(wù)，以擴(kuò)大其執(zhí)行能力。何人：無(wú)論其設(shè)計(jì)、開(kāi)發(fā)或部署人工智能技術(shù)的能力如何，所有國(guó)家都容易受到人工智能風(fēng)險(xiǎn)的影響，并可能有意或無(wú)意地托管或庇護(hù)高風(fēng)險(xiǎn)人工智能供應(yīng)鏈或系統(tǒng)本身的任何部分。這就是為什么無(wú)論地理位置、國(guó)家的政治制度或意識(shí)形態(tài)如何，合作都必須成為優(yōu)先事項(xiàng)。從本質(zhì)上講，任何國(guó)家都不應(yīng)被排除在參與解決全球人工智能問(wèn)題的多邊行動(dòng)之外。減輕共同的大規(guī)模高風(fēng)險(xiǎn)危害的能力取決于廣泛的參與。因此，應(yīng)考慮對(duì)廣泛的國(guó)家采取激勵(lì)措施，從那些對(duì)人工智能的設(shè)計(jì)、開(kāi)發(fā)和部署有影響力的國(guó)家，到那些在該技術(shù)風(fēng)險(xiǎn)方面作用相對(duì)有限的國(guó)家。18第二章 生成式人工智能的全球治理策略何時(shí)：我們面臨著每天都在部署越來(lái)越強(qiáng)大的人工智能系統(tǒng)的情況，而對(duì)于什么構(gòu)成適當(dāng)?shù)闹卫恚度氲淖⒁饬τ邢?。這凸顯了集體努力主動(dòng)應(yīng)對(duì)人工智能風(fēng)險(xiǎn)的緊迫性。即使今天著手開(kāi)始多邊協(xié)調(diào)與合作，也可能需要數(shù)年時(shí)間才能建立一個(gè)體系。因此，從短期來(lái)看，如果最初一批有影響力的國(guó)家主動(dòng)啟動(dòng)這一多邊進(jìn)程，也是可以理解的。這可能包括在系統(tǒng)商業(yè)部署、硬件制造、技術(shù)人才培養(yǎng)和/或建立全面監(jiān)管方面領(lǐng)先世界的國(guó)家。從長(zhǎng)遠(yuǎn)來(lái)看，聯(lián)合國(guó)是唯一具有普遍代表性并有能力主辦本評(píng)論中所述努力的組織。理想情況下，它應(yīng)該負(fù)責(zé)驗(yàn)證、協(xié)調(diào)和執(zhí)行減輕共同的人工智能風(fēng)險(xiǎn)的努力。結(jié)論：在優(yōu)化多邊治理方面，不存在“正確”答案。我們可以期待的是一個(gè)多邊人工智能治理計(jì)劃，該計(jì)劃優(yōu)先考慮協(xié)調(diào)、合作和緊迫性，以解決共同的大規(guī)模高風(fēng)險(xiǎn)危害。通過(guò)將全球注意力集中在緩解這些問(wèn)題上，國(guó)際社會(huì)需要建立必要的共性，以實(shí)現(xiàn)人工智能治理唯一負(fù)責(zé)任的最終狀態(tài)：這種技術(shù)的設(shè)計(jì)、開(kāi)發(fā)和部署是安全且合乎道德的?？逅埂ひ粮窦{西奧·古鐵雷斯(CarlosIgnacioGutierrez)，未來(lái)生命研究所(FLI)人工智能政策研究員。專注于人工智能治理，研究技術(shù)對(duì)硬法的影響，發(fā)表了關(guān)于美國(guó)法規(guī)漏洞的綜述，并設(shè)計(jì)了有效的軟法計(jì)劃。最新成就是發(fā)布全球人工智能軟法計(jì)劃數(shù)據(jù)庫(kù)。19生成式人工智能安全與全球治理報(bào)告數(shù)據(jù)倫理與聯(lián)合國(guó)教科文組織開(kāi)放科學(xué)建議國(guó)際科技數(shù)據(jù)委員會(huì)數(shù)據(jù)倫理工作組大數(shù)據(jù)和人工智能在科研中的廣泛應(yīng)用帶來(lái)了倫理和規(guī)范方面的挑戰(zhàn)，特別是在公開(kāi)性、隱私性、透明性、問(wèn)責(zé)制、公平性和責(zé)任性方面。國(guó)際科技數(shù)據(jù)委員會(huì)(CODATA)的數(shù)據(jù)倫理工作組(DEWG)正在與全球?qū)W者合作，共同確立數(shù)據(jù)倫理原則和覆蓋整個(gè)數(shù)據(jù)生命周期的數(shù)據(jù)倫理框架的基本共識(shí)，以進(jìn)一步開(kāi)展活動(dòng)和研究。DEWG有4個(gè)專題小組，分別關(guān)注科學(xué)誠(chéng)信、個(gè)人數(shù)據(jù)保護(hù)、本土數(shù)據(jù)治理和全球權(quán)力與經(jīng)濟(jì)關(guān)系。這將幫助CODATA按照聯(lián)合國(guó)教科文組織開(kāi)放科學(xué)建議，促進(jìn)其在支持全球開(kāi)放數(shù)據(jù)交流與應(yīng)用方面的使命。倫理與科學(xué)誠(chéng)信專題小組討論了研究的透明度、質(zhì)量、可重復(fù)利用性和影響力等話題，關(guān)注協(xié)作努力和開(kāi)放學(xué)術(shù)在支持科研誠(chéng)信方面的作用。我們建議制定政策和實(shí)際指南，以推進(jìn)全球數(shù)據(jù)倫理規(guī)范，通過(guò)創(chuàng)建支持結(jié)構(gòu)來(lái)增強(qiáng)研究人員的數(shù)據(jù)主權(quán)，并加強(qiáng)研究方法在數(shù)據(jù)倫理中的關(guān)鍵作用，開(kāi)發(fā)數(shù)據(jù)倫理培訓(xùn)和教育資源。倫理與個(gè)人數(shù)據(jù)保護(hù)專題小組探討了數(shù)據(jù)的政治及政治經(jīng)濟(jì)學(xué)相關(guān)問(wèn)題。我們建議構(gòu)建一個(gè)框架和政策，基于對(duì)隱私的更多批判性理解，認(rèn)識(shí)到損害個(gè)人和社區(qū)的潛在動(dòng)力和權(quán)力關(guān)系，并提供機(jī)會(huì)來(lái)提高對(duì)隱私及相關(guān)話題的技術(shù)、社會(huì)、法律和政治發(fā)展的技能。倫理與本土數(shù)據(jù)治理專題小組關(guān)注諸如CARE(集體利益、控制權(quán)限、責(zé)任和倫理)JUST(明智、無(wú)偏見(jiàn)、安全和透明)等數(shù)據(jù)原則，我們建議本土數(shù)據(jù)主權(quán)需要建立數(shù)據(jù)受托人(和類似的中介機(jī)構(gòu))，這將實(shí)現(xiàn)有選擇的數(shù)字披露。全球權(quán)力與經(jīng)濟(jì)關(guān)系專題小組探討了塑造國(guó)家層面和個(gè)人層面研究的結(jié)構(gòu)條件。許多國(guó)家背景中的學(xué)者面臨基礎(chǔ)設(shè)施不足、國(guó)家政策不支持、全球北方資助者控制研究議程以及少數(shù)出版商和大型科技公司主導(dǎo)等障礙。在個(gè)人層面，各地不符合典型學(xué)者形象(白人、身體健全、男性)的研究者面臨諸如意識(shí)形態(tài)和無(wú)意識(shí)偏見(jiàn)、種族主義、厭女癥、職業(yè)中斷和社會(huì)對(duì)照料的期待等多重障礙。DEWG已獲得2023年于奧地利薩爾茨堡舉行的CODATA全體大會(huì)批準(zhǔn)，晉升為數(shù)據(jù)倫理任務(wù)組。面對(duì)人工智能快速發(fā)展和廣泛應(yīng)用帶來(lái)的挑戰(zhàn)，這個(gè)任務(wù)組將在后續(xù)工作中加強(qiáng)對(duì)數(shù)據(jù)訪問(wèn)倫理的研究。致謝：本文件基于DEWG各專題小組的研究成果和報(bào)告，這些成果和報(bào)告已在2023國(guó)際數(shù)據(jù)周上由JohannesJohn-Langba、JoyJang、MasanoriArita、LouiseBezuidenhout和LianglinHu發(fā)布。20第二章 生成式人工智能的全球治理策略國(guó)際科技數(shù)據(jù)委員會(huì)(CODATA)數(shù)據(jù)倫理工作組(DEWG)，使命是與全球?qū)W者合作，為數(shù)據(jù)倫理原則和數(shù)據(jù)倫理框架的進(jìn)一步活動(dòng)和研究建立基本共識(shí)，具體目標(biāo)是就CODATA活動(dòng)如何有助于解決數(shù)據(jù)倫理問(wèn)題探索前景并提出建議。21生成式人工智能安全與全球治理報(bào)告通用人工智能或大型基礎(chǔ)模型的國(guó)際治理：漸進(jìn)原則與開(kāi)放探索張鵬通用人工智能或大型基礎(chǔ)模型的部署和應(yīng)用能夠顯著提升生產(chǎn)效率，增強(qiáng)決策質(zhì)量，是能夠影響人類社會(huì)發(fā)展的革命性技術(shù)，但其在實(shí)踐中也可能帶來(lái)偏見(jiàn)和歧視、數(shù)據(jù)隱私保護(hù)、網(wǎng)絡(luò)安全、知識(shí)產(chǎn)權(quán)、虛假信息等問(wèn)題。如果不能加上安全的護(hù)欄，將對(duì)人類生活帶來(lái)負(fù)面影響甚至生存風(fēng)險(xiǎn)。通用人工智能或大型基礎(chǔ)模型相較一般人工智能的特點(diǎn)是數(shù)據(jù)和參數(shù)規(guī)模龐大、運(yùn)行過(guò)程難以解釋，是資源密集型和數(shù)據(jù)密集型行業(yè)。它們的大規(guī)模商業(yè)化應(yīng)用形成的是由模型提供者、部署者、使用者和用戶組成的一條供應(yīng)鏈。因此，對(duì)通用人工智能或大型基礎(chǔ)模型的治理或監(jiān)管，也不能采取單一主體的視角，或者所有參與者“連帶責(zé)任”“一體問(wèn)責(zé)”的思路，而應(yīng)當(dāng)具有系統(tǒng)思維和精確的供應(yīng)鏈意識(shí)，區(qū)分供應(yīng)鏈上不同的主體及其對(duì)系統(tǒng)的控制力，根據(jù)控制力大小設(shè)置精細(xì)化、有區(qū)分的安全義務(wù)與合規(guī)要求。例如，上游提供者應(yīng)當(dāng)對(duì)底層模型引發(fā)的風(fēng)險(xiǎn)承擔(dān)更多的安全責(zé)任，下游使用者則應(yīng)當(dāng)對(duì)其產(chǎn)品和服務(wù)中對(duì)基礎(chǔ)模型的應(yīng)用產(chǎn)生的安全風(fēng)險(xiǎn)副承擔(dān)更多的預(yù)防、緩解和消除等義務(wù)。通用人工智能或大型基礎(chǔ)模型的國(guó)際治理，如能在最具普遍性和代表性的聯(lián)合國(guó)框架下制定統(tǒng)一的規(guī)則，是最理想的情況。也有很多觀點(diǎn)認(rèn)為應(yīng)當(dāng)借鑒國(guó)際社會(huì)對(duì)核能、氣候變化的治理經(jīng)驗(yàn)，建立相應(yīng)得制度和機(jī)構(gòu)。但要看到，通用人工智能或大型基礎(chǔ)模型作為一項(xiàng)新興技術(shù)，其發(fā)展仍處在方興未艾的階段，更涉及各國(guó)主權(quán)和復(fù)雜的地緣政治和科技競(jìng)爭(zhēng)等因素，各國(guó)立場(chǎng)主張和利益考量未必相同，要達(dá)成一致的共識(shí)和明確的規(guī)則難度不小。應(yīng)當(dāng)秉持邊發(fā)展、邊探索、邊治理的基本原則，倫理和標(biāo)準(zhǔn)先行，國(guó)內(nèi)立法和國(guó)際立法審慎包容、循序漸進(jìn)，在確保技術(shù)進(jìn)步和創(chuàng)新的同時(shí)建立有效國(guó)際治理框架，消除通用人工智能或大型基礎(chǔ)模型的潛在風(fēng)險(xiǎn)。張鵬，上海市人工智能與社會(huì)發(fā)展研究會(huì)高級(jí)研究員、對(duì)外經(jīng)貿(mào)大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心研究員。22第三章 人工智能治理助力發(fā)展中國(guó)家與全球可持續(xù)發(fā)展第三章 人工智能治理助力發(fā)展中國(guó)家與全球可持續(xù)發(fā)展發(fā)展中國(guó)家距離利用人工智能的力量還有多遠(yuǎn)？尤金尼奧·巴爾加斯·加西亞(EugenioVargasGarcia)對(duì)于許多發(fā)展中國(guó)家來(lái)說(shuō)，人工智能的前景仍然是一個(gè)遙遠(yuǎn)的夢(mèng)想。全球不平等是一個(gè)棘手的問(wèn)題。我們不應(yīng)低估這一挑戰(zhàn)的嚴(yán)重性。造成這種情況的原因是多方面的。以下是其中四點(diǎn)：競(jìng)爭(zhēng)性優(yōu)先事項(xiàng)——更緊迫的問(wèn)題，如貧困、饑餓、突發(fā)衛(wèi)生事件或暴力，通常在政策決定和預(yù)算分配中優(yōu)先考慮。缺乏資源——試圖在資金很少的情況下，同時(shí)解決不同的問(wèn)題可能是一項(xiàng)艱巨的任務(wù)，尤其是在科學(xué)和技術(shù)方面。數(shù)字基礎(chǔ)設(shè)施差——網(wǎng)絡(luò)連接效率低下（有時(shí)電力供應(yīng)也不可靠）、過(guò)時(shí)的通信網(wǎng)絡(luò)、硬件和計(jì)算能力短缺等。能力差距——盡管人才無(wú)處不在，不分國(guó)籍，但當(dāng)優(yōu)質(zhì)教育、技術(shù)專長(zhǎng)和就業(yè)機(jī)會(huì)缺失時(shí)，改變這種狀況所需的努力就會(huì)艱巨得多。由于上述原因和其他潛在因素，許多全球南方國(guó)家一直在努力彌合計(jì)算鴻溝并成為人工智能就緒國(guó)家。權(quán)力不對(duì)稱、貧富差距擴(kuò)大、數(shù)據(jù)剝削、網(wǎng)絡(luò)殖民、標(biāo)注員報(bào)酬過(guò)低、算法偏見(jiàn)和歧視性人工智能系統(tǒng)是最常見(jiàn)的困境。在許多地方，技術(shù)仍然不發(fā)達(dá)且未得到充分利用。最終用戶可以在線訪問(wèn)其他地方開(kāi)發(fā)的產(chǎn)品和服務(wù)，可能是通過(guò)帶有偏見(jiàn)的數(shù)據(jù)集進(jìn)行訓(xùn)練的，可能不適合本地需求或國(guó)家優(yōu)先事項(xiàng)。應(yīng)在更多不為人知的本土語(yǔ)言上訓(xùn)練模型，以便覆蓋盡可能多的人，包括弱勢(shì)群體或弱勢(shì)社區(qū)。技術(shù)很少是中立的。生成式人工智能一直由英語(yǔ)用戶的軟件主導(dǎo)。發(fā)展中國(guó)家必須推動(dòng)對(duì)使用本國(guó)語(yǔ)言的人工智能的研究。為了確保人工智能能夠幫助人類消除貧困、建設(shè)有韌性的社會(huì)、保護(hù)地球并在2030年實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)，我們還有很多工作要做。試圖通過(guò)大量投資迎頭趕上并不適合所有國(guó)家，特別是面臨嚴(yán)重障礙的最不發(fā)達(dá)國(guó)家。完全的數(shù)字主權(quán)和對(duì)自己數(shù)據(jù)的控制取決于國(guó)內(nèi)能力和適當(dāng)?shù)馁Y源。只有少數(shù)中等收入國(guó)家有可能在不訴諸國(guó)際合作的情況下，成功實(shí)施全面的本土人工智能戰(zhàn)略。23生成式人工智能安全與全球治理報(bào)告全球治理舉措可能會(huì)尋求通過(guò)建立創(chuàng)新機(jī)制來(lái)應(yīng)對(duì)這些挑戰(zhàn)，如通過(guò)多邊管轄下的云服務(wù)或超級(jí)計(jì)算機(jī)使研究設(shè)施和關(guān)鍵基礎(chǔ)設(shè)施得以利用。一種公私合作伙伴關(guān)系可以向發(fā)展中國(guó)家的專家提供人工智能資源。未來(lái)的國(guó)際治理機(jī)構(gòu)應(yīng)包括專門(mén)設(shè)計(jì)的計(jì)劃，旨在促進(jìn)人工智能的和平利用、本土研發(fā)自主權(quán)、技術(shù)傳播以及貧窮國(guó)家的實(shí)地實(shí)施。聯(lián)合研究、開(kāi)放訪問(wèn)、能力建設(shè)，以及公平公正的利益分配，對(duì)于不讓任何人掉隊(duì)至關(guān)重要。除非我們認(rèn)真對(duì)待世界上大多數(shù)人的關(guān)切，否則獲得人工智能革命的回報(bào)將只是少數(shù)人的特權(quán)，或者更糟糕的是，由個(gè)別人控制。尤金尼奧·巴爾加斯·加西亞(EugenioVargasGarcia)，科技外交官、巴西駐舊金山副總領(lǐng)事，科學(xué)、技術(shù)和創(chuàng)新負(fù)責(zé)人。人工智能與全球治理學(xué)術(shù)研究員。2018-2020年紐約聯(lián)合國(guó)大會(huì)主席前高級(jí)顧問(wèn)。24第三章 人工智能治理助力發(fā)展中國(guó)家與全球可持續(xù)發(fā)展推動(dòng)發(fā)展中國(guó)家參與人工智能治理與可持續(xù)發(fā)展魯傳穎人工智能技術(shù)的發(fā)展給世界各國(guó)的經(jīng)濟(jì)與社會(huì)發(fā)展帶來(lái)了機(jī)遇與挑戰(zhàn)。對(duì)于發(fā)達(dá)國(guó)家而言，機(jī)遇主要表現(xiàn)為可以利用人工智能技術(shù)推動(dòng)產(chǎn)業(yè)的轉(zhuǎn)型與升級(jí)，賦能經(jīng)濟(jì)的高速增長(zhǎng)。而對(duì)于發(fā)展中國(guó)家而言，主要的機(jī)遇則在于可以利用人工智能技術(shù)解決發(fā)展中的問(wèn)題，比如說(shuō)在醫(yī)療健康領(lǐng)域，人工智能一方面可以為醫(yī)生提供輔助性的數(shù)據(jù)分析，有利于對(duì)患者病情舉進(jìn)行充分了解和分析，提高發(fā)展中國(guó)家的醫(yī)療能力；另一方面，從更為宏觀的角度來(lái)講，人工智能可以推動(dòng)發(fā)展中國(guó)家建立系統(tǒng)的公民問(wèn)診和健康保障系統(tǒng)，從而提升發(fā)展中國(guó)家的醫(yī)療水平。此外，在教育、基礎(chǔ)設(shè)施、農(nóng)業(yè)、能源與環(huán)境等領(lǐng)域人工智能也為發(fā)展中國(guó)家?guī)?lái)了眾多的發(fā)展機(jī)遇。然而，從當(dāng)前來(lái)看，人工智能的發(fā)展紅利尚未惠及發(fā)展中國(guó)家。根據(jù)牛津洞察(OxfordInsight)發(fā)布的2022年的人工智能政府就緒指數(shù)，發(fā)展中國(guó)家在技術(shù)基礎(chǔ)設(shè)施