2024人工智能治理專題：CIDEG+研究通訊第20期-清華大學(xué)產(chǎn)業(yè)發(fā)展與環(huán)境治理研究中心

1CIDEG產(chǎn)業(yè)發(fā)展與環(huán)境治理研究中心centerforIndustrialDevelopnnentandEnvironentalGovernanceCIDEG研究通訊 3 3 6GIHI2023系列解讀6|人工智能專利爆炸式增長(zhǎng)！北京、粵港澳大灣區(qū)等中國(guó)城市成為全球人工智能技術(shù) 6 9 9 12 薛瀾教授對(duì)話AshleyLlorens：推動(dòng)人工智能正向發(fā) 19CIDEG產(chǎn)業(yè)經(jīng)濟(jì)系列研討：算法影響評(píng)價(jià)體系構(gòu)建與生 20《信息技術(shù)與管理應(yīng)用》賈開：ChatGPT作為“淺層革命”的進(jìn)步與局限——兼論通用智《中國(guó)行政管理》薛瀾、賈開、趙靜：人工智能敏捷治理實(shí)踐—— 21《國(guó)際論壇》賈開、俞晗之、薛瀾：人工智能全球治理新階段的特征、赤字與改革方向 22《數(shù)字法治》季衛(wèi)東、趙澤睿：人工智能倫理的程序保障 25 28 28 2【編者按】個(gè)領(lǐng)域，充分展現(xiàn)了其巨大的潛力和價(jià)值。隨著AI技術(shù)的迅猛發(fā)展，我們也面臨著諸響等。AI發(fā)展的治理問題，已成為當(dāng)前科技與社會(huì)進(jìn)步的核心議題，創(chuàng)新算法治理理為此，清華大學(xué)產(chǎn)業(yè)發(fā)展與環(huán)境治理研究中心（CIDEG）針對(duì)算法治理問題，于學(xué)國(guó)際與公共事務(wù)學(xué)院長(zhǎng)聘副教授、CIDEG兼職研究人員賈開主持。該研究旨在構(gòu)建中心指數(shù)》（GIHI）2023報(bào)告中，也對(duì)人工智能領(lǐng)域的相關(guān)研究進(jìn)行了專項(xiàng)評(píng)估。特智能技術(shù)發(fā)展中的重要地位等分析，為我們提近期，CIDEG的多位學(xué)者在人工智能領(lǐng)域發(fā)表了相關(guān)研究成果，在《信息技術(shù)與作為人工智能治理領(lǐng)域的權(quán)威專家，薛瀾教授在2024中國(guó)發(fā)展高層論壇與中關(guān)村論壇在學(xué)術(shù)活動(dòng)方面，CIDEG產(chǎn)業(yè)經(jīng)濟(jì)系列研討會(huì)圍繞算法影響評(píng)價(jià)體系的構(gòu)建與生享了各自的觀點(diǎn)和研究成果，為推動(dòng)算法治理理論和實(shí)踐本期CIDEG研究通訊特別聚焦人工智能（AI）發(fā)展的治理挑戰(zhàn)及其在中國(guó)和全球3【專題研究】人工智能算法影響評(píng)價(jià)（algorithmimpactass）？）？能效用的發(fā)揮及其治理影響的釋放都根植于所處環(huán)境，正是在與環(huán)一方面，算法在其應(yīng)用過程中需要簡(jiǎn)化現(xiàn)實(shí)復(fù)雜性，以單一變量代綜合影響，而這便會(huì)導(dǎo)致算法模型與現(xiàn)實(shí)世界的不一致；另一方面的算法模型也可能體現(xiàn)出現(xiàn)實(shí)復(fù)雜性，將原本隱藏在表面現(xiàn)象背后出來，從而暴露出不得不作出回應(yīng)的治理風(fēng)險(xiǎn)。算法與環(huán)境的這兩“過錯(cuò)原則”基礎(chǔ)上的現(xiàn)有侵權(quán)法或責(zé)任法框架可能失效，因試圖追溯因果鏈條的基本原則在算法與環(huán)境的相互混雜中難以被充分滿足。4分各討論了人工智能算法影響評(píng)價(jià)的治理邏輯和人工智能5容，而這也是未來進(jìn)一步需要完善之處。當(dāng)理論與實(shí)踐形成相互促進(jìn)的良性循環(huán)之后，......▼請(qǐng)掃碼查看完整報(bào)告6【相關(guān)研究】為進(jìn)一步比較國(guó)際科技創(chuàng)新中心城市在人工智能技術(shù)領(lǐng)域的技術(shù)創(chuàng)新能力，GIHI2023依托人工智能專利公開數(shù)據(jù)，從技術(shù)創(chuàng)新的數(shù)量、質(zhì)量、技術(shù)優(yōu)勢(shì)三個(gè)維Classification）分布三個(gè)指標(biāo)進(jìn)行測(cè)度。2020年后人工智能專利呈現(xiàn)爆炸式增長(zhǎng)，北京、粵港澳大灣區(qū)專利數(shù)量上超越東京，成為全球人工智能技術(shù)發(fā)展的主要力量。一、北京、上海、粵港澳大灣區(qū)表現(xiàn)概述北京在人工智能技術(shù)有效發(fā)明專利存量上排名第1名，擁有26638件，人工智能專利年均增長(zhǎng)率達(dá)到77%。在高質(zhì)量專利總量上，北京排名第5名，其中PCT專利量上排名第3名，擁有1608件，在人工智能技術(shù)領(lǐng)域三方專利量排名中位居第3名。近五年，北京在高質(zhì)量專利上保持高速增長(zhǎng)態(tài)勢(shì)。北京的高質(zhì)量專利主體較為分散，主要基于其企業(yè)和高校的雙重聚集優(yōu)勢(shì)助力其人工智能產(chǎn)業(yè)發(fā)展，如百度（380件）、京東方（228件）、小米（157件）、京東（136件）等高技術(shù)企業(yè)，華為（121件）、西門子（71件）等跨地區(qū)跨國(guó)企業(yè)合作，以及清華大學(xué)（168件）、北京大學(xué)（61件）等國(guó)際知名高校合力成為其發(fā)展的助推劑。相對(duì)而言，北京的高質(zhì)量專利主體則比較分散，表明其處于市場(chǎng)早期階段。1.2粵港澳大灣區(qū)粵港澳大灣區(qū)在人工智能技術(shù)有效發(fā)明專利存量上排名第2名，擁有20207件，人工智能專利年均增長(zhǎng)率達(dá)到92.4%。在高質(zhì)量專利總量上，粵港澳大灣區(qū)排名第2名，擁有2769件，在人工智能技術(shù)領(lǐng)域三方專利量排名中位居第5名。7件）、騰訊（985件）、中興（369件）、OPPO（368上海在人工智能技術(shù)有效發(fā)明專利存量上排名第9名，擁有6506件。在高質(zhì)量專利總量上，上海排名第15名，其中，在PCT專利量上排名第9名，擁有475件。三、專利熱點(diǎn)領(lǐng)域本報(bào)告選取PCT專利和三方專利均進(jìn)入前20的城市（都市圈分析這些城市的人工智能技術(shù)的熱點(diǎn)領(lǐng)域分布。在人工智能算法算力方面，粵港澳大灣區(qū)和北京則高度重視神經(jīng)網(wǎng)絡(luò)與遺傳算法、機(jī)器學(xué)習(xí)、自然語言處理的技術(shù)研發(fā)和布局。粵港澳大灣區(qū)在基于數(shù)學(xué)模式的計(jì)算機(jī)系統(tǒng)（第4名）、數(shù)據(jù)安全裝置（第2名）、其他計(jì)算機(jī)系統(tǒng)（第5名）、自然北京則在數(shù)據(jù)運(yùn)算裝置（第4名）、自然語言處理（第2名）、基于知識(shí)模式的4名）等方面排名前五。在智能控制技術(shù)方面，粵港澳大灣區(qū)重點(diǎn)布局?jǐn)?shù)據(jù)傳輸、數(shù)據(jù)交換等方面的技術(shù)，其中在程序控制機(jī)械手（第3名）程序控制系統(tǒng)（第4名）、數(shù)據(jù)交換網(wǎng)絡(luò)（第1名）、數(shù)字信息傳輸電路或系統(tǒng)（第2名）、程序控制單元（第2名）、數(shù)據(jù)傳輸裝置（第3名）等方面排名前五，優(yōu)勢(shì)領(lǐng)域明顯。北京則僅在程序控制單元（第5名）領(lǐng)域排名前五，仍需在智能控制技術(shù)上持續(xù)發(fā)力。在計(jì)算機(jī)視覺技術(shù)方面，粵港澳大灣區(qū)和北京等亞洲城市（都市圈）是計(jì)算機(jī)視覺技術(shù)的主要研發(fā)地區(qū)。其中，粵港澳大灣區(qū)在電視系統(tǒng)的零部件（第2名）、視頻8圖形識(shí)別（第1名）等方面排名前五。北京在視頻識(shí)別（第3名）、語音識(shí)別（第5名）、信息檢索（第2名）、圖像理解（第4名）、圖形識(shí)別（第3名）等方面排名在人工智能技術(shù)應(yīng)用方面，粵港澳大灣區(qū)、北京則在行業(yè)系統(tǒng)應(yīng)用方面具有相對(duì)優(yōu)勢(shì)。具體而言，粵港澳大灣區(qū)在用于醫(yī)療診斷的信息通信技術(shù)（第4名）、商業(yè)應(yīng)用系統(tǒng)（第4名）、人體測(cè)量診斷（第5名）、特定行業(yè)應(yīng)用系統(tǒng)（第5名）行政應(yīng)用系統(tǒng)（第3名）等方面排名前五。北京在商業(yè)應(yīng)用系統(tǒng)（第5名）、特定行業(yè)應(yīng)用系統(tǒng)（第4名）、行政應(yīng)用系統(tǒng)（第5名）等方面排名前五。整體而言，國(guó)際科技創(chuàng)新中心城市在人工智能技術(shù)領(lǐng)域的優(yōu)勢(shì)技術(shù)具有顯著差異。中國(guó)城市（都市圈）將在新一輪的人工智能技術(shù)浪潮中發(fā)揮重作用，是當(dāng)前階段熱點(diǎn)技術(shù)如神經(jīng)網(wǎng)絡(luò)與遺傳算法、圖形識(shí)別、機(jī)器學(xué)習(xí)、圖像理解等領(lǐng)域的重要推動(dòng)......▼請(qǐng)掃碼查看完整排名9【專家觀點(diǎn)】薛瀾："中國(guó)的人工智能有雄厚積累與先發(fā)優(yōu)勢(shì)，形成了推動(dòng)人工智能發(fā)展的總體規(guī)劃，在過去發(fā)展過程中也形成了自上而下和自下而上相結(jié)合的治理框架，人工智能技術(shù)也有非常廣闊的應(yīng)用場(chǎng)景。同時(shí)，中國(guó)人工智能發(fā)展未來也面臨著一些挑戰(zhàn)。AI為代表的美國(guó)技術(shù)前沿公司更是形成了你追我趕的局面。幾個(gè)星期前OpenAI推出了非常獨(dú)特的，跨模態(tài)的視頻生成工具Sora，時(shí)長(zhǎng)可以達(dá)到60秒，驚艷全球，將對(duì)短視頻等很多媒體娛樂行業(yè)產(chǎn)生巨大沖擊。同時(shí)，自動(dòng)駕駛、廣告、教育、醫(yī)療、安防等不同領(lǐng)域也受到很大影響并有可能成為Sora潛在的應(yīng)用市場(chǎng)。除此之外，在AI算力的核心硬件方面也有很多新突破，如GroqLPU這一新的大模型推理芯片，其制程雖然還是14納米，但由于有TSA架構(gòu)，使得其特定的處理能力非?？欤评硭俣缺菺PU快10倍，但能耗只是它的1/10。我國(guó)的芯片、GPU等硬件本來就受到制約，現(xiàn)在美國(guó)在這方面的新突破把差距進(jìn)一步拉大。這對(duì)中國(guó)的創(chuàng)新體系是一個(gè)很大的沖擊。中國(guó)現(xiàn)在的創(chuàng)新模式還是遵循比較傳統(tǒng)的線性模式，即從學(xué)術(shù)研究開始，到工程技術(shù)，最后再到產(chǎn)品。這個(gè)模式無法形成研究、工程和市場(chǎng)間密不可分的生態(tài)，這是現(xiàn)在中國(guó)創(chuàng)新體系亟待解決的問題。中國(guó)人工智能的最新發(fā)展態(tài)勢(shì)基本平穩(wěn)，中國(guó)在人工智能領(lǐng)域發(fā)表論文全世界最多，美國(guó)是第二，中美合作的論文也很多。在AI大模型方面，去年5月我們已經(jīng)發(fā)布了79個(gè)超過10億的大模型，現(xiàn)在已經(jīng)超過130個(gè)。如果單從量上講進(jìn)步很大，但是實(shí)際上我們的大模型還存在不少問題，因?yàn)橛胁簧偈怯锰讱ず推囱b的方式構(gòu)建的。具體而言，目前很多國(guó)外的模型是開源的，那么在開源的基礎(chǔ)上進(jìn)行套殼就可以形成一個(gè)套殼的大模型，接著再將一些這樣的大模型拼裝在一起就變成更大的大模型，這種方式做出來的大模型背后的原創(chuàng)性是有限的。另外，我們的算力也被“卡脖子”，比如英偉達(dá)的GPUA100和H100被美國(guó)禁售，很多公司受到影響。同時(shí)，中國(guó)數(shù)據(jù)質(zhì)量比較低也是一個(gè)問題。中國(guó)的數(shù)據(jù)量很大，但沒有真正產(chǎn)業(yè)化，相對(duì)標(biāo)準(zhǔn)化的數(shù)據(jù)服務(wù)商還比較少，因?yàn)榇髷?shù)據(jù)服務(wù)不賺錢，公共數(shù)據(jù)企業(yè)沒有意愿去清洗，定制化服務(wù)又一般收費(fèi)比較高。因此，數(shù)據(jù)市場(chǎng)如何構(gòu)建也是需要解決的問題。另外就是資本短視。資本短視有各種各樣的原因，其中一個(gè)原因是對(duì)中國(guó)資本市場(chǎng)政策不穩(wěn)定的擔(dān)心，另外就是商業(yè)化面臨一些挑戰(zhàn)等。所有這些都是中國(guó)大模型產(chǎn)業(yè)下一步發(fā)展需要思考和解決的問題。2018年習(xí)近平總書記在中央政治局第九次集體學(xué)習(xí)中特別強(qiáng)調(diào)要加強(qiáng)人工智能發(fā)展?jié)撛陲L(fēng)險(xiǎn)的研判和防范，確保人工智能安全可靠可控。2019年和2023年又特別強(qiáng)調(diào)重視通用人工智能的發(fā)展，營(yíng)造創(chuàng)新型生態(tài)，重視風(fēng)險(xiǎn)防范，綜合考慮人工智能發(fā)展的社會(huì)收益和潛在風(fēng)險(xiǎn)兩個(gè)方面。總書記的指示給我們推動(dòng)人工智能創(chuàng)新發(fā)展和防控風(fēng)險(xiǎn)指明了方向。從綜合社會(huì)收益講，生成式人工智能的滲透性非常強(qiáng)，對(duì)社會(huì)影響是全面的。對(duì)制造業(yè)來說，AI有利于推動(dòng)產(chǎn)業(yè)的數(shù)智化轉(zhuǎn)型升級(jí)，在推進(jìn)新質(zhì)生產(chǎn)力和高質(zhì)量發(fā)展方面潛力巨大。中國(guó)在這方面已經(jīng)做了很多探索，例如，三一重工制造工廠應(yīng)用人工智能技術(shù)之后提高185%，生產(chǎn)周期30天縮短到7天。同時(shí)，AI在推動(dòng)智力密集型的服務(wù)產(chǎn)業(yè)規(guī)?；矫嬉舶l(fā)揮了巨大作用。人工智能的潛在風(fēng)險(xiǎn)體現(xiàn)在多個(gè)層面。在個(gè)體層面，AI可能引發(fā)算法歧視、知識(shí)產(chǎn)權(quán)爭(zhēng)議、信息錯(cuò)誤等問題，這與技術(shù)本身相關(guān)。應(yīng)用和開發(fā)過程中也有問題，包括數(shù)據(jù)隱私保護(hù)、防范偽造等。目前我們比較關(guān)心的是這些直接的影響，但是社會(huì)層面還有一些更長(zhǎng)遠(yuǎn)的大問題，如勞動(dòng)力結(jié)構(gòu)調(diào)整、產(chǎn)業(yè)結(jié)構(gòu)調(diào)整等影響。同時(shí)，由于勞動(dòng)力結(jié)構(gòu)調(diào)整，可能對(duì)收入分配影響很大，從而加劇數(shù)字鴻溝、社會(huì)不公這些都是需要慎重考慮的。另外大模型訓(xùn)練的能源消耗非常厲害，現(xiàn)在看來可能所增加的溫室氣體排放也是不能忽視的。有人估算ChatGPT在整個(gè)訓(xùn)練周期的碳排放量相當(dāng)于開車到月亮再返回地球的總量。在國(guó)家安全層面的問題同樣讓人擔(dān)心，包括對(duì)社會(huì)穩(wěn)定的影響，在軍事上的應(yīng)用等。去年7月基辛格到訪中國(guó)，他非常關(guān)心的一個(gè)問題就是人工智能對(duì)國(guó)際安全的潛在影響，他提到二戰(zhàn)以后全世界之所以能保持總體和平環(huán)境，很重要的一點(diǎn)就是因?yàn)閲?guó)際社會(huì)形成了有效的核武器管控機(jī)制，這個(gè)機(jī)制基本保障了核武器沒有大規(guī)模擴(kuò)散。他認(rèn)為未來人類社會(huì)如果還想繼續(xù)保持安全，人工智能治理就應(yīng)成為核心，而中美兩國(guó)是全球人工智能治理最關(guān)鍵的國(guó)家。他非常積極地推動(dòng)中美兩國(guó)在這方面開展對(duì)話，后來我們也看到中美兩國(guó)元首在舊金山的峰會(huì)上一致同意開展中美兩國(guó)在人工智能領(lǐng)域的對(duì)話。在更高層面的風(fēng)險(xiǎn)上，我們都非常關(guān)心的就是通用人工智能會(huì)不會(huì)在哪一天不受人控制？會(huì)不會(huì)影響整個(gè)人類社會(huì)的生存？也就是硅基文明和碳基文明今后會(huì)有什么沖突？這個(gè)層面的風(fēng)險(xiǎn)是人類社會(huì)生存的風(fēng)險(xiǎn)。在這類問題上，Chat-GPT的出現(xiàn)影響了整個(gè)社會(huì)，尤其在技術(shù)領(lǐng)域，很多專家也開始高度關(guān)注這個(gè)問題。清華大學(xué)2020年成立了一個(gè)人工智能國(guó)際治理研究院，當(dāng)時(shí)一些技術(shù)領(lǐng)域的專家對(duì)提出人工智能治理還有不同看法，認(rèn)為人工智能技術(shù)剛剛發(fā)展起來，談治理太早了。國(guó)際上同樣也有這樣的聲音。這里有兩方面原因，首先，是對(duì)“治理”這個(gè)概念有一定誤解，大家只看到了治理概念中的規(guī)制一面。但治理包括兩個(gè)方面，一方面是怎么更好地構(gòu)建制度體系來推動(dòng)良性發(fā)展，另一方面是規(guī)制的一面，如何減少技術(shù)發(fā)展可能給社會(huì)帶來的風(fēng)險(xiǎn)及其損害。因此，治理對(duì)所有新技術(shù)的發(fā)展都是必要的。除此之外，當(dāng)時(shí)我們對(duì)所謂通用人工智能的潛在風(fēng)險(xiǎn)還沒有那么擔(dān)心，但Chat-GPT出來后變化就很大了。最近，我參與了一些著名人工智能技術(shù)專家和治理專家的共同努力，撰寫一篇提交給《科學(xué)》（Science）的論文。這篇論文就指出，我們已經(jīng)到了刻不容緩需要推動(dòng)人工智能全球治理的階段。這些技術(shù)專家之所以認(rèn)為情況變了，就是因?yàn)镃hat-GPT的出現(xiàn)讓他們認(rèn)為通用人工智能可能出現(xiàn)的時(shí)間要大大提前。除了剛剛談到的幾類綜合性風(fēng)險(xiǎn)，我們更多要考慮具體應(yīng)用場(chǎng)景。AI在電商、醫(yī)療、教育、科研等領(lǐng)域有很多應(yīng)用，可能產(chǎn)生巨大的社會(huì)收益，但也會(huì)有很多風(fēng)險(xiǎn)，我們需要探討怎么有效規(guī)避。技術(shù)本身產(chǎn)生的風(fēng)險(xiǎn)是典型案例。這里有個(gè)例子，當(dāng)我們問ChatGPT北京清華大學(xué)校歌歌詞是什么時(shí)，它會(huì)編造一個(gè)錯(cuò)誤的答案，把北京大學(xué)和清華大學(xué)的一些信息混用。除此之外，還有數(shù)據(jù)濫用、隱私泄露、深度偽造等很多其他風(fēng)險(xiǎn)。再如在電商這一特定情境下，有些電商會(huì)做虛假宣傳、大數(shù)據(jù)殺熟等。除此之外，未來人工智能領(lǐng)域的發(fā)展還需要綜合考慮其社會(huì)效應(yīng)，包括在塑造人類文明新形態(tài)的作用等?？傮w來說，中國(guó)的人工智能有雄厚積累與先發(fā)優(yōu)勢(shì)，形成了推動(dòng)人工智能發(fā)展的總體規(guī)劃，在過去發(fā)展過程中也形成了自上而下和自下而上相結(jié)合的治理框架，人工智能技術(shù)也有非常廣闊的應(yīng)用場(chǎng)景。同時(shí)，中國(guó)人工智能發(fā)展未來也面臨著一些挑戰(zhàn)。首先是怎么樣形成不同企業(yè)公平競(jìng)爭(zhēng)的市場(chǎng)環(huán)境，包括民營(yíng)企業(yè)、國(guó)有企業(yè)和外資企業(yè)、包括大中小企業(yè)等等，這種多元公平競(jìng)爭(zhēng)的市場(chǎng)環(huán)境對(duì)人工智能領(lǐng)域發(fā)展至關(guān)重要。其次是產(chǎn)業(yè)生態(tài)問題，如何建立企業(yè)、資金、人才等多方面主體和多方面資源能夠有效流通協(xié)調(diào)一致的產(chǎn)業(yè)生態(tài)。第三是治理問題，怎么形成可預(yù)期、包容審慎、敏捷有效的治理框架，為形成鼓勵(lì)人工智能發(fā)展的市場(chǎng)環(huán)境和產(chǎn)業(yè)生態(tài)奠定制度基礎(chǔ)。最后，就是怎么聚集全球頂尖人工智能人才，Open-AI是全世界各國(guó)不同優(yōu)秀人才聚集發(fā)展起來，人才多元化程度很高，中國(guó)在這方面需要加大開放力度。我們相信在各方面的共同努力下，中國(guó)人工智能領(lǐng)域能夠抓住發(fā)展機(jī)遇，克服重重困難，迎接多方面的挑戰(zhàn)，有效防控各種風(fēng)險(xiǎn)，讓人工智能的發(fā)展為中國(guó)現(xiàn)代化建設(shè)服務(wù)，為世界和平發(fā)展服務(wù)。▼詳細(xì)內(nèi)容請(qǐng)掃描查看全文2024年4月23日至25日，上海交通大學(xué)文科資深教授、CIDEG學(xué)術(shù)委員季衛(wèi)東在澳門參加了為今年9月聯(lián)合國(guó)未來峰會(huì)而召開的預(yù)備性對(duì)話和2024年聯(lián)合國(guó)大學(xué)澳門人工智能國(guó)際研討會(huì)，作為創(chuàng)始成員出席了UNUAINetwork啟動(dòng)儀式，并策劃和主持了關(guān)于亞太地區(qū)生成式人工智能治理和法律的分論壇。季衛(wèi)東教授指出：怎樣面對(duì)發(fā)展與安全之間的巨大張力，這是人工智能立法的核心問題；根據(jù)對(duì)這個(gè)問題的不同理解和解答，迄今為止各主要國(guó)家的制度設(shè)計(jì)可以大致分為四種模式，即歐盟的“硬法模式”、美國(guó)和日本的“軟法模式”、中國(guó)的“軟硬兼施法模式”以及新加坡的“技術(shù)程序法模式”。他認(rèn)為，如果大模型的技術(shù)研發(fā)不僅是AI治理的對(duì)象，也可以反過來為AI治理賦能，那么科技企業(yè)就不會(huì)對(duì)人工智能立法感到憂心忡忡。實(shí)際上，如果大模型的安全研究通過技術(shù)-程序的進(jìn)路能夠形成測(cè)試、打假系統(tǒng)、建立AI倫理管理指標(biāo)體系和認(rèn)證平臺(tái)、編制AI安全保障網(wǎng)，那么監(jiān)管與發(fā)展就不再是一種零和游戲，AI治理還能為AI研發(fā)開拓出新的投資機(jī)遇或者市場(chǎng)空間，通過錯(cuò)位競(jìng)爭(zhēng)構(gòu)成企業(yè)的科技藍(lán)海。換言之，只有在語言大模型和多模態(tài)大模型的性能提升與安全度提升形成某種正比關(guān)系之際，只有在監(jiān)管轉(zhuǎn)變?yōu)槌绦虮疚缓图夹g(shù)本位之際，各國(guó)以及全球才有可能真正進(jìn)入所謂“人工智能治理的立法時(shí)刻”。季衛(wèi)東教授會(huì)議期間還就中美兩國(guó)關(guān)于人工智能的政▼詳細(xì)內(nèi)容請(qǐng)掃描查看全文ChatGPT的迅速崛起在當(dāng)前掀起一股輿論熱潮。與技術(shù)進(jìn)步的傳統(tǒng)爭(zhēng)論多數(shù)處于技術(shù)樂觀主義與技術(shù)悲觀主義之爭(zhēng)的范疇不同，圍繞ChatGPT的爭(zhēng)議似乎更加分化：富有科幻想象色彩的自媒體在渲染這項(xiàng)新技術(shù)可能產(chǎn)生的影響，而來自技術(shù)社區(qū)的聲音則質(zhì)疑這項(xiàng)技術(shù)的創(chuàng)新性和顛覆性。然而，無論如何，ChatGPT已經(jīng)推動(dòng)全社會(huì)正在經(jīng)歷自2016年AlphaGo之后的又一次人工智能“洗禮”：AI技術(shù)取代人從事某些屬于人腦創(chuàng)造性的工作，已發(fā)生在眼前了。在技術(shù)以超出人們預(yù)期的方式快速發(fā)展的背景下，究竟應(yīng)如何認(rèn)識(shí)及定位智能技術(shù)的價(jià)值及其局限，突顯出極為重要的意義。本期推送的文章通過回顧科學(xué)革命、智能革命兩個(gè)領(lǐng)域的歷史性爭(zhēng)論，展示了ChatGPT爭(zhēng)論背后的技術(shù)理念和科技哲學(xué)。電子科技大學(xué)公共管理學(xué)院副教授，清華大學(xué)產(chǎn)業(yè)發(fā)展與環(huán)境治理研究中心研究員賈開發(fā)表了題為《ChatGPT是更接近人腦的智能技術(shù)嗎？》的文章，在本文看來，體現(xiàn)“淺層解釋”理念的ChatGPT只應(yīng)被視為智能技術(shù)探索路徑上的一種選擇，其不應(yīng)作為不能被改變的技術(shù)前提。以“多重技術(shù)路線探索”的眼光來認(rèn)識(shí)ChatGPT并確立對(duì)其恰當(dāng)?shù)亩ㄎ?，可能是更值得追求的分析態(tài)度。......▼詳細(xì)內(nèi)容請(qǐng)掃描查看全文近日，清華大學(xué)文科資深教授、蘇世民書院院長(zhǎng)、CIDEG學(xué)術(shù)委員會(huì)聯(lián)席主席薛瀾受邀出席由微軟亞洲研究院與清華大學(xué)蘇世民書院聯(lián)合舉辦的“促進(jìn)人工智能的合作與學(xué)術(shù)交流”的座談會(huì)。會(huì)上，薛瀾教授和微軟研究院副總裁、微軟杰出首席科學(xué)家、微軟研究院全球研究合作負(fù)責(zé)人AshleyLlorens博士就人工智能未來發(fā)展所需的合作展開了深入討論，并分享了他們各自對(duì)跨領(lǐng)域與國(guó)際合作、人才培養(yǎng)等問題的見解。謝幸：人工智能技術(shù)和相關(guān)工具的日益普及，引發(fā)了人們對(duì)其可能帶來的機(jī)遇和潛在風(fēng)險(xiǎn)的關(guān)注。兩位對(duì)人工智能發(fā)展的治理有什么看法？薛瀾：作為一名政策分析者而非計(jì)算機(jī)科學(xué)家，我對(duì)人工智能技術(shù)的細(xì)節(jié)了解不多，但我一直在密切關(guān)注新技術(shù)可能給社會(huì)帶來的影響。我曾參與中國(guó)在2017年發(fā)布的《新一代人工智能發(fā)展規(guī)劃》起草過程中的討論，并提到了發(fā)展人工智能需要關(guān)注潛在的風(fēng)險(xiǎn)。大家可以看到，這份規(guī)劃中明確地強(qiáng)調(diào)了要關(guān)注人工智能發(fā)展可能引發(fā)的風(fēng)險(xiǎn)和相關(guān)的治理需求。后來，我被任命為新一代人工智能治理專業(yè)委員會(huì)的主任，并一直從事人工智能治理相關(guān)的工作。許多人都擔(dān)憂人工智能可能帶來的潛在風(fēng)險(xiǎn)，但也有大量技術(shù)專家擔(dān)心，政府的過度監(jiān)管可能抑制技術(shù)的發(fā)展。如何在兩者之間取得平衡，是我們當(dāng)前面臨的一大挑戰(zhàn)。對(duì)此，我們一直倡導(dǎo)將敏捷治理作為人工智能的治理方法。由于人工智能的發(fā)展給人類社會(huì)帶來了諸多益處，所以推動(dòng)其創(chuàng)新發(fā)展是毋庸置疑的。但同時(shí)，未知的風(fēng)險(xiǎn)也是巨大的，我們不能放任其野蠻發(fā)展，關(guān)鍵在于我們的治理如何適應(yīng)并跟上這一新技術(shù)的發(fā)展腳步。因此，我們需要審慎地觀察人工智能的發(fā)展，在必要時(shí)采取措施引導(dǎo)規(guī)制，同時(shí)避免過度干預(yù)阻礙其發(fā)展。AshleyLlorens：我在人工智能領(lǐng)域有20年的工作經(jīng)驗(yàn)，親眼見證了機(jī)器學(xué)習(xí)技術(shù)和機(jī)器人應(yīng)用將我們帶入了一個(gè)激動(dòng)人心的時(shí)代。我們正在經(jīng)歷技術(shù)史上的一個(gè)歷史性時(shí)刻，一個(gè)關(guān)鍵的轉(zhuǎn)折點(diǎn)。回顧幾十年來計(jì)算技術(shù)的發(fā)展，人們開發(fā)了各種應(yīng)用程序來完成特定任務(wù)，現(xiàn)在我們已經(jīng)創(chuàng)造了非常復(fù)雜的方式來顯式地編程，讓機(jī)器執(zhí)行任務(wù)，例如使用Windows系統(tǒng)與各種應(yīng)用程序和軟件進(jìn)行交互，這些程序?qū)Ⅻc(diǎn)擊的動(dòng)作映射為用戶的實(shí)際意圖，比如打開Word文檔等。隨著機(jī)器學(xué)習(xí)技術(shù)的崛起，系統(tǒng)可以通過數(shù)據(jù)和經(jīng)驗(yàn)實(shí)現(xiàn)自我編程、自動(dòng)創(chuàng)建映射、自主完成任務(wù)。實(shí)際上，經(jīng)過學(xué)習(xí)訓(xùn)練的程序就是一個(gè)高度參數(shù)化的數(shù)學(xué)函數(shù)，但在大語言模型和多模態(tài)模型出現(xiàn)之前，一個(gè)訓(xùn)練過的程序只能完成一項(xiàng)任務(wù)，比如一個(gè)計(jì)算機(jī)視覺算法，它接收像素輸入并輸出分析結(jié)果，描述圖像中包含的對(duì)象或預(yù)測(cè)視頻序列中要執(zhí)行的動(dòng)作。但現(xiàn)在，自監(jiān)督機(jī)器學(xué)習(xí)的過程可以創(chuàng)建執(zhí)行多個(gè)任務(wù)的程序，而且還可以使用自然語言對(duì)它進(jìn)行再編程。ChatGPT帶來的改變是革命性的。我們可以使用開發(fā)人員提供的基礎(chǔ)模型，以前所未有地方式使用這些工具，或者用開發(fā)者未曾想到的方式進(jìn)行創(chuàng)新。回到人工智能的機(jī)遇和風(fēng)險(xiǎn)這一問題上。用戶可以更具創(chuàng)新性地來使用這些技術(shù)工具，但這也帶來了風(fēng)險(xiǎn)，比如，用戶想用工具來做一些不好的事，或者因?yàn)閷?duì)模型能力的片面理解導(dǎo)致模型產(chǎn)生了意外的結(jié)果，尤其是在醫(yī)療等關(guān)鍵領(lǐng)域，有些意外結(jié)果將是危及生命的。因此，技術(shù)與人類需要共同進(jìn)化，在利用技術(shù)優(yōu)勢(shì)的同時(shí)，也要基于負(fù)責(zé)任的人工智能原則來進(jìn)行創(chuàng)新。微軟推出的大語言模型產(chǎn)品都經(jīng)過了嚴(yán)格的測(cè)試，就是這種共同進(jìn)化的例證。謝幸：我想大多數(shù)人都會(huì)認(rèn)同這是一個(gè)技術(shù)變革的時(shí)代，也意識(shí)到了機(jī)遇與挑戰(zhàn)的并存。人工智能的快速發(fā)展，特別是大語言模型的興起，既彰顯了技術(shù)的進(jìn)步，也引發(fā)了很多擔(dān)憂。兩位對(duì)人工智能的未來有什么看法？是樂觀更多一些，還是會(huì)有些正因?yàn)楝F(xiàn)在有很多人關(guān)注這個(gè)問題，才讓我對(duì)人工智能的未來感到樂觀。以核技術(shù)為例，在其發(fā)展初期，科學(xué)家們也為核彈的發(fā)展展開過爭(zhēng)論，當(dāng)人們看到核彈的破壞力之后，便開始倡導(dǎo)停止這項(xiàng)技術(shù)，并形成了一整套控制核武器擴(kuò)散的機(jī)制。由此可見，人類社會(huì)是有能力控制技術(shù)的應(yīng)用，限制技術(shù)向負(fù)面方向發(fā)展的。同樣，在生物技術(shù)領(lǐng)域，基因編輯等前沿技術(shù)能夠完成很多超乎想象的事情，但也伴隨著倫理道德方面的擔(dān)憂。而現(xiàn)在醫(yī)學(xué)界和生命科學(xué)界已經(jīng)嘗試提出一套倫理方針來指導(dǎo)研究。人工智能科學(xué)家和政府機(jī)構(gòu)也在努力探索治理機(jī)制，來為技術(shù)提供防護(hù)欄。因此，我對(duì)人工智能的未來還是持樂觀態(tài)度的。AshleyLlorens：我同意薛教授的觀點(diǎn)。我從事人工智能和機(jī)器學(xué)習(xí)相關(guān)工作已經(jīng)有很長(zhǎng)時(shí)間了，如果10年前我說自己是做機(jī)器學(xué)習(xí)的，很多人會(huì)感到困惑。但現(xiàn)在，人們對(duì)人工智能的發(fā)展有了更多的了解，而且計(jì)算機(jī)領(lǐng)域之外的人每天也在利用這項(xiàng)技術(shù)解決實(shí)際問題。我們也看到在學(xué)術(shù)界，很多人在推動(dòng)人工智能技術(shù)的發(fā)展。人類的一個(gè)優(yōu)勢(shì)是擅長(zhǎng)使用工具，從某種角度來說，人工智能作為一種工具，是我們與物理世界交互的延伸，也是我們認(rèn)知能力的放大器。同時(shí)，我們也需要保持警惕。樂觀、懷疑、悲觀，這些不同的態(tài)度都是正常的。當(dāng)我們從整個(gè)社會(huì)的角度來考慮資源投入時(shí)，要把這些態(tài)度都納入考量，關(guān)鍵在于投入的分配比例。盡管一顆小行星撞擊地球的可能性非常小，但美國(guó)國(guó)家航空航天局（NASA）還是投入了一些資金，通過小行星重定向項(xiàng)目來降低相關(guān)的風(fēng)險(xiǎn)。我想說的是，我們需要有一個(gè)多元的投入組合來反映我們對(duì)先進(jìn)技術(shù)的不同態(tài)度，并且要確保我們的決策不會(huì)阻礙技術(shù)的正向發(fā)展。謝幸：清華大學(xué)和微軟研究院都是高度國(guó)際化的組織，并且有豐富的國(guó)際合作經(jīng)驗(yàn)，你們?nèi)绾慰创龂?guó)際合作在應(yīng)對(duì)人工智能風(fēng)險(xiǎn)和挑戰(zhàn)方面的作用？以及如何讓合作更為有效？AshleyLlorens：國(guó)際合作在人工智能領(lǐng)域至關(guān)重要。我們需要找到最佳的合作方式，以實(shí)現(xiàn)更大的成功和積極成果，同時(shí)避免負(fù)面影響。微軟一直致力于推動(dòng)人工智能技術(shù)的正向應(yīng)用，例如我們發(fā)起的“氣候研究倡議（MicrosoftClimateResearchInitiative,MCRI）?,就是旨在利用人工智能技術(shù)應(yīng)對(duì)氣候變化。在內(nèi)部，我們與可持續(xù)發(fā)展研究領(lǐng)域的同事合作，確定了人工智能和計(jì)算技術(shù)可以幫助應(yīng)對(duì)氣候變化挑戰(zhàn)的三個(gè)研究方向：碳核算、碳減排和氣候韌性。在外部，我們與高校合作共同探索如何結(jié)合新的遙感技術(shù)和人工智能進(jìn)行碳核算，其中就有來自清華大學(xué)的研究員。這是我們通過合作推動(dòng)技術(shù)正向應(yīng)用的一個(gè)例子。薛瀾：從全球視角看，近年來科學(xué)家之間的國(guó)際合作日益增加。在研究層面，合作尤為重要，我們的研究發(fā)現(xiàn)，在科技文獻(xiàn)發(fā)表方面美國(guó)和中國(guó)是合作最多的國(guó)家。在機(jī)構(gòu)合作方面，就像Ashley提到的，清華大學(xué)的科學(xué)家加入到微軟資助的研究項(xiàng)目中，還有很多清華大學(xué)的畢業(yè)生在微軟工作，微軟也和清華大學(xué)在很多項(xiàng)目上開展了合作。在國(guó)家層面，我們要避免極端競(jìng)爭(zhēng)的情況出現(xiàn)，給科技合作提供基本保障。謝幸：除了國(guó)際合作，跨學(xué)科合作也是人工智能發(fā)展的重要維度。越來越多的研究人員意識(shí)到，要推動(dòng)人工智能的進(jìn)步，必須與社會(huì)科學(xué)等其他學(xué)科相結(jié)合，以便更深入地理解和應(yīng)對(duì)人工智能對(duì)社會(huì)的影響。請(qǐng)兩位談?wù)勀銈儗?duì)跨學(xué)科合作在人工智能發(fā)展中的作用和意義的看法。薛瀾：我們今天的座談會(huì)就是一次跨學(xué)科對(duì)話與合作的例證。在人工智能治理方面，我們需要技術(shù)專家、哲學(xué)家、政策制定者和管理人員的共同參與，跨學(xué)科合作對(duì)人工智能的發(fā)展非常關(guān)鍵。人工智能對(duì)公共管理和社會(huì)科學(xué)研究的影響正受到越來越多的關(guān)注。很多人認(rèn)為，人工智能帶來了巨大的范式轉(zhuǎn)變，新技術(shù)改變了社會(huì)科學(xué)研究的格局。因此，我們需要加強(qiáng)不同學(xué)科間的合作，清華大學(xué)也成立了社會(huì)科學(xué)和計(jì)算機(jī)科學(xué)的跨學(xué)科研究機(jī)構(gòu)。AshleyLlorens：跨學(xué)科合作是解決人工智能領(lǐng)域中核心問題的關(guān)鍵。作為人工智能的科研人員，我認(rèn)為探索通用智能的本質(zhì)會(huì)帶來很多有趣的技術(shù)挑戰(zhàn)，其中最有趣的科學(xué)問題是關(guān)于人類的問題。還有一些更廣泛的社會(huì)問題，比如社會(huì)是否應(yīng)該與這些技術(shù)共同進(jìn)化。這些問題非常有意義，也是非常重要的問題。微軟研究院很早就意識(shí)到了這一點(diǎn)，我們匯集了很多社會(huì)科學(xué)家，包括計(jì)算社會(huì)科學(xué)家、經(jīng)濟(jì)學(xué)家、人類學(xué)家等各領(lǐng)域的專家。我們還需要更多來自不同領(lǐng)域和不同背景知識(shí)的人才，來共同構(gòu)建一個(gè)跨學(xué)科合作的社區(qū)。謝幸：鑒于跨學(xué)科合作的重要性，我們需要培養(yǎng)更多的跨學(xué)科人才。然而，目前這方面的人才還比較匱乏。我們應(yīng)該如何為未來的人工智能培養(yǎng)跨學(xué)科人才，以應(yīng)對(duì)未來的變化和挑戰(zhàn)？AshleyLlorens：我們必須處理好人工智能對(duì)教育的影響，并充分利用其為教育帶來的機(jī)遇。從小培養(yǎng)孩子的算法思維和系統(tǒng)性思維，比以往任何時(shí)候都更重要，技術(shù)可以幫助我們實(shí)現(xiàn)這一目標(biāo)?，F(xiàn)在，機(jī)會(huì)就在眼前，我們需要加大這方面的投入和同時(shí)，我們也需要在學(xué)校中規(guī)范地使用人工智能技術(shù)，比如在論文撰寫中合理運(yùn)用AI。我們不應(yīng)過度依賴工具，而忽視必要技能的培養(yǎng)，當(dāng)然我們也不能忽視對(duì)新興技術(shù)的使用。薛瀾：未來，人工智能有望幫助消除不同領(lǐng)域之間的障礙。人們常常有一種固有印象，認(rèn)為學(xué)習(xí)科學(xué)和數(shù)學(xué)知識(shí)之后，再學(xué)習(xí)人文和社會(huì)科學(xué)是件很容易的事，但反過來卻比較困難?，F(xiàn)在人工智能也許可以改變這種領(lǐng)域偏見。人們可以平等地使用各種工具來學(xué)習(xí)科學(xué)、數(shù)學(xué)、工程和社會(huì)科學(xué)等，或許這是未來使用人工智能工具就能實(shí)現(xiàn)的。AshleyLlorens：我完全同意。我相信，未來人們可以更容易地享受到技術(shù)進(jìn)步帶來的好處，使用自然語言編程系統(tǒng)將成為一項(xiàng)基本技能。盡管這還存在挑戰(zhàn)，但微軟研究院正朝著這個(gè)目標(biāo)努力，到那時(shí)不僅計(jì)算機(jī)科學(xué)家可以用編程語言編寫代碼，非計(jì)算機(jī)科學(xué)家也能用自然語言為代碼庫(kù)做出貢獻(xiàn)。未來5到10年，我們對(duì)技術(shù)人員的定義可能就會(huì)完全不同。▼詳細(xì)內(nèi)容請(qǐng)掃描查看全文【學(xué)術(shù)活動(dòng)】3月8日下午，清華大學(xué)產(chǎn)業(yè)發(fā)展與環(huán)境治理研究中心舉辦“算法影響評(píng)價(jià)體系構(gòu)建與生成式人工智能安全治理”專題研討會(huì)。來自對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)、國(guó)家工業(yè)信息安全發(fā)展研究中心、阿里研究院、騰訊研究院、瑞萊智慧、抖音集團(tuán)、螞蟻集團(tuán)等機(jī)構(gòu)或企業(yè)的多位專家學(xué)者，以及清華大學(xué)公共管理學(xué)院教授、CIDEG主任陳玲，清華大學(xué)公共管理學(xué)院副教授、CIDEG副主任趙靜，上海交通大學(xué)國(guó)際與公共事務(wù)學(xué)院副教授、CIDEG兼職研究人員賈開等共同出席了會(huì)議。研討會(huì)由趙靜副主任主持，她首先介紹了會(huì)議背景，并對(duì)各方朋友的到來表示熱忱歡迎。她表示，希望此次研討會(huì)進(jìn)一步促進(jìn)各方的合作交流，共同深化對(duì)生成式人工智能安全治理的認(rèn)識(shí)。賈開老師就“人工智能算法影響評(píng)價(jià)體系構(gòu)建與應(yīng)用實(shí)踐”主題作了引導(dǎo)性發(fā)言。與會(huì)專家學(xué)者圍繞中國(guó)算法治理的主要工具及其特點(diǎn)、《生成式人工智能服務(wù)安全基本要求》的內(nèi)容、企業(yè)主體參與人工智能安全治理的感受與思考等話題展開了熱烈深入的探討，并就下一步研究空間進(jìn)行了合作展望。會(huì)議由陳玲主任總結(jié)。她表示，CIDEG既關(guān)注安全治理，也關(guān)心產(chǎn)業(yè)發(fā)展與創(chuàng)新，發(fā)展和創(chuàng)新是更大的安全。她指出，從數(shù)據(jù)治理的實(shí)踐史來看，治理體系不是簡(jiǎn)單的“從松到緊”，而是有著更加生動(dòng)豐富的演變。......▼詳細(xì)內(nèi)容請(qǐng)掃描查看全文【出版發(fā)表】通用智能與“人-機(jī)關(guān)系”可以通過自上而下的模型建構(gòu)來實(shí)現(xiàn)通用人工智能？人工智能何被納入生產(chǎn)體系并影響價(jià)值生產(chǎn)過程？應(yīng)如何定位大模型在控制風(fēng)險(xiǎn)，還是明確技術(shù)在知識(shí)/價(jià)值生產(chǎn)體系中上海交通大學(xué)國(guó)際與公共事務(wù)學(xué)院長(zhǎng)聘副教授、CID智能與“人-機(jī)”關(guān)系》的文章，其核心內(nèi)容是以ChatGPT為背景，進(jìn)一步以昂格爾的分▼詳細(xì)內(nèi)容請(qǐng)掃描查看全文摘要：紛繁復(fù)雜的人工智能應(yīng)用風(fēng)險(xiǎn)在帶來監(jiān)管挑戰(zhàn)的同時(shí)，也讓追求敏捷成為當(dāng)前人工智能治理的共識(shí)性理念。但如何在具體路徑、機(jī)制、工具上實(shí)現(xiàn)真正的敏捷監(jiān)管尚缺乏系統(tǒng)的學(xué)理分析與實(shí)踐指引。遵循科層體系運(yùn)作邏輯的監(jiān)管部門在克服制度張力和應(yīng)對(duì)不確定性方面存在天然不足，實(shí)踐改革因此普遍將“分類”視為一種適應(yīng)復(fù)雜性與提升敏捷性的潛在思路。通過對(duì)人工智能多領(lǐng)域業(yè)態(tài)發(fā)展模式與技術(shù)創(chuàng)新規(guī)律的比較分析，以及綜合人工智能各領(lǐng)域現(xiàn)有國(guó)際治理經(jīng)驗(yàn)，本文構(gòu)建了人工智能治理風(fēng)險(xiǎn)的關(guān)鍵分類維度及與之相適應(yīng)的全譜系政策工具箱。研究試圖為監(jiān)管實(shí)踐者提供一個(gè)合意的分類思路與政策工具組合指引，使監(jiān)管實(shí)踐可從產(chǎn)業(yè)特征標(biāo)定分類治理對(duì)象，并在對(duì)應(yīng)的政策工具箱中尋找政策組合。內(nèi)治理與全球治理的重要議題。［12］在此背景下，強(qiáng)調(diào)依技術(shù)發(fā)展與應(yīng)用變化而調(diào)整治理手段和工具的“敏捷治理”理念，成為利益相關(guān)方的廣泛共識(shí)。［34］作為一般通用題5］則成了當(dāng)前監(jiān)管體系改革與政策調(diào)整的重點(diǎn)。同時(shí)，人工智能敏捷治理改革的▼詳細(xì)內(nèi)容請(qǐng)掃描查看全文l《國(guó)際論壇》賈開、俞晗之、薛瀾：人工智能全球治理新階段的特征、赤字與改摘要：人工智能技術(shù)及應(yīng)用超出預(yù)期的快速發(fā)展已經(jīng)引起了國(guó)際社會(huì)的普遍關(guān)注，并推動(dòng)人工智能全球治理進(jìn)入新階段。已有研究的單一、靜態(tài)視角難以刻畫人工智能全球治理的全貌，本文從主體、機(jī)制雙重視角的實(shí)踐梳理勾勒出其當(dāng)前進(jìn)展與特征。人工智能全球治理正在經(jīng)歷從多方主體主導(dǎo)向多邊主體主導(dǎo)的演化進(jìn)程，且形成了以原則理念、技術(shù)方案、工作項(xiàng)目、平臺(tái)機(jī)構(gòu)四項(xiàng)核心機(jī)制并行的主要特征，但仍然存在三方面治理赤字：由于治理過程開放性和責(zé)任性不足而導(dǎo)致的合理性赤字、由于治理成果的結(jié)構(gòu)性失衡而導(dǎo)致的公正性赤字、由于治理效能難執(zhí)行與錯(cuò)位問題導(dǎo)致的有效性赤字。面對(duì)新階段的機(jī)遇與挑戰(zhàn)，“競(jìng)爭(zhēng)性合作”理念有助于打開新的改革空間，其要求將“零和博弈”轉(zhuǎn)變?yōu)椤白兒筒┺摹?，?qiáng)調(diào)利益與目標(biāo)不完全一致但又相互依賴的獨(dú)立決策主體間的關(guān)系策略，能夠兼具敏捷性與“硬約束”特征，而這三點(diǎn)有助于回應(yīng)當(dāng)前進(jìn)程的治理赤字。未來，不僅要關(guān)注人工智能本身的動(dòng)態(tài)演化及其引發(fā)的治理挑戰(zhàn)，更應(yīng)關(guān)注圍繞技術(shù)演化而動(dòng)態(tài)發(fā)展的國(guó)際關(guān)系，以推動(dòng)人工智能全球治理的良性發(fā)展。精彩內(nèi)容節(jié)選如下：趨勢(shì)，例如美國(guó)在該領(lǐng)域仍然強(qiáng)調(diào)與“志趣相同”國(guó)家的合作，并且要求限制向“志趣不同”國(guó)家的技術(shù)輸出與交流，試圖通過“劃小圈子”來影響乃至主導(dǎo)人工智能的全球發(fā)展題，以在限制“監(jiān)管套利”行為的基礎(chǔ)上，維系國(guó)際社會(huì)利益相關(guān)方的基本權(quán)益；第三，三、針對(duì)人工智能全球治理進(jìn)程的反思：合理其要求從程序合理性方面對(duì)“誰應(yīng)該向誰施加治理權(quán)力”問題作出回答；“工智能全球治理成果的正義性，其要求確保不同主體從人工智能發(fā)展中“獲得其所應(yīng)獲得的、承擔(dān)其所應(yīng)當(dāng)承擔(dān)的”；“有效性”涉及人工智能全球治理的效能問題，即在經(jīng)過體建設(shè)。就這三點(diǎn)而言，當(dāng)前人工智能全球治理進(jìn)程面的治理赤字仍然體現(xiàn)出不足。在此背景下，建設(shè)大一統(tǒng)的治理機(jī)治理框架都是不切實(shí)際的。如何在承認(rèn)競(jìng)爭(zhēng)前提下推動(dòng)國(guó)際合作，“競(jìng)爭(zhēng)性合作”理念可作為未來改革的指導(dǎo)方向。共管理、全球治理領(lǐng)域，其內(nèi)涵是“利益與目標(biāo)不完全一致但又相互依賴的獨(dú)立決策主方的決策選擇，而在相互交疊處的合作則可能增進(jìn)整體▼詳細(xì)內(nèi)容請(qǐng)掃描查看全文l《數(shù)字法治》季衛(wèi)東、趙澤睿：人工智能倫理的程序保障摘要：人工智能的風(fēng)險(xiǎn)治理需要倫理先行與法律保障。注重倫理先行，是為了應(yīng)對(duì)人工智能在技術(shù)研發(fā)和社會(huì)應(yīng)用時(shí)引發(fā)的道德規(guī)范不確定性問題。一般而言，人工智能倫理是化解決策風(fēng)險(xiǎn)的意義脈絡(luò)以及對(duì)失范現(xiàn)象進(jìn)行意義處理的溝通理論，為此需要首先提供促進(jìn)風(fēng)險(xiǎn)溝通的程序和選擇機(jī)制。然而，當(dāng)下的人工智能風(fēng)險(xiǎn)治理在相當(dāng)程度上混淆了技術(shù)研發(fā)倫理和社會(huì)應(yīng)用倫理，且僅聚焦實(shí)體性倫理原則而忽視程序性倫理規(guī)則，導(dǎo)致了高標(biāo)道德而無法在法律、政策、監(jiān)控等層面得到具體落實(shí)的困境。只有注重程序性倫理規(guī)則、法律程序以及技術(shù)性正當(dāng)程序，才能實(shí)現(xiàn)人工智能風(fēng)險(xiǎn)治理的多元價(jià)值共存