人工智能治理專題

清華大學(xué)產(chǎn)業(yè)發(fā)展與環(huán)境治理研究中心編 2024年06月【專題研究】 3《人工智能算法影響評價(jià)體系構(gòu)建與應(yīng)用實(shí)踐》 3【相關(guān)研究】 6GIHI2023系列解讀6|人工智能專利爆炸式增長！北京、粵港澳大灣區(qū)等中國城市成為全球人工智能技術(shù)發(fā)展主要力量 【專家觀點(diǎn)】 9薛瀾：人工智能發(fā)展的治理挑戰(zhàn) 9季衛(wèi)東：人工智能治理國際合作的重要性 12賈開：ChatGPT是更接近人腦的智能技術(shù)嗎？ 13薛瀾教授對話AshleyLlorens：推動人工智能正向發(fā)展，跨領(lǐng)域與國際合作至關(guān)重要 14【學(xué)術(shù)活動】 19CIDEG產(chǎn)業(yè)經(jīng)濟(jì)系列研討：算法影響評價(jià)體系構(gòu)建與生成式人工智能安全治理 19【出版發(fā)表】 20ChatGPT作為“淺層革命”的進(jìn)步與局限——兼論通用智能與“人-機(jī)關(guān)系”20《中國行政管理》薛瀾、賈開、趙靜：人工智能敏捷治理實(shí)踐——分類監(jiān)管思路與政策工具箱構(gòu)建 21《國際論壇》賈開、俞晗之、薛瀾：人工智能全球治理新階段的特征、赤字與改革方向 22《數(shù)字法治》季衛(wèi)東、趙澤睿：人工智能倫理的程序保障 25【學(xué)者動態(tài)】 28薛瀾教授出席2024中國發(fā)展高層論壇：人工智能面臨治理挑戰(zhàn) 28薛瀾出席2024中關(guān)村論壇：人工智能安全上路，首先裝好剎車” 29【編者按】AI技術(shù)的迅猛發(fā)展，我們也面臨著諸響等。AI發(fā)展的治理問題，已成為當(dāng)前科技與社會進(jìn)步的核心議題，創(chuàng)新算法治理理念和機(jī)制成為當(dāng)前亟待解決的重要課題。為此，清華大學(xué)產(chǎn)業(yè)發(fā)展與環(huán)境治理研究中心（CIDEG）針對算法治理問題，于2022CIDEG兼職研究人員賈開主持。該研究旨在構(gòu)建為算法治理實(shí)踐改革提供堅(jiān)實(shí)的理論基礎(chǔ)和實(shí)踐指導(dǎo)。（NatureResearch）中心指數(shù)》（GIHI）2023報(bào)告中，也對人工智能領(lǐng)域的相關(guān)研究進(jìn)行了專項(xiàng)評估。特智能技術(shù)發(fā)展中的重要地位等分析，為我們提供了豐富的數(shù)據(jù)和深入的見解。近期，CIDEG的多位學(xué)者在人工智能領(lǐng)域發(fā)表了相關(guān)研究成果，在《信息技術(shù)與2024中國發(fā)展高層論壇與中關(guān)村論壇上，深入闡述了人工智能治理的重要性及挑戰(zhàn)。在學(xué)術(shù)活動方面，CIDEG產(chǎn)業(yè)經(jīng)濟(jì)系列研討會圍繞算法影響評價(jià)體系的構(gòu)建與生享了各自的觀點(diǎn)和研究成果，為推動算法治理理論和實(shí)踐的發(fā)展貢獻(xiàn)了智慧和力量。CIDEG研究通訊特別聚焦人工智能（AI）發(fā)展的治理挑戰(zhàn)及其在中國和全球的成果，以期為讀者提供深入的了解和參考?！緦ｎ}研究】（algorithmimpactassessment,AIA）作為一種治理機(jī)制已經(jīng)（即人工智能算法影響評價(jià)的必要性問題（即人工智能算法影響評價(jià)的特殊性問題（局限性問題）？對于這些問題的探索性回答，構(gòu)成了本報(bào)告的主要內(nèi)容。整提供參考。具體而言，這又可以總結(jié)為三點(diǎn)。第一第二，算法技術(shù)方案難以被解釋、難以被窮盡的基本邏輯使得算法治理將始終處于第三治理不得不陷入集體效用改善與個(gè)體權(quán)益侵害同時(shí)發(fā)生的公平性“悖論”“漏洞”“悖論”成為隱藏在算法治理不同案例下的共性要求。對算法治理的過程進(jìn)行記錄以累積治理經(jīng)驗(yàn)（由此回應(yīng)實(shí)驗(yàn)性的治理要求（由此回應(yīng)動態(tài)性的治理要求接下來本報(bào)告的第二“算法影響評價(jià)是什么”2023815日，《生成式人工智能服務(wù)管理暫行辦法》正式施行，提2（影響評價(jià)制度的完善進(jìn)程。......【相關(guān)研究】GIHI20236|為進(jìn)一步比較國際科技創(chuàng)新中心城市在人工智能技術(shù)領(lǐng)域的技術(shù)創(chuàng)新能力，GIHI2023依托人工智能專利公開數(shù)據(jù)，從技術(shù)創(chuàng)新的數(shù)量、質(zhì)量、技術(shù)優(yōu)勢三個(gè)維IPC（InternationalPatentClassification）分布三個(gè)指標(biāo)進(jìn)行測度。2020年后人工智能專利呈現(xiàn)爆炸式增長，北京、粵港澳大灣區(qū)專利數(shù)量上超越東京，成為全球人工智能技術(shù)發(fā)展的主要力量。一、北京、上海、粵港澳大灣區(qū)表現(xiàn)概述北京北京在人工智能技術(shù)有效發(fā)明專利存量上排名第1名，擁有26638件，人工智能專利年均增長率達(dá)到77%。在高質(zhì)量專利總量上，北京排名第5名，其中PCT專利量上排名第3名，擁有1608件，在人工智能技術(shù)領(lǐng)域三方專利量排名中位居第3名。近五年，北京在高質(zhì)量專利上保持高速增長態(tài)勢。北京的高質(zhì)量專利主體較為分散，主要基于其企業(yè)和高校的雙重聚集優(yōu)勢助力其人工智能產(chǎn)業(yè)發(fā)展，如百度（380件）、京東方（228件）、小米（157件）、京東（136件）等高技術(shù)企業(yè)，華為（121件）、西門子（71件）等跨地區(qū)跨國企業(yè)合作，以及清華大學(xué)（168件）、北京大學(xué)（61件）等國際知名高校合力成為其發(fā)展的助推劑。相對而言，北京的高質(zhì)量專利主體則比較分散，表明其處于市場早期階段。粵港澳大灣區(qū)粵港澳大灣區(qū)在人工智能技術(shù)有效發(fā)明專利存量上排名第2名，擁有20207件，人工智能專利年均增長率達(dá)到92.4%。在高質(zhì)量專利總量上，粵港澳大灣區(qū)排名第2名，擁有2769件，在人工智能技術(shù)領(lǐng)域三方專利量排名中位居第5名。（2267件件、騰訊（985件）、中興（369件）、OPPO（368件）智能產(chǎn)業(yè)位居世界前列。上海上海在人工智能技術(shù)有效發(fā)明專利存量上排名第9名，擁有6506件。在高質(zhì)量專15PCT9475二、其他中國城市表現(xiàn)概述中國城市人工智能專利總量領(lǐng)先全球，人工智能技術(shù)有效發(fā)明專利存量前20城市（都市圈）14三、專利熱點(diǎn)領(lǐng)域本報(bào)告選取PCT專利和三方專利均進(jìn)入前20的城市（都市圈），分析這些城市的人工智能技術(shù)的熱點(diǎn)領(lǐng)域分布。在人工智能算法算力方面，粵港澳大灣區(qū)和北京則高度重視神經(jīng)網(wǎng)絡(luò)與遺傳算算機(jī)系統(tǒng)（4名、數(shù)據(jù)安全裝置（2名、其他計(jì)算機(jī)系統(tǒng)（5名、自然語言處理（1名、基于知識模式的計(jì)算機(jī)系統(tǒng)（4名、機(jī)器學(xué)習(xí)（4名、（3名（2名等方面排名前五。北京則在數(shù)據(jù)運(yùn)算裝置（4名、自然語言處理（2名、基于知識模式的（5名（5名（第4名）等方面排名前五。其中在程序控制機(jī)械手（3名）程序控制系統(tǒng)（4名）、數(shù)據(jù)交換網(wǎng)絡(luò)（1名、數(shù)字信息傳輸電路或系統(tǒng)（2名、程序控制單元（2名、數(shù)據(jù)傳輸裝置（第3名）等方面排名前五，優(yōu)勢領(lǐng)域明顯。北京則僅在程序控制單元（第5名）領(lǐng)域排名前五，仍需在智能控制技術(shù)上持續(xù)發(fā)力。在計(jì)算機(jī)視覺技術(shù)方面，粵港澳大灣區(qū)和北京等亞洲城市（都市圈）是計(jì)算機(jī)視覺技術(shù)的主要研發(fā)地區(qū)。其中，粵港澳大灣區(qū)在電視系統(tǒng)的零部件（第2名）、視頻識別（1名、語音識別（3名、信息檢索（1名、圖像理解（2名、圖形識別（第1名）等方面排名前五。北京在視頻識別（第3名）、語音識別（第5名）、信息檢索（第2名）、圖像理解（第4名）、圖形識別（第3名）等方面排名前五。（4名、商業(yè)應(yīng)用系統(tǒng)（4名、人體測量診斷（5名、特定行業(yè)應(yīng)用系統(tǒng)（5名行政應(yīng)用系統(tǒng)（3名等方面排名前五。北京在商業(yè)應(yīng)用系統(tǒng)（5名、特定行業(yè)應(yīng)用系統(tǒng)（第4名）、行政應(yīng)用系統(tǒng)（第5名）等方面排名前五。整體而言，國際科技創(chuàng)新中心城市在人工智能技術(shù)領(lǐng)域的優(yōu)勢技術(shù)具有顯著差異。中國城市（都市圈）將在新一輪的人工智能技術(shù)浪潮中發(fā)揮重作用，是當(dāng)前階段熱點(diǎn)技術(shù)如神經(jīng)網(wǎng)絡(luò)與遺傳算法、圖形識別、機(jī)器學(xué)習(xí)、圖像理解等領(lǐng)域的重要推動力量。......【專家觀點(diǎn)】薛瀾：人工智能發(fā)展的治理挑戰(zhàn)薛瀾："中國的人工智能有雄厚積累與先發(fā)優(yōu)勢，形成了推動人工智能發(fā)展的總能技術(shù)也有非常廣闊的應(yīng)用場景。同時(shí)，中國人工智能發(fā)展未來也面臨著一些挑戰(zhàn)。"202211ChatGPTOpenAI為代表的美國技術(shù)前沿公司更是形成了你追我趕的局面。幾個(gè)星期前OpenAI推出了非常獨(dú)特的，跨模態(tài)的視頻生成工具Sora60秒，驚艷全球，將對短視頻等很多媒體娛樂行業(yè)產(chǎn)生巨大沖擊。同時(shí)，自動駕駛、廣告、教育、醫(yī)療、安防等不同領(lǐng)域也受到很大影響并有可能成為Sora潛在的應(yīng)用市場。除此之外，在AI算力的核心硬件方面也有很多新突破，如GroqLPU這一新的大模型推理芯片，其制程雖然還是14納米，但由于有TSA架構(gòu)，使得其特定的處理能力非常快，推理速度比GPU快10倍，但能耗只是它的1/10。我國的芯片、GPU等硬件本來就受到制約，現(xiàn)在美國在這方面的新突破把差距進(jìn)一步拉大。這對中國的創(chuàng)新體系是一個(gè)很大的沖擊。中國現(xiàn)在的創(chuàng)新模式還是遵循比較傳統(tǒng)的線性模式，即從學(xué)術(shù)研究開始，到工程技術(shù)，最后再到產(chǎn)品。這個(gè)模式無法形成研究、工程和市場間密不可分的生態(tài)，這是現(xiàn)在中國創(chuàng)新體系亟待解決的問題。中國人工智能的最新發(fā)展態(tài)勢基本平穩(wěn)，中國在人工智能領(lǐng)域發(fā)表論文全世界最多，美國是第二，中美合作的論文也很多。在AI大模型方面，去年5月我們已經(jīng)發(fā)布了79個(gè)超過10億的大模型，現(xiàn)在已經(jīng)超過130個(gè)。如果單從量上講進(jìn)步很大，但是實(shí)際上我們的大模型還存在不少問題，因?yàn)橛胁簧偈怯锰讱ず推囱b的方式構(gòu)建的。具體而言，目前很多國外的模型是開源的，那么在開源的基礎(chǔ)上進(jìn)行套殼就可以形成一個(gè)套殼的大模型，接著再將一些這樣的大模型拼裝在一起就變成更大的大模型，這種方式做出來的大模型背后的原創(chuàng)性是有限的。另外，我們的算力也被“卡脖子”，比如英偉達(dá)的GPUA100和H100被美國禁售，很多公司受到影響。同時(shí)，中國數(shù)據(jù)質(zhì)量比較低也是一個(gè)問題。中國的數(shù)據(jù)量很大，但沒有真正產(chǎn)業(yè)化，相對標(biāo)準(zhǔn)化的數(shù)據(jù)思考和解決的問題。2018年習(xí)近平總書記在中央政治局第九次集體學(xué)習(xí)中特別強(qiáng)調(diào)要加強(qiáng)人工智能發(fā)展?jié)撛陲L(fēng)險(xiǎn)的研判和防范，確保人工智能安全可靠可控。2019年和2023年又特別強(qiáng)調(diào)重視通用人工智能的發(fā)展，營造創(chuàng)新型生態(tài)，重視風(fēng)險(xiǎn)防范，綜合考慮人工智能發(fā)展的社會收益和潛在風(fēng)險(xiǎn)兩個(gè)方面?？倳浀闹甘窘o我們推動人工智能創(chuàng)新發(fā)展和防控風(fēng)險(xiǎn)指明了方向。從綜合社會收益講，生成式人工智能的滲透性非常強(qiáng)，對社會影響是全面的。對制造業(yè)來說，AI有利于推動產(chǎn)業(yè)的數(shù)智化轉(zhuǎn)型升級，在推進(jìn)新質(zhì)生產(chǎn)力和高質(zhì)量發(fā)展方面潛力巨大。中國在這方面已經(jīng)做了很多探索，例如，三一重工制造工廠應(yīng)用人工智能技術(shù)之后提高185%，生產(chǎn)周期30天縮短到7天。同時(shí)，AI在推動智力密集型的服務(wù)產(chǎn)業(yè)規(guī)?；矫嬉舶l(fā)揮了巨大作用。人工智能的潛在風(fēng)險(xiǎn)體現(xiàn)在多個(gè)層面。在個(gè)體層面，AI可能引發(fā)算法歧視、知面還有一些更長遠(yuǎn)的大問題，如勞動力結(jié)構(gòu)調(diào)整、產(chǎn)業(yè)結(jié)構(gòu)調(diào)整等影響。同時(shí)，由于這些都是需要慎重考慮的。另外大模型訓(xùn)練的能源消耗非常厲害，現(xiàn)在看來可能所增加的溫室氣體排放也是不能忽視的。有人估算ChatGPT在整個(gè)訓(xùn)練周期的碳排放量相當(dāng)于開車到月亮再返回地球的總量。在國家安全層面的問題同樣讓人擔(dān)心，包括對7月基辛格到訪中國，他非常關(guān)心的一個(gè)問題就是人工智能對國際安全的潛在影響，他提到二戰(zhàn)以后全世界之所以能保持總體基本保障了核武器沒有大規(guī)模擴(kuò)散。他認(rèn)為未來人類社會如果還想繼續(xù)保持安全，人工智能治理就應(yīng)成為核心，而中美兩國是全球人工智能治理最關(guān)鍵的國家。他非常積極地推動中美兩國在這方面開展對話，后來我們也看到中美兩國元首在舊金山的峰會上一致同意開展中美兩國在人工智能領(lǐng)域的對話。人控制？會不會影響整個(gè)人類社會的生存？也就是硅基文明和碳基文明今后會有什么沖突？這個(gè)層面的風(fēng)險(xiǎn)是人類社會生存的風(fēng)險(xiǎn)。在這類問題上，Chat-GPT的出現(xiàn)影響了整個(gè)社會，尤其在技術(shù)領(lǐng)域，很多專家也開始高度關(guān)注這個(gè)問題。清華大學(xué)2020年成立了一個(gè)人工智能國際治理研究院，當(dāng)時(shí)一些技術(shù)領(lǐng)域的專家對提出人工智能治理還有不同看法，認(rèn)為人工智能技術(shù)剛剛發(fā)展起來，談治理太早了。國際上同樣也有這樣的聲音。這里有兩方面原因，首先，是對“治理”這個(gè)概念有一定誤解，大家只看到了治理概念中的規(guī)制一面。但治理包括兩個(gè)方面，一方面是怎么更好地構(gòu)建來的風(fēng)險(xiǎn)及其損害。因此，治理對所有新技術(shù)的發(fā)展都是必要的。除此之外，當(dāng)時(shí)我們對所謂通用人工智能的潛在風(fēng)險(xiǎn)還沒有那么擔(dān)心，但Chat-GPT出來后變化就很大交給《科學(xué)》（Science）的論文。這篇論文就指出，我們已經(jīng)到了刻不容緩需要推Chat-GPT的出現(xiàn)讓他們認(rèn)為通用人工智能可能出現(xiàn)的時(shí)間要大大提前。除了剛剛談到的幾類綜合性風(fēng)險(xiǎn)，我們更多要考慮具體應(yīng)用場景。AI在電商、我們需要探討怎么有效規(guī)避。技術(shù)本身產(chǎn)生的風(fēng)險(xiǎn)是典型案例。這里有個(gè)例子，當(dāng)我ChatGPT北京清華大學(xué)校歌歌詞是什么時(shí)，它會編造一個(gè)錯誤的答案，把北京大學(xué)和清華大學(xué)的一些信息混用。除此之外，還有數(shù)據(jù)濫用、隱私泄露、深度偽造等明新形態(tài)的作用等。......總體來說，中國的人工智能有雄厚積累與先發(fā)優(yōu)勢，形成了推動人工智能發(fā)展的總體規(guī)劃，在過去發(fā)展過程中也形成了自上而下和自下而上相結(jié)合的治理框架，人工首先是怎么樣形成不同企業(yè)公平競爭的市場環(huán)境，包括民營企業(yè)、國有企業(yè)和外資企夠有效流通協(xié)調(diào)一致的產(chǎn)業(yè)生態(tài)。第三是治理問題，怎么形成可預(yù)期、包容審慎、敏捷有效的治理框架，為形成鼓勵人工智能發(fā)展的市場環(huán)境和產(chǎn)業(yè)生態(tài)奠定制度基礎(chǔ)。最后，就是怎么聚集全球頂尖人工智能人才，Open-AI是全世界各國不同優(yōu)秀人才聚方面的共同努力下，中國人工智能領(lǐng)域能夠抓住發(fā)展機(jī)遇，克服重重困難，迎接多方平發(fā)展服務(wù)。季衛(wèi)東：人工智能治理國際合作的重要性2024年4月23日至25日，上海交通大學(xué)文科資深教授、CIDEG學(xué)術(shù)委員季衛(wèi)東在澳門參加了為今年9月聯(lián)合國未來峰會而召開的預(yù)備性對話和2024年聯(lián)合國大學(xué)澳門人工智能國際研討會，作為創(chuàng)始成員出席了UNUAINetwork啟動儀式，并策劃和主持了關(guān)于亞太地區(qū)生成式人工智能治理和法律的分論壇。季衛(wèi)東教授指出：怎樣面對發(fā)展與安全之間的巨大張力，這是人工智能立法的核心問題；根據(jù)對這個(gè)問題的不同理解和解答，迄今為止各主要國家的制度設(shè)計(jì)可以大致分為四種模式，即歐盟的“硬法模式”、美國和日本的“軟法模式”、中國的“軟硬兼施法模式”以及新加坡的“技術(shù)程序法模式”。他認(rèn)為，如果大模型的技術(shù)研發(fā)不僅是AI治理的對象，也可以反過來為AI治理賦能，那么科技企業(yè)就不會對人工智能立法感到憂心忡忡。實(shí)際上，如果大模型的安全研究通過技術(shù)-程序的進(jìn)路能夠形成測試、AIAIGCAI倫理管理指標(biāo)體系和認(rèn)證平臺、編制AI安全保障網(wǎng)，那么監(jiān)管與發(fā)展就不再是一種零和游戲，AI研發(fā)開拓出新的投資機(jī)遇或者市場型的性能提升與安全度提升形成某種正比關(guān)系之際，只有在監(jiān)管轉(zhuǎn)變?yōu)槌绦虮疚缓图夹g(shù)本位之際，各國以及全球才有可能真正進(jìn)入所謂“人工智能治理的立法時(shí)刻”。季衛(wèi)東教授會議期間還就中美兩國關(guān)于人工智能的政府間對話問題接受了《潮新聞》記者的采訪，進(jìn)一步闡述了自己對人工智能治理國際合作的主張。......賈開：ChatGPT是更接近人腦的智能技術(shù)嗎？ChatGPT的迅速崛起在當(dāng)前掀起一股輿論熱潮。與技術(shù)進(jìn)步的傳統(tǒng)爭論多數(shù)處于技術(shù)樂觀主義與技術(shù)悲觀主義之爭的范疇不同，圍繞ChatGPT的爭議似乎更加分化：富有科幻想象色彩的自媒體在渲染這項(xiàng)新技術(shù)可能產(chǎn)生的影響，而來自技術(shù)社區(qū)的聲音則質(zhì)疑這項(xiàng)技術(shù)的創(chuàng)新性和顛覆性。然而，無論如何，ChatGPT已經(jīng)推動全社會正2016AlphaGo之后的又一次人工智能“洗禮技術(shù)取代人從事某些屬ChatGPT爭論背后的技術(shù)理念和科技哲學(xué)。電子科技大學(xué)公共管理學(xué)院副教授，清華大學(xué)產(chǎn)業(yè)發(fā)展與環(huán)境治理研究中心研究員賈開發(fā)表了題為《ChatGPT是更接近人腦的智能技術(shù)嗎？》的文章，在本文看來，體現(xiàn)“淺層解釋”ChatGPT只應(yīng)被視為智能技術(shù)探索路徑上的一種選擇，其不應(yīng)作為不能被改變的技術(shù)前提。以“多重技術(shù)路線探索”的眼光來認(rèn)識ChatGPT并確立對其恰當(dāng)?shù)亩ㄎ唬赡苁歉档米非蟮姆治鰬B(tài)度。......AshleyLlorens：推動人工智能正向發(fā)展，跨領(lǐng)域與國際合作至關(guān)重要近日，清華大學(xué)文科資深教授、蘇世民書院院長、CIDEG學(xué)術(shù)委員會聯(lián)席主席薛瀾受邀出席由微軟亞洲研究院與清華大學(xué)蘇世民書院聯(lián)合舉辦的“促進(jìn)人工智能的合作與學(xué)術(shù)交流”的座談會。會上，薛瀾教授和微軟研究院副總裁、微軟杰出首席科學(xué)家、微軟研究院全球研究合作負(fù)責(zé)人AshleyLlorens博士就人工智能未來發(fā)展所需的合作展開了深入討論，并分享了他們各自對跨領(lǐng)域與國際合作、人才培養(yǎng)等問題的見解。謝幸：人工智能技術(shù)和相關(guān)工具的日益普及，引發(fā)了人們對其可能帶來的機(jī)遇和潛在風(fēng)險(xiǎn)的關(guān)注。兩位對人工智能發(fā)展的治理有什么看法？薛瀾多，但我一直在密切關(guān)注新技術(shù)可能給社會帶來的影響。我曾參與中國在2017年發(fā)任，并一直從事人工智能治理相關(guān)的工作。許多人都擔(dān)憂人工智能可能帶來的潛在風(fēng)險(xiǎn)，但也有大量技術(shù)專家擔(dān)心，政府的過度監(jiān)管可能抑制技術(shù)的發(fā)展。如何在兩者之間取得平衡，是我們當(dāng)前面臨的一大挑戰(zhàn)。對此，我們一直倡導(dǎo)將敏捷治理作為人工智能的治理方法。由于人工智能的發(fā)展給人類社會帶來了諸多益處，所以推動其創(chuàng)新發(fā)展是毋庸置治理如何適應(yīng)并跟上這一新技術(shù)的發(fā)展腳步。因此，我們需要審慎地觀察人工智能的發(fā)展，在必要時(shí)采取措施引導(dǎo)規(guī)制，同時(shí)避免過度干預(yù)阻礙其發(fā)展。AshleyLlorens：我在人工智能領(lǐng)域有20年的工作經(jīng)驗(yàn)，親眼見證了機(jī)器學(xué)習(xí)技術(shù)和機(jī)器人應(yīng)用將我們帶入了一個(gè)激動人心的時(shí)代。我們正在經(jīng)歷技術(shù)史上的一個(gè)歷史性時(shí)刻，一個(gè)關(guān)鍵的轉(zhuǎn)折點(diǎn)?；仡檸资陙碛?jì)算技術(shù)的發(fā)展，人們開發(fā)了各種應(yīng)用程序來完成特定任務(wù)，現(xiàn)在我們已經(jīng)創(chuàng)造了非常復(fù)雜的方式來顯式地編程，讓機(jī)器執(zhí)行任務(wù)，例如使用Windows系統(tǒng)與各種應(yīng)用程序和軟件進(jìn)行交互，這些程序?qū)Ⅻc(diǎn)擊的動作映射為用戶的實(shí)際意圖，比如打開Word文檔等。隨著機(jī)器學(xué)習(xí)技術(shù)的崛起，系統(tǒng)可以通過數(shù)據(jù)和經(jīng)驗(yàn)實(shí)現(xiàn)自我編程、自動創(chuàng)建映射、自主完成任務(wù)。實(shí)際上，經(jīng)過學(xué)習(xí)訓(xùn)練的程序就是一個(gè)高度參數(shù)化的數(shù)學(xué)函數(shù)，但在大語言模型和多模態(tài)模型出現(xiàn)之前，一個(gè)訓(xùn)練過的程序只能完成一項(xiàng)任務(wù)，比如的程序，而且還可以使用自然語言對它進(jìn)行再編程。ChatGPT帶來的改變是革命性用開發(fā)者未曾想到的方式進(jìn)行創(chuàng)新?；氐饺斯ぶ悄艿臋C(jī)遇和風(fēng)險(xiǎn)這一問題上。用戶可以更具創(chuàng)新性地來使用這些技術(shù)能力的片面理解導(dǎo)致模型產(chǎn)生了意外的結(jié)果，尤其是在醫(yī)療等關(guān)鍵領(lǐng)域，有些意外結(jié)果將是危及生命的。工智能原則來進(jìn)行創(chuàng)新。微軟推出的大語言模型產(chǎn)品都經(jīng)過了嚴(yán)格的測試，就是這種共同進(jìn)化的例證。謝幸：我想大多數(shù)人都會認(rèn)同這是一個(gè)技術(shù)變革的時(shí)代，也意識到了機(jī)遇與挑戰(zhàn)的并存。人工智能的快速發(fā)展，特別是大語言模型的興起，既彰顯了技術(shù)的進(jìn)步，也引發(fā)了很多擔(dān)憂。兩位對人工智能的未來有什么看法？是樂觀更多一些，還是會有些悲觀？薛瀾正因?yàn)楝F(xiàn)在有很多人關(guān)注這個(gè)問題，才讓我對人工智能的未來感到樂觀。以核技術(shù)為例，在其發(fā)展初期，科學(xué)家們也為核彈的發(fā)展展開過爭論，當(dāng)人們看到核彈的破壞力之后，便開始倡導(dǎo)停止這項(xiàng)技術(shù)，并形成了一整套控制核武器擴(kuò)散的機(jī)制。由此可見，人類社會是有能力控制技術(shù)的應(yīng)用，限制技術(shù)向負(fù)面方向發(fā)展的。護(hù)欄。因此，我對人工智能的未來還是持樂觀態(tài)度的。AshleyLlorens：我同意薛教授的觀點(diǎn)。我從事人工智能和機(jī)器學(xué)習(xí)相關(guān)工作已經(jīng)有很長時(shí)間了，如果10年前我說自己是做機(jī)器學(xué)習(xí)的，很多人會感到困惑。但現(xiàn)這項(xiàng)技術(shù)解決實(shí)際問題。我們也看到在學(xué)術(shù)界，很多人在推動人工智能技術(shù)的發(fā)展。人類的一個(gè)優(yōu)勢是擅長使用工具，從某種角度來說，人工智能作為一種工具，是我們與物理世界交互的延伸，也是我們認(rèn)知能力的放大器。同時(shí)，我們也需要保持警惕。樂觀、懷疑、悲觀，這些不同的態(tài)度都是正常的。當(dāng)我們從整個(gè)社會的角度來考慮資源投入時(shí)，要把這些態(tài)度都納入考量，關(guān)鍵在于投入的分配比例。盡管一顆小行星撞擊地球的可能性非常小，但美國國家航空航天局（NASA）還是投入了一些資金，通過小行星重定向項(xiàng)目來降低相關(guān)的風(fēng)險(xiǎn)。我想說保我們的決策不會阻礙技術(shù)的正向發(fā)展。清華大學(xué)和微軟研究院都是高度國際化的組織，并且有豐富的國際合作經(jīng)更為有效？AshleyLlorens：國際合作在人工智能領(lǐng)域至關(guān)重要。我們需要找到最佳的合作方式，以實(shí)現(xiàn)更大的成功和積極成果，同時(shí)避免負(fù)面影響。微軟一直致力于推動人工智能技術(shù)的正向應(yīng)用，例如我們發(fā)起的“氣候研究倡議（MicrosoftClimateResearchInitiative,MCRI）”，就是旨在利用人工智能技術(shù)應(yīng)對氣候變化。在內(nèi)部，我們與可持續(xù)發(fā)展研究領(lǐng)域的同事合作，確定了人工智能和計(jì)算技術(shù)可以幫助應(yīng)對氣候變化挑戰(zhàn)的三個(gè)研究方向：碳核算、碳減排和氣候韌性。在外部，我們與高校合作共同探索如何結(jié)合新的遙感技術(shù)和人工智能進(jìn)行碳核算，其中就有來自清華大學(xué)的研究員。這是我們通過合作推動技術(shù)正向應(yīng)用的一個(gè)例子。薛瀾：從全球視角看，近年來科學(xué)家之間的國際合作日益增加。在研究層面，合作尤為重要，我們的研究發(fā)現(xiàn)，在科技文獻(xiàn)發(fā)表方面美國和中國是合作最多的國家。在機(jī)構(gòu)合作方面，就像Ashley提到的，清華大學(xué)的科學(xué)家加入到微軟資助的研究項(xiàng)目中，還有很多清華大學(xué)的畢業(yè)生在微軟工作，微軟也和清華大學(xué)在很多項(xiàng)目上開展了合作。在國家層面，我們要避免極端競爭的情況出現(xiàn)，給科技合作提供基本保障。除了國際合作，跨學(xué)科合作也是人工智能發(fā)展的重要維度。越來越多的研深入地理解和應(yīng)對人工智能對社會的影響。請兩位談?wù)勀銈儗鐚W(xué)科合作在人工智能發(fā)展中的作用和意義的看法。薛瀾人工智能的發(fā)展非常關(guān)鍵。人工智能對公共管理和社會科學(xué)研究的影響正受到越來越多的關(guān)注。很多人認(rèn)為，人工智能帶來了巨大的范式轉(zhuǎn)變，新技術(shù)改變了社會科學(xué)研究的格局。因此，我們需要加強(qiáng)不同學(xué)科間的合作，清華大學(xué)也成立了社會科學(xué)和計(jì)算機(jī)科學(xué)的跨學(xué)科研究機(jī)構(gòu)。AshleyLlorens：跨學(xué)科合作是解決人工智能領(lǐng)域中核心問題的關(guān)鍵。作為人工趣的科學(xué)問題是關(guān)于人類的問題。還有一些更廣泛的社會問題，比如社會是否應(yīng)該與這些技術(shù)共同進(jìn)化。這些問題非常有意義，也是非常重要的問題。微軟研究院很早就意識到了這一點(diǎn)，我們匯集了很多社會科學(xué)家，包括計(jì)算社會背景知識的人才，來共同構(gòu)建一個(gè)跨學(xué)科合作的社區(qū)。謝幸：鑒于跨學(xué)科合作的重要性，我們需要培養(yǎng)更多的跨學(xué)科人才。然而，目前這方面的人才還比較匱乏。我們應(yīng)該如何為未來的人工智能培養(yǎng)跨學(xué)科人才，以應(yīng)對未來的變化和挑戰(zhàn)？AshleyLlorens：我們必須處理好人工智能對教育的影響，并充分利用其為教育帶來的機(jī)遇。從小培養(yǎng)孩子的算法思維和系統(tǒng)性思維，比以往任何時(shí)候都更重要，技術(shù)可以幫助我們實(shí)現(xiàn)這一目標(biāo)?，F(xiàn)在，機(jī)會就在眼前，我們需要加大這方面的投入和支持。AI。我們不應(yīng)過度依賴工具，而忽視必要技能的培養(yǎng)，當(dāng)然我們也不能忽視對新興技術(shù)的使用。薛瀾實(shí)現(xiàn)的。AshleyLlorens：我完全同意。我相信，未來人們可以更容易地享受到技術(shù)進(jìn)步軟研究院正朝著這個(gè)目標(biāo)努力，到那時(shí)不僅計(jì)算機(jī)科學(xué)家可以用編程語言編寫代碼，非計(jì)算機(jī)科學(xué)家也能用自然語言為代碼庫做出貢獻(xiàn)。未來510年，我們對技術(shù)人員的定義可能就會完全不同?！緦W(xué)術(shù)活動】CIDEG產(chǎn)業(yè)經(jīng)濟(jì)系列研討：算法影響評價(jià)體系構(gòu)建與生成式人工智能安全治理3月8日下午，清華大學(xué)產(chǎn)業(yè)發(fā)展與環(huán)境治理研究中心舉辦“算法影響評價(jià)體系構(gòu)建與生成式人工智能安全治理”專題研討會。來自對外經(jīng)濟(jì)貿(mào)易大學(xué)、國家工業(yè)信息安全發(fā)展研究中心、阿里研究院、騰訊研究院、瑞萊智慧、抖音集團(tuán)、螞蟻集團(tuán)等機(jī)構(gòu)或企業(yè)的多位專家學(xué)者，以及清華大學(xué)公共管理學(xué)院教授、CIDEG主任陳玲，清華大學(xué)公共管理學(xué)院副教授、CIDEG副主任趙靜，上海交通大學(xué)國際與公共事務(wù)學(xué)院副教授、CIDEG兼職研究人員賈開等共同出席了會議。工智能安全治理的認(rèn)識。賈開老師就“人工智能算法影響評價(jià)體系構(gòu)建與應(yīng)用實(shí)踐”主題作了引導(dǎo)性發(fā)言。與會專家學(xué)者圍繞中國算法治理的主要工具及其特點(diǎn)、《生成式人工智能服務(wù)安全基入的探討，并就下一步研究空間進(jìn)行了合作展望。會議由陳玲主任總結(jié)。她表示，CIDEG既關(guān)注安全治理，也關(guān)心產(chǎn)業(yè)發(fā)展與創(chuàng)單的“從松到緊”，而是有著更加生動豐富的演變。......【出版發(fā)表】ChatGPT作為“淺層革命”的進(jìn)步與局限——“人-機(jī)關(guān)系”人工智能的快速發(fā)展正在引發(fā)普遍關(guān)注，但相關(guān)討論仍然可能因?yàn)榍啡睔v史的回溯（縱向（橫向（人類可以通過自上而下的模型建構(gòu)來實(shí)現(xiàn)通用人工智能？人工智能的技術(shù)發(fā)展目標(biāo)是否是（包括機(jī)器自己生產(chǎn)的數(shù)據(jù)何被納入生產(chǎn)體系并影響價(jià)值生產(chǎn)過程？應(yīng)如何定位大模型在人工智能知識生產(chǎn)過程控制風(fēng)險(xiǎn)，還是明確技術(shù)在知識/價(jià)值生產(chǎn)體系中的定位以引導(dǎo)其發(fā)展方向？上海交通大學(xué)國際與公共事務(wù)學(xué)院長聘副教授、CIDEG兼職研究人員賈開在《信息技術(shù)與管理應(yīng)用》上發(fā)表題為《ChatGPT作為“淺層革命”的進(jìn)步與局限——兼論通用智能與“人-機(jī)”關(guān)系》的文章，其核心內(nèi)容是以ChatGPT為背景，進(jìn)一步以昂格爾的分析框架為基礎(chǔ)，討論“人-機(jī)”關(guān)系的完整頻譜，并以此來定位機(jī)器/人工智能的相對價(jià)值。......——策工具箱構(gòu)建摘要：紛繁復(fù)雜的人工智能應(yīng)用風(fēng)險(xiǎn)在帶來監(jiān)管挑戰(zhàn)的同時(shí)，也讓追求敏捷成為當(dāng)前人工智能治理的共識性理念。但如何在具體路徑、機(jī)制、工具上實(shí)現(xiàn)真正的敏捷監(jiān)管尚缺乏系統(tǒng)的學(xué)理分析與實(shí)踐指引。遵循科層體系運(yùn)作邏輯的監(jiān)管部門在克服制度張力和應(yīng)對不確定性方面存在天然不足，實(shí)踐改革因此普遍將“分類”視為一種適應(yīng)復(fù)雜性與提升敏捷性的潛在思路。通過對人工智能多領(lǐng)域業(yè)態(tài)發(fā)展模式與技術(shù)創(chuàng)新規(guī)律的比較分析，以及綜合人工智能各領(lǐng)域現(xiàn)有國際治理經(jīng)驗(yàn)，本文構(gòu)建了人工智能治理風(fēng)險(xiǎn)的關(guān)鍵分類維度及與之相適應(yīng)的全譜系政策工具箱。研究試圖為監(jiān)管實(shí)踐者提供一個(gè)合意的分類思路與政策工具組合指引，使監(jiān)管實(shí)踐可從產(chǎn)業(yè)特征標(biāo)定分類治理對象，并在對應(yīng)的政策工具箱中尋找政策組合。本文基于“問題界定—對象分類—治理工具箱—分類框架”究目的，但政策實(shí)踐與理論演繹的緊密結(jié)合也可在一定程度上支撐本文所提出理論框架的實(shí)踐有效性。......《國際論壇》賈開、俞晗之、薛瀾：人工智能全球治理新階段的特征、赤字與改革方向摘要：人工智能技術(shù)及應(yīng)用超出預(yù)期的快速發(fā)展已經(jīng)引起了國際社會的普遍關(guān)然存在三方面治理赤字：由于治理過程開放性和責(zé)任性不足而導(dǎo)致的合理性赤字、由于治理成果的結(jié)構(gòu)性失衡而導(dǎo)致的公正性赤字、由于治理效能難執(zhí)行與錯位問題導(dǎo)致的有效性赤字。面對新階段的機(jī)遇與挑戰(zhàn)，競爭性合作”理念有助于打開新的改革空間，其要求將“零和博弈”轉(zhuǎn)變?yōu)椤白兒筒┺模瑥?qiáng)調(diào)利益與目標(biāo)不完全一致但又相互依賴的獨(dú)立決策主體間的關(guān)系策略，能夠兼具敏捷性與“硬約束”特征，而這三點(diǎn)有助于良性發(fā)展。精彩內(nèi)容節(jié)選如下：一、人工智能全球治理進(jìn)入新階段的機(jī)遇與挑戰(zhàn)2022推上新臺階的同時(shí)，也推動人工智能全球治理進(jìn)入了新階段?！叭斯ぶ悄芨呒墑e顧問委員會”趨勢，例如美國在該領(lǐng)域仍然強(qiáng)調(diào)與“志趣相同”國家的合作，并且要求限制向“志趣不同”國家的技術(shù)輸出與交流，試圖通過“劃小圈子”來影響乃至主導(dǎo)人工智能的全球發(fā)展已有研究對此卻尚未作出充分回應(yīng)。二、人工智能全球治理進(jìn)入新階段的特征：基于主體與機(jī)制的雙重視角分析三、針對人工智能全球治理進(jìn)程的反思：合理性、公正性、有效性赤字其要求從程序合理性方面對“誰應(yīng)該向誰施加治理權(quán)力”問題作出回答；“公正性”涉及人工智能全球治理成果的正義性，其要求確保不同主體從人工智能發(fā)展中“獲得其所應(yīng)獲得的、承擔(dān)其所應(yīng)當(dāng)承擔(dān)的”；“有效性”涉及人工智能全球治理的效能問題，即在經(jīng)過四、應(yīng)對人工智能全球治理赤字：“競爭性合作”理念作為改革方向“競爭性合作”理念可作為未來改革的指導(dǎo)方向?！案偁幮院献鳌备拍畋谎由熘凉补芾?、全球治理領(lǐng)域，其內(nèi)涵是“利益與目標(biāo)不完全一致但又相互依賴的獨(dú)立決策主體間的關(guān)系策略”“競爭”或“合作”競爭性合作”將博弈論引入關(guān)系“零和博弈”“變和博弈”五、結(jié)語反思，以及在此基礎(chǔ)上從“競爭性合作”概念提出的改革方向，便是在此背景下的一次理論探索?！昂谙洹?.....《數(shù)字法治》季衛(wèi)東、趙澤睿：人工智能倫理的程序保障摘要對人工智能在技術(shù)研發(fā)和社會應(yīng)用時(shí)引發(fā)的道德規(guī)范不確定性問題。一般而言，人工智能倫理是化解決策風(fēng)險(xiǎn)的意義脈絡(luò)以及對失范現(xiàn)象進(jìn)行意義處理的溝通理論，為此需要首先提供促進(jìn)風(fēng)險(xiǎn)溝通的程序和選擇機(jī)制。然而，當(dāng)下的人工智能風(fēng)險(xiǎn)治理在相當(dāng)程度上混淆了技術(shù)研發(fā)倫理和社會應(yīng)用倫理，且僅聚焦實(shí)體性倫理原則而忽視程序只有注重程序性倫理規(guī)則、法律程序以及技術(shù)性正當(dāng)程序，才能實(shí)現(xiàn)人工智能風(fēng)險(xiǎn)治理的多元價(jià)值共存與敏捷治理目標(biāo)。因此，基于正當(dāng)程序原則的人工智能風(fēng)險(xiǎn)治理機(jī)性正當(dāng)程序、算法論證程序和嵌入式正當(dāng)程序來對不同階段的風(fēng)險(xiǎn)決策溝通過程進(jìn)行保障。隨著人工智能的快速發(fā)展與普遍應(yīng)用，人們對人工智能的風(fēng)險(xiǎn)問題日益關(guān)全球政府注重人工智能的風(fēng)險(xiǎn)治理。在此背景下，研究機(jī)構(gòu)與科技企業(yè)不斷通過人工智能的技術(shù)研發(fā)與社會應(yīng)用來創(chuàng)造一個(gè)更智能、更高效的社會以增強(qiáng)人類福祉，而各國政府與跨國組織也在不斷摸索人工智能的治理路徑與倫理共識來直面人工智能引發(fā)的各類風(fēng)險(xiǎn)。在各國政府與跨國組織發(fā)布的大量人工智能治理文件中，“倫理先行與法律保