新興技術(shù)視域下的人工智能善治-發(fā)展現(xiàn)狀、風(fēng)險(xiǎn)挑戰(zhàn)與治理思路 2024

摘要人工智能正在引發(fā)一場(chǎng)遠(yuǎn)超乎于技術(shù)場(chǎng)域的時(shí)代變革，以大模型為代表的生成式人工智能塑造著未來(lái)的主要技術(shù)進(jìn)路。盡管我國(guó)已成為一個(gè)人工智能大國(guó)，但在核心理論創(chuàng)新、基礎(chǔ)底座建設(shè)、關(guān)鍵軟硬件和生態(tài)方面還有待提升，邁向人工智能強(qiáng)國(guó)還有很長(zhǎng)的路要走。在此情況下，如何在保障人工智能有力、有序、有益發(fā)展的同時(shí)，實(shí)現(xiàn)對(duì)人工智能的善治是亟需回應(yīng)的關(guān)鍵問(wèn)題。因此，平衡好發(fā)展與治理之間的關(guān)系，踐行價(jià)值對(duì)齊的倫理思路，吸收人工智能國(guó)際治理有益經(jīng)驗(yàn)，探索一條理念開放、主體多元、對(duì)象分層、工具靈活的治理新思路，成為探索人工智能善治路徑的核心命題。任何技術(shù)發(fā)展都會(huì)經(jīng)歷開始孕育—快速發(fā)展—成熟完善—穩(wěn)定并趨于退化的生命周期。任何新技術(shù)的成長(zhǎng)都不是一蹴而就的。新技術(shù)從舊技術(shù)中孕育，汲取舊技術(shù)優(yōu)勢(shì)將其保留，摒棄舊技術(shù)的劣弊。技術(shù)進(jìn)步的本質(zhì)在于從一種技術(shù)系統(tǒng)到另一種技術(shù)系統(tǒng)的過(guò)渡。從來(lái)也沒(méi)有孤立存在的“一種技術(shù)”，一種技術(shù)總是與其他技術(shù)聯(lián)系在一起。人工智能技術(shù)正在塑造新的技術(shù)體系，引領(lǐng)以其為核心的技術(shù)“中心環(huán)繞體系”變革，成為變革社會(huì)的力量。人工智能作為一種新興的顛覆性技術(shù)，其技術(shù)治理也難以擺脫科林格里奇困境，這使決策者面臨兩難選擇。尤其是對(duì)生成式人工智能（AIGC）而言，一方面，在技術(shù)得到深度開發(fā)和廣泛應(yīng)用之前，我們無(wú)法預(yù)知技術(shù)可能產(chǎn)生的后果；另一方面，當(dāng)技術(shù)已經(jīng)深刻地改變了人類社會(huì)時(shí)，我們又無(wú)法確保對(duì)其的控制和掌控。這樣一種現(xiàn)實(shí)性迫切呼吁適應(yīng)性的治理方式，敏捷治理作為應(yīng)對(duì)生成式人工智能新態(tài)勢(shì)的治理模式，正是在這樣的背景中產(chǎn)生，并成為被持續(xù)探索的治理路徑。生成式人工智能技術(shù)發(fā)展現(xiàn)狀概述人工智能研究既是人類對(duì)外部世界的求知，更是破解人類編碼、深刻地自我認(rèn)知的探索過(guò)程。對(duì)人工智能的理解也隨著這一探索過(guò)程不斷深化：從最初的計(jì)算智能（快速邏輯運(yùn)算、海量?jī)?chǔ)存能力），發(fā)展到感知智能（“聽”“說(shuō)”“看”“觸”能力），再到更高級(jí)的認(rèn)知智能（理解、詮釋能力）階段。數(shù)理邏輯推理、人工神經(jīng)網(wǎng)絡(luò)的構(gòu)建、獎(jiǎng)懲機(jī)制的行為仿生等分別將人工智能研究向前推進(jìn)。丹尼特（D.C.Dennett）拋出輪子是否存在于自然界這一問(wèn)題引出了人工智能發(fā)展的“認(rèn)知之輪”問(wèn)題。不過(guò)，實(shí)踐表明任何單一進(jìn)路通向成功的可能性都是微乎其微的，基于多重思路的融貫，才有了當(dāng)今的人工智能大模型。縱觀生成式人工智能的創(chuàng)新與發(fā)展，總體而言可以有如其一，生成式人工智能自其發(fā)布以來(lái)在技術(shù)上已經(jīng)取得了長(zhǎng)足的進(jìn)步。從數(shù)量上看，自2019年以來(lái)，全球已發(fā)布基礎(chǔ)大模型百余個(gè)，其中美國(guó)發(fā)布模型多達(dá)182個(gè)，中國(guó)發(fā)布30余個(gè)。從模型質(zhì)量看，人工智能系統(tǒng)的推理能力已經(jīng)有了極大的提升。美國(guó)和加拿大的研究人員開發(fā)了MMMU系統(tǒng)（MassiveMulty-DisciplineMultimodalUnderstandingandReasoningBenchmarkforExpertAGI），即面向?qū)I(yè)AGI大規(guī)模多學(xué)科多模態(tài)理解和推理基準(zhǔn)測(cè)量。它包含約11500道大學(xué)水平的問(wèn)題，涉及六個(gè)核心學(xué)科（藝術(shù)與設(shè)計(jì)、商業(yè)、科學(xué)、健康和醫(yī)學(xué)、人文和社會(huì)科學(xué)以及技術(shù)和工程），問(wèn)題形式多樣，是迄今為止對(duì)人工智能感知、知識(shí)和推理最嚴(yán)格的測(cè)試之一。通過(guò)該測(cè)試可以看出，其中多個(gè)大模型都表現(xiàn)良好，甚至在一些領(lǐng)域大模型能力逐漸接近人類專家（如圖1所示）。這充分展現(xiàn)了大模型的技術(shù)潛力和未來(lái)可見的發(fā)展前景。從模型應(yīng)用角度看，大模型的進(jìn)化速度和能力提升也是驚人的。例如，圖像生成模型Midjourney短時(shí)間內(nèi)已經(jīng)迭代數(shù)次，顯示出生成超現(xiàn)實(shí)主義圖像能力的顯著提升，如今其所創(chuàng)建的圖像已逼真度驚人。來(lái)源：ArtificialIntelligenceIndexReport2024,/report/圖1MMMU大模型評(píng)測(cè)對(duì)比其二，產(chǎn)學(xué)研合作日益緊密，產(chǎn)業(yè)界作為大模型發(fā)布的主力軍扮演著越來(lái)越重要的角色。從模型發(fā)布看，自2019年以來(lái)，谷歌在基礎(chǔ)模型發(fā)布數(shù)量上領(lǐng)先，共計(jì)40個(gè)，其次是OpenAI，共計(jì)20個(gè)。清華大學(xué)在非西方機(jī)構(gòu)中排名第一，發(fā)布基礎(chǔ)模型共計(jì)7個(gè)，而斯坦福大學(xué)在美國(guó)學(xué)術(shù)機(jī)構(gòu)中排名第一，發(fā)布基礎(chǔ)模型共計(jì)5個(gè)。值得注意的是，2014年前后，學(xué)術(shù)界在機(jī)器學(xué)習(xí)模型的發(fā)布方面還處于領(lǐng)先地位。此后，產(chǎn)業(yè)界便占據(jù)了主導(dǎo)地位。2023年，產(chǎn)業(yè)界發(fā)布了51個(gè)引人關(guān)注的機(jī)器學(xué)習(xí)模型，而學(xué)術(shù)界只有15個(gè)。特別需要指出，2023年有21個(gè)優(yōu)質(zhì)大模型來(lái)自產(chǎn)學(xué)研合作，創(chuàng)下新高。現(xiàn)在，創(chuàng)建尖端的人工智能模型需要大量的數(shù)據(jù)、計(jì)算能力和財(cái)務(wù)資源，而學(xué)術(shù)界單方面已無(wú)法保障這些資源供給，這也促成了在大模型研究和發(fā)布上的產(chǎn)學(xué)研合作。其三，大模型的模型訓(xùn)練不僅耗資巨大，其過(guò)程也不環(huán)保，這也使得模型建構(gòu)競(jìng)爭(zhēng)飽受環(huán)保主義的詬病。圖2直觀地顯示了AI指數(shù)估算的所有AI模型的訓(xùn)練成本，模型訓(xùn)練成本隨著時(shí)間的推移急劇增加。AI模型的訓(xùn)練成本與其計(jì)算要求之間存在直接關(guān)聯(lián)，計(jì)算訓(xùn)練需求越大的模型，訓(xùn)練成本就越高。同時(shí)，大部分基礎(chǔ)模型開發(fā)商（如OpenAI、谷歌、Anthropic和Mistral）都沒(méi)有報(bào)告訓(xùn)練中的碳排放量。訓(xùn)練人工智能模型的環(huán)境影響可能難以估量。雖然推理的每次查詢排放量可能相對(duì)較低，但當(dāng)模型每天被查詢數(shù)千次甚至數(shù)百萬(wàn)次時(shí)，總體應(yīng)用耗能可能會(huì)超過(guò)訓(xùn)練耗能。當(dāng)前對(duì)模型碳排放的研究還很少。Luccioni等人于2023年發(fā)表的一項(xiàng)研究是較早全面評(píng)估模型排放的研究之一。圖3展示了各種模型任務(wù)中1000次推理的碳排放量，表明圖像生成等任務(wù)的碳足跡遠(yuǎn)高于文來(lái)源：ArtificialIntelligenceIndexReport2024,/report/圖2大模型訓(xùn)練資金投入對(duì)比來(lái)源：A.S.Luccionietal.,"PowerHungryProcessing:WattsDrivingtheCostofAIDevelopment?"/10.48550/arXiv.2311.16863圖3大模型在不同任務(wù)情況下的碳排放綜合斯坦福大學(xué)年度《人工智能指數(shù)報(bào)告》及相關(guān)學(xué)術(shù)研究不難看出，生成式人工智能呈現(xiàn)井噴式發(fā)展的態(tài)勢(shì)。在國(guó)內(nèi)，各類垂直大模型應(yīng)用更是如雨后春筍般在市場(chǎng)涌現(xiàn)，該現(xiàn)象表明市場(chǎng)對(duì)生成式人工智能應(yīng)用前景的樂(lè)觀估計(jì)。但也必須指出，大模型自其誕生以來(lái)亦伴隨著諸多隱患和風(fēng)險(xiǎn)。如何平衡發(fā)展與治理，構(gòu)建“兩個(gè)輪子走路”的人工智能發(fā)展與治理體系迫在眉睫。本文將在總結(jié)風(fēng)險(xiǎn)挑戰(zhàn)的基礎(chǔ)上，通過(guò)中美歐人工智能治理的比較研究，探索適合我國(guó)國(guó)情的人工智能治理之人工智能應(yīng)用的風(fēng)險(xiǎn)挑戰(zhàn)及綜合效應(yīng)生成式人工智能通用性、涌現(xiàn)性、多模態(tài)的新特征勢(shì)必帶來(lái)新一輪的革命性變化，其影響不僅是技術(shù)層面的，更是經(jīng)濟(jì)、政治、社會(huì)等各層面的。生成式人工智能具有強(qiáng)滲透性，對(duì)社會(huì)變革的整體影響是系統(tǒng)性的。它勢(shì)必推動(dòng)產(chǎn)業(yè)的數(shù)智化轉(zhuǎn)型升級(jí)，產(chǎn)業(yè)布局面臨又一次新的重大調(diào)整，數(shù)據(jù)、算力、算法相關(guān)產(chǎn)業(yè)發(fā)展將大幅加速。AIGC促進(jìn)了內(nèi)容生產(chǎn)方式的顛覆性變革，通過(guò)降低內(nèi)容創(chuàng)作門檻使技術(shù)“平民化”，人機(jī)分工的混合勞動(dòng)力形式將成為勞動(dòng)主導(dǎo)范式。生成式人工智能將助推智力密集型服務(wù)產(chǎn)業(yè)規(guī)模化發(fā)展，使人工智能成為專用領(lǐng)域“顧問(wèn)”，并作為“外腦”賦能專業(yè)場(chǎng)景高效作業(yè)，通過(guò)建模、訓(xùn)練、優(yōu)化等步驟推動(dòng)知識(shí)模型生成。然而，也正是因?yàn)槠鋭?shì)如破竹的變革力，導(dǎo)致風(fēng)險(xiǎn)挑戰(zhàn)一直伴隨技術(shù)發(fā)展并日益凸顯。總體看，人工智能的潛在風(fēng)險(xiǎn)可以主要?jiǎng)澐譃閮深悺Ｒ活愂蔷C合性風(fēng)險(xiǎn)，涵蓋了個(gè)體、社會(huì)、國(guó)家、人類四個(gè)層面。從個(gè)體層面看，包括算法歧視和偏見、錯(cuò)誤信息、隱私泄露、深度偽造和詐騙、知識(shí)產(chǎn)權(quán)爭(zhēng)議等；從社會(huì)層面看，主要有勞動(dòng)力結(jié)構(gòu)挑戰(zhàn)、數(shù)字鴻溝和社會(huì)不公、引發(fā)勞動(dòng)者心理問(wèn)題、資源消耗增加碳排放量等；從國(guó)家層面看，包括意識(shí)形態(tài)滲透、武器制造引發(fā)失控風(fēng)險(xiǎn)、國(guó)際權(quán)力分布不均衡加劇等；從人類層面看，引發(fā)了對(duì)人類未來(lái)地位的思考、硅基和碳基沖突、人機(jī)互構(gòu)新理念等。另一類是特定場(chǎng)景中的風(fēng)險(xiǎn)，主要有電商場(chǎng)景中的虛假宣傳與欺詐、大數(shù)據(jù)殺熟、推薦誤導(dǎo)、過(guò)度消費(fèi)等；醫(yī)療領(lǐng)域的不可解釋風(fēng)險(xiǎn)、歧視偏見、隱私泄露、反饋與監(jiān)管風(fēng)險(xiǎn)等；教育領(lǐng)域的沖擊應(yīng)試教育、學(xué)生過(guò)度依賴、學(xué)術(shù)誠(chéng)信危機(jī)、重塑教育生態(tài)等；科研領(lǐng)域的沖擊人文社科研究、新的知識(shí)生產(chǎn)方式以及相應(yīng)的科技倫理挑戰(zhàn)。我們可以從人工智能的產(chǎn)業(yè)效應(yīng)、政治效應(yīng)、社會(huì)效應(yīng)三個(gè)層面對(duì)人工智能的社會(huì)影響和綜合效應(yīng)作一相對(duì)整體的把握。人工智能應(yīng)用的產(chǎn)業(yè)風(fēng)險(xiǎn)與效應(yīng)。人工智能技術(shù)已經(jīng)成為全球經(jīng)濟(jì)增長(zhǎng)的新動(dòng)能和主導(dǎo)力量，對(duì)傳統(tǒng)經(jīng)濟(jì)模式的轉(zhuǎn)型、全面提升勞動(dòng)生產(chǎn)率、新價(jià)值體系下的高質(zhì)量發(fā)展發(fā)揮著舉足輕重的作用。宏觀上，“技術(shù)奇點(diǎn)”刺激“經(jīng)濟(jì)奇點(diǎn)”。一方面，人工智能技術(shù)在制造業(yè)等生產(chǎn)領(lǐng)域發(fā)揮積極作用，直接影響生產(chǎn)力質(zhì)的方面；另一方面，人工智能技術(shù)通過(guò)改變勞動(dòng)方式變革生產(chǎn)關(guān)系，適應(yīng)新技術(shù)推動(dòng)下的生產(chǎn)力發(fā)展。馬克思認(rèn)為勞動(dòng)生產(chǎn)力是由多種情況決定的，其中包括：工人的平均熟練程度，科學(xué)發(fā)展水平和它在工藝上的應(yīng)用程度，生產(chǎn)過(guò)程的社會(huì)結(jié)合，生產(chǎn)資料的規(guī)模和效能，以及自然條件。智能技術(shù)滲透于生產(chǎn)活動(dòng)的部分要素，如生產(chǎn)設(shè)備、組織形式、智能供應(yīng)鏈等，在經(jīng)濟(jì)增長(zhǎng)中的貢獻(xiàn)是直接的、強(qiáng)勁的。人工智能技術(shù)應(yīng)用日益成為衡量社會(huì)經(jīng)濟(jì)發(fā)展的尺度，成為產(chǎn)業(yè)結(jié)構(gòu)和社會(huì)結(jié)構(gòu)是否跟上時(shí)代潮流的重要指標(biāo)。智能技術(shù)催化生產(chǎn)制造適應(yīng)智能社會(huì)的新變革。智能化生產(chǎn)和定制化生產(chǎn)縮短了生產(chǎn)時(shí)間和銷售時(shí)間，加速了資本周轉(zhuǎn)，優(yōu)化了資本結(jié)構(gòu)。加上大模型的加持，其能夠通過(guò)大數(shù)據(jù)與智能分析平臺(tái)，利用云計(jì)算將工業(yè)機(jī)器生產(chǎn)數(shù)據(jù)轉(zhuǎn)化為有用信息，實(shí)現(xiàn)生產(chǎn)的高效、精確、環(huán)保、綠色。大量智能設(shè)備的引入提升了工廠生產(chǎn)商品的精確性，優(yōu)化了產(chǎn)品質(zhì)量。同時(shí)，產(chǎn)銷流程盡在掌握，生產(chǎn)過(guò)程的可控性得以提升，生產(chǎn)線數(shù)據(jù)在智能技術(shù)的幫助下被采集、整理、分析，使得生產(chǎn)計(jì)劃和生產(chǎn)進(jìn)度的安排更加合理。此外，智能化還提升了產(chǎn)品的后期服務(wù)水平。生產(chǎn)中智能產(chǎn)品與物聯(lián)網(wǎng)連接，記錄已進(jìn)行的加工步驟和質(zhì)量指標(biāo)，將產(chǎn)品指引向最優(yōu)路徑，生產(chǎn)完成后，智能產(chǎn)品通過(guò)在線連接的方式與制造企業(yè)后臺(tái)服務(wù)流程保持聯(lián)系。人工智能應(yīng)用的政治風(fēng)險(xiǎn)與效應(yīng)。溫納的技術(shù)政治學(xué)認(rèn)為，技術(shù)對(duì)政治力量、政治格局具有影響力。人工智能對(duì)政治的影響力是前所未見的。近年來(lái)美國(guó)挑起了中美之間的科技戰(zhàn)、金融戰(zhàn)、貿(mào)易戰(zhàn)、輿論戰(zhàn)等一系列激烈競(jìng)爭(zhēng)博弈，其中科技戰(zhàn)為核心領(lǐng)域，科技戰(zhàn)中又以芯片制造和通訊安全為中心的技術(shù)戰(zhàn)影響巨大，引發(fā)了全球供應(yīng)鏈的動(dòng)蕩。人工智能已經(jīng)成為國(guó)與國(guó)之間、聯(lián)盟之間、地區(qū)之間的主要競(jìng)爭(zhēng)內(nèi)容。與之相伴的是國(guó)家安全和軍事實(shí)力層面的智能技術(shù)競(jìng)爭(zhēng)，任何一個(gè)大國(guó)都不想在這場(chǎng)決定命運(yùn)的競(jìng)爭(zhēng)中丟失主動(dòng)權(quán)。上述情況使得智能技術(shù)的政治性凸顯。人工智能關(guān)系國(guó)家安全。隨著國(guó)家安全概念被泛化，尤為明顯的是，數(shù)據(jù)的控制和運(yùn)用已經(jīng)不再單純是個(gè)經(jīng)濟(jì)問(wèn)題，而是涉及國(guó)家安全，例如，數(shù)據(jù)可能被他國(guó)用于情報(bào)分析。數(shù)據(jù)主權(quán)是一個(gè)國(guó)家對(duì)其行政轄區(qū)內(nèi)個(gè)人、企業(yè)和組織所產(chǎn)生的數(shù)據(jù)擁有的最高權(quán)力。誰(shuí)掌握了數(shù)據(jù)，誰(shuí)就擁有了數(shù)據(jù)主權(quán)。2022年7月，國(guó)家互聯(lián)網(wǎng)信息辦公室對(duì)滴滴全球股份有限公司依法作出網(wǎng)絡(luò)安全審查相關(guān)行政處罰的決定，其中涉及的一項(xiàng)違法違規(guī)行為即“違法違規(guī)運(yùn)營(yíng)給國(guó)家關(guān)鍵信息基礎(chǔ)設(shè)施安全和數(shù)據(jù)安全帶來(lái)嚴(yán)重安全風(fēng)險(xiǎn)隱患”。人工智能在全球范圍內(nèi)引發(fā)了一場(chǎng)史無(wú)前例的關(guān)系國(guó)家安全的科技競(jìng)爭(zhēng)，經(jīng)濟(jì)全球化面臨前所未有的考驗(yàn)。人工智能正在改變國(guó)家治理模式。人工智能技術(shù)為國(guó)家的高效運(yùn)行提供了新的基礎(chǔ)條件。它有助于完善國(guó)家治理體系，使之在剛性治理和柔性治理之間獲得平衡。智能技術(shù)或直接或間接地轉(zhuǎn)變了政府職能。這主要得益于人工智能在很大程度上打開了權(quán)力“黑箱”，政府信息公開保障了公民的知情權(quán)，權(quán)力的運(yùn)行、流程、決策漸趨開放，民眾開始深入了解政治運(yùn)行機(jī)制。人工智能推動(dòng)了公民體系的健全發(fā)展。民眾擁有了更多渠道以獲取各方面的政治、政策信息，這促進(jìn)了公民意識(shí)的覺醒。這就要求政府必須應(yīng)對(duì)新情況，重塑角色，從傳統(tǒng)的管理者轉(zhuǎn)變?yōu)榉?wù)者、協(xié)調(diào)者甚至合作者，加強(qiáng)與其他治理主體間的信息與資源共享、合作共治。人工智能發(fā)展對(duì)全球治理提出了新挑戰(zhàn)。人工智能時(shí)代，全球體系的領(lǐng)導(dǎo)權(quán)正在出現(xiàn)新變化。從權(quán)力邏輯看，美國(guó)在人工智能技術(shù)領(lǐng)域仍有強(qiáng)大實(shí)力，中國(guó)雖正在趕超但仍有差距，發(fā)達(dá)國(guó)家特別是美國(guó)希望鎖定其在智能技術(shù)領(lǐng)域相對(duì)于欠發(fā)達(dá)國(guó)家的優(yōu)勢(shì)。因此，西方發(fā)達(dá)國(guó)家在智能技術(shù)上仍舊保持著主導(dǎo)權(quán)和話語(yǔ)權(quán)。從沖突邏輯看，生成式人工智能的多模態(tài)發(fā)展能夠改善文明間的對(duì)話狀況，不同文化群體交流的可能性和概率提升，進(jìn)而也可能形成新的沖突和適應(yīng)性問(wèn)題。這對(duì)全球治理提出了新要求和新挑戰(zhàn)。為了應(yīng)對(duì)霸權(quán)邏輯，僅靠在國(guó)際社會(huì)中呼吁平等、公平和正義的價(jià)值觀無(wú)益于問(wèn)題的實(shí)質(zhì)性解決。需要在國(guó)家之間開展合作，發(fā)揮國(guó)際組織在全球治理中的功能。為了應(yīng)對(duì)沖突邏輯，要尋求國(guó)際社會(huì)在智能技術(shù)發(fā)展中的共識(shí)，通過(guò)協(xié)商機(jī)制應(yīng)對(duì)智能化過(guò)程中的不和諧因素，提出新的符合全球發(fā)展利益的人工智能發(fā)展新方向。人工智能應(yīng)用的社會(huì)風(fēng)險(xiǎn)與效應(yīng)。社會(huì)治理步入智能化時(shí)代，人工智能被用于社會(huì)治理的各個(gè)方面?？傮w上，人類步入了智能社會(huì)。自主系統(tǒng)已經(jīng)部署在我們最重要的社會(huì)機(jī)構(gòu)中，然而，還沒(méi)有統(tǒng)一的方法評(píng)估此類應(yīng)用對(duì)人類社會(huì)的持續(xù)性影響。人工智能重塑了勞動(dòng)結(jié)構(gòu)以及不同層次勞動(dòng)者的勞動(dòng)過(guò)程。人工智能可能將會(huì)取代體力勞動(dòng)，甚至部分腦力勞動(dòng)。隨著智能技術(shù)應(yīng)用的不斷深化，工人的工作形式從主導(dǎo)操作性向輔助操作性轉(zhuǎn)變。與傳統(tǒng)勞資關(guān)系相比，智能技術(shù)背景下的勞資關(guān)系在勞動(dòng)條件建立、勞動(dòng)管理方式和勞動(dòng)報(bào)酬獲取方式上出現(xiàn)了很多新變化。人工智能對(duì)就業(yè)的影響是顯而易見的，不僅重塑了勞動(dòng)結(jié)構(gòu)，還在結(jié)束某些舊行業(yè)、就業(yè)崗位的同時(shí)，創(chuàng)造新的就業(yè)。根據(jù)OpenAI的研究，未來(lái)受影響最大的行業(yè)是數(shù)據(jù)處理、信息服務(wù)、出版業(yè)和保險(xiǎn)行業(yè)，對(duì)于80%的美國(guó)人而言，至少有10%的工作任務(wù)會(huì)受到影響。最近備受關(guān)注的自動(dòng)駕駛汽車引發(fā)的網(wǎng)約車司機(jī)對(duì)失業(yè)的恐慌，事實(shí)上已經(jīng)傳遞出一個(gè)信號(hào)，即人工智能引發(fā)的失業(yè)問(wèn)題已經(jīng)不再是未來(lái)話題，必然掀起新一輪對(duì)人工智能代替勞動(dòng)就業(yè)的討論。也有學(xué)者對(duì)人工智能對(duì)就業(yè)的沖擊持樂(lè)觀態(tài)度。例如，戴文波特（T.H.Davenport）認(rèn)為增強(qiáng)人工智能應(yīng)用有利于業(yè)務(wù)流程和模型的快速創(chuàng)新。一些關(guān)于自動(dòng)化的研究表明：一方面，人工智能傾向于完成自動(dòng)化任務(wù)，而非取代整個(gè)工作流程；另一方面，大多數(shù)管理人員并不希望大規(guī)模的自動(dòng)化和智能化。這使人類面臨一個(gè)艱難的選擇：是改變我們的經(jīng)濟(jì)體制以應(yīng)對(duì)由此產(chǎn)生的社會(huì)動(dòng)蕩并保持經(jīng)濟(jì)增長(zhǎng)，還是承受一個(gè)非常困難的時(shí)期，同時(shí)目睹普遍貧困和提高生產(chǎn)力的矛盾。人工智能正在變革現(xiàn)有分配方式。其一，人工智能正在改變市場(chǎng)結(jié)構(gòu)，使掌控?cái)?shù)據(jù)的大企業(yè)在市場(chǎng)的信息不對(duì)稱上占有絕對(duì)主動(dòng)權(quán)，進(jìn)而讓該類企業(yè)獲得更多盈利。高技術(shù)企業(yè)之所以能比以往有更多發(fā)展機(jī)會(huì)，往往是利用了數(shù)據(jù)優(yōu)勢(shì)地位提升市場(chǎng)份額，少部分人利用智能技術(shù)優(yōu)勢(shì)獲取巨額利潤(rùn)，導(dǎo)致貧富差距進(jìn)一步拉大。其二，智能化對(duì)不同技能水平勞動(dòng)者收入的影響不同。就目前的情況看，智能化主要取代的是低技能勞動(dòng)者。隨著智能化的深入，尤其是大模型的推廣，部分高技能勞動(dòng)者也會(huì)在一定程度上受其影響。其三，從生產(chǎn)要素看，資本和技術(shù)成為主導(dǎo)要素，財(cái)富向少數(shù)掌握資本和技術(shù)的群體流動(dòng)。由于前兩點(diǎn)，智能技術(shù)對(duì)市場(chǎng)結(jié)構(gòu)的沖擊和對(duì)勞動(dòng)力成本的拉低使擁有不同生產(chǎn)要素群體的收入差距進(jìn)一步拉大。智能技術(shù)造成了分配的不均衡，進(jìn)而影響社會(huì)公平。人工智能引發(fā)的一系列社會(huì)變化、社會(huì)問(wèn)題都需要再次依靠人類智慧善用智能技術(shù)進(jìn)行社會(huì)治理。這從上述智能革命對(duì)全球治理、國(guó)家治理和政府轉(zhuǎn)型的影響中便可見一斑。社會(huì)結(jié)構(gòu)、勞動(dòng)結(jié)構(gòu)、社會(huì)關(guān)系、社會(huì)公平從來(lái)不是社會(huì)發(fā)展面臨的新議題，只不過(guò)在智能社會(huì)背景下，出現(xiàn)了新挑戰(zhàn)。因此，智能時(shí)代呼吁智能治理更好地應(yīng)對(duì)新挑戰(zhàn)。智能治理包括反治理（智能低效、技術(shù)怠工、智能破壞、官僚主義智能化、過(guò)度治理）和再治理（防范專家權(quán)力過(guò)大的政治風(fēng)險(xiǎn)），對(duì)社會(huì)的正常運(yùn)行所發(fā)揮的作用是建設(shè)性的。繼續(xù)在理性與感情、自我與他者的交際中爭(zhēng)論智能革命的社會(huì)問(wèn)題及應(yīng)對(duì)方案問(wèn)題，是極其有益的。實(shí)現(xiàn)人工智能善治的敏捷治理思路人工智能的國(guó)際治理經(jīng)驗(yàn)。人工智能治理日益成為國(guó)際競(jìng)爭(zhēng)的戰(zhàn)略要地。一方面，美國(guó)利用其全球霸權(quán)進(jìn)行“長(zhǎng)臂管轄”，試圖從芯片管制、標(biāo)準(zhǔn)規(guī)則等方面扼制我國(guó)人工智能發(fā)展；另一方面，各國(guó)都在人工智能治理領(lǐng)域積極運(yùn)作、搶占先機(jī)，因?yàn)橹卫肀澈缶o密關(guān)聯(lián)的是標(biāo)準(zhǔn)與規(guī)則制定，治理主動(dòng)權(quán)直接關(guān)系發(fā)展主動(dòng)權(quán)。歐盟與美國(guó)在人工智能治理領(lǐng)域扮演著引領(lǐng)者的角色。歐盟作為世界范圍內(nèi)人工智能立法的領(lǐng)跑者，在《數(shù)字市場(chǎng)法案》（DMA）、《通用數(shù)據(jù)保護(hù)條例》（CDPR）等文件基礎(chǔ)上，積極推動(dòng)統(tǒng)一立法工作，近期《人工智能法案》取得重要進(jìn)展，歐盟委員會(huì)和27個(gè)會(huì)員國(guó)就該法案達(dá)成協(xié)議。該法案自2021年提出以來(lái)，經(jīng)過(guò)了長(zhǎng)時(shí)間的討論、協(xié)商談判，為人工智能治理提供了全球首部硬法，使得歐盟在安全、可信、有道德的人工智能領(lǐng)域成為國(guó)際規(guī)則制定的領(lǐng)跑者。歐盟在技術(shù)和產(chǎn)業(yè)均不夠發(fā)達(dá)的情況下，通過(guò)規(guī)則制定，一方面，填補(bǔ)了人工智能道德領(lǐng)域的空白，成為全球標(biāo)準(zhǔn)制定者；另一方面，也為自身人工智能發(fā)展提供了基本保障，以避免其他國(guó)家人工智能產(chǎn)品的沖擊和風(fēng)險(xiǎn)?！度斯ぶ悄芊ò浮芬员Ｗo(hù)人的基本權(quán)利為核心，圍繞6項(xiàng)基本原則：人類主體和監(jiān)督，技術(shù)穩(wěn)健性和安全性，隱私和數(shù)據(jù)治理，透明度，多樣性、非歧視和公平，社會(huì)和環(huán)境福祉。根據(jù)人工智能系統(tǒng)對(duì)公民基本權(quán)利的威脅程度進(jìn)行分級(jí)，采取分級(jí)治理的監(jiān)管模式。該法案將人工智能風(fēng)險(xiǎn)劃分為四個(gè)等級(jí)：對(duì)人類安全和權(quán)利有明顯威脅應(yīng)被徹底禁止的不可接受風(fēng)險(xiǎn)；對(duì)個(gè)人健康、安全及基本權(quán)利有重大危害影響的高風(fēng)險(xiǎn)；使用者能意識(shí)到與人工智能互動(dòng)并自主判斷的有限風(fēng)險(xiǎn)；除上述之外的合規(guī)卻存在一定風(fēng)險(xiǎn)的輕微風(fēng)險(xiǎn)。值得注意的是，歐盟提倡實(shí)現(xiàn)監(jiān)管和發(fā)展的平衡，對(duì)高風(fēng)險(xiǎn)系統(tǒng)的監(jiān)管是該法案的核心，并將ChatGPT劃定為高風(fēng)險(xiǎn)的人工智能系統(tǒng)。歐盟的《人工智能法案》也受到了一些質(zhì)疑，質(zhì)疑主要集中于高風(fēng)險(xiǎn)人工智能系統(tǒng)監(jiān)管方式的可操作性上。此前《人工智能法案》推進(jìn)相對(duì)順利的關(guān)鍵在于，AI監(jiān)管和發(fā)展并不沖突。歐盟延續(xù)GDPR理念，將數(shù)據(jù)安全治理體系作為監(jiān)管核心，以用戶個(gè)人隱私為主的數(shù)據(jù)安全保護(hù)主要在商業(yè)領(lǐng)域，而歐盟國(guó)家人工智能介入產(chǎn)業(yè)發(fā)展并不以商業(yè)應(yīng)用為主。如德國(guó)只專注于生產(chǎn)制造業(yè)中的人機(jī)協(xié)同，不會(huì)出現(xiàn)個(gè)人隱私數(shù)據(jù)問(wèn)題；法國(guó)以人工智能教育和研發(fā)為主，商業(yè)應(yīng)用雖不少，但也并非其主要人工智能布局領(lǐng)域。但當(dāng)下情況正在發(fā)生變化，基礎(chǔ)模型的出現(xiàn)導(dǎo)致歐盟AI監(jiān)管和發(fā)展出現(xiàn)本質(zhì)沖突。ChatGPT展現(xiàn)的巨大潛力，預(yù)示著基礎(chǔ)模型將對(duì)產(chǎn)業(yè)產(chǎn)生顛覆性影響，很可能導(dǎo)致歐盟原先的人工智能產(chǎn)業(yè)布局重新調(diào)整。換言之，歐盟不確定未來(lái)是否也會(huì)需要開發(fā)、利用大模型來(lái)實(shí)現(xiàn)傳統(tǒng)產(chǎn)業(yè)的轉(zhuǎn)型升級(jí)，而對(duì)于基礎(chǔ)模型的嚴(yán)格監(jiān)管很可能導(dǎo)致歐盟在未來(lái)人工智能產(chǎn)業(yè)化時(shí)代美國(guó)對(duì)人工智能的監(jiān)管要求較少，主要以安全原則為主，結(jié)合“聯(lián)邦—州”二元立法結(jié)構(gòu)，建立符合產(chǎn)業(yè)現(xiàn)狀的治理模式。美國(guó)的人工智能治理強(qiáng)調(diào)個(gè)人隱私保護(hù)和產(chǎn)業(yè)發(fā)展的平衡，將提升透明度和反對(duì)歧視作為重要準(zhǔn)則，利用技術(shù)標(biāo)準(zhǔn)和規(guī)則指南促進(jìn)行業(yè)自律。相較于歐盟，美國(guó)的國(guó)家立法美國(guó)的人工智能治理展現(xiàn)出以下三個(gè)特征：一是以行政令為主，相比于出臺(tái)具有極強(qiáng)約束力的法律文件，更側(cè)重于提出AI監(jiān)管原則和框架，如2020年發(fā)布的《人工智能應(yīng)用監(jiān)管指南》提出10項(xiàng)AI監(jiān)管原則，2022年發(fā)布的《人工智能權(quán)利法案藍(lán)圖》提出負(fù)責(zé)任地使用AI路線圖，2023年發(fā)布的《人工智能風(fēng)險(xiǎn)管理框架》提供了可參考的AI風(fēng)險(xiǎn)管理框架。2023年9月，美國(guó)第一個(gè)嚴(yán)格、全面的立法藍(lán)圖——《兩黨人工智能立法框架》被提出，但尚未被國(guó)會(huì)通過(guò)。二是地方立法較多，美國(guó)已經(jīng)有眾多州推出了關(guān)于人工智能的立法，其中馬里蘭州、加利福尼亞州、馬薩諸塞州、華盛頓州都已通過(guò)超過(guò)5部的立法。三是以行業(yè)自律為主，相較于監(jiān)管，美國(guó)更關(guān)心人工智能產(chǎn)業(yè)的創(chuàng)新發(fā)展。2023年以來(lái)美國(guó)行業(yè)自律變得更加主動(dòng)，科技巨頭主動(dòng)尋求與相關(guān)機(jī)構(gòu)進(jìn)行合作，如2023年8月，美國(guó)白宮與7家頂級(jí)人工智能公司，包括谷歌、微軟、亞馬遜、Meta、OpenAI、Anthropic和Inflection達(dá)成共識(shí)，各公司都同意在開發(fā)人工智能方面作出一系列自愿承諾，包括允許獨(dú)立專家在公開亮相之前評(píng)估工具，研究與人工智能相關(guān)的社會(huì)風(fēng)險(xiǎn)，并允許第三方測(cè)試系統(tǒng)漏洞。與此同時(shí)，美國(guó)在人工智能立法方面也有所動(dòng)作。2023年10月，民主黨和共和黨參議員聯(lián)合提出兩黨法案，要求創(chuàng)新主體對(duì)AI生成的內(nèi)容和聊天機(jī)器人進(jìn)行明確標(biāo)注和披露；要求開發(fā)人員在AI生成內(nèi)容上添加清晰且顯著的標(biāo)簽；聯(lián)合來(lái)自政府、學(xué)術(shù)界、媒體界和AI開發(fā)的領(lǐng)導(dǎo)者成立一個(gè)工作組，重點(diǎn)關(guān)注識(shí)別AI生成內(nèi)容的最佳實(shí)踐和披露情況。同月，總統(tǒng)拜登簽署的《關(guān)于安全、可靠和值得信賴的開發(fā)和使用人工智能行政令》提出了8項(xiàng)目標(biāo)，要求15家領(lǐng)軍企業(yè)自愿承諾推動(dòng)安全、可靠、可信的人工智能發(fā)展。同年11月又推出了《2023年人工智能研究、創(chuàng)新和問(wèn)責(zé)法案》，鼓勵(lì)人工智能創(chuàng)新的立法舉措和建立問(wèn)責(zé)框架。該法案提出人工智能系統(tǒng)分類方法、透明度要求及相應(yīng)監(jiān)管手段，也透露了未來(lái)美國(guó)生成式AI的監(jiān)管方向主要是對(duì)“為人類作者和人工智能生成的內(nèi)容提供真實(shí)性和出處信息”的手段的開發(fā)和標(biāo)準(zhǔn)化。我國(guó)人工智能治理經(jīng)驗(yàn)。我國(guó)對(duì)人工智能的治理歷經(jīng)了摸索治理理念、對(duì)象、主體、工具的探索式治理；以柔性規(guī)制方式為我國(guó)人工智能治理的基本態(tài)度而面向國(guó)際社會(huì)的回應(yīng)式治理；通過(guò)多部門聯(lián)動(dòng)出臺(tái)法律法規(guī)等硬性規(guī)制工具的集中式治理；以及適應(yīng)技術(shù)變化，主動(dòng)采取剛?cè)岵⑦M(jìn)，增強(qiáng)社會(huì)抗風(fēng)險(xiǎn)韌性的敏捷式治理這四個(gè)階段。在回應(yīng)式治理階段，針對(duì)國(guó)內(nèi)行業(yè)問(wèn)題，我國(guó)出臺(tái)了一系列軟性規(guī)則。如《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》等，堅(jiān)持以創(chuàng)新發(fā)展為導(dǎo)向，積極推動(dòng)行業(yè)發(fā)展，塑造了有利于人工智能發(fā)展的大氣候；再如《新一代人工智能發(fā)展規(guī)劃》《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（2018-2020年）》的出臺(tái)，為人工智能發(fā)展規(guī)劃了明確的時(shí)間表與路線圖。在集中式治理階段，我國(guó)推動(dòng)各部門聯(lián)動(dòng)，針對(duì)性地采取整治措施，對(duì)企業(yè)的違規(guī)行為進(jìn)行了規(guī)范和整頓，并相繼在數(shù)據(jù)維度、算法維度、平臺(tái)維度頒布了一系列的法律法規(guī)，同時(shí)及時(shí)更新了行業(yè)標(biāo)準(zhǔn)與倫理規(guī)范。從全球范圍看，我國(guó)較早制定了人工智能國(guó)家戰(zhàn)略，積極推動(dòng)人工智能治理工作，堅(jiān)持多維度、多領(lǐng)域、多層次的整體治理方針。重視整體規(guī)劃，制定了國(guó)家級(jí)的人工智能發(fā)展規(guī)劃；加強(qiáng)機(jī)構(gòu)建設(shè)，成立了國(guó)家新一代人工智能治理專業(yè)委員會(huì)；關(guān)注垂直領(lǐng)域，出臺(tái)相關(guān)政策和舉措促進(jìn)發(fā)展與治理的平衡；重視法律法規(guī)的完善，由國(guó)家互聯(lián)網(wǎng)信息辦公室主導(dǎo)監(jiān)管規(guī)制；參與國(guó)際治理，積極在國(guó)際舞臺(tái)發(fā)出中國(guó)聲音?？偠灾覈?guó)現(xiàn)階段人工智能治理采取了軟硬法兼施的路徑。國(guó)家立法上，我國(guó)先后頒布了《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》，下一步應(yīng)積極推進(jìn)人工智能立法工作，集思廣益探討人工智能法草案。監(jiān)管規(guī)制上，我國(guó)先后發(fā)布了《關(guān)于加強(qiáng)科技倫理治理的意見》《生成式人工智能服務(wù)管理暫行辦法》《科技倫理審查辦法（暫行）》《全球人工智能治理倡議》，接下來(lái)應(yīng)落實(shí)軟法規(guī)制，促進(jìn)原則、標(biāo)準(zhǔn)、指南、意見的落地，助力人工智能健康發(fā)展。地方舉措上也有諸多進(jìn)展，如北京市人民政府辦公廳印發(fā)了《促進(jìn)北京市通用人工智能創(chuàng)新發(fā)展若干措施》，杭州市人民政府辦公廳印發(fā)《關(guān)于加快人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展的實(shí)施意見》等，支撐產(chǎn)業(yè)創(chuàng)新生態(tài)，發(fā)揮典型示范引領(lǐng)作用。總體上，我國(guó)人工智能治理形成了中央與地方合作、公共部門與私營(yíng)部門協(xié)調(diào)的多層次整體布局。然而，隨著人工智能時(shí)代的到來(lái)尤其是生成式人工智能的快速發(fā)展，我國(guó)人工智能治理工作也面臨著新問(wèn)題、新挑戰(zhàn)。僅僅沿用過(guò)去的治理辦法已難以應(yīng)對(duì)新形勢(shì)下人工智能發(fā)展的迅猛勢(shì)頭，如何規(guī)避新一代人工智能帶來(lái)的新風(fēng)險(xiǎn)，需要構(gòu)建適應(yīng)新一代人工智能發(fā)展的治理框架，真正將問(wèn)題發(fā)現(xiàn)與應(yīng)對(duì)措施落到治理實(shí)踐中，這也正是敏捷式治理嘗試回答的主要問(wèn)題。構(gòu)建新一代人工智能治理模式——敏捷治理。ChatGPT目前取得的成果為通用人工智能的未來(lái)發(fā)展注入了一劑強(qiáng)心劑，使人們的注意力轉(zhuǎn)向人工智能大模型機(jī)制中可能產(chǎn)生的“涌現(xiàn)”現(xiàn)象。技術(shù)上，“涌現(xiàn)”基于高質(zhì)量大數(shù)據(jù)、超強(qiáng)算力、智能算法的基礎(chǔ)技術(shù)架構(gòu)，通過(guò)詞向量、句向量的表達(dá)將概念問(wèn)題轉(zhuǎn)化為數(shù)學(xué)問(wèn)題，產(chǎn)生“超以象外，得其環(huán)中”的效果。結(jié)果上，大模型已經(jīng)在某種程度上展現(xiàn)出強(qiáng)人工智能的部分能力，甚至在一些領(lǐng)域創(chuàng)造了人工智能替代人的現(xiàn)實(shí)可能性。生成式人工智能對(duì)治理模式提出了新挑戰(zhàn)和新要求。敏捷治理旨在構(gòu)建穩(wěn)健可行的人工智能倫理與治理框架。它強(qiáng)調(diào)監(jiān)管的節(jié)奏和力度，以及治理手段的適應(yīng)性，是一套兼具柔韌性、流動(dòng)性、靈活性的模式方法，嘗試突破傳統(tǒng)的監(jiān)管與被監(jiān)管思維，構(gòu)建互動(dòng)的監(jiān)管關(guān)系，形成協(xié)同共治的體系。針對(duì)新興技術(shù)發(fā)展的特性，治理需要重新考慮法律假設(shè)、風(fēng)險(xiǎn)研判和利益平衡三個(gè)維度的問(wèn)題。因此，踐行敏捷治理必須在治理理念、治理主體、治理對(duì)象、治理工具多個(gè)維度形成耦合機(jī)制，才能實(shí)現(xiàn)真正的善治。治理理念上，堅(jiān)持創(chuàng)新導(dǎo)向、風(fēng)險(xiǎn)規(guī)制相結(jié)合的系統(tǒng)思路，妥善處理技術(shù)創(chuàng)新和規(guī)范治理之間的矛盾。以確保人工智能安全可靠為底線，鼓勵(lì)企業(yè)大膽創(chuàng)新，善用生成式人工智能賦能經(jīng)濟(jì)發(fā)展。只談治理不談發(fā)展必定造成治理的空洞化。雖然人工智能作為顛覆性技術(shù)不可避免會(huì)帶來(lái)風(fēng)險(xiǎn)，但必須防止技術(shù)被妖魔化，對(duì)新興技術(shù)應(yīng)當(dāng)保持寬容度，容許其在可控的范圍內(nèi)發(fā)生問(wèn)題，再糾正問(wèn)題。從國(guó)際經(jīng)驗(yàn)上看，美國(guó)強(qiáng)調(diào)科技創(chuàng)新和產(chǎn)業(yè)發(fā)