2024年全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究報告-42正式版

瞭望系列報告實踐及發(fā)展趨勢研究國家工業(yè)信息安全發(fā)展研究中心2024年12月“工信安全智庫”系列報告編委會主任：蔣艷周健副主任：黃鵬成員：李強馮媛殷利梅楊志鋒王花蕾申畯劉丹孫倩文付偉胡思洋王慧嫻閆寒馬瑞敏王丁冉王蕊編寫組撰稿：劉芷君審稿：李強馮媛王花蕾孫倩文全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究序國家工業(yè)信息安全發(fā)展研究中心經(jīng)過60智庫研究方面形成了豐碩的積累。2018年9月，中心推出“工信安全智庫”品牌，立足深化供給側(cè)結(jié)構(gòu)性改革和加快建設(shè)創(chuàng)新型國家戰(zhàn)略需求，圍繞制造強國和網(wǎng)絡(luò)強國建設(shè)任務(wù)，聚焦網(wǎng)絡(luò)安全、數(shù)字經(jīng)濟、軟件產(chǎn)業(yè)、產(chǎn)融合作等重點領(lǐng)域，開展基礎(chǔ)性、戰(zhàn)略性、先導(dǎo)性智庫研究，為工業(yè)和信息化部、中央網(wǎng)信辦、國家發(fā)展改革委等提供智力支持。2019瞭望”“指數(shù)”“案例”“編譯”等系列研究報告，圍繞黨和政府決策急需的相關(guān)重大課題和關(guān)鍵問題，開展形勢研判、專題調(diào)研、國際跟蹤、景氣測度、案例分析、報告翻譯等方面的持續(xù)研究，為主管部門預(yù)見走勢、把握機遇、應(yīng)對挑戰(zhàn)、謀劃戰(zhàn)略提供參考。本次推出的瞭望報告總結(jié)了全球人工智能立法的兩大邏輯導(dǎo)向和四大主流模式，列舉了歐盟、美國、新加坡、中國等主要經(jīng)濟體的人工智能立法實踐，研判了全球人工智能立法的發(fā)展趨勢，并為我國完善人工智能法律體系提出了相關(guān)建議。由于成稿倉促，加之水平有限，報告中難免有疏漏和錯誤之處，懇請批評指正。編寫組2024年12月全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究摘要隨著人工智能技術(shù)的不斷發(fā)展和廣泛應(yīng)用，人工智能逐漸成為大國博弈的重要焦點，各國和地區(qū)都在積極推進(jìn)人工智能立法，推動人工智能規(guī)范化應(yīng)用，全球人工智能競爭逐漸從技術(shù)之爭發(fā)展到規(guī)則之爭、治理之爭?？v觀全球人工智能立法實踐，可以發(fā)現(xiàn)不同國家和地區(qū)在人工智能立法方面體現(xiàn)出不同的邏輯導(dǎo)向和立法模式路徑。歐盟以安全規(guī)制為導(dǎo)向，制定出臺了全球首部統(tǒng)一的人工智能綜合立法，體現(xiàn)出強監(jiān)管傾向；美國以技術(shù)發(fā)展為導(dǎo)向，對人工智能的監(jiān)管力度相對寬松，相關(guān)規(guī)定融合在現(xiàn)有立法中或?qū)χ攸c應(yīng)用場景制定專門立法；新加坡致力于占據(jù)人工智能技術(shù)創(chuàng)新主動權(quán)，以技術(shù)發(fā)展為導(dǎo)向，通過制定標(biāo)準(zhǔn)、指南等非約束性的軟法指導(dǎo)人工智能規(guī)范發(fā)展；中國則貫徹統(tǒng)籌發(fā)展和安全的理念，現(xiàn)階段體現(xiàn)出融合立法和場景立法的特征，同時持續(xù)推進(jìn)人工智能綜合立法進(jìn)程，不斷完善人工智能治理法律法規(guī)體系。隨著全球人工智能立法和監(jiān)管實踐的持續(xù)推進(jìn)，人工智能在各國的戰(zhàn)略地位進(jìn)一步加強，各國將更加關(guān)注安全和發(fā)展的平衡，柔性規(guī)則和硬性規(guī)定將同步發(fā)展，統(tǒng)一立法將成為國際主流趨勢，人工智能國際治理規(guī)則體系將持續(xù)構(gòu)建。我國應(yīng)秉持統(tǒng)籌發(fā)展和安全的原則，順應(yīng)人工智能治理的全球趨勢，強化立法頂層設(shè)計，制定人工智能治理制度框架，加強國際交流對話，提出人工智能治理的中國方案。全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究目錄一、人工智能立法的邏輯導(dǎo)向和主要模式1（一）人工智能立法的兩大邏輯導(dǎo)向1（二）人工智能立法的四大主流模式3二、主要經(jīng)濟體人工智能立法實踐6（一）歐盟：以安全規(guī)制為導(dǎo)向，實行統(tǒng)一立法模式........................6（二）美國：以技術(shù)發(fā)展為導(dǎo)向，實行融合立法和場景立法模式9......................12（四）中國：統(tǒng)籌發(fā)展和安全，實行融合立法和場景立法模式14三、全球人工智能立法特點和趨勢2020..........22（三）統(tǒng)一立法成為大勢所趨，多元立法模式呈融合互補趨勢23（四）國際治理規(guī)則持續(xù)構(gòu)建，人工智能立法全球化趨勢顯著25四、啟示建議（一）持續(xù)完善頂層設(shè)計，形成多元共治的治理格局......................27（二）劃定安全治理邊界，確立風(fēng)險分級的管理機制......................29（三）強化國際交流對話，提出全球治理的中國方案......................30參考文獻(xiàn)全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究人工智能是引領(lǐng)未來的戰(zhàn)略性技術(shù)，是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，是必須搶占的科技制高點。黨的二十屆三中全會通過的《中共中央關(guān)于進(jìn)一步全面深化改革推進(jìn)中國式現(xiàn)代化的決定》提出“建立人工智能安全監(jiān)管制度”，對推動人工智能安全發(fā)展義重大。深入貫徹落實黨的二十屆三中全會精神，必須堅持全面依法治國，加快人工智能立法進(jìn)程，推進(jìn)人工智能治理法治化，更好發(fā)揮法治對于人工智能健康發(fā)展的引領(lǐng)、規(guī)范和保障作用。一、人工智能立法的邏輯導(dǎo)向和主要模式由于各國在人工智能技術(shù)發(fā)展、社會文化背景、法律傳統(tǒng)等方面存在差異，各國人工智能立法體現(xiàn)出了不同的邏輯導(dǎo)向和立法模式。（一）人工智能立法的兩大邏輯導(dǎo)向人工智能作為引領(lǐng)未來的戰(zhàn)略性技術(shù)，是新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動力，因此對人工智能的立法規(guī)制需要衡量人工智能技術(shù)和產(chǎn)業(yè)的發(fā)展及其安全治理需求，然而這兩者不可避免地存在一定的沖突與矛盾。一方面，人工智能技術(shù)的發(fā)展會帶來更大的安全風(fēng)險。例如，人工智能系統(tǒng)需要大量的數(shù)據(jù)進(jìn)行訓(xùn)練和優(yōu)化，將帶來更大的數(shù)據(jù)泄露和個人隱私風(fēng)險；人工智能技術(shù)將暴露更大的系統(tǒng)攻擊面，增加網(wǎng)絡(luò)攻擊風(fēng)險；自動駕駛汽車、智能醫(yī)療診斷等人工智能自主決策場景在系統(tǒng)決策算法存在缺陷或被惡意篡改的情況下，可能導(dǎo)致嚴(yán)重的安全事故；人工智能技術(shù)還可能被用于制造惡意軟件、進(jìn)行網(wǎng)絡(luò)釣魚等非法活動；如果人工智能技術(shù)被用于1全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究監(jiān)視和控制，將侵犯個人隱私和自由，引發(fā)嚴(yán)重的社會問題。另一方面，安全治理在一定程度上會制約人工智能技術(shù)的快速發(fā)展。一是導(dǎo)致合規(guī)成本增加。為了符合安全治理和合規(guī)要求，企業(yè)需要在技術(shù)研發(fā)、產(chǎn)品設(shè)計、數(shù)據(jù)收集與處理等各個環(huán)節(jié)增加投入，從而增加企業(yè)運營成本，或?qū)е卵邪l(fā)投入減少。二是限制技術(shù)創(chuàng)新。安全治理往往伴隨一系列限制性規(guī)定，例如限制某些數(shù)據(jù)的使用方式或算法的應(yīng)用范圍以保護個人隱私、要求采用更為保守的技術(shù)方案以保障系統(tǒng)安全等，這些限制在一定程度上制約了人工智能技術(shù)的創(chuàng)新空間。三是提高市場準(zhǔn)入門檻。安全治理往往會提高企業(yè)的市場準(zhǔn)入門檻，可能導(dǎo)致一些中小企業(yè)或初創(chuàng)企業(yè)因難以承擔(dān)高昂的合規(guī)成本而難以進(jìn)入市場，從而削弱市場競爭活力。四是政策滯后性帶來監(jiān)管不確定風(fēng)險。法律法規(guī)的制定和修訂速度往往滯后于技術(shù)發(fā)展速度，導(dǎo)致企業(yè)在技術(shù)創(chuàng)新過程中面臨不確定性和風(fēng)險，或使企業(yè)在投資決策時更加謹(jǐn)慎，從而減緩技術(shù)發(fā)展速度。五是加大國際合作壁壘。不同國家和地區(qū)在人工智能、數(shù)據(jù)跨境流動、技術(shù)出口管制等方面的法律法規(guī)、政策標(biāo)準(zhǔn)和行業(yè)規(guī)范存在差異，可能導(dǎo)致國際合作面臨障礙，從而制約人工智能技術(shù)的跨國界快速發(fā)展。各經(jīng)濟體基于自身發(fā)展需求對人工智能展開法律規(guī)制，平衡人工智能安全與人工智能技術(shù)創(chuàng)新，體現(xiàn)出不同的立法導(dǎo)向。以美國為代表的國家以推動技術(shù)發(fā)展為導(dǎo)向進(jìn)行人工智能立法。美國的法律、政治與文化一直信任市場力量，支持企業(yè)通過市場競爭為消費者與市場提供優(yōu)質(zhì)產(chǎn)品，這一導(dǎo)向在人工智能領(lǐng)域也得以體現(xiàn)。美2全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究國對于國內(nèi)人工智能發(fā)展強調(diào)市場主導(dǎo)與創(chuàng)新驅(qū)動，在風(fēng)險防范方面強調(diào)行業(yè)自律而不是強有力的政府監(jiān)管。在這種理念的指導(dǎo)下，美國的人工智能立法主要針對政府機構(gòu)，對企業(yè)的限制僅限于消費者知情權(quán)、反歧視保護等方面。以歐盟為代表的經(jīng)濟體則以安全規(guī)制為導(dǎo)向推進(jìn)人工智能立法。目前全球的產(chǎn)業(yè)與技術(shù)主要集中在美國與中國尤其是美國，而歐盟則幾乎沒有特別具有影響力的數(shù)字企業(yè)與領(lǐng)先技術(shù)，歐盟在人工智能等數(shù)字經(jīng)濟領(lǐng)域的技術(shù)硬實力逐漸降低，其影響力日益集中在規(guī)則制定的軟實力領(lǐng)域。歐盟在價值取向上更注重人工智能本身的安全，對人工智能進(jìn)行統(tǒng)一立法，既可以對數(shù)字產(chǎn)業(yè)進(jìn)行有效規(guī)范，又可以利用立法對域外大型互聯(lián)網(wǎng)與科技企業(yè)進(jìn)行有效監(jiān)管。（二）人工智能立法的四大主流模式通過立法規(guī)制人工智能已成為各國共識，各國不斷探索采用符合本國國情的立法模式，以實現(xiàn)技術(shù)向善、規(guī)范運行的目的。立法模式是指一定時期內(nèi)，一個國家或地區(qū)在某一領(lǐng)域制定法律的表現(xiàn)形式?？v觀各國家和地區(qū)的人工智能立法實踐，目前主要立法模式可以劃分為統(tǒng)一立法模式、場景立法模式、融合立法模式、軟法先行模式四種。值得注意的是，立法是一項復(fù)雜的國家行為，各國的人工智能立法并非只體現(xiàn)為單一的立法模式，往往會融合不同立法模式。一是統(tǒng)一立法模式。統(tǒng)一立法模式是指國家制定一部專門的人工智能法案，對人工智能的定義、發(fā)展、安全治理、監(jiān)督管理等作3全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究統(tǒng)一規(guī)定，對人工智能進(jìn)行垂直性和體系性治理，歐盟是統(tǒng)一立法模式的代表。整體上看，統(tǒng)一立法模式通常會對人工智能進(jìn)行統(tǒng)一界定以確保法律規(guī)范的同一性和一致性，由專門機構(gòu)統(tǒng)一負(fù)責(zé)監(jiān)管執(zhí)法以確保執(zhí)法的專業(yè)性，還會明確違反法案所承擔(dān)的法律責(zé)任。歐盟是統(tǒng)一立法模式的典型代表。二是場景立法模式。場景立法模式是一國針對特定場景或特定領(lǐng)域制定不同的法案規(guī)范人工智能應(yīng)用。與統(tǒng)一立法模式不同，場景立法模式下人工智能相關(guān)立法并不會對人工智能進(jìn)行全面規(guī)制，而是對消費、金融、教育等不同場景下的人工智能應(yīng)用進(jìn)行規(guī)范，從而在推動人工智能創(chuàng)新發(fā)展的同時，確保在重要領(lǐng)域和場景下的規(guī)范應(yīng)用和安全治理。美國是場景立法模式的典型代表。三是融合立法模式。融合立法模式是針對人工智能的法律規(guī)定分散融合在其他部門法中，用以規(guī)范不同行業(yè)領(lǐng)域的人工智能安全應(yīng)用。在融合立法模式中，對于人工智能的規(guī)范通常作為消費者保護、產(chǎn)品責(zé)任、個人信息保護等立法的重要內(nèi)容之一，而不是作為專門規(guī)制的對象進(jìn)行立法。美國也是融合立法模式的典型代表。四是軟法先行模式。軟法是指不能運用國家強制力保證實施的法律規(guī)范。與軟法相對應(yīng)的概念是“硬法”，是指具有強制約束力的法律規(guī)范。硬法通常會經(jīng)過嚴(yán)格的立法程序和審查機制，法律條文具有高度的確定性，難以較好地應(yīng)對人工智能技術(shù)的復(fù)雜性和不確定性。因此，軟法作為一種更加靈活、更具“實驗性”的治理工具，被越來越多地應(yīng)用于人工智能的治理中。在人工智能立法過程4全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究中，優(yōu)先采用不具有法律約束力但會產(chǎn)生實際規(guī)范效果的行為準(zhǔn)則、政策指導(dǎo)等軟法手段，能夠增強法律規(guī)范的靈活性和對人工智能技術(shù)的適應(yīng)性，降低監(jiān)管成本，在一定時期實現(xiàn)對人工智能技術(shù)的有效治理。很多國家在人工智能立法最初階段都是從軟法開始的，新加坡是目前軟法先行立法模式的典型代表。比較全球主流的人工智能立法模式，會發(fā)現(xiàn)各個模式各有優(yōu)缺點。統(tǒng)一立法模式能夠最大程度集中國家力量，一方面能夠協(xié)調(diào)一國內(nèi)部法律規(guī)范，形成嚴(yán)密的治理法網(wǎng)，實現(xiàn)跨領(lǐng)域綜合監(jiān)管；另一方面，通過合規(guī)義務(wù)和法律責(zé)任進(jìn)行垂直適用，有利于維護監(jiān)管執(zhí)法的公平公正，取得全球智能治理的規(guī)范優(yōu)勢。但統(tǒng)一立法模式明確界定人工智能相關(guān)概念范圍，在面對技術(shù)更迭時易因靈活性和針對性不足而減損規(guī)范效果，還面臨標(biāo)準(zhǔn)設(shè)定困難及風(fēng)險動態(tài)變化的問題。場景立法模式和融合立法模式針對特定行業(yè)領(lǐng)域的人工智能應(yīng)用進(jìn)行立法規(guī)范，主要通過融入傳統(tǒng)部門法或推出針對性法案進(jìn)行規(guī)制，可最大限度地維護原有規(guī)范體系的穩(wěn)定性，還具有淵源多元、形式靈活等特點，既可結(jié)合新型人工智能做到“急法先用”，又可留出試錯空間推動人工智能技術(shù)迭代創(chuàng)新。但分散立法不利于全盤布局和持續(xù)發(fā)展，可能出現(xiàn)立法沖突、重復(fù)立法等問題，損害立法的體系性和權(quán)威性。同時多元執(zhí)法機構(gòu)在針對同一違規(guī)行為時，因規(guī)范適用的差異及權(quán)責(zé)邊界的模糊，可能執(zhí)法不公或重復(fù)處罰，甚至形成執(zhí)法盲區(qū)。軟法先行模式在人工智能處于高速發(fā)展的階段能夠為技術(shù)創(chuàng)新留出空間，通過指導(dǎo)性規(guī)范引導(dǎo)技術(shù)健康向善發(fā)展，5全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究但軟法模式下人工智能監(jiān)管主要依靠柔性的倫理、原則或指南，缺乏強制性的法律責(zé)任，實際上很難發(fā)揮法律威懾作用。二、主要經(jīng)濟體人工智能立法實踐人工智能屬于新生事物，在人工智能立法方面各國家和地區(qū)均處于探索階段，基于具體國情、發(fā)展實際和價值取向，采取了不同的立法路徑。（一）歐盟：以安全規(guī)制為導(dǎo)向，實行統(tǒng)一立法模式歐盟在人工智能安全和技術(shù)創(chuàng)新的平衡中更加偏向安全治理，體現(xiàn)出安全規(guī)制導(dǎo)向。除了防范人工智能技術(shù)發(fā)展帶來的安全風(fēng)險外，歐盟高度重視人工智能安全規(guī)制還出于幾方面考慮。一是保護公民基本權(quán)利。歐盟高度重視個人的權(quán)利和自由，無論是數(shù)據(jù)保護還是人工智能保護均體現(xiàn)出高度重視個人權(quán)利保護的立法導(dǎo)向。人工智能技術(shù)的快速發(fā)展和應(yīng)用，對公民隱私權(quán)等基本權(quán)利構(gòu)成了潛在威脅。歐盟通過制定嚴(yán)格的人工智能監(jiān)管法案規(guī)范人工智能的應(yīng)用，要求人工智能系統(tǒng)的開發(fā)者和部署者遵守透明度要求，保護用戶數(shù)據(jù)的安全和隱私。二是提升歐洲數(shù)字市場的凝聚力和競爭力。在數(shù)字時代，歐洲面臨著來自全球范圍內(nèi)的競爭壓力。為了提升歐洲數(shù)字市場的凝聚力和競爭力，歐盟制定統(tǒng)一的法律框架來監(jiān)管人工智能技術(shù)，為所有成員國提供了統(tǒng)一的法律指引，有助于消除監(jiān)管碎片化，提升歐洲在數(shù)字領(lǐng)域的整體實力。三是維護歐盟的“數(shù)字主權(quán)”。在人工智能等前沿技術(shù)上，歐盟目前落后于美國和中國。為了維護自身的“數(shù)字主權(quán)”，歐盟希望通過強監(jiān)管來規(guī)范外國技6全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究術(shù)公司的行為，同時促進(jìn)本地技術(shù)創(chuàng)新，有助于歐盟在數(shù)字領(lǐng)域特別是監(jiān)管規(guī)則方面形成全球范式，掌握全球人工智能規(guī)則制定的主導(dǎo)權(quán)。歐盟作為人工智能統(tǒng)一立法模式的典型代表，較早開始人工智能立法實踐，經(jīng)過多年的探索實踐和立法程序，最終形成了全球首部專門的人工智能法案。歐盟自2016年起就不斷探索推進(jìn)對人工智能技術(shù)應(yīng)用的監(jiān)管體系建構(gòu)，相關(guān)部門陸續(xù)發(fā)布《歐盟機器人民事法律規(guī)則》《算法的可問責(zé)和透明的治理框架》《可信人工智能倫理指南》《試行“可信賴人工智能的指引評估清單”》等指導(dǎo)性文2021年4月，歐盟委員會提出了關(guān)于歐盟人工智能監(jiān)管框架的建議，同時提出了《人工智能法案》提案的談判授權(quán)草案，建議在立法中制定一個技術(shù)中立的人工智能系統(tǒng)定義，并根據(jù)“基于風(fēng)險的路徑”為不同風(fēng)險的人工智能系統(tǒng)進(jìn)行分類，并制定相應(yīng)的監(jiān)管舉措。此后，歐洲議會和歐盟理事委員會針對該草案進(jìn)行了多輪修訂和討論，于2022年122023年6洲議會以499票贊成、28票反對和93能法案》談判授權(quán)草案。此次談判全面禁止了人工智能用于生物識系統(tǒng)必須披露人工智能生成的內(nèi)容，在選舉中用于影響選民的人工智能系統(tǒng)被認(rèn)為具有高風(fēng)險。這份談判授權(quán)草案推動了該法案進(jìn)入立法程序2023年127全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究2024年2月227國代表在《人工智能法案》文本上達(dá)成臨時政治共識。3月13日，歐盟議會以523票贊成、46票反對和49標(biāo)志著全球人工智能領(lǐng)域監(jiān)管邁入新時代。歐盟《人工智能法案》對人工智能系統(tǒng)進(jìn)行了統(tǒng)一界定和分類，并對風(fēng)險進(jìn)行分級管理，還對通用人工智能模型進(jìn)行了規(guī)定，為各國提供了人工智能監(jiān)管規(guī)則范例。表1歐盟《人工智能法案》重點內(nèi)容重點事項主要內(nèi)容法案旨在規(guī)范整個人工智能產(chǎn)業(yè)鏈的主體，適用主體包

進(jìn)口商、分銷商和產(chǎn)品制造商。法案也規(guī)定了一些適用法案適用主體及除外情形1的而專門開發(fā)和投入使用的人工智能系統(tǒng)或人工智能模23的而投放市場、投入使用的人工智能系統(tǒng)。法案明確人工智能系統(tǒng)是一種基于機器的系統(tǒng)，設(shè)計為

人工智能系統(tǒng)的定義并且為了明確或隱含的目標(biāo)，從其接收的輸入中推斷如何生成可影響物理或虛擬環(huán)境的輸出，如預(yù)測、內(nèi)容、

建議或決定。法案將人工智能系統(tǒng)分為兩類：一是產(chǎn)品構(gòu)成類，例如

醫(yī)療器械、自動駕駛、輪船、玩具等產(chǎn)品內(nèi)部包含的人人工智能系統(tǒng)的分類工智能系統(tǒng)；二是獨立于產(chǎn)品的輔助決策類，例如用于招聘雇傭、招生升學(xué)、移民篩查、執(zhí)法檢查等各類應(yīng)用場景的人工智能系統(tǒng)。法案將這些不同類別的人工智能系統(tǒng)進(jìn)行統(tǒng)一規(guī)制。人工智能系統(tǒng)的風(fēng)險分級管理法案將風(fēng)險分為不可接受風(fēng)險、高風(fēng)險、有限風(fēng)險、最小風(fēng)險四類，每個類別適用不同程度的監(jiān)管要求。禁止類的風(fēng)險主要包括利用潛意識技術(shù)扭曲個人或群體的行8全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究重點事項主要內(nèi)容為，造成重大傷害、利用人工智能危害特定弱勢群體、

進(jìn)行社會信用評分、利用人工智能進(jìn)行特定侵入性的執(zhí)法等類型。高風(fēng)險主要包括應(yīng)用于現(xiàn)有歐盟產(chǎn)品安全法

教育和職業(yè)培訓(xùn)、就業(yè)等特定領(lǐng)域應(yīng)用人工智能系統(tǒng)。

對于高風(fēng)險的人工智能，人工智能系統(tǒng)的提供者需要承

擔(dān)一系列責(zé)任。法案明確通用人工智能模型是一個包括使用大量數(shù)據(jù)進(jìn)行大規(guī)模自我監(jiān)督訓(xùn)練的人工智能模型。該模型具有顯

著的通用性，無論以何種方式投放市場，都能勝任各種不同的任務(wù)，并可集成到各種下游系統(tǒng)或應(yīng)用中，但在

投放市場前用于研究、開發(fā)或原型設(shè)計活動的人工智能模型除外。法案將通用人工智能模型分為不具有系統(tǒng)性通用人工智能模型管理風(fēng)險的通用人工智能模型和具有系統(tǒng)性風(fēng)險的通用人工智能模型。如果通用人工智能模型具有高度影響能力或

被歐盟委員會認(rèn)定為具有高度影響能力，則被視為構(gòu)成系統(tǒng)性風(fēng)險，需要承擔(dān)特殊責(zé)任，例如進(jìn)行模型評價，評估和減輕系統(tǒng)性風(fēng)險，追蹤、記錄和報告嚴(yán)重事件的相關(guān)信息與可能的糾正措施，確保足夠水平的網(wǎng)絡(luò)安全保護等責(zé)任。美國人工智能立法秉持著以技術(shù)發(fā)展為導(dǎo)向的傳統(tǒng)，未制定聯(lián)邦層面的綜合性立法對人工智能實施統(tǒng)一監(jiān)管。美國的法律體系對科技創(chuàng)新具有很高的包容性，對綜合性的科技規(guī)制立法歷來持審慎立場。在人工智能領(lǐng)域，美國秉持著技術(shù)發(fā)展導(dǎo)向，致力于強化其在人工智能領(lǐng)域的全球領(lǐng)導(dǎo)地位。在聯(lián)邦層面，主要通過發(fā)布總統(tǒng)行政令指引人工智能規(guī)范化發(fā)展?？偨y(tǒng)頒布行政令雖然具有憲法或國會的授權(quán)，但其本身并不算嚴(yán)格意義上的法律，主要在特定事項上影響和引導(dǎo)聯(lián)邦機構(gòu)、企業(yè)等主體的行為。特朗普政府時期關(guān)于人工智能的總統(tǒng)行政令以促進(jìn)人工智能發(fā)展為導(dǎo)向，旨在保持美國9全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究在該領(lǐng)域的領(lǐng)導(dǎo)地位。2019年2月，特朗普政府發(fā)布第13859號行政命令《保持美國在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位》，要求聯(lián)邦政府機構(gòu)協(xié)調(diào)一致，推進(jìn)“美國人工智能行動計劃”，就美國聯(lián)邦政府層研2020年12月3第13960號行政命令《促進(jìn)聯(lián)邦政府使用值得信賴的人工智能》，規(guī)定了除國家安全和國防領(lǐng)域以外的聯(lián)邦政府機構(gòu)在設(shè)計、開發(fā)、部署、購買或使用人工智能技術(shù)時需要遵循的9項基本原則。拜登政府發(fā)布的人工智能相關(guān)總統(tǒng)行政令則開始關(guān)注重點領(lǐng)域人工智能的安全治理和規(guī)范化應(yīng)用。2023年10月號總統(tǒng)行政命令《安全、可靠和值得信賴地開發(fā)和使用人工智能》，要求美國聯(lián)邦政府機構(gòu)在刑事司法、教育、醫(yī)療保健、住房和勞工等領(lǐng)域制定標(biāo)準(zhǔn)與規(guī)范。針對人工智能企業(yè)，該行政令援引《1950年國防生產(chǎn)法》，要求企業(yè)在對國家安全或公共健康安全構(gòu)成嚴(yán)重風(fēng)險的人工智能模型訓(xùn)練方面與聯(lián)邦政府共享信息。美國在各行業(yè)領(lǐng)域立法中融入人工智能相關(guān)規(guī)定，或由各行業(yè)監(jiān)管部門適用或解釋相關(guān)規(guī)定以開展人工智能治理，體現(xiàn)出“融合FTC通過適用或解釋現(xiàn)有法律監(jiān)管各個行業(yè)領(lǐng)域的人工智能應(yīng)用。例如，在消費者保護領(lǐng)域，《聯(lián)邦貿(mào)易委員會法》第5條“禁止不公平或FTC基于該法對OpenAI公司進(jìn)行了正式調(diào)查。在金融領(lǐng)域，《公平信用報告法》和《平等10全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究信用機會法》均涉及對自動化決策的監(jiān)管，美國金融機構(gòu)在應(yīng)用基于機器學(xué)習(xí)的信貸承銷模型時均需符合相關(guān)規(guī)定。在航空領(lǐng)域，美國國會在通過《2018年美國聯(lián)邦航空局再授權(quán)法案》時增加了“建議聯(lián)邦航空管理局定期審查航空領(lǐng)域人工智能的狀況，并采取必要措施應(yīng)對新發(fā)展”的內(nèi)容。為順應(yīng)人工智能的廣泛應(yīng)用，美國各州針對人工智能技術(shù)應(yīng)用程度較深的特定場景進(jìn)行了廣泛的立法實踐。為規(guī)制用工場景下的2019規(guī)定企業(yè)使用人工智能面試應(yīng)聘者時，應(yīng)審查其是否滿足告知同意、限制共享、刪除權(quán)響應(yīng)等合規(guī)義務(wù)。紐約市2021年通過第144號地方法律，禁止雇主和職業(yè)中介在沒有進(jìn)行偏見審計的情況下使用人工智能和基于算法的技術(shù)進(jìn)行招聘、雇傭或晉升。為規(guī)范選舉場景2024年4月通過了SB2577號法案，將選舉前90天內(nèi)以深度偽造等方式蓄意傳播意圖傷害選舉人以及影響選舉結(jié)果的“數(shù)字化”行為定為犯罪。加利福尼亞州2024年9月頒布了三項新法案來遏制虛假信息和欺騙性選舉內(nèi)容的傳播。紐約州2023年5使用合成媒體發(fā)布政治信息的主體聲明其通過人工智能生成并保存此類使用記錄。佛羅里達(dá)州、密歇根州等州對在政治廣告中使用人他州人工智能政策法案》等州層面的人工智能立法主要規(guī)范人工智能應(yīng)用過程中的消費者保護，加利福尼亞州的《前沿人工智能模型全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究安全創(chuàng)新法案》則聚焦于促進(jìn)人工智能發(fā)展和監(jiān)管人工智能帶來的重大公共風(fēng)險。新加坡位于馬來半島南端，其陸地面積較小，自然資源有限，希望抓住人工智能發(fā)展機遇，建立強大的數(shù)字基礎(chǔ)設(shè)施，營造支持創(chuàng)新的商業(yè)環(huán)境，吸引高質(zhì)量人才和投資，從而實現(xiàn)發(fā)展和繁榮。英國媒體Media2023年發(fā)布的《全球人工智能指數(shù)》顯示，新加坡人工智能投資、創(chuàng)新和應(yīng)用水平位居世界第三，僅次于美國和中國。新加坡以推動技術(shù)發(fā)展為導(dǎo)向，采取“軟法先行”的模式，未出臺強制性立法，而是采取“原則+指南+工具”的治理路徑，通過發(fā)布非約束性的指南和建議實施人工智能治理，在最大程度推動人工智能技術(shù)創(chuàng)新和產(chǎn)業(yè)發(fā)展的同時引導(dǎo)人工智能安全規(guī)范發(fā)展。在國家層面，通過出臺人工智能戰(zhàn)略分階段實現(xiàn)人工智能發(fā)展和治理目標(biāo)。2019年略（NAIS），提出了推動人工智能創(chuàng)新和應(yīng)用的計劃。2023年2.0政府監(jiān)管、人才培養(yǎng)、營商環(huán)境培育、數(shù)據(jù)安全和隱私保護等方面采取行動，計劃在未來三到五年內(nèi)，推進(jìn)人工智能發(fā)展和價值創(chuàng)造，實現(xiàn)人工智能規(guī)范化應(yīng)用，從而提升新加坡的經(jīng)濟和社會潛力。在信息通信領(lǐng)域，研究發(fā)布人工智能治理相關(guān)模型框架、應(yīng)用指南和實用工具。2019年1月，新加坡信息通信媒體發(fā)展局和個人數(shù)據(jù)保護委員會聯(lián)合發(fā)布了亞洲首個人工智能監(jiān)管模式框架，為人12全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究工智能的應(yīng)用提供道德指導(dǎo)原則。2020年1月，更新發(fā)布第二版框架，同時發(fā)布了配套的《組織實施和自我評估指南》，幫助各類組工智能治理案例匯編》，為行業(yè)實踐提供有效參考。2022年5月，和工具包，通過標(biāo)準(zhǔn)化測試驗證人工智能系統(tǒng)的性能是否符合國際公認(rèn)的原則。2023年中，新加坡通訊及新聞部長宣布成立基金會，以支持的發(fā)展和使用。新加坡還計劃將其提升為國際范圍內(nèi)使用的測試框架和工具包，并為國際標(biāo)準(zhǔn)的制定作出貢獻(xiàn)。2024年5月，基金會正式發(fā)布《生成式人工智能治理模型框架》，涵蓋問責(zé)、數(shù)據(jù)、可信研發(fā)和部署、事件報告、測試和保證、安全、內(nèi)容來源、安全與對齊研發(fā)、人工智能促進(jìn)公益9個治理維度。在金融領(lǐng)域，強化政企合作推進(jìn)人工智能治理。新加坡金融管理局作為新加坡的中央銀行和綜合金融監(jiān)管機構(gòu)，率先在人工智能治理方面采取行動。2018年，金融管理局與金融行業(yè)共同創(chuàng)建了一FairnessEthicsAccountability）2019年，金融管理局宣布與金融行業(yè)合作創(chuàng)建“框架”，指導(dǎo)金融機構(gòu)將為金融部門的人工智能采用建立一個可信賴的環(huán)境。在醫(yī)療衛(wèi)生領(lǐng)域，發(fā)布指南提升患者對人工智能技術(shù)的信任。13全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究作為亞太地區(qū)最大的醫(yī)療設(shè)備出口國之一，新加坡?lián)碛谐蔀轭I(lǐng)先醫(yī)療技術(shù)中心所需的強大制造業(yè)基礎(chǔ)。近年來，新加坡日益面臨醫(yī)療保健成本上升、慢性病負(fù)擔(dān)加重、醫(yī)療人員短缺等問題，人工智能等創(chuàng)新醫(yī)療技術(shù)的發(fā)展為應(yīng)對挑戰(zhàn)提供了重要機遇。新加坡2019年發(fā)布的國家人工智能戰(zhàn)略將醫(yī)療衛(wèi)生領(lǐng)域作為人工智能發(fā)展的五大重點領(lǐng)域之一。通過促進(jìn)人工智能研究投資、培養(yǎng)人才、建立配套數(shù)字基礎(chǔ)設(shè)施等措施，加快人工智能創(chuàng)新和運用，有利于提高疾病檢測效率，同時加強對慢性病分析預(yù)測和干預(yù)。為了強化醫(yī)療衛(wèi)生2021年10工智能指南》，促進(jìn)患者提高在醫(yī)療過程中使用的人工智能信任并保障患者信息安全，強化了對人工智能醫(yī)療設(shè)備的監(jiān)管和指引。為強化人工智能網(wǎng)絡(luò)安全水平，發(fā)布系列指南應(yīng)對人工智能系統(tǒng)風(fēng)險。2024年10月15日，新加坡網(wǎng)絡(luò)安全局（CSA）制定并發(fā)布了《人工智能系統(tǒng)安全指南》及其配套的《人工智能系統(tǒng)安全配套指南》，指導(dǎo)系統(tǒng)所有者在人工智能的整個生命周期內(nèi)確保安全。這兩個指南將有助于保護人工智能系統(tǒng)免受供應(yīng)鏈攻擊等傳統(tǒng)網(wǎng)絡(luò)安全風(fēng)險和對抗性機器學(xué)習(xí)等新風(fēng)險的影響。指南主要面向人工智能系統(tǒng)開發(fā)人員、人工智能系統(tǒng)運營人員、網(wǎng)絡(luò)安全從業(yè)?員三類主體，針對規(guī)劃與設(shè)計、開發(fā)、部署、運營與維護、數(shù)據(jù)和模型的終止處理等人工智能系統(tǒng)生命周期的五個重要環(huán)節(jié)提供安全指引。（四）中國：統(tǒng)籌發(fā)展和安全，實行融合立法和場景立法模式我國在人工智能立法的價值導(dǎo)向方面體現(xiàn)出統(tǒng)籌發(fā)展和安全的14全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究理念。我國在不斷完善現(xiàn)有法律法規(guī)的同時，不斷推進(jìn)人工智能治2017提出了“三步走”的立法規(guī)劃，即到2020年實現(xiàn)“部分領(lǐng)域的人工智能倫理規(guī)范和政策法規(guī)初步建立”，到2025年“初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系”，到2030年“建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系”。在立法模式的選擇方面，我國的科技立法一般體現(xiàn)出“小快靈”的特點，“小”即調(diào)整對象精準(zhǔn)，“快”即針對突出問題及時立法，“靈”即增強立法的針對性、實效性。雖然目前統(tǒng)一的人工智能立法尚未出臺，但我國將人工智能安全發(fā)展相關(guān)原則融入《個人信息保護法》等現(xiàn)有立法，還針對生成式人工智能、深度合成等場景出臺了專門的部門規(guī)章，為人工智能的安全發(fā)展提供了及時的法律回應(yīng)和依據(jù)，也體現(xiàn)出我國科技立法的“小快靈”特點。在現(xiàn)有立法中融入人工智能安全發(fā)展的原則性規(guī)定以順應(yīng)人工智能技術(shù)的發(fā)展趨勢。隨著人工智能技術(shù)的不斷發(fā)展，人工智能與各領(lǐng)域融合應(yīng)用的程度不斷加深，我國陸續(xù)在相關(guān)法律法規(guī)中融入人工智能安全發(fā)展的相關(guān)原則。一方面鼓勵人工智能在相關(guān)領(lǐng)域的華人民共和國基本醫(yī)療衛(wèi)生與健康促進(jìn)法》《中華人民共和國中小企業(yè)促進(jìn)法》《國際郵輪在中華人民共和國港口靠港補給的規(guī)定》《未成年人網(wǎng)絡(luò)保護條例》《無人駕駛航空器飛行管理暫行條例》《中華人民共和國海關(guān)風(fēng)險管理辦法》《網(wǎng)絡(luò)暴力信息治理規(guī)定》15全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究等，這些法律法規(guī)主要是在法條中加入鼓勵采用人工智能技術(shù)的相關(guān)內(nèi)容。另一方面強化對人工智能的安全管理，例如《中華人民共和國個人信息保護法》《網(wǎng)絡(luò)數(shù)據(jù)安全管理條例》等，主要是強化對人工智能技術(shù)的規(guī)制以及施加提供人工智能服務(wù)的數(shù)據(jù)處理者義務(wù)。表2我國現(xiàn)有法律法規(guī)中人工智能安全發(fā)展相關(guān)內(nèi)容名稱公布時間人工智能安全發(fā)展相關(guān)規(guī)定法律第五十六條國家加強應(yīng)急管理基礎(chǔ)中華人民共和國突發(fā)事件應(yīng)對法(2024修訂)2024年6月28日加強互聯(lián)網(wǎng)、云計算、大數(shù)據(jù)、人工智能等現(xiàn)代技術(shù)手段在突發(fā)事件應(yīng)對工作中的推廣新技術(shù)、新材料、新設(shè)備和新工具，提高突發(fā)事件應(yīng)對能力。第六十二條國家網(wǎng)信部門統(tǒng)籌協(xié)調(diào)有關(guān)部門依據(jù)本法推進(jìn)下列個人信息保護工作：中華人民共和......國個人信息保2021年8月20日（三）針對小型個人信息處理者、處護法理敏感個人信息以及人臉識別、人工智能等新技術(shù)、新應(yīng)用，制定專門的個人信息

保護規(guī)則、標(biāo)準(zhǔn)；......第四十九條國家推進(jìn)全民健康信息中華人民共和國基本醫(yī)療衛(wèi)生與健康促進(jìn)法2019年12月28日化，推動健康醫(yī)療大數(shù)據(jù)、人工智能等的應(yīng)用發(fā)展，加快醫(yī)療衛(wèi)生信息基礎(chǔ)設(shè)施建設(shè)，制定健康醫(yī)療數(shù)據(jù)采集、存儲、分析和應(yīng)用的技術(shù)標(biāo)準(zhǔn)，運用信息技術(shù)促進(jìn)優(yōu)質(zhì)醫(yī)療衛(wèi)生資源的普及與共享。......中華人民共和第三十三條國家支持中小企業(yè)在研

國中小企業(yè)促2017年9月1日發(fā)設(shè)計、生產(chǎn)制造、運營管理等環(huán)節(jié)應(yīng)用

進(jìn)法互聯(lián)網(wǎng)、云計算、大數(shù)據(jù)、人工智能等現(xiàn)16全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究名稱公布時間人工智能安全發(fā)展相關(guān)規(guī)定代技術(shù)手段，創(chuàng)新生產(chǎn)方式，提高生產(chǎn)經(jīng)

營效率。行政法規(guī)第十九條提供生成式人工智能服務(wù)網(wǎng)絡(luò)數(shù)據(jù)安全管理條例2024年9月24日的網(wǎng)絡(luò)數(shù)據(jù)處理者應(yīng)當(dāng)加強對訓(xùn)練數(shù)據(jù)和訓(xùn)練數(shù)據(jù)處理活動的安全管理，采取有效措施防范和處置網(wǎng)絡(luò)數(shù)據(jù)安全風(fēng)險。第五條國務(wù)院有關(guān)部門和有關(guān)縣級國際郵輪在中以上地方人民政府結(jié)合實際情況，綜合運華人民共和國港口靠港補給2024年4月22日用大數(shù)據(jù)、人工智能等技術(shù)手段對靠港補給物資實行分類管理，完善不同種類物資的規(guī)定的通關(guān)、倉儲等管理措施，推動國際郵輪

物資供應(yīng)保障中心建設(shè)。第二十六條......網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者應(yīng)當(dāng)建立健全未成年人網(wǎng)絡(luò)保護條例2023年10月16日采用人工智能、大數(shù)據(jù)等技術(shù)手段和人工審核相結(jié)合的方式加強對網(wǎng)絡(luò)欺凌信息的識別監(jiān)測。第五條國家鼓勵無人駕駛航空器科研創(chuàng)新及其成果的推廣應(yīng)用，促進(jìn)無人駕無人駕駛航空駛航空器與大數(shù)據(jù)、人工智能等新技術(shù)融器飛行管理暫2023年5月31日合創(chuàng)新。縣級以上人民政府及其有關(guān)部門

行條例應(yīng)當(dāng)為無人駕駛航空器科研創(chuàng)新及其成果

的推廣應(yīng)用提供支持。......部門規(guī)章第四條中華人民共和現(xiàn)代科學(xué)技術(shù)在風(fēng)險管理中的應(yīng)用，推進(jìn)國海關(guān)風(fēng)險管2024年7月30日風(fēng)險信息共享，依托信息化系統(tǒng)開展風(fēng)險

理辦法處置，統(tǒng)一下達(dá)指令，提升風(fēng)險管理智能

化水平。第十二條網(wǎng)絡(luò)信息服務(wù)提供者應(yīng)當(dāng)在國家網(wǎng)信部門和國務(wù)院有關(guān)部門指導(dǎo)下網(wǎng)絡(luò)暴力信息治理規(guī)定2024年6月12日細(xì)化網(wǎng)絡(luò)暴力信息分類標(biāo)準(zhǔn)規(guī)則，建立健全網(wǎng)絡(luò)暴力信息特征庫和典型案例樣本庫，采用人工智能、大數(shù)據(jù)等技術(shù)手段和人工審核相結(jié)合的方式加強對網(wǎng)絡(luò)暴力信17全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究名稱公布時間人工智能安全發(fā)展相關(guān)規(guī)定息的識別監(jiān)測。第三十五條組織機構(gòu)應(yīng)當(dāng)積極利用電子檔案管理辦法2024年人工智能等信息技術(shù)，開展編研、展覽和建設(shè)專題數(shù)據(jù)庫等工作，不斷開發(fā)檔案數(shù)字資源。第三十四條推進(jìn)應(yīng)急管理行政執(zhí)法應(yīng)急管理行政裁量權(quán)基準(zhǔn)暫行規(guī)定2023年月1日裁量規(guī)范化、標(biāo)準(zhǔn)化、信息化建設(shè)，充分運用人工智能、大數(shù)據(jù)、云計算、區(qū)塊鏈等技術(shù)手段，將行政裁量權(quán)基準(zhǔn)內(nèi)容嵌入行政執(zhí)法信息系統(tǒng)，為行政執(zhí)法人員提供精準(zhǔn)指引，有效規(guī)范行政裁量權(quán)行使。第三十一條縣級以上人民政府農(nóng)業(yè)農(nóng)村主管部門應(yīng)當(dāng)依托大數(shù)據(jù)、云計算、農(nóng)業(yè)綜合行政執(zhí)法管理辦法2022年月22日人工智能等信息技術(shù)手段，加強農(nóng)業(yè)行政互聯(lián)互通。......第二十四條生態(tài)環(huán)境主管部門應(yīng)當(dāng)會同有關(guān)部門加強對企業(yè)環(huán)境信息依法披企業(yè)環(huán)境信息露活動的監(jiān)督檢查，及時受理社會公眾舉依法披露管理2021年12月日報，依法查處企業(yè)未按規(guī)定披露環(huán)境信息辦法的行為。鼓勵生態(tài)環(huán)境主管部門運用大數(shù)據(jù)分析、人工智能等技術(shù)手段開展監(jiān)督檢查。第七條衛(wèi)生健康主管部門應(yīng)當(dāng)逐步醫(yī)療器械臨床使用管理辦法2021年1月12日完善人工智能醫(yī)療器械臨床使用規(guī)范，鼓勵醫(yī)療機構(gòu)加強人工智能醫(yī)療器械臨床使用培訓(xùn)。針對重點領(lǐng)域的人工智能應(yīng)用制定場景化規(guī)定和指導(dǎo)文件以推進(jìn)人工智能安全治理。統(tǒng)一的人工智能立法的制定出臺往往需要經(jīng)歷較長的周期，而在缺乏統(tǒng)一法律規(guī)范的階段，我國采取“急用先行”的思路，采用“小切口”的暫行法，針對不同場景下的人工智能應(yīng)用制定管理規(guī)定和指導(dǎo)性文件，以彌補監(jiān)管空白。針對生成式人工智能應(yīng)用場景，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合多部門于2023年718全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究月10日發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，該部門規(guī)章以華人民共和國個人信息保護法》《中華人民共和國科學(xué)技術(shù)進(jìn)步法》等法律為上位法依據(jù)，聚焦違法信息、算法歧視、知識產(chǎn)權(quán)、人格權(quán)與個人信息保護、未成年人保護等問題，強調(diào)了生成式人工智能服務(wù)提供者的法律責(zé)任和義務(wù)。在信息服務(wù)與輿論傳播場景下，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部2022年月25日聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，規(guī)定深度合成有輿論屬性或者社會動員能力”的深度合成技術(shù)進(jìn)行“備案和變更、注銷備案手續(xù)”“開展安全評估”等事前風(fēng)險監(jiān)管。國家互聯(lián)網(wǎng)信2021年12月31日聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，明確了算法推薦服務(wù)提供者的信息服務(wù)規(guī)范和用戶權(quán)益保護要求，要求具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者履行備案義務(wù)。在司法應(yīng)用場景下，最高人民法院于2022年12月9日發(fā)布了《關(guān)于規(guī)范和加強人工智能司法應(yīng)用的意見》，著重從人工智能為司法工作提供全方位智能輔助支持、顯著減輕法官事務(wù)性工作負(fù)擔(dān)、有效保障廉潔司法等角度，明確了人工智能司法應(yīng)用的主要場景，強調(diào)“無論技術(shù)發(fā)展到何種水平，人工智能都不得代替法官裁判，人工智能輔助結(jié)果僅可作為審判工作或?qū)徟斜O(jiān)督管理的參考，確保司法裁判始終由審判人員作出，裁判職權(quán)始終由審判組織行使，19全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究司法責(zé)任最終由裁判者承擔(dān)”。在勞動者保護場景下，國家市場監(jiān)督管理總局、人力資源社會保障部等多部委在《關(guān)于落實網(wǎng)絡(luò)餐飲平臺責(zé)任切實維護外賣送餐員權(quán)益的指導(dǎo)意見》中提出，對外賣騎手的考核應(yīng)以“算法取中”等方式替代“最嚴(yán)算法”，合理確定訂單數(shù)量、準(zhǔn)時率、在線率等考核要素，適當(dāng)放寬配送時限。三、全球人工智能立法特點和趨勢隨著人工智能技術(shù)的不斷發(fā)展和各國人工智能治理實踐的廣泛推進(jìn)，人工智能監(jiān)管需求日益明確，各國人工智能立法過程中安全和發(fā)展的權(quán)重日益平衡，軟法硬法協(xié)同治理、多元立法模式融合互補、人工智能立法全球化等趨勢日益凸顯。人工智能已經(jīng)成為推動國際體系轉(zhuǎn)變、影響國際關(guān)系走向的關(guān)鍵技術(shù)力量。一方面，人工智能發(fā)展廣泛影響國家治理和社會生活，成為國家間實力競爭的關(guān)鍵指標(biāo)。人工智能發(fā)展對生產(chǎn)力的提升、人類生活方式的改變具有巨大的推動作用。人工智能技術(shù)正在被國家、企業(yè)、個人等不同層次的行為體廣泛使用，大模型廣泛地應(yīng)用于國家治理與社會生活的各個領(lǐng)域，由此帶來的全局性影響也將進(jìn)一步凸顯。技術(shù)是各國提升硬實力的重要基礎(chǔ)，也是改變國際格局力量對比的動力源之一，人工智能作為引領(lǐng)全球科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，已經(jīng)成為大國競爭博弈的重要靶標(biāo)。另一方面，人工智能伴生安全風(fēng)險，已成為各國面臨的共同挑戰(zhàn)。一是技術(shù)風(fēng)險。人工智能系統(tǒng)的復(fù)雜性可能導(dǎo)致難以預(yù)測和控制的錯誤，進(jìn)而20全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究引發(fā)安全事故，同時也可能出現(xiàn)新的攻擊手段，對人工智能系統(tǒng)的安全性構(gòu)成威脅。二是倫理風(fēng)險。人工智能的決策可能受到偏見和歧視的影響，導(dǎo)致不公平的結(jié)果。人工智能的自主性和智能水平不斷提高，可能引發(fā)關(guān)于責(zé)任歸屬和道德決策的爭議。三是社會風(fēng)險。人工智能技術(shù)的廣泛應(yīng)用可能導(dǎo)致就業(yè)崗位的減少和社會結(jié)構(gòu)的變革，人工智能的軍事應(yīng)用還可能加劇國際社會的沖突和戰(zhàn)爭風(fēng)險。發(fā)展和安全在各國人工智能立法價值選擇中呈現(xiàn)融合發(fā)展趨勢，各國均致力于探索安全和發(fā)展的平衡。發(fā)展和安全的天平偏向任何一方都可能引發(fā)一連串的不良后果，各國在人工智能的法律規(guī)制方面將很難再從發(fā)展和安全中進(jìn)行具有傾向性的價值選擇。高度重視技術(shù)創(chuàng)新、注重市場競爭的美國現(xiàn)階段雖然在人工智能立法方面體現(xiàn)出技術(shù)發(fā)展導(dǎo)向，但是從其出臺的總統(tǒng)行政令和備忘錄、各州立法以及國會議員提出的法案來看，其對人工智能安全治理的重視程度正在不斷提升。拜登簽署的《安全、可靠和值得信賴地開發(fā)和使用人工智能》行政令將安全放在突出位置，其提出的八項重點行動前五項都旨在提升人工智能應(yīng)用的安全性。2024年10月24日，美國白宮發(fā)布了美國史上第一份關(guān)于人工智能的國家安全備忘錄，同步發(fā)布“促進(jìn)國家安全中人工智能治理和風(fēng)險管理的框架”，指導(dǎo)建立風(fēng)險管理、評估、問責(zé)和透明度機制。美國國會議員也多次提出人工智能監(jiān)管相關(guān)法案，例如《人工智能和生物安全風(fēng)險評估法案》《人工智能國家安全法案》《人工智能標(biāo)簽法案》等，體現(xiàn)出美國國會對于人工智能安全治理的關(guān)注。歐盟雖然偏向于強監(jiān)管的21全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究思路，出臺統(tǒng)一的人工智能立法對人工智能應(yīng)用進(jìn)行全面規(guī)制，但其《人工智能法案》也將促進(jìn)人工智能技術(shù)創(chuàng)新、支持初創(chuàng)企業(yè)發(fā)展作為重要內(nèi)容，體現(xiàn)出在確保安全的同時促進(jìn)發(fā)展的思路。而中國始終秉持統(tǒng)籌發(fā)展和安全的戰(zhàn)略思維，在推進(jìn)人工智能產(chǎn)業(yè)發(fā)展的同時注重通過融合立法和場景立法強化人工智能安全治理。可見，各國在人工智能立法規(guī)制的道路上正在不斷強化發(fā)展和安全的平衡，最終引導(dǎo)人工智能走向?qū)崿F(xiàn)發(fā)展和安全雙輪驅(qū)動的可持續(xù)發(fā)展道路。從全球來看，軟法先行已經(jīng)成為各國人工智能治理的普遍選擇。美國亞利桑那州立大學(xué)2021年發(fā)布的一份關(guān)于軟法治理報告的數(shù)據(jù)顯示，在全球范圍內(nèi)確定了634個人工智能軟法項目，其中90%是2017年至2019程，但在人工智能治理的初期階段，大多數(shù)國家都會通過制定原則框架、標(biāo)準(zhǔn)指南等軟法指導(dǎo)和規(guī)范人工智能的安全應(yīng)用，軟法規(guī)范仍然是時下治理人工智能的主要法治工具。例如，歐盟在制定統(tǒng)一的《人工智能法案》之前，就已出臺了《算法的可問責(zé)和透明的治理框架》《可信人工智能倫理指南》等一系列指導(dǎo)性文件；美國國防部、勞工部等部門為貫徹相關(guān)總統(tǒng)行政令要求，陸續(xù)發(fā)布了《人工智能原則：美國國防部關(guān)于人工智能道德使用的建議》《雇主使用人工智能的原則和最佳實踐》等一系列人工智能相關(guān)的原則建議于加快場景創(chuàng)新以人工智能高水平應(yīng)用促進(jìn)經(jīng)濟高質(zhì)量發(fā)展的指導(dǎo)22全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究意見》《國家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南》等指導(dǎo)性文件。從趨勢上看，軟硬兼施和多元主體協(xié)同共治將促進(jìn)治理效能最大化。前文提到軟法和硬法具有各自的優(yōu)勢和局限，隨著人工智能技術(shù)更新迭代加快，監(jiān)管和治理需求日益提升，探索軟硬兼施的治理工具從而在靈活響應(yīng)技術(shù)快速變革的同時促進(jìn)人工智能的安全應(yīng)用，已成為各國人工智能立法的重要趨勢。各國在研究出臺人工智能相關(guān)硬性法律規(guī)定的同時，政府機構(gòu)、行業(yè)協(xié)會、企業(yè)主體等均在總結(jié)行業(yè)實踐經(jīng)驗的基礎(chǔ)上，出臺一系列的指南、框架、協(xié)議等，為動態(tài)發(fā)展變化的人工智能技術(shù)提供指引。實現(xiàn)人工智能領(lǐng)域的軟法硬法協(xié)同治理需要政府、行業(yè)、學(xué)術(shù)界和公眾等多方面的共同努力。從我國來看，我國軟法硬法協(xié)同治理還處于探索與實踐過程中，還存在軟法硬法銜接不暢、軟法制定缺乏監(jiān)管、軟法執(zhí)行缺乏保障等問題。未來，如何進(jìn)一步探索軟法硬法協(xié)同和多元共治機制，提升軟法制定的科學(xué)性和合理性，真正發(fā)揮軟法靈活治理、柔性監(jiān)管的效力，同時優(yōu)化軟法與硬法的銜接和融合機制，將成為值得探討的重點問題。（三）統(tǒng)一立法成為大勢所趨，多元立法模式呈融合互補趨勢從長遠(yuǎn)看，制定統(tǒng)一、綜合性人工智能立法或?qū)⒊蔀閲H主流。雖然目前只有歐盟正式出臺了首部人工智能綜合法案，但從各國立法實踐和趨勢上看，制定綜合性立法已是大勢所趨。美國在短期內(nèi)或不會進(jìn)行聯(lián)邦層面的綜合性人工智能立法，但是其州層面的立法23全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究一開始借鑒歐盟的立法實踐，采取風(fēng)險分級的思路對高風(fēng)險的人工智能進(jìn)行立法規(guī)制，在未來人工智能風(fēng)險持續(xù)顯露的情況下，不排除美國為有效應(yīng)對風(fēng)險，順應(yīng)全球的立法趨勢，從州層面開始推進(jìn)人工智能綜合立法。從我國來看，近年來我國積極推進(jìn)人工智能立2023年、2024年連續(xù)兩年將人工智能法草案列入年度立法計劃，人工智能領(lǐng)域的專家學(xué)者也集智發(fā)布了《中華人民共和國人工智能法（學(xué)者建議稿）》，體現(xiàn)出我國順應(yīng)人工智能技術(shù)發(fā)展潮流，推進(jìn)人工智能綜合統(tǒng)一立法的立場。同時，場景立法、融合立法等多元立法模式作為重要補充也呈現(xiàn)同步發(fā)展的趨勢。例如，歐盟在推出統(tǒng)一的人工智能法案的同時，還在產(chǎn)品責(zé)任和侵權(quán)責(zé)任等方面進(jìn)行了立法實踐，體現(xiàn)出開展融合立法和場景立法的趨勢。在產(chǎn)品責(zé)任方面，歐盟委員會在2022年提出了新的產(chǎn)品責(zé)任指令草案，旨在對已經(jīng)實施了40年的《產(chǎn)品責(zé)任指令》進(jìn)行更新，以適應(yīng)數(shù)字時代的新變化。根據(jù)這一草案，軟件和獨立人工智系統(tǒng)將首次被納入“產(chǎn)品”的范疇，這些產(chǎn)品的制造者將對具有缺陷的產(chǎn)品承擔(dān)嚴(yán)格責(zé)任。而非獨立存在的人工智能系統(tǒng)如果被整合到產(chǎn)品中，或者對于產(chǎn)品發(fā)揮功能不可或缺，其制造者也需要承擔(dān)嚴(yán)格產(chǎn)品責(zé)任。在侵權(quán)責(zé)任方面，歐盟委員會在2022年提出了《人工智能責(zé)任指令（草案）》，對基于“過錯原則”的人工智能侵權(quán)進(jìn)行了規(guī)定。這一草案可以視為《人工智能法》的侵權(quán)法配套立法，聚焦高風(fēng)險人工智能的侵權(quán)責(zé)任，特別是高風(fēng)險人工智能侵權(quán)中的舉證責(zé)任。此外，前文提到美國、新加坡、中國等24全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究尚未出臺統(tǒng)一人工智能立法的國家，融合立法、場景立法等是規(guī)制人工智能安全應(yīng)用的重要法律規(guī)范，未來也將不斷發(fā)展。（四）國際治理規(guī)則持續(xù)構(gòu)建，人工智能立法全球化趨勢顯著隨著人工智能技術(shù)的全球傳播和應(yīng)用，其帶來的風(fēng)險和挑戰(zhàn)已跨越國界成為全球性問題。一是人工智能技術(shù)的跨國應(yīng)用使得風(fēng)險具有全球性。一個國家的人工智能系統(tǒng)出現(xiàn)問題或漏洞，其影響可能會迅速擴展到全球范圍。例如，一個重要人工智能系統(tǒng)遭受黑客攻擊可能會泄露大量敏感數(shù)據(jù)，這些數(shù)據(jù)可能涉及多個國家的企業(yè)和個人。二是人工智能技術(shù)的全球供應(yīng)鏈也增加了風(fēng)險的跨國界性。人工智能技術(shù)的研發(fā)、生產(chǎn)、應(yīng)用等環(huán)節(jié)往往涉及多個國家和地區(qū)。這意味著，如果一個環(huán)節(jié)出現(xiàn)問題，其影響可能會迅速傳遞到整個供應(yīng)鏈，進(jìn)而影響全球市場的穩(wěn)定和消費者的權(quán)益。三是人工智能技術(shù)的全球競爭加劇風(fēng)險的跨國界性。各國都在競相發(fā)展人工智能技術(shù)以期望在全球市場中占據(jù)領(lǐng)先地位。這種競爭或?qū)е乱恍﹪也扇∵^于激進(jìn)或冒險的策略，從而增加人工智能技術(shù)的風(fēng)險。為有效應(yīng)對人工智能帶來的全球化風(fēng)險，國際社會正逐步強化人工智能全球規(guī)則構(gòu)建。一方面，聯(lián)合國積極主導(dǎo)人工智能國際治理規(guī)則建設(shè)。2024年3月21的全球決議，呼吁推動開發(fā)“安全、可靠和值得信賴的”人工智能系統(tǒng)，以促進(jìn)可持續(xù)發(fā)展。決議強調(diào)需要制定人工智能系統(tǒng)標(biāo)準(zhǔn)，鼓勵聯(lián)合國會員國和其他利益攸關(guān)方制定和支持有利于開發(fā)安全可靠的人工智能系統(tǒng)的監(jiān)管和治理辦法及框架，敦促會員國和其他利25全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究益攸關(guān)方采取行動，與發(fā)展中國家合作并向其提供援助。另一方面，美歐等經(jīng)濟體積極推動國內(nèi)規(guī)則國際化。美歐等發(fā)達(dá)經(jīng)濟體普遍將掌握人工智能規(guī)則制定主動權(quán)作為保持其在技術(shù)與產(chǎn)業(yè)領(lǐng)域優(yōu)勢地位的重要一環(huán)，嘗試從國內(nèi)、國際兩個層面入手進(jìn)行機制完善和規(guī)則構(gòu)建。美國將“推動與盟友的合作”“建設(shè)新興技術(shù)的世界領(lǐng)導(dǎo)者地位”作為基本立場，依托其主導(dǎo)的北約、美英澳三邊安全伙伴關(guān)系、美日印澳四方安全對話等國際多邊聯(lián)盟，聯(lián)合印太、歐盟等工智能法案》確立了廣泛的適用范圍和域外效力，所有在歐盟境內(nèi)投入市場或投入使用的人工智能系統(tǒng)均適用該法案，人工智能系統(tǒng)的供應(yīng)商、分銷商、運營商等相關(guān)主體，均為本法案的規(guī)制對象，即使系統(tǒng)供應(yīng)商并未在歐盟設(shè)址，歐盟也可以通過該法案將其他國家的大型科技公司納入監(jiān)管范疇。國際法將成為人工智能重要的法律規(guī)制手段。利用國際法規(guī)制人工智能是應(yīng)對技術(shù)發(fā)展挑戰(zhàn)、保障人權(quán)與基本自由、促進(jìn)國際合作與交流以及推動技術(shù)創(chuàng)新與可持續(xù)發(fā)展的必要手段。當(dāng)前，人工智能的國際法規(guī)制總體不成熟，尚處于初級階段，內(nèi)容上以倫理規(guī)則為主，形式上以非政府主體制定的軟法為主直接規(guī)制規(guī)則缺位。未來，國際法層面的人工智能監(jiān)管規(guī)則將持續(xù)完善，一方面將有效調(diào)整人工智能帶來的跨國界爭議，另一方面將有效約束各國依托人工智能技術(shù)開展的各類違法犯罪行為。目前，在國際公約方面已經(jīng)取得了積極進(jìn)展。2024年9月5日，美國、英國和歐盟等簽署了歐26全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究洲委員會制定的《人工智能、人權(quán)、民主和法治框架公約》（以下簡稱“公約”），該公約是全球首個具有法律約束力的人工智能國際公約，旨在確保人工智能系統(tǒng)生命周期內(nèi)的活動完全符合人權(quán)、民主和法治，同時有利于技術(shù)進(jìn)步和創(chuàng)新。未來，直接規(guī)制人工智能的國際法或?qū)㈥懤m(xù)出臺，人工智能國際規(guī)則體系將持續(xù)完善，不斷推動人工智能的良法善治。四、啟示建議參考各國家和地區(qū)人工智能立法實踐，順應(yīng)全球人工智能立法趨勢，應(yīng)從我國國情出發(fā)，開展人工智能治理制度設(shè)計，建立多層次人工智能法律體系，向世界展現(xiàn)人工智能治理和立法的中國力量。（一）持續(xù)完善頂層設(shè)計，形成多元共治的治理格局一是加快推進(jìn)人工智能綜合立法進(jìn)程。深入剖析全球人工智能的發(fā)展格局與我國人工智能的發(fā)展現(xiàn)狀和價值體系，貫徹統(tǒng)籌發(fā)展和安全的立法導(dǎo)向，深入推進(jìn)科學(xué)立法、民主立法、依法立法，借鑒全球人工智能立法和治理的實踐經(jīng)驗，匯聚各方面力量和智慧加快人工智能立法進(jìn)程，出臺符合我國國國情的人工智能綜合立法，既滿足當(dāng)前人工智能治理的緊迫需要，又要為人工智能技術(shù)發(fā)展留足空間。有專家學(xué)者建議將我國人工智能法定位為人工智能治理的提綱挈領(lǐng)制度，參考《民法典》的立法經(jīng)驗，采用“總則式”的立法體例，明確人工智能技術(shù)、產(chǎn)品與服務(wù)必須遵循的基本原則，基本法律制度應(yīng)遵循的一般性規(guī)則，同時為各行業(yè)領(lǐng)域開展人工智能治理和未來人工智能立法完善預(yù)留“接口”。27全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究二是建立軟硬協(xié)同的多層次人工智能法律體系。強化人工智能立法與《中華人民共和國國家安全法》《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》等相關(guān)現(xiàn)行法律的立法銜接，避免立法重復(fù)和監(jiān)管空白。未來我國人工智能綜合立法出臺后，應(yīng)加快制定行政法規(guī)、部門規(guī)章等配套規(guī)則，并與生成式人工智能、算法、深度合成等現(xiàn)有管理規(guī)定做好銜接，必要時針對醫(yī)療、金融等重點應(yīng)用場景出臺專項規(guī)定。在健全硬法規(guī)則的同時完善軟法治理，將軟法作為促進(jìn)硬法實施的重要補充和指引，規(guī)范軟法制定流程，在相關(guān)國家標(biāo)準(zhǔn)和指南文件制定過程中援引法律法規(guī)明確的術(shù)語和指標(biāo)，強化軟法實施效果監(jiān)督，實現(xiàn)人工智能領(lǐng)域軟法與硬法治理的貫穿融合。三是確立多元人工智能治理格局。治理主體多元化是實現(xiàn)科技立法與決策民主化的必然要求，要充分發(fā)揮政產(chǎn)學(xué)研用等多方主體作用，加強行業(yè)自律，制定行業(yè)規(guī)范和準(zhǔn)則，發(fā)布行業(yè)最佳實踐案例與合規(guī)指引，有效指導(dǎo)企業(yè)合規(guī)建設(shè)和使用者權(quán)益保護，鼓勵人工智能服務(wù)提供者、使用者等市場參與者共享人工智能安全監(jiān)測技術(shù)工具和手段，構(gòu)建協(xié)同良好的人工智能治理生態(tài)。在治理對象方面，學(xué)界普遍認(rèn)可生成式人工智能產(chǎn)業(yè)呈現(xiàn)“基礎(chǔ)模型-專業(yè)模型-服務(wù)應(yīng)用”的分層業(yè)態(tài)，建議構(gòu)建契合產(chǎn)業(yè)發(fā)展形態(tài)的分層治理機制，在基礎(chǔ)模型層以發(fā)展為導(dǎo)向促進(jìn)數(shù)據(jù)要素供給、算力基礎(chǔ)設(shè)施和模型建設(shè)，在專業(yè)模型層構(gòu)建細(xì)分領(lǐng)域數(shù)據(jù)流通交易機制，在服務(wù)應(yīng)用層建立人工智能應(yīng)用問責(zé)機制。28全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究（二）劃定安全治理邊界，確立風(fēng)險分級的管理機制一是建立動靜結(jié)合的人工智能風(fēng)險監(jiān)測識別體系。有效識別人工智能風(fēng)險是開展風(fēng)險分級治理的基本前提。一方面，建議識別出人工智能風(fēng)險較大的行業(yè)領(lǐng)域、應(yīng)用廣泛的通用人工智能系統(tǒng)和對生命、自由、人格尊嚴(yán)等重要人身權(quán)益影響重大的人工智能系統(tǒng)，適時推出重點行業(yè)領(lǐng)域和人工智能系統(tǒng)清單，對這些重點行業(yè)領(lǐng)域及重要人工智能系統(tǒng)展開重點治理。另一方面，建議建立人工智能風(fēng)險的動態(tài)監(jiān)測機制，從國家層面部署全國人工智能安全監(jiān)測體系，建立風(fēng)險監(jiān)測平臺，人工智能服務(wù)提供者及時報告服務(wù)提供過程中的安全事件，定期開展人工智能風(fēng)險分析，研判風(fēng)險走向和未來趨勢，為長遠(yuǎn)開展人工智能治理和監(jiān)管提供支撐。二是合理確定人工智能風(fēng)險分級原則和框架。依據(jù)風(fēng)險進(jìn)行分類分級管理是技術(shù)治理規(guī)則設(shè)定中普遍采用的原則。歐盟《人工智能法案》確立了風(fēng)險分級監(jiān)管框架，對各國人工智能立法產(chǎn)生了深遠(yuǎn)影響，人工智能風(fēng)險分級管控已成為各國普遍采取的治理工具。由于各國在技術(shù)發(fā)展特點、監(jiān)管環(huán)境、立法話語體系等方面存在差異，在具體的風(fēng)險分級框架上應(yīng)當(dāng)結(jié)合本國國情進(jìn)行差異化的制度設(shè)計。目前在人工智能領(lǐng)域確立風(fēng)險管理原則已成為行業(yè)共識，但如何確定風(fēng)險分級方式和級別劃分，學(xué)界仍在探討。例如有學(xué)者認(rèn)為不宜在現(xiàn)階段技術(shù)產(chǎn)業(yè)發(fā)展走向尚不十分明朗的情況下劃定不同級別，而應(yīng)劃定“紅線底線”以滿足當(dāng)下監(jiān)管需求；還有學(xué)者建議29全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究成式人工智能服務(wù)管理暫行辦法》等文件中已體現(xiàn)了一定的風(fēng)險分級的思路，建議在更高層級立法中確立風(fēng)險分級的法律原則，并充分研判我國人工智能技術(shù)發(fā)展程度，在風(fēng)險識別監(jiān)測和分析研判的基礎(chǔ)上，合理設(shè)計風(fēng)險分級治理框架。三是明確人工智能應(yīng)用責(zé)任歸屬。在民事責(zé)任領(lǐng)域風(fēng)險與侵權(quán)歸責(zé)關(guān)聯(lián)緊密，風(fēng)險關(guān)系著過錯責(zé)任和無過錯責(zé)任1的判斷。歐洲議會在《關(guān)于人工智能民生責(zé)任制度的決議》中建議對高風(fēng)險人工智能系統(tǒng)的運營商施加無過錯責(zé)任；對于未列入高風(fēng)險人工智能附件中的人工智能系統(tǒng)，運營商承擔(dān)過錯責(zé)任。目前，我國現(xiàn)有的侵權(quán)責(zé)任規(guī)則無法很好地適應(yīng)人工智能的技術(shù)特征，還需要根據(jù)人工智能的應(yīng)用實際在立法中明確責(zé)任歸屬原則，以對人工智能的安全應(yīng)用和責(zé)任劃分提供法律指引。多位學(xué)者建議對不同風(fēng)險級別的人工智能適用不同的歸責(zé)原則，即對于高風(fēng)險人工智能，適用無過錯責(zé)任；對于有限風(fēng)險人工智能，適用過錯推定責(zé)任；對于低風(fēng)險人工智能，適用過錯責(zé)任。（三）強化國際交流對話，提出全球治理的中國方案一方面，積極參與國際規(guī)則制定。人工智能領(lǐng)域的國際規(guī)則同樣可分為硬性規(guī)則和軟性規(guī)則，硬性國際規(guī)則包括國際技術(shù)標(biāo)準(zhǔn)、接口協(xié)議、合同范本等，主要用于設(shè)置基礎(chǔ)性技術(shù)底線和標(biāo)準(zhǔn)、確1“過錯責(zé)任”“無過錯責(zé)任”“過錯推定”是民法中侵權(quán)行為的主要歸責(zé)原則，“過錯責(zé)任”是指以行為

人的過錯作為承擔(dān)民事責(zé)任的基本條件。按過錯責(zé)任原則，行為人僅在有過錯的情況下，才承擔(dān)民事責(zé)任?！盁o

過錯責(zé)任”是指當(dāng)事人實施了加害行為，雖然其行為無過錯，但根據(jù)法律規(guī)定仍應(yīng)承擔(dān)民事責(zé)任?！斑^錯推定”是指受害人若能證明其受損害是由行為人所造成的，而行為人不能證明自己對造成損害沒有過錯，則法律就推定

其有過錯并就此損害承擔(dān)侵權(quán)責(zé)任。30全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究保技術(shù)發(fā)展可控和向善；軟性國際規(guī)則包括圍繞特定議題形成的發(fā)展指南、原則共識、倡議協(xié)議等，既包括政府層面達(dá)成的共識，也包括由企業(yè)、非政府組織、科學(xué)家等民間力量推動形成的國際合作與規(guī)則。參與國際規(guī)則制定是我國承擔(dān)大國責(zé)任，彰顯良好國際形象的契機。要積極參與人工智能國際規(guī)則制定，支持聯(lián)合國在國際合作中發(fā)揮中心作用，尊重國際法對人工智能的規(guī)范調(diào)整作用，明確我國安全發(fā)展的基本立場與態(tài)度，對于硬性國際規(guī)則，要強化國內(nèi)規(guī)則與國際規(guī)則的制度銜接，積極參與國際標(biāo)準(zhǔn)制定，推動我國人工智能標(biāo)準(zhǔn)與國際標(biāo)準(zhǔn)體系接軌；對于軟性國際規(guī)則，要主動發(fā)聲，輸出中國智慧，提升話語權(quán)，爭取更多的國際合作資源，適時牽頭和主導(dǎo)形成更多人工智能治理的相關(guān)指南、倡議等國際規(guī)則。另一方面，強化人工智能治理國際合作。要探索與不同國家或國際組織開展人工智能國際合作的路徑，對于美國等與我國競爭博弈較為激烈的國家，建議通過一軌或二軌外交等手段，積極開展對話，探索人工智能規(guī)則制定方面的共同利益和合作空間，共同推動人工智能健康有序發(fā)展。對于東盟等具有國際影響力且與我國具有合作基礎(chǔ)的區(qū)域性大國或國際組織，建議依托“一帶一路”等國際多邊合作機制在人工智能治理領(lǐng)域深入合作，廣泛凝聚共識，充分關(guān)注其他國家的人工智能治理訴求和治理邏輯，牽頭發(fā)起或參與人工智能治理相關(guān)規(guī)則和倡議。除了政府層面的對話合作，還要推動和鼓勵科學(xué)家群體、科技企業(yè)、智庫、高校、行業(yè)協(xié)會等民間主體與全球范圍內(nèi)的同行開展深入交流合作，提升我國人工智能技術(shù)人31全球人工智能立法的主要模式、各國實踐及發(fā)展趨勢研究才參與國際規(guī)則制定的能力，為發(fā)出中國聲音提