人工智能監(jiān)管制度概覽

隨著社會(huì)經(jīng)濟(jì)的發(fā)展，人工智能已廣泛應(yīng)用于當(dāng)今人們的工作與生活之中。然而，人工智能在提供便利的同時(shí)，也會(huì)產(chǎn)生諸如算法黑箱和信息繭房等風(fēng)險(xiǎn)，因此，對(duì)其進(jìn)行監(jiān)管十分重要。本文通過(guò)梳理歐盟、美國(guó)和英國(guó)人工智能監(jiān)管制度，來(lái)探究域外人工智能監(jiān)管問(wèn)題。截至目前，在人工智能監(jiān)管方面，歐盟、美國(guó)、英國(guó)并未出臺(tái)專(zhuān)門(mén)的法律法規(guī)，但已出現(xiàn)與人工智能相關(guān)的監(jiān)管指導(dǎo)性文件，其中公眾關(guān)注的有歐盟委員會(huì)通過(guò)的《人工智能法案》（草案）、美國(guó)的《人工智能權(quán)利法案藍(lán)圖》與《人工智能風(fēng)險(xiǎn)管理框架1.0》、英國(guó)發(fā)布的指導(dǎo)性文件《人工智能監(jiān)管政策》與人工智能新監(jiān)管框架的提案《促進(jìn)創(chuàng)新的人工智能監(jiān)管方法》。通過(guò)上述政策文件可以發(fā)現(xiàn)，目前歐盟、美國(guó)、英國(guó)在人工智能監(jiān)管的機(jī)構(gòu)設(shè)置、主要特點(diǎn)及具體內(nèi)容等方面均存在一定的差異。監(jiān)管的機(jī)構(gòu)設(shè)置歐盟人工智能監(jiān)管的機(jī)構(gòu)設(shè)置。歐盟意識(shí)到使用人工智能技術(shù)可能帶來(lái)的潛在風(fēng)險(xiǎn)，因此，歐盟委員會(huì)于2021年發(fā)布的《人工智能條例》預(yù)設(shè)了一個(gè)專(zhuān)門(mén)的國(guó)家監(jiān)督機(jī)構(gòu)來(lái)確保法律的適用和實(shí)施。該條例規(guī)定：“對(duì)于歐盟機(jī)構(gòu)和組織開(kāi)發(fā)的人工智能系統(tǒng)，由歐洲數(shù)據(jù)保護(hù)監(jiān)督員主管負(fù)責(zé)。”即歐盟委員會(huì)提議在每個(gè)成員國(guó)設(shè)立中央監(jiān)管機(jī)構(gòu)（歐洲人工智能委員會(huì)）和國(guó)家監(jiān)管機(jī)構(gòu)來(lái)對(duì)人工智能進(jìn)行監(jiān)管。美國(guó)人工智能監(jiān)管的機(jī)構(gòu)設(shè)置。一般來(lái)說(shuō)，獨(dú)立的監(jiān)管機(jī)構(gòu)作為政府權(quán)力的延伸與補(bǔ)充，其創(chuàng)建的目的通常是對(duì)不公平舉措進(jìn)行預(yù)防。目前，美國(guó)并未統(tǒng)一設(shè)置人工智能監(jiān)管機(jī)構(gòu)，各政府部門(mén)通過(guò)發(fā)布對(duì)現(xiàn)有規(guī)則的解釋與指引或發(fā)布新規(guī)則來(lái)對(duì)人工智能進(jìn)行監(jiān)管，監(jiān)管主體有聯(lián)邦政府及其相關(guān)部門(mén)或機(jī)構(gòu)、州政府及其相關(guān)部門(mén)或機(jī)構(gòu)。英國(guó)人工智能監(jiān)管的機(jī)構(gòu)設(shè)置。去中心化的英國(guó)制度不會(huì)創(chuàng)建新的監(jiān)管機(jī)構(gòu)，相反，其將依靠現(xiàn)有的監(jiān)管機(jī)構(gòu)來(lái)執(zhí)行，如金融行為監(jiān)管局、信息專(zhuān)員辦公室、競(jìng)爭(zhēng)與市場(chǎng)管理局、平等與人權(quán)委員會(huì)以及藥品和保健產(chǎn)品監(jiān)管機(jī)構(gòu)，其中，信息專(zhuān)員辦公室是英國(guó)擬建立的人工智能監(jiān)管機(jī)構(gòu)。監(jiān)管的主要特點(diǎn)歐盟自2016年起就不斷探索對(duì)人工智能技術(shù)應(yīng)用的監(jiān)管體系構(gòu)建，其以歐洲整體層面為視角，致力于構(gòu)建協(xié)調(diào)一致、適合歐洲發(fā)展的人工智能治理體系。歐盟監(jiān)管的政策重點(diǎn)是，以基本人權(quán)為底層邏輯，側(cè)重于保障個(gè)人權(quán)利。其治理模式是基于比例原則的風(fēng)險(xiǎn)分層治理。監(jiān)管機(jī)制是采取分級(jí)監(jiān)管、多種監(jiān)管，并實(shí)行高額的行政處罰，且將公私機(jī)構(gòu)一起納入監(jiān)管范圍。歐盟在人工智能領(lǐng)域的執(zhí)法案例主要涉及反壟斷法和數(shù)據(jù)保護(hù)法，典型案例是谷歌案，2017年，谷歌因存在濫用市場(chǎng)支配地位行為而被歐盟委員會(huì)處以24.2億歐元的罰款。美國(guó)側(cè)重于對(duì)人工智能在具體應(yīng)用場(chǎng)景下的監(jiān)管，但是尚未出臺(tái)統(tǒng)一綜合的人工智能立法。聯(lián)邦政府在為市場(chǎng)提供監(jiān)管參考時(shí)通常采用白皮書(shū)、指南等形式；地方政府在提供監(jiān)管參考時(shí)則多以立法形式。監(jiān)管政策的重點(diǎn)是，以促進(jìn)產(chǎn)業(yè)發(fā)展為主，在治理時(shí)側(cè)重于維護(hù)公平和保護(hù)隱私。其治理模式是風(fēng)險(xiǎn)評(píng)估與風(fēng)險(xiǎn)管理框架。監(jiān)管機(jī)制不是單一的依賴于行政監(jiān)管，而是強(qiáng)調(diào)政府部門(mén)與私營(yíng)部門(mén)的協(xié)作。并且，為了推動(dòng)人工智能技術(shù)的發(fā)展，主張企業(yè)進(jìn)行自我監(jiān)管。在執(zhí)法方面，主要集中在美國(guó)聯(lián)邦貿(mào)易委員會(huì)與美國(guó)版權(quán)局。兩個(gè)機(jī)構(gòu)以維護(hù)市場(chǎng)公平競(jìng)爭(zhēng)和保障人工智能技術(shù)合理使用為執(zhí)法目的，典型案例是Everalbum人臉識(shí)別案和《黎明的曙光》版權(quán)案。英國(guó)人工智能監(jiān)管政策的重點(diǎn)是，以促進(jìn)科技發(fā)展為主，治理方面?zhèn)戎赜谥С謩?chuàng)新的監(jiān)管體系。監(jiān)管機(jī)制是統(tǒng)籌協(xié)調(diào)各部門(mén)進(jìn)行人工智能監(jiān)管工作，強(qiáng)調(diào)監(jiān)管方式的靈活性，并保持手段和目標(biāo)之間適當(dāng)?shù)谋壤?。在?zhí)法方面，英國(guó)以保護(hù)用戶隱私數(shù)據(jù)安全為前提，并主要依賴于《英國(guó)通用數(shù)據(jù)保護(hù)條例》。然而，英國(guó)信息專(zhuān)員辦公室執(zhí)法活躍度并不高，截至目前，僅有極少數(shù)的罰款案件。如2021年的美國(guó)人臉識(shí)別公司ClearviewAI案，因ClearviewAI未經(jīng)個(gè)人同意自行收集和處理個(gè)人生物識(shí)別數(shù)據(jù)，英國(guó)信息專(zhuān)員辦公室以其侵犯英國(guó)隱私法律法規(guī)為由，對(duì)美國(guó)人臉識(shí)別公司ClearviewAI處以750萬(wàn)英鎊的罰款，命令ClearviewAI停止收集和使用在互聯(lián)網(wǎng)上公開(kāi)的英國(guó)居民個(gè)人數(shù)據(jù)，并從系統(tǒng)中刪除英國(guó)居民的相關(guān)數(shù)據(jù)信息。監(jiān)管的具體內(nèi)容歐盟在2023年6月通過(guò)了《人工智能法案》的談判授權(quán)草案（以下簡(jiǎn)稱《法案》），《法案》的監(jiān)管思路是以橫向監(jiān)管為基礎(chǔ)，以風(fēng)險(xiǎn)規(guī)制為主要方式，同時(shí)兼顧監(jiān)管與發(fā)展的動(dòng)態(tài)平衡。《法案》具有以下特征：其一，根據(jù)風(fēng)險(xiǎn)程度的等級(jí)對(duì)人工智能進(jìn)行分類(lèi)，其中評(píng)估風(fēng)險(xiǎn)是關(guān)鍵環(huán)節(jié)，分為不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)與最小風(fēng)險(xiǎn)四類(lèi)，并根據(jù)風(fēng)險(xiǎn)程度的不同來(lái)匹配不同的監(jiān)管措施。其二，《法案》提出風(fēng)險(xiǎn)管理覆蓋規(guī)制的全過(guò)程。歐盟為規(guī)避風(fēng)險(xiǎn)，結(jié)合人工智能的特征提出了全生命周期的規(guī)制方案，該方案將覆蓋人工智能產(chǎn)品入市前與入市后，實(shí)現(xiàn)事前、事中、事后的全面規(guī)制。在事前階段，將人工智能的預(yù)期風(fēng)險(xiǎn)劃分為四個(gè)等級(jí)，依據(jù)應(yīng)用場(chǎng)景和風(fēng)險(xiǎn)等級(jí)的不同，制定與之相對(duì)應(yīng)的監(jiān)管舉措；在事中階段，強(qiáng)調(diào)人工智能監(jiān)管沙盒的作用機(jī)制；在事后階段，規(guī)定系統(tǒng)供應(yīng)商應(yīng)針對(duì)高風(fēng)險(xiǎn)進(jìn)行全程售后監(jiān)測(cè)，并及時(shí)將故障數(shù)據(jù)上報(bào)給國(guó)家監(jiān)管部門(mén)。其三，根據(jù)風(fēng)險(xiǎn)類(lèi)型和風(fēng)險(xiǎn)程度不同，對(duì)規(guī)制措施進(jìn)行動(dòng)態(tài)調(diào)整。上市前需對(duì)人工智能系統(tǒng)進(jìn)行合格評(píng)估，主要評(píng)估即將上市的系統(tǒng)是否屬于《法案》第二章規(guī)定的各項(xiàng)禁止性做法。若高風(fēng)險(xiǎn)人工智能系統(tǒng)在上市后發(fā)生實(shí)質(zhì)性修改，則應(yīng)啟動(dòng)新的評(píng)估程序。上市后需針對(duì)人工智能系統(tǒng)制定監(jiān)測(cè)計(jì)劃，并對(duì)高風(fēng)險(xiǎn)系統(tǒng)的監(jiān)測(cè)系統(tǒng)進(jìn)行重點(diǎn)監(jiān)測(cè)。因該監(jiān)測(cè)系統(tǒng)主要收集、分析基于使用人工智能系統(tǒng)而產(chǎn)生的數(shù)據(jù)，所以該系統(tǒng)需具備日志記錄功能，以保證相關(guān)數(shù)據(jù)的可追溯性。美國(guó)于2022年10月提出了《人工智能權(quán)利法案藍(lán)圖》（以下簡(jiǎn)稱《藍(lán)圖》），《藍(lán)圖》并未明確實(shí)施細(xì)則，而是以公平與隱私為重點(diǎn)，要求相關(guān)主體在人工智能系統(tǒng)開(kāi)發(fā)過(guò)程中以堅(jiān)守公平正義為底線，保證系統(tǒng)使用者不受算法歧視和數(shù)據(jù)隱私泄露的侵害?！端{(lán)圖》通過(guò)設(shè)立五項(xiàng)基本原則來(lái)預(yù)防濫用人工智能技術(shù)帶來(lái)的風(fēng)險(xiǎn)，即規(guī)避算法歧視；加強(qiáng)隱私數(shù)據(jù)保護(hù)；及時(shí)履行通知與解釋義務(wù)；準(zhǔn)備替補(bǔ)方案與退出機(jī)制；構(gòu)建安全高效系統(tǒng)。2023年1月，美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院發(fā)布《人工智能風(fēng)險(xiǎn)管理框架1.0》（以下簡(jiǎn)稱《框架1.0》）。該文件之所以備受關(guān)注，一方面是因?yàn)槠渲铝τ谧R(shí)別與人工智能系統(tǒng)部署相關(guān)的各類(lèi)風(fēng)險(xiǎn)，從性質(zhì)上來(lái)看是非強(qiáng)制性的指導(dǎo)性文件，可由相關(guān)機(jī)構(gòu)自愿選擇使用，其比約束性法律更容易在應(yīng)用中實(shí)現(xiàn)更新迭代；另一方面是因?yàn)樗怯啥喾嚼嬷黧w共同參與并制定的，具有高可信度和高接受度。在具體內(nèi)容上，《框架1.0》由一個(gè)摘要、兩部分正文和四個(gè)附錄所組成，第一部分是基礎(chǔ)信息，包含對(duì)人工智能風(fēng)險(xiǎn)的界定、框架的管理目標(biāo)和受眾主體等。第二部分是框架核心及具體配置，指出框架核心由四個(gè)頂層模塊所組成，即治理、映射、測(cè)量和管理，而每個(gè)功能項(xiàng)下還分別下設(shè)兩級(jí)展開(kāi)目錄。《框架1.0》采用多元化的治理方案，旨在幫助相關(guān)主體部署人工智能系統(tǒng)，減少對(duì)人工智能技術(shù)的偏見(jiàn)，增強(qiáng)其可信度并保護(hù)個(gè)人數(shù)據(jù)隱私。從而有效規(guī)避人工智能系統(tǒng)帶來(lái)的風(fēng)險(xiǎn)，幫助諸多行業(yè)及組織將人工智能風(fēng)險(xiǎn)管理原則轉(zhuǎn)化為實(shí)踐，以提高相關(guān)主體使用人工智能系統(tǒng)的安全性與可靠性。英國(guó)在人工智能監(jiān)管路徑設(shè)計(jì)方面主張平衡創(chuàng)新與發(fā)展。英國(guó)政府于2022年7月頒布的《人工智能監(jiān)管政策》（以下簡(jiǎn)稱《政策》），以創(chuàng)建新型人工智能監(jiān)管機(jī)制為目標(biāo)。新型人工智能監(jiān)管機(jī)制將基于人工智能的自適應(yīng)性、自主性等特征來(lái)協(xié)調(diào)各部門(mén)實(shí)施相應(yīng)的監(jiān)管工作。在監(jiān)管方面，《政策》提出了四項(xiàng)原則：其一，堅(jiān)持具體情形具體監(jiān)管原則。即根據(jù)不同的情形設(shè)置不同的監(jiān)管方案，并明確各監(jiān)管機(jī)構(gòu)所承擔(dān)的監(jiān)管責(zé)任，從而保障監(jiān)管方案的針對(duì)性和有效性。其二，遵循協(xié)調(diào)原則。即鼓勵(lì)監(jiān)管部門(mén)間建立溝通協(xié)調(diào)機(jī)制，從而實(shí)現(xiàn)跨部門(mén)的個(gè)性化監(jiān)管。其三，鼓勵(lì)創(chuàng)新原則。即支持創(chuàng)新監(jiān)管，要求監(jiān)管機(jī)構(gòu)著力解決有明確證據(jù)證明風(fēng)險(xiǎn)存在的問(wèn)題。其四，比例性原則。即在確保監(jiān)管方法與被監(jiān)管行為特點(diǎn)相一致的同時(shí)，還應(yīng)確保目標(biāo)與方法之間的比例性。2023年3月，英國(guó)發(fā)布政策報(bào)告《促進(jìn)創(chuàng)新的人工智能監(jiān)管方法》（以下簡(jiǎn)稱《方法》），《方法》的制定以提供具有創(chuàng)新性、可信賴性的人工智能監(jiān)管框架為目的?！斗椒ā分赋?，監(jiān)管框架將以以下基本原則為基礎(chǔ)，即安全性、可靠性和穩(wěn)健性、