2023全球生成式人工智能監(jiān)管研究報(bào)告-Anjie+Broad

全球生成式人工智能監(jiān)管研究報(bào)告一、生成式人工智能監(jiān)管地圖 1二、主要地區(qū)監(jiān)管概述 2 (一)中國(guó) 2 (二)歐盟 2 (三)美國(guó) 6 (四)加拿大 7 (五)英國(guó) 9 (六)澳大利亞 11 (七)印度 12 (八)日本 13 (九)新加坡 14 (十)中國(guó)香港 16 (一)監(jiān)管對(duì)象 17 (二)監(jiān)管部門 18 (三)合規(guī)義務(wù)要求 18 (四)未來可能面臨的監(jiān)管挑戰(zhàn) 19 (一)監(jiān)管框架 21 (二)一般合規(guī)義務(wù) 24 (三)特殊合規(guī)義務(wù) 29 (四)監(jiān)管動(dòng)態(tài) 31 (五)相關(guān)機(jī)構(gòu) 32 (一)監(jiān)管框架 34 (二)一般合規(guī)義務(wù) 37 (三)特殊合規(guī)義務(wù) 39 (四)監(jiān)管動(dòng)態(tài) 40 (五)相關(guān)機(jī)構(gòu) 41六、加拿大 42 (一)監(jiān)管框架 42 (二)一般合規(guī)義務(wù) 43 (三)監(jiān)管動(dòng)態(tài) 48 (四)相關(guān)機(jī)構(gòu) 49，主和中國(guó)；2.橙色區(qū)域表明該地區(qū)目前對(duì)生成式人工智能產(chǎn)品存在一定的限制和監(jiān)管1 落實(shí)科技倫理審查制度。。智能的主要合規(guī)義務(wù)：2 歐盟上，成式人工智能相關(guān)基礎(chǔ)模型提供者的義務(wù)。模的行政罰款。將禁止的人工智能系統(tǒng)投放市場(chǎng)或投入使用最高可被處4000萬歐元罰款罰款4000萬歐元或上一財(cái)政年度全球年?duì)I業(yè)額的7%(以較高者為準(zhǔn))不遵守高風(fēng)險(xiǎn)人工智能系統(tǒng)關(guān)于數(shù)據(jù)治理、透明度和提供信息給用戶的規(guī)定最高可被處2000萬歐元罰款罰款2000萬歐元或上一財(cái)政年度全球年?duì)I業(yè)額的4%(以較高者為準(zhǔn))3違反其他對(duì)于人工智能系統(tǒng)或模型的要求和義務(wù)最高可被處1000萬歐元罰款罰款1000萬歐元或上一財(cái)政年度全球年?duì)I業(yè)額的2%(以較高者為準(zhǔn))在答復(fù)請(qǐng)求時(shí)向公告機(jī)構(gòu)和國(guó)家主管當(dāng)局提供不正確、不完整或誤導(dǎo)性的信息最高可被處500萬歐元罰款罰款500萬歐元或上一財(cái)政年度全球年?duì)I業(yè)額的1%(以較高者為準(zhǔn))能的監(jiān)管仍非常嚴(yán)苛。的《人工智能法》表的特殊義務(wù)：45 美國(guó)能的創(chuàng)新和發(fā)展作為高度優(yōu)先事項(xiàng)。時(shí)核心價(jià)值觀。護(hù)。美國(guó)行事的主要參考和依循。6成材料的作品申請(qǐng)版權(quán)保護(hù)的申請(qǐng)人有以下義務(wù)：7 )加拿大大對(duì)人工智能的監(jiān)管重點(diǎn)在于隱私保護(hù)。智大法使或罰、行政訴訟甚至刑事制裁?！度斯ぶ悄芎蛿?shù)據(jù)法》下人工智能系統(tǒng)負(fù)責(zé)人的合規(guī)義務(wù)：8責(zé)人將面臨下表所示的處罰。經(jīng)公訴定罪法院酌情罰款不超過1千萬加元與其被判刑前的財(cái)政年度內(nèi)全球總收入的3%的罰款中更高額的罰款經(jīng)簡(jiǎn)易程序定罪不超過5萬加元罰款不超過500萬加元與其被判刑前的財(cái)政年度內(nèi)全球總收入的2%的罰款中更高額的罰款能(一般是生成式人工智能技術(shù))發(fā)布了實(shí)務(wù)指導(dǎo)。公室等部門負(fù)責(zé)各自領(lǐng)域與人工智能有關(guān)的執(zhí)法工作。 英國(guó)9 發(fā)展持較開放的態(tài)度。例如，財(cái)政部建議讓創(chuàng)新者和企業(yè)家在監(jiān)管沙盒 工智能的一般原則。式人工智能自動(dòng)決策等問題。3對(duì)于人工智能生成的作品，英國(guó)知智害費(fèi)者的行為進(jìn)行監(jiān)管等。 六)澳大利亞O智能政策文件的制定。 印度關(guān) 接收者的數(shù)據(jù)主體。 所性文件等對(duì)人工智能進(jìn)行規(guī)范，鼓勵(lì)人工智能用戶和企業(yè)自愿采取行動(dòng)以實(shí)現(xiàn) )新加坡的人工智能生態(tài)系統(tǒng)。 出建立可信賴和負(fù)責(zé)任地使用生成式人工智能的生態(tài)系統(tǒng)的想法。13決算行政監(jiān)視委員會(huì)分科會(huì)質(zhì)疑を振り返る。-きいたかし(キイタカシ)/選挙ドットコム數(shù)據(jù)使用、處理等行為進(jìn)行監(jiān)管。規(guī)需求定制報(bào)告等。 措適作出應(yīng)對(duì)。件。 一)監(jiān)管對(duì)象外向境內(nèi)提供的生成式人工智能服務(wù)也受到該辦法的管轄。 二)監(jiān)管部門 (三)合規(guī)義務(wù)要求深度合成規(guī)定》與《生成式辦法》三部規(guī)章的要求。《生成式辦法》要求提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能式人工智能服務(wù)上市前的必要流程，據(jù)悉目前主流的GPT產(chǎn)品如 (四)未來可能面臨的監(jiān)管挑戰(zhàn)廣的適用范圍。倫理審查辦法(試行)》，完善了科技倫理審查的流程和要求。能企業(yè)可能需要承擔(dān)的合規(guī)義務(wù)有：1)建立本單位的科技倫理(審查)委員會(huì)。)建立健全科技活動(dòng)全流程科技倫理監(jiān)管機(jī)制和審查質(zhì)量控制、監(jiān)督評(píng)價(jià)置。開展科技活動(dòng)前進(jìn)行科技倫理風(fēng)險(xiǎn)評(píng)估或?qū)彶??？萍蓟顒?dòng)負(fù)責(zé)人應(yīng)向本單位科技倫理(審查)委員會(huì)申請(qǐng)倫理審查。意見》需要按規(guī)定進(jìn)行登記。 一)監(jiān)管框架上， (《可信賴的人工智能的道德指南》提出的七項(xiàng)關(guān)鍵要求及其交互關(guān)系) (《人工智能法》的分級(jí)監(jiān)管示意圖)O修改人工智能系統(tǒng)的定義，使其與亞太經(jīng)合組織商定的定義保持一致O擴(kuò)大被禁止的人工智能系統(tǒng)清單進(jìn)行基本權(quán)利影響評(píng)估O對(duì)通用人工智能17和ChatGPT等生成式人工智能18模型的提供者施加義務(wù)O賦予各國(guó)當(dāng)局要求訪問人工智能系統(tǒng)的訓(xùn)練和培訓(xùn)模型(包括基礎(chǔ)模型) (《人工智能法》最新立法進(jìn)度圖) (二)一般合規(guī)義務(wù) 險(xiǎn)人工智能系統(tǒng)：全面禁止《人工智能法》禁止以下類型的人工智能系統(tǒng)進(jìn)入歐洲市場(chǎng)。 《人工智能法》將高風(fēng)險(xiǎn)人工智能系統(tǒng)分為以下兩大類。 或無風(fēng)險(xiǎn)人工智能系統(tǒng)：無額外法律義務(wù)頻或視頻內(nèi)容的人工智能系統(tǒng)(即深度偽造)但 基礎(chǔ)模型專門用于生成式人工智能系統(tǒng)的提供者有義務(wù)在基礎(chǔ)模型投放市場(chǎng)或分銷商 (三)特殊合規(guī)義務(wù)型的提供者在將高風(fēng)險(xiǎn)人工智能系統(tǒng)投放市場(chǎng)或投入使用前存在下圖所示的義成式人工智能基礎(chǔ)模型的提供者模的行政罰款。個(gè)人公司將禁止的人工智能系統(tǒng)投放市場(chǎng)或投入使用歐元罰款罰款4000萬歐元或上一財(cái)政年度全球年?duì)I業(yè)額的7%(以較高者為準(zhǔn))不遵守高風(fēng)險(xiǎn)人工智能系統(tǒng)關(guān)于數(shù)據(jù)治理、透明度和提供信息給用戶規(guī)定歐元罰款罰款2000萬歐元或上一財(cái)政年度全球年?duì)I業(yè)額的4%(以較高者為準(zhǔn))違反其他對(duì)于人工智能系統(tǒng)或模型的要求和義務(wù)歐元罰款罰款1000萬歐元或上一財(cái)政年度全球年?duì)I業(yè)額的2%(以較高者為準(zhǔn))在答復(fù)請(qǐng)求時(shí)向公告機(jī)構(gòu)和國(guó)家主管當(dāng)局提供不正確、不完整或誤導(dǎo)性的信息可被處500萬歐元罰款罰款500萬歐元或上一財(cái)政年度全球年?duì)I業(yè)額的1%(以較高者為準(zhǔn)) 四)監(jiān)管動(dòng)態(tài)展開調(diào)查。時(shí)間國(guó)家監(jiān)管機(jī)構(gòu)性質(zhì)措施事由意大利主動(dòng)調(diào)查限時(shí)中止令未成年人數(shù)據(jù)處理、數(shù)據(jù)準(zhǔn)確性法國(guó)CNIL投訴驅(qū)動(dòng)被動(dòng)調(diào)查法性基礎(chǔ)、數(shù)據(jù)權(quán)利行使西班牙AEPD主動(dòng)調(diào)查主動(dòng)調(diào)查透明度德國(guó)BADI主動(dòng)調(diào)查編制問卷數(shù)據(jù)保護(hù)影響評(píng)估挪威未開啟調(diào)查官方表態(tài)/愛爾蘭未開啟調(diào)查官方表態(tài)/ (歐盟成員國(guó)對(duì)ChatGPT的調(diào)查情況表21)門立即對(duì)ChatGPT和類似的聊天機(jī)器人展開調(diào)查。歐洲消費(fèi)者組織副總干事 五)相關(guān)機(jī)構(gòu)的主管部門聯(lián)合監(jiān)管和執(zhí)法。立在國(guó)家一級(jí)和跨境一級(jí)執(zhí)行數(shù)據(jù)保護(hù)法的歐洲數(shù)據(jù)保護(hù)委員會(huì)(European使《通用數(shù)據(jù)保護(hù)條例》得到遵守。能的EUPCN)是負(fù)責(zé)在非食品領(lǐng)域執(zhí)行歐盟產(chǎn)品立法的國(guó)家當(dāng)局之間的主要合作論督員會(huì)(EDPB)秘書處定期舉辦聯(lián)合研討會(huì)，討論消費(fèi)者和數(shù)據(jù)保護(hù)執(zhí)法人員共同 一)監(jiān)管框架美國(guó)目前無論在聯(lián)邦還是州一級(jí)均尚未專門針對(duì)通用人工智能或生成式人能進(jìn)行研究。備忘錄邦機(jī)人工智能創(chuàng)新和發(fā)展的影響。他機(jī)構(gòu)負(fù)責(zé)任地使用人工智能。 (《人工智能：聯(lián)邦機(jī)構(gòu)和其他實(shí)體的問責(zé)框架》示意圖)享有的五項(xiàng)核心保護(hù)。 (五項(xiàng)核心保護(hù))信度 (《人工智能風(fēng)險(xiǎn)管理框架》四大功能示意圖)部建議立法設(shè)置如下機(jī)制：退出數(shù)據(jù)收集的選項(xiàng) (二)一般合規(guī)義務(wù)雖然美國(guó)尚未針對(duì)通用人工智能及生成式人工智能系統(tǒng)及相關(guān)主體設(shè)定合文v (三)特殊合規(guī)義務(wù)人工智能生成材料的作品申請(qǐng)版權(quán)保護(hù)的申請(qǐng)人在不同的申請(qǐng)階段存在不同義中國(guó)公司提供使用先進(jìn)人工智能芯片的云計(jì)算服務(wù)前將需先征得美國(guó)政府的許 四)監(jiān)管動(dòng)態(tài)e31PCASTWorkingGrouponGenerativeAIInvitesPublicInput|PCAST|TheWhiteHouse 五)相關(guān)機(jī)構(gòu)美國(guó)聯(lián)邦貿(mào)易委員會(huì)通過執(zhí)行《聯(lián)邦貿(mào)易委員會(huì)法案》和許多其他法律法規(guī)，有權(quán)起訴人工智能侵犯數(shù)據(jù)隱私、數(shù)據(jù)安全、不公平競(jìng)爭(zhēng)等行為。美國(guó)消費(fèi)者產(chǎn)品安全委員會(huì)依據(jù)《消費(fèi)者產(chǎn)品安全法》等法律有權(quán)監(jiān)管無論使用何種技術(shù)(包括人工智能)，聯(lián)邦消費(fèi)者金融法律和不利行動(dòng)要求 一)監(jiān)管框架工人工智能戰(zhàn)略《泛加拿大人工智保束力的命令及對(duì)無視隱私的企業(yè)實(shí)施經(jīng)濟(jì)處罰。息工能被用于向法院提交的材料時(shí)，材料必須表明人工智能是如何被使用的。 (二)一般合規(guī)義務(wù)準(zhǔn)留給后續(xù)將出臺(tái)的法規(guī)予以規(guī)定。 、系統(tǒng)的簡(jiǎn)單說明的義務(wù)：可供參考： 主體：透明度義務(wù)處理或提供與人類活動(dòng)有關(guān)的任何數(shù)據(jù)的人承擔(dān)著一定的透明度義務(wù)：似義務(wù)：。 (《人工智能和數(shù)據(jù)法》立法計(jì)劃)即將出臺(tái)的法規(guī)確定。經(jīng)公訴定罪法院酌情罰款不超過1千萬加元與其被判刑前的財(cái)政年度內(nèi)全球總收入的3%的罰款中更高額的罰款經(jīng)簡(jiǎn)易程序定罪不超過5萬加元罰款不超過500萬加元與其被判刑前的財(cái)政年度內(nèi)全球總收入的2