人工智能（AI）國(guó)際金融監(jiān)管初探

人工智能（AI）國(guó)際金融監(jiān)管初探1隨著經(jīng)濟(jì)社會(huì)的發(fā)展與科學(xué)技術(shù)的進(jìn)步，人工智能已經(jīng)被廣泛應(yīng)用于工作生活的各個(gè)領(lǐng)域。各國(guó)紛紛將人工智能納入國(guó)家戰(zhàn)略，期待其為經(jīng)濟(jì)發(fā)展提供新的增長(zhǎng)點(diǎn)與動(dòng)能。特別是2022年Chat-GPT的問(wèn)世，向世界展現(xiàn)了人工智能巨大的發(fā)展?jié)摿εc應(yīng)用前景。但同時(shí)，人工智能技術(shù)也可能帶來(lái)系統(tǒng)性歧視、對(duì)數(shù)據(jù)和隱私權(quán)的侵犯以及信息繭房等問(wèn)題。為推動(dòng)技術(shù)以人為本，有效應(yīng)對(duì)潛在風(fēng)險(xiǎn)，各國(guó)開始立足于自身的技術(shù)優(yōu)勢(shì)與資源稟賦，采用不同的人工智能治理與監(jiān)管路徑。在吸收國(guó)際組織研究成果的基礎(chǔ)上，歐盟率先推出人工智能倫理規(guī)范、法案與框架公約等，利用治理格局優(yōu)勢(shì)地位積極推動(dòng)國(guó)際監(jiān)管，并借助歐盟統(tǒng)一市場(chǎng)的力量，通過(guò)產(chǎn)業(yè)鏈向全球施加影響。英國(guó)采取了比較靈活的監(jiān)管路徑，并利用地緣優(yōu)勢(shì)與脫歐后的自由技公司并促進(jìn)產(chǎn)業(yè)轉(zhuǎn)化。以美國(guó)、中國(guó)、新加坡為代表的具有人工智能技術(shù)優(yōu)勢(shì)的國(guó)家，則在國(guó)家規(guī)劃的整體引領(lǐng)下布局促進(jìn)技術(shù)發(fā)展與產(chǎn)業(yè)培植，兼顧發(fā)展中可能產(chǎn)生的風(fēng)險(xiǎn)本文立足于全景掃描，在收集研讀人工智能相關(guān)文獻(xiàn)的基礎(chǔ)上，對(duì)國(guó)際組織、歐盟、英國(guó)、美國(guó)、中國(guó)等具有代表性主體的監(jiān)管體系進(jìn)行了分析，并對(duì)具有里程碑意義的文件及內(nèi)容要點(diǎn)進(jìn)行了整理與解讀。同時(shí)，我們亦結(jié)合各國(guó)家/地區(qū)金融領(lǐng)域的人工智能監(jiān)管動(dòng)態(tài)進(jìn)行了總結(jié)、分析與展望，并對(duì)金融機(jī)構(gòu)人工智能技術(shù)應(yīng)用提出了合規(guī)行動(dòng)建議。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。 ?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探3根據(jù)畢馬威收集的全球人工智能監(jiān)管相關(guān)文獻(xiàn)分析，國(guó)際上人工智能立法較為活躍的國(guó)家與地區(qū)有歐盟、美國(guó)、英國(guó)、中國(guó)、新加坡以及香港等。從已發(fā)布的文件來(lái)看，各區(qū)風(fēng)險(xiǎn)為導(dǎo)向的原則來(lái)實(shí)施或推進(jìn)人工智能的監(jiān)管，具有強(qiáng)制約束力的監(jiān)管規(guī)則較少，僅占18%（且一半為美國(guó)州級(jí)的立法多數(shù)采取了原則、倫理、指南、討論文件及報(bào)告等更為軟性的形式（圖1）。從各區(qū)域/國(guó)家的人工智能立法特點(diǎn)來(lái)看，國(guó)際組織積極推出人工智能原則、倫理規(guī)范，并通過(guò)宣言、倡議、聯(lián)合聲明等方式推動(dòng)全球整體的人工智能治理與倫理約束。歐盟的人工智能監(jiān)管體系更為完整，全面覆蓋規(guī)劃、原則、倫理、框架、指引、監(jiān)管規(guī)則等各種類型；歐盟同時(shí)積極參與國(guó)際社會(huì)人工智能監(jiān)管規(guī)則的制定，其推出的《歐盟人工智能法案》為全球首部人工智能領(lǐng)域的全面監(jiān)管法規(guī)，《人工智能與人權(quán)、民主和法治框架公約》為全球首個(gè)關(guān)于負(fù)責(zé)任地使用人工智能的具有法律約束力的國(guó)際條約，具有較強(qiáng)英國(guó)的人工智能監(jiān)管體系非常有特點(diǎn)，它整體采用了一種政府引領(lǐng)，以部門為主導(dǎo)、有利于創(chuàng)新的做法來(lái)實(shí)施監(jiān)管。它采用了相對(duì)軟性的方式，不主張倉(cāng)促立法與推出強(qiáng)制規(guī)范，文件多以軟性的規(guī)劃、框架、指南等形式頒布，同時(shí)英國(guó)監(jiān)管機(jī)構(gòu)還實(shí)施了大量研究并與社會(huì)各界人士廣泛探討，以保持對(duì)人工智能實(shí)踐與風(fēng)險(xiǎn)的敏銳度。美國(guó)的人工智能監(jiān)管立法具有州領(lǐng)跑聯(lián)邦政府的特點(diǎn)，一批州級(jí)的法律規(guī)范已率先落地，聯(lián)邦部門的立法在政府執(zhí)行令的統(tǒng)一引導(dǎo)下逐步推進(jìn)，但尚未正式推出具有強(qiáng)制遵循意 u監(jiān)管規(guī)則/立法u藍(lán)圖/規(guī)劃u原則/倫理道德u治理/風(fēng)險(xiǎn)框架u指南u討論文件及其他?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探4中國(guó)較早就開始實(shí)施人工智能規(guī)劃及治理活動(dòng)，雖然已出臺(tái)的文件數(shù)量不多，但種類較為豐富，已涵蓋發(fā)展規(guī)劃、監(jiān)管規(guī)則、治理原則、倫理規(guī)范、倡議與宣言等。同時(shí)，中國(guó)也積極參與國(guó)際社會(huì)的人工智能監(jiān)管治理，推動(dòng)人工智能產(chǎn)業(yè)發(fā)展并構(gòu)建自身的國(guó)際影從金融領(lǐng)域來(lái)看，目前金融監(jiān)管機(jī)構(gòu)對(duì)于人工智能監(jiān)管的整體立法并不十分活躍，各區(qū)域/國(guó)家金融監(jiān)管部門主要根據(jù)整體性的人工智能監(jiān)管政策與要求，在各自的職能領(lǐng)域針對(duì)人工智能應(yīng)用進(jìn)行規(guī)范。但隨著上位法及人工智能專門法規(guī)的陸續(xù)出臺(tái)，相關(guān)金融監(jiān)管機(jī)構(gòu)亦在醞釀人工智能領(lǐng)域的金融監(jiān)管要以下我們將選擇國(guó)際組織、歐盟、英國(guó)、美國(guó)等四個(gè)人工智能監(jiān)管領(lǐng)域具有代表性與領(lǐng)先意義的主體開展分析。我們亦對(duì)中國(guó)人工智能監(jiān)管的進(jìn)展與動(dòng)態(tài)進(jìn)行了總結(jié)，后續(xù)將單獨(dú)撰寫與國(guó)際實(shí)踐比較分析的專題文章。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探5國(guó)際組織較早就開始了關(guān)于人工智能的探討，從其目前已發(fā)布的文件看，均為不具有強(qiáng)制約束力的原則、倫理建議、倡議宣言等，旨在推動(dòng)相關(guān)方以人為本，以負(fù)責(zé)任的方式設(shè)計(jì)、開發(fā)和應(yīng)用人工智能。相關(guān)內(nèi)容為不同地區(qū)、國(guó)家的人工智能立法提供了有力的支持與豐富的借鑒，包括標(biāo)準(zhǔn)定義、原則導(dǎo)向、倫理規(guī)范、工具方法等。2019年，世界經(jīng)濟(jì)合作組織（OECD）與二十國(guó)集團(tuán)（G20）先后推出了《人工智能原則》，但原則并不具有約束力。2021年合國(guó)教科文組織（UNESCO）發(fā)布《人工智能倫理問(wèn)題建議書》，對(duì)人工智能涉及的倫理問(wèn)題進(jìn)行了深入探討，并提供了評(píng)估工具領(lǐng)導(dǎo)人發(fā)布《就廣島人工智能進(jìn)程的聯(lián)合聲明》，并配套推出了指導(dǎo)原則與行為準(zhǔn)則。是全球第一份針對(duì)人工智能這一快速新興技術(shù)的國(guó)際性聲明（圖2）。以下選擇三份重要的國(guó)際組織人工智能監(jiān)管在全球?qū)用?，從?guó)際組織發(fā)布的人工智能相關(guān)文件來(lái)看，較為重要且被廣泛引用的兩份文件是世界經(jīng)濟(jì)合作組織（OECD）于2019年5月發(fā)布的《人工智能原則》（首個(gè)人工智鑒了前者的提議1（圖3）。在后續(xù)各地區(qū)、1部分內(nèi)容引用自FSIInsightonpolicyimplementationNo35,HumanskeepingAIincheck-emergingregulatoryexpectationsinthefinancialsector。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探6于人工智能的標(biāo)準(zhǔn)定義、原則等，均吸收利用了兩份文件的成果?！度斯ぶ悄軅惱韱?wèn)題建議書》（2021年11月）采納了一套關(guān)于人工智能倫理的建議《人工智能倫理問(wèn)題建議書》（以下簡(jiǎn)稱建議書人工智能倫理標(biāo)準(zhǔn)。它建議會(huì)員國(guó)在自愿基礎(chǔ)上適用建議書的各項(xiàng)規(guī)定，特別是根據(jù)各自國(guó)家的憲法實(shí)踐和治理結(jié)構(gòu)采取適當(dāng)步驟，包括必要的立法或其他措施，依照包括國(guó)際人權(quán)法在內(nèi)的國(guó)際法，使建議書的原則和規(guī)范在本國(guó)管轄范圍內(nèi)生效2。《建議書》詳細(xì) 討論了其目標(biāo)、價(jià)值觀、原則以及政策領(lǐng)域methodology）與倫理影響評(píng)估（ethical準(zhǔn)備狀態(tài)評(píng)估工具（RAM）包括一系列定量和定性問(wèn)題，旨在收集與一個(gè)國(guó)家的人工智能生態(tài)系統(tǒng)相關(guān)的不同方面的信息，包括法律和監(jiān)管、社會(huì)和文化、經(jīng)濟(jì)、科學(xué)和教育以及技術(shù)和基礎(chǔ)設(shè)施方面。其中每個(gè)維度都有一系列定量和定性評(píng)估問(wèn)題，使RAM有別于其他現(xiàn)有的準(zhǔn)備狀態(tài)評(píng)估工具。其問(wèn)題設(shè)置主要覆蓋六大維度，包括通用維度、法律維度及其8個(gè)細(xì)分維度、社會(huì)與文化維度及其5個(gè)細(xì)分維度、科學(xué)與教育維度及其10個(gè)細(xì)分維度、經(jīng)濟(jì)維度及其3個(gè)細(xì)分維度，以及技術(shù)與基礎(chǔ)設(shè)施維度及其4個(gè)細(xì)分維度。其中法律2部分內(nèi)容引用自UNESCO，《人工智能倫理問(wèn)題建議書》中文版。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探7維度包含人工智能政策與監(jiān)管細(xì)分維度（圖），示以供參考。倫理影響評(píng)估工具（EIA）考慮了設(shè)計(jì)、開發(fā)和部署人工智能系統(tǒng)的整個(gè)過(guò)程，包含一系列問(wèn)題以及評(píng)估表格等，可以用于人工智能系統(tǒng)向公眾發(fā)布之前和之后對(duì)其風(fēng)險(xiǎn)及影響進(jìn)行評(píng)估。倫理影響評(píng)估工具最初設(shè)計(jì)目的是幫助參與人工智能系統(tǒng)采購(gòu)的公共部門官員，為他們提供一系列問(wèn)題，以確保他們購(gòu)買的人工智能系統(tǒng)符合《建議書》中規(guī)定的倫理標(biāo)準(zhǔn)。然而，它也可以被開發(fā)人員或私營(yíng)部門和其他地方的其他人使用，以促進(jìn)人工智能系統(tǒng)符合道德的設(shè)計(jì)、開發(fā)和部署。信息來(lái)源：畢馬威自根據(jù)UNESCO《人工智?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探8信息來(lái)源：畢馬威自根據(jù)UNESCO《人工智《七國(guó)集團(tuán)領(lǐng)導(dǎo)人就廣島人工智能進(jìn)程的聯(lián)“廣島人工智能進(jìn)程”發(fā)表聯(lián)合聲明，強(qiáng)調(diào)要開發(fā)先進(jìn)的人工智能系統(tǒng)，充分利用生成式人工智能帶來(lái)的機(jī)遇和潛力，打造以人類為中心的包容的人工智能治理框架?；诼?lián)合聲明，七國(guó)集團(tuán)領(lǐng)導(dǎo)人當(dāng)日還發(fā)布了《廣島進(jìn)程先進(jìn)人工智能系統(tǒng)開發(fā)組織國(guó)際指導(dǎo)原則》和《廣島進(jìn)程先進(jìn)人工智能系統(tǒng)開發(fā)組織國(guó)際行為準(zhǔn)則》3。文件提出了11項(xiàng)與風(fēng)?在先進(jìn)人工智能系統(tǒng)的整個(gè)開發(fā)過(guò)程中，包括在部署和投放市場(chǎng)之前，采取適當(dāng)?shù)拇胧宰R(shí)別、評(píng)估和減輕整個(gè)人工智能?在部署及投放市場(chǎng)后，識(shí)別和減輕漏洞，3內(nèi)容引用自中國(guó)國(guó)際科技交流中心，科技動(dòng)態(tài)|七國(guó)集團(tuán)領(lǐng)導(dǎo)人就“廣島人工智能進(jìn)程”發(fā)表聯(lián)合聲明。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探9?公開報(bào)告先進(jìn)人工智能系統(tǒng)的能力、局限性、適當(dāng)和不適當(dāng)使用的領(lǐng)域，以支持確保足夠的透明度，從而有助于加強(qiáng)問(wèn)責(zé)制；?致力于在開發(fā)先進(jìn)人工智能系統(tǒng)的組織之間，包括與行業(yè)、政府、民間社會(huì)和學(xué)術(shù)?制定、實(shí)施和披露基于風(fēng)險(xiǎn)的人工智能治理和風(fēng)險(xiǎn)管理政策，包括隱私政策和緩解措施，特別是針對(duì)開發(fā)先進(jìn)人工智能系統(tǒng)?投資并實(shí)施強(qiáng)有力的安全控制，包括整個(gè)人工智能生命周期的物理安全、網(wǎng)絡(luò)安全?在技術(shù)可行的情況下，開發(fā)和部署可靠的內(nèi)容認(rèn)證和來(lái)源機(jī)制，如水印或其他技術(shù)，?優(yōu)先考慮研究以減輕社會(huì)、安全和保障風(fēng)?優(yōu)先發(fā)展先進(jìn)的人工智能系統(tǒng)，以應(yīng)對(duì)世界上最大的挑戰(zhàn)，特別是但不限于氣候危?推動(dòng)制定并酌情采用國(guó)際技術(shù)標(biāo)準(zhǔn)；?實(shí)施適當(dāng)?shù)臄?shù)據(jù)輸入措施，保護(hù)個(gè)人數(shù)據(jù)從金融領(lǐng)域來(lái)看，國(guó)際清算銀行（BIS）、國(guó)際證券事務(wù)監(jiān)察委員會(huì)組織（IOSCO）等國(guó)際組織一直在積極推進(jìn)金融領(lǐng)域人工智能相關(guān)的研究，自2021年起陸續(xù)發(fā)布金融領(lǐng)域的人工智能研究報(bào)告，研究主題覆蓋市場(chǎng)中介機(jī)構(gòu)和資產(chǎn)管理公司對(duì)人工智能和機(jī)器學(xué)習(xí)的應(yīng)用，人工智能在中央銀行的應(yīng)用，中央銀行的生成式人工智能與網(wǎng)絡(luò)安全，人工智能如何重塑金融業(yè)等，其研究?jī)?nèi)容主要聚焦于人工智能在金融業(yè)的運(yùn)用現(xiàn)狀，機(jī)會(huì)與挑戰(zhàn)，以及蘊(yùn)含風(fēng)險(xiǎn)的探討，并未推出具有遵循意義或操作指導(dǎo)的治理原則、風(fēng)險(xiǎn)框架、指引等規(guī)范。國(guó)際清算銀行金融穩(wěn)定研究所（BIS-FSI）的研究報(bào)告也提出，建議區(qū)分面框架與措施。展望未來(lái)，隨著人工智能技術(shù)的持續(xù)發(fā)展與金融領(lǐng)域應(yīng)用場(chǎng)景的不斷擴(kuò)大，預(yù)計(jì)未來(lái)將有更多國(guó)際組織積極作為，促進(jìn)金融領(lǐng)域人工智能監(jiān)管或引導(dǎo)規(guī)范的出臺(tái)。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探10應(yīng)用的監(jiān)管體系構(gòu)建，其以歐洲整體層面為視角，致力于構(gòu)建協(xié)調(diào)一致、適合歐洲發(fā)展的人工智能治理體系。歐盟監(jiān)管的政策重點(diǎn)是，以基本人權(quán)為底層邏輯，側(cè)重于保障個(gè)人權(quán)利。以數(shù)據(jù)安全為陣地延伸，通過(guò)人工智能使用數(shù)據(jù)與數(shù)據(jù)應(yīng)用場(chǎng)景劃分其風(fēng)險(xiǎn)等監(jiān)管機(jī)制是采取分級(jí)監(jiān)管、多種監(jiān)管，并實(shí)行高額的行政處罰，且將公私機(jī)構(gòu)一起納入監(jiān)管范圍4。從國(guó)際競(jìng)爭(zhēng)的視角來(lái)看，歐盟一方面利用自身國(guó)際影響力，積極擬定并輸出倫理指南、全面監(jiān)管法案、國(guó)際公約等，發(fā)揮制度優(yōu)勢(shì)影響國(guó)際層面的人工智能治理與監(jiān)管。另一方面以歐盟統(tǒng)一市場(chǎng)為基礎(chǔ)，延的文件雖然數(shù)量不多，但其內(nèi)容全面覆蓋規(guī)指引指南等類型。每份文件正式出臺(tái)前，均經(jīng)歷了多輪的草擬議案、意見(jiàn)征詢、討論反饋與修訂等（圖6）。以下選擇三份歐盟人工智能領(lǐng)域監(jiān)管具有里程碑意義的文件進(jìn)行重點(diǎn)分析?！吨档眯刨嚨娜斯ぶ悄軅惱碇改稀罚?019年得信賴的人工智能框架年4月8日，歐盟委員會(huì)下設(shè)的人工智能高級(jí)別專家組正式發(fā)布了《值得信賴的人工智能倫理指南》，提出了實(shí)現(xiàn)值得信賴的人工智能全生命周期框架（圖7）。值得信賴的人工智能包含三要素，符合法律4部分內(nèi)容引用自《人工智能監(jiān)管制度概覽》，國(guó)家社會(huì)科學(xué)基金重點(diǎn)項(xiàng)目“人工智能研發(fā)與應(yīng)用風(fēng)險(xiǎn)治理的財(cái)稅法協(xié)同機(jī)制研究”（立項(xiàng)編號(hào)：21AFX021）的階段性成果，來(lái)源人民法院報(bào)。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探11數(shù)據(jù)來(lái)源：畢馬威根據(jù)《值得信賴的人工智能倫理指南》翻譯整理。具有穩(wěn)健性的（robust）。開發(fā)、部署和應(yīng)用人工智能需符合四項(xiàng)倫理原則，包括：尊autonomy）、預(yù)防傷害（preventionofharm）、公平（fairness）和具有可解釋性（explicability）。為達(dá)成提出了七項(xiàng)關(guān)鍵要求，包括：人的能動(dòng)性與術(shù)穩(wěn)健性與安全性（technicalrobustnessandsafety隱私與數(shù)據(jù)治理（privacy（transparency多樣性、非歧視性與公平性（diversity,non-discriminationand《歐盟人工智能法案》出臺(tái)經(jīng)歷了漫長(zhǎng)的醞釀過(guò)程，除歐盟內(nèi)部的立法程序與反復(fù)商討外，還曾多次遭遇空客、西門子等大型企業(yè)，以及谷歌、微軟、OpenAI等科技巨頭的公開一項(xiàng)《旨在協(xié)調(diào)人工智能規(guī)則的法規(guī)提案》。談判授權(quán)草案。12月，歐洲議會(huì)、歐洲理事會(huì)和歐盟委員會(huì)達(dá)成臨時(shí)協(xié)議，將把《人工?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探12歐洲理事會(huì)正式批準(zhǔn)歐盟《人工智能法案》（以下簡(jiǎn)稱“法案”這是第一個(gè)具有約束力的全球人工智能橫向監(jiān)管法規(guī)，為歐盟人工智能系統(tǒng)的使用和供應(yīng)設(shè)定了一個(gè)共同《法案》是一份全面的文件，它旨在提供人工智能的明確定義，使歐盟范圍內(nèi)關(guān)于人工智能的法律法規(guī)與其他歐盟法律法規(guī)保持一致?！斗ò浮返闹饕繕?biāo)是建立一個(gè)統(tǒng)一和橫向的法律框架，促進(jìn)人工智能系統(tǒng)的使用，從主要內(nèi)容來(lái)看，《法案》共13章，包括總則，禁止的人工智能實(shí)踐，高風(fēng)險(xiǎn)人工智能系統(tǒng)，特定人工智能系統(tǒng)的供應(yīng)者與使用者需遵循的透明度義務(wù)，通用人工智能模型，能數(shù)據(jù)庫(kù)，上市后監(jiān)測(cè)、信息共享與市場(chǎng)監(jiān)督，行為準(zhǔn)則與指引，授權(quán)與委員會(huì)程序，處罰，以及最后條款。《法案》的重點(diǎn)是保護(hù)安全和基本權(quán)利，它根據(jù)“基于風(fēng)險(xiǎn)的方法”，為不同的人工智能應(yīng)用系統(tǒng)風(fēng)險(xiǎn)水平，引入了分級(jí)的監(jiān)管要求系統(tǒng)（圖8）。一些存在“不可接受”風(fēng)險(xiǎn)的人工智能系統(tǒng)被禁止。一些可能對(duì)人們的健康、安全或基本權(quán)利產(chǎn)生不利影響的“高風(fēng)險(xiǎn)”人工智能系統(tǒng)得到授權(quán)后可以使用，但需要遵守一系列進(jìn)入歐盟市場(chǎng)的要求和義務(wù)。由于缺乏透明度而造成“有限風(fēng)險(xiǎn)“的人工智能系統(tǒng)將受到信息和透明度要求的約束，而存在“最小風(fēng)險(xiǎn)”的人工智能將不受進(jìn)一步義務(wù)的約束。此外，《法案》還為通用人工智能（GPAI）模型提供了具體規(guī)則，考慮到具有“高影響能力”的通用人工智能模型可能會(huì)構(gòu)成系統(tǒng)性風(fēng)險(xiǎn)并對(duì)內(nèi)部市場(chǎng)產(chǎn)生重大影響，《法案》還對(duì)其提出了更嚴(yán)格的要求。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探13從適用范圍來(lái)看，《法案》為整個(gè)人工智能產(chǎn)業(yè)鏈上的相關(guān)方提供了一個(gè)合規(guī)義務(wù)框架，旨在約束與歐盟市場(chǎng)有連接點(diǎn)的所有主體，（importers）、分銷商（distributors）、從《法案》生效時(shí)間與處罰后果來(lái)看，法案中規(guī)定禁止的做法將在生效6個(gè)月后適用；通用型人工智能（GPAI）的相關(guān)義務(wù)和規(guī)則將在生效12個(gè)月后適用；法案生效24個(gè)月后，該法案完全適用，但一些高風(fēng)險(xiǎn)AI系統(tǒng)的規(guī)則將在生效后36個(gè)月適用。不遵守法案的后果可能包括限制市場(chǎng)準(zhǔn)入和根據(jù)違法程度處以巨額罰款。罰款可能從750萬(wàn)歐元或全球營(yíng)業(yè)額的1%，到3,500萬(wàn)歐元或全球營(yíng)業(yè)額的7%不等，具體取決于人工智能系統(tǒng)的類型、公司的規(guī)模和違法行為的嚴(yán)重程度?！度斯ぶ悄芘c人權(quán)、民主和法治框架公約》有法律約束力的國(guó)際條約《人工智能與人權(quán)、民主和法治框架公約》的起草工作于2019年啟動(dòng)，當(dāng)時(shí)人工智能特設(shè)委員會(huì)（CAHAI）的任務(wù)是審查這種工具的可行性。在其授權(quán)之后，人工智能委員會(huì)2024年5月18日，歐洲理事會(huì)在斯特拉斯堡正式通過(guò)了具有歷史意義的《人工智能與人權(quán)、民主和法治框架公約》（以下簡(jiǎn)稱“框架公約”這標(biāo)志著全球首個(gè)關(guān)于負(fù)責(zé)任地使用人工智能的具有法律約束力的國(guó)際條約正式誕生。它旨在確保人工智能系統(tǒng)生命同時(shí)有利于技術(shù)進(jìn)步和創(chuàng)新?！犊蚣芄s》總則、總體義務(wù)、與人工智能系統(tǒng)生命周期內(nèi)的活動(dòng)相關(guān)的原則、補(bǔ)救措施、風(fēng)險(xiǎn)和不利影響的評(píng)估和緩釋、公約的執(zhí)行、后續(xù)機(jī)從各國(guó)需履行的《框架公約》責(zé)任來(lái)看，主?人的尊嚴(yán)和個(gè)人自主（Humandignity）；）；?尊重隱私和個(gè)人數(shù)據(jù)保護(hù)（Respectfor?問(wèn)責(zé)制和負(fù)責(zé)任（Accountabilityand）；補(bǔ)救措施、程序性權(quán)利和保障措施?記錄有關(guān)人工智能系統(tǒng)及其使用的相關(guān)信?信息必須足以使相關(guān)人員質(zhì)疑通過(guò)使用該系統(tǒng)或在很大程度上基于該系統(tǒng)做出的決?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探14?有效保障向主管當(dāng)局提出申訴的可能性；?在人工智能系統(tǒng)對(duì)人權(quán)和基本自由的享受產(chǎn)生重大影響的情況下，就人工智能系統(tǒng)的應(yīng)用向受影響的人提供有效的程序保障、?提供通知，說(shuō)明一個(gè)人正在與人工智能系風(fēng)險(xiǎn)與影響的管理要求?以持續(xù)迭代（iterative）的方式，對(duì)人權(quán)、民主和法治的實(shí)際和潛在影響進(jìn)行風(fēng)險(xiǎn)和?通過(guò)實(shí)施這些評(píng)估，制定充分的預(yù)防和緩?保留當(dāng)局對(duì)人工智能系統(tǒng)的某些應(yīng)用實(shí)施禁令或暫停的可能性（“紅線”）。從《框架公約》的適用范圍和約束效力來(lái)看，涵蓋公共當(dāng)局（publicauthorities亦包括代表其行事的私立行為者，以及私營(yíng)部門及個(gè)體（privateactors）對(duì)人工智能系統(tǒng)的使用?！犊蚣芄s》為締約方在管理私營(yíng)部門時(shí)遵守其原則和義務(wù)提供了兩種方式：締約方可以選擇直接受《框架公約》相關(guān)條款的約束，或者作為一種選擇，采取其他措施遵守條約的規(guī)定，同時(shí)充分尊重其在人權(quán)、民主和法治方面的國(guó)際義務(wù)。此外，《框架公約》締約方不必將條約的規(guī)定適用于與保護(hù)其國(guó)家安全利益有關(guān)的活動(dòng)，但必須確保這些活動(dòng)尊重國(guó)際法和民主體制和進(jìn)程。《框架公約》不適用于國(guó)防事務(wù)，也不適用于研發(fā)活動(dòng)，除非人工智能系統(tǒng)的測(cè)試可能2.3金融領(lǐng)域的人工智能監(jiān)管與影響工智能監(jiān)管政策與要求來(lái)看，歐洲銀行管理局、歐洲保險(xiǎn)與職業(yè)養(yǎng)老金局等已發(fā)布的監(jiān)管規(guī)則，以及德國(guó)、法國(guó)、盧森堡、荷蘭等國(guó)家發(fā)布的適用于本國(guó)的治理框架、總體原則等，基本與歐盟通用人工智能監(jiān)管要求保持一致。此外，歐盟金融監(jiān)管機(jī)構(gòu)與各國(guó)監(jiān)管機(jī)構(gòu)還發(fā)布了多項(xiàng)人工智能相關(guān)的專題研究報(bào)告。針對(duì)《法案》與《框架公約》后金融領(lǐng)域的人工智能監(jiān)管職責(zé)來(lái)說(shuō)，歐盟國(guó)家可以將這項(xiàng)任務(wù)分配給其人工智能監(jiān)管機(jī)構(gòu)或現(xiàn)有的國(guó)家金融監(jiān)管機(jī)構(gòu)。與此同時(shí)，作為歐洲重要金融監(jiān)管機(jī)構(gòu)，歐洲央行（ECB）在監(jiān)管《法案》的要求方面沒(méi)有設(shè)置角色，但將繼續(xù)從審慎的角度審查信貸模型。但隨著《法案》與《框架公約》的生效與實(shí)施，預(yù)計(jì)未來(lái)歐盟及各國(guó)也將調(diào)整或細(xì)化監(jiān)管政策，進(jìn)一步明確金融領(lǐng)域人工智能監(jiān)管的職責(zé)分工與監(jiān)管要求。從金融領(lǐng)域的影響來(lái)看，依據(jù)《法案》的風(fēng)險(xiǎn)分級(jí)，部分金融行業(yè)的人工智能應(yīng)用被劃分為高風(fēng)險(xiǎn)，例如銀行的人工智能信用評(píng)分系統(tǒng)被指定為高風(fēng)險(xiǎn)系統(tǒng)，因?yàn)檫@可能會(huì)對(duì)個(gè)人或群體造成不公平歧視。又如保險(xiǎn)領(lǐng)域，為健康或人壽保險(xiǎn)單定價(jià)的人工智能系統(tǒng)也歸類為高風(fēng)險(xiǎn)。此類人工智能系統(tǒng)必須滿足高標(biāo)準(zhǔn)的穩(wěn)健性和準(zhǔn)確性，必須在強(qiáng)大的風(fēng)險(xiǎn)管理框架內(nèi)運(yùn)行，并且必須確保人工監(jiān)督和對(duì)其輸出信息的正確理解。這些要求將適用于《法案》生效兩年后部署的新系統(tǒng)，為金融機(jī)構(gòu)履行合規(guī)義務(wù)保留了窗口期。而依據(jù)《法案》與《框架公約》的強(qiáng)制性要求，金融機(jī)構(gòu)應(yīng)用人工智能還需建設(shè)相應(yīng)的治理架構(gòu)、持續(xù)的風(fēng)險(xiǎn)評(píng)估與管理流程，并配備相應(yīng)的崗位與專家等。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探15英國(guó)在人工智能監(jiān)管路徑設(shè)計(jì)方面主張平衡創(chuàng)新與發(fā)展5，整體采用了一種政府引領(lǐng)，以部門為主導(dǎo)、有利于創(chuàng)新的做法來(lái)實(shí)施人工智能監(jiān)管。政府部門、監(jiān)管機(jī)構(gòu)與特設(shè)機(jī)構(gòu)通過(guò)發(fā)布政策白皮書、討論文件、研究簡(jiǎn)報(bào)、政策反饋、政府應(yīng)答、實(shí)施效果評(píng)估等方式，持續(xù)通過(guò)深入的研究、廣泛的探討與動(dòng)態(tài)的論證，并充分征詢社會(huì)公眾與商業(yè)企業(yè)的信息輸入與反饋意見(jiàn)，促進(jìn)相關(guān)部門不斷審視并檢討原則與目標(biāo)的實(shí)現(xiàn)情況，用較低成本的方式達(dá)成整體人工智能治理與監(jiān)管目標(biāo)，并促進(jìn)公眾的理解與信任。此外，英國(guó)高度重視并積極參與國(guó)際標(biāo)準(zhǔn)的制定，并將推廣促進(jìn)有利于英國(guó)發(fā)展的國(guó)際標(biāo)準(zhǔn)作為降低合規(guī)成本，促進(jìn)國(guó)家競(jìng)爭(zhēng)力的有效手段。在最新發(fā)布的《科學(xué)技術(shù)框架》，英國(guó)將成為國(guó)際治理優(yōu)勝者與領(lǐng)導(dǎo)者列入擬于2030年實(shí)現(xiàn)的戰(zhàn)略目標(biāo)。從已發(fā)布的人工智能相關(guān)文件來(lái)看，英國(guó)采用的監(jiān)管方法比較溫和，不主張倉(cāng)促推出立法與監(jiān)管規(guī)范，文件多以軟性的規(guī)劃、框架、指南等形式頒布。同時(shí)，英國(guó)對(duì)人工智能的發(fā)展變化保持密切關(guān)注，發(fā)布了大量的研究報(bào)告、白皮書、討論文件等，并將持續(xù)實(shí)施相關(guān)調(diào)研與研究，以保持對(duì)風(fēng)險(xiǎn)的敏銳感知與及時(shí)響應(yīng)（圖9）。以下將對(duì)英國(guó)四份重要的監(jiān)管政策與文件進(jìn)在2021年9月發(fā)布的《國(guó)家人工智能戰(zhàn)略》（以下簡(jiǎn)稱《戰(zhàn)略》）中，英國(guó)政府承諾在治理和監(jiān)管人工智能方面采取有利于創(chuàng)新的國(guó)家立場(chǎng)，提出了“使英國(guó)成為人工智能超5引用自《人工智能監(jiān)管制度概覽》，國(guó)家社會(huì)科學(xué)基金重點(diǎn)項(xiàng)目“人工智能研發(fā)與應(yīng)用風(fēng)險(xiǎn)治理的財(cái)稅法協(xié)同機(jī)制研究”（立項(xiàng)編號(hào)：21AFX021）的階段性成果，來(lái)源人民法院報(bào)。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探16智能的路徑設(shè)想（圖10）?！稇?zhàn)略》還對(duì)后續(xù)人工智能即將采取的十項(xiàng)監(jiān)管舉措進(jìn)行了《建立有利于創(chuàng)新的人工智能監(jiān)管方法》承接《戰(zhàn)略》中的監(jiān)管舉措部署，英國(guó)政府新的人工智能監(jiān)管方法》（以下簡(jiǎn)稱《政策文件》）中概述了政府的立場(chǎng)。這份文件闡述了政府關(guān)于實(shí)施一個(gè)適度的、經(jīng)得起未來(lái)考驗(yàn)的、有利于創(chuàng)新的人工智能監(jiān)管框架的建議。為了促進(jìn)創(chuàng)新并支持蓬勃發(fā)展的人工?情景化的（Context-specific）：承認(rèn)人工智能是一種動(dòng)態(tài)的通用技術(shù)，由此產(chǎn)生的?支持創(chuàng)新和基于風(fēng)險(xiǎn)的（Pro-innovationandrisk-based要求監(jiān)管機(jī)構(gòu)專注于可能導(dǎo)致真實(shí)、可識(shí)別、不可接受的風(fēng)險(xiǎn)水平的人工智能應(yīng)用，而不是試圖對(duì)低風(fēng)險(xiǎn)或假設(shè)風(fēng)險(xiǎn)的人工智能應(yīng)用實(shí)施控制，?連貫的（Coherent）：確保體系簡(jiǎn)單、清?適度且適應(yīng)性強(qiáng)的（Proportionateandadaptable要求監(jiān)管機(jī)構(gòu)首先考慮更輕針對(duì)人工智能技術(shù)的特征，《政策文件》還建議制定一套跨部門原則，由監(jiān)管機(jī)構(gòu)將其發(fā)展為特定部門或領(lǐng)域的人工智能監(jiān)管措施。信息來(lái)源：畢馬威根據(jù)《國(guó)家人工智能戰(zhàn)略》整理?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探17?確保人工智能在技術(shù)上是安全的，并在功?確保人工智能具有適當(dāng)?shù)耐该餍院涂山忉尅度斯ぶ悄鼙O(jiān)管：一種有利于創(chuàng)新的方法》納各方反饋意見(jiàn)與政策影響評(píng)估見(jiàn)解，英國(guó)正式發(fā)布了《促進(jìn)創(chuàng)新的人工智能監(jiān)管方法》白皮書（以下簡(jiǎn)稱《監(jiān)管方法》總體而言將通過(guò)一種基于原則，中央職能持續(xù)監(jiān)測(cè)并促進(jìn)協(xié)作，能夠靈活適應(yīng)的方法來(lái)實(shí)施監(jiān)管（圖11）。新監(jiān)管框架以五項(xiàng)原則為基礎(chǔ)，以指導(dǎo)和影響人工智能在所有經(jīng)濟(jì)部門的負(fù)責(zé)任開發(fā)和使用。這些原則將在非法定基礎(chǔ)?安全性、保障性和穩(wěn)健性（Safet）；?適當(dāng)?shù)耐该鞫群涂山忉屝裕ˋppropriate）；數(shù)據(jù)來(lái)源：畢馬威根據(jù)《促進(jìn)創(chuàng)新的人工智能監(jiān)管方法》翻譯整理。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探18監(jiān)管框架圍繞四個(gè)關(guān)鍵要素構(gòu)建，旨在增強(qiáng)現(xiàn)有監(jiān)管機(jī)構(gòu)的能力，促進(jìn)整個(gè)監(jiān)管格局的?根據(jù)人工智能的獨(dú)特特性定義人工智能，?提供一套跨部門原則，指導(dǎo)監(jiān)管機(jī)構(gòu)應(yīng)對(duì)?提供新的中央職能，支持監(jiān)管機(jī)構(gòu)實(shí)施人工智能監(jiān)管框架，最大限度地提高迭代方在實(shí)施方面，為促進(jìn)跨部門的橫向協(xié)作，《監(jiān)管方法》確定了一些必要的中央支持職能，以確?？傮w框架對(duì)風(fēng)險(xiǎn)做出適度但有效?監(jiān)測(cè)和評(píng)估總體監(jiān)管框架的有效性和原則的實(shí)施情況，包括實(shí)施在多大程度上支持了創(chuàng)新。這將使英國(guó)能夠保持響應(yīng)能力，并在必要時(shí)調(diào)整框架，包括在人工智能能力和最新技術(shù)發(fā)展的背景下需要調(diào)整以保?評(píng)估和監(jiān)測(cè)人工智能在整個(gè)經(jīng)濟(jì)中產(chǎn)生的?進(jìn)行全景掃描和差距分析，包括召集行業(yè)一同為應(yīng)對(duì)新興人工智能技術(shù)趨勢(shì)提供一?支持試驗(yàn)臺(tái)和沙盒計(jì)劃，幫助人工智能創(chuàng)?提供教育和意識(shí)宣傳，為企業(yè)提供清晰的指引，并賦予公民權(quán)力，讓他們的聲音被?促進(jìn)與國(guó)際監(jiān)管框架的互用性。文件（以下簡(jiǎn)稱“框架”它制定了政府到2030年使英國(guó)成為科技超級(jí)大國(guó)的戰(zhàn)略愿景。它將人工智能確定為五大關(guān)鍵技術(shù)之一，并指出監(jiān)管在創(chuàng)造人工智能蓬勃發(fā)展的環(huán)境方面發(fā)揮著重要作用?！犊蚣堋逢U明了監(jiān)管與規(guī)則方面的愿景，即英國(guó)始終處于制定技術(shù)標(biāo)準(zhǔn)和制定國(guó)際法規(guī)的前沿，并將充分利用脫歐后的自由。監(jiān)管將有利于創(chuàng)新，刺激對(duì)科技的需求，吸引投資，同時(shí)代表英國(guó)的價(jià)值觀并保護(hù)公民。政府將利用其科學(xué)技術(shù)優(yōu)勢(shì)和國(guó)際關(guān)系，來(lái)確保對(duì)法規(guī)和技術(shù)標(biāo)準(zhǔn)的影響力。并希望在?一個(gè)有利于創(chuàng)新、易于引導(dǎo)并促進(jìn)廣泛商業(yè)科學(xué)和技術(shù)應(yīng)用的法規(guī)和標(biāo)準(zhǔn)體系。監(jiān)管機(jī)構(gòu)對(duì)每一項(xiàng)關(guān)鍵技術(shù)的作用都將是明確的，包括它們?cè)谀男╊I(lǐng)域跨部門和監(jiān)管職責(zé)。監(jiān)管機(jī)構(gòu)將有權(quán)支持英國(guó)創(chuàng)新者的?相對(duì)于其他國(guó)家，迅速采取行動(dòng)，為關(guān)鍵技術(shù)制定規(guī)則，并在適當(dāng)?shù)那闆r下制定法規(guī)，以增加這些領(lǐng)域創(chuàng)新者的確定性。英國(guó)將在制定國(guó)內(nèi)法規(guī)時(shí)考慮國(guó)際背景，以加強(qiáng)英國(guó)的先發(fā)優(yōu)勢(shì)。涵蓋關(guān)鍵技術(shù)的法?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探19?領(lǐng)導(dǎo)制定關(guān)鍵技術(shù)標(biāo)準(zhǔn)和法規(guī)的國(guó)際行動(dòng)。英國(guó)將在世貿(mào)組織、七國(guó)集團(tuán)、二十國(guó)集團(tuán)、經(jīng)合組織、北約、歐洲理事會(huì)、英聯(lián)邦和聯(lián)合國(guó)發(fā)揮積極作用。英國(guó)將成為關(guān)鍵技術(shù)國(guó)際規(guī)則和公約的召集人和頂級(jí)作?成為支撐關(guān)鍵技術(shù)國(guó)際治理的全球技術(shù)標(biāo)準(zhǔn)生態(tài)系統(tǒng)的優(yōu)勝者。建立行業(yè)和政府的能力，形成多方利益相關(guān)者聯(lián)盟來(lái)制定技?利用政府的全景掃描能力，支持監(jiān)管機(jī)構(gòu)考慮新興技術(shù)如何成為關(guān)鍵技術(shù)。行業(yè)和監(jiān)管機(jī)構(gòu)之間的對(duì)話將為英國(guó)的改革和促進(jìn)技術(shù)發(fā)展提供信息。3.3金融領(lǐng)域的人工智能監(jiān)管與影響布了回應(yīng)。在此回應(yīng)中，英格蘭銀行、審慎管理局、金融行為監(jiān)管局以及其他已確定的監(jiān)管機(jī)構(gòu)被要求在4月底之前發(fā)布自己的人工智能監(jiān)管計(jì)劃。從其已發(fā)布的金融行業(yè)人工智能監(jiān)管策略來(lái)看，總體而言，他們歡迎政府?dāng)M定的各部門引導(dǎo)，鼓勵(lì)創(chuàng)新的方法。他們并未提出新的監(jiān)管規(guī)則，英格蘭銀行、英國(guó)審慎管理局、英國(guó)金融行為監(jiān)管局都認(rèn)為他們已經(jīng)設(shè)立了合適的監(jiān)管框架來(lái)支撐政府?dāng)M定的原則。他們認(rèn)為現(xiàn)有框架仍然適用于解決人工智能帶來(lái)的風(fēng)險(xiǎn)，因?yàn)檫@些風(fēng)險(xiǎn)“并非唯一”。具體而言，監(jiān)管機(jī)構(gòu)計(jì)劃依靠其商業(yè)原則、消費(fèi)者責(zé)任、運(yùn)營(yíng)彈性規(guī)則手冊(cè)、模型風(fēng)險(xiǎn)管理原則以及高級(jí)管理人員僅會(huì)起到護(hù)欄作用，而且由于許多工具都以結(jié)果為中心，監(jiān)管機(jī)構(gòu)認(rèn)為這將是相稱的，并允許金融機(jī)構(gòu)以安全的方式靈活適應(yīng)和創(chuàng)針對(duì)白皮書中提出的五項(xiàng)原則，監(jiān)管機(jī)構(gòu)概?安全性、保障性和穩(wěn)健性：監(jiān)管機(jī)構(gòu)計(jì)劃依靠其總體業(yè)務(wù)原則（例如，金融行為監(jiān)謹(jǐn)慎和勤勉的態(tài)度開展業(yè)務(wù)”）、基本條件以及高級(jí)管理系統(tǒng)和控制原始資料第三方風(fēng)險(xiǎn)管理和外包框架也高度相關(guān)，企業(yè)有責(zé)任管理供應(yīng)商可能影響重要商業(yè)服務(wù)的任何風(fēng)險(xiǎn)。?適當(dāng)?shù)耐该鞫群涂山忉屝裕簩徤鞴芾砭謪⒖剂似淠Ｐ惋L(fēng)險(xiǎn)管理原則（其中明確要求考慮模型的可解釋性和透明度）。金融行為監(jiān)管局計(jì)劃在消費(fèi)者責(zé)任不適用的情況下，通過(guò)消費(fèi)者責(zé)任（要求“與零售客戶條（要求“適當(dāng)考慮信息需求”）對(duì)此進(jìn)行解釋。英國(guó)GDPR規(guī)則也可能在公平透明處理個(gè)人數(shù)據(jù)方面發(fā)揮作用。?公平性：主要由金融行為監(jiān)管局的消費(fèi)者責(zé)任（例如，最終指導(dǎo)意見(jiàn)專門反對(duì)公司以放大偏見(jiàn)的方式使用人工智能）和其他關(guān)于公平對(duì)待弱勢(shì)客戶的指導(dǎo)意見(jiàn)來(lái)解決。金融行為監(jiān)管局還參考了其商業(yè)原則，如原則6（適當(dāng)考慮客戶利益）、原則7（明護(hù)手冊(cè)章節(jié)。所有監(jiān)管機(jī)構(gòu)還必須遵守《2010年平等法》，該法要求它們適當(dāng)考慮對(duì)具有受保護(hù)特征的人消除歧視的必要?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探20?責(zé)任制與治理：該要求主要由高級(jí)管理人這一職責(zé)可以納入現(xiàn)有職能中，例如首席運(yùn)營(yíng)職能（SMF24）和首席風(fēng)險(xiǎn)職能中概述治理和組織要求的章節(jié)，而金融行為監(jiān)管局也特別指出了消費(fèi)者責(zé)任，審慎管理局也特別提出了模型風(fēng)險(xiǎn)管理的期望。?爭(zhēng)議與糾偏：這主要通過(guò)金融行為監(jiān)管局的投訴處理框架來(lái)解決。然而，也可以通過(guò)金融監(jiān)察專員服務(wù)或金融服務(wù)補(bǔ)償計(jì)劃（如適用）提供更廣泛的保護(hù)。從金融監(jiān)管機(jī)構(gòu)已公布的人工智能監(jiān)管計(jì)劃?運(yùn)行英國(guó)金融服務(wù)業(yè)機(jī)器學(xué)習(xí)調(diào)查的第三?考慮跟進(jìn)人工智能公私論壇（AIPPF）成?考慮試點(diǎn)新型監(jiān)管項(xiàng)目機(jī)會(huì)，例如人工智?建立在既定框架之上——例如，通過(guò)金融政策委員會(huì)（FPC）的網(wǎng)絡(luò)壓力測(cè)試和參?考慮各種選擇，以解決當(dāng)前數(shù)據(jù)治理和管?繼續(xù)與其他監(jiān)管機(jī)構(gòu)和公司合作，包括通監(jiān)測(cè)和了解金融市場(chǎng)中的人工智能部署。例如，人工智能的發(fā)展也可能放大投機(jī)行為或更廣泛的順周期行為、增加網(wǎng)絡(luò)風(fēng)險(xiǎn)以及增強(qiáng)互聯(lián)性，從而對(duì)金融系統(tǒng)的穩(wěn)定?繼續(xù)分析人工智能（AI）/機(jī)器學(xué)習(xí)（ML）之外更廣泛的技術(shù)發(fā)展的影響，例如量子計(jì)算的發(fā)展，以及這些發(fā)展如何相互作用；?繼續(xù)參與國(guó)際倡議，如人工智能安全峰會(huì)、七國(guó)集團(tuán)領(lǐng)導(dǎo)人關(guān)于廣島人工智能進(jìn)程的聲明、部長(zhǎng)宣言、IOSCO、FSB、經(jīng)合組然而，他們也認(rèn)為，金融行業(yè)人工智能的發(fā)展與應(yīng)用十分迅猛，需要密切關(guān)注。他們將繼續(xù)監(jiān)測(cè)金融機(jī)構(gòu)的人工智能部署情況，以確定是否有必要對(duì)其框架進(jìn)行任何修改。例如，如果這種方法限制而不是促進(jìn)創(chuàng)新，或者不能充分保護(hù)消費(fèi)者免受有意或無(wú)意的傷從對(duì)金融機(jī)構(gòu)的影響來(lái)看，英國(guó)金融監(jiān)管機(jī)構(gòu)都利用了已有的監(jiān)管體系與工具，為不同的人工智能供應(yīng)商提供了足夠的靈活性，以開發(fā)滿足客戶特定需求的創(chuàng)新應(yīng)用。英國(guó)的監(jiān)管方法是綜合的、基于結(jié)果的，不同于其他司法管轄區(qū)（尤其是歐盟后者建立了定制的、相對(duì)規(guī)范的規(guī)則手冊(cè)。英國(guó)金融機(jī)構(gòu)被要求在其現(xiàn)有的風(fēng)險(xiǎn)管理結(jié)構(gòu)中考慮人工智能風(fēng)險(xiǎn)，而不是創(chuàng)造新的（潛在的孤立的）能力。因此，對(duì)金融機(jī)構(gòu)而言，需要采取措施以確保已建立符合管理目標(biāo)的人工智能風(fēng)險(xiǎn)管理工具，并充分吸納已出臺(tái)的要求7。6-7部分內(nèi)容引用自畢馬威國(guó)際文章《英國(guó)金融監(jiān)管機(jī)構(gòu)發(fā)布人工智能策略》，UKFSregulatorspublishtheirAIstrategies-KPMGGlobal。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探21在美國(guó)，對(duì)人工智能的監(jiān)管已經(jīng)從自愿指導(dǎo)月的《人工智能權(quán)利法案藍(lán)圖》奠定了基本準(zhǔn)與技術(shù)研究院發(fā)布自愿性的《人工智能風(fēng)險(xiǎn)管理框架》。領(lǐng)先的人工智能公司于2023年7月做出了自愿承諾，表明行業(yè)準(zhǔn)備應(yīng)對(duì)人工智能的社會(huì)影響。2023年11月，《關(guān)于安全、可靠和值得信賴的人工智能的行政命令》標(biāo)志著向監(jiān)管監(jiān)督的轉(zhuǎn)變，該命令授權(quán)25個(gè)以上的機(jī)構(gòu)解決與人工智能相關(guān)的危害，包括安全、隱私和歧視。這些機(jī)構(gòu)的任務(wù)是制定規(guī)則、資助研究、評(píng)估風(fēng)險(xiǎn)，并通過(guò)人工智能開發(fā)人員的安全測(cè)試和報(bào)告來(lái)提高透明草稿，以及降低合成內(nèi)容風(fēng)險(xiǎn)的報(bào)告操作和人工智能標(biāo)準(zhǔn)全球合作的草稿，積極醞釀新的框架與指南。然而，在人工智能監(jiān)管方面，聯(lián)邦政府部門還沒(méi)有采取重大的立法行動(dòng)8。相比之下，州級(jí)別的立法活動(dòng)較為活躍，自州級(jí)人工智能立法已陸續(xù)落地生效。從美國(guó)監(jiān)管政策的重點(diǎn)來(lái)看，主要是以促進(jìn)產(chǎn)業(yè)發(fā)展為主，在治理時(shí)側(cè)重于維護(hù)公平和保護(hù)隱私。其治理模式是風(fēng)險(xiǎn)評(píng)估與風(fēng)險(xiǎn)管理框架。監(jiān)管機(jī)制不是單一的依賴于行政監(jiān)管，而是強(qiáng)調(diào)政府部門與私營(yíng)部門的協(xié)作。并且，為了推動(dòng)人工智能技術(shù)的發(fā)展，主張企業(yè)進(jìn)行自我監(jiān)管9。8部分內(nèi)容引用自BankforInternationalSettlements(BIS)WorkingPapersNo.1194Intelligentfinancialsystem:howAIistransformingfinance。9引用自《人工智能監(jiān)管制度概覽》，國(guó)家社會(huì)科學(xué)基金重點(diǎn)項(xiàng)目“人工智能研發(fā)與應(yīng)用風(fēng)險(xiǎn)治理的財(cái)稅法協(xié)同機(jī)制研究”（立項(xiàng)編號(hào)：21AFX021）的階段性成果，來(lái)源人民法院報(bào)。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探22以下選擇美國(guó)具有標(biāo)志性意義的三份監(jiān)管文（OSTP）發(fā)布《人工智能權(quán)利法案藍(lán)圖》（以下簡(jiǎn)稱“法案藍(lán)圖”）?！斗ò杆{(lán)圖》由五項(xiàng)原則和相關(guān)實(shí)踐組成，旨在指導(dǎo)自動(dòng)化系統(tǒng)的設(shè)計(jì)、使用和部署，以保護(hù)人工智能時(shí)代美國(guó)公眾的權(quán)利。這些原則是通過(guò)與美國(guó)公眾廣泛協(xié)商制定的，是構(gòu)建和部署與民主價(jià)值觀相一致并保護(hù)公民權(quán)利、公民自由和隱私的自動(dòng)化系統(tǒng)的藍(lán)圖。從具體內(nèi)容來(lái)看，《法案藍(lán)圖》包括前言、五項(xiàng)原則（圖13）、關(guān)于應(yīng)用《法案藍(lán)圖》的說(shuō)明，以及一份技術(shù)指南，其中給出了從各級(jí)政府到各種規(guī)模的公司等多種組織可以采取的具體步驟，以維護(hù)這些價(jià)值觀。盡管來(lái)自私營(yíng)部門、政府和國(guó)際財(cái)團(tuán)的專家已經(jīng)發(fā)布了指導(dǎo)負(fù)責(zé)任地使用自動(dòng)化系統(tǒng)的原則和框架；《法案藍(lán)圖》的框架提供了一個(gè)與行業(yè)無(wú)關(guān)的國(guó)家價(jià)值觀聲明和工具包，為將這些保護(hù)納入政策、實(shí)踐或技術(shù)設(shè)計(jì)過(guò)程提供信息10。在現(xiàn)有法律或政策（如特定行業(yè)的隱私法和監(jiān)督要求）尚未提供指導(dǎo)的情況下，應(yīng)使用《法案藍(lán)圖》來(lái)為政策決策提供信息。2023年1月26日，美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（隸屬于美國(guó)商務(wù)部）發(fā)布了《人工智能“風(fēng)險(xiǎn)框架”旨在幫助設(shè)計(jì)、開發(fā)、部署或使用人工智能系統(tǒng)的組織提高人工智能風(fēng)險(xiǎn)管理的能力，并促進(jìn)人工智能系統(tǒng)的可信度和負(fù)責(zé)任的開發(fā)和使用?！讹L(fēng)險(xiǎn)框架》是一個(gè)自愿性的技術(shù)框架，不具備強(qiáng)制效力。《風(fēng)險(xiǎn)框架》分為兩部分，第一部分討論了組織如何構(gòu)建與人工智能相關(guān)風(fēng)險(xiǎn)的框架，并描述了目標(biāo)受眾（圖14）。之后分析了人工智能相關(guān)風(fēng)險(xiǎn)和可信賴度，概述了值得信賴的人工智能系統(tǒng)的特征，包括有效和可靠!信息來(lái)源：畢馬威根據(jù)白宮科技政策辦公室官網(wǎng)信息翻譯整理。10部分內(nèi)容引用自美國(guó)白宮科技政策辦公室，BlueprintforanAIBillofRights的框架簡(jiǎn)介。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探23信息來(lái)源：畢馬威根據(jù)《人工智能風(fēng)險(xiǎn)管理框架》翻譯整理。第二部分包括《風(fēng)險(xiǎn)框架》的“核心”。它描述了四項(xiàng)具體職能（圖15以幫助組織在實(shí)踐中應(yīng)對(duì)人工智能系統(tǒng)的風(fēng)險(xiǎn)，即治理細(xì)分了四個(gè)職能的類別和子類別。其中，治理適用于組織人工智能風(fēng)險(xiǎn)管理流程和程序的所有階段，映射、測(cè)量與管理功能可以應(yīng)用于人工智能系統(tǒng)特定的環(huán)境和人工智能生命周期的特定階段。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探24信息來(lái)源：畢馬威根據(jù)《人工智能風(fēng)險(xiǎn)管理框架》翻譯整理。《關(guān)于安全、可靠和值得信賴的人工智能的2023年10月30日，美國(guó)白宮發(fā)布拜登簽最新行政命令《關(guān)于安全、可靠和值得信賴的人工智能的行政命令》（以下簡(jiǎn)稱“行政命令”呼吁采取“整個(gè)政府”的方法來(lái)建立安全、可靠和值得信賴的人工智能，強(qiáng)調(diào)人工智能開發(fā)和部署的透明度和問(wèn)責(zé)制，并指示聯(lián)邦機(jī)構(gòu)優(yōu)先考慮促進(jìn)經(jīng)濟(jì)增長(zhǎng)和創(chuàng)造就業(yè)機(jī)會(huì)的人工智能技術(shù)，同時(shí)盡量減少對(duì)工人和社區(qū)的潛在負(fù)面影響。《行政命令》遵循政府的《人工智能權(quán)利法案藍(lán)圖》，是一套指導(dǎo)設(shè)計(jì)、使用和部署自動(dòng)化系統(tǒng)以保護(hù)公眾的原則和做法11?！缎姓睢诽岢隽嗣勒乱徊降男袆?dòng)措施與職責(zé)分工進(jìn)行了4.3金融領(lǐng)域的人工智能監(jiān)管與影響截止目前，美國(guó)金融領(lǐng)域的人工智能監(jiān)管規(guī)則較少，具有強(qiáng)制性遵循意義的兩份要求來(lái)自于美國(guó)消費(fèi)者金融保護(hù)局（CFPB）發(fā)布的《關(guān)于復(fù)雜算法不當(dāng)行動(dòng)要求的通知》與《貸款人使用人工智能拒絕信貸的指南》，旨在聚焦具體應(yīng)用場(chǎng)景，保護(hù)金融消費(fèi)者公平，避免算法與人工智能技術(shù)帶來(lái)的系統(tǒng)性貨交易委員會(huì)（CFTC）等金融監(jiān)管機(jī)構(gòu)發(fā)布11部分內(nèi)容引用自畢馬威美國(guó)發(fā)布的監(jiān)管要求報(bào)告，AIRegulations:Present&Future,Apr.2024。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探25的文件主要形式為征求意見(jiàn)（RequestforComment,RFC）、擬議規(guī)則預(yù)先通知研究報(bào)告等，主題涉及商業(yè)監(jiān)控與數(shù)據(jù)安全，人工智能運(yùn)用于鑒證與信托，自動(dòng)化估值模型，使用預(yù)測(cè)數(shù)據(jù)分析的利益沖突等，相關(guān)內(nèi)容尚處于公眾探討與意見(jiàn)征詢階段，對(duì)金融機(jī)構(gòu)不具備約束力，但預(yù)期將在未來(lái)陸續(xù)?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探26數(shù)據(jù)來(lái)源：畢馬威根據(jù)《關(guān)于安全、可靠和值得信賴的人工智能的行政命令》翻譯整?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探27中國(guó)較早就啟動(dòng)了人工智能相關(guān)的規(guī)劃與治理活動(dòng)（圖17）。2017年7月國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》（以下簡(jiǎn)稱“規(guī)劃”并在第五部分“保障措施”中，作出了制定促進(jìn)人工智能發(fā)展的法律法規(guī)和倫理規(guī)范，完善支持人工智能發(fā)展的重點(diǎn)政策，建立人工智能技術(shù)標(biāo)準(zhǔn)和知識(shí)產(chǎn)權(quán)體系，建立人工智能安全監(jiān)管和評(píng)估體系等整體部署，并明確由國(guó)家科技體制改革和創(chuàng)新體系建設(shè)領(lǐng)導(dǎo)小組牽頭統(tǒng)籌協(xié)調(diào)，推動(dòng)人工智能相關(guān)法律法規(guī)建設(shè)。承接規(guī)劃部署，為促進(jìn)新一代人工智能健康發(fā)展，加強(qiáng)人工智能法律、倫理、社會(huì)問(wèn)題研究，積極推動(dòng)人工智能全球治理，新一代人工智能發(fā)展規(guī)劃推進(jìn)辦公室成立了國(guó)家新一代人工智能治理專業(yè)任的人工智能》與《新一代人工智能倫理規(guī)范》，明確了中國(guó)人工智能治理原則與倫理規(guī)范。中國(guó)亦積極參與國(guó)際人工智能治理，于2023年發(fā)布了《全球人工智能治理倡議》，并在2024年7月召開的2024世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議上，發(fā)布了《人工智能全球治理上海宣言》。整體來(lái)看，目前中國(guó)的人工智能領(lǐng)域具有強(qiáng)制約束力的監(jiān)管文件較少，已出臺(tái)文件主要集中于規(guī)劃藍(lán)圖、治理原則、倫理規(guī)范等軟性約束。但預(yù)計(jì)未來(lái)將有更多人工智能領(lǐng)域的法律法規(guī)和政策文件陸續(xù)出臺(tái)。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探28以下選擇中國(guó)具有標(biāo)志性意義的三份監(jiān)管文2019年6月17日，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》（以下簡(jiǎn)稱“治理原則”》提出了人工智能治理的框架和行動(dòng)指南。這是中國(guó)促進(jìn)新一代人工智能健康發(fā)展，加強(qiáng)人工智能法律、倫理、社會(huì)問(wèn)題研究，積極推動(dòng)人工智能全球治理的一項(xiàng)重要成果12。《治理原則》包含8個(gè)方?和諧友好。人工智能發(fā)展應(yīng)以增進(jìn)人類共同福祉為目標(biāo)；應(yīng)符合人類的價(jià)值觀和倫理道德，促進(jìn)人機(jī)和諧，服務(wù)人類文明進(jìn)步；應(yīng)以保障社會(huì)安全、尊重人類權(quán)益為?公平公正。人工智能發(fā)展應(yīng)促進(jìn)公平公正，保障利益相關(guān)者的權(quán)益，促進(jìn)機(jī)會(huì)均等。通過(guò)持續(xù)提高技術(shù)水平、改善管理方式，在數(shù)據(jù)獲取、算法設(shè)計(jì)、技術(shù)開發(fā)、產(chǎn)品研發(fā)和應(yīng)用過(guò)程中消除偏見(jiàn)和歧視；?包容共享。人工智能應(yīng)促進(jìn)綠色發(fā)展，符合環(huán)境友好、資源節(jié)約的要求；應(yīng)促進(jìn)協(xié)調(diào)發(fā)展，推動(dòng)各行各業(yè)轉(zhuǎn)型升級(jí)，縮小區(qū)域差距；應(yīng)促進(jìn)包容發(fā)展，加強(qiáng)人工智能教育及科普，提升弱勢(shì)群體適應(yīng)性，努力消除數(shù)字鴻溝；應(yīng)促進(jìn)共享發(fā)展，避免數(shù)?尊重隱私。人工智能發(fā)展應(yīng)尊重和保護(hù)個(gè)人隱私，充分保障個(gè)人的知情權(quán)和選擇權(quán)。在個(gè)人信息的收集、存儲(chǔ)、處理、使用等各環(huán)節(jié)應(yīng)設(shè)置邊界，建立規(guī)范。完善個(gè)人數(shù)據(jù)授權(quán)撤銷機(jī)制，反對(duì)任何竊取、篡改、泄露和其他非法收集利用個(gè)人信息的行為；12、部分內(nèi)容引用自人民日?qǐng)?bào)，我國(guó)發(fā)布《治理原則》發(fā)展負(fù)責(zé)任的人工智能，2019年6月18日。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探29?安全可控。人工智能系統(tǒng)應(yīng)不斷提升透明性、可解釋性、可靠性、可控性，逐步實(shí)現(xiàn)可審核、可監(jiān)督、可追溯、可信賴。高度關(guān)注人工智能系統(tǒng)的安全，提高人工智能魯棒性及抗干擾性，形成人工智能安全?共擔(dān)責(zé)任。人工智能研發(fā)者、使用者及其他相關(guān)方應(yīng)具有高度的社會(huì)責(zé)任感和自律意識(shí)，嚴(yán)格遵守法律法規(guī)、倫理道德和標(biāo)準(zhǔn)規(guī)范。建立人工智能問(wèn)責(zé)機(jī)制，明確研發(fā)者、使用者和受用者等的責(zé)任。人工智能應(yīng)用過(guò)程中應(yīng)確保人類知情權(quán)，告知可能產(chǎn)生的風(fēng)險(xiǎn)和影響。防范利用人工智能?開放協(xié)作。鼓勵(lì)跨學(xué)科、跨領(lǐng)域、跨地區(qū)、跨國(guó)界的交流合作，推動(dòng)國(guó)際組織、政府部門、科研機(jī)構(gòu)、教育機(jī)構(gòu)、企業(yè)、社會(huì)組織、公眾在人工智能發(fā)展與治理中的協(xié)調(diào)互動(dòng)。開展國(guó)際對(duì)話與合作，在充分尊重各國(guó)人工智能治理原則和實(shí)踐的前提下，推動(dòng)形成具有廣泛共識(shí)的國(guó)際人工智能治?敏捷治理。尊重人工智能發(fā)展規(guī)律，在推動(dòng)人工智能創(chuàng)新發(fā)展、有序發(fā)展的同時(shí)，及時(shí)發(fā)現(xiàn)和解決可能引發(fā)的風(fēng)險(xiǎn)。不斷提升智能化技術(shù)手段，優(yōu)化管理機(jī)制，完善治理體系，推動(dòng)治理原則貫穿人工智能產(chǎn)品和服務(wù)的全生命周期。對(duì)未來(lái)更高級(jí)人工智能的潛在風(fēng)險(xiǎn)持續(xù)開展研究和預(yù)判，確保人工智能始終朝著有利于社會(huì)的方向《新一代人工智能倫理規(guī)范》（2021年9月）2021年9月25日，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布了《新一代人工智能倫理規(guī)德融入人工智能全生命周期，為從事人工智能相關(guān)活動(dòng)的自然人、法人和其他相關(guān)機(jī)構(gòu)等提供倫理指引13?！秱惱硪?guī)范》提出了6項(xiàng)基本倫理要求，以及人工智能管理、研發(fā)、供應(yīng)、使用等特定活動(dòng)的18項(xiàng)具體倫理要求。信息來(lái)源：畢馬威根據(jù)《新一代人工智能倫理規(guī)范》整理。信息來(lái)源：畢馬威根據(jù)《新一代人工智能倫理規(guī)范》整理。13、引用自科學(xué)技術(shù)部官方網(wǎng)站，《新一代人工智能倫理規(guī)范》發(fā)布，2021年9月26日。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探30?增進(jìn)人類福祉。堅(jiān)持以人為本，遵循人類共同價(jià)值觀，尊重人權(quán)和人類根本利益訴求，遵守國(guó)家或地區(qū)倫理道德。堅(jiān)持公共利益優(yōu)先，促進(jìn)人機(jī)和諧友好，改善民生，增強(qiáng)獲得感幸福感，推動(dòng)經(jīng)濟(jì)、社會(huì)及生?促進(jìn)公平公正。堅(jiān)持普惠性和包容性，切實(shí)保護(hù)各相關(guān)主體合法權(quán)益，推動(dòng)全社會(huì)公平共享人工智能帶來(lái)的益處，促進(jìn)社會(huì)公平正義和機(jī)會(huì)均等。在提供人工智能產(chǎn)品和服務(wù)時(shí)，應(yīng)充分尊重和幫助弱勢(shì)群體、特殊群體，并根據(jù)需要提供相應(yīng)替代方案；?保護(hù)隱私安全。充分尊重個(gè)人信息知情、同意等權(quán)利，依照合法、正當(dāng)、必要和誠(chéng)信原則處理個(gè)人信息，保障個(gè)人隱私與數(shù)據(jù)安全，不得損害個(gè)人合法數(shù)據(jù)權(quán)益，不得以竊取、篡改、泄露等方式非法收集利?確?？煽乜尚?。保障人類擁有充分自主決策權(quán)，有權(quán)選擇是否接受人工智能提供的服務(wù)，有權(quán)隨時(shí)退出與人工智能的交互，有權(quán)隨時(shí)中止人工智能系統(tǒng)的運(yùn)行，確保?強(qiáng)化責(zé)任擔(dān)當(dāng)。堅(jiān)持人類是最終責(zé)任主體，明確利益相關(guān)者的責(zé)任，全面增強(qiáng)責(zé)任意識(shí)，在人工智能全生命周期各環(huán)節(jié)自省自律，建立人工智能問(wèn)責(zé)機(jī)制，不回避責(zé)任?提升倫理素養(yǎng)。積極學(xué)習(xí)和普及人工智能倫理知識(shí)，客觀認(rèn)識(shí)倫理問(wèn)題，不低估不夸大倫理風(fēng)險(xiǎn)。主動(dòng)開展或參與人工智能倫理問(wèn)題討論，深入推動(dòng)人工智能倫理治18項(xiàng)人工智能管理、研發(fā)、供應(yīng)、使用等特信息來(lái)源：畢馬威根據(jù)《新一代人工智能倫理規(guī)范》整理。?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探31室發(fā)布《全球人工智能治理倡議》（以下簡(jiǎn)稱“倡議”圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國(guó)方案?！冻h》提出，各國(guó)應(yīng)秉持共同、綜合、合作、可持續(xù)的安全觀，堅(jiān)持發(fā)展和安全并重的原則，通過(guò)對(duì)話與合作凝聚共識(shí)，構(gòu)建開放、公正、有效的治理機(jī)制，促進(jìn)人工智能技術(shù)造福于人類，推動(dòng)構(gòu)建人類命運(yùn)共同體。各國(guó)應(yīng)在人工智能治理中加強(qiáng)信息交流和技術(shù)合作，共同做好風(fēng)險(xiǎn)防范，形成具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，不斷提升人工智能技術(shù)的安全性、可靠性、?發(fā)展人工智能應(yīng)堅(jiān)持“以人為本”理念，以增進(jìn)人類共同福祉為目標(biāo)，以保障社會(huì)安全、尊重人類權(quán)益為前提，確保人工智能始終朝著有利于人類文明進(jìn)步的方向發(fā)展。積極支持以人工智能助力可持續(xù)發(fā)展，應(yīng)對(duì)氣候變化、生物多樣性保護(hù)等全球性?面向他國(guó)提供人工智能產(chǎn)品和服務(wù)時(shí)，應(yīng)尊重他國(guó)主權(quán)，嚴(yán)格遵守他國(guó)法律，接受他國(guó)法律管轄。反對(duì)利用人工智能技術(shù)優(yōu)勢(shì)操縱輿論、傳播虛假信息，干涉他國(guó)內(nèi)政、社會(huì)制度及社會(huì)秩序，危害他國(guó)主權(quán)；?發(fā)展人工智能應(yīng)堅(jiān)持“智能向善”的宗旨，遵守適用的國(guó)際法，符合和平、發(fā)展、公平、正義、民主、自由的全人類共同價(jià)值，共同防范和打擊恐怖主義、極端勢(shì)力和跨國(guó)有組織犯罪集團(tuán)對(duì)人工智能技術(shù)的惡用濫用。各國(guó)尤其是大國(guó)對(duì)在軍事領(lǐng)域研發(fā)和使用人工智能技術(shù)應(yīng)該采取慎重負(fù)責(zé)的?發(fā)展人工智能應(yīng)堅(jiān)持相互尊重、平等互利的原則，各國(guó)無(wú)論大小、強(qiáng)弱，無(wú)論社會(huì)制度如何，都有平等發(fā)展和利用人工智能的權(quán)利。鼓勵(lì)全球共同推動(dòng)人工智能健康發(fā)展，共享人工智能知識(shí)成果，開源人工智能技術(shù)。反對(duì)以意識(shí)形態(tài)劃線或構(gòu)建排他性集團(tuán)，惡意阻撓他國(guó)人工智能發(fā)展。反對(duì)利用技術(shù)壟斷和單邊強(qiáng)制措施制造發(fā)?推動(dòng)建立風(fēng)險(xiǎn)等級(jí)測(cè)試評(píng)估體系，實(shí)施敏捷治理，分類分級(jí)管理，快速有效響應(yīng)。研發(fā)主體不斷提高人工智能可解釋性和可預(yù)測(cè)性，提升數(shù)據(jù)真實(shí)性和準(zhǔn)確性，確保人工智能始終處于人類控制之下，打造可審核、可監(jiān)督、可追溯、可信賴的人工智?逐步建立健全法律和規(guī)章制度，保障人工智能研發(fā)和應(yīng)用中的個(gè)人隱私與數(shù)據(jù)安全，反對(duì)竊取、篡改、泄露和其他非法收集利?堅(jiān)持公平性和非歧視性原則，避免在數(shù)據(jù)獲取、算法設(shè)計(jì)、技術(shù)開發(fā)、產(chǎn)品研發(fā)與應(yīng)用過(guò)程中，產(chǎn)生針對(duì)不同或特定民族、?堅(jiān)持倫理先行，建立并完善人工智能倫理準(zhǔn)則、規(guī)范及問(wèn)責(zé)機(jī)制，形成人工智能倫理指南，建立科技倫理審查和監(jiān)管制度，明確人工智能相關(guān)主體的責(zé)任和權(quán)力邊界，充分尊重并保障各群體合法權(quán)益，及時(shí)回?2024畢馬威華振會(huì)計(jì)師事務(wù)所(特殊普通合伙)—中國(guó)合伙制會(huì)計(jì)師事務(wù)所，是與畢馬威國(guó)際有限公司(英國(guó)私營(yíng)擔(dān)保有限公司)相關(guān)聯(lián)的獨(dú)立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國(guó)際金融監(jiān)管初探