人工智能（AI）國際金融監(jiān)管初探

人工智能（AI）國際金融監(jiān)管初探1隨著經(jīng)濟社會的發(fā)展與科學(xué)技術(shù)的進步，人工智能已經(jīng)被廣泛應(yīng)用于工作生活的各個領(lǐng)域。各國紛紛將人工智能納入國家戰(zhàn)略，期待其為經(jīng)濟發(fā)展提供新的增長點與動能。特別是2022年Chat-GPT的問世，向世界展現(xiàn)了人工智能巨大的發(fā)展?jié)摿εc應(yīng)用前景。但同時，人工智能技術(shù)也可能帶來系統(tǒng)性歧視、對數(shù)據(jù)和隱私權(quán)的侵犯以及信息繭房等問題。為推動技術(shù)以人為本，有效應(yīng)對潛在風(fēng)險，各國開始立足于自身的技術(shù)優(yōu)勢與資源稟賦，采用不同的人工智能治理與監(jiān)管路徑。在吸收國際組織研究成果的基礎(chǔ)上，歐盟率先推出人工智能倫理規(guī)范、法案與框架公約等，利用治理格局優(yōu)勢地位積極推動國際監(jiān)管，并借助歐盟統(tǒng)一市場的力量，通過產(chǎn)業(yè)鏈向全球施加影響。英國采取了比較靈活的監(jiān)管路徑，并利用地緣優(yōu)勢與脫歐后的自由技公司并促進產(chǎn)業(yè)轉(zhuǎn)化。以美國、中國、新加坡為代表的具有人工智能技術(shù)優(yōu)勢的國家，則在國家規(guī)劃的整體引領(lǐng)下布局促進技術(shù)發(fā)展與產(chǎn)業(yè)培植，兼顧發(fā)展中可能產(chǎn)生的風(fēng)險本文立足于全景掃描，在收集研讀人工智能相關(guān)文獻的基礎(chǔ)上，對國際組織、歐盟、英國、美國、中國等具有代表性主體的監(jiān)管體系進行了分析，并對具有里程碑意義的文件及內(nèi)容要點進行了整理與解讀。同時，我們亦結(jié)合各國家/地區(qū)金融領(lǐng)域的人工智能監(jiān)管動態(tài)進行了總結(jié)、分析與展望，并對金融機構(gòu)人工智能技術(shù)應(yīng)用提出了合規(guī)行動建議。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。 ?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探3根據(jù)畢馬威收集的全球人工智能監(jiān)管相關(guān)文獻分析，國際上人工智能立法較為活躍的國家與地區(qū)有歐盟、美國、英國、中國、新加坡以及香港等。從已發(fā)布的文件來看，各區(qū)風(fēng)險為導(dǎo)向的原則來實施或推進人工智能的監(jiān)管，具有強制約束力的監(jiān)管規(guī)則較少，僅占18%（且一半為美國州級的立法多數(shù)采取了原則、倫理、指南、討論文件及報告等更為軟性的形式（圖1）。從各區(qū)域/國家的人工智能立法特點來看，國際組織積極推出人工智能原則、倫理規(guī)范，并通過宣言、倡議、聯(lián)合聲明等方式推動全球整體的人工智能治理與倫理約束。歐盟的人工智能監(jiān)管體系更為完整，全面覆蓋規(guī)劃、原則、倫理、框架、指引、監(jiān)管規(guī)則等各種類型；歐盟同時積極參與國際社會人工智能監(jiān)管規(guī)則的制定，其推出的《歐盟人工智能法案》為全球首部人工智能領(lǐng)域的全面監(jiān)管法規(guī)，《人工智能與人權(quán)、民主和法治框架公約》為全球首個關(guān)于負責(zé)任地使用人工智能的具有法律約束力的國際條約，具有較強英國的人工智能監(jiān)管體系非常有特點，它整體采用了一種政府引領(lǐng)，以部門為主導(dǎo)、有利于創(chuàng)新的做法來實施監(jiān)管。它采用了相對軟性的方式，不主張倉促立法與推出強制規(guī)范，文件多以軟性的規(guī)劃、框架、指南等形式頒布，同時英國監(jiān)管機構(gòu)還實施了大量研究并與社會各界人士廣泛探討，以保持對人工智能實踐與風(fēng)險的敏銳度。美國的人工智能監(jiān)管立法具有州領(lǐng)跑聯(lián)邦政府的特點，一批州級的法律規(guī)范已率先落地，聯(lián)邦部門的立法在政府執(zhí)行令的統(tǒng)一引導(dǎo)下逐步推進，但尚未正式推出具有強制遵循意 u監(jiān)管規(guī)則/立法u藍圖/規(guī)劃u原則/倫理道德u治理/風(fēng)險框架u指南u討論文件及其他?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探4中國較早就開始實施人工智能規(guī)劃及治理活動，雖然已出臺的文件數(shù)量不多，但種類較為豐富，已涵蓋發(fā)展規(guī)劃、監(jiān)管規(guī)則、治理原則、倫理規(guī)范、倡議與宣言等。同時，中國也積極參與國際社會的人工智能監(jiān)管治理，推動人工智能產(chǎn)業(yè)發(fā)展并構(gòu)建自身的國際影從金融領(lǐng)域來看，目前金融監(jiān)管機構(gòu)對于人工智能監(jiān)管的整體立法并不十分活躍，各區(qū)域/國家金融監(jiān)管部門主要根據(jù)整體性的人工智能監(jiān)管政策與要求，在各自的職能領(lǐng)域針對人工智能應(yīng)用進行規(guī)范。但隨著上位法及人工智能專門法規(guī)的陸續(xù)出臺，相關(guān)金融監(jiān)管機構(gòu)亦在醞釀人工智能領(lǐng)域的金融監(jiān)管要以下我們將選擇國際組織、歐盟、英國、美國等四個人工智能監(jiān)管領(lǐng)域具有代表性與領(lǐng)先意義的主體開展分析。我們亦對中國人工智能監(jiān)管的進展與動態(tài)進行了總結(jié)，后續(xù)將單獨撰寫與國際實踐比較分析的專題文章。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探5國際組織較早就開始了關(guān)于人工智能的探討，從其目前已發(fā)布的文件看，均為不具有強制約束力的原則、倫理建議、倡議宣言等，旨在推動相關(guān)方以人為本，以負責(zé)任的方式設(shè)計、開發(fā)和應(yīng)用人工智能。相關(guān)內(nèi)容為不同地區(qū)、國家的人工智能立法提供了有力的支持與豐富的借鑒，包括標(biāo)準(zhǔn)定義、原則導(dǎo)向、倫理規(guī)范、工具方法等。2019年，世界經(jīng)濟合作組織（OECD）與二十國集團（G20）先后推出了《人工智能原則》，但原則并不具有約束力。2021年合國教科文組織（UNESCO）發(fā)布《人工智能倫理問題建議書》，對人工智能涉及的倫理問題進行了深入探討，并提供了評估工具領(lǐng)導(dǎo)人發(fā)布《就廣島人工智能進程的聯(lián)合聲明》，并配套推出了指導(dǎo)原則與行為準(zhǔn)則。是全球第一份針對人工智能這一快速新興技術(shù)的國際性聲明（圖2）。以下選擇三份重要的國際組織人工智能監(jiān)管在全球?qū)用?，從國際組織發(fā)布的人工智能相關(guān)文件來看，較為重要且被廣泛引用的兩份文件是世界經(jīng)濟合作組織（OECD）于2019年5月發(fā)布的《人工智能原則》（首個人工智鑒了前者的提議1（圖3）。在后續(xù)各地區(qū)、1部分內(nèi)容引用自FSIInsightonpolicyimplementationNo35,HumanskeepingAIincheck-emergingregulatoryexpectationsinthefinancialsector。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探6于人工智能的標(biāo)準(zhǔn)定義、原則等，均吸收利用了兩份文件的成果?！度斯ぶ悄軅惱韱栴}建議書》（2021年11月）采納了一套關(guān)于人工智能倫理的建議《人工智能倫理問題建議書》（以下簡稱建議書人工智能倫理標(biāo)準(zhǔn)。它建議會員國在自愿基礎(chǔ)上適用建議書的各項規(guī)定，特別是根據(jù)各自國家的憲法實踐和治理結(jié)構(gòu)采取適當(dāng)步驟，包括必要的立法或其他措施，依照包括國際人權(quán)法在內(nèi)的國際法，使建議書的原則和規(guī)范在本國管轄范圍內(nèi)生效2。《建議書》詳細 討論了其目標(biāo)、價值觀、原則以及政策領(lǐng)域methodology）與倫理影響評估（ethical準(zhǔn)備狀態(tài)評估工具（RAM）包括一系列定量和定性問題，旨在收集與一個國家的人工智能生態(tài)系統(tǒng)相關(guān)的不同方面的信息，包括法律和監(jiān)管、社會和文化、經(jīng)濟、科學(xué)和教育以及技術(shù)和基礎(chǔ)設(shè)施方面。其中每個維度都有一系列定量和定性評估問題，使RAM有別于其他現(xiàn)有的準(zhǔn)備狀態(tài)評估工具。其問題設(shè)置主要覆蓋六大維度，包括通用維度、法律維度及其8個細分維度、社會與文化維度及其5個細分維度、科學(xué)與教育維度及其10個細分維度、經(jīng)濟維度及其3個細分維度，以及技術(shù)與基礎(chǔ)設(shè)施維度及其4個細分維度。其中法律2部分內(nèi)容引用自UNESCO，《人工智能倫理問題建議書》中文版。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探7維度包含人工智能政策與監(jiān)管細分維度（圖），示以供參考。倫理影響評估工具（EIA）考慮了設(shè)計、開發(fā)和部署人工智能系統(tǒng)的整個過程，包含一系列問題以及評估表格等，可以用于人工智能系統(tǒng)向公眾發(fā)布之前和之后對其風(fēng)險及影響進行評估。倫理影響評估工具最初設(shè)計目的是幫助參與人工智能系統(tǒng)采購的公共部門官員，為他們提供一系列問題，以確保他們購買的人工智能系統(tǒng)符合《建議書》中規(guī)定的倫理標(biāo)準(zhǔn)。然而，它也可以被開發(fā)人員或私營部門和其他地方的其他人使用，以促進人工智能系統(tǒng)符合道德的設(shè)計、開發(fā)和部署。信息來源：畢馬威自根據(jù)UNESCO《人工智?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探8信息來源：畢馬威自根據(jù)UNESCO《人工智《七國集團領(lǐng)導(dǎo)人就廣島人工智能進程的聯(lián)“廣島人工智能進程”發(fā)表聯(lián)合聲明，強調(diào)要開發(fā)先進的人工智能系統(tǒng)，充分利用生成式人工智能帶來的機遇和潛力，打造以人類為中心的包容的人工智能治理框架?；诼?lián)合聲明，七國集團領(lǐng)導(dǎo)人當(dāng)日還發(fā)布了《廣島進程先進人工智能系統(tǒng)開發(fā)組織國際指導(dǎo)原則》和《廣島進程先進人工智能系統(tǒng)開發(fā)組織國際行為準(zhǔn)則》3。文件提出了11項與風(fēng)?在先進人工智能系統(tǒng)的整個開發(fā)過程中，包括在部署和投放市場之前，采取適當(dāng)?shù)拇胧?，以識別、評估和減輕整個人工智能?在部署及投放市場后，識別和減輕漏洞，3內(nèi)容引用自中國國際科技交流中心，科技動態(tài)|七國集團領(lǐng)導(dǎo)人就“廣島人工智能進程”發(fā)表聯(lián)合聲明。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探9?公開報告先進人工智能系統(tǒng)的能力、局限性、適當(dāng)和不適當(dāng)使用的領(lǐng)域，以支持確保足夠的透明度，從而有助于加強問責(zé)制；?致力于在開發(fā)先進人工智能系統(tǒng)的組織之間，包括與行業(yè)、政府、民間社會和學(xué)術(shù)?制定、實施和披露基于風(fēng)險的人工智能治理和風(fēng)險管理政策，包括隱私政策和緩解措施，特別是針對開發(fā)先進人工智能系統(tǒng)?投資并實施強有力的安全控制，包括整個人工智能生命周期的物理安全、網(wǎng)絡(luò)安全?在技術(shù)可行的情況下，開發(fā)和部署可靠的內(nèi)容認證和來源機制，如水印或其他技術(shù)，?優(yōu)先考慮研究以減輕社會、安全和保障風(fēng)?優(yōu)先發(fā)展先進的人工智能系統(tǒng)，以應(yīng)對世界上最大的挑戰(zhàn)，特別是但不限于氣候危?推動制定并酌情采用國際技術(shù)標(biāo)準(zhǔn)；?實施適當(dāng)?shù)臄?shù)據(jù)輸入措施，保護個人數(shù)據(jù)從金融領(lǐng)域來看，國際清算銀行（BIS）、國際證券事務(wù)監(jiān)察委員會組織（IOSCO）等國際組織一直在積極推進金融領(lǐng)域人工智能相關(guān)的研究，自2021年起陸續(xù)發(fā)布金融領(lǐng)域的人工智能研究報告，研究主題覆蓋市場中介機構(gòu)和資產(chǎn)管理公司對人工智能和機器學(xué)習(xí)的應(yīng)用，人工智能在中央銀行的應(yīng)用，中央銀行的生成式人工智能與網(wǎng)絡(luò)安全，人工智能如何重塑金融業(yè)等，其研究內(nèi)容主要聚焦于人工智能在金融業(yè)的運用現(xiàn)狀，機會與挑戰(zhàn)，以及蘊含風(fēng)險的探討，并未推出具有遵循意義或操作指導(dǎo)的治理原則、風(fēng)險框架、指引等規(guī)范。國際清算銀行金融穩(wěn)定研究所（BIS-FSI）的研究報告也提出，建議區(qū)分面框架與措施。展望未來，隨著人工智能技術(shù)的持續(xù)發(fā)展與金融領(lǐng)域應(yīng)用場景的不斷擴大，預(yù)計未來將有更多國際組織積極作為，促進金融領(lǐng)域人工智能監(jiān)管或引導(dǎo)規(guī)范的出臺。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探10應(yīng)用的監(jiān)管體系構(gòu)建，其以歐洲整體層面為視角，致力于構(gòu)建協(xié)調(diào)一致、適合歐洲發(fā)展的人工智能治理體系。歐盟監(jiān)管的政策重點是，以基本人權(quán)為底層邏輯，側(cè)重于保障個人權(quán)利。以數(shù)據(jù)安全為陣地延伸，通過人工智能使用數(shù)據(jù)與數(shù)據(jù)應(yīng)用場景劃分其風(fēng)險等監(jiān)管機制是采取分級監(jiān)管、多種監(jiān)管，并實行高額的行政處罰，且將公私機構(gòu)一起納入監(jiān)管范圍4。從國際競爭的視角來看，歐盟一方面利用自身國際影響力，積極擬定并輸出倫理指南、全面監(jiān)管法案、國際公約等，發(fā)揮制度優(yōu)勢影響國際層面的人工智能治理與監(jiān)管。另一方面以歐盟統(tǒng)一市場為基礎(chǔ)，延的文件雖然數(shù)量不多，但其內(nèi)容全面覆蓋規(guī)指引指南等類型。每份文件正式出臺前，均經(jīng)歷了多輪的草擬議案、意見征詢、討論反饋與修訂等（圖6）。以下選擇三份歐盟人工智能領(lǐng)域監(jiān)管具有里程碑意義的文件進行重點分析?！吨档眯刨嚨娜斯ぶ悄軅惱碇改稀罚?019年得信賴的人工智能框架年4月8日，歐盟委員會下設(shè)的人工智能高級別專家組正式發(fā)布了《值得信賴的人工智能倫理指南》，提出了實現(xiàn)值得信賴的人工智能全生命周期框架（圖7）。值得信賴的人工智能包含三要素，符合法律4部分內(nèi)容引用自《人工智能監(jiān)管制度概覽》，國家社會科學(xué)基金重點項目“人工智能研發(fā)與應(yīng)用風(fēng)險治理的財稅法協(xié)同機制研究”（立項編號：21AFX021）的階段性成果，來源人民法院報。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探11數(shù)據(jù)來源：畢馬威根據(jù)《值得信賴的人工智能倫理指南》翻譯整理。具有穩(wěn)健性的（robust）。開發(fā)、部署和應(yīng)用人工智能需符合四項倫理原則，包括：尊autonomy）、預(yù)防傷害（preventionofharm）、公平（fairness）和具有可解釋性（explicability）。為達成提出了七項關(guān)鍵要求，包括：人的能動性與術(shù)穩(wěn)健性與安全性（technicalrobustnessandsafety隱私與數(shù)據(jù)治理（privacy（transparency多樣性、非歧視性與公平性（diversity,non-discriminationand《歐盟人工智能法案》出臺經(jīng)歷了漫長的醞釀過程，除歐盟內(nèi)部的立法程序與反復(fù)商討外，還曾多次遭遇空客、西門子等大型企業(yè)，以及谷歌、微軟、OpenAI等科技巨頭的公開一項《旨在協(xié)調(diào)人工智能規(guī)則的法規(guī)提案》。談判授權(quán)草案。12月，歐洲議會、歐洲理事會和歐盟委員會達成臨時協(xié)議，將把《人工?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探12歐洲理事會正式批準(zhǔn)歐盟《人工智能法案》（以下簡稱“法案”這是第一個具有約束力的全球人工智能橫向監(jiān)管法規(guī)，為歐盟人工智能系統(tǒng)的使用和供應(yīng)設(shè)定了一個共同《法案》是一份全面的文件，它旨在提供人工智能的明確定義，使歐盟范圍內(nèi)關(guān)于人工智能的法律法規(guī)與其他歐盟法律法規(guī)保持一致?！斗ò浮返闹饕繕?biāo)是建立一個統(tǒng)一和橫向的法律框架，促進人工智能系統(tǒng)的使用，從主要內(nèi)容來看，《法案》共13章，包括總則，禁止的人工智能實踐，高風(fēng)險人工智能系統(tǒng)，特定人工智能系統(tǒng)的供應(yīng)者與使用者需遵循的透明度義務(wù)，通用人工智能模型，能數(shù)據(jù)庫，上市后監(jiān)測、信息共享與市場監(jiān)督，行為準(zhǔn)則與指引，授權(quán)與委員會程序，處罰，以及最后條款?！斗ò浮返闹攸c是保護安全和基本權(quán)利，它根據(jù)“基于風(fēng)險的方法”，為不同的人工智能應(yīng)用系統(tǒng)風(fēng)險水平，引入了分級的監(jiān)管要求系統(tǒng)（圖8）。一些存在“不可接受”風(fēng)險的人工智能系統(tǒng)被禁止。一些可能對人們的健康、安全或基本權(quán)利產(chǎn)生不利影響的“高風(fēng)險”人工智能系統(tǒng)得到授權(quán)后可以使用，但需要遵守一系列進入歐盟市場的要求和義務(wù)。由于缺乏透明度而造成“有限風(fēng)險“的人工智能系統(tǒng)將受到信息和透明度要求的約束，而存在“最小風(fēng)險”的人工智能將不受進一步義務(wù)的約束。此外，《法案》還為通用人工智能（GPAI）模型提供了具體規(guī)則，考慮到具有“高影響能力”的通用人工智能模型可能會構(gòu)成系統(tǒng)性風(fēng)險并對內(nèi)部市場產(chǎn)生重大影響，《法案》還對其提出了更嚴(yán)格的要求。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探13從適用范圍來看，《法案》為整個人工智能產(chǎn)業(yè)鏈上的相關(guān)方提供了一個合規(guī)義務(wù)框架，旨在約束與歐盟市場有連接點的所有主體，（importers）、分銷商（distributors）、從《法案》生效時間與處罰后果來看，法案中規(guī)定禁止的做法將在生效6個月后適用；通用型人工智能（GPAI）的相關(guān)義務(wù)和規(guī)則將在生效12個月后適用；法案生效24個月后，該法案完全適用，但一些高風(fēng)險AI系統(tǒng)的規(guī)則將在生效后36個月適用。不遵守法案的后果可能包括限制市場準(zhǔn)入和根據(jù)違法程度處以巨額罰款。罰款可能從750萬歐元或全球營業(yè)額的1%，到3,500萬歐元或全球營業(yè)額的7%不等，具體取決于人工智能系統(tǒng)的類型、公司的規(guī)模和違法行為的嚴(yán)重程度。《人工智能與人權(quán)、民主和法治框架公約》有法律約束力的國際條約《人工智能與人權(quán)、民主和法治框架公約》的起草工作于2019年啟動，當(dāng)時人工智能特設(shè)委員會（CAHAI）的任務(wù)是審查這種工具的可行性。在其授權(quán)之后，人工智能委員會2024年5月18日，歐洲理事會在斯特拉斯堡正式通過了具有歷史意義的《人工智能與人權(quán)、民主和法治框架公約》（以下簡稱“框架公約”這標(biāo)志著全球首個關(guān)于負責(zé)任地使用人工智能的具有法律約束力的國際條約正式誕生。它旨在確保人工智能系統(tǒng)生命同時有利于技術(shù)進步和創(chuàng)新。《框架公約》總則、總體義務(wù)、與人工智能系統(tǒng)生命周期內(nèi)的活動相關(guān)的原則、補救措施、風(fēng)險和不利影響的評估和緩釋、公約的執(zhí)行、后續(xù)機從各國需履行的《框架公約》責(zé)任來看，主?人的尊嚴(yán)和個人自主（Humandignity）；）；?尊重隱私和個人數(shù)據(jù)保護（Respectfor?問責(zé)制和負責(zé)任（Accountabilityand）；補救措施、程序性權(quán)利和保障措施?記錄有關(guān)人工智能系統(tǒng)及其使用的相關(guān)信?信息必須足以使相關(guān)人員質(zhì)疑通過使用該系統(tǒng)或在很大程度上基于該系統(tǒng)做出的決?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探14?有效保障向主管當(dāng)局提出申訴的可能性；?在人工智能系統(tǒng)對人權(quán)和基本自由的享受產(chǎn)生重大影響的情況下，就人工智能系統(tǒng)的應(yīng)用向受影響的人提供有效的程序保障、?提供通知，說明一個人正在與人工智能系風(fēng)險與影響的管理要求?以持續(xù)迭代（iterative）的方式，對人權(quán)、民主和法治的實際和潛在影響進行風(fēng)險和?通過實施這些評估，制定充分的預(yù)防和緩?保留當(dāng)局對人工智能系統(tǒng)的某些應(yīng)用實施禁令或暫停的可能性（“紅線”）。從《框架公約》的適用范圍和約束效力來看，涵蓋公共當(dāng)局（publicauthorities亦包括代表其行事的私立行為者，以及私營部門及個體（privateactors）對人工智能系統(tǒng)的使用?！犊蚣芄s》為締約方在管理私營部門時遵守其原則和義務(wù)提供了兩種方式：締約方可以選擇直接受《框架公約》相關(guān)條款的約束，或者作為一種選擇，采取其他措施遵守條約的規(guī)定，同時充分尊重其在人權(quán)、民主和法治方面的國際義務(wù)。此外，《框架公約》締約方不必將條約的規(guī)定適用于與保護其國家安全利益有關(guān)的活動，但必須確保這些活動尊重國際法和民主體制和進程?！犊蚣芄s》不適用于國防事務(wù)，也不適用于研發(fā)活動，除非人工智能系統(tǒng)的測試可能2.3金融領(lǐng)域的人工智能監(jiān)管與影響工智能監(jiān)管政策與要求來看，歐洲銀行管理局、歐洲保險與職業(yè)養(yǎng)老金局等已發(fā)布的監(jiān)管規(guī)則，以及德國、法國、盧森堡、荷蘭等國家發(fā)布的適用于本國的治理框架、總體原則等，基本與歐盟通用人工智能監(jiān)管要求保持一致。此外，歐盟金融監(jiān)管機構(gòu)與各國監(jiān)管機構(gòu)還發(fā)布了多項人工智能相關(guān)的專題研究報告。針對《法案》與《框架公約》后金融領(lǐng)域的人工智能監(jiān)管職責(zé)來說，歐盟國家可以將這項任務(wù)分配給其人工智能監(jiān)管機構(gòu)或現(xiàn)有的國家金融監(jiān)管機構(gòu)。與此同時，作為歐洲重要金融監(jiān)管機構(gòu)，歐洲央行（ECB）在監(jiān)管《法案》的要求方面沒有設(shè)置角色，但將繼續(xù)從審慎的角度審查信貸模型。但隨著《法案》與《框架公約》的生效與實施，預(yù)計未來歐盟及各國也將調(diào)整或細化監(jiān)管政策，進一步明確金融領(lǐng)域人工智能監(jiān)管的職責(zé)分工與監(jiān)管要求。從金融領(lǐng)域的影響來看，依據(jù)《法案》的風(fēng)險分級，部分金融行業(yè)的人工智能應(yīng)用被劃分為高風(fēng)險，例如銀行的人工智能信用評分系統(tǒng)被指定為高風(fēng)險系統(tǒng)，因為這可能會對個人或群體造成不公平歧視。又如保險領(lǐng)域，為健康或人壽保險單定價的人工智能系統(tǒng)也歸類為高風(fēng)險。此類人工智能系統(tǒng)必須滿足高標(biāo)準(zhǔn)的穩(wěn)健性和準(zhǔn)確性，必須在強大的風(fēng)險管理框架內(nèi)運行，并且必須確保人工監(jiān)督和對其輸出信息的正確理解。這些要求將適用于《法案》生效兩年后部署的新系統(tǒng)，為金融機構(gòu)履行合規(guī)義務(wù)保留了窗口期。而依據(jù)《法案》與《框架公約》的強制性要求，金融機構(gòu)應(yīng)用人工智能還需建設(shè)相應(yīng)的治理架構(gòu)、持續(xù)的風(fēng)險評估與管理流程，并配備相應(yīng)的崗位與專家等。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探15英國在人工智能監(jiān)管路徑設(shè)計方面主張平衡創(chuàng)新與發(fā)展5，整體采用了一種政府引領(lǐng)，以部門為主導(dǎo)、有利于創(chuàng)新的做法來實施人工智能監(jiān)管。政府部門、監(jiān)管機構(gòu)與特設(shè)機構(gòu)通過發(fā)布政策白皮書、討論文件、研究簡報、政策反饋、政府應(yīng)答、實施效果評估等方式，持續(xù)通過深入的研究、廣泛的探討與動態(tài)的論證，并充分征詢社會公眾與商業(yè)企業(yè)的信息輸入與反饋意見，促進相關(guān)部門不斷審視并檢討原則與目標(biāo)的實現(xiàn)情況，用較低成本的方式達成整體人工智能治理與監(jiān)管目標(biāo)，并促進公眾的理解與信任。此外，英國高度重視并積極參與國際標(biāo)準(zhǔn)的制定，并將推廣促進有利于英國發(fā)展的國際標(biāo)準(zhǔn)作為降低合規(guī)成本，促進國家競爭力的有效手段。在最新發(fā)布的《科學(xué)技術(shù)框架》，英國將成為國際治理優(yōu)勝者與領(lǐng)導(dǎo)者列入擬于2030年實現(xiàn)的戰(zhàn)略目標(biāo)。從已發(fā)布的人工智能相關(guān)文件來看，英國采用的監(jiān)管方法比較溫和，不主張倉促推出立法與監(jiān)管規(guī)范，文件多以軟性的規(guī)劃、框架、指南等形式頒布。同時，英國對人工智能的發(fā)展變化保持密切關(guān)注，發(fā)布了大量的研究報告、白皮書、討論文件等，并將持續(xù)實施相關(guān)調(diào)研與研究，以保持對風(fēng)險的敏銳感知與及時響應(yīng)（圖9）。以下將對英國四份重要的監(jiān)管政策與文件進在2021年9月發(fā)布的《國家人工智能戰(zhàn)略》（以下簡稱《戰(zhàn)略》）中，英國政府承諾在治理和監(jiān)管人工智能方面采取有利于創(chuàng)新的國家立場，提出了“使英國成為人工智能超5引用自《人工智能監(jiān)管制度概覽》，國家社會科學(xué)基金重點項目“人工智能研發(fā)與應(yīng)用風(fēng)險治理的財稅法協(xié)同機制研究”（立項編號：21AFX021）的階段性成果，來源人民法院報。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探16智能的路徑設(shè)想（圖10）?！稇?zhàn)略》還對后續(xù)人工智能即將采取的十項監(jiān)管舉措進行了《建立有利于創(chuàng)新的人工智能監(jiān)管方法》承接《戰(zhàn)略》中的監(jiān)管舉措部署，英國政府新的人工智能監(jiān)管方法》（以下簡稱《政策文件》）中概述了政府的立場。這份文件闡述了政府關(guān)于實施一個適度的、經(jīng)得起未來考驗的、有利于創(chuàng)新的人工智能監(jiān)管框架的建議。為了促進創(chuàng)新并支持蓬勃發(fā)展的人工?情景化的（Context-specific）：承認人工智能是一種動態(tài)的通用技術(shù)，由此產(chǎn)生的?支持創(chuàng)新和基于風(fēng)險的（Pro-innovationandrisk-based要求監(jiān)管機構(gòu)專注于可能導(dǎo)致真實、可識別、不可接受的風(fēng)險水平的人工智能應(yīng)用，而不是試圖對低風(fēng)險或假設(shè)風(fēng)險的人工智能應(yīng)用實施控制，?連貫的（Coherent）：確保體系簡單、清?適度且適應(yīng)性強的（Proportionateandadaptable要求監(jiān)管機構(gòu)首先考慮更輕針對人工智能技術(shù)的特征，《政策文件》還建議制定一套跨部門原則，由監(jiān)管機構(gòu)將其發(fā)展為特定部門或領(lǐng)域的人工智能監(jiān)管措施。信息來源：畢馬威根據(jù)《國家人工智能戰(zhàn)略》整理?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探17?確保人工智能在技術(shù)上是安全的，并在功?確保人工智能具有適當(dāng)?shù)耐该餍院涂山忉尅度斯ぶ悄鼙O(jiān)管：一種有利于創(chuàng)新的方法》納各方反饋意見與政策影響評估見解，英國正式發(fā)布了《促進創(chuàng)新的人工智能監(jiān)管方法》白皮書（以下簡稱《監(jiān)管方法》總體而言將通過一種基于原則，中央職能持續(xù)監(jiān)測并促進協(xié)作，能夠靈活適應(yīng)的方法來實施監(jiān)管（圖11）。新監(jiān)管框架以五項原則為基礎(chǔ)，以指導(dǎo)和影響人工智能在所有經(jīng)濟部門的負責(zé)任開發(fā)和使用。這些原則將在非法定基礎(chǔ)?安全性、保障性和穩(wěn)健性（Safet）；?適當(dāng)?shù)耐该鞫群涂山忉屝裕ˋppropriate）；數(shù)據(jù)來源：畢馬威根據(jù)《促進創(chuàng)新的人工智能監(jiān)管方法》翻譯整理。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探18監(jiān)管框架圍繞四個關(guān)鍵要素構(gòu)建，旨在增強現(xiàn)有監(jiān)管機構(gòu)的能力，促進整個監(jiān)管格局的?根據(jù)人工智能的獨特特性定義人工智能，?提供一套跨部門原則，指導(dǎo)監(jiān)管機構(gòu)應(yīng)對?提供新的中央職能，支持監(jiān)管機構(gòu)實施人工智能監(jiān)管框架，最大限度地提高迭代方在實施方面，為促進跨部門的橫向協(xié)作，《監(jiān)管方法》確定了一些必要的中央支持職能，以確?？傮w框架對風(fēng)險做出適度但有效?監(jiān)測和評估總體監(jiān)管框架的有效性和原則的實施情況，包括實施在多大程度上支持了創(chuàng)新。這將使英國能夠保持響應(yīng)能力，并在必要時調(diào)整框架，包括在人工智能能力和最新技術(shù)發(fā)展的背景下需要調(diào)整以保?評估和監(jiān)測人工智能在整個經(jīng)濟中產(chǎn)生的?進行全景掃描和差距分析，包括召集行業(yè)一同為應(yīng)對新興人工智能技術(shù)趨勢提供一?支持試驗臺和沙盒計劃，幫助人工智能創(chuàng)?提供教育和意識宣傳，為企業(yè)提供清晰的指引，并賦予公民權(quán)力，讓他們的聲音被?促進與國際監(jiān)管框架的互用性。文件（以下簡稱“框架”它制定了政府到2030年使英國成為科技超級大國的戰(zhàn)略愿景。它將人工智能確定為五大關(guān)鍵技術(shù)之一，并指出監(jiān)管在創(chuàng)造人工智能蓬勃發(fā)展的環(huán)境方面發(fā)揮著重要作用?！犊蚣堋逢U明了監(jiān)管與規(guī)則方面的愿景，即英國始終處于制定技術(shù)標(biāo)準(zhǔn)和制定國際法規(guī)的前沿，并將充分利用脫歐后的自由。監(jiān)管將有利于創(chuàng)新，刺激對科技的需求，吸引投資，同時代表英國的價值觀并保護公民。政府將利用其科學(xué)技術(shù)優(yōu)勢和國際關(guān)系，來確保對法規(guī)和技術(shù)標(biāo)準(zhǔn)的影響力。并希望在?一個有利于創(chuàng)新、易于引導(dǎo)并促進廣泛商業(yè)科學(xué)和技術(shù)應(yīng)用的法規(guī)和標(biāo)準(zhǔn)體系。監(jiān)管機構(gòu)對每一項關(guān)鍵技術(shù)的作用都將是明確的，包括它們在哪些領(lǐng)域跨部門和監(jiān)管職責(zé)。監(jiān)管機構(gòu)將有權(quán)支持英國創(chuàng)新者的?相對于其他國家，迅速采取行動，為關(guān)鍵技術(shù)制定規(guī)則，并在適當(dāng)?shù)那闆r下制定法規(guī)，以增加這些領(lǐng)域創(chuàng)新者的確定性。英國將在制定國內(nèi)法規(guī)時考慮國際背景，以加強英國的先發(fā)優(yōu)勢。涵蓋關(guān)鍵技術(shù)的法?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探19?領(lǐng)導(dǎo)制定關(guān)鍵技術(shù)標(biāo)準(zhǔn)和法規(guī)的國際行動。英國將在世貿(mào)組織、七國集團、二十國集團、經(jīng)合組織、北約、歐洲理事會、英聯(lián)邦和聯(lián)合國發(fā)揮積極作用。英國將成為關(guān)鍵技術(shù)國際規(guī)則和公約的召集人和頂級作?成為支撐關(guān)鍵技術(shù)國際治理的全球技術(shù)標(biāo)準(zhǔn)生態(tài)系統(tǒng)的優(yōu)勝者。建立行業(yè)和政府的能力，形成多方利益相關(guān)者聯(lián)盟來制定技?利用政府的全景掃描能力，支持監(jiān)管機構(gòu)考慮新興技術(shù)如何成為關(guān)鍵技術(shù)。行業(yè)和監(jiān)管機構(gòu)之間的對話將為英國的改革和促進技術(shù)發(fā)展提供信息。3.3金融領(lǐng)域的人工智能監(jiān)管與影響布了回應(yīng)。在此回應(yīng)中，英格蘭銀行、審慎管理局、金融行為監(jiān)管局以及其他已確定的監(jiān)管機構(gòu)被要求在4月底之前發(fā)布自己的人工智能監(jiān)管計劃。從其已發(fā)布的金融行業(yè)人工智能監(jiān)管策略來看，總體而言，他們歡迎政府?dāng)M定的各部門引導(dǎo)，鼓勵創(chuàng)新的方法。他們并未提出新的監(jiān)管規(guī)則，英格蘭銀行、英國審慎管理局、英國金融行為監(jiān)管局都認為他們已經(jīng)設(shè)立了合適的監(jiān)管框架來支撐政府?dāng)M定的原則。他們認為現(xiàn)有框架仍然適用于解決人工智能帶來的風(fēng)險，因為這些風(fēng)險“并非唯一”。具體而言，監(jiān)管機構(gòu)計劃依靠其商業(yè)原則、消費者責(zé)任、運營彈性規(guī)則手冊、模型風(fēng)險管理原則以及高級管理人員僅會起到護欄作用，而且由于許多工具都以結(jié)果為中心，監(jiān)管機構(gòu)認為這將是相稱的，并允許金融機構(gòu)以安全的方式靈活適應(yīng)和創(chuàng)針對白皮書中提出的五項原則，監(jiān)管機構(gòu)概?安全性、保障性和穩(wěn)健性：監(jiān)管機構(gòu)計劃依靠其總體業(yè)務(wù)原則（例如，金融行為監(jiān)謹(jǐn)慎和勤勉的態(tài)度開展業(yè)務(wù)”）、基本條件以及高級管理系統(tǒng)和控制原始資料第三方風(fēng)險管理和外包框架也高度相關(guān)，企業(yè)有責(zé)任管理供應(yīng)商可能影響重要商業(yè)服務(wù)的任何風(fēng)險。?適當(dāng)?shù)耐该鞫群涂山忉屝裕簩徤鞴芾砭謪⒖剂似淠Ｐ惋L(fēng)險管理原則（其中明確要求考慮模型的可解釋性和透明度）。金融行為監(jiān)管局計劃在消費者責(zé)任不適用的情況下，通過消費者責(zé)任（要求“與零售客戶條（要求“適當(dāng)考慮信息需求”）對此進行解釋。英國GDPR規(guī)則也可能在公平透明處理個人數(shù)據(jù)方面發(fā)揮作用。?公平性：主要由金融行為監(jiān)管局的消費者責(zé)任（例如，最終指導(dǎo)意見專門反對公司以放大偏見的方式使用人工智能）和其他關(guān)于公平對待弱勢客戶的指導(dǎo)意見來解決。金融行為監(jiān)管局還參考了其商業(yè)原則，如原則6（適當(dāng)考慮客戶利益）、原則7（明護手冊章節(jié)。所有監(jiān)管機構(gòu)還必須遵守《2010年平等法》，該法要求它們適當(dāng)考慮對具有受保護特征的人消除歧視的必要?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探20?責(zé)任制與治理：該要求主要由高級管理人這一職責(zé)可以納入現(xiàn)有職能中，例如首席運營職能（SMF24）和首席風(fēng)險職能中概述治理和組織要求的章節(jié)，而金融行為監(jiān)管局也特別指出了消費者責(zé)任，審慎管理局也特別提出了模型風(fēng)險管理的期望。?爭議與糾偏：這主要通過金融行為監(jiān)管局的投訴處理框架來解決。然而，也可以通過金融監(jiān)察專員服務(wù)或金融服務(wù)補償計劃（如適用）提供更廣泛的保護。從金融監(jiān)管機構(gòu)已公布的人工智能監(jiān)管計劃?運行英國金融服務(wù)業(yè)機器學(xué)習(xí)調(diào)查的第三?考慮跟進人工智能公私論壇（AIPPF）成?考慮試點新型監(jiān)管項目機會，例如人工智?建立在既定框架之上——例如，通過金融政策委員會（FPC）的網(wǎng)絡(luò)壓力測試和參?考慮各種選擇，以解決當(dāng)前數(shù)據(jù)治理和管?繼續(xù)與其他監(jiān)管機構(gòu)和公司合作，包括通監(jiān)測和了解金融市場中的人工智能部署。例如，人工智能的發(fā)展也可能放大投機行為或更廣泛的順周期行為、增加網(wǎng)絡(luò)風(fēng)險以及增強互聯(lián)性，從而對金融系統(tǒng)的穩(wěn)定?繼續(xù)分析人工智能（AI）/機器學(xué)習(xí)（ML）之外更廣泛的技術(shù)發(fā)展的影響，例如量子計算的發(fā)展，以及這些發(fā)展如何相互作用；?繼續(xù)參與國際倡議，如人工智能安全峰會、七國集團領(lǐng)導(dǎo)人關(guān)于廣島人工智能進程的聲明、部長宣言、IOSCO、FSB、經(jīng)合組然而，他們也認為，金融行業(yè)人工智能的發(fā)展與應(yīng)用十分迅猛，需要密切關(guān)注。他們將繼續(xù)監(jiān)測金融機構(gòu)的人工智能部署情況，以確定是否有必要對其框架進行任何修改。例如，如果這種方法限制而不是促進創(chuàng)新，或者不能充分保護消費者免受有意或無意的傷從對金融機構(gòu)的影響來看，英國金融監(jiān)管機構(gòu)都利用了已有的監(jiān)管體系與工具，為不同的人工智能供應(yīng)商提供了足夠的靈活性，以開發(fā)滿足客戶特定需求的創(chuàng)新應(yīng)用。英國的監(jiān)管方法是綜合的、基于結(jié)果的，不同于其他司法管轄區(qū)（尤其是歐盟后者建立了定制的、相對規(guī)范的規(guī)則手冊。英國金融機構(gòu)被要求在其現(xiàn)有的風(fēng)險管理結(jié)構(gòu)中考慮人工智能風(fēng)險，而不是創(chuàng)造新的（潛在的孤立的）能力。因此，對金融機構(gòu)而言，需要采取措施以確保已建立符合管理目標(biāo)的人工智能風(fēng)險管理工具，并充分吸納已出臺的要求7。6-7部分內(nèi)容引用自畢馬威國際文章《英國金融監(jiān)管機構(gòu)發(fā)布人工智能策略》，UKFSregulatorspublishtheirAIstrategies-KPMGGlobal。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探21在美國，對人工智能的監(jiān)管已經(jīng)從自愿指導(dǎo)月的《人工智能權(quán)利法案藍圖》奠定了基本準(zhǔn)與技術(shù)研究院發(fā)布自愿性的《人工智能風(fēng)險管理框架》。領(lǐng)先的人工智能公司于2023年7月做出了自愿承諾，表明行業(yè)準(zhǔn)備應(yīng)對人工智能的社會影響。2023年11月，《關(guān)于安全、可靠和值得信賴的人工智能的行政命令》標(biāo)志著向監(jiān)管監(jiān)督的轉(zhuǎn)變，該命令授權(quán)25個以上的機構(gòu)解決與人工智能相關(guān)的危害，包括安全、隱私和歧視。這些機構(gòu)的任務(wù)是制定規(guī)則、資助研究、評估風(fēng)險，并通過人工智能開發(fā)人員的安全測試和報告來提高透明草稿，以及降低合成內(nèi)容風(fēng)險的報告操作和人工智能標(biāo)準(zhǔn)全球合作的草稿，積極醞釀新的框架與指南。然而，在人工智能監(jiān)管方面，聯(lián)邦政府部門還沒有采取重大的立法行動8。相比之下，州級別的立法活動較為活躍，自州級人工智能立法已陸續(xù)落地生效。從美國監(jiān)管政策的重點來看，主要是以促進產(chǎn)業(yè)發(fā)展為主，在治理時側(cè)重于維護公平和保護隱私。其治理模式是風(fēng)險評估與風(fēng)險管理框架。監(jiān)管機制不是單一的依賴于行政監(jiān)管，而是強調(diào)政府部門與私營部門的協(xié)作。并且，為了推動人工智能技術(shù)的發(fā)展，主張企業(yè)進行自我監(jiān)管9。8部分內(nèi)容引用自BankforInternationalSettlements(BIS)WorkingPapersNo.1194Intelligentfinancialsystem:howAIistransformingfinance。9引用自《人工智能監(jiān)管制度概覽》，國家社會科學(xué)基金重點項目“人工智能研發(fā)與應(yīng)用風(fēng)險治理的財稅法協(xié)同機制研究”（立項編號：21AFX021）的階段性成果，來源人民法院報。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探22以下選擇美國具有標(biāo)志性意義的三份監(jiān)管文（OSTP）發(fā)布《人工智能權(quán)利法案藍圖》（以下簡稱“法案藍圖”）?！斗ò杆{圖》由五項原則和相關(guān)實踐組成，旨在指導(dǎo)自動化系統(tǒng)的設(shè)計、使用和部署，以保護人工智能時代美國公眾的權(quán)利。這些原則是通過與美國公眾廣泛協(xié)商制定的，是構(gòu)建和部署與民主價值觀相一致并保護公民權(quán)利、公民自由和隱私的自動化系統(tǒng)的藍圖。從具體內(nèi)容來看，《法案藍圖》包括前言、五項原則（圖13）、關(guān)于應(yīng)用《法案藍圖》的說明，以及一份技術(shù)指南，其中給出了從各級政府到各種規(guī)模的公司等多種組織可以采取的具體步驟，以維護這些價值觀。盡管來自私營部門、政府和國際財團的專家已經(jīng)發(fā)布了指導(dǎo)負責(zé)任地使用自動化系統(tǒng)的原則和框架；《法案藍圖》的框架提供了一個與行業(yè)無關(guān)的國家價值觀聲明和工具包，為將這些保護納入政策、實踐或技術(shù)設(shè)計過程提供信息10。在現(xiàn)有法律或政策（如特定行業(yè)的隱私法和監(jiān)督要求）尚未提供指導(dǎo)的情況下，應(yīng)使用《法案藍圖》來為政策決策提供信息。2023年1月26日，美國國家標(biāo)準(zhǔn)與技術(shù)研究院（隸屬于美國商務(wù)部）發(fā)布了《人工智能“風(fēng)險框架”旨在幫助設(shè)計、開發(fā)、部署或使用人工智能系統(tǒng)的組織提高人工智能風(fēng)險管理的能力，并促進人工智能系統(tǒng)的可信度和負責(zé)任的開發(fā)和使用。《風(fēng)險框架》是一個自愿性的技術(shù)框架，不具備強制效力?！讹L(fēng)險框架》分為兩部分，第一部分討論了組織如何構(gòu)建與人工智能相關(guān)風(fēng)險的框架，并描述了目標(biāo)受眾（圖14）。之后分析了人工智能相關(guān)風(fēng)險和可信賴度，概述了值得信賴的人工智能系統(tǒng)的特征，包括有效和可靠!信息來源：畢馬威根據(jù)白宮科技政策辦公室官網(wǎng)信息翻譯整理。10部分內(nèi)容引用自美國白宮科技政策辦公室，BlueprintforanAIBillofRights的框架簡介。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探23信息來源：畢馬威根據(jù)《人工智能風(fēng)險管理框架》翻譯整理。第二部分包括《風(fēng)險框架》的“核心”。它描述了四項具體職能（圖15以幫助組織在實踐中應(yīng)對人工智能系統(tǒng)的風(fēng)險，即治理細分了四個職能的類別和子類別。其中，治理適用于組織人工智能風(fēng)險管理流程和程序的所有階段，映射、測量與管理功能可以應(yīng)用于人工智能系統(tǒng)特定的環(huán)境和人工智能生命周期的特定階段。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探24信息來源：畢馬威根據(jù)《人工智能風(fēng)險管理框架》翻譯整理?！蛾P(guān)于安全、可靠和值得信賴的人工智能的2023年10月30日，美國白宮發(fā)布拜登簽最新行政命令《關(guān)于安全、可靠和值得信賴的人工智能的行政命令》（以下簡稱“行政命令”呼吁采取“整個政府”的方法來建立安全、可靠和值得信賴的人工智能，強調(diào)人工智能開發(fā)和部署的透明度和問責(zé)制，并指示聯(lián)邦機構(gòu)優(yōu)先考慮促進經(jīng)濟增長和創(chuàng)造就業(yè)機會的人工智能技術(shù)，同時盡量減少對工人和社區(qū)的潛在負面影響?！缎姓睢纷裱摹度斯ぶ悄軝?quán)利法案藍圖》，是一套指導(dǎo)設(shè)計、使用和部署自動化系統(tǒng)以保護公眾的原則和做法11?！缎姓睢诽岢隽嗣勒乱徊降男袆哟胧┡c職責(zé)分工進行了4.3金融領(lǐng)域的人工智能監(jiān)管與影響截止目前，美國金融領(lǐng)域的人工智能監(jiān)管規(guī)則較少，具有強制性遵循意義的兩份要求來自于美國消費者金融保護局（CFPB）發(fā)布的《關(guān)于復(fù)雜算法不當(dāng)行動要求的通知》與《貸款人使用人工智能拒絕信貸的指南》，旨在聚焦具體應(yīng)用場景，保護金融消費者公平，避免算法與人工智能技術(shù)帶來的系統(tǒng)性貨交易委員會（CFTC）等金融監(jiān)管機構(gòu)發(fā)布11部分內(nèi)容引用自畢馬威美國發(fā)布的監(jiān)管要求報告，AIRegulations:Present&Future,Apr.2024。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探25的文件主要形式為征求意見（RequestforComment,RFC）、擬議規(guī)則預(yù)先通知研究報告等，主題涉及商業(yè)監(jiān)控與數(shù)據(jù)安全，人工智能運用于鑒證與信托，自動化估值模型，使用預(yù)測數(shù)據(jù)分析的利益沖突等，相關(guān)內(nèi)容尚處于公眾探討與意見征詢階段，對金融機構(gòu)不具備約束力，但預(yù)期將在未來陸續(xù)?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探26數(shù)據(jù)來源：畢馬威根據(jù)《關(guān)于安全、可靠和值得信賴的人工智能的行政命令》翻譯整?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探27中國較早就啟動了人工智能相關(guān)的規(guī)劃與治理活動（圖17）。2017年7月國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》（以下簡稱“規(guī)劃”并在第五部分“保障措施”中，作出了制定促進人工智能發(fā)展的法律法規(guī)和倫理規(guī)范，完善支持人工智能發(fā)展的重點政策，建立人工智能技術(shù)標(biāo)準(zhǔn)和知識產(chǎn)權(quán)體系，建立人工智能安全監(jiān)管和評估體系等整體部署，并明確由國家科技體制改革和創(chuàng)新體系建設(shè)領(lǐng)導(dǎo)小組牽頭統(tǒng)籌協(xié)調(diào)，推動人工智能相關(guān)法律法規(guī)建設(shè)。承接規(guī)劃部署，為促進新一代人工智能健康發(fā)展，加強人工智能法律、倫理、社會問題研究，積極推動人工智能全球治理，新一代人工智能發(fā)展規(guī)劃推進辦公室成立了國家新一代人工智能治理專業(yè)任的人工智能》與《新一代人工智能倫理規(guī)范》，明確了中國人工智能治理原則與倫理規(guī)范。中國亦積極參與國際人工智能治理，于2023年發(fā)布了《全球人工智能治理倡議》，并在2024年7月召開的2024世界人工智能大會暨人工智能全球治理高級別會議上，發(fā)布了《人工智能全球治理上海宣言》。整體來看，目前中國的人工智能領(lǐng)域具有強制約束力的監(jiān)管文件較少，已出臺文件主要集中于規(guī)劃藍圖、治理原則、倫理規(guī)范等軟性約束。但預(yù)計未來將有更多人工智能領(lǐng)域的法律法規(guī)和政策文件陸續(xù)出臺。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探28以下選擇中國具有標(biāo)志性意義的三份監(jiān)管文2019年6月17日，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》（以下簡稱“治理原則”》提出了人工智能治理的框架和行動指南。這是中國促進新一代人工智能健康發(fā)展，加強人工智能法律、倫理、社會問題研究，積極推動人工智能全球治理的一項重要成果12?！吨卫碓瓌t》包含8個方?和諧友好。人工智能發(fā)展應(yīng)以增進人類共同福祉為目標(biāo)；應(yīng)符合人類的價值觀和倫理道德，促進人機和諧，服務(wù)人類文明進步；應(yīng)以保障社會安全、尊重人類權(quán)益為?公平公正。人工智能發(fā)展應(yīng)促進公平公正，保障利益相關(guān)者的權(quán)益，促進機會均等。通過持續(xù)提高技術(shù)水平、改善管理方式，在數(shù)據(jù)獲取、算法設(shè)計、技術(shù)開發(fā)、產(chǎn)品研發(fā)和應(yīng)用過程中消除偏見和歧視；?包容共享。人工智能應(yīng)促進綠色發(fā)展，符合環(huán)境友好、資源節(jié)約的要求；應(yīng)促進協(xié)調(diào)發(fā)展，推動各行各業(yè)轉(zhuǎn)型升級，縮小區(qū)域差距；應(yīng)促進包容發(fā)展，加強人工智能教育及科普，提升弱勢群體適應(yīng)性，努力消除數(shù)字鴻溝；應(yīng)促進共享發(fā)展，避免數(shù)?尊重隱私。人工智能發(fā)展應(yīng)尊重和保護個人隱私，充分保障個人的知情權(quán)和選擇權(quán)。在個人信息的收集、存儲、處理、使用等各環(huán)節(jié)應(yīng)設(shè)置邊界，建立規(guī)范。完善個人數(shù)據(jù)授權(quán)撤銷機制，反對任何竊取、篡改、泄露和其他非法收集利用個人信息的行為；12、部分內(nèi)容引用自人民日報，我國發(fā)布《治理原則》發(fā)展負責(zé)任的人工智能，2019年6月18日。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探29?安全可控。人工智能系統(tǒng)應(yīng)不斷提升透明性、可解釋性、可靠性、可控性，逐步實現(xiàn)可審核、可監(jiān)督、可追溯、可信賴。高度關(guān)注人工智能系統(tǒng)的安全，提高人工智能魯棒性及抗干擾性，形成人工智能安全?共擔(dān)責(zé)任。人工智能研發(fā)者、使用者及其他相關(guān)方應(yīng)具有高度的社會責(zé)任感和自律意識，嚴(yán)格遵守法律法規(guī)、倫理道德和標(biāo)準(zhǔn)規(guī)范。建立人工智能問責(zé)機制，明確研發(fā)者、使用者和受用者等的責(zé)任。人工智能應(yīng)用過程中應(yīng)確保人類知情權(quán)，告知可能產(chǎn)生的風(fēng)險和影響。防范利用人工智能?開放協(xié)作。鼓勵跨學(xué)科、跨領(lǐng)域、跨地區(qū)、跨國界的交流合作，推動國際組織、政府部門、科研機構(gòu)、教育機構(gòu)、企業(yè)、社會組織、公眾在人工智能發(fā)展與治理中的協(xié)調(diào)互動。開展國際對話與合作，在充分尊重各國人工智能治理原則和實踐的前提下，推動形成具有廣泛共識的國際人工智能治?敏捷治理。尊重人工智能發(fā)展規(guī)律，在推動人工智能創(chuàng)新發(fā)展、有序發(fā)展的同時，及時發(fā)現(xiàn)和解決可能引發(fā)的風(fēng)險。不斷提升智能化技術(shù)手段，優(yōu)化管理機制，完善治理體系，推動治理原則貫穿人工智能產(chǎn)品和服務(wù)的全生命周期。對未來更高級人工智能的潛在風(fēng)險持續(xù)開展研究和預(yù)判，確保人工智能始終朝著有利于社會的方向《新一代人工智能倫理規(guī)范》（2021年9月）2021年9月25日，國家新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能倫理規(guī)德融入人工智能全生命周期，為從事人工智能相關(guān)活動的自然人、法人和其他相關(guān)機構(gòu)等提供倫理指引13。《倫理規(guī)范》提出了6項基本倫理要求，以及人工智能管理、研發(fā)、供應(yīng)、使用等特定活動的18項具體倫理要求。信息來源：畢馬威根據(jù)《新一代人工智能倫理規(guī)范》整理。信息來源：畢馬威根據(jù)《新一代人工智能倫理規(guī)范》整理。13、引用自科學(xué)技術(shù)部官方網(wǎng)站，《新一代人工智能倫理規(guī)范》發(fā)布，2021年9月26日。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探30?增進人類福祉。堅持以人為本，遵循人類共同價值觀，尊重人權(quán)和人類根本利益訴求，遵守國家或地區(qū)倫理道德。堅持公共利益優(yōu)先，促進人機和諧友好，改善民生，增強獲得感幸福感，推動經(jīng)濟、社會及生?促進公平公正。堅持普惠性和包容性，切實保護各相關(guān)主體合法權(quán)益，推動全社會公平共享人工智能帶來的益處，促進社會公平正義和機會均等。在提供人工智能產(chǎn)品和服務(wù)時，應(yīng)充分尊重和幫助弱勢群體、特殊群體，并根據(jù)需要提供相應(yīng)替代方案；?保護隱私安全。充分尊重個人信息知情、同意等權(quán)利，依照合法、正當(dāng)、必要和誠信原則處理個人信息，保障個人隱私與數(shù)據(jù)安全，不得損害個人合法數(shù)據(jù)權(quán)益，不得以竊取、篡改、泄露等方式非法收集利?確保可控可信。保障人類擁有充分自主決策權(quán)，有權(quán)選擇是否接受人工智能提供的服務(wù)，有權(quán)隨時退出與人工智能的交互，有權(quán)隨時中止人工智能系統(tǒng)的運行，確保?強化責(zé)任擔(dān)當(dāng)。堅持人類是最終責(zé)任主體，明確利益相關(guān)者的責(zé)任，全面增強責(zé)任意識，在人工智能全生命周期各環(huán)節(jié)自省自律，建立人工智能問責(zé)機制，不回避責(zé)任?提升倫理素養(yǎng)。積極學(xué)習(xí)和普及人工智能倫理知識，客觀認識倫理問題，不低估不夸大倫理風(fēng)險。主動開展或參與人工智能倫理問題討論，深入推動人工智能倫理治18項人工智能管理、研發(fā)、供應(yīng)、使用等特信息來源：畢馬威根據(jù)《新一代人工智能倫理規(guī)范》整理。?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探31室發(fā)布《全球人工智能治理倡議》（以下簡稱“倡議”圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國方案。《倡議》提出，各國應(yīng)秉持共同、綜合、合作、可持續(xù)的安全觀，堅持發(fā)展和安全并重的原則，通過對話與合作凝聚共識，構(gòu)建開放、公正、有效的治理機制，促進人工智能技術(shù)造福于人類，推動構(gòu)建人類命運共同體。各國應(yīng)在人工智能治理中加強信息交流和技術(shù)合作，共同做好風(fēng)險防范，形成具有廣泛共識的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，不斷提升人工智能技術(shù)的安全性、可靠性、?發(fā)展人工智能應(yīng)堅持“以人為本”理念，以增進人類共同福祉為目標(biāo)，以保障社會安全、尊重人類權(quán)益為前提，確保人工智能始終朝著有利于人類文明進步的方向發(fā)展。積極支持以人工智能助力可持續(xù)發(fā)展，應(yīng)對氣候變化、生物多樣性保護等全球性?面向他國提供人工智能產(chǎn)品和服務(wù)時，應(yīng)尊重他國主權(quán)，嚴(yán)格遵守他國法律，接受他國法律管轄。反對利用人工智能技術(shù)優(yōu)勢操縱輿論、傳播虛假信息，干涉他國內(nèi)政、社會制度及社會秩序，危害他國主權(quán)；?發(fā)展人工智能應(yīng)堅持“智能向善”的宗旨，遵守適用的國際法，符合和平、發(fā)展、公平、正義、民主、自由的全人類共同價值，共同防范和打擊恐怖主義、極端勢力和跨國有組織犯罪集團對人工智能技術(shù)的惡用濫用。各國尤其是大國對在軍事領(lǐng)域研發(fā)和使用人工智能技術(shù)應(yīng)該采取慎重負責(zé)的?發(fā)展人工智能應(yīng)堅持相互尊重、平等互利的原則，各國無論大小、強弱，無論社會制度如何，都有平等發(fā)展和利用人工智能的權(quán)利。鼓勵全球共同推動人工智能健康發(fā)展，共享人工智能知識成果，開源人工智能技術(shù)。反對以意識形態(tài)劃線或構(gòu)建排他性集團，惡意阻撓他國人工智能發(fā)展。反對利用技術(shù)壟斷和單邊強制措施制造發(fā)?推動建立風(fēng)險等級測試評估體系，實施敏捷治理，分類分級管理，快速有效響應(yīng)。研發(fā)主體不斷提高人工智能可解釋性和可預(yù)測性，提升數(shù)據(jù)真實性和準(zhǔn)確性，確保人工智能始終處于人類控制之下，打造可審核、可監(jiān)督、可追溯、可信賴的人工智?逐步建立健全法律和規(guī)章制度，保障人工智能研發(fā)和應(yīng)用中的個人隱私與數(shù)據(jù)安全，反對竊取、篡改、泄露和其他非法收集利?堅持公平性和非歧視性原則，避免在數(shù)據(jù)獲取、算法設(shè)計、技術(shù)開發(fā)、產(chǎn)品研發(fā)與應(yīng)用過程中，產(chǎn)生針對不同或特定民族、?堅持倫理先行，建立并完善人工智能倫理準(zhǔn)則、規(guī)范及問責(zé)機制，形成人工智能倫理指南，建立科技倫理審查和監(jiān)管制度，明確人工智能相關(guān)主體的責(zé)任和權(quán)力邊界，充分尊重并保障各群體合法權(quán)益，及時回?2024畢馬威華振會計師事務(wù)所(特殊普通合伙)—中國合伙制會計師事務(wù)所，是與畢馬威國際有限公司(英國私營擔(dān)保有限公司)相關(guān)聯(lián)的獨立成員所全球組織中的成員。版權(quán)所有，不得轉(zhuǎn)載。人工智能（AI）國際金融監(jiān)管初探