可信隱私計(jì)算研究報(bào)告

1、可信隱私計(jì)算研究報(bào)告（2022 年）編寫(xiě)組主要成員（排名不分先后）：白玉真袁博閆樹(shù)王思源魏凱姜春宇劉嘉夕賈軒楊靖世童錦瑞呂艾臨馬智華韋 韜彭晉潘無(wú)窮昌文婷袁鵬程卞 陽(yáng)楊天雅徐靜汪小益韓夢(mèng)薇曾鈺涵王灣灣楊博孫中偉趙國(guó)梁李克鵬程勇賈金龍陳濤郭林海高揚(yáng)金銀玉單進(jìn)勇范力欣黃安埠蔡爍瑋苗天麒何永德劉沛唐丹葉李幟周建平黃司輝于路信倫于歡周吉文陳浩棟張亞申前言隱私計(jì)算是在保護(hù)數(shù)據(jù)安全及個(gè)人隱私的前提下，實(shí)現(xiàn)數(shù)據(jù)流通及數(shù)據(jù)價(jià)值深度挖掘的一系列方法。近年來(lái)，數(shù)據(jù)成為國(guó)家基礎(chǔ)性戰(zhàn)略資源，在政策和市場(chǎng)的共同作用下，隱私計(jì)算技術(shù)、產(chǎn)業(yè)、應(yīng)用迅速發(fā)展，已經(jīng)從概念驗(yàn)證階段開(kāi)始逐步走向規(guī)模應(yīng)用階段。但是，在技術(shù)應(yīng)用過(guò)程中，

2、隱私計(jì)算因?yàn)樯婕靶枨蠓?、供給方、監(jiān)管方等多方的參與，仍然面臨著安全性、合規(guī)性、可用性等方面的挑戰(zhàn)，由此隱私計(jì)算技術(shù)如何“可信”應(yīng)用引發(fā)業(yè)界思考。經(jīng)過(guò)廣泛調(diào)研征集和深入討論，隱私計(jì)算聯(lián)盟聯(lián)合中國(guó)信息通信研究院云計(jì)算與大數(shù)據(jù)研究所等單位共同完成了可信隱私計(jì)算研究報(bào)告（2022 年）。本報(bào)告首先在隱私計(jì)算快速發(fā)展、相關(guān)技術(shù)融合創(chuàng)新、隱私計(jì)算理論不斷演進(jìn)的形勢(shì)下提出了廣義的隱私計(jì)算。然后，基于隱私計(jì)算應(yīng)用過(guò)程中面臨的挑戰(zhàn)，從供給側(cè)角度，梳理了技術(shù)可信應(yīng)用的原則，首次明確提出并重點(diǎn)探討了“可信隱私計(jì)算”的概念和五大核心要素。在此基礎(chǔ)上，進(jìn)一步分析了企業(yè)、行業(yè)的可信實(shí)踐路徑，提出了未來(lái)發(fā)展的相關(guān)建議。本報(bào)

3、告致力于在隱私計(jì)算技術(shù)原理和應(yīng)用實(shí)踐之間搭建起連接的橋梁，為供給側(cè)的企業(yè)產(chǎn)品研發(fā)和技術(shù)應(yīng)用提供指導(dǎo)，推動(dòng)隱私計(jì)算行業(yè)健康發(fā)展，讓隱私計(jì)算在數(shù)據(jù)要素市場(chǎng)建設(shè)和數(shù)據(jù)流通過(guò)程中發(fā)揮更大的價(jià)值！目錄第一章 可信隱私計(jì)算發(fā)展背景 1 HYPERLINK l _TOC_250013 （一） 隱私計(jì)算快速發(fā)展 1 HYPERLINK l _TOC_250012 （二） 隱私計(jì)算技術(shù)理念外延擴(kuò)展 4 HYPERLINK l _TOC_250011 （三） 隱私計(jì)算應(yīng)用需建立信任原則 7第二章 可信隱私計(jì)算框架 11第三章 可信隱私計(jì)算核心要素 13 HYPERLINK l _TOC_250010 （一） 第一

4、要素：安全可證 13 HYPERLINK l _TOC_250009 （二） 核心要素：隱私保護(hù) 16 HYPERLINK l _TOC_250008 （三） 信任基礎(chǔ)：流程可控 17 HYPERLINK l _TOC_250007 （四） 落地抓手：高效穩(wěn)定 19 HYPERLINK l _TOC_250006 （五） 規(guī)?；疤幔洪_(kāi)放普適 21第四章 可信隱私計(jì)算實(shí)踐路徑 23（一） 企業(yè)層面，將可信要素嵌入系統(tǒng)研發(fā)應(yīng)用全流程 23 HYPERLINK l _TOC_250005 （二） 行業(yè)層面，打造可信隱私計(jì)算產(chǎn)業(yè)生態(tài) 24第五章 可信隱私計(jì)算發(fā)展建議 26 HYPERLINK l _

5、TOC_250004 （一） 政府層面，推進(jìn)我國(guó)隱私計(jì)算監(jiān)管進(jìn)程 26 HYPERLINK l _TOC_250003 （二） 技術(shù)層面，全面進(jìn)行技術(shù)前瞻性攻關(guān)研究 26 HYPERLINK l _TOC_250002 （三） 企業(yè)層面，加快業(yè)務(wù)場(chǎng)景可信應(yīng)用 27 HYPERLINK l _TOC_250001 （四） 行業(yè)層面，積極開(kāi)展評(píng)測(cè)推動(dòng)規(guī)范應(yīng)用 27 HYPERLINK l _TOC_250000 參考文獻(xiàn) 28第一章可信隱私計(jì)算發(fā)展背景（一） 隱私計(jì)算快速發(fā)展隱私計(jì)算（Privacy-preserving computation）是指在保證數(shù)據(jù)提供 方不泄露原始數(shù)據(jù)的前提下，對(duì)數(shù)據(jù)

6、進(jìn)行分析計(jì)算的一系列信息技術(shù)，保障數(shù)據(jù)在流通與融合過(guò)程中的“可用不可見(jiàn)”1。在數(shù)據(jù)成為國(guó)家基 礎(chǔ)性戰(zhàn)略資源的當(dāng)下，隱私計(jì)算已成為需求強(qiáng)烈的數(shù)據(jù)流通“技術(shù)解”之一。Gartner 發(fā)布的 2022 年十二大重要戰(zhàn)略技術(shù)趨勢(shì)中指出，預(yù)計(jì) 到 2025 年，60%的大型企業(yè)機(jī)構(gòu)將使用一種或多種隱私計(jì)算技術(shù)（其 稱(chēng)為“隱私增強(qiáng)計(jì)算”）。隨著各方的積極布局，技術(shù)可用性的快速提 升促使隱私計(jì)算市場(chǎng)由觀望轉(zhuǎn)向落地，隱私計(jì)算在各行各業(yè)多種應(yīng)用 場(chǎng)景中逐漸嶄露頭角。數(shù)據(jù)流通需求發(fā)展數(shù)字經(jīng)濟(jì)是國(guó)家的重要戰(zhàn)略部署，其中數(shù)據(jù)作為關(guān)鍵的生產(chǎn)要素之一，通過(guò)跨地域、跨行業(yè)、跨領(lǐng)域、跨機(jī)構(gòu)的數(shù)據(jù)流通釋放要素價(jià)值。但是，目前機(jī)

7、構(gòu)間的數(shù)據(jù)流通存在諸多阻礙。數(shù)據(jù)流通面臨產(chǎn)權(quán)制度未建立、安全共享存在風(fēng)險(xiǎn)、監(jiān)管要求待完善等問(wèn)題。一是數(shù)據(jù)的各種產(chǎn)權(quán)，如數(shù)據(jù)資源持有權(quán)、數(shù)據(jù)加工使用權(quán)、數(shù)據(jù)產(chǎn)品經(jīng)營(yíng)權(quán)等產(chǎn)權(quán)運(yùn)行機(jī)制有待建立，為數(shù)據(jù)要素權(quán)益提供保護(hù)制度。二是數(shù)據(jù)流通存在安全風(fēng)險(xiǎn)。近年來(lái)，由于流通過(guò)程中的數(shù)據(jù)安全事件時(shí)有發(fā)生，降低了企業(yè)參與數(shù)據(jù)流通的積極性。三是流通過(guò)程中的安全合規(guī)尺度難把握?，F(xiàn)對(duì)數(shù)據(jù)可流通的對(duì)象、范圍、方式等一系列落地問(wèn)題，數(shù)據(jù)合規(guī)流通的細(xì)化規(guī)定尚未建立和完善。在此背景下，因缺乏統(tǒng)一、明確的合規(guī)監(jiān)管體系和可行的技術(shù)實(shí)現(xiàn)路徑，監(jiān)管部門(mén)及數(shù)據(jù)使用者對(duì)數(shù)據(jù)流通中的安全合規(guī)評(píng)價(jià)尺度難以把控，導(dǎo)致很多數(shù)據(jù)流通需求仍處于理論探

8、索階段，難以實(shí)現(xiàn)?！翱捎貌豢梢?jiàn)”的隱私計(jì)算成為了上述問(wèn)題的技術(shù)突破口。從原理上講，隱私計(jì)算是一套融合了密碼學(xué)、安全硬件、數(shù)據(jù)科學(xué)、人工智能、計(jì)算機(jī)工程等眾多領(lǐng)域的跨學(xué)科技術(shù)體系，包含了以多方安全計(jì)算、聯(lián)邦學(xué)習(xí)和可信執(zhí)行環(huán)境為代表的多種技術(shù)方案。從應(yīng)用目的來(lái)看，一方面，隱私計(jì)算通過(guò)對(duì)原始數(shù)據(jù)加密、去標(biāo)識(shí)化或假名化處理，計(jì)算過(guò)程及結(jié)果只傳遞經(jīng)處理后的數(shù)據(jù)，實(shí)現(xiàn)了原始數(shù)據(jù)不出域，保證了原始數(shù)據(jù)持有權(quán)不變且不受損，僅讓渡了數(shù)據(jù)使用權(quán)，實(shí)現(xiàn)了數(shù)據(jù)的持有權(quán)和使用權(quán)相互分離，保障了數(shù)據(jù)主體的合法權(quán)益。另一方面，隱私計(jì)算通過(guò)限定數(shù)據(jù)用法、用量，解決了原始數(shù)據(jù)無(wú)限復(fù)制、盜用、濫用的問(wèn)題。同時(shí)，隱私計(jì)算利用加密、

9、去標(biāo)識(shí)化或假名化處理后的數(shù)據(jù)進(jìn)行計(jì)算，計(jì)算過(guò)程中只傳遞切片、密文等非原始數(shù)據(jù)，有助于實(shí)現(xiàn)對(duì)原始數(shù)據(jù)的最小化使用。另外，結(jié)合特定應(yīng)用場(chǎng)景，經(jīng)隱私計(jì)算技術(shù)去標(biāo)識(shí)化處理后的數(shù)據(jù)在一定條件下有望實(shí)現(xiàn)匿名化，從而為多源數(shù)據(jù)的安全融合應(yīng)用和價(jià)值釋放提供了新思路。法律政策環(huán)境當(dāng)前國(guó)內(nèi)多個(gè)法律和政策助推隱私計(jì)算產(chǎn)業(yè)進(jìn)一步發(fā)展。法律層面，一系列與數(shù)據(jù)及其安全保護(hù)相關(guān)的法律法規(guī)陸續(xù)發(fā)布，國(guó)家安全法網(wǎng)絡(luò)安全法數(shù)據(jù)安全法及個(gè)人信息保護(hù)法等共同構(gòu)筑了數(shù)據(jù)安全保護(hù)的基礎(chǔ)性“法律堡壘”。政策層面，2016 年工業(yè)和信息化部、中國(guó)人民銀行、國(guó)家發(fā)改委、中央網(wǎng)信辦、國(guó)家能源局等各部委先后在相關(guān)政策文件中提出加強(qiáng)隱私計(jì)算相關(guān)技術(shù)

10、的攻關(guān)和應(yīng)用。2021 年 5 月，人民銀行組織金融機(jī)構(gòu)開(kāi)展包括應(yīng)用隱私計(jì)算進(jìn)行數(shù)據(jù)共享在內(nèi)的金融數(shù)據(jù)綜合應(yīng)用試點(diǎn)。2022 年 1 月，國(guó)務(wù)院辦公廳印發(fā)的要素市場(chǎng)化配置綜合改革試點(diǎn)總體方案中提出探索“原始數(shù)據(jù)不出域、數(shù)據(jù)可用不可見(jiàn)”的交易范式，探索建立數(shù)據(jù)用途和用量控制制度，實(shí)現(xiàn)數(shù)據(jù)使用“可控可計(jì)量”。4 月，中共中央 國(guó)務(wù)院關(guān)于加快建設(shè)全國(guó)統(tǒng)一大市場(chǎng)的意見(jiàn)明確提出，“加快培育數(shù)據(jù)要素市場(chǎng)，建立健全數(shù)據(jù)安全、權(quán)利保護(hù)、跨境傳輸管理、交易流通、開(kāi)放共享、安全認(rèn)證等基礎(chǔ)制度和標(biāo)準(zhǔn)規(guī)范，深入開(kāi)展數(shù)據(jù)資源調(diào)查，推動(dòng)數(shù)據(jù)資源開(kāi)發(fā)利用?！钡胤綄用?，目前已有十八個(gè)省市公布了相關(guān)數(shù)據(jù)條例，促進(jìn)數(shù)據(jù)流通和開(kāi)發(fā)

11、利用2。在技術(shù)優(yōu)勢(shì)和政策環(huán)境的助力下，隱私計(jì)算在不獲取其他參與方原始數(shù)據(jù)的情況下處理數(shù)據(jù)，結(jié)合授權(quán)和防篡改等手段有效控制數(shù)據(jù)濫用，成為目前數(shù)據(jù)流通領(lǐng)域最受關(guān)注的技術(shù)熱點(diǎn)之一。相關(guān)的學(xué)術(shù)會(huì)議和論文數(shù)量在近幾年呈現(xiàn)大幅增長(zhǎng)，研究也從技術(shù)原理逐步轉(zhuǎn)向應(yīng)用實(shí)踐。在算法協(xié)議優(yōu)化、軟硬件結(jié)合方案提升計(jì)算性能之下，越來(lái)越多的企業(yè)入局隱私計(jì)算研發(fā)和產(chǎn)品化，產(chǎn)品逐漸開(kāi)啟商業(yè)化大規(guī)模應(yīng)用，在金融、醫(yī)療、政務(wù)、互聯(lián)網(wǎng)、車(chē)聯(lián)網(wǎng)等數(shù)據(jù)流通需求強(qiáng)烈的場(chǎng)景紛紛落地。（二） 隱私計(jì)算技術(shù)理念外延擴(kuò)展國(guó)際方面，與隱私計(jì)算相關(guān)的概念有隱私增強(qiáng)技術(shù)（Privacy Enhancing Technologies，PETs）和隱私保護(hù)

12、計(jì)算（Privacy-Preserving Computation）。其中隱私增強(qiáng)技術(shù)范圍比較寬泛，把從系統(tǒng)層面實(shí)施數(shù)據(jù)保護(hù)協(xié)議的技術(shù)都囊括其中，而隱私保護(hù)計(jì)算則聚焦在具體技術(shù)3 45。例如，在歐盟網(wǎng)絡(luò)安全局（ENISA）的定義中，除了隱私保護(hù)計(jì)算，隱私增強(qiáng)技術(shù)還可包括匿名化、假名化以及訪問(wèn)、通信、存儲(chǔ)過(guò)程中各種實(shí)現(xiàn)隱私保護(hù)的技術(shù)。而聯(lián)合國(guó)大數(shù)據(jù)工作組發(fā)布的技術(shù)手冊(cè)中則將兩種概念合并使用6。國(guó)內(nèi)方面，中科院信工所的李鳳華等人78定義隱私計(jì)算（Privacy Computing）是“面向隱私信息全生命周期保護(hù)的計(jì)算理論和方法，是 隱私信息的所有權(quán)、管理權(quán)和使用權(quán)分離時(shí)隱私度量、隱私泄露代價(jià)、隱私

13、保護(hù)與隱私分析復(fù)雜性的可計(jì)算模型與公理化系統(tǒng)”。隱私計(jì)算 聯(lián)盟、中國(guó)信通院云大所在數(shù)據(jù)流通場(chǎng)景中對(duì)隱私計(jì)算概念進(jìn)行延伸，隱私計(jì)算白皮書(shū)（2021）中定義隱私計(jì)算（Privacy-preserving computation）是在保證數(shù)據(jù)提供方不泄露原始數(shù)據(jù)的前提下，對(duì)數(shù)據(jù)進(jìn)行分析計(jì)算的一系列信息技術(shù)，保障數(shù)據(jù)在流通與融合過(guò)程中的 “可用不可見(jiàn)”1。該定義被產(chǎn)業(yè)界廣泛關(guān)注引用，更關(guān)注的是“保護(hù)隱私的技術(shù)或方案”。而今，各界對(duì)隱私保護(hù)的需求越來(lái)越重視，隱私計(jì)算概念也有了新的概念外延。例如今年 5 月，美國(guó)促進(jìn)數(shù)字隱私技術(shù)法案9將隱私增強(qiáng)技術(shù)明確為“通過(guò)提高可預(yù)測(cè)性、可管理性、可分離性和保密性來(lái)減輕

14、數(shù)據(jù)處理所產(chǎn)生的個(gè)人隱私風(fēng)險(xiǎn)的任何軟件或硬件的解決方案、技術(shù)流程或其他技術(shù)手段。包括：（1） 促進(jìn)數(shù)據(jù)計(jì)算或分析，同時(shí)減輕隱私風(fēng)險(xiǎn)的加密技術(shù)；（2）公開(kāi)分享數(shù)據(jù)但不對(duì)特定個(gè)人作出推斷的技術(shù)；（3）讓個(gè)人控制其數(shù)據(jù)的傳播、共享和使用的技術(shù)；（4）產(chǎn)生合成數(shù)據(jù)的技術(shù)”。因此，本報(bào)告與時(shí)俱進(jìn)，從隱私計(jì)算實(shí)現(xiàn)的目標(biāo)，將隱私計(jì)算技術(shù)1進(jìn)行擴(kuò)展，促進(jìn)實(shí)現(xiàn)隱私保護(hù)和共享數(shù)據(jù)價(jià)值分析的技術(shù)方案均可納入隱私計(jì)算的范疇。廣義隱私計(jì)算是面向隱私信息全生命周期保護(hù)的計(jì)算理論和方法，涵蓋信息所有者、信息轉(zhuǎn)發(fā)者、信息接收者在信息采集、存儲(chǔ)、處理、發(fā)布（含交換）、銷(xiāo)毀等全生命周期過(guò)程的所有計(jì)算操作，是實(shí)現(xiàn)隱私保護(hù)前提下數(shù)據(jù)

15、安全共享的一系列技術(shù)。技術(shù)體系如圖 1 所示，包括但不限于：圖 1 廣義隱私計(jì)算技術(shù)體系 隱私計(jì)算技術(shù)隱私計(jì)算技術(shù)，以多方安全計(jì)算、聯(lián)邦學(xué)習(xí)、可信執(zhí)行環(huán)境三大 路線為基礎(chǔ)，還包括同態(tài)加密、零知識(shí)證明等輔助技術(shù)。這些技術(shù)分 離了數(shù)據(jù)的持有權(quán)和使用權(quán)，實(shí)現(xiàn)多方數(shù)據(jù)在保護(hù)隱私的前提下聯(lián)合 計(jì)算，使數(shù)據(jù)需求方在不接觸原始數(shù)據(jù)的情況下獲得數(shù)據(jù)的增值價(jià)值，降低隱私泄露風(fēng)險(xiǎn)?；跀?shù)據(jù)限制發(fā)布的技術(shù)基于數(shù)據(jù)限制發(fā)布的技術(shù)，有選擇地發(fā)布原始數(shù)據(jù)、不發(fā)布或者發(fā)布精度較低的敏感數(shù)據(jù)從而實(shí)現(xiàn)隱私保護(hù)，包括數(shù)據(jù)脫敏以及各類(lèi)去標(biāo)識(shí)化技術(shù)（如掩碼、抑制、泛化、截?cái)唷⒒煜?、k-匿名、l-多樣性、 t-貼近等）。這類(lèi)技術(shù)保證對(duì)

16、敏感數(shù)據(jù)及隱私的披露風(fēng)險(xiǎn)在可容忍范圍內(nèi)，但是需要考慮數(shù)據(jù)隱私披露和可用性之間的平衡，隱私保護(hù)的強(qiáng)度越強(qiáng)，丟失的信息就越多，數(shù)據(jù)的可用性越低?；跀?shù)據(jù)失真的技術(shù)基于數(shù)據(jù)失真的技術(shù)，通過(guò)添加噪音等方法，使敏感數(shù)據(jù)失真但同時(shí)保持某些數(shù)據(jù)或數(shù)據(jù)屬性不變，仍然可以保持某些統(tǒng)計(jì)方面的性質(zhì)，包括隨機(jī)擾動(dòng)、合成數(shù)據(jù)技術(shù)等。數(shù)據(jù)失真是一種能夠抵御背景知識(shí)攻擊的隱私保護(hù)方法，這類(lèi)方法不依賴(lài)復(fù)雜的密碼學(xué)技術(shù)，用戶計(jì)算開(kāi)銷(xiāo)小，并可獲得精準(zhǔn)的查詢結(jié)果。輔助融合技術(shù)隱私計(jì)算最核心的是計(jì)算，但整個(gè)數(shù)據(jù)共享過(guò)程以及完整的系統(tǒng)需要借助多個(gè)輔助技術(shù)支撐，包括區(qū)塊鏈、可驗(yàn)證計(jì)算、內(nèi)容真實(shí)性檢驗(yàn)及溯源技術(shù)（如數(shù)字水?。┖驮L問(wèn)控制技術(shù)

17、等。這些技術(shù)雖不是完全直接實(shí)現(xiàn)數(shù)據(jù)的聯(lián)合隱私計(jì)算，但能在數(shù)據(jù)共享過(guò)程中有效保護(hù)個(gè)人信息，實(shí)現(xiàn)全流程可記錄、可驗(yàn)證、可追溯、可審計(jì)、可控制的安全、可信的數(shù)據(jù)共享，為數(shù)據(jù)真實(shí)性、數(shù)據(jù)確權(quán)等問(wèn)題提供可行解決方案。（三） 隱私計(jì)算應(yīng)用需建立信任原則隱私計(jì)算正處于技術(shù)快速迭代和發(fā)展的階段，為企業(yè)和機(jī)構(gòu)當(dāng)前面臨的數(shù)據(jù)合規(guī)監(jiān)管、數(shù)據(jù)安全制度落地提供有力的技術(shù)支撐。但是，企業(yè)應(yīng)用技術(shù)的過(guò)程中，技術(shù)的安全性、合規(guī)性、性能、穩(wěn)定性、可擴(kuò)展性、互聯(lián)互通等方面仍存在困難和挑戰(zhàn)，在一定程度上限制了隱私計(jì)算的推廣和應(yīng)用。安全共識(shí)有待形成隱私計(jì)算產(chǎn)品的安全性是技術(shù)應(yīng)用中面臨的首要問(wèn)題。安全性不僅僅是算法協(xié)議安全，開(kāi)發(fā)應(yīng)用安

18、全、安全性共識(shí)和安全性可驗(yàn)證也都是技術(shù)應(yīng)用需要關(guān)注的核心問(wèn)題。算法協(xié)議尚無(wú)法實(shí)現(xiàn)絕對(duì)安全。一是算法協(xié)議多樣，各自協(xié)議的安全根基各不相同：多方安全計(jì)算基于密碼學(xué)，聯(lián)邦學(xué)習(xí)基于分布式機(jī)器學(xué)習(xí)、差分隱私等，可信執(zhí)行環(huán)境依賴(lài)于硬件。二是產(chǎn)品依賴(lài)安全假設(shè)（如硬件提供商可信賴(lài)、計(jì)算參與方完全遵循協(xié)議流程），但實(shí)際中安全假設(shè)不一定完全成立，可能存在安全風(fēng)險(xiǎn)。開(kāi)發(fā)應(yīng)用安全存在挑戰(zhàn)。一方面隱私計(jì)算產(chǎn)品面臨生產(chǎn)化過(guò)程中的安全問(wèn)題，如密碼學(xué)算法領(lǐng)域的側(cè)信道攻擊，惡意黑客攻擊。另一方面通過(guò)引入第三方帶來(lái)了不確定風(fēng)險(xiǎn)因素，如利用第三方生成乘法三元組或第三方分發(fā)密鑰，可能會(huì)打破信任的完整性。安全性標(biāo)準(zhǔn)亟需建立。隱私計(jì)算涉

19、及的密碼學(xué)原理復(fù)雜、應(yīng)用場(chǎng)景多樣化，隱私計(jì)算參與者很難通過(guò)直觀的方法驗(yàn)證所用產(chǎn)品的安全性。因此，有待建立隱私計(jì)算產(chǎn)品的系統(tǒng)性安全分類(lèi)分級(jí)標(biāo)準(zhǔn)和開(kāi)發(fā)相關(guān)安全驗(yàn)證工具。合規(guī)適配仍要探索隱私計(jì)算作為一種數(shù)據(jù)安全保護(hù)措施，通過(guò)原始數(shù)據(jù)最小化處理、去標(biāo)識(shí)化等安全保障方式有助于提升數(shù)據(jù)流通的合規(guī)性，但是和法律 的適配性仍要繼續(xù)探索。一是，就匿名化而言，當(dāng)存在反向推演出可 復(fù)原識(shí)別特定信息主體的可能性時(shí)，數(shù)據(jù)的使用仍需參與方獲得用戶 授權(quán)同意，而獲取個(gè)人完全符合法律要求的授權(quán)同意難度極高。二是，聯(lián)合建模過(guò)程中，隱私計(jì)算因交互傳輸梯度等衍生信息，存在泄露原 始數(shù)據(jù)的可能性，如參與方對(duì)隱私計(jì)算活動(dòng)怠于安全管理或

20、安全管理 不到位，將可能導(dǎo)致未盡安全管理義務(wù)等方面的合規(guī)風(fēng)險(xiǎn)。三是，部 分參與方可能會(huì)惡意合謀獲取其他參與方的數(shù)據(jù)，存在暴露或推導(dǎo)其 他方數(shù)據(jù)的隱患，如參與方之間不遵守合約和誠(chéng)信原則，將可能導(dǎo)致 非法獲取特定數(shù)據(jù)等方面的合規(guī)風(fēng)險(xiǎn)。四是輸出計(jì)算結(jié)果時(shí)，如不積 極采取包括技術(shù)、法律等多項(xiàng)防范措施予以防止，可能存在用戶的隱 私信息泄露風(fēng)險(xiǎn)，例如在金融機(jī)構(gòu)和征信機(jī)構(gòu)的聯(lián)合風(fēng)控場(chǎng)景中，若 泄露了借款人的個(gè)人身份標(biāo)識(shí)信息，則可能泄露借款人的借款需求。可用瓶頸亟需突破性能、穩(wěn)定性、可擴(kuò)展、互聯(lián)互通等可用性的需求強(qiáng)烈且要求高。一是密文計(jì)算消耗大量計(jì)算和通信負(fù)載，多方參與中最薄弱的一方或一環(huán)將成為計(jì)算瓶頸。二是

21、多節(jié)點(diǎn)、大規(guī)模應(yīng)用情況下，如金融、通信場(chǎng)景，需滿足同步在線、同步計(jì)算、實(shí)時(shí)響應(yīng)等要求。三是在隱私保護(hù)要求高、數(shù)據(jù)來(lái)源多、數(shù)據(jù)規(guī)模大分布廣、業(yè)務(wù)線條復(fù)雜、交互頻繁的場(chǎng)景中，為更好契合實(shí)際業(yè)務(wù)需求，對(duì)系統(tǒng)的穩(wěn)定性、可靠性、擴(kuò)展性、兼容性和場(chǎng)景支持能力等也提出了新的挑戰(zhàn)。四是目前市場(chǎng)上的系統(tǒng)產(chǎn)品大多閉源，平臺(tái)之間由于算法的復(fù)雜多樣、技術(shù)方案的不同、應(yīng)用生產(chǎn)環(huán)境組件的差異化難以互通，導(dǎo)致系統(tǒng)重復(fù)建設(shè)和增加用戶部署、運(yùn)營(yíng)成本，互聯(lián)互通壁壘或造就“數(shù)據(jù)群島”。建立信任是必經(jīng)之路隱私計(jì)算實(shí)現(xiàn)數(shù)據(jù)價(jià)值的流通，最終受益的對(duì)象是人，根本應(yīng)該是人信任技術(shù)。隱私計(jì)算的發(fā)展需要關(guān)注用戶的需求、背景等各種因素，建立信任原

22、則，隨著社會(huì)對(duì)隱私計(jì)算信任的提升，隱私計(jì)算技術(shù)將得到更廣泛的應(yīng)用，發(fā)揮更大的價(jià)值。各界高度關(guān)注隱私計(jì)算應(yīng)用。技術(shù)層面，學(xué)術(shù)界對(duì)安全的算法協(xié)議、安全效率的平衡等難題展開(kāi)研討，并一直保持火熱的研究態(tài)勢(shì)。政策層面，隱私計(jì)算技術(shù)應(yīng)用中的合規(guī)問(wèn)題探討持續(xù)進(jìn)行。企業(yè)層面，聯(lián)邦學(xué)習(xí) FATE 開(kāi)源社區(qū)提出了可信聯(lián)邦學(xué)習(xí)10，螞蟻集團(tuán)提出了可信密態(tài)計(jì)算11，從概念理念上開(kāi)始初步探索。行業(yè)層面，隱私計(jì)算聯(lián)盟（PPCA）、中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)大數(shù)據(jù)技術(shù)標(biāo)準(zhǔn)推進(jìn)委員會(huì)（CCSA TC601）、全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)（TC260）、北京金融科技產(chǎn)業(yè)聯(lián)盟、IEEE、ITU 等多個(gè)標(biāo)準(zhǔn)化組織積極布局隱私計(jì)算安全性、性

23、能標(biāo)準(zhǔn)，場(chǎng)景應(yīng)用規(guī)范、合規(guī)指南等內(nèi)容。本報(bào)告通過(guò)梳理隱私計(jì)算技術(shù)應(yīng)用中的主要原則，從供給側(cè)企業(yè)研發(fā)產(chǎn)品的角度提出了“可信隱私計(jì)算框架”，作為隱私計(jì)算產(chǎn)品落地指導(dǎo)的一套方法論，從應(yīng)用、產(chǎn)業(yè)等維度圍繞企業(yè)和行業(yè)的可信實(shí)踐進(jìn)行深入剖析，致力于在隱私計(jì)算技術(shù)原理和應(yīng)用實(shí)踐之間搭建起連接的橋梁。第二章可信隱私計(jì)算框架“可信”一詞近年來(lái)主要出現(xiàn)在計(jì)算機(jī)領(lǐng)域的“可信計(jì)算”（Trusted Computing，TC）的概念中?？尚庞?jì)算主要強(qiáng)調(diào)的是計(jì)算機(jī)系統(tǒng)和其處理過(guò)程的可預(yù)測(cè)性、可驗(yàn)證性，保證全部計(jì)算過(guò)程的可測(cè)可控和不被干擾，從而保證計(jì)算結(jié)果與預(yù)期的一致性。與傳統(tǒng)計(jì)算機(jī)領(lǐng)域不同，隱私計(jì)算是一個(gè)復(fù)雜的系統(tǒng)工程，

24、包含技術(shù)、法律等多方面應(yīng)用的考量，因此，隱私計(jì)算領(lǐng)域中可信的概念需要被重新詮釋?？尚烹[私計(jì)算在應(yīng)用過(guò)程中，其安全性、可用性和隱私保護(hù)能力等應(yīng)符合設(shè)計(jì)聲明預(yù)期，以滿足數(shù)據(jù)需求方、數(shù)據(jù)提供方和監(jiān)管方等各方的需求，一般包含安全可證、隱私保護(hù)、流程可控、高效穩(wěn)定、開(kāi)放普適等基本特征。圖 2 給出了可信隱私計(jì)算的總體框架。圖 2 可信隱私計(jì)算總體框架 支撐技術(shù)層面，圍繞著安全可證、隱私保護(hù)、流程可控、高效穩(wěn)定、開(kāi)放普適等可信的基本特征，以理論研究為抓手，彌補(bǔ)當(dāng)前技術(shù)的不足，縮小應(yīng)用的差距。例如研究能抵抗惡意攻擊、合謀攻擊的安全保護(hù)技術(shù)、研究保證精度損失可接受條件下性能有效提升的技術(shù)方法、研究保證計(jì)算全流

25、程可審計(jì)的技術(shù)方法等，都需要學(xué)術(shù)界和工業(yè)界的積極探索。企業(yè)實(shí)踐層面，隱私計(jì)算從概念驗(yàn)證到應(yīng)用落地依賴(lài)于企業(yè)將技術(shù)產(chǎn)品化。因此，企業(yè)在可信隱私計(jì)算的應(yīng)用實(shí)踐是可信方法中至關(guān)重要的環(huán)節(jié)。同時(shí)，應(yīng)該注意到?jīng)]有完美的技術(shù)，關(guān)鍵在于如何正確的使用技術(shù)，需要在產(chǎn)品研發(fā)使用的全生命周期過(guò)程中貫徹可信特征的要求，從產(chǎn)品源頭保證“可信”。行業(yè)組織層面，可信隱私計(jì)算需要整個(gè)行業(yè)的參與，包括可信隱私計(jì)算標(biāo)準(zhǔn)體系的建設(shè)、可信隱私計(jì)算評(píng)估測(cè)試等，通過(guò)可度量可驗(yàn)證的方式來(lái)減輕隱私計(jì)算技術(shù)和系統(tǒng)應(yīng)用帶來(lái)的風(fēng)險(xiǎn)。第三章可信隱私計(jì)算核心要素隨著社會(huì)各界對(duì)隱私計(jì)算信任問(wèn)題的不斷關(guān)注，可信隱私計(jì)算技術(shù)已成為研究領(lǐng)域的熱點(diǎn)。研究的焦

26、點(diǎn)主要圍繞隱私計(jì)算系統(tǒng)的安全性、隱私保護(hù)能力、效率、穩(wěn)定性、適用性、擴(kuò)展兼容、場(chǎng)景易用等方面的特性展開(kāi)，這些特性也構(gòu)成了可信隱私計(jì)算的核心要素。（一） 第一要素：安全可證安全可證是可信隱私計(jì)算的第一要素。隱私計(jì)算通過(guò)只輸出中間參數(shù)、標(biāo)簽等信息，或通過(guò)在可信受控環(huán)境中對(duì)數(shù)據(jù)進(jìn)行處理的方式，保障了數(shù)據(jù)的安全性，提高了數(shù)據(jù)流通的主動(dòng)性。但隱私計(jì)算的安全性自證是技術(shù)應(yīng)用過(guò)程中面臨的難題，隱私計(jì)算產(chǎn)品安全邊界的界定需要考慮不同行業(yè)、不同場(chǎng)景和不同技術(shù)的差別，也需要平衡計(jì)算準(zhǔn)確性和計(jì)算效率的要求。因此，如何評(píng)價(jià)和驗(yàn)證系統(tǒng)的安全性亟需明確。安全性評(píng)價(jià)維度雖然隱私計(jì)算的核心是計(jì)算，但是從技術(shù)應(yīng)用和產(chǎn)品的角度，

27、除了算法協(xié)議原理的安全性，還需綜合考慮算法工程化實(shí)現(xiàn)、產(chǎn)品使用的密碼模塊和通信框架、調(diào)度管理功能的設(shè)計(jì)與實(shí)現(xiàn)等多方面的安全性。評(píng)價(jià)維度主要包括以下四個(gè)方面，整體系統(tǒng)的安全性由其中最薄弱的環(huán)節(jié)來(lái)界定。一、算法協(xié)議安全直接劃定了產(chǎn)品整體的安全基線，通常在應(yīng)用中需根據(jù)具體的安全需求選擇不同算法，實(shí)現(xiàn)安全和效率的平衡。算法安全的評(píng)價(jià)維度主要包括：算法邏輯安全、安全假設(shè)、不誠(chéng)實(shí)門(mén)限、安全參數(shù)、數(shù)據(jù)保護(hù)程度以及算法實(shí)現(xiàn)安全等指標(biāo)。二、密碼安全是隱私計(jì)算安全的重要支撐。產(chǎn)品中各個(gè)功能模塊的保密性、完整性都需要密碼技術(shù)支撐，密碼安全的重要性毋庸置疑。密碼安全的評(píng)價(jià)維度主要包括：密碼算法安全強(qiáng)度、密碼算法使用正

28、確性、密鑰管理安全等。三、計(jì)算過(guò)程通常涉及大量的通信交互，為了防止交互過(guò)程泄露數(shù)據(jù)隱私，通信安全也需要得到保障。通信安全的評(píng)價(jià)維度主要包括：通信信道安全、通信數(shù)據(jù)的保密性與完整性、通信過(guò)程抗重放攻擊、通信數(shù)據(jù)篡改響應(yīng)等。四、平臺(tái)工程安全是產(chǎn)品安全的關(guān)鍵基礎(chǔ)。借助有效的身份認(rèn)證、訪問(wèn)控制等手段，保障平臺(tái)服務(wù)的保密性、完整性；還應(yīng)保證各項(xiàng)功能模塊的實(shí)現(xiàn)安全性，不應(yīng)存在已知的或已公布的高危安全漏洞。平臺(tái)工程安全的評(píng)價(jià)維度主要包括：授權(quán)認(rèn)證、系統(tǒng)安全（安全漏洞、端口開(kāi)放等）、存儲(chǔ)安全等。最后，隱私計(jì)算系統(tǒng)安全性度量應(yīng)該考慮攻擊者需要付出多大的努力來(lái)攻破給定的安全防護(hù)保障，以及信息泄露產(chǎn)生的后果或影響。

29、一方面，產(chǎn)品不存在絕對(duì)的安全，大部分商業(yè)應(yīng)用場(chǎng)景中，絕對(duì)安全的代價(jià)之高是難以承受的；另一方面，隱私計(jì)算的安全性需要結(jié)合性能、成本等因素綜合考慮以滿足場(chǎng)景的需求。為達(dá)成該目標(biāo)，可設(shè)置不同的安全等級(jí)來(lái)衡量、區(qū)分隱私計(jì)算的安全性強(qiáng)弱，根據(jù)實(shí)際應(yīng)用場(chǎng)景選擇適合的安全等級(jí)。在安全基線的設(shè)置上，應(yīng)覆蓋從產(chǎn)品基本的系統(tǒng)安全（如不存在中高危安全漏洞）到交互協(xié)議中信息熵泄露的審計(jì)能力和控制能力等各層級(jí)的安全要求。對(duì)通用場(chǎng)景，可信隱私計(jì)算應(yīng)滿足各個(gè)安全性維度的基礎(chǔ)安全要求，防止因某個(gè)脆弱點(diǎn)而導(dǎo)致數(shù)據(jù)隱私泄露問(wèn)題；對(duì)各類(lèi)安全假設(shè)、數(shù)據(jù)敏感性不同的應(yīng)用場(chǎng)景，產(chǎn)品應(yīng)選擇適合其場(chǎng)景特性的安全等級(jí)作為安全基線，在滿足該等級(jí)

30、安全目標(biāo)的前提下，盡可能地提升可用性。安全性可驗(yàn)證可信隱私計(jì)算的安全性應(yīng)是可驗(yàn)證、可度量的。驗(yàn)證隱私計(jì)算安全性的技術(shù)門(mén)檻較高，需要通過(guò)各類(lèi)方法對(duì)安全原理、安全實(shí)現(xiàn)等方面進(jìn)行審核驗(yàn)證。考慮到隱私計(jì)算的技術(shù)路線和產(chǎn)品比較豐富，安全性驗(yàn)證應(yīng)采用一個(gè)相對(duì)通用的尺度，端到端的進(jìn)行。根據(jù)驗(yàn)證角色的不同，驗(yàn)證形式主要有以下三種：一是權(quán)威機(jī)構(gòu)驗(yàn)證，指定權(quán)威的第三方機(jī)構(gòu)進(jìn)行詳細(xì)和盡可能全面的審核測(cè)試。例如中國(guó)信通院“可信隱私計(jì)算評(píng)測(cè)”通過(guò)產(chǎn)品資料審核、測(cè)試報(bào)告審核、質(zhì)詢與答疑、集中評(píng)議等環(huán)節(jié)對(duì)企業(yè)產(chǎn)品的安全性進(jìn)行全面評(píng)測(cè)12。二是對(duì)用戶開(kāi)放，授權(quán)用戶進(jìn)行審核驗(yàn)證，用戶根據(jù)業(yè)務(wù)需求及相關(guān)標(biāo)準(zhǔn)對(duì)產(chǎn)品進(jìn)行詳盡的審核。

31、該種驗(yàn)證形式要求用戶對(duì)安全性原理及其實(shí)現(xiàn)有充分的理解和把握。三是完全開(kāi)放（開(kāi)源），通過(guò)公開(kāi)代碼使得外界能夠完全了解技術(shù)原理和實(shí)現(xiàn)，可以接受行業(yè)專(zhuān)家的攻擊驗(yàn)證，一般具有一定活躍度的開(kāi)源項(xiàng)目的安全性更透明、安全風(fēng)險(xiǎn)更明確，安全性更容易得到保障。驗(yàn)證內(nèi)容主要包括：原理論證審查（如形式化證明、參考論文、專(zhuān)家審查報(bào)告等）、系統(tǒng)設(shè)計(jì)文檔審查（如算法協(xié)議、數(shù)據(jù)交互流程圖、安全設(shè)計(jì)說(shuō)明等）、核心代碼檢查、抓包報(bào)文分析、日志審核、模擬動(dòng)態(tài)攻防等。驗(yàn)證結(jié)果需滿足：原理（密碼算法、協(xié)議等）已驗(yàn)證有理論依據(jù)；系統(tǒng)設(shè)計(jì)符合安全性要求，與安全性原理材料保持一致；日志、代碼、報(bào)文顯示與安全性原理材料、系統(tǒng)設(shè)計(jì)文檔保持一致。

32、除此之外，還可采用基于安全攻防的深度安全評(píng)估和代碼形式化證明的方式進(jìn)一步驗(yàn)證。（二） 核心要素：隱私保護(hù)隱私計(jì)算的核心目標(biāo)是要保護(hù)隱私。個(gè)人隱私信息如個(gè)人身份標(biāo) 識(shí)、屬性行為、位置軌跡等一旦泄露、非法提供或?yàn)E用將會(huì)危害個(gè)人 或組織的相關(guān)權(quán)益?？尚烹[私計(jì)算通過(guò)技術(shù)手段對(duì)數(shù)據(jù)隱私進(jìn)行保護(hù)，并將進(jìn)一步保障數(shù)據(jù)使用可控，有效防止了數(shù)據(jù)的盜用、濫用和誤用?？尚烹[私計(jì)算要對(duì)全周期隱私信息有保護(hù)。數(shù)據(jù)在不同參與方實(shí)體之間流轉(zhuǎn)時(shí)，應(yīng)采用隱私計(jì)算等技術(shù)措施，增強(qiáng)個(gè)人對(duì)處理者的信任度，應(yīng)履行采取相應(yīng)的隱私保護(hù)技術(shù)措施的義務(wù)，防止未經(jīng)授權(quán)的個(gè)人信息泄露、篡改和丟失。隱私計(jì)算能夠?qū)崿F(xiàn)多個(gè)數(shù)據(jù)所有者在互不信任的情況下進(jìn)

33、行協(xié)同計(jì)算，輸出計(jì)算結(jié)果，并保證任何一方均無(wú)法得到除應(yīng)得的計(jì)算結(jié)果之外的其他信息。實(shí)踐中，可以通過(guò)區(qū)間化、泛化/有效位截?cái)唷-匿名、l-多樣性、t-接近、差分隱私等方法對(duì)個(gè)人身份標(biāo)識(shí)信息、屬性行為數(shù)據(jù)等進(jìn)行去標(biāo)識(shí)脫敏處理，結(jié)合密碼學(xué)技術(shù)、可信硬件等可信受控環(huán)境將數(shù)據(jù)轉(zhuǎn)化為密態(tài)數(shù)據(jù)，從而實(shí)現(xiàn)相對(duì)匿名化。此外在計(jì)算過(guò)程中，保證原始數(shù)據(jù)隱私信息不泄露的前提下，應(yīng) 對(duì)信息熵的保護(hù)程度進(jìn)行識(shí)別、度量和控制，滿足不同場(chǎng)景、不同數(shù) 據(jù)生命周期內(nèi)對(duì)用戶隱私信息保護(hù)的要求。例如在結(jié)果對(duì)外輸出前，可以進(jìn)行差分隱私、泛化等處理，從而降低從結(jié)果中泄漏隱私信息的 風(fēng)險(xiǎn)。以差分隱私為例，在數(shù)據(jù)結(jié)果上增加可度量的噪聲預(yù)算

34、，用于 控制結(jié)果中信息熵不超過(guò)一定的閾值，進(jìn)而保護(hù)原始數(shù)據(jù)的隱私信息，也有助于實(shí)現(xiàn)全周期隱私信息最小可見(jiàn)。（三） 信任基礎(chǔ)：流程可控隱私計(jì)算雖有不同的技術(shù)路線，但是由于涉及多個(gè)參與方、普遍依賴(lài)密碼學(xué)方法進(jìn)行計(jì)算，所以數(shù)據(jù)使用的可控可計(jì)量、計(jì)算流程的可監(jiān)控、全流程的可審計(jì)等至關(guān)重要，這些也是用戶信賴(lài)隱私計(jì)算產(chǎn)品的基礎(chǔ)。事前明確授權(quán)為保證數(shù)據(jù)使用的合規(guī)性，應(yīng)事先對(duì)涉及的個(gè)人信息、商業(yè)秘密等隱私信息進(jìn)行去標(biāo)識(shí)化、脫敏等處理，并保證已獲得數(shù)據(jù)方授權(quán)。數(shù)據(jù)授權(quán)時(shí)應(yīng)明確授權(quán)主體，授權(quán)條件、授權(quán)內(nèi)容、數(shù)據(jù)使用范圍，明確業(yè)務(wù)過(guò)程所應(yīng)用的隱私計(jì)算技術(shù)類(lèi)型以及全過(guò)程所涉及的個(gè)人信息處理方式。通過(guò)數(shù)據(jù)預(yù)處理、假名化

35、、加密、去標(biāo)識(shí)化、原始數(shù)據(jù)與計(jì)算數(shù)據(jù)分離等方式，避免在后續(xù)的數(shù)據(jù)流通過(guò)程中產(chǎn)生模糊不清的地方。獲取數(shù)據(jù)主體授權(quán)的服務(wù)平臺(tái)可以通過(guò)區(qū)塊鏈上的可信記錄結(jié)合零知識(shí)證明等隱私計(jì)算技術(shù)對(duì)授權(quán)主體進(jìn)行去中心化身份認(rèn)證等措施保障授權(quán)行為的真實(shí)性驗(yàn)證和可回溯查證。此外，可信隱私計(jì)算也應(yīng)事先建立應(yīng)急響應(yīng)機(jī)制和相應(yīng)的風(fēng)險(xiǎn)防范預(yù)案。一旦發(fā)現(xiàn)數(shù)據(jù)使用者有不合規(guī)的行為，數(shù)據(jù)持有方可以通過(guò)銷(xiāo)毀授權(quán)憑證來(lái)撤銷(xiāo)對(duì)數(shù)據(jù)使用者的授權(quán)，即使數(shù)據(jù)使用者留存了加密后的共享數(shù)據(jù)，也會(huì)因?yàn)闊o(wú)法解密而失去使用價(jià)值。事中過(guò)程可監(jiān)控隱私計(jì)算通過(guò)密態(tài)數(shù)據(jù)的計(jì)算來(lái)實(shí)現(xiàn)數(shù)據(jù)價(jià)值的流通，為滿足隱私計(jì)算流程的有序合規(guī)，應(yīng)保證計(jì)算過(guò)程可監(jiān)控、數(shù)據(jù)使用可控可

36、管。區(qū)塊鏈技術(shù)和可信硬件相關(guān)技術(shù)常常被融合應(yīng)用于數(shù)據(jù)流通管控機(jī)制中。例如首先通過(guò)區(qū)塊鏈進(jìn)行分布式多方可信的數(shù)據(jù)目錄管理，利用可信執(zhí)行環(huán)境、可信平臺(tái)模塊（TPM）和智能合約等保障數(shù)據(jù)用途、用法、用量的可控可管。其次基于區(qū)塊鏈智能合約技術(shù)，通過(guò)白名單、合約終止、合約銷(xiāo)毀、共識(shí)投票等方式對(duì)存在問(wèn)題的合約進(jìn)行處理，進(jìn)一步提升隱私計(jì)算的可控性。事后可驗(yàn)證可審計(jì)計(jì)算過(guò)程應(yīng)滿足可驗(yàn)證。計(jì)算過(guò)程既決定了數(shù)據(jù)是否按照設(shè)計(jì)的協(xié)議嚴(yán)格執(zhí)行，也決定了計(jì)算結(jié)果是否正確。計(jì)算過(guò)程的可驗(yàn)證性結(jié)合可驗(yàn)證計(jì)算協(xié)議來(lái)實(shí)現(xiàn)。基于復(fù)雜性理論的交互式證明系統(tǒng)、概率可驗(yàn)證證明系統(tǒng)或密碼學(xué)理論構(gòu)造的可驗(yàn)證計(jì)算協(xié)議能夠以較高的正確率判斷出計(jì)

37、算過(guò)程是否正確。另外，類(lèi)似可信執(zhí)行環(huán)境等擁有硬件可信計(jì)算基的計(jì)算環(huán)境也能夠?qū)ν獠肯到y(tǒng)提供計(jì)算一致性度量，基于遠(yuǎn)程證明機(jī)制可以提供計(jì)算過(guò)程的可信驗(yàn)證能力。除此之外，隱私計(jì)算全過(guò)程也應(yīng)滿足可審計(jì)可追溯。將隱私計(jì)算全過(guò)程中各參與方的操作行為、模型參數(shù)、狀態(tài)信息、計(jì)算過(guò)程、數(shù)據(jù)的訪問(wèn)記錄等信息進(jìn)行存證，保證隱私計(jì)算的可審計(jì)性。與隱私計(jì)算結(jié)合的區(qū)塊鏈技術(shù)擁有多方參與、數(shù)據(jù)全節(jié)點(diǎn)可見(jiàn)、鏈上數(shù)據(jù)可追溯、不可篡改的特點(diǎn)，因此常用于輔助存證審計(jì)。例如，參與方通過(guò)對(duì)用于模型訓(xùn)練和預(yù)測(cè)的運(yùn)行代碼和中間數(shù)據(jù)進(jìn)行存證，確保整個(gè)訓(xùn)練和預(yù)測(cè)過(guò)程中的可復(fù)現(xiàn)性與不可抵賴(lài)性。參與方也可對(duì)數(shù)據(jù)流通過(guò)程中的關(guān)鍵安全事件進(jìn)行記錄，如對(duì)

38、敏感事件（訪問(wèn)其它參與方的數(shù)據(jù)等）、關(guān)鍵事件（非授權(quán)或不合法的行為等）、出域的數(shù)據(jù)傳輸?shù)仁马?xiàng)進(jìn)行存證，從而提升隱私計(jì)算的透明性與可信度，降低責(zé)任追溯的難度。（四） 落地抓手：高效穩(wěn)定除了具備安全可證、隱私保護(hù)、流程可控，想要實(shí)現(xiàn)隱私計(jì)算系 統(tǒng)的真實(shí)可用和場(chǎng)景落地，高效穩(wěn)定是可信隱私計(jì)算應(yīng)用的重要抓手。性能可用計(jì)算性能瓶頸亟需突破。首先，隱私計(jì)算的安全性、計(jì)算效率與計(jì)算精度之間存在一定程度上的矛盾。一是為了實(shí)現(xiàn)計(jì)算安全性，理論上來(lái)看隱私計(jì)算一定會(huì)付出比明文計(jì)算更大的計(jì)算和存儲(chǔ)代價(jià)，目前與明文相比至少有 1-2 個(gè)數(shù)量級(jí)的差距。二是某些特定算法（如差分隱私）雖然效率高但是會(huì)損失部分精度，導(dǎo)致計(jì)算結(jié)

39、果與明文存在一定程度的偏差。其次，多個(gè)參與方之間的多輪信息交互，通信開(kāi)銷(xiāo)較大，部分應(yīng)用場(chǎng)景中數(shù)據(jù)規(guī)模大、數(shù)據(jù)具有異構(gòu)性且計(jì)算實(shí)時(shí)性要求高。因此，可信隱私計(jì)算系統(tǒng)應(yīng)在保證數(shù)據(jù)安全和精度可接受的前提下，盡量支持大規(guī)模、高并發(fā)計(jì)算以及滿足業(yè)務(wù)場(chǎng)景的特定要求（如金融場(chǎng)景模型在線推理的實(shí)時(shí)性要求）。產(chǎn)品可以通過(guò)分布式并行計(jì)算、算法優(yōu)化（如降低算法耦合度）、通信優(yōu)化（如通過(guò)模型壓縮減少通信量）以及軟硬結(jié)合（如計(jì)算加速卡、專(zhuān)用密碼計(jì)算設(shè)備、一體機(jī)）等多種方式來(lái)進(jìn)一步提升性能。穩(wěn)定可靠系統(tǒng)可靠性是系統(tǒng)可用時(shí)間占總時(shí)間的比例，當(dāng)大規(guī)模應(yīng)用時(shí)，可信隱私計(jì)算系統(tǒng)的可靠性應(yīng)滿足場(chǎng)景需求，達(dá)到 99%以上，甚至到 99

40、.999%。一方面，系統(tǒng)應(yīng)通過(guò)一系列技術(shù)手段來(lái)降低故障發(fā)生的概率。如通過(guò)災(zāi)備設(shè)計(jì)（主備、多活等）使得在單節(jié)點(diǎn)出現(xiàn)故障時(shí)可自動(dòng)隔離及切換；在服務(wù)器、硬盤(pán)、網(wǎng)絡(luò)、節(jié)點(diǎn)等出現(xiàn)故障后，可以進(jìn)行自動(dòng)容災(zāi)恢復(fù)，包括數(shù)據(jù)的備份和恢復(fù)、計(jì)算任務(wù)的恢復(fù)等。另一方面，系統(tǒng)也要降低故障發(fā)生后的影響范圍。分布式系統(tǒng)的各服務(wù)節(jié)點(diǎn)需要具備完善的日志、監(jiān)控指標(biāo)、鏈路追蹤等可觀測(cè)手段，準(zhǔn)確觀測(cè)系統(tǒng)（網(wǎng)絡(luò)、內(nèi)存等）運(yùn)行情況，通過(guò)監(jiān)控告警及時(shí)定位并處理問(wèn)題，有效提升故障發(fā)生后的處理效率。（五） 規(guī)模化前提：開(kāi)放普適日漸增加的隱私計(jì)算產(chǎn)品在豐富市場(chǎng)選擇的同時(shí)也帶來(lái)了新的需求，一是技術(shù)實(shí)現(xiàn)方法的多樣化使得不同技術(shù)平臺(tái)所托管的數(shù)據(jù)無(wú)法

41、跨平臺(tái)交互，可能造成“計(jì)算孤島”現(xiàn)象，由此市場(chǎng)對(duì)平臺(tái)的開(kāi)放擴(kuò)展兼容能力、互聯(lián)互通能力提出了新的要求；二是系統(tǒng)操作簡(jiǎn)便、容易部署、容易運(yùn)維也是實(shí)現(xiàn)各行業(yè)場(chǎng)景落地、規(guī)?；瘧?yīng)用必不可少的前提條件。開(kāi)放靈活為了應(yīng)對(duì)將來(lái)需求的變化，可信隱私計(jì)算系統(tǒng)要具備可擴(kuò)展、可遷移、可兼容、互聯(lián)互通等特性，從而降低用戶使用成本。開(kāi)放性方面，隱私計(jì)算系統(tǒng)應(yīng)具備可兼容的能力，如支持隱私計(jì)算主流技術(shù)、相關(guān)輔助技術(shù)等不同技術(shù)之間的融合，支持隱私計(jì)算系統(tǒng)與大數(shù)據(jù) ETL 系統(tǒng)、數(shù)據(jù)倉(cāng)庫(kù)、機(jī)器學(xué)習(xí)算法庫(kù)等用戶系統(tǒng)的兼容性。同時(shí)，系統(tǒng)也需盡量具備跨平臺(tái)產(chǎn)品互聯(lián)互通的能力，具備用戶二次開(kāi)發(fā)的能力，從而降低隱私計(jì)算技術(shù)應(yīng)用的門(mén)檻。靈活

42、性方面，隱私計(jì)算系統(tǒng)需具備可擴(kuò)展的能力，如支持任意的參與方數(shù)量、支持組件熱插拔、組件熱升級(jí)等；具備可遷移的能力，如支持內(nèi)部的計(jì)算、存儲(chǔ)、通信、調(diào)度等多個(gè)模塊之間根據(jù)不同業(yè)務(wù)場(chǎng)景的需求實(shí)現(xiàn)不同層次的解耦，進(jìn)一步實(shí)現(xiàn)不同模塊跨異構(gòu)平臺(tái)的模塊化遷移使用。場(chǎng)景易用可信隱私計(jì)算系統(tǒng)易用性主要包括：支持如數(shù)據(jù)管理、任務(wù)管理、模型管理等交互操作界面和可視化拖拉拽操作，降低用戶理解、學(xué)習(xí)和使用的成本；提供算法開(kāi)發(fā)框架，方便用戶二次自定義算法；能在物理機(jī)、云環(huán)境、虛擬機(jī)等多種環(huán)境部署，且支持容器化部署；具備完善的部署和操作說(shuō)明文檔，方便用戶理解、部署、使用和運(yùn)維。同時(shí)，還需要滿足業(yè)務(wù)場(chǎng)景的特定要求，切實(shí)做到可用

43、易用，實(shí)現(xiàn)普適隱私計(jì)算。第四章可信隱私計(jì)算實(shí)踐路徑結(jié)合可信隱私計(jì)算的核心要素，本報(bào)告從企業(yè)、行業(yè)兩個(gè)層面總結(jié)提出了可信隱私計(jì)算的實(shí)踐路徑。企業(yè)層面，需要將可信隱私計(jì)算的要求嵌入到產(chǎn)品設(shè)計(jì)、研發(fā)、測(cè)試、運(yùn)營(yíng)使用的全流程中；行業(yè)層面，需要構(gòu)建可信隱私計(jì)算標(biāo)準(zhǔn)體系、開(kāi)展評(píng)估驗(yàn)證，從而推動(dòng)隱私計(jì)算技術(shù)規(guī)范應(yīng)用，完善整個(gè)產(chǎn)業(yè)生態(tài)。（一） 企業(yè)層面，將可信要素嵌入系統(tǒng)研發(fā)應(yīng)用全流程規(guī)劃設(shè)計(jì)階段企業(yè)在隱私計(jì)算系統(tǒng)生命周期的開(kāi)始就需要充分考慮落實(shí)可信隱私計(jì)算的核心原則，將可信的理念根植于需求分析和系統(tǒng)詳細(xì)設(shè)計(jì)等規(guī)劃設(shè)計(jì)的關(guān)鍵環(huán)節(jié)中，從而使后續(xù)的研發(fā)過(guò)程能夠始終符合可信的核心要求。研發(fā)測(cè)試階段安全可靠方面，著力

44、提升隱私計(jì)算系統(tǒng)自身的安全能力。例如，提高算法協(xié)議抵抗惡意攻擊、合謀風(fēng)險(xiǎn)的能力，提高對(duì)惡意攻擊檢測(cè)和追溯的能力；發(fā)生安全性問(wèn)題時(shí)，應(yīng)具備應(yīng)急處理機(jī)制或直接終止計(jì)算任務(wù)的能力。隱私保護(hù)方面，積極采取相關(guān)技術(shù)措施，防止未經(jīng)授權(quán)的個(gè)人隱私信息的泄露、篡改和丟失；開(kāi)展信息熵識(shí)別、度量和控制的相關(guān)技術(shù)研究，對(duì)不同計(jì)算場(chǎng)景下泄露的信息熵進(jìn)行嚴(yán)格控制。流程可控方面，保證計(jì)算過(guò)程的可監(jiān)控、計(jì)算全流程的可審計(jì)、提升 系統(tǒng)的問(wèn)題可追溯能力，確保系統(tǒng)及服務(wù)的可信性。高效穩(wěn)定方面，基于理論研究、工程實(shí)現(xiàn)持續(xù)重點(diǎn)提高計(jì)算性能，以滿足更多業(yè)務(wù)場(chǎng) 景的需求。開(kāi)放普適方面，加強(qiáng)企業(yè)間合作、加快互聯(lián)互通規(guī)范落地， 持續(xù)提升產(chǎn)品

45、易用性，從而推動(dòng)行業(yè)場(chǎng)景規(guī)模落地。運(yùn)營(yíng)使用階段在隱私計(jì)算系統(tǒng)落地運(yùn)營(yíng)使用階段，需要做好運(yùn)維及后續(xù)保障工作，需要持續(xù)監(jiān)測(cè)隱私計(jì)算系統(tǒng)的各項(xiàng)可信風(fēng)險(xiǎn)，持續(xù)優(yōu)化隱私計(jì)算系統(tǒng)。（二） 行業(yè)層面，打造可信隱私計(jì)算產(chǎn)業(yè)生態(tài)可信隱私計(jì)算的實(shí)現(xiàn)不僅僅是企業(yè)的實(shí)踐就足夠，更需要多方參與協(xié)同，最終形成一個(gè)相互影響、相互支持、相互依賴(lài)的良性生態(tài)。首先，標(biāo)準(zhǔn)化組織積極構(gòu)建可信隱私計(jì)算的標(biāo)準(zhǔn)體系。政策法律只能規(guī)定原則和底線，需要標(biāo)準(zhǔn)從可執(zhí)行可落地的層面進(jìn)行具體指導(dǎo)和約束。目前，CCSA TC601、TC260、IEEE、ITU 等多個(gè)標(biāo)準(zhǔn)化組織已經(jīng)發(fā)布或正在編制多個(gè)隱私計(jì)算產(chǎn)品或應(yīng)用場(chǎng)景的相關(guān)標(biāo)準(zhǔn)規(guī)范。例如，今年 6

46、月人工智能 隱私保護(hù)機(jī)器學(xué)習(xí)系統(tǒng)技術(shù)要求和人工智能 可信聯(lián)邦學(xué)習(xí)技術(shù)規(guī)范國(guó)家標(biāo)準(zhǔn)召開(kāi)標(biāo)準(zhǔn)草案編制會(huì)，中國(guó)信通院聯(lián)合隱私計(jì)算聯(lián)盟編制金融場(chǎng)景應(yīng)用規(guī)范隱私計(jì)算 面向金融場(chǎng)景的應(yīng)用規(guī)范。其次，權(quán)威機(jī)構(gòu)積極開(kāi)展企業(yè)產(chǎn)品的評(píng)測(cè)驗(yàn)證。權(quán)威機(jī)構(gòu)評(píng)測(cè)是檢驗(yàn)?zāi)繕?biāo)對(duì)象是否達(dá)到相關(guān)要求的有效手段，由于隱私計(jì)算技術(shù)的復(fù)雜性，更加需要專(zhuān)業(yè)的第三方機(jī)構(gòu)給予全力支持。圍繞可信隱私計(jì)算的核心特征，要重點(diǎn)考慮隱私計(jì)算系統(tǒng)的安全性、隱私保護(hù)能力、流程可審計(jì)性、性能、穩(wěn)定性和場(chǎng)景應(yīng)用等方面的表現(xiàn)。中國(guó)信通院云大所、隱私計(jì)算聯(lián)盟自從 2019 年至今，已經(jīng)進(jìn)行 6 個(gè)批次的“可信隱私計(jì)算評(píng)測(cè)”，涉及 102 家企業(yè)、124 個(gè)產(chǎn)品的

47、評(píng)測(cè)13，已經(jīng)成為供給側(cè)產(chǎn)品研發(fā)和需求側(cè)采購(gòu)選型的風(fēng)向標(biāo)。第五章可信隱私計(jì)算發(fā)展建議打造可信賴(lài)的隱私計(jì)算系統(tǒng)已經(jīng)成為各界關(guān)注的焦點(diǎn)和努力的方向。通過(guò)實(shí)踐可信隱私計(jì)算方法論，有助于提升隱私計(jì)算的可信水平，讓其更好的被社會(huì)大眾接受?？尚烹[私計(jì)算并非一成不變，而是伴隨著法律法規(guī)的完善、隱私計(jì)算技術(shù)的發(fā)展，將會(huì)不斷演進(jìn)以適應(yīng)新的發(fā)展需要，因此，各方需要從更加務(wù)實(shí)的角度出發(fā)，積極協(xié)作共建可信隱私計(jì)算體系。（一） 政府層面，推進(jìn)我國(guó)隱私計(jì)算監(jiān)管進(jìn)程積極推進(jìn)隱私計(jì)算監(jiān)管細(xì)節(jié)落地和監(jiān)管工具研發(fā)。目前尚無(wú)相關(guān)政府指南文件與產(chǎn)業(yè)工程實(shí)踐具體結(jié)合，在數(shù)據(jù)流通的迫切需求下，亟需推進(jìn)制定數(shù)據(jù)合規(guī)流通的細(xì)則文件，從而細(xì)化

48、隱私計(jì)算產(chǎn)品的監(jiān)管要求。與此同時(shí)，隱私計(jì)算企業(yè)如雨后春筍般涌現(xiàn)，紛紛入局研發(fā)產(chǎn)品，但是產(chǎn)品的可監(jiān)管性仍有待提升，可以通過(guò)研發(fā)智能化監(jiān)管工具，提高監(jiān)管效率和靈活性。（二） 技術(shù)層面，全面進(jìn)行技術(shù)前瞻性攻關(guān)研究開(kāi)展可信隱私計(jì)算一體化研究，將是未來(lái)重點(diǎn)趨勢(shì)。當(dāng)前針對(duì)可信隱私計(jì)算的研究多是從安全性、可用性、易用性等維度開(kāi)展的單一研究。已有工作表明安全性、效率、精度等不同要求之間存在相互制約的關(guān)系，若只考慮單一的要求會(huì)造成其他要求的沖突。因此，需要針對(duì)可信隱私計(jì)算構(gòu)建一體化研究框架，實(shí)現(xiàn)不同要素的最優(yōu)動(dòng)態(tài)平衡。積極探索促進(jìn)數(shù)據(jù)流通的技術(shù)，進(jìn)行前瞻性布局。目前隱私計(jì)算系統(tǒng)主要基于多方安全計(jì)算、聯(lián)邦學(xué)習(xí)和可信執(zhí)行環(huán)境三大方法進(jìn)行設(shè)計(jì)研發(fā)，隨