人工智能數(shù)據(jù)安全白皮書

(2019年)2019年8月版權(quán)聲明本白皮書版權(quán)屬于中國(guó)信息通信研究院安全研究所，并人工智能應(yīng)用也給數(shù)據(jù)安全帶來嚴(yán)峻挑戰(zhàn),如何應(yīng)對(duì)人工智能場(chǎng)景下 2 3 5 5 7 人工智能數(shù)據(jù)安全白皮書（2019年）1一、人工智能數(shù)據(jù)安全概述（一）人工智能安全智能因其突出的數(shù)據(jù)分析、知識(shí)提取、自主效管控人工智能安全風(fēng)險(xiǎn)并積極促進(jìn)人工智圖1人工智能安全體系架構(gòu)圖人工智能數(shù)據(jù)安全白皮書（2019年）（二）人工智能數(shù)據(jù)安全內(nèi)涵發(fā)展研究中心將大數(shù)據(jù)質(zhì)量和可用性作為評(píng)價(jià)政府人工智能準(zhǔn)備指數(shù)的重要考察項(xiàng)1。美國(guó)歐亞集團(tuán)咨詢公司將數(shù)據(jù)數(shù)量和質(zhì)量視為衡量人工智能發(fā)展?jié)摿Φ闹匾u(píng)價(jià)指標(biāo)2。另一方面，人工智能顯著提一步優(yōu)化，更好地實(shí)現(xiàn)對(duì)收集的海量數(shù)據(jù)進(jìn)行快速分析和分類管理。2人工智能數(shù)據(jù)安全白皮書（2019年）3學(xué)習(xí)和自主決策能力可有效緩解現(xiàn)有數(shù)據(jù)安全技術(shù)手段對(duì)專業(yè)人員應(yīng)對(duì)人工智能自身面臨和應(yīng)用導(dǎo)致及加劇的數(shù)據(jù)安全風(fēng)險(xiǎn)與治理挑（三）人工智能數(shù)據(jù)安全體系架構(gòu)人工智能數(shù)據(jù)安全白皮書（2019年）4人工智能數(shù)據(jù)安全風(fēng)險(xiǎn)訓(xùn)練數(shù)據(jù)污染運(yùn)行數(shù)據(jù)異常數(shù)據(jù)逆向還原開源框架風(fēng)險(xiǎn)數(shù)據(jù)過度采集數(shù)據(jù)偏見歧視數(shù)據(jù)資源濫用數(shù)據(jù)智能竊取數(shù)據(jù)深度偽造訓(xùn)練數(shù)據(jù)污染運(yùn)行數(shù)據(jù)異常數(shù)據(jù)逆向還原開源框架風(fēng)險(xiǎn)數(shù)據(jù)過度采集數(shù)據(jù)偏見歧視數(shù)據(jù)資源濫用數(shù)據(jù)智能竊取數(shù)據(jù)深度偽造數(shù)據(jù)權(quán)屬問題數(shù)據(jù)違規(guī)跨境人工智能數(shù)據(jù)安全應(yīng)用圖2人工智能數(shù)據(jù)安全體系架構(gòu)圖工智能數(shù)據(jù)安全治理的起因,包含人工智能自身面臨的數(shù)據(jù)安全風(fēng)智能化數(shù)據(jù)活動(dòng)安全保護(hù)以及高效化數(shù)據(jù)安全事件管理方面的應(yīng)用。人工智能數(shù)據(jù)安全治理是應(yīng)對(duì)人工智能數(shù)據(jù)安全風(fēng)險(xiǎn)和促進(jìn)人工智人工智能數(shù)據(jù)安全白皮書（2019年）5二、人工智能數(shù)據(jù)安全風(fēng)險(xiǎn)（一）人工智能自身面臨的數(shù)據(jù)安全風(fēng)險(xiǎn)主要反映了數(shù)據(jù)關(guān)聯(lián)性和特征統(tǒng)計(jì)，而沒有真正獲取數(shù)人工智能數(shù)據(jù)安全白皮書（2019年）6機(jī)器學(xué)習(xí)模型的隱私泄露問題,提出了一種成員推理攻擊，在對(duì)模型人工智能數(shù)據(jù)安全白皮書（2019年）人員無需關(guān)注底層實(shí)現(xiàn)細(xì)節(jié)，大大提高了人工存在未知安全漏洞。近年來，360、騰訊等企業(yè)安全團(tuán)隊(duì)曾多次發(fā)現(xiàn)（二）人工智能應(yīng)用導(dǎo)致的數(shù)據(jù)安全風(fēng)險(xiǎn)不變性，一旦被泄露或者濫用會(huì)對(duì)公民權(quán)益將造成嚴(yán)重影響。20187人工智能數(shù)據(jù)安全白皮書（2019年）8的社會(huì)偏見或歧視影響，其決策結(jié)果勢(shì)必威脅人類社族裔、女性或者有心理疾病史的人更難找到工作；在人工智能數(shù)據(jù)安全白皮書（2019年）9選擇受到影響，甚至威脅到社會(huì)穩(wěn)定和國(guó)家安全。2018年曝光的“Facebook數(shù)據(jù)泄露”事件中，美國(guó)劍橋分析公司利用廣告定向、和政治觀點(diǎn)的干預(yù)誘導(dǎo)，影響美國(guó)大選、英國(guó)脫歐等政治事件走向。基底(noisefloor)”技術(shù)可對(duì)特定環(huán)境進(jìn)行情報(bào)轟炸，給威脅情報(bào)人工智能數(shù)據(jù)安全白皮書（2019年）犯罪，案件中黑客利用人工智能識(shí)別圖片驗(yàn)證碼的正確率高達(dá)95%以的虛假信息內(nèi)容。特別是近年來基于生成對(duì)抗網(wǎng)絡(luò)（GAN）的人工智能數(shù)據(jù)安全白皮書（2019年）人臉識(shí)別技術(shù)和基于聲紋的語音識(shí)別技術(shù)均屬于典型的生物特征識(shí)（三）人工智能應(yīng)用加劇的數(shù)據(jù)治理挑戰(zhàn)戶個(gè)人隱私信息含金量高，是人工智能技術(shù)與產(chǎn)業(yè)發(fā)展的重要驅(qū)動(dòng)。相關(guān)機(jī)構(gòu)在利用用戶數(shù)據(jù)追求自身利益時(shí)往往忽視用戶個(gè)人隱私權(quán)人工智能數(shù)據(jù)安全白皮書（2019年）人工智能數(shù)據(jù)安全白皮書（2019年）三、人工智能數(shù)據(jù)安全應(yīng)用（一）人工智能與數(shù)據(jù)安全治理人工智能數(shù)據(jù)安全白皮書（2019年）年內(nèi)具備取代40-50%崗位的技術(shù)能力，主要集中在重復(fù)性勞動(dòng)、有人工智能數(shù)據(jù)安全白皮書（2019年）理等技術(shù)彌補(bǔ)傳統(tǒng)數(shù)據(jù)處理耗時(shí)長(zhǎng)、效率低等弱項(xiàng)（二）人工智能在數(shù)據(jù)安全治理中的應(yīng)用2018年5月，Gartner發(fā)布數(shù)據(jù)安全治理（DataSecurity人工智能數(shù)據(jù)安全白皮書（2019年）制到技術(shù)工具、全方位覆蓋整個(gè)組織架構(gòu)的完整數(shù)據(jù)本白皮書借鑒國(guó)內(nèi)外主流數(shù)據(jù)安全治理框架并結(jié)合人工智能數(shù)人工智能數(shù)據(jù)安全白皮書（2019年）圖3人工智能在數(shù)據(jù)安全治理中的應(yīng)用傳統(tǒng)的策略制定過程中用來輔助決策的日志數(shù)據(jù)和警報(bào)數(shù)量巨大，決策者難以快速處理，因此傳統(tǒng)方式主人工智能數(shù)據(jù)安全白皮書（2019年）全初創(chuàng)企業(yè)思睿嘉得利用無監(jiān)督機(jī)器學(xué)習(xí)引擎分析大量未經(jīng)標(biāo)注的浙江省旅游信息中心聯(lián)合廈門杜若科技公司開展了浙江省旅游度假數(shù)據(jù)進(jìn)行開放式訓(xùn)練,對(duì)數(shù)據(jù)進(jìn)行分級(jí)分類并實(shí)現(xiàn)基于自然語言的數(shù)人工智能數(shù)據(jù)安全白皮書（2019年）歌大腦成功開發(fā)出兩個(gè)獨(dú)立的人工智能加密算法,不但能夠防范第三將惡意代碼映射為圖像,提取圖像特征,建立人工智能模型,利用惡意代碼家族圖像樣本集訓(xùn)練檢測(cè)模型,能夠快速識(shí)別惡意代碼變種及其人工智能數(shù)據(jù)安全白皮書（2019年）榮之聯(lián)推出的智慧商業(yè)情報(bào)大數(shù)據(jù)平臺(tái)依托人工智能技術(shù)建立用戶人工智能數(shù)據(jù)安全白皮書（2019年）人工智能數(shù)據(jù)安全白皮書（2019年）工智能+金融”服務(wù)平臺(tái)，構(gòu)建了億級(jí)別的高維機(jī)器學(xué)習(xí)模型，能夠高效、精準(zhǔn)識(shí)別欺詐交易，智能反洗錢。該平臺(tái)在某銀行線上B2C人工智能數(shù)據(jù)安全白皮書（2019年）治理技術(shù)支撐體系仍面臨諸多挑戰(zhàn)。歐洲市場(chǎng)研究和咨詢服務(wù)公司然而，同樣要理性認(rèn)識(shí)到，人工智能作為一項(xiàng)新興的底層通用技術(shù)，四、國(guó)內(nèi)外人工智能數(shù)據(jù)安全治理動(dòng)態(tài)人工智能數(shù)據(jù)安全白皮書（2019年）（一）國(guó)內(nèi)外人工智能數(shù)據(jù)安全戰(zhàn)略規(guī)劃情況工智能研發(fā)人員和企業(yè)的開放。二是加強(qiáng)對(duì)數(shù)據(jù)安全問題的應(yīng)對(duì)。要求所有機(jī)構(gòu)負(fù)責(zé)人審查各自聯(lián)邦數(shù)據(jù)和模型，注2、歐盟：細(xì)化人工智能數(shù)據(jù)規(guī)則，關(guān)注個(gè)人人工智能數(shù)據(jù)安全白皮書（2019年）2016年11月，英國(guó)政府科學(xué)辦公室發(fā)布《人工智能：未來決4、日本：構(gòu)建數(shù)據(jù)驅(qū)動(dòng)與知識(shí)驅(qū)動(dòng)融合型人工智能，鼓勵(lì)協(xié)同人工智能數(shù)據(jù)安全白皮書（2019年）5、印度：充分挖掘本國(guó)人工智能發(fā)展優(yōu)勢(shì)，關(guān)注數(shù)據(jù)安全和隱6、我國(guó)：高度重視數(shù)據(jù)集建設(shè)，推進(jìn)人工智能安全應(yīng)用，防范人工智能數(shù)據(jù)安全白皮書（2019年）一是高度重視基礎(chǔ)數(shù)據(jù)集建設(shè)，推進(jìn)數(shù)據(jù)開放。2016年，發(fā)改委發(fā)布《互聯(lián)網(wǎng)+人工智能三年行動(dòng)實(shí)施方案》提出加快建設(shè)文獻(xiàn)、2020年人工智能產(chǎn)業(yè)支撐體系基本建立，具備一定規(guī)模的高質(zhì)量標(biāo)人工智能數(shù)據(jù)安全白皮書（2019年）（二）國(guó)內(nèi)外人工智能數(shù)據(jù)安全倫理規(guī)范情況人工智能數(shù)據(jù)安全白皮書（2019年）智能的技術(shù)路線，不斷強(qiáng)化人工智能應(yīng)用中的用戶隱私保護(hù)。2019代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，將“尊重隱私”人工智能數(shù)據(jù)安全白皮書（2019年）人工智能數(shù)據(jù)安全倫理的社會(huì)影響力受限，（三）國(guó)內(nèi)外人工智能數(shù)據(jù)安全法律制定情況世界主要國(guó)家的數(shù)據(jù)管理和隱私保護(hù)法案促進(jìn)人工智能行業(yè)健美國(guó)《2018年加州消費(fèi)者隱私法案》等紛紛效仿《通用數(shù)據(jù)保護(hù)條人工智能數(shù)據(jù)安全白皮書（2019年）人工智能數(shù)據(jù)安全白皮書（2019年）（四）國(guó)內(nèi)外人工智能數(shù)據(jù)安全技術(shù)發(fā)展情況人工智能數(shù)據(jù)安全白皮書（2019年）戶個(gè)人數(shù)據(jù)的情況下更新人工智能算法模型，有術(shù)，團(tuán)隊(duì)近年來開發(fā)的“珠算(ZhuSuan)”概率編程庫(kù)，可減少實(shí)際人工智能數(shù)據(jù)安全白皮書（2019年）（五）國(guó)內(nèi)外人工智能數(shù)據(jù)安全標(biāo)準(zhǔn)規(guī)范情況國(guó)際標(biāo)準(zhǔn)化組織積極研究人工智能數(shù)據(jù)安全相關(guān)標(biāo)準(zhǔn)，ISO/IEC工智能的可信度概覽等標(biāo)準(zhǔn)研制。IEEE標(biāo)準(zhǔn)協(xié)會(huì)對(duì)涉及人工智能道據(jù)人工智能代理標(biāo)準(zhǔn)等。IEEEP3652.1聯(lián)邦學(xué)習(xí)基礎(chǔ)框架與應(yīng)用工人工智能數(shù)據(jù)安全白皮書（2019年）在移動(dòng)智能終端領(lǐng)域，開展了《信息安全技術(shù)移動(dòng)智能終端個(gè)人信護(hù)能力提出要求；在大數(shù)據(jù)領(lǐng)域，開展了《信息安全技術(shù)大數(shù)據(jù)服要求。在個(gè)人信息保護(hù)領(lǐng)域，開展了《信息安全技術(shù)個(gè)人信息安全框架研究以及《信息安全技術(shù)人工智能算法安全指南》標(biāo)準(zhǔn)研制，將人工智能數(shù)據(jù)安全列為重要研究?jī)?nèi)容。CCSA在生物識(shí)別、人工智關(guān)標(biāo)準(zhǔn)化工作。在人工智能終端領(lǐng)域，開展《人工智能終端產(chǎn)品個(gè)人工智能數(shù)據(jù)安全白皮書（2019年）五、人工智能數(shù)據(jù)安全治理建議（一）明晰發(fā)展與安全并舉的治理思路人工智能數(shù)據(jù)安全白皮書（2019年）（二）引導(dǎo)社會(huì)遵循人工智能倫理規(guī)范范制定。通過聯(lián)合國(guó)、G20、亞太經(jīng)合組織、上合組織等國(guó)際平臺(tái)，（三）建立人工智能數(shù)據(jù)安全法律法規(guī)人工智能數(shù)據(jù)安全白皮書（2019年）（四）完善人工智能數(shù)據(jù)安全監(jiān)管措施人工智能數(shù)據(jù)安全白皮書（2019年）（五）健全人工