6.2 新技術(shù)應(yīng)用中的安全問題-上

第2節(jié)新技術(shù)應(yīng)用中的安全問題-上第6章目

錄01物聯(lián)網(wǎng)技術(shù)應(yīng)用02物聯(lián)網(wǎng)安全問題03人工智能技術(shù)應(yīng)用04人工智能安全問題01物聯(lián)網(wǎng)技術(shù)應(yīng)用物聯(lián)網(wǎng)的概念定義物聯(lián)網(wǎng)（Internetofthings，IoT）即“萬物相連的互聯(lián)網(wǎng)”，是互聯(lián)網(wǎng)基礎(chǔ)上的延伸和擴(kuò)展的網(wǎng)絡(luò)，將各種信息傳感設(shè)備與網(wǎng)絡(luò)結(jié)合起來而形成的一個巨大網(wǎng)絡(luò)?？梢詫?shí)現(xiàn)任何時間、任何地點(diǎn)，人、機(jī)、物的互聯(lián)互通。物聯(lián)網(wǎng)的發(fā)展歷程1991年1995年1999年2005年2015~2018年2020年后麻省理工學(xué)院（MIT）的KevinAsh-ton教授首次提出物聯(lián)網(wǎng)概念比爾蓋茨在《未來之路》中，提及“物物互聯(lián)”這一概念MIT建立了“自動識別中心（Auto-ID）”，提出“萬物皆可通過網(wǎng)絡(luò)互聯(lián)”國際電信聯(lián)盟(ITU)，提出“物聯(lián)網(wǎng)IoT”的概念阿里巴巴、百度、騰訊相繼成立IoT物聯(lián)網(wǎng)事業(yè)部隨著5G的慢慢普及，物聯(lián)網(wǎng)將爆發(fā)式發(fā)展物聯(lián)網(wǎng)的關(guān)鍵技術(shù)應(yīng)用層-數(shù)據(jù)處理網(wǎng)絡(luò)層-數(shù)據(jù)傳輸感知層-數(shù)據(jù)采集射頻識別（RadioFrequencyIdentification，RFID）技術(shù)，是一種利用射頻通信實(shí)現(xiàn)的非接觸式自動識別技術(shù)。RFID通過無線射頻方式進(jìn)行非接觸雙向數(shù)據(jù)通信，利用無線射頻方式對記錄媒體（電子標(biāo)簽或射頻卡）進(jìn)行讀寫，從而達(dá)到識別目標(biāo)和數(shù)據(jù)交換的目的。感知層-RFID讀寫技術(shù)物聯(lián)網(wǎng)的關(guān)鍵技術(shù)感知層-自動定位技術(shù)目前常見的定位技術(shù)主要有GPS衛(wèi)星定位、藍(lán)牙定位、WIFI網(wǎng)絡(luò)定位、GPRS/CDMA移動通訊技術(shù)定位等。物聯(lián)網(wǎng)的關(guān)鍵技術(shù)智能設(shè)備中的陀螺儀感知層-傳感器技術(shù)傳感技術(shù)利用傳感器和多跳自組織傳感器網(wǎng)絡(luò)，協(xié)作感知、采集網(wǎng)絡(luò)覆蓋區(qū)域中被感知對象的信息，如：感知熱、力、光、電、聲、位移等信號，特別是微型傳感器、智能傳感器和嵌入式Web傳感器的發(fā)展與應(yīng)用，為物聯(lián)網(wǎng)系統(tǒng)的信息采集、處理、傳輸、分析和反饋提供最原始的數(shù)據(jù)信息。物聯(lián)網(wǎng)的關(guān)鍵技術(shù)感知層-嵌入式技術(shù)嵌入式系統(tǒng)是以應(yīng)用為中心，以計(jì)算機(jī)技術(shù)為基礎(chǔ)的，并且軟硬件可量身訂做，它適用于對功能、可靠性、成本、體積、功耗有嚴(yán)格要求的專用計(jì)算機(jī)系統(tǒng)。嵌入式系統(tǒng)通常嵌入在更大的物理設(shè)備當(dāng)中而不被人們所察覺，如手機(jī)、PDA、甚至空調(diào)、微波爐、冰箱中的控制部件都屬于嵌入式系統(tǒng)。物聯(lián)網(wǎng)的關(guān)鍵技術(shù)感知層-NFC技術(shù)NFC（NearFieldCommunication，近距離無線通信）是一種在RFID技術(shù)的基礎(chǔ)上，結(jié)合無線互連技術(shù)研發(fā)而成的能夠提供輕松、安全、迅速的通信的無線連接技術(shù)。NFC目前主要應(yīng)用在支付（銀行卡、一卡通）、安防（門禁卡、電子門票）、標(biāo)簽等領(lǐng)域。與RFID的區(qū)別傳輸范圍比RFID小距離比RFID近帶寬比RFID高能耗比RFID低物聯(lián)網(wǎng)的關(guān)鍵技術(shù)感知層-ZigBee技術(shù)ZigBee，也稱紫蜂，是一種低速短距離傳輸?shù)臒o線網(wǎng)上協(xié)議，底層是采用IEEE802.15.4標(biāo)準(zhǔn)規(guī)范的媒體訪問層與物理層。特點(diǎn)有低速快速支持多種網(wǎng)上拓?fù)浒踩统杀局С执罅烤W(wǎng)上節(jié)點(diǎn)低耗電低復(fù)雜度可靠物聯(lián)網(wǎng)的關(guān)鍵技術(shù)藍(lán)牙低能耗（BluetoothLowEnergy，或稱BluetoothLE、BLE，舊商標(biāo)BluetoothSmart）也稱低功耗藍(lán)牙，是藍(lán)牙技術(shù)聯(lián)盟設(shè)計(jì)和銷售的一種個人局域網(wǎng)技術(shù)，旨在用于醫(yī)療保健、運(yùn)動健身、信標(biāo)、安防、家庭娛樂等領(lǐng)域的新興應(yīng)用。感知層-低能耗藍(lán)牙技術(shù)物聯(lián)網(wǎng)的關(guān)鍵技術(shù)無線傳感器網(wǎng)絡(luò)（WSN）是由大量無線傳感器構(gòu)成的自組織網(wǎng)絡(luò)，其目的是協(xié)作地感知、采集和處理網(wǎng)絡(luò)覆蓋區(qū)域內(nèi)對象信息，并將其傳送給需要的用戶。網(wǎng)絡(luò)層-無線傳感器網(wǎng)絡(luò)技術(shù)物聯(lián)網(wǎng)的關(guān)鍵技術(shù)網(wǎng)絡(luò)層-M2M技術(shù)M2M全稱MachinetoMachine，是指數(shù)據(jù)從一臺終端傳送到另一臺終端，也就是機(jī)器與機(jī)器的對話。M2M應(yīng)用系統(tǒng)構(gòu)成有智能化機(jī)器、M2M硬件、通信網(wǎng)絡(luò)、中間件。M2M應(yīng)用領(lǐng)域有、家庭應(yīng)用領(lǐng)域、工業(yè)應(yīng)用領(lǐng)域、零售和支付領(lǐng)域、物流運(yùn)輸行業(yè)、醫(yī)療行業(yè)。物聯(lián)網(wǎng)的關(guān)鍵技術(shù)應(yīng)用層-數(shù)據(jù)處理、可視化物聯(lián)網(wǎng)的應(yīng)用層，包括應(yīng)用中間件層和應(yīng)用服務(wù)層，實(shí)現(xiàn)網(wǎng)絡(luò)層與物聯(lián)網(wǎng)應(yīng)用服務(wù)間的接口和功能調(diào)用，也實(shí)現(xiàn)物聯(lián)網(wǎng)的各類公共應(yīng)用或行業(yè)領(lǐng)域的應(yīng)用。物聯(lián)網(wǎng)的關(guān)鍵技術(shù)某學(xué)?！爸腔坌@”應(yīng)用案例物聯(lián)網(wǎng)的應(yīng)用案例02物聯(lián)網(wǎng)安全問題案例導(dǎo)入案例一2019年末，亞馬遜旗下的家庭安全硬件產(chǎn)品Ring爆出安全漏洞，黑客可以監(jiān)控用戶家庭，而且Ring還會暴露用戶的Wifi密碼，甚至有黑客通過Ring攝像頭跟搖籃里的嬰兒打招呼。案例二①2019年智能門鎖SmartDeadbollts被研究人員發(fā)現(xiàn)安全漏洞，攻擊者可以利用這些漏洞遠(yuǎn)程打開門并闖入房屋。②2019年6月，U-tec制造的智能門鎖Ultraloq出現(xiàn)故障，攻擊者可以追蹤該設(shè)備的使用地點(diǎn)并完全控制門鎖。物聯(lián)網(wǎng)技術(shù)的安全威脅感知層安全威脅感知層的主要設(shè)備是RFID和Zigbee等各種無線傳感器。主要是感知搜集特定目標(biāo)的信息。但是大部分傳感器設(shè)備部署在公共區(qū)域，無法進(jìn)行實(shí)時監(jiān)控，因此容易被攻擊者控制利用。常見的攻擊威脅有物理攻擊偽造攻擊重放攻擊信息盜用傳感器竊聽路由器攻擊網(wǎng)絡(luò)層安全威脅網(wǎng)絡(luò)層的安全威脅，主要來自于DDoS和協(xié)議缺陷攻擊。由于智能設(shè)備需要通過互聯(lián)網(wǎng)連接的原因，很多攻擊者會通過網(wǎng)絡(luò)來攻擊并入侵物聯(lián)網(wǎng)設(shè)備。常見的攻擊威脅DDoS攻擊2016年9月的Mirai僵尸網(wǎng)絡(luò)感染250萬個物聯(lián)網(wǎng)設(shè)備，其中有打印機(jī)和聯(lián)網(wǎng)攝像頭。惡意數(shù)據(jù)2014年1月發(fā)生了一起郵件攻擊，針對電視機(jī)、路由器和至少一臺智能電冰箱，每天發(fā)送30萬封垃圾郵件。隱私泄露網(wǎng)絡(luò)層的傳輸并不能完全保證敏感信息的安全，仍然會有人獲取到用戶的隱私問題。物聯(lián)網(wǎng)技術(shù)的安全威脅應(yīng)用層安全威脅物聯(lián)網(wǎng)的應(yīng)用層大都存在其他設(shè)備的配合使用，它們很容易被攻擊者直接利用。常見的攻擊威脅01.身份盜用攻擊者挾持這些設(shè)備，偽裝成真正用戶通過系統(tǒng)的身份驗(yàn)證，進(jìn)而向系統(tǒng)發(fā)送不安全數(shù)據(jù)03.數(shù)據(jù)保護(hù)02.應(yīng)用層設(shè)備漏洞攻擊者將勒索軟件安裝到智能恒溫器上，可以將溫度調(diào)高到95度，拒絕調(diào)回到正常溫度應(yīng)用層會處理大量數(shù)據(jù)，若處理方式不夠完善或者處理不夠及時就會造成數(shù)據(jù)丟失等問題物聯(lián)網(wǎng)技術(shù)的安全威脅物聯(lián)網(wǎng)的安全體系感知層安全物理安全、信息采集安全網(wǎng)絡(luò)層安全訪問控制、信息過濾應(yīng)用層（業(yè)務(wù)層）安全安全管理平臺（包含認(rèn)證、密鑰管理、入侵檢測、病毒檢測、惡意代碼分析和預(yù)防等安全機(jī)制）物聯(lián)網(wǎng)三層安全體系結(jié)構(gòu)物聯(lián)網(wǎng)的安全技術(shù)物聯(lián)網(wǎng)安全關(guān)鍵技術(shù)010203數(shù)據(jù)安全傳輸技術(shù)身份認(rèn)證技術(shù)網(wǎng)絡(luò)安全接入技術(shù)040506加密技術(shù)分布式密鑰管理技術(shù)分布式安全管控技術(shù)03人工智能技術(shù)應(yīng)用人工智能學(xué)科是一個以計(jì)算機(jī)科學(xué)（ComputerScience）為基礎(chǔ)，由計(jì)算機(jī)、心理學(xué)、哲學(xué)等多學(xué)科交叉融合的交叉學(xué)科、新興學(xué)科，研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)。人工智能的概念定義人工智能（ArtificialIntelligence，AI）是研究使計(jì)算機(jī)來模擬人的某些思維過程和智能行為（如學(xué)習(xí)、推理、思考、規(guī)劃等）的學(xué)科，主要包括計(jì)算機(jī)實(shí)現(xiàn)智能的原理、制造類似于人腦智能的計(jì)算機(jī)，使計(jì)算機(jī)能實(shí)現(xiàn)更高層次的應(yīng)用。其中“知識”指的是：通過經(jīng)驗(yàn)或教育獲得的事實(shí)、信息和技能。

——ISO/IEC22989CD，定義3.2.02人工智能學(xué)科人工智能的發(fā)展歷程20世紀(jì)50年代中期到80年代初期人工智能發(fā)展的第一階段深耕細(xì)作，30年技術(shù)發(fā)展為人工智能產(chǎn)業(yè)化奠定基礎(chǔ)。21世紀(jì)初期至今人工智能發(fā)展的第三階段量變產(chǎn)生質(zhì)變，人工智能有望實(shí)現(xiàn)規(guī)?；瘧?yīng)用。20世紀(jì)80年代初期至21世紀(jì)初期人工智能發(fā)展的第二階段急功近利，人工智能成功商用但跨越式發(fā)展失敗。人工智能7大關(guān)鍵技術(shù)人工智能的關(guān)鍵技術(shù)技術(shù)簡要描述應(yīng)用程序示例統(tǒng)計(jì)機(jī)器學(xué)習(xí)自動化訓(xùn)練過程并將模型擬合到數(shù)據(jù)利用大數(shù)據(jù)進(jìn)行高度精細(xì)的市場分析神經(jīng)網(wǎng)絡(luò)使用人工“神經(jīng)元”加權(quán)輸入并將它們與輸出關(guān)聯(lián)識別信用欺詐、天氣預(yù)報深度學(xué)習(xí)具有多層變量或特征的神經(jīng)網(wǎng)絡(luò)圖像和語音識別，從文本中提取含義自然語言處理分析和“理解”人類的語音和文本語音識別、聊天機(jī)器人、智能坐席基于規(guī)則的專家系統(tǒng)一組源自人類專家的邏輯規(guī)則保險承保、信貸審批物理機(jī)器人自動完成一個物理動作工廠和倉庫任務(wù)機(jī)器人流程自動化自動執(zhí)行結(jié)構(gòu)化的數(shù)字任務(wù)并與系統(tǒng)對接更換信用卡、驗(yàn)證在線憑證1234567自動駕駛汽車依靠人工智能、視覺計(jì)算、雷達(dá)、監(jiān)控裝置和全球定位系統(tǒng)協(xié)同合作，讓電腦可以在沒有任何人類主動的操作下，自動安全地操作機(jī)動車輛。人工智能的應(yīng)用案例自動駕駛汽車人臉識別人臉識別，是基于人的臉部特征信息進(jìn)行身份識別的一種生物識別技術(shù)?！叭四樧R別系統(tǒng)”集成了人工智能、機(jī)器識別、機(jī)器學(xué)習(xí)、模型理論、專家系統(tǒng)、視頻圖像處理等多種專業(yè)技術(shù)。人工智能的應(yīng)用案例虛擬個人助理是一個事實(shí)上的操作系統(tǒng)。它會連接人類與所有種類的服務(wù)，并在處理過程中確保個人數(shù)據(jù)安全。虛擬個人助理虛擬個人助理（VirtualPersonalAssistance，VPA），是一種能替?zhèn)€人執(zhí)行任務(wù)或服務(wù)的軟件代理。人工智能的應(yīng)用案例在微信公眾號、小程序、APP、企業(yè)網(wǎng)站等平臺均有應(yīng)用。AI在線客服AI在線客服是基于人工智能算法開發(fā)的自動回復(fù)客服機(jī)器人軟件，能夠根據(jù)用戶咨詢內(nèi)容進(jìn)行語義分析并智能回復(fù)話術(shù)為客戶解答。實(shí)現(xiàn)場景人工智能的應(yīng)用案例購買預(yù)測是人工智能在電商領(lǐng)域的一大應(yīng)用，即通過大數(shù)據(jù)中的貝葉斯算法，實(shí)現(xiàn)智能推薦功能，降低用戶選擇成本。購買預(yù)測人工智能的應(yīng)用案例04人工智能安全問題案例導(dǎo)入案例一2019年，國內(nèi)某AI人工智能公司，在國外被爆發(fā)生大規(guī)模數(shù)據(jù)安全泄密，爆料者是GDI基金會荷蘭安全研究員VictorGevers，他發(fā)現(xiàn)中國某AI人工智能公司的人臉識別用戶行為數(shù)據(jù)庫其實(shí)一直是“裸奔”狀態(tài)，但這里面的可是大數(shù)據(jù)，如果被不法人員利用，后果不堪設(shè)想。案例二德國大眾公司裝配線上的機(jī)器人殺死了一名現(xiàn)場工作人員，根據(jù)大眾公司的新聞發(fā)言人HeikoHillwig表示，這名工人在大眾的Baunatal工廠工作，在法蘭克福北部大約100公里。據(jù)了解，當(dāng)時這名22歲的外包員工被機(jī)器人抓住，并將他碾壓向了一塊金屬板，最終導(dǎo)致這名員工傷勢過重被送醫(yī)后身亡。人工智能的安全風(fēng)險數(shù)據(jù)風(fēng)險-數(shù)據(jù)投毒“數(shù)據(jù)投毒”指人工智能訓(xùn)練數(shù)據(jù)污染導(dǎo)致人工智能決策錯誤。通過在訓(xùn)練數(shù)據(jù)里加入偽裝數(shù)據(jù)、惡意樣本等，破壞數(shù)據(jù)的完整性，進(jìn)而導(dǎo)致訓(xùn)練的算法模型決策出現(xiàn)偏差?！皵?shù)據(jù)投毒”攻擊方式模型偏斜方式反饋誤導(dǎo)方式“數(shù)據(jù)投毒”危害導(dǎo)致車輛違反交通規(guī)則甚至造成交通事故信息偽裝誘導(dǎo)自主性武器啟動或攻擊人工智能的安全風(fēng)險數(shù)據(jù)風(fēng)險-數(shù)據(jù)泄露逆向攻擊可導(dǎo)致算法模型內(nèi)部的數(shù)據(jù)泄露人工智能技術(shù)可加強(qiáng)數(shù)據(jù)挖掘分析能力，加大隱私泄露風(fēng)險。智能設(shè)備（如智能手環(huán)、智能音箱）智能系統(tǒng)（如生物特征識別系統(tǒng)、智能醫(yī)療系統(tǒng)）采集：人臉、指紋、聲紋、虹膜、心跳、基因等信息。01.02.人工智能的安全風(fēng)險數(shù)據(jù)風(fēng)險-數(shù)據(jù)異常運(yùn)行階段的數(shù)據(jù)異?？蓪?dǎo)致智能系統(tǒng)運(yùn)行錯誤，同時模型竊取攻擊可對算法模型的數(shù)據(jù)進(jìn)行逆向還原。開源學(xué)習(xí)框架存在安全風(fēng)險，也可導(dǎo)致人工智能系統(tǒng)數(shù)據(jù)泄露。人工智能的安全風(fēng)險算法風(fēng)險12圖像識別、圖像欺騙等會導(dǎo)致算法出問題算法設(shè)計(jì)或?qū)嵤┯姓`可產(chǎn)生與預(yù)期不符甚至傷害性結(jié)果3算法潛藏偏見和歧視，導(dǎo)致決策結(jié)果可能存在不公45算法黑箱導(dǎo)致人工智能決策不可解釋，引發(fā)監(jiān)督審查困境含有噪聲或偏差的訓(xùn)練數(shù)據(jù)可影響算法模型準(zhǔn)確性人工智能的安全風(fēng)險網(wǎng)絡(luò)風(fēng)險01020304數(shù)據(jù)智能竊取風(fēng)險數(shù)據(jù)勒索攻擊自動生成大量錯誤情報以混淆判斷自動識別圖像驗(yàn)證碼，竊取系統(tǒng)數(shù)據(jù)第三方組件問題

包括對文件、網(wǎng)絡(luò)協(xié)議、各種外部輸入?yún)f(xié)議的處理都會出問題。人工智能的安全風(fēng)險其他風(fēng)險ApacheShiro組件漏洞ApacheLog4j組件漏洞例如目前人工智能安全熱點(diǎn)技術(shù)研究方向人工智能的安全技術(shù)熱點(diǎn)技術(shù)方向提出年份提出國家中國創(chuàng)新成果對抗樣本攻擊和防御2014美國谷歌公司研究人員首次證實(shí)針對深度神經(jīng)網(wǎng)絡(luò)的對抗樣本攻擊威脅。2017，清華大學(xué)朱軍教授團(tuán)隊(duì)在有斯坦福、約翰霍普金斯等世界著名高校在內(nèi)的100多支隊(duì)伍參賽的NIPS2017AI對抗性攻防競賽中，獲得冠軍。訓(xùn)練數(shù)據(jù)投毒攻擊和防御2017美國斯坦福大學(xué)首次證明了針對深度神經(jīng)網(wǎng)絡(luò)的對抗性投毒訓(xùn)練數(shù)據(jù)的存在2。2019年，創(chuàng)新工場、南京大學(xué)等提出了一種高效的訓(xùn)練數(shù)據(jù)投毒方法，論文入選人工智能領(lǐng)域頂級國際會議NIPS3。算法后門攻擊和防御2013美國波多黎各理工大學(xué)首次提出神經(jīng)網(wǎng)絡(luò)木馬攻擊。2020年，騰訊在第19屆XCon大會上首次演示驗(yàn)證利用算法模型文件直接產(chǎn)生后門效果的攻擊。聯(lián)邦學(xué)習(xí)2016美國谷歌率先提出聯(lián)邦學(xué)習(xí)概念。1、2019年，我國香港科技大學(xué)楊強(qiáng)教授提出了橫向和縱向兩種聯(lián)邦學(xué)習(xí)框架；2、2019年，微眾銀行推出了全球首個工業(yè)級聯(lián)邦學(xué)習(xí)開源框架FATE。深度偽造及檢測2017美國名為deepfakes的用戶在Reddit網(wǎng)站發(fā)布難辨真假的“假視頻”。2020年，中國科技大學(xué)俞能海和張衛(wèi)明教授團(tuán)隊(duì)在有全球2265支隊(duì)伍參賽的Kaggle深度偽造檢測挑戰(zhàn)賽中脫穎而出，獲得亞軍。機(jī)器學(xué)習(xí)開源框架平臺安全漏洞挖掘修復(fù)2017中國安全廠商360首次發(fā)現(xiàn)并披露機(jī)器學(xué)習(xí)開源框架平臺供應(yīng)鏈安全風(fēng)險。騰訊發(fā)現(xiàn)首個Tensorflow安全漏洞；目前全球著名漏洞數(shù)據(jù)庫CVE披露的37個Tensorflow漏洞中，24個由中國安全廠商360發(fā)現(xiàn)。123456人工智能的安全框架在工業(yè)和信息化部網(wǎng)絡(luò)安全管理局指導(dǎo)下，中國信通院聯(lián)合瑞萊智慧、百度、騰訊、360、中科院信工所共同編制《人工智能安全框架（2020年）》藍(lán)皮書。旨在為人工智能相關(guān)企業(yè)循序漸進(jìn)提升安全能力、部署安全技術(shù)措施提供指導(dǎo)。人工智能