人工智能技術(shù)導(dǎo)論-課件 第8章 人工智能倫理法規(guī)

第8章人工智能倫理法規(guī)目錄8.1人工智能倫理道德8.2人工智能安全規(guī)范學(xué)習(xí)目標(biāo)本章主要從人工智能的倫理道德視角，圍繞人工智能應(yīng)用中的商業(yè)倫理、技術(shù)倫理和倫理道德治理機(jī)制，以及人工智能應(yīng)用中的網(wǎng)絡(luò)空間安全、社會(huì)安全、國(guó)家安全等進(jìn)行分析和討論，希望帶領(lǐng)讀者正確認(rèn)識(shí)人工智能在開(kāi)發(fā)設(shè)計(jì)和使用過(guò)程中存在的倫理道德等問(wèn)題，初步建立人工智能社會(huì)的機(jī)器倫理與法律意識(shí)。理解人工智能的商業(yè)倫理和道德規(guī)范理解人工智能的技術(shù)倫理和道德治理理解人工智能網(wǎng)絡(luò)空間安全問(wèn)題理解人工智能社會(huì)安全問(wèn)題理解人工智能?chē)?guó)家安全問(wèn)題目錄8.1人工智能倫理道德人工智能熱潮來(lái)臨，成為政府、產(chǎn)業(yè)界、科研機(jī)構(gòu)以及消費(fèi)市場(chǎng)競(jìng)相追逐的對(duì)象，在各國(guó)人工智能戰(zhàn)略和資本市場(chǎng)的推波助瀾下，人工智能的企業(yè)、產(chǎn)品和服務(wù)層出不窮。人工智能興起背后的原因是：人們相信或者希望人工智能的決策、判斷和行動(dòng)是優(yōu)于人類(lèi)的，或者至少可以和人類(lèi)不相伯仲，從而把人類(lèi)從重復(fù)、瑣碎的工作中解放出來(lái)。AlphaGo戰(zhàn)勝世界圍棋冠軍韓國(guó)選手李世石導(dǎo)

入8.1.1人工智能商業(yè)倫理未來(lái)的自主智能機(jī)器將有能力完全自主行為，不再是為人類(lèi)所使用的被動(dòng)工具。雖然人類(lèi)設(shè)計(jì)、制造并部署了它們，但它們的行為卻不受人類(lèi)的直接指令約束，而是基于對(duì)其所獲取的信息的分析和判斷，而且，它們?cè)诓煌榫持械姆磻?yīng)和決策可能不是其創(chuàng)造者可以預(yù)料到或者事先控制的。在設(shè)計(jì)智能機(jī)器時(shí)，人們需要對(duì)智能機(jī)器這一能動(dòng)者提出類(lèi)似的法律、倫理等道義要求，確保智能機(jī)器做出的決策可以像人類(lèi)一樣，也是合倫理、合法律的，并且具有相應(yīng)的外在約束和制裁機(jī)制。確保智能機(jī)器的決策是合情合理合法的就至關(guān)重要，因?yàn)榫S護(hù)每個(gè)人的自由、尊嚴(yán)、安全和權(quán)利，是人類(lèi)社會(huì)的終極追求。典型案例：大數(shù)據(jù)“殺熟”

復(fù)旦大學(xué)管理學(xué)院副教授孫金云，帶了二十多人的團(tuán)隊(duì)，在北京、上海、深圳、成都和重慶五個(gè)城市專(zhuān)門(mén)打車(chē)800多次，花費(fèi)五萬(wàn)元形成了一份《打車(chē)報(bào)告》。孫教授的調(diào)研方式也非常的科學(xué)，也很簡(jiǎn)單，對(duì)3公里類(lèi)的短途、3到10公里的中途，10公里以上的遠(yuǎn)途，三種距離進(jìn)行了分別調(diào)研。最后，他發(fā)現(xiàn)同一時(shí)間發(fā)布同樣的訂單，蘋(píng)果手機(jī)用戶(hù)和非蘋(píng)果手機(jī)用戶(hù)同時(shí)呼叫“經(jīng)濟(jì)型+舒適”兩檔車(chē)，蘋(píng)果手機(jī)用戶(hù)叫到“舒適型”車(chē)輛的是非蘋(píng)果手機(jī)用戶(hù)的三倍。而且，無(wú)論是蘋(píng)果用戶(hù)還是非蘋(píng)果手機(jī)用戶(hù)，手機(jī)價(jià)位越高的用戶(hù)越容易叫到“舒適型”車(chē)輛。用戶(hù)手機(jī)品牌和價(jià)位占“被舒適”訂單的比例8.1.1人工智能商業(yè)倫理8.1.2人工智能技術(shù)倫理將人類(lèi)社會(huì)的法律、倫理等規(guī)范和價(jià)值嵌入人工智能系統(tǒng)，是一個(gè)很大的挑戰(zhàn)。為了解決倫理嵌入的問(wèn)題，2016年底，IEEE啟動(dòng)了人工智能倫理工程，發(fā)布了《合倫理設(shè)計(jì)：利用人工智能和自主系統(tǒng)（AI/AS）最大化人類(lèi)福祉的愿景》，從可操作標(biāo)準(zhǔn)的層面為倫理嵌入提供指引，值得探討和借鑒。IEEE將人工智能倫理的實(shí)現(xiàn)分為三個(gè)步驟。第一，識(shí)別受自主智能系統(tǒng)影響的特定社群的規(guī)范和價(jià)值觀。

首先，應(yīng)當(dāng)明確需要嵌入AI系統(tǒng)的規(guī)范和價(jià)值是什么。規(guī)范和價(jià)值不是普世的，需要嵌入Al的價(jià)值應(yīng)當(dāng)是特定社會(huì)或團(tuán)體中針對(duì)特定任務(wù)的一套規(guī)范。

其次，道德過(guò)載問(wèn)題。我們的人類(lèi)社會(huì)里充滿(mǎn)了道德上的兩難，這種兩難，也會(huì)成為橫亙?cè)谌斯ぶ悄馨l(fā)展路上的問(wèn)題。

最后，數(shù)據(jù)或算法歧視問(wèn)題。盡可能具有廣泛的包容性，包容所有預(yù)期的利益相關(guān)方。另一方面，在解決價(jià)值沖突時(shí)保持透明性，尤其需要考慮弱勢(shì)的、易被忽視的群體的利益。8.1.2人工智能技術(shù)倫理典型案例：Google即時(shí)通信工具Allo表情符號(hào)事件

2017年，美國(guó)有線(xiàn)電視臺(tái)的一位工作人員通過(guò)谷歌Allo收到了一個(gè)戴著頭巾的人的表情符號(hào)，這是對(duì)一個(gè)包含手槍的表情符號(hào)的回應(yīng)。這其實(shí)是對(duì)伊斯蘭教信徒的一種歧視。尷尬的谷歌向公眾保證，它已經(jīng)解決了這個(gè)問(wèn)題，并發(fā)表了道歉聲明。GoogleAllo對(duì)手槍表情符號(hào)的回應(yīng)8.1.2人工智能技術(shù)倫理典型案例：智能醫(yī)療

2015年2月，英國(guó)首例機(jī)器人心瓣修復(fù)手術(shù)進(jìn)行。原本是一場(chǎng)最尖端醫(yī)療AI技術(shù)的展示，沒(méi)想到卻成了一場(chǎng)鮮血四濺的慘案。當(dāng)時(shí)，機(jī)器人出現(xiàn)“暴走”：不但把患者的心臟縫錯(cuò)了位置，還戳穿患者大動(dòng)脈。并且機(jī)器人主機(jī)運(yùn)作聲音過(guò)于嘈雜，主刀醫(yī)生交流只能靠吼，期間機(jī)械臂還幾次打到醫(yī)生的手。最終，接受手術(shù)的患者在術(shù)后一周去世，英國(guó)首例機(jī)器人心瓣修復(fù)手術(shù)以失敗告終。醫(yī)療人工智能在界定侵權(quán)責(zé)任時(shí)，醫(yī)療機(jī)器可否被視為醫(yī)生，在法律上與人類(lèi)醫(yī)生相同，成為學(xué)界討論的焦點(diǎn)。第四代達(dá)芬奇機(jī)器人實(shí)施手術(shù)8.1.2人工智能技術(shù)倫理典型案例：銀發(fā)數(shù)字鴻溝

2019年在社交媒體上流傳的一段視頻中，一位94歲的老奶奶被她的兒子抬起來(lái)，以便接觸到面部識(shí)別攝像頭，并在湖北省的一家銀行激活她的社會(huì)保障卡。盡管精通科技的年輕一代認(rèn)為今天的便利是理所當(dāng)然的，但老年人往往難以應(yīng)對(duì)。涉及老年人群的問(wèn)題已經(jīng)出現(xiàn)在許多場(chǎng)景中：他們可能難以在醫(yī)院掛號(hào)、提取儲(chǔ)蓄或繳納電費(fèi)，因?yàn)檫@些服務(wù)大多已經(jīng)轉(zhuǎn)移到網(wǎng)上或現(xiàn)在通過(guò)機(jī)器交付。2021年上半年中國(guó)網(wǎng)民年齡結(jié)構(gòu)8.1.2人工智能技術(shù)倫理第二，將發(fā)現(xiàn)并確定的規(guī)范和價(jià)值嵌入人工智能系統(tǒng)。

當(dāng)前主要存在兩種路徑：自上而下的路徑和自下而上的路徑。美國(guó)“機(jī)器（人）倫理學(xué)”研究的肇始者瓦拉赫與艾倫把“自上而下”方法描述為“利用特定的倫理理論進(jìn)行分析，指導(dǎo)實(shí)現(xiàn)該理論的運(yùn)算法則（Algorithms）和子系統(tǒng)（Sub-System)的計(jì)算需要”的方法；把“自下而上”方法稱(chēng)作拓展式方法，其指出該方法“重點(diǎn)在于為主體探索行動(dòng)和學(xué)習(xí)方面營(yíng)造一個(gè)環(huán)境，鼓勵(lì)其實(shí)施道德可嘉型行為”。他們宣稱(chēng)，自下而上型方法的優(yōu)點(diǎn)在于其能夠“從不同的社會(huì)制中動(dòng)態(tài)地進(jìn)行集成輸入”，能夠?yàn)橥晟破湔w發(fā)展提供技巧和標(biāo)準(zhǔn)，但這一方法可能存在“很難適應(yīng)和發(fā)展”的弊端。目前還尚未明確如何將這些規(guī)范嵌入到計(jì)算機(jī)架構(gòu)中，這一領(lǐng)域的研究需要加強(qiáng)。8.1.2人工智能技術(shù)倫理典型案例：自動(dòng)駕駛公交車(chē)撞車(chē)

2017年11月8日，在拉斯維加斯的街頭，第一輛無(wú)人駕駛公交shuttle開(kāi)車(chē)了。試運(yùn)營(yíng)期間shuttle都是免費(fèi)乘坐，但第一天開(kāi)了一個(gè)小時(shí)沒(méi)到，就出事情了——據(jù)車(chē)上一位乘客描述，事發(fā)時(shí)前方一輛卡車(chē)在倒車(chē)，自動(dòng)駕駛車(chē)探測(cè)到了前方有障礙，停了下來(lái)，但是沒(méi)有倒車(chē)躲避。拉斯維加斯的自動(dòng)駕駛公交車(chē)第一天就撞車(chē)8.1.2人工智能技術(shù)倫理第三，評(píng)估嵌入人工智能系統(tǒng)的規(guī)范和價(jià)值是否和人類(lèi)的相符。

需要對(duì)嵌入AI系統(tǒng)的規(guī)范和價(jià)值進(jìn)行評(píng)估，以確定其是否和現(xiàn)實(shí)中的規(guī)范體系相一致，而這需要評(píng)估標(biāo)準(zhǔn)。評(píng)估標(biāo)準(zhǔn)包括機(jī)器規(guī)范和人類(lèi)規(guī)范的兼容性、Al經(jīng)過(guò)批準(zhǔn)、AI信任等。

人工智能倫理評(píng)估中更為重要的一個(gè)問(wèn)題其實(shí)是價(jià)值對(duì)接。在人工智能技術(shù)的應(yīng)用過(guò)程中，出現(xiàn)類(lèi)似：信息收集多樣，侵犯?jìng)€(gè)人隱私和濫用智能產(chǎn)品，侵犯人格尊嚴(yán)的風(fēng)險(xiǎn)。隨著人臉識(shí)別、虹膜識(shí)別等應(yīng)用的普及，人工智能正在大規(guī)模、不間斷地收集、使用敏感個(gè)人信息，個(gè)人隱私泄露風(fēng)險(xiǎn)加大。8.1.2人工智能技術(shù)倫理8.1.3構(gòu)建人工智能倫理治理機(jī)制人工智能治理是一項(xiàng)復(fù)雜的系統(tǒng)工程，既需要明確治理原則及目標(biāo)、厘清治理主體，又需要提出切實(shí)有效的治理措施。為此，人工智能治理應(yīng)當(dāng)構(gòu)建由政府、行業(yè)組織、企業(yè)以及公眾等多元主體共同參與、協(xié)同合作的多層次的治理體系，通過(guò)制定倫理原則、設(shè)計(jì)技術(shù)標(biāo)準(zhǔn)、確立法律法規(guī)等多種舉措，實(shí)現(xiàn)科技向善、造福人類(lèi)的總體目標(biāo)愿景，推動(dòng)人工智能健康有序發(fā)展。總體來(lái)說(shuō)，人工智能治理應(yīng)以科技造福人類(lèi)為總體目標(biāo)，既要不斷釋放人工智能所帶來(lái)的技術(shù)紅利，也要精準(zhǔn)防范并積極應(yīng)對(duì)人工智能可能帶來(lái)的風(fēng)險(xiǎn)，需要平衡好人工智能創(chuàng)新發(fā)展與有效治理的關(guān)系，持續(xù)提升有關(guān)算法規(guī)則、數(shù)據(jù)使用、安全保障等方面的治理能力，為人工智能營(yíng)造規(guī)范有序的發(fā)展環(huán)境。目錄8.2人工智能安全規(guī)范技術(shù)的進(jìn)步往往是一把“雙刃劍”，人工智能作為一種通用目的技術(shù)，為保障國(guó)家網(wǎng)絡(luò)空間安全、提升人類(lèi)經(jīng)濟(jì)社會(huì)風(fēng)險(xiǎn)防控能力等方面提供了新手段和新途徑。但同時(shí)，人工智能在技術(shù)轉(zhuǎn)化和應(yīng)用場(chǎng)景落地過(guò)程中，由于技術(shù)的不確定性和應(yīng)用的廣泛性，帶來(lái)沖擊網(wǎng)絡(luò)安全、社會(huì)就業(yè)、法律倫理等問(wèn)題，并對(duì)網(wǎng)絡(luò)空間安全、人類(lèi)社會(huì)安全、國(guó)家安全帶來(lái)諸多風(fēng)險(xiǎn)和挑戰(zhàn)。8.2.1人工智能網(wǎng)絡(luò)空間安全人工智能作為戰(zhàn)略性與變革性信息技術(shù)，給網(wǎng)絡(luò)空間安全增加了新不確定性，人工能網(wǎng)絡(luò)空間安全包括網(wǎng)絡(luò)安全、數(shù)據(jù)安全、算法安全和信息安全等四個(gè)方面。1.網(wǎng)絡(luò)安全

隨著人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用，網(wǎng)絡(luò)政擊手段也越來(lái)越呈現(xiàn)出智能化的特點(diǎn)，網(wǎng)絡(luò)攻擊的智能化使得網(wǎng)絡(luò)攻擊成本降低效率提升、攻擊手段更加多樣，為網(wǎng)絡(luò)安全帶來(lái)了嚴(yán)峻的挑戰(zhàn)。網(wǎng)絡(luò)安全涉及網(wǎng)絡(luò)設(shè)施和學(xué)習(xí)框架的漏洞、后門(mén)安全問(wèn)題，以及人工智能技術(shù)惡意提升網(wǎng)絡(luò)攻擊能力。8.2.1人工智能網(wǎng)絡(luò)空間安全典型案例：特斯拉被入侵

2019年12月，據(jù)《金融時(shí)報(bào)》報(bào)道，移動(dòng)安全公司Lookout網(wǎng)絡(luò)安全研究員向媒體透露，他們?cè)贛odelS車(chē)型上發(fā)現(xiàn)了6個(gè)重大漏洞，并通過(guò)其中一個(gè)漏洞對(duì)汽車(chē)進(jìn)行了操控，在低速行駛狀態(tài)下將汽車(chē)熄火。特斯拉立即出回應(yīng)，確認(rèn)了上述細(xì)節(jié)，并稱(chēng)已經(jīng)向消費(fèi)者發(fā)布了軟件補(bǔ)丁。其表示，黑客并非遠(yuǎn)程操控了汽車(chē)，而是進(jìn)入汽車(chē)系統(tǒng)從內(nèi)部對(duì)汽車(chē)進(jìn)行控制。移動(dòng)安全公司表示，他們之所以選擇特斯拉進(jìn)行實(shí)驗(yàn)，是因?yàn)樘厮估恢币攒浖母呒?jí)著稱(chēng)，“我們只是在啟動(dòng)階段時(shí)速僅為5英里/小時(shí)的時(shí)候關(guān)閉了汽車(chē)，所有的屏幕都熄滅了，音樂(lè)也被關(guān)掉，手剎開(kāi)始啟動(dòng)并且自動(dòng)剎車(chē)?！?9歲的德國(guó)安全研究人員大衛(wèi)·科倫坡日前表示，他在特斯拉的系統(tǒng)中發(fā)現(xiàn)一處軟件漏洞，并通過(guò)該漏洞遠(yuǎn)程入侵了13個(gè)國(guó)家的逾25輛特斯拉電動(dòng)汽車(chē)，使其關(guān)閉安全系統(tǒng)。8.2.1人工智能網(wǎng)絡(luò)空間安全典型案例：自主網(wǎng)絡(luò)攻擊芯片

2017年10月，美國(guó)斯坦福大學(xué)和美國(guó)Infinite初創(chuàng)公司聯(lián)合研發(fā)了一種基于人工智能處理芯片的自主網(wǎng)絡(luò)攻擊系統(tǒng)。該系統(tǒng)能夠自主學(xué)習(xí)網(wǎng)絡(luò)環(huán)境并自行生成特定惡意代碼，實(shí)現(xiàn)對(duì)指定網(wǎng)絡(luò)的攻擊、信息竊取等操作。它在特定網(wǎng)絡(luò)中運(yùn)行后，能夠自主學(xué)習(xí)網(wǎng)絡(luò)的架構(gòu)、規(guī)模、設(shè)備類(lèi)型等信息，并通過(guò)對(duì)網(wǎng)絡(luò)流數(shù)據(jù)進(jìn)行分析，自主編寫(xiě)適用于該網(wǎng)絡(luò)環(huán)境的攻擊程序。該系統(tǒng)每24小時(shí)即可生成一套攻擊代碼，并能夠根據(jù)網(wǎng)絡(luò)實(shí)時(shí)環(huán)境對(duì)攻擊程序進(jìn)行動(dòng)態(tài)調(diào)整。由于攻擊代碼完全是全新生成，因此現(xiàn)有的依托病毒庫(kù)和行為識(shí)別的防病毒系統(tǒng)難以識(shí)別，隱蔽性和破壞性極強(qiáng)。8.2.1人工智能網(wǎng)絡(luò)空間安全2.數(shù)據(jù)安全

數(shù)據(jù)是人工智能的重要基礎(chǔ)。近十幾年來(lái)大數(shù)據(jù)的蓬勃發(fā)展為機(jī)器學(xué)習(xí)等人工智能算法提供了大量的學(xué)習(xí)樣本，使得人工智能技術(shù)迅速發(fā)展，因此，數(shù)據(jù)安全成為人工智能安全的重要部分。數(shù)據(jù)面臨逆向攻擊可導(dǎo)致算法模型內(nèi)部的數(shù)據(jù)泄露、人工智能技術(shù)可加強(qiáng)數(shù)據(jù)挖掘分析能力，加大隱私泄露風(fēng)險(xiǎn)等安全挑戰(zhàn)。8.2.1人工智能網(wǎng)絡(luò)空間安全典型案例：個(gè)人隱私信息泄露

在我國(guó)，僅2017年在黑市上被泄露的個(gè)人信息就高達(dá)65億條次，由數(shù)據(jù)泄露而衍生出來(lái)的黑灰色產(chǎn)業(yè)鏈年獲利已超百億元。買(mǎi)賣(mài)公民個(gè)人隱私數(shù)據(jù)為小貸公司的“套路貸”犯罪、暴力催收大開(kāi)方便之門(mén)。

2018年3月曝光的Facebook數(shù)據(jù)泄露事件中，有5000萬(wàn)用戶(hù)的個(gè)人資料，一直被用作向其精準(zhǔn)投放政治廣告的重要參考，而這些人占據(jù)著美國(guó)選民人數(shù)的四分之一。同年，萬(wàn)豪發(fā)布公告稱(chēng)旗下酒店喜達(dá)屋5億房客信息被泄露；社交平臺(tái)陌陌的3000萬(wàn)用戶(hù)數(shù)據(jù)在暗網(wǎng)被銷(xiāo)售；問(wèn)答網(wǎng)站鼻祖Quora的1億用戶(hù)數(shù)據(jù)被竊……

2019年2月，國(guó)內(nèi)專(zhuān)注于安防領(lǐng)域的人工智能企業(yè)深網(wǎng)視界超過(guò)250萬(wàn)人的數(shù)據(jù)被非法獲取，680萬(wàn)條數(shù)據(jù)疑似泄露，包括身份證信息、人臉識(shí)別圖像及圖像拍攝地點(diǎn)等。

2019年5月，一名自稱(chēng)GnosticPlayers的黑客聲稱(chēng)竊取了澳大利亞網(wǎng)站Canva的1.39億用戶(hù)數(shù)據(jù)，包括用戶(hù)姓名、用戶(hù)名、電子郵件地址、城市國(guó)家信息。

2019年9月，17萬(wàn)條「人臉數(shù)據(jù)」在國(guó)內(nèi)的網(wǎng)上被公開(kāi)兜售，涵蓋2000人的肖像，每個(gè)人約有50到100張照片，每張照片還搭配有一份數(shù)據(jù)文件，除了人臉位置的信息外，還有人臉的106處關(guān)鍵點(diǎn)，如眼睛、耳朵、鼻子、嘴、眉毛等的輪廓信息等。數(shù)據(jù)中還能提供人物性別、表情情緒、顏值、是否戴眼鏡等信息。

動(dòng)輒億級(jí)，數(shù)據(jù)內(nèi)容極其詳細(xì)，此類(lèi)觸目驚心的數(shù)據(jù)隱私泄露事件一直在發(fā)生。8.2.1人工智能網(wǎng)絡(luò)空間安全3.算法安全

算法是人工智能系統(tǒng)的核心，現(xiàn)階段人工智能在算法方面存在算法設(shè)計(jì)或?qū)嵤┯姓`、算法歧視或隱藏偏見(jiàn)、算法黑箱等方面的安全風(fēng)險(xiǎn)。

（1）算法設(shè)計(jì)或?qū)嵤┯姓`會(huì)導(dǎo)致與預(yù)期不符甚至傷害性結(jié)果。

（2）算法歧視或隱藏偏見(jiàn)會(huì)導(dǎo)致決策結(jié)果可能存在不公正的情況。

(3)算法黑箱會(huì)導(dǎo)致人工智能決策不可解釋。

8.2.1人工智能網(wǎng)絡(luò)空間安全典型案例：商業(yè)用戶(hù)畫(huà)像

人工智能中的算法經(jīng)常被企業(yè)用于用戶(hù)畫(huà)像，通過(guò)算法對(duì)人的隱私作出分析和預(yù)測(cè)。在商業(yè)領(lǐng)域，越來(lái)越多的企業(yè)開(kāi)始收集個(gè)人的瀏覽記錄、購(gòu)買(mǎi)記錄、交易方式等信息，其實(shí)施過(guò)程是，平臺(tái)通過(guò)各種渠道掌握豐富的用戶(hù)數(shù)據(jù)，又通過(guò)智能算法對(duì)這些數(shù)據(jù)進(jìn)行分析，形成對(duì)用戶(hù)的精準(zhǔn)化畫(huà)像，從而預(yù)測(cè)用戶(hù)的支付能力、價(jià)格敏感度、支付意愿等，最后低成本地實(shí)施大規(guī)模、自動(dòng)化的“個(gè)性化定價(jià)”。根據(jù)大數(shù)據(jù)殺熟的過(guò)程可以發(fā)現(xiàn)，全面且充分的用戶(hù)數(shù)據(jù)是企業(yè)形成用戶(hù)畫(huà)像進(jìn)而實(shí)施價(jià)格歧視的基礎(chǔ)，這就又涉及個(gè)人信息的收集問(wèn)題。通常情況下，用戶(hù)畫(huà)像賴(lài)以形成的數(shù)據(jù)除通過(guò)個(gè)人授權(quán)取得外，往往還會(huì)涉及通過(guò)應(yīng)用程序過(guò)度收集，cookie追蹤技術(shù)，以及實(shí)體間的數(shù)據(jù)共享而獲得。例如在新聞資訊與娛樂(lè)領(lǐng)域，抖音、快手、今日頭條等利用算法進(jìn)行個(gè)性化推薦與分發(fā)，以提高新聞與娛樂(lè)資訊的傳播效率；在電商領(lǐng)域，淘寶、京東等購(gòu)物網(wǎng)站利用算法對(duì)個(gè)體進(jìn)行個(gè)性化商品推薦，以大幅促進(jìn)銷(xiāo)量。但同時(shí)，人工智能也成為實(shí)施“大數(shù)據(jù)殺熟”和“歧視性定價(jià)”的工具。8.2.1人工智能網(wǎng)絡(luò)空間安全4.信息安全

人工智能技術(shù)已廣泛應(yīng)用于信息內(nèi)容生成、傳播、處理等領(lǐng)域，不當(dāng)行為可能引發(fā)信息安全風(fēng)險(xiǎn)。

（1）智能推薦算法可加速不良信息的傳播，并具有隱蔽性?；ヂ?lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)、智能化等現(xiàn)代信息技術(shù)深刻改變了人類(lèi)的生產(chǎn)生活方式，也深刻改變了信息的生產(chǎn)傳播方式。

(2)人工智能技術(shù)可制作虛假信息內(nèi)容，帶來(lái)信息安全風(fēng)險(xiǎn)。隨著信息技術(shù)發(fā)展、大數(shù)據(jù)廣泛應(yīng)用，算法推薦讓信息傳播更加個(gè)性化、定制化、智能化，但也出現(xiàn)了一些制作虛假信息內(nèi)容的亂象。8.2.1人工智能網(wǎng)絡(luò)空間安全8.2.2人工智能人類(lèi)社會(huì)安全

隨著人工智能技術(shù)大力推廣，其打破法律和道德限制的概率逐漸增加，必定導(dǎo)致社會(huì)生活的安全威脅增加。人工智能社會(huì)安全包括人身安全、就業(yè)安全等方面的內(nèi)容。1.人身安全

由于技術(shù)的不成熟性，以自動(dòng)駕駛汽車(chē)、無(wú)人機(jī)、機(jī)器人等為代表的自主系統(tǒng)在人們的生產(chǎn)生活中逐步替代人類(lèi)進(jìn)行決策，施行自主操作，可能會(huì)導(dǎo)致人類(lèi)自身的安全風(fēng)險(xiǎn)；同時(shí)，這些智能系統(tǒng)被恐怖分子或別有用心的攻擊者惡意利用，也會(huì)導(dǎo)致人類(lèi)自身的安全風(fēng)險(xiǎn)。典型案例：無(wú)人機(jī)襲擊

2018年8月，委內(nèi)瑞拉總統(tǒng)馬杜羅在首都加拉加斯出席一場(chǎng)軍隊(duì)紀(jì)念活動(dòng)時(shí)，突然遭遇無(wú)人機(jī)襲擊。這場(chǎng)“人類(lèi)歷史上第一例用無(wú)人機(jī)刺殺一國(guó)元首”的行動(dòng)，事實(shí)上是襲擊者使用一架載有爆炸物的無(wú)人機(jī)，欲對(duì)總統(tǒng)馬杜羅展開(kāi)的“暗殺行動(dòng)”。8.2.2人工智能人類(lèi)社會(huì)安全2.就業(yè)失業(yè)

借助人工智能技術(shù)打造的機(jī)器人，其優(yōu)點(diǎn)顯而易見(jiàn)：超級(jí)計(jì)算能力、只需電力供給便可保證24小時(shí)全年無(wú)休、無(wú)須擔(dān)心因主觀意志影響決策等。因此，未來(lái)基于這一技術(shù)的機(jī)器人將勝任制造工人、客服、司機(jī)、翻譯，保安等多種崗位，由此帶來(lái)的失業(yè)將導(dǎo)致嚴(yán)重的社會(huì)問(wèn)題。8.2.2人工智能人類(lèi)社會(huì)安全典型案例：無(wú)人工廠

《中國(guó)青年報(bào)》報(bào)道：中國(guó)廣州東莞的松山湖長(zhǎng)盈精密技術(shù)有限公司正常運(yùn)轉(zhuǎn)需要650名員工，如今工廠轉(zhuǎn)型為“無(wú)人工廠”，有60條機(jī)器人手臂晝夜不停地工作在10條生產(chǎn)線(xiàn)上。員工只剩下60人，其中3人負(fù)責(zé)檢營(yíng)和監(jiān)控生產(chǎn)線(xiàn)，其他人負(fù)責(zé)監(jiān)控計(jì)算機(jī)控制系統(tǒng)，實(shí)現(xiàn)了用機(jī)器取代90%的人力資源，從而提高了250%的生產(chǎn)效率，類(lèi)似這樣的“無(wú)人工廠”在各個(gè)行業(yè)中逐漸興起。8.2.2人工智能人類(lèi)社會(huì)安全8.2.3人工智能?chē)?guó)家安全人工智能?chē)?guó)家安全主要體現(xiàn)在政體安全、軍事安全、倫理安全三個(gè)方面，人工智能系統(tǒng)在新聞傳播、國(guó)防軍事、社會(huì)服務(wù)等領(lǐng)域的廣泛應(yīng)用，一旦發(fā)生錯(cuò)誤或不當(dāng)行為，將給國(guó)家政體、軍事、倫理安全帶來(lái)挑戰(zhàn)。1.政治安全

人工智能技術(shù)的蓬勃發(fā)展和廣泛應(yīng)用，給人類(lèi)生產(chǎn)生活帶來(lái)了極大便利，同時(shí)，也對(duì)國(guó)家主權(quán)、意識(shí)形態(tài)、執(zhí)政環(huán)境、社會(huì)關(guān)系、治國(guó)理念等帶來(lái)沖擊，深度影響國(guó)家政治安全。政治安全是國(guó)家安全的根本，充分認(rèn)清人工智能對(duì)國(guó)家政治安全的挑戰(zhàn)，研究應(yīng)對(duì)之策，有效維護(hù)國(guó)家政治安全，意義重大而深遠(yuǎn)。8.2.3人工智能?chē)?guó)家安全典型案例：人工智能影響總統(tǒng)選舉

近年來(lái)，一些西方國(guó)家使用大數(shù)據(jù)分析