《人工智能倫理導(dǎo)論》課件第2章數(shù)據(jù)倫理

第二章數(shù)據(jù)倫理了解數(shù)據(jù)化含義及其對(duì)個(gè)人和社會(huì)的解析問題。理解大數(shù)據(jù)應(yīng)用產(chǎn)生的主要倫理問題。了解人本主義數(shù)據(jù)倫理含義。

本章學(xué)習(xí)要點(diǎn)人工智能系統(tǒng)需要通過計(jì)算機(jī)技術(shù)來實(shí)現(xiàn)，計(jì)算機(jī)技術(shù)的實(shí)現(xiàn)方式主要是各種解決問題算法及依托算法編制的程序。數(shù)據(jù)和算法都需要科學(xué)家、工程師、程序員等各種專業(yè)人員來處理和設(shè)計(jì)，其中隱含著人類本身的利益取向或價(jià)值觀。數(shù)據(jù)是人工智能技術(shù)處理的主要對(duì)象，算法是實(shí)現(xiàn)人工智能系統(tǒng)的主要手段。本章主要學(xué)習(xí)數(shù)據(jù)倫理的含義及其被采集、存儲(chǔ)、使用時(shí)出現(xiàn)的倫理問題。人們?cè)谄谕麛?shù)據(jù)化引領(lǐng)人類社會(huì)向更美好的階段進(jìn)發(fā)的同時(shí)，也要注意控制其中的負(fù)面因素。學(xué)習(xí)導(dǎo)言一般而言，數(shù)據(jù)是描述事物的符號(hào)記錄，是計(jì)算機(jī)處理的原始材料，圖形、聲音、文字、數(shù)值、字符和符號(hào)等都可以作為計(jì)算機(jī)處理的材料或?qū)ο蟆?shù)據(jù)代表著對(duì)某一件事物的描述，通過記錄、分析、重組數(shù)據(jù)，實(shí)現(xiàn)對(duì)人們的工作業(yè)務(wù)指導(dǎo)。計(jì)算機(jī)通過算法幫助人們分析、處理不同類型的數(shù)據(jù)，使得計(jì)算機(jī)顯示出一定的智能性。2.1數(shù)據(jù)、信息與大數(shù)據(jù)2.1.1數(shù)據(jù)的定義大數(shù)據(jù)概念在上世紀(jì)90年代被提出，大數(shù)據(jù)被定義為“代表著人類認(rèn)知過程的進(jìn)步，數(shù)據(jù)集的規(guī)模是無(wú)法在可容忍的時(shí)間內(nèi)用目前的技術(shù)、方法和理論去獲取、管理、處理的數(shù)據(jù)”。大數(shù)據(jù)在醫(yī)療、制造、娛樂、媒體、物聯(lián)網(wǎng)、車聯(lián)網(wǎng)等領(lǐng)域具有重要應(yīng)用，也正是在大數(shù)據(jù)技術(shù)的支持下，許多傳統(tǒng)行業(yè)有了新的突破，新興行業(yè)更是將作為一種戰(zhàn)略性資源看待。大數(shù)據(jù)已經(jīng)成為跟電力、石油一樣重要的資源。大數(shù)據(jù)不僅對(duì)科技進(jìn)步和社會(huì)發(fā)展具有重要意義，而且也支撐著人工智能的發(fā)展，是目前人工智能基礎(chǔ)性技術(shù)之一。2.1數(shù)據(jù)、信息與大數(shù)據(jù)2.1.2大數(shù)據(jù)的定義與特征一般認(rèn)為，大數(shù)據(jù)具備如下四個(gè)特征：數(shù)據(jù)規(guī)模大數(shù)據(jù)種類多處理速度快數(shù)據(jù)價(jià)值密度低2.1數(shù)據(jù)、信息與大數(shù)據(jù)2.1.2大數(shù)據(jù)的定義與特征數(shù)據(jù)倫理主要是指數(shù)據(jù)尤其是大數(shù)據(jù)在社會(huì)生產(chǎn)、生活中日益廣泛使用引發(fā)的倫理問題。數(shù)據(jù)倫理有其本身內(nèi)在的問題和機(jī)制，并不完全從屬于人工智能倫理。只有當(dāng)數(shù)據(jù)或大數(shù)據(jù)成為人工智能技術(shù)的處理對(duì)象，二者結(jié)合之后形成的人工智能系統(tǒng)所產(chǎn)生的倫理問題才成為人工智能領(lǐng)域的倫理問題。由于數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)傳輸、數(shù)據(jù)計(jì)算或者傳統(tǒng)的數(shù)據(jù)分析、數(shù)據(jù)處理及數(shù)據(jù)應(yīng)用帶來的倫理問題，并不涉及人工智能技術(shù)或算法，都屬于數(shù)據(jù)領(lǐng)域本身的倫理問題。2.1數(shù)據(jù)、信息與大數(shù)據(jù)2.1.3數(shù)據(jù)倫理定義隱私是指私人生活安寧不受他人非法干擾，私人信息秘密不受他人非法搜集、刺探和公開等。隨著互聯(lián)網(wǎng)等企業(yè)不斷通過各種手段收集個(gè)人數(shù)據(jù)以及各類數(shù)據(jù)采集設(shè)施的廣泛使用，意味著企業(yè)或系統(tǒng)可以掌握大量的個(gè)人信息?，F(xiàn)代社會(huì)中，對(duì)個(gè)人的數(shù)據(jù)收集，不僅涉及人們主動(dòng)在電商或新媒體平臺(tái)生產(chǎn)或提供的數(shù)據(jù)，也涉及很多人們被動(dòng)提供的數(shù)據(jù)。2.2大數(shù)據(jù)技術(shù)面臨的主要倫理問題2.2.1個(gè)人數(shù)據(jù)收集侵犯隱私權(quán)2.2大數(shù)據(jù)技術(shù)面臨的主要倫理問題

可穿戴設(shè)備采集個(gè)人數(shù)據(jù)隨著數(shù)據(jù)采集工具向各類傳感器、可穿戴設(shè)備拓展，它們對(duì)于人的數(shù)據(jù)的采集進(jìn)入深層，人的現(xiàn)實(shí)行為數(shù)據(jù)、生理數(shù)據(jù)等成為收集對(duì)象。2.2.1個(gè)人數(shù)據(jù)收集侵犯隱私權(quán)大數(shù)據(jù)信息價(jià)值開發(fā)要實(shí)現(xiàn)相對(duì)較為準(zhǔn)確的預(yù)測(cè)，需要依賴大規(guī)模的原始數(shù)據(jù)，這就意味著需要從盡可能多的事物中抓取信息，甚至是從一些極其平常的事物或狀態(tài)中獲取信息，通過量化方法開發(fā)出更多的有創(chuàng)新性價(jià)值的產(chǎn)品或建議。但是，在數(shù)據(jù)信息價(jià)值開發(fā)和應(yīng)用的過程中，很多情形可能造成侵犯?jìng)€(gè)人隱私權(quán)的問題。2.2大數(shù)據(jù)技術(shù)面臨的主要倫理問題2.2.2信息價(jià)值開發(fā)侵犯隱私權(quán)不同的商家選擇對(duì)應(yīng)的“人群包”進(jìn)行商品推薦或廣告投放，實(shí)現(xiàn)所謂“千人千面”?！扒饲妗钡某霈F(xiàn)，縮短了用戶的購(gòu)物鏈路，實(shí)現(xiàn)了賣家精準(zhǔn)營(yíng)銷提高客單轉(zhuǎn)化的目的。電商還可以據(jù)此可以進(jìn)行差異化定價(jià)。利用大數(shù)據(jù)技術(shù)，商家通過用戶畫像了解用戶是否對(duì)價(jià)格敏感以及用戶可能接受的最高價(jià)格，并且商家還利用了用戶的忠誠(chéng)度以強(qiáng)制溢價(jià)的方式進(jìn)行了價(jià)格歧視，導(dǎo)致用戶在不知情的情況下，支付了比普通用戶更高的價(jià)格。2.2大數(shù)據(jù)技術(shù)面臨的主要倫理問題2.2.3價(jià)格歧視與“大數(shù)據(jù)殺熟”1.知情同意知情同意指用戶對(duì)自己的數(shù)據(jù)信息和數(shù)據(jù)采集方對(duì)數(shù)據(jù)的使用和可能的后果明了和認(rèn)可。知情同意原則要求數(shù)據(jù)采集者在開始收集數(shù)據(jù)之前，首先需要向個(gè)人申明，他們將收集哪些數(shù)據(jù)、收集的數(shù)據(jù)有什么用途，在征得個(gè)人的同意之后，方可以展開數(shù)據(jù)釆集工作。數(shù)據(jù)的收集和使用需征得用戶的知情同意，并實(shí)行最少原則或必要原則，用戶應(yīng)當(dāng)有權(quán)知曉個(gè)人數(shù)據(jù)的收集范圍和用途。2.3數(shù)據(jù)倫理問題的應(yīng)對(duì)2.數(shù)據(jù)能力在大數(shù)據(jù)時(shí)代，數(shù)據(jù)成為一種新資源，從數(shù)據(jù)中挖據(jù)出所需要的有用信息的能力成了一種新能力。大數(shù)據(jù)的海量性淹沒了數(shù)據(jù)的價(jià)值，個(gè)人或企業(yè)要具備從海量數(shù)據(jù)中挖掘其潛在價(jià)值的能力。個(gè)人必須培養(yǎng)一種從數(shù)據(jù)中發(fā)現(xiàn)有用信息的能力，可將其稱為數(shù)據(jù)能力。在大數(shù)據(jù)時(shí)代，如果不培養(yǎng)和提高個(gè)人的數(shù)據(jù)能力，就會(huì)像不識(shí)字的文盲，成為“數(shù)盲”。2.3數(shù)據(jù)倫理問題的應(yīng)對(duì)3.數(shù)據(jù)權(quán)力保護(hù)數(shù)據(jù)權(quán)利包括大數(shù)據(jù)廣泛應(yīng)用所產(chǎn)生的隱私權(quán)、知情同意權(quán)、刪除權(quán)、被遺忘權(quán)、數(shù)據(jù)攜帶權(quán)等，也可以看做是人的基本權(quán)利的數(shù)據(jù)化。在理解了人工智能算法正在用人們的行為數(shù)據(jù)定義人們這一事實(shí)的情況下，每個(gè)人都應(yīng)該更加主動(dòng)地參與到此過程中，使主體的能動(dòng)性影響到數(shù)據(jù)分析或數(shù)據(jù)畫像的過程與結(jié)果，通過必要的反饋與修正機(jī)制的構(gòu)建取得對(duì)自身數(shù)據(jù)權(quán)利的主導(dǎo)權(quán)。2.3數(shù)據(jù)倫理問題的應(yīng)對(duì)4.消極倫理觀與積極倫理觀消極倫理觀從批判、規(guī)制的立場(chǎng)看事物，認(rèn)為大數(shù)據(jù)及其透明世界將給人類帶來諸多的倫理危機(jī)，必須限制大數(shù)據(jù)的隨意使用，讓其符合傳統(tǒng)倫理規(guī)范。消極倫理觀的意義在于提醒人們對(duì)待大數(shù)據(jù)、人工智能等帶來的問題要保持警惕，做好防范。前面討論的數(shù)據(jù)倫理基本都屬于從傳統(tǒng)倫理立場(chǎng)出發(fā)的消極倫理觀。積極倫理觀就是側(cè)重于事物積極的方面，以研究事物的積極作用、關(guān)注人類的健康幸福與和諧發(fā)展。積極倫理觀在考慮大數(shù)據(jù)可能帶來的倫理問題時(shí)，更看到它可能給人類帶來新的機(jī)遇。2.3數(shù)據(jù)倫理問題的應(yīng)對(duì)1.大數(shù)據(jù)可能帶來人性的真誠(chéng)回歸大數(shù)據(jù)技術(shù)通過智能感知能夠?qū)⑷祟愃枷?、情感、意志等變成連續(xù)的海量數(shù)據(jù)，通過數(shù)據(jù)的挖掘、分析和辨識(shí)，人們可以把隱藏在內(nèi)心深處的思想、情感和意志變成容易識(shí)別與認(rèn)知的數(shù)據(jù)。在大數(shù)據(jù)面前，人們不僅無(wú)法繼續(xù)偽裝自己，而且可以回歸真誠(chéng)，更加輕松地生活。2.4面對(duì)大數(shù)據(jù)的積極倫理觀2.大數(shù)據(jù)可能給人們?cè)黾有碌陌踩写髷?shù)據(jù)時(shí)代的各種事物都能夠數(shù)據(jù)化，一切犯罪行為都會(huì)暴露在公眾面前，因此犯罪者無(wú)處躲藏。積極倫理觀認(rèn)為大數(shù)據(jù)就像天羅地網(wǎng)，它讓企圖犯罪者不再有犯罪的機(jī)會(huì)，讓人們獲得更多的安全感。2.4面對(duì)大數(shù)據(jù)的積極倫理觀3.大數(shù)據(jù)可能給人們?cè)黾悠降葯?quán)平等是人類社會(huì)的終極追求目標(biāo)之一。大數(shù)據(jù)讓整個(gè)世界透明化，于是人們的一切行為和信息都被徹底記錄甚至公開，任何不平等現(xiàn)象都可能被全社會(huì)的人發(fā)現(xiàn)，任何不平等行為或貪腐行為都可能被人們從大數(shù)據(jù)中挖掘出來，甚至成為輿論風(fēng)暴。因此，任何人都很難不平等地占有其他成員的財(cái)富或其他社會(huì)資源。特權(quán)、不平等被置于大數(shù)據(jù)技術(shù)監(jiān)督之中，人與人之間會(huì)逐漸走向平等。2.4面對(duì)大數(shù)據(jù)的積極倫理觀4.大數(shù)據(jù)可能給人們帶來新的自由權(quán)人工智能系統(tǒng)更可能保護(hù)每個(gè)人的權(quán)益彼此不侵犯，這正是自由的體現(xiàn)。在大數(shù)據(jù)的監(jiān)督下，每個(gè)人都會(huì)更加檢點(diǎn)自己的行為，并在不侵犯他人的前提下最大限度地發(fā)揮每個(gè)人的自由。積極倫理觀認(rèn)為大數(shù)據(jù)時(shí)代約束條件下的自由更加符合自由的本意，每個(gè)人都在大數(shù)據(jù)的監(jiān)視下獲得一種新型自由，而且這種自由才是彼此互不傷害的真正自由。2.4面對(duì)大數(shù)據(jù)的積極倫理觀5.大數(shù)據(jù)可能更加凸顯個(gè)人的存在感大數(shù)據(jù)時(shí)代，每個(gè)人時(shí)刻都在自動(dòng)生產(chǎn)數(shù)據(jù)，人們的語(yǔ)音、圖像、視頻、上網(wǎng)軌跡、位置信息、社交信息等都被永久地保留成為鐫刻的歷史。大數(shù)據(jù)讓每個(gè)人都可以擁有自己的歷史記錄，凸顯出每個(gè)人的存在，從技術(shù)上實(shí)現(xiàn)了馬克思主義群眾觀的崇高理想。2.4面對(duì)大數(shù)據(jù)的積極倫理觀1.數(shù)字化與數(shù)據(jù)化“數(shù)據(jù)化”是指一種把現(xiàn)象轉(zhuǎn)變?yōu)榭芍票矸治龅牧炕问降倪^程。而數(shù)字化是指將許多復(fù)雜的、難以估計(jì)的信息或模擬數(shù)據(jù)通過一定的方式變成計(jì)算機(jī)能處理的0和1的二進(jìn)制碼，形成計(jì)算機(jī)可以處理的數(shù)據(jù)。數(shù)據(jù)化最直觀的就是各式各樣的報(bào)表和報(bào)告。數(shù)據(jù)化將以前不可見的過程或活動(dòng)轉(zhuǎn)換成計(jì)算機(jī)化的數(shù)據(jù)，使之可以被操控、跟蹤、分析和處理，從而為新價(jià)值的產(chǎn)生奠定基礎(chǔ)。2.5人本主義數(shù)據(jù)倫理2.5.1個(gè)人數(shù)據(jù)收集侵犯隱私權(quán)2.數(shù)據(jù)化對(duì)社會(huì)的影響人類的社會(huì)行為和社會(huì)活動(dòng)的數(shù)據(jù)化，即將人類的社會(huì)行為和社會(huì)活動(dòng)轉(zhuǎn)換成在線量化的數(shù)據(jù)，從而能夠?qū)λM(jìn)行實(shí)時(shí)跟蹤和預(yù)測(cè)分析，并通過數(shù)據(jù)挖掘和處理，創(chuàng)造新的價(jià)值，進(jìn)而形成一種大數(shù)據(jù)驅(qū)動(dòng)的社會(huì)智能--“社會(huì)數(shù)據(jù)智能”。數(shù)據(jù)化突破自然世界的邊界，深入人類社會(huì)領(lǐng)域，一切人類行為和社會(huì)活動(dòng)都可以數(shù)據(jù)化，人類的生存空間、自然空間和數(shù)據(jù)空間相融合，構(gòu)成了可計(jì)算的“數(shù)據(jù)世界”。當(dāng)前流行的“元宇宙”正是數(shù)據(jù)世界的一個(gè)特殊形式?，F(xiàn)實(shí)社會(huì)發(fā)展?fàn)顟B(tài)通過數(shù)據(jù)化映射、存儲(chǔ)到數(shù)據(jù)世界中，并被各種數(shù)據(jù)技術(shù)所分析。2.5人本主義數(shù)據(jù)倫理2.5.1個(gè)人數(shù)據(jù)收集侵犯隱私權(quán)3.數(shù)據(jù)化對(duì)個(gè)人的影響社會(huì)數(shù)據(jù)智能將個(gè)體投射為一種“數(shù)據(jù)畫像”、“數(shù)字身體”、“虛擬身體”或“數(shù)據(jù)孿生體”，將使得各種數(shù)據(jù)集與“數(shù)據(jù)身體”成為人的“第二身體”，既是在生命意義上的，也是在社會(huì)意義上的。社會(huì)數(shù)據(jù)智能通過不特定目標(biāo)收集、存儲(chǔ)和處理不確定數(shù)量群體的信息，不再直接針對(duì)個(gè)體進(jìn)行因果推斷，而是在群組、集合與類型意義上統(tǒng)計(jì)其相關(guān)性，也就是一種對(duì)個(gè)體的解析。不管是主動(dòng)還是被動(dòng)，每個(gè)人都是數(shù)據(jù)的貢獻(xiàn)者，每個(gè)人也都是被解析對(duì)象，解析社會(huì)實(shí)際上也是解析個(gè)人。2.5人本主義數(shù)據(jù)倫理2.5.1個(gè)人數(shù)據(jù)收集侵犯隱私權(quán)3.數(shù)據(jù)化對(duì)個(gè)人的影響2.5人本主義數(shù)據(jù)倫理個(gè)人數(shù)據(jù)化的一種形式2.5.1個(gè)人數(shù)據(jù)收集侵犯隱私權(quán)3.數(shù)據(jù)化對(duì)個(gè)人的影響個(gè)人的數(shù)據(jù)化意味著個(gè)人的“數(shù)據(jù)身體”既是透明的又必然是共享的，數(shù)據(jù)化對(duì)個(gè)人的解析，實(shí)際上是人類所產(chǎn)生的各種數(shù)據(jù)被當(dāng)作事件與過程加以分析和調(diào)控。實(shí)行這些解析和評(píng)價(jià)的數(shù)據(jù)模型和智能算法一旦出現(xiàn)偏差，不僅很難加以糾正，而且可能被視為一種合理的結(jié)論，使偏差持續(xù)強(qiáng)化而造成惡性循環(huán)，甚至?xí)ㄟ^數(shù)據(jù)的跨領(lǐng)域運(yùn)用導(dǎo)致附加傷害。2.5人本主義數(shù)據(jù)倫理2.5.1個(gè)人數(shù)據(jù)收集侵犯隱私權(quán)數(shù)據(jù)主義的倫理觀對(duì)于社會(huì)和個(gè)人都存在很大的隱患。數(shù)據(jù)主義主張“信息自由是至善”，主張應(yīng)賦予信息以自由，要把一切連接到系統(tǒng)，認(rèn)為只有保證信息流通自由和數(shù)據(jù)流最大化，才能創(chuàng)造更美好的世界。數(shù)據(jù)主義的這種主張意味著信息自由凌駕于人的權(quán)利之上，意味著信息自由高于人的自由。2.5人本主義數(shù)據(jù)倫理2.5.2數(shù)據(jù)主義的弊端人本主義數(shù)據(jù)倫理觀主張“以人為本”，提倡以人的權(quán)利為本，反對(duì)以數(shù)據(jù)權(quán)力為本。人本主義數(shù)據(jù)倫理觀主張尊重人的自由，提倡“以人的自由”為中心，反對(duì)“以數(shù)據(jù)的自由”為中心。人本主義數(shù)據(jù)倫理強(qiáng)調(diào)尊重用戶的數(shù)據(jù)權(quán)和隱私權(quán)。人本主義數(shù)據(jù)倫理有助于消除數(shù)據(jù)主義對(duì)數(shù)據(jù)自由和電子算法的崇拜，建構(gòu)人與技術(shù)、