人臉識(shí)別技術(shù)-設(shè)計(jì)保護(hù)隱私和防止偏見(jiàn)的系統(tǒng)

0引言與指紋和虹膜識(shí)別非常相似，F(xiàn)RTs是一種生物識(shí)別系統(tǒng)，它依賴(lài)于模式識(shí)別來(lái)匹配給定數(shù)據(jù)集中的人臉。換言之，有關(guān)一個(gè)人身體的數(shù)字化信息是從圖像或視頻中提取出來(lái)的，并與其他面部圖像或其他傳記信息相關(guān)聯(lián)。鑒于這些能力，本文介紹了一種二維啟發(fā)式方法來(lái)描述FRTs中的準(zhǔn)確性和隱私性權(quán)衡。接著討論了這項(xiàng)技術(shù)對(duì)隱私和偏見(jiàn)的影響。1一種確定人臉識(shí)別技術(shù)準(zhǔn)確性和隱私性權(quán)衡的啟發(fā)式方法在本報(bào)告中，我們使用“準(zhǔn)確性”一詞來(lái)指代FRTs進(jìn)行圖像比較和正確識(shí)別人的能力。選擇該定義的原因是，我們希望遵循測(cè)試和實(shí)施FRTs的政府機(jī)構(gòu)使用的分類(lèi)法。我們還認(rèn)識(shí)到FRTs的性能準(zhǔn)確性包括多個(gè)方面：最大化真實(shí)肯定、最小化錯(cuò)誤肯定和錯(cuò)誤否定。這些都對(duì)隱私和偏見(jiàn)有影響。在對(duì)文獻(xiàn)進(jìn)行回顧之后，我們確定了一種二維啟發(fā)式方法，以對(duì)比潛在的隱私問(wèn)題和對(duì)FRTs準(zhǔn)確性的影響。第一個(gè)維度描述了受試者了解FRTs系統(tǒng)并同意配合使用的程度：同意或不同意。在同意的情況下，受試對(duì)象知道他們的圖像已被捕獲并通過(guò)自愿提供信息進(jìn)行合作。由于拍攝對(duì)象靜止不動(dòng)，取下臉部遮蓋物并直視攝像機(jī)，因此可以得到更高質(zhì)量的圖像。相反，在不同意的情況下，受試對(duì)象沒(méi)有機(jī)會(huì)拒絕捕獲其圖像。在這種情況下，通常會(huì)出現(xiàn)阻礙視線(xiàn)或姿勢(shì)變化的情況，從而降低FRTs的準(zhǔn)確性。啟發(fā)式對(duì)比的第二個(gè)方面是將面部驗(yàn)證與身份識(shí)別進(jìn)行對(duì)比。人臉驗(yàn)證是將一張人臉的參考圖像與另一張人臉的參考圖像，即聲稱(chēng)身份人的參考圖像進(jìn)行一對(duì)一的比較。此外，人臉識(shí)別涉及兩個(gè)數(shù)據(jù)集的搜索。它可以在一個(gè)數(shù)據(jù)集中的人臉中搜索另一數(shù)據(jù)集中的人臉，也可以從另一數(shù)據(jù)集中的一個(gè)數(shù)據(jù)集中搜索任意數(shù)量的記錄。在此報(bào)告中，我們將一對(duì)多和多對(duì)多標(biāo)識(shí)歸為一類(lèi)：一些對(duì)多。這個(gè)映射關(guān)系與FRTs系統(tǒng)的準(zhǔn)確性和偏差有關(guān)，因?yàn)槟壳坝糜谝粚?duì)一識(shí)別的算法比多對(duì)多識(shí)別的算法更準(zhǔn)確。表1所示的矩陣可以幫助我們?cè)u(píng)估錯(cuò)誤與隱私和偏見(jiàn)潛在相互作用。例如，它表明左上象限中的用例可能比右下象限中的用例具有更高的準(zhǔn)確性。因此，這種二維分類(lèi)可以作為一組判斷FRTs系統(tǒng)是否具有高精度的標(biāo)準(zhǔn)。表1按同意和匹配類(lèi)型分列的人臉識(shí)別技術(shù)使用案例2隱私和隱私增強(qiáng)技術(shù)2.1隱私權(quán)和偏好在這項(xiàng)研究中，我們將隱私定義為一個(gè)人控制自己信息的能力。它對(duì)個(gè)人和國(guó)家的重要性是不可否認(rèn)的。根據(jù)《聯(lián)合國(guó)人權(quán)宣言》，隱私權(quán)是一項(xiàng)人權(quán)。它的保護(hù)可以起到平衡國(guó)家間權(quán)力的作用，被認(rèn)為是一種受保護(hù)的公民自由。在實(shí)踐中，隱私權(quán)的概念可能由于下文的原因而難以實(shí)現(xiàn)。例如，國(guó)土安全部（DHS）指出，它被授權(quán)從“聲稱(chēng)是美國(guó)公民和進(jìn)入美國(guó)的旅行者的美國(guó)入境申請(qǐng)者”那里收集生物特征信息。但根據(jù)喬治城大學(xué)法律中心隱私與技術(shù)中心的一份報(bào)告，國(guó)會(huì)“從未明確授權(quán)使用人臉識(shí)別技術(shù)從美國(guó)公民那里收集生物特征”。對(duì)隱私的關(guān)注，尤其是對(duì)監(jiān)視的保護(hù)，可能導(dǎo)致人們改變其行為。當(dāng)被問(wèn)及這些問(wèn)題時(shí)，美國(guó)受訪者表示，他們想要隱私并關(guān)心隱私。歐盟的受訪者強(qiáng)烈地不信任機(jī)構(gòu)，他們更傾向于保護(hù)隱私。有關(guān)美國(guó)政府監(jiān)控的新聞報(bào)道可能會(huì)對(duì)記者的言論、網(wǎng)絡(luò)行為和宗教表達(dá)產(chǎn)生寒蟬效應(yīng)。對(duì)監(jiān)視的長(zhǎng)期影響研究發(fā)現(xiàn)，盡管人們能夠適應(yīng)侵入式監(jiān)視，但他們發(fā)現(xiàn)它是“煩惱、擔(dān)憂(yōu)、焦慮甚至憤怒”的原因。在一項(xiàng)研究中，受試者甚至放棄了自己喜歡的活動(dòng)和愛(ài)好，以表現(xiàn)出某種形式的對(duì)觀察者所能看到東西的控制。此外，監(jiān)視并不能保證產(chǎn)生好的行為或阻止壞的行為。例如，閉路電視在犯罪方面的效力因環(huán)境而異。2.2數(shù)據(jù)收集和共享許可考慮到公眾對(duì)隱私和監(jiān)視的關(guān)注，在決定如何實(shí)施FRTs時(shí)，獲得同意是一個(gè)重要的考慮因素。對(duì)不同意提供信息的人使用FRTs，無(wú)論是收集還是以后分享，都會(huì)產(chǎn)生短期和長(zhǎng)期的負(fù)面影響。它可能導(dǎo)致結(jié)果不準(zhǔn)確或被誤解，例如，被列入拒絕某人權(quán)利的黑名單中。鑒于收集到的這些信息一般不公開(kāi)，可能不會(huì)告知錯(cuò)誤肯定事件的當(dāng)事人為什么會(huì)被標(biāo)記，從而使他們無(wú)法利用補(bǔ)救或申訴機(jī)制來(lái)反駁和解決誤解。FRTs也可以用來(lái)提供一些好處。如果請(qǐng)求某一福利的人不同意拍照，那么他們將不會(huì)有可用于成功配對(duì)的面部照片。例如，有些旅行需要護(hù)照，如果想進(jìn)行這種旅行的人從未申請(qǐng)或提供符合申請(qǐng)護(hù)照要求的照片，那么他們就不會(huì)同意在檢查護(hù)照的數(shù)據(jù)集中擁有照片，因此將被拒絕進(jìn)行該旅行。2.3隱私增強(qiáng)技術(shù)在部署新技術(shù)時(shí)，特別是在安全環(huán)境中，政府機(jī)構(gòu)可能需要考慮保護(hù)隱私和提供安全之間的內(nèi)在權(quán)衡。隱私工程領(lǐng)域近年來(lái)不斷發(fā)展，它解決了將隱私保護(hù)構(gòu)建到軟件和硬件中的問(wèn)題。我們探索了隱私工程，以確定如何獲得FRTs的安全優(yōu)勢(shì)，同時(shí)仍將隱私構(gòu)建到以安全為中心的系統(tǒng)中。盡管隱私工程包含多種工具和技術(shù)，但我們重點(diǎn)關(guān)注在FRTs系統(tǒng)上實(shí)現(xiàn)隱私工程的三個(gè)方面：（1）數(shù)據(jù)保護(hù)側(cè)重于通過(guò)使用加密或分離系統(tǒng)角色或任務(wù)來(lái)保護(hù)現(xiàn)有數(shù)據(jù)。這確保了數(shù)據(jù)的完整性，并且只有預(yù)期和授權(quán)的查看者才能讀取信息。它在防止惡意收集信息方面特別有用。（2）數(shù)據(jù)最小化、縮減和匿名化側(cè)重于減少可用信息量，甚至是授權(quán)用戶(hù)。相關(guān)方法的示例包括差分隱私和匿名化。（3）數(shù)據(jù)透明度和可糾正性是一種訪問(wèn)和控制技術(shù)，強(qiáng)調(diào)受試者在確定和理解如何處理其數(shù)據(jù)方面的作用。復(fù)雜的用戶(hù)訪問(wèn)和隱私控制選項(xiàng)包括向公眾提供通知和選擇。此外，如有需要，還應(yīng)提供糾正信息的機(jī)會(huì)。盡管有通知和選擇，但個(gè)人對(duì)其數(shù)據(jù)的控制最終可能取決于政府機(jī)構(gòu)如何選擇平衡隱私和安全。前兩個(gè)方面（數(shù)據(jù)保護(hù)和數(shù)據(jù)最小化、縮減和匿名化）僅在系統(tǒng)實(shí)施者和開(kāi)發(fā)人員的控制之內(nèi)。數(shù)據(jù)透明性和可糾正性還必須由系統(tǒng)開(kāi)發(fā)人員和實(shí)施人員來(lái)建立，但是這些技術(shù)為主題提供了更多的機(jī)會(huì)來(lái)讓受試者了解和更正關(guān)于自己持有和使用的數(shù)據(jù)。2.4人臉識(shí)別黑客人們?cè)噲D保護(hù)隱私的一種方法是“入侵”FRTs。FRTs無(wú)法幸免于通過(guò)各種攻擊媒介破壞其有效性的努力。根據(jù)實(shí)施這些行為人的意圖，它們可以被視為一種手段，通過(guò)使攝像機(jī)難以?huà)呙枰粋€(gè)人的面部來(lái)保護(hù)隱私，或者通過(guò)偽造一個(gè)人的面部特征來(lái)為非法行為提供便利。本節(jié)描述了以避免檢測(cè)或模擬為目的對(duì)FRTs進(jìn)行黑客攻擊的技術(shù)。2.5檢測(cè)回避檢測(cè)回避也被稱(chēng)為躲避或生物特征模糊，它可以增加對(duì)象的物理外觀和用于識(shí)別他們的圖像收集之間的差異。目前，幾乎所有的檢測(cè)回避技術(shù)都依賴(lài)于面部特征的臨時(shí)或永久的物理修飾或隱藏。臨時(shí)性技術(shù)（例如，放置社交可接受的障礙物或假發(fā)）會(huì)降低FRTs系統(tǒng)檢測(cè)匹配身份的能力。一些研究強(qiáng)調(diào)了眼鏡在檢測(cè)回避中的作用。身份照片中有眼鏡的受試者一旦摘下眼鏡，就有可能避開(kāi)FRTs。眼鏡還可以設(shè)計(jì)成通過(guò)使用特定的顏色模式，通過(guò)以新穎的方式吸收和反射自然光的材料或通過(guò)發(fā)出使照相機(jī)系統(tǒng)蒙蔽的紅外光來(lái)誤導(dǎo)FRTs。使用臨時(shí)或永久性補(bǔ)妝也會(huì)降低FRTs的有效性。GuodongGuo和他的同事創(chuàng)建了一個(gè)分類(lèi)法，描述了化妝如何在一個(gè)人的面部特征中產(chǎn)生對(duì)比。分類(lèi)法包括膚色，可以通過(guò)改變膚色來(lái)改變?nèi)说耐獗矸N族；皮膚光滑度和質(zhì)地，對(duì)其進(jìn)行修飾可改變疤痕、丘疹和皺紋的外觀；皮膚的高光，可以突顯臉部的不同元素。整容手術(shù)是一種永久性改變?nèi)说奶卣鞑⑻魬?zhàn)FRTs準(zhǔn)確性的技術(shù)。根據(jù)FRTs方法和手術(shù)類(lèi)型的不同，正確識(shí)別接受過(guò)整形手術(shù)的人的能力可能會(huì)有很大差異。例如，耳整形術(shù)后的識(shí)別率約為56％至90％，而皮膚整形后的識(shí)別率則約為5％至95％。2.6假冒模仿或欺騙是減少冒名頂替者和目標(biāo)之間面部差異的行為。其目的可能是訪問(wèn)系統(tǒng)或誤導(dǎo)當(dāng)局以為某個(gè)目標(biāo)同時(shí)存在于多個(gè)位置。盡管技術(shù)可能類(lèi)似于檢測(cè)回避技術(shù)，但假冒似乎是更具挑戰(zhàn)性的。關(guān)于此主題的研究描述了四種欺騙身份的技術(shù)：照片、視頻、蒙版和變形。2.6.1照片照片欺騙是最流行的技術(shù)，因?yàn)樗苋菀讓?shí)現(xiàn)且便宜。它只需要用戶(hù)獲得目標(biāo)的照片并將其呈現(xiàn)給FRTs系統(tǒng)。這種方法的缺點(diǎn)包括缺乏三維信息和手拿圖片時(shí)引起的振動(dòng)。此外，照片不太可能模仿活人的某些特征，如眼睛和嘴巴的運(yùn)動(dòng)，在文獻(xiàn)中被稱(chēng)為“生動(dòng)性”?？朔@一缺點(diǎn)的一種方法是切開(kāi)眼睛和嘴巴的孔，這使模仿者能夠賦予圖片“自然”的運(yùn)動(dòng)。2.6.2視頻高解析度屏幕上顯示目標(biāo)的高質(zhì)量視頻可以替代目標(biāo)的照片。與照片不同，視頻中的面部特征不太可能是靜態(tài)的。如果FRTs系統(tǒng)在其身份驗(yàn)證中結(jié)合了生動(dòng)性，則一個(gè)人眨眼、執(zhí)行面部表情和呼吸的視頻對(duì)于驗(yàn)證非常有用。但是，這些好處依賴(lài)于獲得面部特征清晰可見(jiàn)的視頻素材。2.6.3面具最具挑戰(zhàn)性的欺騙技術(shù)是構(gòu)造和呈現(xiàn)一個(gè)三維面具。3-D掃描和打印技術(shù)的發(fā)展提供了必要的工具，可以促進(jìn)這種模擬假冒的產(chǎn)生。冒名頂替者面臨的主要問(wèn)題是，如果沒(méi)有目標(biāo)的合作，則幾乎不可能獲得構(gòu)建準(zhǔn)確表示所需的信息。一些FRTs系統(tǒng)通過(guò)請(qǐng)求一系列動(dòng)作或動(dòng)作密碼與被試進(jìn)行交互，而面具技術(shù)可以阻止這些動(dòng)作。在FRTs中添加其他生物特征識(shí)別可能會(huì)反擊這種黑客攻擊。2.6.4變形最后一種攻擊被稱(chēng)為變形，在這種攻擊中，一個(gè)人的照片與相貌相似的人的照片相結(jié)合。在他們的研究中，羅伯遜、克萊默和伯頓假設(shè)了一個(gè)場(chǎng)景，在這個(gè)場(chǎng)景中，有人用兩個(gè)人的變形照片更新他們的政府身份，這樣這兩個(gè)人都可以使用新的文件。3人臉識(shí)別中的偏見(jiàn)在機(jī)器學(xué)習(xí)中，尤其是在人臉識(shí)別中，偏見(jiàn)是一個(gè)日益受到關(guān)注的問(wèn)題。偏見(jiàn)是指不合理的傾向，有利于或不利于一個(gè)群體而不是另一個(gè)群體。特別令人關(guān)注的是對(duì)某些群體的非法、不道德和不受歡迎的偏見(jiàn)。少數(shù)民族和團(tuán)體如果認(rèn)為自己可能與大多數(shù)人或其他受到嚴(yán)格審查的社區(qū)格格不入，可能會(huì)避免公開(kāi)發(fā)表言論或采取其他行為。在FRTs中，面部的物理特征（如眼睛形狀或膚色）會(huì)使偏見(jiàn)持續(xù)存在。眾所周知，算法偏見(jiàn)的例子存在于不同的政策領(lǐng)域，如刑事司法和疾病監(jiān)測(cè)。有偏見(jiàn)的FRTs結(jié)果可能導(dǎo)致各種潛在的危害，如缺乏同意、針對(duì)人群、測(cè)量錯(cuò)誤和故意針對(duì)等。3.1以人口群體為目標(biāo)鑒于FRTs通常依賴(lài)于用數(shù)據(jù)“訓(xùn)練”的算法來(lái)關(guān)注特定的特征，不同的配置和操作方法在執(zhí)行FRTs“目標(biāo)”操作時(shí)會(huì)不成比例地影響群體。在本節(jié)中，我們將討論這樣的交叉過(guò)程。3.2培訓(xùn)數(shù)據(jù)監(jiān)督學(xué)習(xí)技術(shù)通常用于編程FRTs，它依賴(lài)于手動(dòng)預(yù)標(biāo)記的數(shù)據(jù)來(lái)“教導(dǎo)”算法它們應(yīng)該關(guān)注的特性。因此，訓(xùn)練數(shù)據(jù)中的偏見(jiàn)會(huì)導(dǎo)致有偏見(jiàn)的輸出。例如，如果一組面部照片包含的特定種族或具有特定面部特征的人太少，F(xiàn)RTs算法將永遠(yuǎn)無(wú)法“學(xué)習(xí)”識(shí)別他們。研究表明，訓(xùn)練數(shù)據(jù)中的人口統(tǒng)計(jì)偏見(jiàn)會(huì)影響FRTs識(shí)別人的表現(xiàn)。其中一項(xiàng)分析探討了人口統(tǒng)計(jì)信息在一套商業(yè)上可獲得的FRTs工具中的作用。結(jié)果表明，女性、黑人和年輕人的臉總是被錯(cuò)誤識(shí)別。特別是，F(xiàn)RTs中的種族偏見(jiàn)被稱(chēng)為“其他種族效應(yīng)”，此前類(lèi)似的研究發(fā)現(xiàn)，人類(lèi)能夠更好地識(shí)別自己種族的面孔。菲利普斯和他的同事將研究出的算法與以西亞或東亞國(guó)家為中心的訓(xùn)練數(shù)據(jù)進(jìn)行比較，發(fā)現(xiàn)算法分別匹配了更多的白人或東亞人的面孔。事實(shí)上，多份報(bào)告發(fā)現(xiàn)，許多FRTs對(duì)深色人臉的識(shí)別能力較差。在另一項(xiàng)研究中，研究人員發(fā)現(xiàn)，三種商業(yè)性的FRTs專(zhuān)注于性別分類(lèi)微軟認(rèn)知服務(wù)公司（microsoftcognitiveServices）、IBM沃森公司（IBMWatson）和faces++，它們?cè)谀行院湍w色較淺的人身上表現(xiàn)最好。這些FRTs在深色皮膚的女性身上表現(xiàn)最差。該研究的作者還得出結(jié)論，幾個(gè)公開(kāi)的面部圖像數(shù)據(jù)集不成比例地包含許多淺膚色的皮膚和較少的深色皮膚的面孔，尤其是深色皮膚的女性面孔。3.3目標(biāo)數(shù)據(jù)在訓(xùn)練完一個(gè)FRTs后，它被應(yīng)用到目標(biāo)數(shù)據(jù)上，目標(biāo)數(shù)據(jù)是一組標(biāo)記或識(shí)別的人臉圖像，給定一個(gè)被攝體圖像或一組圖像，F(xiàn)RTs搜索潛在的匹配。一個(gè)重要的考慮因素是這個(gè)數(shù)據(jù)集的來(lái)源和組成。例如，人臉數(shù)據(jù)集可能旨在代表感興趣的目標(biāo)人群，或由從公眾中抽取的人臉組成。矛盾的是，當(dāng)使用更多有限的參考數(shù)據(jù)集時(shí)，結(jié)果偏差的風(fēng)險(xiǎn)可能更大。例如，如果面部數(shù)據(jù)集包含面部照片，則逮捕率上的種族偏見(jiàn)可能會(huì)導(dǎo)致面部照片中的人口統(tǒng)計(jì)偏斜。這將增加在參考數(shù)據(jù)集中過(guò)分代表的種族和族裔群體中面部匹配率過(guò)高的可能性。結(jié)果，這將使過(guò)度代表的群體受到不必要的審查，從而對(duì)其造成傷害，并將損害實(shí)施計(jì)劃旨在保護(hù)廣大公眾。事實(shí)上，針對(duì)特定群體的數(shù)據(jù)可能會(huì)過(guò)多。例如，由于逮捕率不相稱(chēng)，面部照片數(shù)據(jù)庫(kù)可能包含不成比例的更多深色面孔。目標(biāo)數(shù)據(jù)集中不匹配的面部圖像的人口統(tǒng)計(jì)構(gòu)成（換句話(huà)說(shuō)，存在匹配圖像的“背景”）也會(huì)影響算法性能。最后，盡管FRTs精度隨著大量訓(xùn)練數(shù)據(jù)的提高而提高，但隨著目標(biāo)數(shù)據(jù)集大小的增加而降低。3.4測(cè)量誤差FRTs基于比較面部圖像并估計(jì)匹配可能性的算法。盡管可以假定這種基于計(jì)算機(jī)的技術(shù)是絕對(duì)可靠的，或者至少比人類(lèi)不易受到偏見(jiàn)的影響，但實(shí)際上，算法可能包含隱藏的偏見(jiàn)，這些偏見(jiàn)反映了人類(lèi)創(chuàng)造者的經(jīng)驗(yàn)、特征甚至偏好。例如，作者可能編寫(xiě)了一種算法來(lái)為其模型中的某些數(shù)據(jù)特征分配不適當(dāng)?shù)臋?quán)重、忽略或誤解。而且，這些選擇可能是完全未知的。由于算法不透明或缺乏用于識(shí)別和匹配人臉的特征的透明度，可能會(huì)導(dǎo)致無(wú)意或故意的傷害。3.5蓄意瞄準(zhǔn)關(guān)于在FRTs中確保公平性的爭(zhēng)論主要圍繞著消除無(wú)意中的偏見(jiàn)。但是通過(guò)開(kāi)發(fā)算法或數(shù)據(jù)集可以故意將偏見(jiàn)引入FRTs中，從而使結(jié)果與種族相關(guān)。在一個(gè)非FRTs的例子中，Tufekci提出了基于算法的雇傭可能基于通勤距離。盡管通勤距離看似無(wú)害，但它可以利用美國(guó)存在的極端居民隔離現(xiàn)象。用于FRTs的類(lèi)似算法可能會(huì)使結(jié)果偏向于不成比例地包括或排除某些群體，例如，推進(jìn)意識(shí)形態(tài)議程或利用政治兩極分化破壞社會(huì)穩(wěn)定。4結(jié)