隱私立法如何幫助解決人工智能問(wèn)題 20230710

2023/7/102023/7/10 隱私立法如何有助于解決AI|布魯金斯/articles/how-privacy-legaction-can-help-address-ai//articles/how-privacy-legaction-can-help-address-ai/ #/7隱私立法如何能夠幫助處理AI|布魯金斯立法過(guò)程多年的工作和辯論。事實(shí)上，在本屆國(guó)會(huì)，眾議院能源和商務(wù)委員會(huì)舉行了專門(mén)關(guān)于隱私立法的聽(tīng)證會(huì)（/events/innovation-data-and-commerce-subscription-subscription-that-america-that-thing-that-subscription-ane-america-to-summit-subscription-thing-subscription-subscription-subscription-ane-sure-to-to-subscription-auty-sure-sure-sure-to-to-to-sure-to-sure-subscription-ame-to-to-to-summit-to-summit-ane-summit-ane-summit-to-summit-to-summit-to-summit-summit-to-summit-to-to-summit-to個(gè)人信息的收集、使用和共享對(duì)于許多令人關(guān)注的技術(shù)應(yīng)用至關(guān)重要，《美國(guó)數(shù)據(jù)隱私和保護(hù)法》(ADPPA)載有處理AI治理的其他重要方面的條款。我不是在建議隱私立法作為解決隱私本身以外的問(wèn)題的補(bǔ)救辦法。在今年首次聽(tīng)證會(huì)上（/events/full-committee-hearing-american-energy-energy-enhancement-energy-ength-ength-ength-ength-engy-ength-engy-engy-ength-ength-ength-environic-encurity-encurity-ses-encurity-ency-ses-and-narity-narity-narity-emain）為眾議院能源和商務(wù)部創(chuàng)新、數(shù)據(jù)和商業(yè)小組委員會(huì)LisaBluntRochester(D-DE)、NealDunn(R-FL)和LoriTrahan(D-MA)均呼吁《美國(guó)數(shù)據(jù)隱私和保護(hù)法》(ADPPA)作為必要的回應(yīng)，SammSacks和BrandonPugh證人也是如此。當(dāng)TikTok首席執(zhí)行官壽哲作證時(shí)（/watch）？三月份，委員會(huì)面前有一長(zhǎng)串成員名單，指出TikTok收集的數(shù)據(jù)量是網(wǎng)上更廣泛?jiǎn)栴}的一部分：Rodgers、Pallone、Bilirakis、Rochester和Trahan由Reps加入。RichardHudson(R-NC)、KatCammack(R-FL)、KathyCastor(D-FL)、BillJohnson(R-OH)、YvetteClarke(D-NY)、JayObernolte(R-CA)、GregPence(R-IN)、AnnaEshoo(D-CA)和DanCrenshaw(R-TX)。在2023年5月與OpenAI首席執(zhí)行官SamAltman舉行的參議院聽(tīng)證會(huì)上（/newshour/political/watch-live-openai-ceo-sam-altman-作證-senate-jurities-committee）也提出了隱私問(wèn)題。MarshaBlackburn(R-TN)、RichardBlumenthal(D-CT)和JonOssoff(D-GA)呼吁國(guó)會(huì)推進(jìn)網(wǎng)絡(luò)隱私和數(shù)據(jù)安全的立法——Altman也是如此?！陡２妓埂罚?sites/forbestechcouncil/2023/Q3/27/which-you-require-to-preparent-for-privacy-lawnique-the-make-not-pass/？sh=76791506769a,StanfordHAI(/news/regulation-ai-through-data-privacy)和國(guó)際隱私專業(yè)人員協(xié)會(huì)。(/news/a/how-existing-data-privacy-law-可能已經(jīng)-規(guī)范-數(shù)據(jù)相關(guān)方面-of-ai/)而且，根據(jù)皮尤研究(/internet/2022/03/17/how-americans-thinking-about-artificificial-intelligent-intelligence/)，美國(guó)人民也擔(dān)心AI對(duì)其隱私的影響。《美國(guó)數(shù)據(jù)隱私和保護(hù)法》(ADPPA)載有一些有助于解決人工智能問(wèn)題的重要條款。首先，該法案將規(guī)定收集、使用和分享個(gè)人信息的界限，要求這種過(guò)程“必要且相稱”于提供產(chǎn)品或服務(wù)或?yàn)槠渌信e的目的所必需。正如我以前寫(xiě)的（/research/protection-privacy-in-an-ai-driven-world/），這種界限有助于限制人工智能的能力“放大[y]使用個(gè)人信息的能力，通過(guò)把個(gè)人信息的分析提高到新的權(quán)力和速度，可以侵犯隱私利益。”事實(shí)上，數(shù)據(jù)治理——其來(lái)源、質(zhì)量和道德使用——對(duì)于AI治理框架至關(guān)重要。值得注意的是，隨著基礎(chǔ)模型的推出，歐洲的隱私和數(shù)據(jù)保護(hù)監(jiān)管機(jī)構(gòu)(https://edpb.europa.eu/news/news/2023/edpb-resolves-displaces-transfer-meta-and-create-task-force-chat-gpt_en)和加利福尼亞(/regulations/pdf/pdf/injusticlusive_02personal_comments.第二，《美國(guó)數(shù)據(jù)隱私和保護(hù)法》(ADPPA)載有一項(xiàng)突破性的規(guī)定，通過(guò)禁止以歧視方式使用個(gè)人信息，加強(qiáng)對(duì)數(shù)字領(lǐng)域公民權(quán)利法的保護(hù)。正如去年發(fā)布的《白宮AI權(quán)利法案》(/ostp/ai-bill-of-rights/)所述，算法和自動(dòng)化系統(tǒng)存在偏見(jiàn)的問(wèn)題"有充分的文件證明(/stable/pdf/24758720.pdf？http://subscrime_token=D1VrB8rxvWYAAA:Fu7ocygmgw3Z9gevs9a1fAEombTrOxXhV_OejTYXgH5BODEnwNAG5xd,而且算法設(shè)計(jì)不佳或訓(xùn)練數(shù)據(jù)不具代表性，可在影響生命的知識(shí)方面如招聘(https://《大赦國(guó)際權(quán)利法案》所附的概況介紹(http://ahttps//ostp/news-updates/2022/10/04/fact-sheet-biden-harris-administration-convents-key-action-to-advanced-tech-tech-tech-technologies-action-action-action-action-action-action-to-action-action-action-action-action-action-action-action-action-action-action-to-technotakey-action-action-action-action-action-action-action-action-action-to-technology-action-to-to-technology-action-action-to-technology-action-action-to-action-action-action-《美國(guó)數(shù)據(jù)隱私和保護(hù)法》的民權(quán)條款將加強(qiáng)這些努力。第三，《美國(guó)數(shù)據(jù)隱私和保護(hù)法》（ADPPA）的民權(quán)部分也載有關(guān)于算法評(píng)估和問(wèn)責(zé)制的規(guī)定。這需要涉及人工智能準(zhǔn)則和框架的關(guān)鍵要素的算法評(píng)估。然而，隨著人工智能系統(tǒng)的更大透明度和問(wèn)責(zé)制，條款可以改進(jìn)。下一節(jié)介紹如何將這些元素納入《美國(guó)數(shù)據(jù)隱私和保護(hù)法》（ADPPA）的2022算法條款。為ChatGPT時(shí)刻調(diào)整隱私立法正如2022年7月眾議院能源和商務(wù)委員會(huì)所報(bào)告的，《美國(guó)數(shù)據(jù)隱私和保護(hù)法》第207條規(guī)定了兩個(gè)不同層次的算法評(píng)估。首先，"大數(shù)據(jù)擁有者"(年總收入為2.5億美元或以上，數(shù)據(jù)來(lái)自500萬(wàn)或以上的個(gè)人或裝置)將需要進(jìn)行更廣泛的"影響評(píng)估"。這些工作必須在頒布后兩年內(nèi)開(kāi)始，此后每年進(jìn)行，詳細(xì)說(shuō)明設(shè)計(jì)、使用、培訓(xùn)數(shù)據(jù)、產(chǎn)出和列舉的風(fēng)險(xiǎn)。第二，所有其他被涵蓋的實(shí)體都必須執(zhí)行一個(gè)更一般的"設(shè)計(jì)評(píng)價(jià)"，涵蓋"算法"的設(shè)計(jì)、結(jié)構(gòu)和投入"，并處理大型數(shù)據(jù)持有者影響評(píng)估中列舉的同樣風(fēng)險(xiǎn)。影響評(píng)估和設(shè)計(jì)評(píng)價(jià)都必須提交給聯(lián)邦貿(mào)易委員會(huì)，并可選擇公開(kāi)提供這些評(píng)估的摘要。鑒于對(duì)人工智能的關(guān)切日益突出，應(yīng)更新這些規(guī)定，要求被涵蓋的實(shí)體向公眾提供關(guān)于算法決策的信息，并澄清所涵蓋的算法和風(fēng)險(xiǎn)以及衡量結(jié)果的必要性。覆蓋的算法和實(shí)體根據(jù)該法案的條款，對(duì)大型數(shù)據(jù)持有者的算法影響評(píng)估要求（第207(c)(1)條）適用于"對(duì)個(gè)人或個(gè)人群體構(gòu)成損害后果風(fēng)險(xiǎn)的任何算法決定，并單獨(dú)或部分使用這種算法決策來(lái)處理涵蓋的數(shù)據(jù)"。更普遍適用的"設(shè)計(jì)評(píng)價(jià)"要求(第207(c)(2)條)適用于任何"結(jié)果"算法決策。大型數(shù)據(jù)持有者條款列舉了要避免的潛在危害，而設(shè)計(jì)評(píng)估條款又參考了這一列舉。即便如此，“結(jié)果”本身也過(guò)于含糊，因?yàn)檎Z(yǔ)言不清楚算法決策包括什么?！睹绹?guó)數(shù)據(jù)隱私和保護(hù)法》載有“覆蓋算法”的定義。這意味著：一種計(jì)算過(guò)程，其使用機(jī)器學(xué)習(xí)、自然語(yǔ)言處理、人工智能技術(shù)或類似或更復(fù)雜的其他計(jì)算處理技術(shù)，并對(duì)[個(gè)人信息]作出決定或促進(jìn)人類決策，包括確定產(chǎn)品和服務(wù)的提供，或排名、訂購(gòu)或促進(jìn)、建議、放大、放大、或者類似地確定向個(gè)人遞送或顯示信息。這種語(yǔ)言在版本上得到了改進(jìn)，這些版本可能包含幾乎任何用于幫助人類決策的計(jì)算，即使像Excel電子表格一樣例行公事，但它仍然過(guò)于繁瑣。例如，當(dāng)推薦引擎在產(chǎn)品推薦中產(chǎn)生令人反感的歧視或引導(dǎo)兒童和青少年進(jìn)入含有有害內(nèi)容的兔子洞穴，但并非每次使用，推薦引擎都會(huì)引起關(guān)注。"涵蓋的算法"本身的定義不應(yīng)將"結(jié)果"的含義留給關(guān)于算法評(píng)估的實(shí)質(zhì)性條款，而應(yīng)詳細(xì)說(shuō)明"結(jié)果"的含義，以明確說(shuō)明對(duì)算法評(píng)估和問(wèn)責(zé)制規(guī)定的要求是算法決定的后果的函數(shù)，而不是算法本身任何使用的函數(shù)。這一定義應(yīng)納入第207(c)(1)(B)(六)節(jié)中確定的具體損害類別，確定應(yīng)考慮的背景和后果，如獲得住房、就業(yè)和保健。然而，額外的總括性語(yǔ)言應(yīng)該涵蓋這些類別所屬的更廣泛的危害范圍。例如，歐洲聯(lián)盟的《一般數(shù)據(jù)保護(hù)條例》適用于對(duì)個(gè)人具有"法律效力或類似重大影響"的自動(dòng)決定進(jìn)行人身審查的權(quán)利。但是“同樣重要”也是寬泛而含糊的；可以用“機(jī)會(huì)和經(jīng)濟(jì)、社會(huì)和個(gè)人福祉”等語(yǔ)言加以澄清。這將涵蓋列舉的類別，但也包括其他影響生命的應(yīng)用程序。此外，對(duì)于"促進(jìn)"人類決策的任何算法工具的關(guān)注也過(guò)于廣泛，因?yàn)檫@樣做可能影響涉及大量人類機(jī)構(gòu)的決策。加利福尼亞州議會(huì)法案331(AB331)(https://leginfo.立法機(jī)構(gòu)./faces/billNavClient.xhtml7billJd=202320240AB331)如2023-24屆會(huì)議介紹的那樣，載有更好的措辭：它將包含算法過(guò)程，在后果決定中，它是"控制因素"。設(shè)計(jì)評(píng)價(jià)規(guī)定的范圍有異常。它涵蓋了覆蓋的實(shí)體或服務(wù)提供者“明知而開(kāi)發(fā)”覆蓋的算法。其術(shù)語(yǔ)只關(guān)注算法的開(kāi)發(fā)人員，而不關(guān)注使用由另一個(gè)實(shí)體開(kāi)發(fā)的算法過(guò)程的覆蓋實(shí)體。這涉及關(guān)于與加利福尼亞AB331和歐洲聯(lián)盟擬議的人工智能法有關(guān)的整個(gè)軟件價(jià)值鏈的責(zé)任分配的問(wèn)題，似乎排除了可能產(chǎn)生影響的用途。信息隱私立法不應(yīng)涉及整個(gè)價(jià)值鏈上的此類義務(wù)，而應(yīng)適用一項(xiàng)義務(wù)，即"采用"涵蓋的算法，對(duì)涵蓋的實(shí)體進(jìn)行設(shè)計(jì)評(píng)估。在這些情況下，評(píng)估設(shè)計(jì)、結(jié)構(gòu)、輸入和輸出的能力可能受到限制，但是某些這樣的查詢?nèi)匀皇浅?fù)責(zé)任的AI系統(tǒng)邁出的必要一步。評(píng)估范圍自從去年7月美國(guó)數(shù)據(jù)隱私和保護(hù)法(ADPPA)被標(biāo)記以來(lái)，美國(guó)國(guó)家標(biāo)準(zhǔn)和技術(shù)研究所(NationalInstituteofStandards&Technology)于2023年1月發(fā)布了AI風(fēng)險(xiǎn)管理框架(/itl/ai-risk-management-framework)(AIRMF)。這個(gè)框架提供了一個(gè)確定人工智能風(fēng)險(xiǎn)的概念框架，以及一套評(píng)估和管理這些風(fēng)險(xiǎn)的組織進(jìn)程。該框架明確意在迭代，而不是一刀切。美國(guó)數(shù)據(jù)隱私和保護(hù)法（ADPPA）關(guān)于風(fēng)險(xiǎn)評(píng)估和設(shè)計(jì)評(píng)估的要求應(yīng)該重新考慮，考慮NISTAIRMF。例如，為了避免將設(shè)計(jì)評(píng)價(jià)規(guī)定變成“一刀切”，可以考慮所涉實(shí)體的規(guī)模和復(fù)雜性，以及數(shù)據(jù)的數(shù)量和敏感性，以及美國(guó)數(shù)據(jù)隱私和保護(hù)法(ADPPA)若干其他條款(第101(c)條(數(shù)據(jù)最小化指南)、103(b)(設(shè)計(jì)隱私)、203(g)(個(gè)人控制條例)和208((a)(2)(安全)條)中的并行語(yǔ)言。最重要的是，算法評(píng)估的要素應(yīng)更明確地納入計(jì)量。在木工，格言是“量?jī)纱危幸淮巍?。?duì)于人工智能，準(zhǔn)則需要再次度量、度量、度量和度量。正如我的布魯金斯同事NicolTurnerLee與PaulResnick和GenieBarton（/research/protection-privacy-in-an-ai-driven-world/#footnote-20）所寫(xiě)的，“對(duì)于算法操作人員和開(kāi)發(fā)人員來(lái)說(shuō)，總是問(wèn)問(wèn)問(wèn)自己很重要：由于算法的設(shè)計(jì)或其意外后果，我們會(huì)讓某些群體更糟嗎？”（著重原文）。這要求進(jìn)行審計(jì)或測(cè)試，以確保AI系統(tǒng)按預(yù)期運(yùn)行，減輕潛在危害的步驟正在起作用，機(jī)器學(xué)習(xí)的調(diào)整不會(huì)造成不良結(jié)果。衡量是NISTRMF（以及管理、映射和管理）的核心功能之一，它建議"AI系統(tǒng)在部署前應(yīng)進(jìn)行測(cè)試，并在運(yùn)行期間定期測(cè)試"（著重部分由作者標(biāo)明）。《美國(guó)數(shù)據(jù)隱私和保護(hù)法》關(guān)于影響評(píng)估范圍的規(guī)定（第207(c)(1)(B)條）提到“產(chǎn)出”，但應(yīng)明確指出，其評(píng)估應(yīng)包括對(duì)部署前后產(chǎn)出的衡量。同樣，作為評(píng)估的一部分，關(guān)于設(shè)計(jì)評(píng)估的語(yǔ)言應(yīng)該傾向于測(cè)量。這一規(guī)定（第207(c)(2)節(jié)）應(yīng)在"涵蓋的算法的設(shè)計(jì)、結(jié)構(gòu)和輸入"之后加上"和預(yù)期產(chǎn)出"?！睹绹?guó)數(shù)據(jù)隱私和保護(hù)法》（ADPPA）應(yīng)將NISTRMF納入算法評(píng)估和設(shè)計(jì)評(píng)估中，作為指導(dǎo)的參考（盡管并非遵約安全港）。這項(xiàng)規(guī)定可以暗示這一點(diǎn)(第207(c)(4)條)，其中規(guī)定"與商務(wù)部長(zhǎng)協(xié)商"發(fā)布聯(lián)邦貿(mào)易委員會(huì)(FTC)關(guān)于第207條遵守情況的指導(dǎo)意見(jiàn)，商務(wù)部長(zhǎng)可以委托國(guó)家統(tǒng)計(jì)局推動(dòng)。明確提及將有助于推動(dòng)采用國(guó)家統(tǒng)計(jì)和標(biāo)準(zhǔn)管理框架，并制定標(biāo)準(zhǔn)和做法，為遵守和執(zhí)行提供信息。由于NISTRMF將在不斷的基礎(chǔ)上迭代和交互式更新，因此它比通常的代理規(guī)則或指導(dǎo)更具動(dòng)態(tài)性。披露美國(guó)數(shù)據(jù)隱私和保護(hù)法（ADPPA）關(guān)于評(píng)估的條款將要求大數(shù)據(jù)持有者記錄正在評(píng)估的人工智能系統(tǒng)的許多特征（第207（c）（1）（B）條），并將這些信息列入他們向聯(lián)邦貿(mào)易委員會(huì)（FTC）提交的報(bào)告。其他涵蓋的實(shí)體也必須提交其設(shè)計(jì)評(píng)價(jià)。然而，向公眾提供這些信息是完全可選的。

這排除了人工智能透明度的