人工智能：前景、風(fēng)險(xiǎn)和政治經(jīng)濟(jì)學(xué)

摘要使其成為一個(gè)超級強(qiáng)大的監(jiān)視工具。另一方面，讓市場控制人工智能可能會(huì)讓某展。尚待分析的是國家或市場在哪些政治決定因素下可以積累上述權(quán)力，以及隨后可能產(chǎn)生哪些監(jiān)管制度。本文主張引入宏觀政治經(jīng)濟(jì)方法來解釋人工智能的危險(xiǎn)，然后制定公平的解決方案。人工智能監(jiān)管框架的構(gòu)建必須以公民和公司偏好如何聚集以及在哪些制度約束下為指導(dǎo)。我們首先概述現(xiàn)有文獻(xiàn)。然后，我們轉(zhuǎn)向比較政治經(jīng)濟(jì)學(xué)的框架，以確定各國人工智能發(fā)展和監(jiān)管的宏觀差異。最后，我們強(qiáng)調(diào)，與之前的自動(dòng)化技術(shù)不同，人工智能如何影響高收入、非常規(guī)用戶，以及這種政治如何影響當(dāng)代關(guān)于人工智能治理的討論。本篇論文原發(fā)表在《FrenchPolitics》，論文名稱：《Artificialintelligence:promises,perils—andpoliticaleconomy》（《人工智能：前景、風(fēng)險(xiǎn)和政治經(jīng)濟(jì)學(xué)》作者是來自康奈爾大學(xué)的MusckaanChauhan和IsabelM.Perera。Part.01論文要點(diǎn).要點(diǎn)1：人工智能如何增強(qiáng)國家的監(jiān)控能力，并可能導(dǎo)致哪些后果？人工智能可以通過多種方式增強(qiáng)國家的監(jiān)控能力，包括大規(guī)模數(shù)據(jù)收集和分析、自動(dòng)化監(jiān)控系統(tǒng)和智能監(jiān)控設(shè)備。例如，面部識別技術(shù)和生物識別系統(tǒng)可以在邊境管理和內(nèi)部安全監(jiān)控中發(fā)揮作用。此外，人工智能還可以用于分析社交媒體和網(wǎng)絡(luò)活動(dòng)，以識別潛在的威脅和異議分子。這種增強(qiáng)的監(jiān)控能力可能導(dǎo)致一系列后果。首先，它可能加劇公民的自由和隱私權(quán)受到侵犯的擔(dān)憂。其次，人工智能系統(tǒng)可能會(huì)犯錯(cuò)或誤判，導(dǎo)致無辜者受到不公正的對待或監(jiān)視。此外，威權(quán)國家可能會(huì)利用這些技術(shù)來壓制異見和民主活動(dòng)，進(jìn)一步鞏固其權(quán)力。要點(diǎn)2：人工智能如何影響金融科技和全球金融基礎(chǔ)設(shè)施，并可能導(dǎo)致哪些市場不平等？人工智能對金融科技和全球金融基礎(chǔ)設(shè)施的影響主要體現(xiàn)在以下幾個(gè)方面：l自動(dòng)化和效率提升：人工智能可以自動(dòng)化許多金融交易和處理流程，提高交易速度和準(zhǔn)確性，降低人為錯(cuò)誤。l風(fēng)險(xiǎn)管理：通過大數(shù)據(jù)分析和機(jī)器學(xué)習(xí)，人工智能可以幫助金融機(jī)構(gòu)更準(zhǔn)確地評估和管理風(fēng)險(xiǎn)。l金融服務(wù)普及：人工智能可以使金融服務(wù)更加普及，特別是在偏遠(yuǎn)地區(qū)和發(fā)展中國家。然而，這些變化也可能導(dǎo)致市場不平等加劇：l數(shù)據(jù)獲取和訪問：擁有大量數(shù)據(jù)和先進(jìn)分析能力的金融機(jī)構(gòu)可以獲得更大的競爭優(yōu)勢，進(jìn)一步擴(kuò)大市場差距。l技術(shù)鴻溝：發(fā)展中國家和小型金融機(jī)構(gòu)可能無法跟上技術(shù)發(fā)展的步伐，導(dǎo)致它們在全球金融體系中處于不利地位。l算法偏見：如果人工智能系統(tǒng)的訓(xùn)練數(shù)據(jù)存在偏見，那么其決策也可能帶有偏見，進(jìn)一步加劇市場不平等。要點(diǎn)3：人工智能治理的主要挑戰(zhàn)是什么，如何有效解決這些問題？人工智能治理的主要挑戰(zhàn)包括：l監(jiān)管滯后：人工智能技術(shù)發(fā)展迅速，現(xiàn)有的法律和監(jiān)管框架往往難以跟上技術(shù)的發(fā)展步伐。l權(quán)力失衡：人工智能可能被少數(shù)大型科技公司或國家控制，導(dǎo)致權(quán)力過度集中，威脅公平競爭和市場多樣性。l隱私和安全：如何在推動(dòng)技術(shù)創(chuàng)新的同時(shí)保護(hù)個(gè)人隱私和數(shù)據(jù)安全是一個(gè)重要問題。有效解決這些問題的方法包括：l制定全面的監(jiān)管框架：政府和監(jiān)管機(jī)構(gòu)需要制定全面的法律和監(jiān)管框架，確保人工智能的開發(fā)和應(yīng)用符合公共利益和社會(huì)價(jià)值觀。l多方參與治理：鼓勵(lì)政府、企業(yè)、學(xué)術(shù)界和社會(huì)各界共同參與人工智能治理，確保各方的利益得到平衡。l透明度和問責(zé)制：確保人工智能系統(tǒng)的決策過程透明，并建立有效的問責(zé)機(jī)制，防止濫用和不當(dāng)行為。l持續(xù)監(jiān)測和評估：建立持續(xù)的監(jiān)測和評估機(jī)制，及時(shí)發(fā)現(xiàn)和解決人工智能帶來的新問題，確保技術(shù)的健康發(fā)展。Part.02論文原文01人工智能的前景馬克龍立志使法國成為世界人工智能（AI）領(lǐng)導(dǎo)者。作為其法國2030計(jì)劃的一部分，共和國總統(tǒng)承諾投資5億歐元發(fā)展該技術(shù)——這一舉措部分是為了應(yīng)對該領(lǐng)域的“盎格魯-撒克遜偏見”（正如他自己所說，參見France242023;ChatterjeeandVolpicelli2023）。他并不是唯一一個(gè)對人工智能充滿希望的政府。盡管馬克龍可能最擔(dān)心來自美國谷歌和OpenAI的競爭，但德國、挪威以及歐盟的同行們也啟動(dòng)了類似的投資和計(jì)劃，以支持在關(guān)鍵領(lǐng)域使用人工智能（Reuters2023;Milne2023;EC2021）。與人工智能的承諾一樣引人注目的是其風(fēng)險(xiǎn)。在極右翼，這一問題分裂了領(lǐng)導(dǎo)層，支持者面臨著關(guān)于允許人工智能失控的道德和倫理后果的傳統(tǒng)主義擔(dān)憂至政治界限。在美國外交政策巨頭亨利基辛格2018年在《TheAtlantic》上發(fā)（Gatinois2023;至政治界限。在美國外交政策巨頭亨利基辛格2018年在《TheAtlantic》上發(fā)表的一篇文章中，他認(rèn)為人工智能是“啟蒙運(yùn)動(dòng)的終結(jié)”。他警告說，人工智能缺乏提供適當(dāng)結(jié)果的背景；這些脫離背景的結(jié)果反過來可能會(huì)改變?nèi)祟惖乃季S過程和價(jià)值觀；而且，即使人工智能確實(shí)提供了背景適當(dāng)?shù)慕Y(jié)果，其超級計(jì)算能力也可能無法以人類大腦能夠理解的方式解釋這些結(jié)果的依據(jù)。簡而言之，人工智能可能會(huì)壓倒人類意識——危及社會(huì)關(guān)系的核心線索。撇開專家和政治家之間的辯論不談，很明顯，人工智能給當(dāng)代政治和社會(huì)帶來了重大變化。但效果如何？此外，學(xué)術(shù)政治科學(xué)對此有何看法？國家和市場會(huì)因此而改變嗎？本文回顧了該學(xué)科的最新研究成果，探討了人工智能與政治經(jīng)濟(jì)之間的關(guān)系。為此，我們查閱了Scimago排名前50的政治科學(xué)期刊，從1990年至今，搜索有關(guān)或相關(guān)人工智能的文章。我們的發(fā)現(xiàn)突出了政治科學(xué)家對人工智能風(fēng)險(xiǎn)的日益關(guān)注，即其鞏固國家和公司權(quán)力的能力。但這個(gè)結(jié)果并非定局。事實(shí)上，我們發(fā)現(xiàn)文獻(xiàn)中存在一些重要空白，如果得到解決，可能會(huì)改變甚至逆轉(zhuǎn)這一假設(shè)。特別是，我們認(rèn)為更密切地關(guān)注人工智能可能與其它（非智能）技術(shù)相似或不同的方式，可能會(huì)揭示一個(gè)更為細(xì)致的政治經(jīng)濟(jì)學(xué)。02兩個(gè)風(fēng)險(xiǎn)及可能的解決方案關(guān)于人工智能的（有限的）政治學(xué)研究指出，其發(fā)展威脅到政治權(quán)力的實(shí)現(xiàn)、維持和調(diào)節(jié)。出現(xiàn)了兩個(gè)分支的擔(dān)憂。一方面，政治科學(xué)家擔(dān)心授予國家對人工智能的控制權(quán)可能會(huì)使其成為一個(gè)超強(qiáng)大的監(jiān)控代理。另一方面，授予市場對人工智能的控制權(quán)可能允許特定公司取代國家成為權(quán)威中心。在這兩種情況下，都出現(xiàn)了如何檢查這種權(quán)力積累的問題——也就是說，如何“治理”它。在第一種情況下，人工智能可能會(huì)產(chǎn)生越來越強(qiáng)大的威權(quán)國家。在第二種情況下，越來越強(qiáng)大的科技公司（“大科技”）可能會(huì)接管他們生產(chǎn)的人工智能的監(jiān)管，迎來一個(gè)由算“錯(cuò)誤”的人手中，無論是國家還是公司，那么它可以使這些實(shí)體變得非常強(qiáng)大。一、風(fēng)險(xiǎn)1：人工智能與國家權(quán)力積累政治科學(xué)家，特別是那些研究國際關(guān)系的學(xué)者，已經(jīng)強(qiáng)調(diào)將人工智能引入政府活動(dòng)可以增強(qiáng)其權(quán)力。當(dāng)然，威權(quán)政權(quán)是這些技術(shù)的主要用戶。例如，威權(quán)國家可以使用人工智能鎮(zhèn)壓民主社會(huì)運(yùn)動(dòng)。越來越多的文獻(xiàn)研究了如敘利亞等國內(nèi)異見的“數(shù)字鎮(zhèn)壓”，其中基于人工智能的技術(shù)加強(qiáng)了這種鎮(zhèn)壓（Conduit2023;Earletal2022;Frantzetal2020;MichaelsonandThumfart2022）。還要注意，各國還將這些技術(shù)跨境部署，這在安全研究中引發(fā)了關(guān)于用人工智能決策取代人類決策對戰(zhàn)爭影響的激烈辯論（AmooreandRaley2016;GoldfarbandLindsay2022;Heath-Kelly2016;HorowitzandLin-Greenberg2022;Jensenetal2020;Maas2019;Mollicchi2016;Payne2018;RobertsandElbe2016;Whyte2023）因此，并非只有威權(quán)國家在使用人工智能。實(shí)際上，自由民主國家也在越來越多（Feldstein2019）。從貿(mào)易的角度來看，法國、日本和德國在向其他國家提供這些技術(shù)方面發(fā)揮了重要作用。歐盟也是如此。根據(jù)Bocu和Al-Jizawi（2023）的說法，歐盟在為土耳其正義與發(fā)展黨統(tǒng)治下的目標(biāo)人口提供數(shù)字基礎(chǔ)設(shè)施和提高數(shù)字鎮(zhèn)壓能力方面發(fā)揮了重要作用。還要注意，自由社會(huì)投資人工智能以應(yīng)對與中國的貿(mào)易赤字，正如歐盟2011年的智能專業(yè)化政策所尋求的那2022）。從國內(nèi)政策的角度來看，自由民主國家已經(jīng)開始使用人工智能監(jiān)控來阻礙公民參與（Dauvergne2021）并加強(qiáng)內(nèi)部警務(wù)策略的偏見（Leese2023;Ferguson2017）。此外，使用信息和通信技術(shù)（ICTs）控制移民流動(dòng)（參見《JournalofEthnicandMigrationStudies》2022年特刊）表明，數(shù)字資源已經(jīng)作為國家武器庫中的重要工具。例如，Soysuren和Nedelcu研究了法國如何越來越依賴數(shù)據(jù)庫和生物識別技術(shù)（存儲(chǔ)在Eurodac中）來驅(qū)逐外國人。人工智能監(jiān)控的使用只會(huì)加速這些移民控制過程。更一般地說，國家對人工智能的使用威脅到“數(shù)字隱私”。Whitford和Yates（2022）將此術(shù)語定義為“個(gè)人對個(gè)人數(shù)據(jù)隱私的適當(dāng)期望以及對誰可以訪問該數(shù)據(jù)的控制。”盡管國際組織已開始以人權(quán)的名義呼吁數(shù)字隱私保護(hù)（ChapmanandLi2023;SohandConnolly2021但并非所有國家都同意如何管理這一風(fēng)險(xiǎn)。例如，歐盟的2023年人工智能法案旨在監(jiān)管和禁止對基本人權(quán)和數(shù)字主權(quán)構(gòu)成風(fēng)險(xiǎn)的AI系統(tǒng)。其方法與美國2021年創(chuàng)新與競爭法案形成鮮明對比，后者“優(yōu)先考慮人工智能創(chuàng)新、自愿標(biāo)準(zhǔn)和指南，并將現(xiàn)有消費(fèi)者保護(hù)標(biāo)準(zhǔn)應(yīng)用于新技術(shù)”（Broedersetal2023）。即使在自由民主國家，何為人工智能的濫用也因而是一個(gè)高度復(fù)雜且具有爭議性的主題，標(biāo)志著地緣政治和經(jīng)濟(jì)優(yōu)先事項(xiàng)。二、風(fēng)險(xiǎn)2：人工智能與企業(yè)權(quán)力的積累政治科學(xué)家，尤其是那些研究全球經(jīng)濟(jì)的學(xué)者，也對通過人工智能積累企業(yè)權(quán)力表示擔(dān)憂?！禦eviewofInternationalPoliticalEconomy》（2021年）最近的一期特刊注意到了全球金融領(lǐng)域的這種焦慮。在其引言中，編輯們指出人工智融活動(dòng)，如支付和定價(jià)。在編輯們看來，人工智能在這種“背景功能”層面影響全球金融。那么，控制這些基礎(chǔ)設(shè)施的功能和所有權(quán)的市場參與者，就會(huì)獲得重要的政治權(quán)力和影響力。在那期特刊中的幾篇研究文章指出，人工智能驅(qū)動(dòng)的銀行業(yè)正在積累市場力量。例如，Brandl和Dietrich（2021）展示了新技術(shù)是如何在集中化的全球支付系統(tǒng)中取代舊技術(shù)的：在20世紀(jì)80年代初之前的銀行業(yè)，20世紀(jì)90年代的跨國公司，以及21世紀(jì)初的科技驅(qū)動(dòng)型公司。此外，全球金融基礎(chǔ)設(shè)施的快速變化產(chǎn)生了不平等的結(jié)果，加劇了現(xiàn)有的市場不平等。這期特刊中的研究展示了大數(shù)據(jù)是如何通過改變邊緣金融和“金融包容性”的基礎(chǔ)設(shè)施來影響金融化的，擴(kuò)大了負(fù)債邊緣化人群的數(shù)量，特別是在全球南方（Bernards2019;Langevin2019;Singh2019）。在中國，金融科技（“Fintech”）平臺(tái)，或者那些使用技術(shù)的平臺(tái)，在數(shù)字人民幣的推廣中被賦予了中心地位（Liu2023）。因此，這部分文獻(xiàn)指出，如果處于人工智能發(fā)展前沿的金融科技和大科技公司繼續(xù)控制其使用，它們可能會(huì)變得過于強(qiáng)大。在這種情況下，傳統(tǒng)上被視為國家基礎(chǔ)設(shè)施工作的“治理”，被大型科技公司所取代，迎來了一個(gè)“算法治理”或“數(shù)字治理”的時(shí)代。通過使用人工智能和新興技術(shù)來控制全球供應(yīng)鏈和全球金融，囤積數(shù)據(jù)并操縱信息交換的方式，大型科技公司似乎準(zhǔn)備接替政治權(quán)威，取代國家及其基礎(chǔ)設(shè)施。03解決方案：“人工智能治理”因此，政治科學(xué)家已經(jīng)開始擔(dān)心人工智能可能會(huì)導(dǎo)致權(quán)力的過度集中，無論是國家的還是市場層面。盡管人工智能可以作為工具促進(jìn)和改進(jìn)人類社會(huì)的某些方面，但其未經(jīng)檢查的使用可能會(huì)不成比例地增強(qiáng)某些行為體。換句話說，如果人工智能作為一種工具落入“錯(cuò)誤”的手中，那么它可以使這些實(shí)體變得非常強(qiáng)大?！板e(cuò)誤”的手可能是國家、科技公司或?qū)で笸七M(jìn)其議程的政治團(tuán)體。為了糾正這種權(quán)力的過度積累，政治科學(xué)家建議更新監(jiān)管結(jié)構(gòu)。因此，關(guān)于“人工智能治理”的學(xué)術(shù)文獻(xiàn)迅速涌現(xiàn)。主要的編輯文集已經(jīng)開始出現(xiàn)這一主題。2021年，《PolicyandSociety》專門為“人工智能與機(jī)器人治理”（Taeihagh2021）出版了一期。在那里，Gahnberg（2021）提出了一個(gè)AI監(jiān)管的總體框架。他建議在四個(gè)不同領(lǐng)域進(jìn)境，3)人工智能體可以采取的物理/數(shù)字/運(yùn)動(dòng)動(dòng)作，4)人工智能體可以從其環(huán)境境，3)人工智能體可以采取的物理/數(shù)字/運(yùn)動(dòng)動(dòng)作，4)人工智能體可以從其環(huán)境中中檢索的信息。學(xué)者們現(xiàn)在正在等待即將出版的《OxfordHandbookofAI》Governance》，該手冊有望進(jìn)一步分析和闡述這些政策建議。我們認(rèn)為，這些學(xué)術(shù)成果構(gòu)成了一個(gè)重要的知識進(jìn)步，因?yàn)樗鼈冮_始陳述AI監(jiān)管對國家和市場的可觀察影響。04政治經(jīng)濟(jì)學(xué)：誰積累權(quán)力以及什么決定其監(jiān)管但仍有更多內(nèi)容有待分析和解釋。雖然國際關(guān)系和國際政治經(jīng)濟(jì)學(xué)學(xué)者已經(jīng)為提醒該學(xué)科注意國家和市場通過人工智能積累權(quán)力的方式鋪平了道路，但關(guān)于這一結(jié)果的政治決定因素卻鮮有提及。國家或市場行為者何時(shí)、為何以及如何通過人工智能積累權(quán)力？而且，如果改善治理結(jié)構(gòu)可以糾正這種不平衡，那么哪些行為者有興趣制衡這種權(quán)力？對國內(nèi)政治，特別是比較政治經(jīng)濟(jì)學(xué)的關(guān)注，可以幫助學(xué)者確定國家或市場在何種條件下積累這種權(quán)力，如何積累，以及隨后可能產(chǎn)生什么樣的監(jiān)管制度。最近的研究試圖繪制各國AI監(jiān)管政策的差異。Papyshev和Yarime（2023）根廣”要么“控制”AI。處于“推廣”組的國家（例如，英國、美國、印度）和發(fā)展組的國家（例如，中國、日本）都優(yōu)先考慮創(chuàng)新而非保護(hù)。雖然“推廣”AI的國家傾向于采取分散的方法，并對私營部門的發(fā)展袖手旁觀，但那些“發(fā)展”AI的國家則積極直接地與私營部門合作。與此同時(shí)，“控制”組的政府（歐盟、墨西哥）強(qiáng)調(diào)發(fā)展強(qiáng)大的監(jiān)管框架，以防范AI使用帶來的風(fēng)險(xiǎn)。比較政治經(jīng)濟(jì)學(xué)家可以幫助識別這種宏觀層面的差異，同樣重要的是，探索其政治決定因素?，F(xiàn)有的框架（例如，資本主義多樣性、福利國家類型、增長模式）可以幫助確定產(chǎn)生替代國家-市場關(guān)系的分配政治。例如，自由市場經(jīng)濟(jì)體和福利國家傾向于有利于私營部門及其公司。這種模式可能有助于解釋為什么像美國或英國這樣的國家采取了推廣而非開發(fā)或控制策略。歐盟長期以來對消費(fèi)者保護(hù)的重視（可能是其整合多種國家增長模式的努力的副產(chǎn)品）可能有助于解釋其追求控制策略的原因。鍵行為者的偏好。目前的工作強(qiáng)調(diào)了AI公司塑造AI政策（Ulnicane等人2021;Radu2021）。但比較政治經(jīng)濟(jì)學(xué)文獻(xiàn)告訴我們，公司的特征，如其規(guī)?；蛏a(chǎn)策略，對其偏好以及由此產(chǎn)生的公共政策結(jié)果有很大影響（Estévez-Abe等人2001;Mares2003）。學(xué)者們剛剛開始確定AI公司的相關(guān)政治經(jīng)濟(jì)特征（例如，Tallberg等人2023并指出快速的技術(shù)變革也可以同樣迅速地改變它們的偏好（例如，來自Fintech的Campbell-Verduyn和Lenglet2022,Brown和Piroska2022的例子）。確定精確的公司偏好，無論是生產(chǎn)AI的公司還是受其影響的公司，將是理解他們所倡導(dǎo)的監(jiān)管結(jié)構(gòu)的關(guān)鍵第一步。強(qiáng)調(diào)勞動(dòng)的力量和偏好可以制衡商業(yè)的力量（例如，Korpi2006）。很少有人努力研究AI如何塑造工人的偏好，因?yàn)槲墨I(xiàn)往往側(cè)重于自動(dòng)化或機(jī)器人等較舊技術(shù)的影響。正如Kurer和Gallego（2022）在他們對該文獻(xiàn)的回顧中所指出的，關(guān)于面臨自動(dòng)化被取代風(fēng)險(xiǎn)較高的工人是否支持增加失業(yè)救濟(jì)金、社會(huì)保護(hù)和普遍基本收入的支出，證據(jù)不一。技術(shù)變革如何影響工人的政治偏好也高度依賴于情境：工人可能會(huì)開始投票給非建制黨派，但這取決于自動(dòng)化作為一個(gè)問題是否已經(jīng)被充分政治化。此外，工人可能會(huì)（錯(cuò)誤地）將他們經(jīng)濟(jì)下滑的原因歸咎于全球化及/或移民競爭，而不是數(shù)字化，這是一個(gè)由于結(jié)構(gòu)性變化的漸進(jìn)性質(zhì)以及經(jīng)濟(jì)衰退與移民和貿(mào)易之間的政治優(yōu)先級而難以觀察的原因。如果自動(dòng)化對工人的影響產(chǎn)生了對工人偏好的異質(zhì)性效應(yīng)，那么人工智能會(huì)有所不同嗎？也許吧。盡管自動(dòng)化和機(jī)器人技術(shù)威脅到了低收入和中等收入者，但人工智能破壞了高收入、知識密集型職業(yè)的穩(wěn)定（O’Donovan2020）。例如，像優(yōu)步這樣的數(shù)字平臺(tái)現(xiàn)在使用算法執(zhí)行管理任務(wù)，使他們的商業(yè)模式中產(chǎn)階級知識工作變得多余?，F(xiàn)在，人工智能可以生成文檔研究和打字，因此法律和新聞等職業(yè)受到威脅。然而，這些受過更高教育或收入較高的職業(yè)中的工人可能在公共政策方面比他們受到自動(dòng)化威脅的低收入同行有更多的發(fā)言權(quán)。最近的好萊塢編劇罷工就是一個(gè)很好的例子（Foroohar2023）。（2023年5月2日，美國好萊求公平的合約，拒絕給AI打工。據(jù)報(bào)道，美國編劇協(xié)會(huì)WGA先前與主要電影制作公司和流媒體平臺(tái)爭取加薪談判破裂后，宣布了此次罷工。）在這里，受