評(píng)估未來(lái)人工智能的潛在風(fēng)險(xiǎn)、效益和政策（中文）

OECPubll·shl·ng2024年11月No.27》ECDBETTERPOLICESFORBETTERLIVES本報(bào)告回顧了關(guān)于未來(lái)人工智能潛在好處、風(fēng)險(xiǎn)和政策行動(dòng)的研究和專(zhuān)家觀點(diǎn)。它包括經(jīng)合組織人工智能未來(lái)專(zhuān)家組（“專(zhuān)家組”）成員的貢獻(xiàn)，該專(zhuān)家組由經(jīng)合組織人工智能報(bào)告還審議了現(xiàn)有的公共政策和治理工作以及仍然存在的差距。該專(zhuān)家組由StuartRussell（加州大學(xué)伯克利分校;人類(lèi)兼容人工智能中心），F(xiàn)rancescaRossi（IBM）和MichaelSch?nstein（德國(guó)聯(lián)邦珠寶店）共同主持。關(guān)于AIfutures的成員和相關(guān)輸出的完整列表可以在https://oecd.ai/site/ai-futures上找到。由于本報(bào)告的部分內(nèi)容具有前瞻性，而且對(duì)某些專(zhuān)題缺乏嚴(yán)謹(jǐn)?shù)难芯?，因此其?nèi)容中許多面向未來(lái)的方面必然是推測(cè)性的。本報(bào)告于2023年9月至2024年7月由專(zhuān)家組成員討論及審閱。經(jīng)合組織人工智能治理工作組（AIGO）在2023年11月的會(huì)議上也討論了這一問(wèn)題本文件于2024年10月30日由數(shù)字政策委員會(huì)通過(guò)書(shū)面程序批準(zhǔn)和解密，并由經(jīng)合組織秘書(shū)處準(zhǔn)備出版。該報(bào)告為經(jīng)合組織的人工智能在工作，創(chuàng)新，生產(chǎn)力和技能（AI-WIPS）計(jì)劃做出了貢獻(xiàn)，該計(jì)劃為政策制定者提供了新的證據(jù)和分析，以跟上人工智能能力和傳播的快速發(fā)展AI-WIPS得到了德國(guó)聯(lián)邦勞動(dòng)和社會(huì)事務(wù)部（BMAS）的支持，并將補(bǔ)充德國(guó)人工智能觀察站在該部數(shù)字政策實(shí)驗(yàn)室工作社會(huì)的工作有關(guān)更多信息，請(qǐng)?jiān)L問(wèn)https://oecd.ai/wips和https://denkfabrik-bmas.de。它還為經(jīng)合組織關(guān)于預(yù)測(cè)和管理新興全球變革的橫向前瞻性倡議做出了貢獻(xiàn)，該倡議旨在制定政策框架和風(fēng)險(xiǎn)管理方法，以加強(qiáng)對(duì)人工智能，合成生物學(xué)和其他潛在變革發(fā)展的準(zhǔn)備有關(guān)詳細(xì)信息，請(qǐng)?jiān)L問(wèn)https://oe.cd/global-transformations。本報(bào)告由JamieBerryhill（AIEDT）、HamishHobbs和DexterDocherty（SFU）與專(zhuān)家組共同主席和成員密切合作起草。戰(zhàn)略指導(dǎo)和編輯工作由AIEDT負(fù)責(zé)人KarinePerset和經(jīng)合組織戰(zhàn)略財(cái)務(wù)高級(jí)顧問(wèn)RafaitiKierzenkowskiRiccardoRapparini、RobinStaes-Polet、MichaelaSullivan-Paul、PabloGomezAyerbe和MoritzvonKnebel提供了分析和起草材料。小組感謝專(zhuān)家組成員以及經(jīng)合組織科學(xué)、技術(shù)和創(chuàng)新局的同事JerrySheehan、AudreyPlonk、Hanna-MariKilpelainen、GalliaDaor、MollyLesher、JeremyWest、LuisAranda、AlistairNolan、SarahBérubé和RashadAbelson;SFU的UmaKalkar;金融和企業(yè)事務(wù)局的RichardMay提供的投入;就業(yè)、勞工和社會(huì)事務(wù)局的StijnBroecke和CharlesBaubion、GiuliaCibrario、JamesDrummond、AndrasHlacs、BeckyKing、CraigMatasick，公共治理局的MauricioMejia和ArturoRiveraPerez。該團(tuán)隊(duì)還感謝JohnTarver和AndreiaFurtado的編輯支持。各代表團(tuán)注意本文檔也可在ONEMembersPartners上獲取，參考代碼：DSTI/CDEP/AIGO（2023）13/FINAL本文件以及本文件所載的任何數(shù)據(jù)和地圖均不損害任何領(lǐng)土的地位或主權(quán)，不損害國(guó)際邊界和疆界的劃定，不損害任何領(lǐng)土、城市或地區(qū)的名稱(chēng)。封面圖片：?Kjpargeter/S.?OECD2024年版本作品在知識(shí)共享署名4.0國(guó)際許可下提供。使用本作品即表示您接受本許可證條款的約束（https：///licenses/by/4.0/）。署名--你必須引用作品。譯文-您必須引用原文，指出對(duì)原文的修改，并添加以下文字：如果原文和譯文之間存在任何差異，只有原文才應(yīng)被視為有效。改編--你必須引用原著，并添加以下文字：這是經(jīng)合組織對(duì)原著的改編。本適應(yīng)中表達(dá)的意見(jiàn)和采用的論點(diǎn)不應(yīng)被報(bào)告為代表經(jīng)合組織或其成員國(guó)的官方觀點(diǎn)。第三方材料-許可證不適用于作品中的第三方材料如果使用此類(lèi)材料，您有責(zé)任獲得第三方的許可，并對(duì)任何侵權(quán)索賠負(fù)責(zé)。未經(jīng)明確許可，您不得使用OECD徽標(biāo)、視覺(jué)標(biāo)識(shí)或封面圖像，也不得暗示OECD認(rèn)可您使用該作品。因本許可證引起的任何爭(zhēng)議應(yīng)根據(jù)2012年常設(shè)仲裁法院（PCA）仲裁規(guī)則通過(guò)仲裁解決。仲裁地點(diǎn)為巴黎（法國(guó)）。仲裁員人數(shù)應(yīng)為一人。政府應(yīng)考慮AI8的中長(zhǎng)期影響今天的政策行動(dòng)有助于實(shí)現(xiàn)未來(lái)的理想情景8政府的人工智能前瞻工作正在擴(kuò)大10專(zhuān)家組為加強(qiáng)政策重點(diǎn)確定了人工智能的十大優(yōu)先好處11效益1：加速科學(xué)進(jìn)步11效益2：更好的經(jīng)濟(jì)增長(zhǎng)、生產(chǎn)力提高和生活水平12效益3：減少不平等和貧困13好處4：更好地解決緊迫和復(fù)雜的問(wèn)題，包括減緩氣候變化改變和推進(jìn)其他可持續(xù)發(fā)展目標(biāo)13好處5：更好的決策、意義制定和預(yù)測(cè)14效益6：改進(jìn)信息的制作和傳播15好處7：更好的醫(yī)療保健和教育服務(wù)15效益8：提高工作質(zhì)量16好處9：賦予公民、民間社會(huì)和社會(huì)合作伙伴權(quán)力效益10：提高機(jī)構(gòu)透明度和治理，促進(jìn)監(jiān)測(cè)和評(píng)估政策努力認(rèn)識(shí)到潛在的未來(lái)利益，但可能存在差距專(zhuān)家組確定了十個(gè)優(yōu)先的人工智能風(fēng)險(xiǎn)，以加強(qiáng)政策重點(diǎn)19風(fēng)險(xiǎn)1：為日益復(fù)雜的惡意網(wǎng)絡(luò)活動(dòng)提供便利20風(fēng)險(xiǎn)2：操縱、虛假信息、欺詐及其對(duì)民主和社會(huì)的危害凝聚力20風(fēng)險(xiǎn)3：由于缺乏對(duì)人工智能安全性和可信度的足夠投資，風(fēng)險(xiǎn)4：使AI系統(tǒng)目標(biāo)與利益攸關(guān)方的偏好和價(jià)值觀22風(fēng)險(xiǎn)5：權(quán)力集中在少數(shù)公司或國(guó)家風(fēng)險(xiǎn)6：在關(guān)鍵系統(tǒng)中發(fā)生輕微到嚴(yán)重的AI事件和災(zāi)難23風(fēng)險(xiǎn)7：侵入性監(jiān)視和侵犯隱私24風(fēng)險(xiǎn)8：治理機(jī)制和機(jī)構(gòu)無(wú)法跟上人工智能的快速發(fā)展風(fēng)險(xiǎn)9：人工智能系統(tǒng)缺乏足夠的可解釋性和可解釋性，削弱了問(wèn)責(zé)制風(fēng)險(xiǎn)10：國(guó)家內(nèi)部或國(guó)家之間的不平等或貧困加劇25政策努力可有助于管理未來(lái)風(fēng)險(xiǎn)，但可能存在一些差距26專(zhuān)家組確定了十項(xiàng)優(yōu)先政策行動(dòng)29政策行動(dòng)1：為人工智能傷害建立更明確的規(guī)則，包括責(zé)任規(guī)則30政策行動(dòng)2：考慮限制或防止某些“紅線”人工智能用途的方法政策行動(dòng)3：要求或促進(jìn)披露某些類(lèi)型的AI系統(tǒng)31政策措施4：確保在整個(gè)生命周期內(nèi)遵循風(fēng)險(xiǎn)管理程序可能構(gòu)成高風(fēng)險(xiǎn)的人工智能系統(tǒng)32政策行動(dòng)5：緩解人工智能開(kāi)發(fā)和部署中可能限制公平競(jìng)爭(zhēng)并導(dǎo)致傷害的競(jìng)爭(zhēng)動(dòng)態(tài)33政策行動(dòng)6：投資于人工智能安全和可信度方法的研究，包括人工智能調(diào)整、能力評(píng)估、可解釋性、可解釋性和透明度政策行動(dòng)7：促進(jìn)教育、再培訓(xùn)和再培訓(xùn)機(jī)會(huì)，以幫助應(yīng)對(duì)勞動(dòng)力市場(chǎng)中斷和對(duì)人工智能技能日益增長(zhǎng)的需求政策行動(dòng)8：增強(qiáng)利益攸關(guān)方和社會(huì)的能力，幫助建立信任，democracy民主36政策行動(dòng)9：緩解過(guò)度的權(quán)力集中36政策行動(dòng)10：有針對(duì)性的行動(dòng)，以促進(jìn)未來(lái)人工智能的具體利益37圖B.1.專(zhuān)家們確定并排名了21個(gè)潛在的未來(lái)人工智能好處人工智能技術(shù)的快速發(fā)展要求政策制定者考慮并積極管理人工智能驅(qū)動(dòng)的變革。經(jīng)合組織人工智能未來(lái)專(zhuān)家組的成立旨在幫助滿足這一需求，并預(yù)測(cè)人工智能的發(fā)展及其潛在影響。該計(jì)劃旨在為政府提供見(jiàn)解，以制定前瞻性的人工智能政策。本報(bào)告討論了關(guān)于未來(lái)人工智能益處、風(fēng)險(xiǎn)和政策必要性的研究和專(zhuān)家見(jiàn)解在為決策者提供指導(dǎo)的同時(shí)，鼓勵(lì)決策者保持對(duì)不確定性的意識(shí)，積極尋求不同的觀點(diǎn)，并警惕地監(jiān)測(cè)人工智能創(chuàng)新的社會(huì)影響。專(zhuān)家組通過(guò)調(diào)查、討論和情景探索確定了理想的人工智能未來(lái)的特征。這些措施包括廣泛分布的人工智能利益;尊重人權(quán)，隱私和知識(shí)產(chǎn)權(quán);更多更好的工作;彈性的物理，數(shù)字和社會(huì)系統(tǒng);最大限度地提高人工智能安全性和防止濫用的機(jī)制;防止權(quán)力過(guò)度集中的措施;強(qiáng)有力的風(fēng)險(xiǎn)管理實(shí)踐，用于培訓(xùn)，部署和使用可能帶來(lái)高風(fēng)險(xiǎn)的人工智能系統(tǒng)，以及國(guó)際和多利益相關(guān)者合作，以獲得值得信賴的人工智能。這些特征體現(xiàn)了AI的好處的實(shí)現(xiàn)和降低其風(fēng)險(xiǎn)。政府可以采取行動(dòng)，幫助實(shí)現(xiàn)積極的人工智能未來(lái)。經(jīng)合組織通過(guò)調(diào)查和討論與專(zhuān)家組成員合作，確定政策和治理優(yōu)先事項(xiàng)。附件A詳細(xì)介紹了這樣做的方法。專(zhuān)家組確定了未來(lái)人工智能的21個(gè)潛在好處。如附件A所述，通過(guò)對(duì)這些利益進(jìn)行排序和綜合，它提出了值得政策重點(diǎn)關(guān)注的十項(xiàng)優(yōu)先利益：1.加速科學(xué)進(jìn)步，例如通過(guò)設(shè)計(jì)新的醫(yī)療方法;2.更好的經(jīng)濟(jì)增長(zhǎng)、生產(chǎn)力提高和生活水平;3.通過(guò)減貧努力和改善農(nóng)業(yè)，減少不平等和貧困4.更好地解決緊迫和復(fù)雜的問(wèn)題，包括減緩氣候變化和推進(jìn)其他可持續(xù)發(fā)展目標(biāo);5.通過(guò)改進(jìn)對(duì)當(dāng)前事件的分析和對(duì)未來(lái)的預(yù)測(cè)，改進(jìn)決策、判斷和預(yù)測(cè)6.改進(jìn)信息生產(chǎn)和分發(fā)，包括新形式的數(shù)據(jù)訪問(wèn)和共享;7.更好的醫(yī)療保健和教育服務(wù)，如量身定制的健康干預(yù)措施和輔導(dǎo);8.提高工作質(zhì)量，包括將危險(xiǎn)或無(wú)法完成的任務(wù)分配給人工智能;9.增強(qiáng)公民、民間社會(huì)和社會(huì)伙伴的權(quán)能，包括加強(qiáng)參與;10.改善體制透明度和治理，促進(jìn)監(jiān)測(cè)和評(píng)價(jià)。專(zhuān)家組確定了38個(gè)潛在的未來(lái)人工智能風(fēng)險(xiǎn)。通過(guò)對(duì)它們的排序和綜合，提出了阻礙加強(qiáng)政策重點(diǎn)的十大優(yōu)先風(fēng)險(xiǎn)1.為日益復(fù)雜的惡意網(wǎng)絡(luò)活動(dòng)提供便利，包括對(duì)關(guān)鍵系統(tǒng)的惡意網(wǎng)絡(luò)活動(dòng);2.操縱、虛假信息、欺詐以及由此對(duì)民主和社會(huì)凝聚力造成的危害3.由于缺乏對(duì)人工智能安全性和可信度的足夠投資，開(kāi)發(fā)和部署人工智能系統(tǒng)的競(jìng)賽造成了危害;4.將人工智能系統(tǒng)目標(biāo)與人類(lèi)目標(biāo)對(duì)齊的方法不充分導(dǎo)致意外傷害利益相關(guān)者的偏好和價(jià)值觀;5.權(quán)力集中在少數(shù)公司或國(guó)家;6.在關(guān)鍵系統(tǒng)中發(fā)生輕微至嚴(yán)重的AI事件和災(zāi)難7.侵犯人權(quán)和自由的侵入性監(jiān)視和侵犯隱私8.治理機(jī)制和機(jī)構(gòu)無(wú)法跟上人工智能的快速發(fā)展;9.人工智能系統(tǒng)缺乏足夠的可解釋性和可解釋性，削弱了問(wèn)責(zé)制;10.國(guó)家內(nèi)部或國(guó)家之間的不平等或貧困加劇，包括就業(yè)風(fēng)險(xiǎn)。一些風(fēng)險(xiǎn)沒(méi)有被列為優(yōu)先事項(xiàng)，因?yàn)樗鼈兛傮w上被評(píng)為不太重要，盡管專(zhuān)家組成員的排名差異很大。尤其是關(guān)于人類(lèi)失去對(duì)通用人工智能（AGI）控制的潛在風(fēng)險(xiǎn)，人們的觀點(diǎn)存在分歧。這是一個(gè)假設(shè)的概念，機(jī)器可以在廣泛的背景下?lián)碛腥祟?lèi)水平或更高的“智能”。專(zhuān)家組確定了66種潛在的政策方法，以獲得人工智能的好處并減輕風(fēng)險(xiǎn)。通過(guò)對(duì)這些問(wèn)題的排名和綜合，它提出了十個(gè)政策重點(diǎn)，以幫助實(shí)現(xiàn)理想的人工智能未來(lái)：1.為人工智能危害制定更明確的規(guī)則，包括責(zé)任規(guī)則，以消除不確定性并促進(jìn)采用;2.考慮限制或阻止某些“紅線”人工智能用途的方法3.要求或促進(jìn)披露有關(guān)某些類(lèi)型人工智能系統(tǒng)的關(guān)鍵信息4.確保在可能構(gòu)成高風(fēng)險(xiǎn)的人工智能系統(tǒng)的整個(gè)生命周期中遵循風(fēng)險(xiǎn)管理程序5.緩解人工智能開(kāi)發(fā)和部署中可能限制公平競(jìng)爭(zhēng)并導(dǎo)致傷害的競(jìng)爭(zhēng)性競(jìng)爭(zhēng)動(dòng)態(tài)6.投資于人工智能安全和可信度方法的研究，包括人工智能對(duì)齊，能力評(píng)估，可解釋性，可解釋性和透明度;7.促進(jìn)教育，再培訓(xùn)和再培訓(xùn)機(jī)會(huì)，以幫助解決勞動(dòng)力市場(chǎng)中斷和對(duì)人工智能技能日益增長(zhǎng)的需求;8.增強(qiáng)利益攸關(guān)方和社會(huì)的權(quán)能，幫助建立信任和加強(qiáng)民主;9.緩解權(quán)力過(guò)度集中;10.采取有針對(duì)性的行動(dòng)，以促進(jìn)未來(lái)人工智能的具體利益。政策舉措認(rèn)識(shí)到這些問(wèn)題的重要性。最近的發(fā)展包括修訂經(jīng)合組織人工智能原則;最終確定歐盟人工智能法案和歐洲委員會(huì)人工智能與人權(quán)，民主和法治框架公約;美國(guó)等國(guó)家的行政行動(dòng)，國(guó)家人工智能安全和研究機(jī)構(gòu)的啟動(dòng);人工智能公司認(rèn)可的承諾;努力增加政府的相關(guān)人才并將現(xiàn)有法規(guī)應(yīng)用于人工智能;對(duì)人工智能研究和開(kāi)發(fā)的公共投資以及聯(lián)合國(guó)及其機(jī)構(gòu)的倡議。即將到來(lái)的努力，如歐盟責(zé)任指令，也可能推動(dòng)有益的人工智能。然而，有機(jī)會(huì)采取更具體的行動(dòng)。各國(guó)政府應(yīng)考慮如何最好地實(shí)施優(yōu)先政策行動(dòng)，并加強(qiáng)其幫助預(yù)測(cè)和塑造人工智能未來(lái)的能力?？焖侔l(fā)展的人工智能系統(tǒng)的中長(zhǎng)期影響在很大程度上仍然是未知的，并存在激烈的爭(zhēng)論。專(zhuān)家們提出了人工智能的一系列潛在未來(lái)風(fēng)險(xiǎn)，其中一些已經(jīng)變得顯而易見(jiàn)。與此同時(shí)，專(zhuān)家和其他人預(yù)計(jì)人工智能將帶來(lái)重大甚至革命性的好處。以未來(lái)為重點(diǎn)的活動(dòng)可以幫助更好地理解人工智能可能的長(zhǎng)期影響，并在當(dāng)前開(kāi)始為此，經(jīng)合組織人工智能未來(lái)專(zhuān)家組（“專(zhuān)家組”）是一個(gè)由70位領(lǐng)先的人工智能專(zhuān)家組成的多學(xué)科小組，通過(guò)提供對(duì)人工智能可能軌跡和影響的見(jiàn)解，并為政府提供制定前瞻性人工智能政策所需的知識(shí)和工具，幫助應(yīng)對(duì)未來(lái)的人工智能挑戰(zhàn)和1專(zhuān)家組通過(guò)調(diào)查、討論和情景探索活動(dòng)，提出了對(duì)社會(huì)和治理中理想的人工智能未來(lái)特征的看法（見(jiàn)附件A中的方法）。這些理想的未來(lái)體現(xiàn)了未來(lái)人工智能潛在利益的實(shí)現(xiàn)和未來(lái)關(guān)鍵風(fēng)險(xiǎn)的緩解。積極的未來(lái)不會(huì)自動(dòng)發(fā)生;它們需要政策制定者、公司和其他人工智能參與者采取具體行動(dòng)。人工智能可以加速科學(xué)研究，并產(chǎn)生有助于在醫(yī)療保健和氣候變化等領(lǐng)域取得突破的解決方案某些政策可以促進(jìn)值得信賴的人工智能的創(chuàng)新，其好處將在國(guó)家內(nèi)部和國(guó)家之間廣泛分享，并在利益相關(guān)者群體、部門(mén)和公眾之間公平分配，同時(shí)防止系統(tǒng)部署或使用具有重大危害潛力所有國(guó)家，包括新興和發(fā)展中經(jīng)濟(jì)體，都將受益于人工智能的社會(huì)經(jīng)濟(jì)潛力。人們將通過(guò)人工智能獲得權(quán)力，例如通過(guò)新的數(shù)據(jù)驅(qū)動(dòng)工具做出更明智的決策，包括關(guān)注婦女和邊緣化社區(qū)。政府將通過(guò)利用人工智能與公民接觸并將他們的觀點(diǎn)納入決策來(lái)促進(jìn)這一點(diǎn)，從而加強(qiáng)民主和參與公共生活。民間社會(huì)組織和工會(huì)等社會(huì)合作伙伴的能力將通過(guò)人工智能得到加強(qiáng)，使他們能夠更好地與公民和工人聯(lián)系并收集他們的見(jiàn)解通過(guò)分析開(kāi)放政府?dāng)?shù)據(jù)和產(chǎn)出的新手段，人工智能將使世界各地的民間社會(huì)組織能夠?qū)φM(jìn)行更有力的獨(dú)立監(jiān)督。這種監(jiān)督作用將通過(guò)某些人工智能系統(tǒng)的披露要求或規(guī)范來(lái)進(jìn)一步促進(jìn)，這些要求或規(guī)范有助于了解它們的運(yùn)作并培養(yǎng)獨(dú)立評(píng)估者的生態(tài)系統(tǒng)在工作場(chǎng)所，人工智能的使用將是值得信賴的，其好處將得到公平分配，工人和社會(huì)合作伙伴也能夠利用人工智能來(lái)加強(qiáng)組織和通知集體談判。公眾將能夠獲得可靠、真實(shí)的信息，獲得增強(qiáng)的個(gè)性化教育和再培訓(xùn)機(jī)會(huì)。人工智能系統(tǒng)的開(kāi)發(fā)者和部署者以及審計(jì)師等第三方將廣泛使用基準(zhǔn)、評(píng)估和技術(shù)工具來(lái)檢測(cè)、減輕和糾正有害的偏見(jiàn)和歧視。確保人工智能系統(tǒng)的設(shè)計(jì)、開(kāi)發(fā)、部署和使用符合人權(quán)的框架和實(shí)踐將可用并被廣泛采用。保護(hù)個(gè)人數(shù)據(jù)的政策和解決方案將到位，特別是對(duì)于可能帶來(lái)高風(fēng)險(xiǎn)的用例和可能影響弱勢(shì)群體的系統(tǒng)。模型開(kāi)發(fā)人員將有明確的指導(dǎo)，哪些數(shù)據(jù)可以用于訓(xùn)練模型，哪些數(shù)據(jù)受版權(quán)保護(hù)。權(quán)利持有者和其他內(nèi)容生成者將有權(quán)就如何使用其數(shù)據(jù)和內(nèi)容做出明智的決定。人工智能參與者--那些積極參與人工智能系統(tǒng)生命周期的人，包括部署或操作人工智能的組織和個(gè)人--可以利用強(qiáng)大的程序、技術(shù)方法和其他方法來(lái)提供強(qiáng)有力的保證，確保人工智能系統(tǒng)是安全和值得信賴的。這將包括確保適當(dāng)?shù)耐该鞫群涂山忉屝?，并使系統(tǒng)行為符合人類(lèi)利益攸關(guān)方的價(jià)值觀。針對(duì)人工智能促進(jìn)的惡意網(wǎng)絡(luò)活動(dòng)的技術(shù)工具和其他保護(hù)措施將被開(kāi)發(fā)并提供給人工智能開(kāi)發(fā)人員和部署人員。關(guān)鍵基礎(chǔ)設(shè)施、物理和信息安全要求將進(jìn)行調(diào)整，以反映使用人工智能帶來(lái)的風(fēng)險(xiǎn)。為了幫助確保社會(huì)系統(tǒng)的復(fù)原力，政府的舉措將有助于勞動(dòng)力市場(chǎng)的轉(zhuǎn)型，包括努力進(jìn)行技能再培訓(xùn)和考慮建立新的社會(huì)安全網(wǎng)。此外，在國(guó)際和國(guó)內(nèi)層面的一系列努力將加強(qiáng)民主和信息完整性，包括通過(guò)有效的進(jìn)程，促進(jìn)自由和公正的選舉，減少大規(guī)模散布虛假信息。人工智能系統(tǒng)的設(shè)計(jì)、部署和監(jiān)督將以最大限度地減少惡意行為者濫用的風(fēng)險(xiǎn)的方式進(jìn)行。更廣泛地說(shuō)，人工智能安全風(fēng)險(xiǎn)將通過(guò)標(biāo)準(zhǔn)化流程進(jìn)行識(shí)別、緩解和監(jiān)控。與對(duì)社會(huì)和經(jīng)濟(jì)產(chǎn)生重大影響的人工智能系統(tǒng)的開(kāi)發(fā)、部署和使用有關(guān)的決策將盡可能分散，并采取適當(dāng)?shù)耐该鞫却胧?wèn)責(zé)程序、責(zé)任規(guī)則和有效監(jiān)督。關(guān)于人工智能和關(guān)鍵投入和推動(dòng)因素，將建立機(jī)制，以減輕市場(chǎng)，經(jīng)濟(jì)或政治權(quán)力過(guò)度集中在一個(gè)或極少數(shù)供應(yīng)商手中。將有適當(dāng)定義和執(zhí)行的風(fēng)險(xiǎn)管理方法來(lái)開(kāi)發(fā)，部署和使用人工智能系統(tǒng)，特別是那些可能帶來(lái)高風(fēng)險(xiǎn)的系統(tǒng)。這些方法將包括透明的風(fēng)險(xiǎn)評(píng)估、風(fēng)險(xiǎn)緩解程序以及禁止具有不可接受風(fēng)險(xiǎn)的用途的紅線。參與監(jiān)督風(fēng)險(xiǎn)管理的組織，包括公共部門(mén)的組織，將有足夠的任務(wù)、權(quán)力和內(nèi)部跨學(xué)科技能和能力來(lái)理解和監(jiān)督這些方法。強(qiáng)有力的合作將帶來(lái)全球性的、跨部門(mén)的集體規(guī)則、承諾和信息共享，以促進(jìn)人工智能的安全和可信度。各國(guó)政府正在通過(guò)經(jīng)合組織政府展望社區(qū)和公共部門(mén)展望工作等方案（經(jīng)合組織，2024年[1];2023年[2];經(jīng)合組織/CAF，2022年[3]）努力建設(shè)戰(zhàn)略展望能力（框1.1）?？紤]到人工智能的快速發(fā)展、其未知性以及落后的潛在成本，這一點(diǎn)至關(guān)重要。專(zhuān)家組成員和經(jīng)合組織工作2鼓勵(lì)各國(guó)政府發(fā)展強(qiáng)大的人工智能前瞻能力，以持續(xù)預(yù)測(cè)可能出現(xiàn)的未來(lái)。這可以幫助他們了解何時(shí)何地以及如何進(jìn)行干預(yù)，包括為可能的變化做好準(zhǔn)政策制定者可以通過(guò)為政策和決策系統(tǒng)和流程中的前瞻性工作定義具體的價(jià)值主張，投資于戰(zhàn)略前瞻性，并確定和解決阻礙全面戰(zhàn)略前瞻性方法的挑戰(zhàn)，例如官僚主義筒倉(cāng)和與非政府行為者對(duì)話的障礙，以了解人工智能的影響，來(lái)建立他們的戰(zhàn)略前瞻能力。由于人工智能對(duì)未來(lái)的廣泛影響，戰(zhàn)略遠(yuǎn)見(jiàn)研究人員通常來(lái)自一系列學(xué)科，使用各種方法并提出各種論點(diǎn)。戰(zhàn)略遠(yuǎn)見(jiàn)將這些方法結(jié)合起來(lái)，以建立對(duì)假設(shè)的細(xì)致入微的理解，包括通過(guò)：.專(zhuān)家調(diào)查和咨詢用于以潛在人工智能發(fā)展和里程碑的時(shí)間表形式生成預(yù)測(cè)它們可以為如何解決相關(guān)的道德、社會(huì)和技術(shù)問(wèn)題的分析和建議這種方法也有助于確定專(zhuān)家之間的共識(shí)和分歧領(lǐng)域。.情景規(guī)劃和路線圖創(chuàng)建和探索基于不同假設(shè)和變量的假設(shè)性未來(lái)敘述通過(guò)捕捉特定人工智能軌跡的不確定性、相互關(guān)系和可能的時(shí)間框架，可以識(shí)別和理解潛在的風(fēng)險(xiǎn)和機(jī)會(huì)。.趨勢(shì)和數(shù)據(jù)分析涉及收集、處理和解釋與人工智能當(dāng)前狀態(tài)相關(guān)的大量然后可以推斷出這些來(lái)解讀未來(lái)的人工智能前景。.地平線掃描意味著檢測(cè)潛在變化的跡象，例如通過(guò)考慮早期信號(hào)，相鄰領(lǐng)域的趨勢(shì)，外卡（低概率，大影響事件）以及挑戰(zhàn)過(guò)去假設(shè)的當(dāng)前思維邊緣的問(wèn)題。.他人文獻(xiàn)綜述揭示了現(xiàn)有的知識(shí)，差距或爭(zhēng)議。咨詢和民意調(diào)查可以幫助衡量公眾對(duì)人工智能及其影響的認(rèn)識(shí)、信任和期望。經(jīng)驗(yàn)證據(jù)可以幫助驗(yàn)證和改進(jìn)理論模型和場(chǎng)景，而哲學(xué)分析可以幫助更好地理解該領(lǐng)域的當(dāng)前發(fā)展。.人工智能未來(lái)專(zhuān)家組提出了加強(qiáng)政策重點(diǎn)的十大優(yōu)先利益1.加速科學(xué)進(jìn)步;2.更好的經(jīng)濟(jì)增長(zhǎng)、生產(chǎn)力提高和生活水平;3.減少不平等和貧困;4.更好地解決緊迫和復(fù)雜的問(wèn)題，包括減緩氣候變化和推進(jìn)其他可持續(xù)發(fā)展目標(biāo);5.更好的決策、判斷和預(yù)測(cè);6.改進(jìn)信息制作和分發(fā);7.更好的醫(yī)療和教育服務(wù);8.提高工作質(zhì)量;9.增強(qiáng)公民、民間社會(huì)和社會(huì)伙伴的權(quán)能;10.改善體制透明度和治理，促進(jìn)監(jiān)測(cè)和評(píng)價(jià)。.在人工智能政策和舉措中更好地促進(jìn)人工智能潛在利益的主要考慮因素包括：o國(guó)家和國(guó)際政策倡議往往認(rèn)識(shí)到上述利益的重要性o對(duì)工作質(zhì)量的考慮很重要，但目前它們往往被對(duì)工作數(shù)量的擔(dān)憂所掩蓋（經(jīng)合組織，o人工智能在提高機(jī)構(gòu)透明度、增強(qiáng)民間社會(huì)和社會(huì)合作伙伴能力方面的潛力應(yīng)該得到更廣泛的認(rèn)可，對(duì)具體用例的研究也應(yīng)該得到更人工智能未來(lái)專(zhuān)家組（“專(zhuān)家組”）確定了21個(gè)未來(lái)人工智能潛在的好處。通過(guò)對(duì)這些方面的排序和綜合，它提出了加強(qiáng)政策重點(diǎn)的十項(xiàng)優(yōu)先效益這些好處有助于實(shí)施基于價(jià)值觀的經(jīng)合組織人工智能原則（2024[7]）：1.1）包容性增長(zhǎng)，可持續(xù)發(fā)展和福祉;1.2）尊重法治，人權(quán)和民主價(jià)值觀，包括公平和隱私;1.3）透明度和可解釋性;1.4）穩(wěn)健性、安全性和安全性;1.5）問(wèn)責(zé)制。人工智能的關(guān)鍵進(jìn)展領(lǐng)域包括機(jī)器人、核聚變、藥物發(fā)現(xiàn)、數(shù)字模擬、抗體生成和蛋白質(zhì)折疊，AlphaFold是一個(gè)關(guān)鍵例子（Azizzadeneshelietal.，2024[8];Stanford，2023[9]）。然而，人工智能對(duì)科學(xué)的貢獻(xiàn)才剛剛開(kāi)始。在某些領(lǐng)域，該技術(shù)可能具有取得的成績(jī)低于預(yù)期。例如，一些人發(fā)現(xiàn)人工智能在COVID-19大流行期間對(duì)研究的貢獻(xiàn)很小（經(jīng)合組織，2023[10]）。此外，到目前為止，人工智能主要為自然科學(xué)和物理科學(xué)的突破做出了貢獻(xiàn)，而其他學(xué)科（如社會(huì)科學(xué)）的類(lèi)似變革盡管期望很高，但進(jìn)展較?。∕anning，Zhu和Horton，2024[11]）。人工智能可以幫助科學(xué)家提高生產(chǎn)力。通過(guò)基于大型語(yǔ)言模型（LLM）的研究助理，實(shí)驗(yàn)室機(jī)器人和促進(jìn)科學(xué)和技術(shù)突破，許多人預(yù)計(jì)人工智能將繼續(xù)重塑科學(xué)和創(chuàng)新（Franca，2023[12];OECD，2023[10]）。人工智能可以被視為“發(fā)明方法的發(fā)明”（Griliches，1957[13]），導(dǎo)致人工智能工具和助手可以執(zhí)行越來(lái)越多的研究任務(wù)（Bianchini，Müller和Pelletier，2022[14]）。專(zhuān)家組成員強(qiáng)調(diào)，生成人工智能系統(tǒng)可能會(huì)越來(lái)越多地用作代理人工智能系統(tǒng)的組成部分，這些系統(tǒng)執(zhí)行一系列功能，具有越來(lái)越大的自主性和更少的人類(lèi)參與，以及對(duì)不斷變化的條件的適應(yīng)性越來(lái)越強(qiáng)（OECD.AI，2023[15]）。許多專(zhuān)家預(yù)計(jì)，人工智能將在未來(lái)幾十年內(nèi)改變科學(xué)進(jìn)步，并幫助解決廣泛的醫(yī)療挑戰(zhàn)，例如治療癌癥和阿爾茨海默氏癥等神經(jīng)退行性疾?。℅ruetzemacher，Paradice和Lee，2019[16];OECD，2023[10]）。有證據(jù)表明，采用人工智能的公司往往比不采用人工智能的公司更具生產(chǎn)力，但因果關(guān)系尚不清楚。這背后的部分原因是人工智能采用者已經(jīng)傾向于擁有堅(jiān)實(shí)的數(shù)字采用和能力（Calvino和Fontanelli，2023[17]）。人工智能通過(guò)發(fā)現(xiàn)新的想法和新的高效和有效的工作方式來(lái)促進(jìn)經(jīng)濟(jì)增長(zhǎng)和生產(chǎn)力（Jones，2022[18]）?，F(xiàn)有的LLM可以提高工人的生產(chǎn)力，但不能執(zhí)行許多任務(wù)（Dell'Acqua等人，2023[19]）。與其他技術(shù)一樣，采用人工智能和隨著組織適應(yīng)而實(shí)現(xiàn)生產(chǎn)力提高之間存在時(shí)間差。經(jīng)合組織的AI趨勢(shì)數(shù)據(jù)顯示，2015年至2022年間，全球風(fēng)險(xiǎn)資本對(duì)AI初創(chuàng)企業(yè)的投資增長(zhǎng)了400%從2018年到2023年，對(duì)具有人工智能技能的專(zhuān)業(yè)人士的需求增加了一倍多，而生成式人工智能的最新發(fā)展只會(huì)增加這一勢(shì)頭。預(yù)計(jì)今天的投資和技能需求將影響明天的經(jīng)濟(jì)增長(zhǎng)。對(duì)使用人工智能的未來(lái)經(jīng)濟(jì)收益的預(yù)測(cè)各不相同，一些估計(jì)從到2033年全球GDP增長(zhǎng)1-7%到幾十年來(lái)假設(shè)形式的人工智能（AGI）的投機(jī)性增長(zhǎng)十倍不等（Acemoglu，2024[20];高盛，2023[21];羅素，2022[22]）。4加速創(chuàng)新并將人工智能工具整合到業(yè)務(wù)流程中可以創(chuàng)造新的就業(yè)機(jī)會(huì)，在幾乎所有行業(yè)提高生產(chǎn)率，并提高工人目前由精英主題專(zhuān)家處理的許多任務(wù)的生產(chǎn)率（Autor，2024[23];OECD，2023[24]）。專(zhuān)家組成員強(qiáng)調(diào)，這可能采取“J曲線”的形式，由于集成和采用人工智能的成本，生產(chǎn)率最初會(huì)下降，隨后這些投資的價(jià)值會(huì)顯著增長(zhǎng)（Brynjolfsson，Rock和Syverson，2020[25];OECD.AI，2023[15]）。許多國(guó)家和機(jī)構(gòu)強(qiáng)調(diào)，從人工智能驅(qū)動(dòng)的經(jīng)濟(jì)增長(zhǎng)中受益需要投資于技能等互補(bǔ)資產(chǎn)，也需要投資于系統(tǒng)性變革，例如減少經(jīng)濟(jì)和性別不平等以及建立更能抵御破壞的社會(huì)體系（經(jīng)合組織，2023年[24];[6];Anderson和Sutherland，2024年[26];UNESCO/OECD/IDB，2022年[27]）。加劇在經(jīng)合組織國(guó)家中，迄今沒(méi)有跡象表明人工智能影響了職業(yè)之間的工資不平等。盡管如此，有證據(jù)表明，人工智能可能與職業(yè)內(nèi)較低的工資不平等有關(guān)（Georgieff，2024[28]）。一種解釋是，一個(gè)職業(yè)中的低績(jī)效者從使用人工智能中受益更多，產(chǎn)生了均衡效應(yīng)。除了工資不平等之外，一些專(zhuān)家和研究人員認(rèn)為，人工智能可能會(huì)加劇現(xiàn)有的數(shù)字鴻溝，例如城鄉(xiāng)差距和性別數(shù)字鴻溝，因?yàn)槿狈θ斯ぶ悄芙逃?，基礎(chǔ)設(shè)施和資源。與此同時(shí)，人工智能也可能有助于解決數(shù)字包容性問(wèn)題，例如通過(guò)增加遠(yuǎn)程個(gè)人的經(jīng)濟(jì)機(jī)會(huì)（Bo?i?,2023[29];Gottschalk和Weise，2023[30];Bentley等人，2024[31]）。在國(guó)際上，人工智能的發(fā)展高度集中在少數(shù)幾個(gè)國(guó)家，這引起了人們對(duì)人工智能利益分配不均勻的擔(dān)憂（經(jīng)合組織，2024[32]）。發(fā)達(dá)經(jīng)濟(jì)體對(duì)人工智能的暴露程度更高，因?yàn)樗鼈冊(cè)诟呒寄芄ぷ髦械木蜆I(yè)比例更高，這些工作更容易接觸人工智能。盡管如此，他們的工人更有可能被人工智能補(bǔ)充而不是取代，他們的經(jīng)濟(jì)更有可能從生產(chǎn)力的提高中受益。相比之下，發(fā)展中經(jīng)濟(jì)體的低工資可能會(huì)減少人工智能的采用激勵(lì)和相關(guān)的生產(chǎn)力效益。在少數(shù)國(guó)家開(kāi)發(fā)的人工智能系統(tǒng)可能不適合其他國(guó)家的社會(huì)和制度環(huán)境，限制了其部署和使用的潛力。對(duì)人工智能人才和計(jì)算等重要投入的獲取也在全球范圍內(nèi)分布不均，正如第3章中關(guān)于權(quán)力集中的風(fēng)險(xiǎn)5所討論的那樣。一些專(zhuān)家提出，如果利益得到公平分配，每個(gè)人都可以擁有目前被視為舒適的生活水平（加州大學(xué)伯克利分校，2021年[33]）。其他人指出，人工智能可以根據(jù)及時(shí)和相關(guān)的數(shù)據(jù)，促進(jìn)強(qiáng)有力和有針對(duì)性的減貧工作，幫助提高農(nóng)業(yè)活動(dòng)的彈性和效率，并幫助改善其他導(dǎo)致不平等的條件，例如獲得教育，衛(wèi)生，金融計(jì)劃和福利服務(wù)（Goralski和Tan，2022[34];Javaid等人，2023[35];Mhlanga，2021[36];OECD，2019[37];WEF，2024[38]）。擴(kuò)大人工智能的利益范圍取決于成功的、有針對(duì)性的集體行動(dòng)。如果沒(méi)有這一點(diǎn)，專(zhuān)家組成員和其他人擔(dān)心人工智能可能會(huì)增加不平等（第3章，風(fēng)險(xiǎn)10OECD.AI，2023[15];Gates，應(yīng)對(duì)復(fù)雜的全球挑戰(zhàn)，如可持續(xù)發(fā)展目標(biāo)中的挑戰(zhàn)，需要具備綜合、理解和處理大量信息的先進(jìn)能力，并在國(guó)內(nèi)和國(guó)際上協(xié)調(diào)應(yīng)對(duì)措施。專(zhuān)家咨詢發(fā)現(xiàn)，各種形式的機(jī)器學(xué)習(xí)（ML）和人工智能可以幫助實(shí)現(xiàn)169個(gè)可持續(xù)發(fā)展目標(biāo)中的大部分目標(biāo)，但可能會(huì)阻礙69個(gè)目標(biāo)的實(shí)現(xiàn)（Vinuesa等人，2020[40]）。例如，人工智能通過(guò)跟蹤天氣模式變化、海平面上升和災(zāi)害風(fēng)險(xiǎn)的系統(tǒng)來(lái)幫助減輕氣候變化的影響，政策制定者還考慮到人工智能本身可能造成的環(huán)境負(fù)擔(dān)（Earthna，2023[41];OECD.AI，2023[42];OECD，2022[43]）。通過(guò)增強(qiáng)人類(lèi)理解和執(zhí)行復(fù)雜任務(wù)的能力，并提供新形式的協(xié)作工具，人工智能可以在預(yù)測(cè)、緩解和管理“大趨勢(shì)”的復(fù)雜挑戰(zhàn)和影響方面發(fā)揮重要作用，因?yàn)樗鼈兛赡茉谌蚍秶鷥?nèi)演變（Haluza和Jungsouth，2023[44];美國(guó)國(guó)務(wù)院，2023[45]）。專(zhuān)家組成員和各國(guó)政府強(qiáng)調(diào)，人工智能的進(jìn)步可以通過(guò)能源系統(tǒng)、氣候建模和許多其他相關(guān)領(lǐng)域的創(chuàng)新帶來(lái)更好的社會(huì)成果（OECD.AI，2023[15];白宮，2024[46]）。人工智能還可以支持更好的國(guó)際合作，這是應(yīng)對(duì)全球挑戰(zhàn)所必需的，通過(guò)測(cè)試新機(jī)制來(lái)激勵(lì)和促進(jìn)信息共享，并更好地監(jiān)測(cè)和評(píng)估簽署國(guó)對(duì)協(xié)議的遵守情況（Clarke和Whittlestone，2022[47]）。LLM可以支持個(gè)人推理，有證據(jù)表明人工智能輔助決策在現(xiàn)實(shí)世界中的好處（Brynjolfsson，Danielle和Raymond，2023[48]）。人工智能系統(tǒng)可以通過(guò)幫助人類(lèi)過(guò)濾掉可能導(dǎo)致不一致和不準(zhǔn)確決策的“噪音”和不相關(guān)影響來(lái)克服推理錯(cuò)誤和偏見(jiàn)（Du，2023[49]）。人工智能系統(tǒng)做出數(shù)據(jù)驅(qū)動(dòng)決策的潛力正在導(dǎo)致其在包括公共部門(mén)在內(nèi)的一系列部門(mén)中的采用。[5]鑒于生成型人工智能在相關(guān)測(cè)試中取得高分的能力越來(lái)越強(qiáng)，它可能越來(lái)越能夠?yàn)檫@種決策做出貢獻(xiàn)（經(jīng)合組織，2023[50]）。然而，用于評(píng)估人工智能性能的測(cè)試的有效性仍然存在不確定性。截至2023年，機(jī)器無(wú)法在各種環(huán)境中與頂級(jí)人類(lèi)表現(xiàn)者的推理和創(chuàng)造性決策相匹配，這表明需要進(jìn)一步改進(jìn)和增強(qiáng)，以充分實(shí)現(xiàn)人工智能的好處（Koivisto和Grassini，2023[51]）。機(jī)器輸出的準(zhǔn)確性也仍然存在爭(zhēng)議，諸如生成AI“幻覺(jué)”等問(wèn)題仍然沒(méi)有得到解決。人工智能系統(tǒng)可以產(chǎn)生新的見(jiàn)解，包括從過(guò)去的數(shù)據(jù)中推斷特別是，如果這種人工智能支持的外推變得更長(zhǎng)范圍或更抽象，它們可以為公司和個(gè)人提供自動(dòng)決策幫助，并在不同領(lǐng)域快速生成概率估計(jì)這可能看起來(lái)像是天氣預(yù)報(bào)應(yīng)用于更長(zhǎng)時(shí)期的政治，社會(huì)經(jīng)濟(jì)或環(huán)境發(fā)展特別是關(guān)于生成式人工智能系統(tǒng)，專(zhuān)家組成員指出，這種系統(tǒng)開(kāi)始嵌入自主人工智能代理中，執(zhí)行越來(lái)越復(fù)雜的任務(wù)。通過(guò)人機(jī)協(xié)作，這些系統(tǒng)可以幫助指導(dǎo)最佳決策，并充當(dāng)研究助理和顧問(wèn)（Horvitz，2014[52];Russell，2019[53]）。企業(yè)可以使用生成式人工智能系統(tǒng)進(jìn)行有針對(duì)性的戰(zhàn)略咨詢，以了解全球經(jīng)濟(jì)中眾多同時(shí)發(fā)生的復(fù)雜變化。這些系統(tǒng)可以提供一系列服務(wù)，從咨詢到個(gè)人援助，通過(guò)支持家庭決策，如財(cái)務(wù)規(guī)劃，使日常生活更容易。這些服務(wù)的提供可以對(duì)整個(gè)市場(chǎng)產(chǎn)生積極的溢出效應(yīng)，例如降低消費(fèi)者的搜索成本和增加供應(yīng)商之間的競(jìng)爭(zhēng)這種競(jìng)爭(zhēng)的加劇政策制定者可以通過(guò)政策制定模擬來(lái)使用人工智能支持政治決策，以評(píng)估實(shí)現(xiàn)預(yù)期結(jié)果的可能性，并為政策審查中的適應(yīng)和改進(jìn)提供信息。這包括自動(dòng)檢測(cè)和識(shí)別圖像、音頻記錄或視頻中的項(xiàng)目。支持人工智能的傳感設(shè)備的能力和普及率已經(jīng)取得了快速進(jìn)展，允許自動(dòng)語(yǔ)音轉(zhuǎn)錄，運(yùn)動(dòng)檢測(cè)，實(shí)時(shí)圖像識(shí)別和以前需要人工勞動(dòng)的各種任務(wù)（Zhang，Wang和Lee，2023[54];OECD，2023[10]）。衛(wèi)星圖像等幾種新的數(shù)據(jù)收集形式的同時(shí)發(fā)展，可能會(huì)產(chǎn)生新形式的地理空間情報(bào)和全球建模（Sathyaraj等人，2024[55]）。嵌入在所有類(lèi)型設(shè)備中的自主系統(tǒng)-例如無(wú)人機(jī)，自動(dòng)駕駛車(chē)輛和其他與人工智能集成的機(jī)器人和遙感儀器-也產(chǎn)生了新的數(shù)據(jù)收集能力。人工智能還可以幫助最大限度地提高數(shù)據(jù)的質(zhì)量和效用，以及人類(lèi)和機(jī)器處理和分析數(shù)據(jù)的能力（Jarrahi等人，2023[56]）。然而，專(zhuān)家組成員強(qiáng)調(diào)，數(shù)據(jù)收集應(yīng)具有針對(duì)性和故意性，以減輕侵入性監(jiān)視的風(fēng)險(xiǎn)（第3章，風(fēng)險(xiǎn)7）以及與存儲(chǔ)和處理此類(lèi)數(shù)據(jù)可能留下的環(huán)境足跡相關(guān)的危害（經(jīng)合組織，2022[43]）。智能助理和人工智能客戶服務(wù)代理展示了人工智能驅(qū)動(dòng)服務(wù)的潛力。在醫(yī)療保健領(lǐng)域，人工智能系統(tǒng)提供有關(guān)患者的實(shí)時(shí)數(shù)據(jù)和見(jiàn)解它們可以通過(guò)檢測(cè)異常情況和促進(jìn)預(yù)防行動(dòng)來(lái)拯救生命，盡管目前在一定程度上是有限的人工智能系統(tǒng)在醫(yī)療決策試驗(yàn)中顯示出了希望，盡管實(shí)施還處于早期階段（Vasey，2022[57]）。人工智能在教育領(lǐng)域也具有巨大潛力，但與其他行業(yè)相比，人工智能在教育系統(tǒng)中的采用速度緩慢，而且過(guò)去的教育技術(shù)，包括基于機(jī)器學(xué)習(xí)的技術(shù)，有時(shí)未能實(shí)現(xiàn)（Barnum，2023[58]）。截至2023年，教育領(lǐng)域的大多數(shù)人工智能工作涉及與在課堂上使用LLM相關(guān)的指導(dǎo)，并且該領(lǐng)域的大多數(shù)人工智能使用都沒(méi)有利用最新的生成方法，并且僅限于提供建議，診斷或反饋（Fadel等人，2024[59]）。利用人工智能，人們可以訪問(wèn)“一切即服務(wù)”（EaaS）或代理套件，這些代理可以幫助他們通過(guò)人機(jī)協(xié)作完成任務(wù)（Russell，2019[53]）。醫(yī)療保健和教育是特別有前途的重點(diǎn)領(lǐng)域，專(zhuān)家在最近的一項(xiàng)調(diào)查中對(duì)人工智能在這些領(lǐng)域的潛在影響表達(dá)了積極的看法（Rainie和Anderson，2024[60]）。例如，在醫(yī)療保健領(lǐng)域，人工智能可以帶來(lái)量身定制的預(yù)防性干預(yù)措施和明智的行為“輕推”，從而獲得更好的結(jié)果，幫助衛(wèi)生專(zhuān)業(yè)人員提供更多的護(hù)理時(shí)間，并產(chǎn)生新技術(shù)，從大量的健康數(shù)據(jù)資產(chǎn)中釋放價(jià)值-其中97%在經(jīng)合組織國(guó)家尚未開(kāi)發(fā)（Sumner等人，2023[61];貝內(nèi)特研究所，2024[62];經(jīng)合組織，2024[63]）。人工智能的進(jìn)步還可以幫助緩解經(jīng)合組織國(guó)家預(yù)計(jì)到2030年將出現(xiàn)的350萬(wàn)醫(yī)療保健勞動(dòng)力短缺（經(jīng)合組織，2024[63]）。人工智能可以降低教育準(zhǔn)入門(mén)檻，特別是在低收入和中等收入國(guó)家。通過(guò)增加可訪問(wèn)性和降低知識(shí)獲取的價(jià)格，人工智能可以開(kāi)辟新的熟練勞動(dòng)力供應(yīng)（Fan和Qiang，2023[64];WEF，2023[65];Demaidi，2023[66]）。人工智能可以通過(guò)個(gè)性化輔導(dǎo)提供針對(duì)個(gè)人需求的支持，包括為有特殊需要的人提供支持，從而幫助自主學(xué)習(xí)民主化（Bond，2023[67]）。通過(guò)重新定義學(xué)生學(xué)習(xí)的方式、地點(diǎn)和內(nèi)容，可以提高學(xué)生的成績(jī)（經(jīng)合組織，2023年[68];Fadel等人，2024[59];Fariani，JunusandSantoso，2023[69]）。開(kāi)發(fā)量身定制的人工智能輔導(dǎo)系統(tǒng)目前是一項(xiàng)工程挑戰(zhàn)，但在短期內(nèi)，諸如聊天機(jī)器人、人工智能生成的教學(xué)內(nèi)容以及教師和學(xué)生支持工具等更簡(jiǎn)單的工具預(yù)計(jì)會(huì)越來(lái)越大（Huang和Rust，2021[70];人工智能已經(jīng)對(duì)工作質(zhì)量產(chǎn)生了積極影響，通常是通過(guò)自動(dòng)化一些危險(xiǎn)或繁瑣的任務(wù)，從而改善工人的福祉（經(jīng)合組織，2023[6]）。經(jīng)合組織調(diào)查的近三分之二的工人報(bào)告說(shuō)，人工智能提高了他們的工作樂(lè)趣。作為人工智能應(yīng)用的一個(gè)例子，可穿戴人工智能設(shè)備和人工智能傳感器已經(jīng)提供了對(duì)汽車(chē)行業(yè)中威脅工人安全的高風(fēng)險(xiǎn)運(yùn)動(dòng)或情況的實(shí)時(shí)評(píng)估（Hart，2023[72]）。雇主們利用由此產(chǎn)生的見(jiàn)解來(lái)保護(hù)工人的人身安全，改善工廠條件并防止事故發(fā)生。然而，必須謹(jǐn)慎行事，以確保人工智能的這種使用不會(huì)對(duì)工人造成不利影響。在最近對(duì)數(shù)百名跨領(lǐng)域?qū)＜业恼{(diào)查中，77%的人表示，到2040年，人工智能將對(duì)人們的日常工作活動(dòng)產(chǎn)生積極影響（Rainie和Anderson，2024[60]）。然而，對(duì)工人的民意調(diào)查顯示，32%的ICT從業(yè)者和14%的酒店、服務(wù)和藝術(shù)行業(yè)從業(yè)者預(yù)計(jì)人工智能對(duì)他們的好處大于傷害（Kechhar，2023[73]）。這表明人工智能對(duì)工作的預(yù)期影響并不是平均分布的。如果人工智能系統(tǒng)分配給人工智能系統(tǒng)的刺激性較低的任務(wù)，并且工人可以將時(shí)間投入到更有成就感的追求中，那么人工智能可能有助于在工作場(chǎng)所產(chǎn)生積極的心理影響（Jia等人，2024[74]）。例如，在公共部門(mén)，人工智能可以減少公職人員在單調(diào)任務(wù)上投入的時(shí)間（經(jīng)合組織，2024[75]）。專(zhuān)家組成員指出，從歷史上看，通用技術(shù)在新領(lǐng)域創(chuàng)造了新的高質(zhì)量工作，這可能有助于提高工作質(zhì)量和數(shù)量（OECD.AI，2023[15]）。在建筑和制造業(yè)等行業(yè)，人類(lèi)可以通過(guò)人工智能機(jī)器人遠(yuǎn)程完成危險(xiǎn)的任務(wù)，高質(zhì)量的模擬可以減少事故。在一個(gè)例子中，一個(gè)民間社會(huì)組織（CSO）使用人工智能系統(tǒng)來(lái)審計(jì)公共開(kāi)支，“在一周內(nèi)發(fā)現(xiàn)的可疑索賠比負(fù)責(zé)政府機(jī)構(gòu)一年內(nèi)發(fā)現(xiàn)的還要多”（Savaget，Chiarini和Evans，2019[76]）。慈善機(jī)構(gòu)等民間社會(huì)組織越來(lái)越意識(shí)到人工智能的潛力：2024年，英國(guó)61%的受訪慈善機(jī)構(gòu)報(bào)告稱(chēng)每天使用人工智能，幾乎是2023年的兩倍（Legraien，2024[77]）。然而，只有不到25%的受訪者表示準(zhǔn)備好應(yīng)對(duì)人工智能的機(jī)遇和挑戰(zhàn)。在工作場(chǎng)所，工會(huì)和商業(yè)協(xié)會(huì)等社會(huì)合作伙伴就人工智能的使用進(jìn)行談判和建立社會(huì)對(duì)話，但他們也使用人工智能來(lái)告知工人他們的權(quán)利并更好地了解他們的經(jīng)驗(yàn)（經(jīng)合組織，2023[24]）。盡管最近人工智能的吸收以及其他人工智能參與者對(duì)支持這些組織的機(jī)會(huì)的興趣增加，但他們對(duì)人工智能的廣泛使用往往受到資金，技能和運(yùn)營(yíng)限制的限制（Savaget，Chiarini和Evans，2019[76];丹麥政府，2024[78];經(jīng)合組織，2023[24]）。人工智能可以幫助擴(kuò)大監(jiān)督和代表活動(dòng)的規(guī)模和范圍人工智能可以通過(guò)促進(jìn)新形式的數(shù)字社會(huì)服務(wù)和參與能力來(lái)支持民間社會(huì)組織和社會(huì)合作伙伴（Sanchez，2021[79]）。專(zhuān)家組成員強(qiáng)調(diào)，助理可以幫助廣泛的組織，包括基層和社區(qū)組織，承擔(dān)更復(fù)雜的任務(wù)或擴(kuò)大其業(yè)務(wù)（OECD.AI，2023[80]）。通過(guò)透明和可訪問(wèn)的機(jī)構(gòu)實(shí)現(xiàn)的協(xié)同效應(yīng)可能會(huì)進(jìn)一步促進(jìn)這一好處（好處10）。人工智能已經(jīng)應(yīng)用于公共部門(mén)數(shù)據(jù)集，以識(shí)別和管理腐敗風(fēng)險(xiǎn)，并促進(jìn)廉正和效率（Ugale和Hall，2024[81]）。人工智能支持機(jī)構(gòu)交流，幫助促進(jìn)參與性活動(dòng)。6它還在政府內(nèi)部建立機(jī)構(gòu)能力，以便更有效地監(jiān)測(cè)、執(zhí)行和評(píng)價(jià)政策，減輕政府和企業(yè)的負(fù)擔(dān)，提高政策效力。許多政府已采取措施確保其算法和人工智能的使用是透明和負(fù)責(zé)任的（經(jīng)合組織，2023[82]）。人工智能技術(shù)可以為政府提供與公民溝通的替代渠道，并提供收集和分析社會(huì)觀點(diǎn)的有效工具（經(jīng)合組織，2023[83];2022[84]）。一些政府已經(jīng)成功地嘗試使用人工智能來(lái)進(jìn)行偏好匯總、大規(guī)模審議和共識(shí)協(xié)調(diào)（Tsaietal.，2024[85]）。人工智能對(duì)大量信息進(jìn)行分類(lèi)、過(guò)濾和總結(jié)的能力可以降低信息披露的障礙，使政府更容易向公眾透明。它還可以幫助公民了解復(fù)雜的政府程序，并為更廣泛的公眾參與和民間社會(huì)組織的監(jiān)督提供機(jī)會(huì)這可以加速機(jī)構(gòu)改革，人工智能工具可以幫助民間社會(huì)組織完成監(jiān)測(cè)和評(píng)估以及更好地定位服務(wù)，信息傳播和宣傳材料等任務(wù)（Efthymiou，Alevizos和Sidiropoulos，2023[86]）。這些進(jìn)步可以加強(qiáng)對(duì)政府的信任并加強(qiáng)民主（經(jīng)合組織，2022[87]）。經(jīng)濟(jì)合作與發(fā)展組織（OECD）對(duì)人工智能政策效果的審查發(fā)現(xiàn)，它們經(jīng)常強(qiáng)調(diào)人工智能在加速科學(xué)進(jìn)步、促進(jìn)經(jīng)濟(jì)增長(zhǎng)和生產(chǎn)力提高以及提高生活水平方面的潛力的重要性。在較小程度上，他們承認(rèn)人工智能在解決復(fù)雜和加速問(wèn)題方面的潛力;協(xié)助決策，感知和預(yù)測(cè)以及為有益的服務(wù)提供動(dòng)力。然而，對(duì)工作質(zhì)量的積極影響的認(rèn)識(shí)往往受到工作數(shù)量問(wèn)題以及相關(guān)的培訓(xùn)和能力建設(shè)問(wèn)題的限制和掩蓋（經(jīng)合組織，2023[24]）。對(duì)組織透明度和賦予民間社會(huì)權(quán)力的好處的認(rèn)識(shí)似乎很輕，除了開(kāi)放政府?dāng)?shù)據(jù)以支持訓(xùn)練人工智能系統(tǒng)和提供自動(dòng)決策的透明度（例如，解釋公共利益的確定）。行動(dòng)的非詳盡例子包括：.科學(xué)進(jìn)步。歐盟（EU）AI法案（2024）規(guī)定了某些規(guī)則的豁免，并限制了用于科學(xué)研究的AI系統(tǒng)的版權(quán)保護(hù)。法國(guó)開(kāi)發(fā)了一個(gè)人工智能促進(jìn)科學(xué)，科學(xué)促進(jìn)人工智能中心（AISSAI）。8英國(guó)投資1.17億歐元（相當(dāng)于）在相關(guān)領(lǐng)域建立人工智能研究中心（UKRI，2024[89]）。美國(guó)《關(guān)于安全、可靠和值得信賴的人工智能開(kāi)發(fā)和使用的行政命令》（AIEO2023）包括為應(yīng)用科學(xué)建立基礎(chǔ)模型和支持醫(yī)療保健AI研究的要求。9.增長(zhǎng)、生產(chǎn)力和福祉的提高。許多國(guó)家的人工智能計(jì)劃為增長(zhǎng)和生產(chǎn)力投資提供資金，包括促進(jìn)就業(yè)機(jī)會(huì)的轉(zhuǎn)變和創(chuàng)造。例如，德國(guó)在2025年前預(yù)算50億歐元用于實(shí)施其國(guó)家戰(zhàn)略（經(jīng)合組織，.減少不平等和貧困?！稓W盟人工智能法》規(guī)定了促進(jìn)多樣性、不歧視、公平和無(wú)障礙的措施。2023年舉辦的首屆人工智能安全峰會(huì)的成果涉及英國(guó)和全球合作伙伴進(jìn)行投資，以促進(jìn)人工智能的努力，加快新興和發(fā)展中經(jīng)濟(jì)體的發(fā)展（英國(guó)FCDO，2023[91]）。.處理復(fù)雜和加速的問(wèn)題。由16家AI公司簽署的前沿AI安全承諾開(kāi)發(fā)AI系統(tǒng)以幫助應(yīng)對(duì)全球挑戰(zhàn)（英國(guó)DSIT，2024[92]）。聯(lián)合國(guó)機(jī)構(gòu)的努力可以在國(guó)際電信聯(lián)盟（ITU）的AIforGood網(wǎng)絡(luò)研討會(huì)系列中看到，該系列幫助AI參與者連接和確定AI解決方案，以及教科文組織對(duì)Jo?efStefan研究所國(guó)際AI研究中心（IRCAI）的支持。10歐盟人工智能法案包括允許在某些用例中在沙箱中處理個(gè)人數(shù)據(jù)，包括解決綠色過(guò)渡和氣候變化問(wèn)題。英國(guó)的人工智能研究中心包括對(duì)環(huán)境和電力效率的關(guān)注。美國(guó)AIEO包括使用AI提供清潔電力的要求，開(kāi)發(fā)簡(jiǎn)化環(huán)境審查的基礎(chǔ)模型，同時(shí)改善結(jié)果，并鼓勵(lì)私營(yíng)公司和學(xué)術(shù)界開(kāi)發(fā)AI工具以緩解和適應(yīng)氣候變化。.決策、感覺(jué)和預(yù)測(cè)。許多國(guó)家的人工智能計(jì)劃包括使用人工智能在各個(gè)領(lǐng)域?qū)崿F(xiàn)這一利益的行動(dòng)。例如，芬蘭（2023[93]）關(guān)于自動(dòng)化決策的立法和以色列（2023[94]）公開(kāi)呼吁確定公司使用人工智能來(lái)支持公共決策過(guò)程。然而，這些努力更多地側(cè)重于決策，而不是感覺(jué)和預(yù)測(cè)。與之前的好處相關(guān)，人工智能正在被用于為管理氣候變化的決策提供信息，例如通過(guò)數(shù)字孿生來(lái)模擬實(shí)時(shí)能源網(wǎng)絡(luò)管理，以預(yù)測(cè)和優(yōu)化能源消耗（OECD.AI，2022[95]）。.改進(jìn)信息的制作和傳播。許多政府已經(jīng)采取措施，包括通過(guò)使用人工智能來(lái)生產(chǎn)和提高公共信息和數(shù)據(jù)的價(jià)值和可重用性（經(jīng)合組織，2023[96];2024[75]）。美國(guó)國(guó)家人工智能資源（2024[97]）旨在將美國(guó)研究人員與推進(jìn)人工智能研究所需的計(jì)算，數(shù)據(jù)和培訓(xùn)資源聯(lián)系起來(lái)。.有益的人工智能服務(wù)。許多國(guó)家的人工智能工作都集中在增強(qiáng)的數(shù)字服務(wù)上。例如，美國(guó)（2023[98]）列出了700多個(gè)政府AI用例，其中許多是數(shù)字服務(wù)。英國(guó)（2023[99]）特別在人工智能醫(yī)療服務(wù)方面進(jìn)行了大量的金融投資。一些國(guó)家正在教育領(lǐng)域推行人工智能，包括通過(guò)黑客馬拉松和為創(chuàng)建人工智能工具提供資金投資（經(jīng)合組織，2023[68];英國(guó)DfE，2023[100]）。然而，專(zhuān)家組成員發(fā)現(xiàn)，與其積極潛力相比，對(duì)教育中人工智能的公共投資和使用較低。.提高工作質(zhì)量。這里的努力更多地集中在減輕人工智能工作場(chǎng)所的危害，而不是使用人工智能。修訂后的歐盟指令2002/14EC（2002[101]）和一些國(guó)家政策，如美國(guó)AIEO，試圖通過(guò)促進(jìn)員工參與AI和抵制工作場(chǎng)所監(jiān)控等行動(dòng)來(lái)減輕AI可能造成的工作質(zhì)量危害（歐洲議會(huì)，2021[102];Bell和Korinek，2024[103]）。政府間組織也積極開(kāi)展相關(guān)分析，如經(jīng)合組織的工作、創(chuàng)新、生產(chǎn)力和技能中的人工智能（AI-WIPS）計(jì)劃以及國(guó)際勞工組織（ILO）的努力。.增強(qiáng)民間社會(huì)和社會(huì)伙伴的權(quán)能。美國(guó)國(guó)家人工智能資源（2024[97]）和英國(guó)人工智能研究資源（2024[89]）旨在確保人工智能研究資源的廣泛獲取。《經(jīng)合組織就業(yè)展望》（2023年）研究了與社會(huì)合作伙伴有關(guān)的努力。.提高體制透明度。有幾項(xiàng)計(jì)劃試圖將人工智能用于公眾參與，例如政府使用開(kāi)源的人群參與人工智能應(yīng)用程序Polis（ComputationalDemocracy，2023[104]）。一些舉措還旨在使公共部門(mén)對(duì)人工智能的使用更加透明，例如英國(guó)（2024[105]）的計(jì)算機(jī)透明度記錄標(biāo)準(zhǔn)。.經(jīng)合組織人工智能未來(lái)專(zhuān)家組提出了加強(qiáng)政策重點(diǎn)的十大優(yōu)先風(fēng)險(xiǎn)1.為日益復(fù)雜的惡意網(wǎng)絡(luò)活動(dòng)提供便利2.操縱、虛假信息、欺詐以及由此對(duì)民主和社會(huì)凝聚力造成的危害3.由于缺乏對(duì)人工智能安全性和可信度的足夠投資，開(kāi)發(fā)和部署人工智能系統(tǒng)的競(jìng)賽造成了危害4.·將人工智能系統(tǒng)目標(biāo)與人類(lèi)利益相關(guān)者的偏好和價(jià)值觀相結(jié)合的方法不足導(dǎo)致意外傷害5.權(quán)力集中在少數(shù)公司或國(guó)家;6.在關(guān)鍵系統(tǒng)中發(fā)生輕微至嚴(yán)重的AI事件和災(zāi)難7.侵入性監(jiān)視和侵犯隱私8.治理機(jī)制和機(jī)構(gòu)無(wú)法跟上人工智能的快速發(fā)展;9.人工智能系統(tǒng)缺乏足夠的可解釋性和可解釋性，削弱了問(wèn)責(zé)制;10.加劇了國(guó)家內(nèi)部或國(guó)家之間的不平等或貧困。.在人工智能政策和舉措中更好地降低人工智能潛在風(fēng)險(xiǎn)的關(guān)鍵考慮因素包括：o人工智能安全科學(xué)、研發(fā)和測(cè)試的國(guó)家、多邊和區(qū)域機(jī)構(gòu)的建立反映了對(duì)許多潛在風(fēng)險(xiǎn)的關(guān)注。o可能需要更加敏捷和靈活的方法和網(wǎng)絡(luò)來(lái)跟上人工智能進(jìn)步的步伐。o仍然需要有效的方法來(lái)確保人工智能系統(tǒng)的目標(biāo)與人類(lèi)目標(biāo)保持一致利益相關(guān)者的偏好和價(jià)值觀。o公司和國(guó)家之間的競(jìng)爭(zhēng)性“競(jìng)賽”動(dòng)態(tài)以及關(guān)鍵人工智能領(lǐng)域的人工智能未來(lái)專(zhuān)家組（“專(zhuān)家組”）確定了38個(gè)潛在的未來(lái)人工智能風(fēng)險(xiǎn)。通過(guò)對(duì)這些風(fēng)險(xiǎn)進(jìn)行排序和綜合，它提出了十個(gè)需要加強(qiáng)政策重點(diǎn)的優(yōu)先風(fēng)險(xiǎn)，其中許多風(fēng)險(xiǎn)已開(kāi)始顯現(xiàn)（方法見(jiàn)附件A）。雖然第2章中討論的好處促進(jìn)了值得信賴的人工智能，正如經(jīng)合組織人工智能原則所體現(xiàn)的那樣，但優(yōu)先風(fēng)險(xiǎn)代表了潛在的障礙。盡管強(qiáng)調(diào)了十個(gè)優(yōu)先風(fēng)險(xiǎn)，但其他風(fēng)險(xiǎn)也值得關(guān)注。值得注意的是，專(zhuān)家之間產(chǎn)生最大分歧的風(fēng)險(xiǎn)（附件B，圖B.2中的紅色）可能需要進(jìn)一步討論。關(guān)于人類(lèi)失去對(duì)人工智能（AGI）系統(tǒng)控制的可能性和后果，人們的觀點(diǎn)尤其這種差異表明需要進(jìn)行更深入的調(diào)查，專(zhuān)家組成員同意，其產(chǎn)出應(yīng)討論不同的觀點(diǎn)，而不是要求達(dá)成共識(shí)（經(jīng)合組織，AI，2023[106]）。AGI是指假設(shè)的未來(lái)AI系統(tǒng)，在廣泛的背景下具有人類(lèi)水平或更高的智能（OECD，2024[107]）。對(duì)于是否或何時(shí)開(kāi)發(fā)此類(lèi)系統(tǒng)，甚至里程碑是否明確界定，專(zhuān)家們之間存在大量辯論和不確定性。然而，AGI的發(fā)展是幾家AI公司的目標(biāo)（Altman，2023[108];Deepmind，2024[109]）。盡管許多努力涉及使用人工智能來(lái)減輕網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，但人工智能系統(tǒng)已經(jīng)減少了惡意網(wǎng)絡(luò)活動(dòng)所需的工作量，而這些活動(dòng)以前需要人類(lèi)專(zhuān)家投入大量時(shí)間（UKDSIT，2023[110]）。大型語(yǔ)言模型（LLM）生成軟件“漏洞”的能力是人們關(guān)注的焦點(diǎn)（Klimek，2023[111];Maraju，Rashu和Sagi，2024[112]）。據(jù)估計(jì)，生成式人工智能在2023年上半年導(dǎo)致網(wǎng)絡(luò)攻擊增加了8%，特別是以釣魚(yú)電子郵件、惡意軟件和勒索軟件的形式出現(xiàn)（Mascellino，2023[113]）。有證據(jù)表明，一些國(guó)家的參與者正在使用LLM來(lái)尋求新的網(wǎng)絡(luò)攻擊方法，包括識(shí)別漏洞和協(xié)助生成釣魚(yú)活動(dòng)的內(nèi)容（OpenAI，2024[114]）。雖然目前先進(jìn)的人工智能系統(tǒng)可以幫助執(zhí)行基本的網(wǎng)絡(luò)攻擊，但它們似乎無(wú)法進(jìn)行復(fù)雜的多步自主攻擊（UKDSIT，2024[115]）。多年來(lái)，研究人員警告說(shuō)，支持AI的基礎(chǔ)設(shè)施黑客和勒索軟件攻擊可能會(huì)增加和發(fā)展。人工智能工具可以增加惡意行為者造成損害的能力，特別是通過(guò)降低執(zhí)行惡意網(wǎng)絡(luò)活動(dòng)所需的技能和成本，這些活動(dòng)可能破壞社會(huì)穩(wěn)定并造成虛擬或物理傷害（Fassihi，2023[116];Brundage等人，2018[117]）。例如，人工智能系統(tǒng)可以促進(jìn)惡意網(wǎng)絡(luò)活動(dòng)滲透到核或醫(yī)療設(shè)施，能源基礎(chǔ)設(shè)施或其他關(guān)鍵數(shù)字系統(tǒng)（Gerstein和Leidy，2024[118];Puwal，2024[119]）。人工智能可能會(huì)通過(guò)顛覆人工智能集成系統(tǒng)來(lái)導(dǎo)致新型惡意網(wǎng)絡(luò)活動(dòng)，例如黑客攻擊自動(dòng)駕駛汽車(chē)導(dǎo)致其墜毀或篡改醫(yī)學(xué)圖像以生成虛假癌癥檢測(cè)陽(yáng)性（Brundage等人，2018[117];Yamin等人，2021[120]）。與其他數(shù)字系統(tǒng)一樣，人工智能系統(tǒng)可能成為惡意網(wǎng)絡(luò)活動(dòng)的目標(biāo)（NIST，2024[121]）。專(zhuān)家們擔(dān)心，如果安全性跟不上不斷擴(kuò)大、不斷演變的威脅，在線生態(tài)系統(tǒng)、數(shù)字技術(shù)和數(shù)字化基礎(chǔ)設(shè)施的價(jià)值可能會(huì)受到侵蝕（OECD.AI，2023[15];Pupillo等人，2021[122]）。雖然人工智能在幫助打擊網(wǎng)上虛假和誤導(dǎo)性內(nèi)容方面具有巨大潛力，但人工智能支持的錯(cuò)誤和虛假信息是政府的首要關(guān)注點(diǎn)（OECD.AI，2022[123];OECD，2023[124]）。11現(xiàn)有的人工智能系統(tǒng)可以產(chǎn)生令人信服的虛假信息，許多關(guān)于敏感政治問(wèn)題的人工智能虛假信息的案例達(dá)到了廣泛的收視率（Bontcheva等人，2024[125]）。關(guān)于人類(lèi)如何識(shí)別人工智能生成的文本的證據(jù)是混合的（經(jīng)合組織，2024[126];Casal和Kessler，2023[127]）。關(guān)于圖像，人類(lèi)已經(jīng)被證明可以感知人工生成的面孔比實(shí)際面孔更“真實(shí)”（Nightingale和Farid，2022[128]）。許多專(zhuān)家提出，人工智能支持的錯(cuò)誤和虛假信息可能對(duì)選舉系統(tǒng)構(gòu)成重大威脅，但迄今為止的證據(jù)表明，相關(guān)影響有限（Simon、McBride和Altay，2024年[129]）。未來(lái)的人工智能系統(tǒng)可以放大錯(cuò)誤和虛假信息的規(guī)模和嚴(yán)重程度，并幫助擴(kuò)大欺詐和詐騙，如魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)（英國(guó)DSIT，2024[115]）。復(fù)雜的模型可以幫助精確地定制和廣泛地部署基于心理概況的個(gè)人信息，通過(guò)“個(gè)性化的說(shuō)服”（Matzetal.，2024[130]）?！昂铣缮疃葌卧臁笨梢詭椭谱骺尚诺徽鎸?shí)的敘述，并使區(qū)分事實(shí)與虛構(gòu)變得越來(lái)越困難（Horvitz，2022[131]）。一些人認(rèn)為人工智能系統(tǒng)可以促進(jìn)對(duì)人的大規(guī)模操縱，犯罪脅迫，如自動(dòng)勒索和欺詐，如通過(guò)數(shù)字模擬（Horvitz，2022[132];Khan，2023[133];Fletcher，Tzani和Ioannou，2024[134]）。這些風(fēng)險(xiǎn)可能會(huì)因擬人化的人工智能系統(tǒng)而加劇-使其看起來(lái)像人類(lèi)（Deshpande等人，2023[135]）。一個(gè)相關(guān)的挑戰(zhàn)是信息污染，其中人工智能生成的輸出越來(lái)越普遍，導(dǎo)致在線信息質(zhì)量下降，導(dǎo)致錯(cuò)誤信息（Vincent，2023[136];Lorenz，Perset和Berryhill，2023[137]）。在社會(huì)規(guī)模上，人工智能支持的錯(cuò)誤和虛假信息是對(duì)信息生態(tài)系統(tǒng)和支撐科學(xué)和民主的基于事實(shí)的信息交換的根本威脅（Ognyanova等人，2020[138];OECD，2022[139]）。這些問(wèn)題可能會(huì)對(duì)社會(huì)凝聚力、民主原則和人權(quán)造成持久損害（經(jīng)合組織，2024年[140]）。然而，這種未來(lái)風(fēng)險(xiǎn)存在不確定性，一些專(zhuān)家認(rèn)為，對(duì)人工智能支持的錯(cuò)誤和虛假信息的擔(dān)憂可能被夸大了（Simon，Altay和Mercier，2024[141]）。提供人工智能服務(wù)的有效競(jìng)爭(zhēng)可能對(duì)于確保消費(fèi)者和經(jīng)濟(jì)體充分受益于該技術(shù)至關(guān)重要（經(jīng)合組織，2024[142]）。然而，一些專(zhuān)家認(rèn)為，這種壓力-以及不明確的責(zé)任和問(wèn)責(zé)制分配和監(jiān)管要求-可能會(huì)導(dǎo)致對(duì)人工智能道德和安全的關(guān)注不足（Chow和Perrigo，2023[143];Li，2023[144]）。自2022年底以來(lái)，人工智能公司迅速發(fā)布了新的或增強(qiáng)的產(chǎn)品，這些產(chǎn)品有時(shí)在之后被發(fā)現(xiàn)存在重大缺陷。與此相關(guān)的是，一些公司和個(gè)人在這些系統(tǒng)可用時(shí)立即采用和使用這些系統(tǒng)的壓力可能會(huì)加劇風(fēng)險(xiǎn)（Clarke和Whittlestone，2022[47]）。除了公司之外，競(jìng)爭(zhēng)壓力也可能導(dǎo)致國(guó)家之間的種族動(dòng)態(tài)（NSCIA，2021[145];deNeufville和Baum，2021[146];Bremmer和Suleyman，2023[147]）。種族動(dòng)態(tài)可能會(huì)增加人工智能事件的風(fēng)險(xiǎn)，一些專(zhuān)家認(rèn)為，在缺乏有效治理和監(jiān)管的情況下，短期收益可能會(huì)以犧牲長(zhǎng)期社會(huì)目標(biāo)為代價(jià)（Hendrycks，Mazeika和Woodside，2023[148]）。關(guān)于公司之間的競(jìng)爭(zhēng)，過(guò)早部署產(chǎn)品可能會(huì)造成損害，而沒(méi)有足夠的安全措施來(lái)?yè)魯「?jìng)爭(zhēng)對(duì)手進(jìn)入市場(chǎng)。在明顯的先發(fā)優(yōu)勢(shì)和“贏家通吃”的動(dòng)態(tài)（Askelletal.，2019[149];Vipra和MyersWest，2023[150]）存在。由于可能的權(quán)衡，一些專(zhuān)家建議，公司可能被迫將性能和速度優(yōu)先于安全性，或者將計(jì)算和人才等重要資源用于開(kāi)發(fā)產(chǎn)品，而沒(méi)有相應(yīng)的資源用于安全性和可信度（Askell等人，2019[149];Leike，2022[151];Kahn，2024[152]）。一些專(zhuān)家還警告說(shuō)，國(guó)家之間的人工智能競(jìng)賽動(dòng)態(tài)可能會(huì)在無(wú)意中加劇國(guó)際沖突，并導(dǎo)致知識(shí)產(chǎn)權(quán)，監(jiān)管或國(guó)際治理方法的國(guó)際合作緊張局勢(shì)（Johnson，2020[153];Garfinkel，2019[154];Roberts等人，2024[155]）。AI系統(tǒng)的目標(biāo)可以是明確的或隱含的。對(duì)于人工智能系統(tǒng)的開(kāi)發(fā)人員或用戶來(lái)說(shuō)，以確保系統(tǒng)以符合人類(lèi)意圖的方式實(shí)現(xiàn)明確的目標(biāo)可能具有挑戰(zhàn)性。例如，拼出用戶的真實(shí)目的通常太困難或?qū)е孪到y(tǒng)效率低下（Gabriel，2020[156]）。因此，編程到AI系統(tǒng)中的目標(biāo)通常是高級(jí)、概念或代理目標(biāo)。這可能會(huì)導(dǎo)致意想不到的后果。人工智能系統(tǒng)在尋求實(shí)現(xiàn)明確目標(biāo)時(shí)的行動(dòng)與人類(lèi)的意圖或價(jià)值觀之間的差異程度有時(shí)被稱(chēng)為錯(cuò)位。一些專(zhuān)家認(rèn)為，某些類(lèi)型的人工智能可能會(huì)發(fā)展自我保護(hù)，自我改善和資源獲取的目標(biāo)（Bales，D'Alessandro和Kirk-Giannini，2024[157]）。另一個(gè)問(wèn)題是泛化，或“確保輸出從他們的培訓(xùn)環(huán)境轉(zhuǎn)化為現(xiàn)實(shí)世界的預(yù)期”（英國(guó)DSIT，2024[115]）。確保人工智能系統(tǒng)按照用戶意圖或人類(lèi)共同的價(jià)值觀（只要這些價(jià)值觀是可識(shí)別的）行事被一些專(zhuān)家稱(chēng)為“未解決的問(wèn)題”（Hendrycksetal.，2022[158]）。如今，在獎(jiǎng)勵(lì)黑客中可以觀察到人工智能錯(cuò)位的證據(jù)，人工智能系統(tǒng)發(fā)現(xiàn)了實(shí)現(xiàn)目標(biāo)的不可預(yù)見(jiàn)且可能有害的方式（Skalse等人，2022[159]）。雖然存在一些增加對(duì)齊的方法，例如在訓(xùn)練AI模型時(shí)使用特定類(lèi)型的人類(lèi)反饋，但它們通常具有有限的可擴(kuò)展性，并且可能引入新的偏差（Casperetal.，2023[160]）。一些研究領(lǐng)域，包括有時(shí)被稱(chēng)為AI對(duì)齊的領(lǐng)域，研究了可驗(yàn)證地確保AI系統(tǒng)的行為與人類(lèi)偏好一致的方法（Russell，2019[53];Dung，2023[161];Bekenova等人，2022[162]）。然而，其他研究人員認(rèn)為，對(duì)齊應(yīng)該關(guān)注與系統(tǒng)功能相關(guān)的規(guī)范2024[163]）。一些專(zhuān)家認(rèn)為，這個(gè)問(wèn)題可能導(dǎo)致人工智能系統(tǒng)的行為方式破壞了潛在的、隱含的人類(lèi)利益，隨著人工智能更深入地融入社會(huì)和經(jīng)濟(jì)，這種情況可能會(huì)升級(jí)。以不可預(yù)料和不受歡迎的方式追求人類(lèi)定義的目標(biāo)的錯(cuò)位人工智能系統(tǒng)可能會(huì)產(chǎn)生從有害偏見(jiàn)和有害建議到潛在災(zāi)難性后果的影響（Skalse等人，2022[159];Russell，2019[53];OECD.AI，2023[164]）。專(zhuān)家組成員預(yù)計(jì)，生成式人工智能系統(tǒng)將越來(lái)越多地用作人工智能代理的組件，這些代理執(zhí)行各種功能，自主程度不斷提高（OECD.AI，2023[15]）。這些不斷提高的自主性和集成到復(fù)雜的任務(wù)序列中，減少了人類(lèi)的監(jiān)督，這可能會(huì)增加對(duì)齊的重要性。人工智能的市場(chǎng)力量集中通常與對(duì)資源訪問(wèn)的控制有關(guān)，包括訓(xùn)練高級(jí)人工智能模型所需的數(shù)據(jù)和計(jì)算（布坎南，2020[165]）。特別是對(duì)計(jì)算的需求急劇增長(zhǎng)（OECD，2023[166]）。獲得計(jì)算的能力，受可用性和成本的影響，影響哪些組織可以構(gòu)建人工智能系統(tǒng)，構(gòu)建的系統(tǒng)類(lèi)型以及誰(shuí)從系統(tǒng)中受益以及提供它們所產(chǎn)生的利潤(rùn)（Vipra和MyersWest，2023[150]）。12半導(dǎo)體供應(yīng)鏈中的漏洞使這一點(diǎn)進(jìn)一步復(fù)雜化（Haramboure等人，2023[167]）。將產(chǎn)品和服務(wù)“捆綁”在一起等行業(yè)實(shí)踐推動(dòng)了自我強(qiáng)化的網(wǎng)絡(luò)效應(yīng)，從而擁有更多的用戶和數(shù)據(jù)，反過(guò)來(lái)又有助于進(jìn)一步改進(jìn)人工智能模型（UCBerkeley，2021[33];OECD，2024[142]）。與此相關(guān)的是，合并、收購(gòu)、戰(zhàn)略投資和合作伙伴關(guān)系，以及企業(yè)在價(jià)值鏈多個(gè)層面運(yùn)營(yíng)的垂直整合，可能會(huì)阻礙競(jìng)爭(zhēng)，使沒(méi)有這種整合或與主要參與者合作能力的公司難以生存（英國(guó)CMA，2023[168];2024[169]）。開(kāi)源人工智能模型可以幫助民主化訪問(wèn)，盡管專(zhuān)家們對(duì)開(kāi)源某些高性能人工智能模型是否會(huì)帶來(lái)超過(guò)收益的風(fēng)險(xiǎn)存在爭(zhēng)議（Mozilla，2023[170];Seger等人，2023[171]）。缺乏獲得人工智能資源的機(jī)會(huì)以及規(guī)模經(jīng)濟(jì)、先發(fā)優(yōu)勢(shì)、收購(gòu)和合作伙伴關(guān)系等結(jié)構(gòu)性因素，對(duì)人工智能市場(chǎng)的競(jìng)爭(zhēng)構(gòu)成了風(fēng)險(xiǎn)（經(jīng)合組織，2024[142]）。如果市場(chǎng)力量集中在一個(gè)或幾個(gè)占主導(dǎo)地位的公司手中，他們可以獲得重大的經(jīng)濟(jì)收益，可能會(huì)以缺乏資源趕上的小公司，政府和學(xué)術(shù)機(jī)構(gòu)為代價(jià)（Vipra和MyersWest，2023[150];Cockburn，Henderson和Stern，2018[172]）。這種市場(chǎng)或經(jīng)濟(jì)力量的集中可能會(huì)改變政治權(quán)力的動(dòng)態(tài)，現(xiàn)任者有可能在影響政策方面發(fā)揮不成比例的作用（Bettelle，2023[173];AINowInstitute，2023[174]）。這可能對(duì)發(fā)展中國(guó)家和新興經(jīng)濟(jì)體產(chǎn)生特別不利的影響專(zhuān)家組成員警告說(shuō)，如果很少有供應(yīng)商主導(dǎo)人工智能市場(chǎng)，社會(huì)可能會(huì)依賴它們（OECD.AI，2023[15]）。這可能使關(guān)鍵基礎(chǔ)設(shè)施和服務(wù)的決定由有限的幾個(gè)供應(yīng)商控制，從而有可能對(duì)基本上是公司的決定缺乏有意義的選擇或民主監(jiān)督。如果政府無(wú)法建立內(nèi)部能力和專(zhuān)業(yè)知識(shí)并促進(jìn)有效競(jìng)爭(zhēng)，一些人認(rèn)為不平等可能會(huì)惡化（見(jiàn)風(fēng)險(xiǎn)10）。他們還建議，政策制定者應(yīng)該制定方法，幫助確保開(kāi)發(fā)人員的決策符合公共利益，并為人工智能產(chǎn)品和服務(wù)提供健康、競(jìng)爭(zhēng)激烈的市場(chǎng)。如果這種風(fēng)險(xiǎn)進(jìn)一步擴(kuò)大，一些專(zhuān)家認(rèn)為，那些對(duì)關(guān)鍵人工智能系統(tǒng)或生態(tài)系統(tǒng)擁有市場(chǎng)控制權(quán)的人可以利用這種優(yōu)勢(shì)來(lái)加強(qiáng)政治權(quán)力，可能會(huì)促進(jìn)大規(guī)模的征服和/或威權(quán)主義，特別是在國(guó)家行為者的使用方面（Funk，Shahbaz和Vesteinsson，2023[175];Clarke和Whittlestone，2022[47];Dizikes，2023[176]）。這些系統(tǒng)包括空中交通管制、金融、核和軍事系統(tǒng)（Laplante等人，2020[177];Zwetsloot和Dafoe，2019[178]）。關(guān)鍵部門(mén)的失敗可能會(huì)導(dǎo)致連鎖反應(yīng)，正如2010年股市“閃電崩盤(pán)”所觀察到的那樣，與高頻交易機(jī)器人相關(guān)的問(wèn)題導(dǎo)致道瓊斯工業(yè)平均指數(shù)在幾分鐘內(nèi)下跌9%（Makhija，Chacko和Kukreja，2024[179]）。美國(guó)證券交易委員會(huì)（SEC）主席警告說(shuō)，除非監(jiān)管到位，否則隨著人工智能被進(jìn)一步用于管理金融市場(chǎng)，金融崩潰可能會(huì)發(fā)生（Carter，2023[180]）。預(yù)計(jì)人工智能將越來(lái)越多地集成到關(guān)鍵系統(tǒng)中，如果它們以意想不到的方式證明不可靠，或者如果使用了不適當(dāng)?shù)谋ＷC系統(tǒng)，則可能會(huì)帶來(lái)嚴(yán)重的風(fēng)險(xiǎn)（Laplante等人，2020[177];OECD.AI，2022[181]