美國國家人工智能研究和發(fā)展戰(zhàn)略規(guī)劃

關(guān)于國家科學(xué)技術(shù)委員會(huì)國家科學(xué)技術(shù)委員會(huì)〔NTC〕是行政機(jī)構(gòu)在構(gòu)成聯(lián)邦研發(fā)〔R＆D〕企業(yè)的各種實(shí)體之間協(xié)調(diào)科學(xué)和技術(shù)政策的主要手段。C的主要目標(biāo)之一是為聯(lián)邦科學(xué)和技術(shù)投資制定明確的國家目標(biāo)。SC準(zhǔn)備了旨在實(shí)現(xiàn)多個(gè)國家目標(biāo)的研發(fā)包。SC的工作在五個(gè)委員會(huì)下組建：環(huán)境委員會(huì)、自然資源和可持續(xù)開展委員會(huì)；國家與國土平安委員會(huì)；科學(xué)、技術(shù)、工程和數(shù)學(xué)〔STEM〕教育委員會(huì)；科學(xué)和技術(shù)委員會(huì)。每個(gè)委員會(huì)都負(fù)責(zé)監(jiān)督專注于科學(xué)和技術(shù)不同方面的小組委員會(huì)和工作組。更多信息，請?jiān)L問hhuooc。關(guān)于白宮科技政策辦公室白宮科技政策辦公室〔OTP〕由196年國家科學(xué)技術(shù)政策、組織和優(yōu)先次序法案設(shè)立。P的使命有三方面：第一，就所有重要事項(xiàng)向總裁及其高級(jí)工作人員提供準(zhǔn)確、相關(guān)和及時(shí)的科學(xué)和技術(shù)咨詢；第二，確保行政機(jī)構(gòu)的政策得到健全科學(xué)的通知；第三，確保行政機(jī)構(gòu)的科學(xué)技術(shù)工作得到適當(dāng)協(xié)調(diào)，為社會(huì)帶來最大的益處。P的主任還擔(dān)任科學(xué)和技術(shù)總裁助理，負(fù)責(zé)管理C。更多信息，請?jiān)L問hhugvop。關(guān)于網(wǎng)絡(luò)和信息技術(shù)研究與開發(fā)小組委員會(huì)網(wǎng)絡(luò)和信息技術(shù)研發(fā)〔D〕小組委員會(huì)是國家科學(xué)技術(shù)委員會(huì)〔C〕技術(shù)委員會(huì)〔oT〕下的一個(gè)機(jī)構(gòu)。D小組委員會(huì)協(xié)調(diào)多機(jī)構(gòu)研究和開展方案，以幫助確保美國在網(wǎng)絡(luò)和信息技術(shù)方面的持續(xù)領(lǐng)導(dǎo)，滿足聯(lián)邦政府對先進(jìn)網(wǎng)絡(luò)和信息技術(shù)的需求，加快先進(jìn)網(wǎng)絡(luò)和信息技術(shù)的開發(fā)和部署。它還實(shí)施經(jīng)198年?下一代互聯(lián)網(wǎng)研究法案?〔P.L.15-05〕修訂的191年?性能計(jì)算法?〔PL10214〕相關(guān)款，以及207年?美國創(chuàng)造時(shí)機(jī)，切實(shí)推進(jìn)卓越技術(shù)、教育與科學(xué)〔CMPETES〕法?〔.169〕。更多信息，請參見nov。致謝本文檔通過D人工智能工作組的成員和工作人員的奉獻(xiàn)而制定。特別感謝和感謝幫助撰寫、編輯和審查文檔的其他奉獻(xiàn)者：ChitnBaru(NSF)、cairInnvainFllo、RndFerguono、ysIT)、cdr)、nnyS)、DaiimoD)、Tatiaaorelsky(NSF)、vidhn)、TereneLaenon(SF)、rrD、Cs、ecorMnoz-ilaF、ThasRindlesh(I)、gf)、de)、和Slviar。版權(quán)信息這是美國政府的一項(xiàng)工作，并屬于公共領(lǐng)域。它可以自由分發(fā)、復(fù)制和翻譯；感謝科學(xué)和技術(shù)政策辦公室政策對出版的許可。任何翻譯應(yīng)包括一個(gè)免責(zé)聲明，翻譯是否準(zhǔn)確為翻譯者而不是P的責(zé)任。請求將任何翻譯的副本發(fā)送給。根據(jù)知識(shí)共享CC01.0通用許可證的規(guī)定，此項(xiàng)工作可在全球范圍內(nèi)使用和重復(fù)使用。2021年10月13日各位尊敬的同事：我們很快樂通過這封信傳遞C的國家人工智能研究和開展戰(zhàn)略方案。該方案由人工智能工作組開發(fā)，人工智能工作組是應(yīng)C機(jī)器學(xué)習(xí)和人工智能小組委員會(huì)的要求，由C的D小組委員會(huì)任命的跨部門工作組。智能計(jì)算機(jī)系統(tǒng)一直是科幻小說的主題?，F(xiàn)在，我們正在進(jìn)入一個(gè)I對我們的日常生活產(chǎn)生廣泛和深遠(yuǎn)影響的時(shí)代，從精確醫(yī)學(xué)到交通到教育和更多方面。作為回應(yīng)，2021年5月3日白宮宣布了一系列行動(dòng)，以促進(jìn)I的公共對話，確認(rèn)與這種新興技術(shù)相關(guān)的挑戰(zhàn)和機(jī)遇，幫助政府更有效的利用，并為AI的潛在利益和風(fēng)險(xiǎn)做好準(zhǔn)備。作為這些行動(dòng)的一局部，白宮指導(dǎo)創(chuàng)立人工智能研究和開發(fā)的國家戰(zhàn)略。由此產(chǎn)生的I研發(fā)戰(zhàn)略方案定義了一個(gè)高級(jí)框架，可用于確定I中的科學(xué)和技術(shù)需求，跟蹤研發(fā)投資的進(jìn)展并最大限度地發(fā)揮其影響以滿足這些需求。它還確立I中聯(lián)邦資助研發(fā)的優(yōu)先事項(xiàng)，展望短期內(nèi)I對社會(huì)和世界長期變革影響的能力。聯(lián)邦政府的這種協(xié)調(diào)的I研發(fā)嘗試將幫助美國充分利用I技術(shù)的全部潛力，以開展我們經(jīng)濟(jì)的同時(shí)改善我們的社會(huì)。然而，I研發(fā)戰(zhàn)略方案并沒有為個(gè)別聯(lián)邦機(jī)構(gòu)定義具體的研究議程。相反，機(jī)構(gòu)將繼續(xù)根據(jù)其使命、能力、權(quán)威和預(yù)算來追尋優(yōu)先重點(diǎn)，同時(shí)進(jìn)行協(xié)調(diào)，使整體研究組合與I研發(fā)戰(zhàn)略方案一致。我們期待與聯(lián)邦機(jī)構(gòu)和其他關(guān)鍵合作伙伴繼續(xù)這項(xiàng)重要的工作，并利用該方案指導(dǎo)未來在I研發(fā)的決策。誠摯的，BryanBegl網(wǎng)絡(luò)和信息技術(shù)研發(fā)國家協(xié)調(diào)辦公室主任

JaesF.Kurose國家科學(xué)基金會(huì)科學(xué)與工程部計(jì)算機(jī)與信息系副主任，聯(lián)合主席，網(wǎng)絡(luò)和信息技術(shù)研發(fā)小組委員會(huì)主席JohnP.Holren科學(xué)技術(shù)委員會(huì)主席助理兼科學(xué)技術(shù)政策辦公室主任

國家科學(xué)技術(shù)委員會(huì)成員AfuaBruce科學(xué)技術(shù)政策辦公室執(zhí)行主任聯(lián)合主席EdFelten美國科學(xué)技術(shù)政策辦公室副首席技術(shù)官聯(lián)合主席BryanBegl

機(jī)器學(xué)習(xí)和人工智能小組委員會(huì)聯(lián)合主席MichaelGarris高級(jí)科學(xué)家美國商務(wù)部美國國家標(biāo)準(zhǔn)與技術(shù)協(xié)會(huì)網(wǎng)絡(luò)和信息技術(shù)研發(fā)小組委員會(huì)聯(lián)合主席JaesKurose網(wǎng)絡(luò)和信息技術(shù)研發(fā)國家協(xié)調(diào)辦公室主任

國家科學(xué)基金會(huì)科學(xué)與工程部計(jì)算機(jī)與信息系副主任聯(lián)合主席e部門主任

網(wǎng)絡(luò)和信息技術(shù)研發(fā)工程負(fù)責(zé)人工智能的任務(wù)組聯(lián)合主席Jasonatheny主任信息與智能系統(tǒng)國家科學(xué)基金會(huì)成員

智力高級(jí)研究工程活動(dòng)MiltonCorn NikunjOa美國國家衛(wèi)生研究所 美國國家航空和航天局WiliamFord RobinsonPino國家司法研究所 能源部MichaelGarris y美國國家標(biāo)準(zhǔn)與技術(shù)協(xié)會(huì) 科學(xué)技術(shù)政策辦公室StevenKnox t國家平安局 國土平安部JohnLauncbury FaisalD’Soua國防部高級(jí)研究方案局 網(wǎng)絡(luò)和信息技術(shù)研發(fā)國家協(xié)調(diào)辦公室技術(shù)協(xié)調(diào)專員RichardLinerman國防部長辦公室目 錄摘 要........................................................7一、簡介.......................................................9〔一〕?國家人工智能研究和開展戰(zhàn)略方案?的目的.............9〔二〕預(yù)期結(jié)果............................................11〔三〕利用人工智能推進(jìn)國家優(yōu)先事項(xiàng)的愿景..................121、促進(jìn)經(jīng)濟(jì)開展.......................................122、改善教育時(shí)機(jī)和生活質(zhì)量.............................133、增強(qiáng)國家和國土平安.................................14〔四〕人工智能的現(xiàn)狀......................................14二、研發(fā)戰(zhàn)略..................................................18〔一〕戰(zhàn)略一：對人工智能研究進(jìn)行長期投資..................211、提升基于數(shù)據(jù)發(fā)現(xiàn)知識(shí)的能力.........................212、增強(qiáng)人工智能系統(tǒng)的感知能力.........................223、了解人工智能的理論能力和局限性.....................224、研究通用人工智能...................................235、開發(fā)可擴(kuò)展的人工智能系統(tǒng)...........................246、促進(jìn)類人的人工智能研究.............................247、開發(fā)更強(qiáng)大和更可靠的機(jī)器人.........................258、推動(dòng)人工智能的硬件升級(jí).............................269、為改進(jìn)的硬件創(chuàng)立人工智能...........................26〔二〕戰(zhàn)略二：開發(fā)有效的人類與人工智能協(xié)作方法............281、尋找人類感知人工智能的新算法.......................292、開發(fā)增強(qiáng)人類能力的人工智能技術(shù).....................303、開發(fā)可視化和人機(jī)界面技術(shù)...........................304、開發(fā)更高效的語言處理系統(tǒng)...........................31〔三〕戰(zhàn)略三：了解并解決人工智能的倫理、法律和社會(huì)影響....331、改進(jìn)公平性、透明度和設(shè)計(jì)責(zé)任機(jī)制...................332、建立符合倫理的人工智能.............................343、設(shè)計(jì)符合倫理的人工智能架構(gòu).........................34〔四〕戰(zhàn)略四：確保人工智能系統(tǒng)的平安可靠..................361、提高可解釋性和透明度...............................362、提高信任度.........................................363、增強(qiáng)可驗(yàn)證與可確認(rèn)性...............................374、保護(hù)免受攻擊.......................................385、實(shí)現(xiàn)長期的人工智能平安和優(yōu)化.......................38〔五〕戰(zhàn)略五：開發(fā)用于人工智能培訓(xùn)及測試的公共數(shù)據(jù)集和環(huán)境391、開發(fā)滿足多樣化人工智能興趣與應(yīng)用的豐富數(shù)據(jù)集.......392、開放滿足商業(yè)和公共利益的訓(xùn)練測試資源...............403、開發(fā)開源軟件庫和工具包.............................40〔六〕戰(zhàn)略六：制定標(biāo)準(zhǔn)和基準(zhǔn)以測量和評估人工智能技術(shù)......421、開發(fā)廣泛應(yīng)用的人工智能標(biāo)準(zhǔn).........................422、制定人工智能技術(shù)的測試基準(zhǔn).........................423、增加可用的人工智能測試平臺(tái).........................434、促進(jìn)人工智能社群參與標(biāo)準(zhǔn)和基準(zhǔn)的制定...............44〔七〕戰(zhàn)略七：更好地了解國家人工智能人力需求..............46三、建議......................................................471、建議一.............................................472、建議二.............................................47附錄：首字母縮寫詞.............................................48譯者注.........................................................50摘 要人工智能〔AI〕是一種具有巨大社會(huì)和經(jīng)濟(jì)效益的革新性技術(shù)。人工智能有可能徹底改變我們的生活、工作、學(xué)習(xí)、發(fā)現(xiàn)和溝通的方式。人工智能研究可以推進(jìn)美國的國家優(yōu)先任務(wù)，包括增加經(jīng)濟(jì)繁榮、改善教育時(shí)機(jī)和生活質(zhì)量，以及加強(qiáng)國家和國土平安。由于這些潛在的益處，美國政府已經(jīng)對人工智能研究投資多年。然而，與聯(lián)邦政府感興趣的任何重要技術(shù)一樣，指導(dǎo)人工智能領(lǐng)域聯(lián)邦資助研發(fā)的總體方向時(shí)不僅具有巨大的時(shí)機(jī)，還必須考慮到一些注意事項(xiàng)。2021年5月3日，政府宣布成立一個(gè)新的國家科學(xué)技術(shù)委員會(huì)〔NSTC〕機(jī)器學(xué)習(xí)和人工智能小組委員會(huì)，以幫助協(xié)調(diào)邦在人工智能領(lǐng)域的活動(dòng)。1該小組委員會(huì)于2021年6月15，請求網(wǎng)絡(luò)和信息技術(shù)研究和開展方案〔NITRD〕小組委員會(huì)編寫?國家人工智能研究和開展戰(zhàn)略方案?〔以下簡稱“AI研發(fā)戰(zhàn)略方案〞或?戰(zhàn)略?〕。之后成立了一個(gè)NITRD人工智能工作組，以確定人工智能研發(fā)為聯(lián)邦的戰(zhàn)略重大方案，特別關(guān)注產(chǎn)業(yè)不可能解決的領(lǐng)域。這項(xiàng)?戰(zhàn)略?為聯(lián)邦資助的人工智能研究制定了一系列目標(biāo)，既包括政府內(nèi)部的研究，也包括聯(lián)邦資助的政府外部研究，例如在學(xué)術(shù)界。這項(xiàng)研究的最終目標(biāo)是產(chǎn)生新的人工智能知識(shí)和技術(shù)，為社會(huì)提供一系列積極效益，同時(shí)盡量減少負(fù)面影響。為實(shí)現(xiàn)這一目標(biāo)，?戰(zhàn)略?確定了聯(lián)邦資助人工智能研究的以下重大方案：戰(zhàn)略一：對人工智能研究進(jìn)行長期投資。優(yōu)先投資下一代人工智能，將促進(jìn)新發(fā)現(xiàn)和洞察力，同時(shí)使美國在人工智能領(lǐng)域保持世界領(lǐng)先地位。戰(zhàn)略二：開發(fā)有效的人類與人工智能協(xié)作方法。并非取代人類，大多數(shù)人工智能系統(tǒng)將與人類合作以實(shí)現(xiàn)最正確性能。需要研究來創(chuàng)立人類和人工智能系統(tǒng)之間的有效交互。戰(zhàn)略三：了解并解決人工智能的倫理、法律和社會(huì)影響。我們期望人工智能技術(shù)根據(jù)我們持有人類同胞的正式和非正式標(biāo)準(zhǔn)表現(xiàn)。需要研究以了解人工智能的倫理、法律和社會(huì)影響，并開發(fā)設(shè)計(jì)符合倫理、法律和社會(huì)目標(biāo)的人工智能系統(tǒng)的方法。戰(zhàn)略四：確保人工智能系統(tǒng)的平安可靠。在人工智能系統(tǒng)廣泛使用之前，需要保證系統(tǒng)將以受控、充分定義和充分理解的方式平安地操作。需要進(jìn)一步加強(qiáng)研究，以解決創(chuàng)立可靠、可信任和可信賴人工智能系統(tǒng)的挑戰(zhàn)。戰(zhàn)略五：開發(fā)用于人工智能培訓(xùn)及測試的公共數(shù)據(jù)集和環(huán)境。訓(xùn)練數(shù)據(jù)集和資源的深度、質(zhì)量和準(zhǔn)確性顯著影響人工智能性能。研究人員需要開發(fā)高質(zhì)量的數(shù)據(jù)集和環(huán)境，并允許負(fù)責(zé)訪問高質(zhì)量數(shù)據(jù)集，以及測試和培訓(xùn)資源。戰(zhàn)略六：制定標(biāo)準(zhǔn)和基準(zhǔn)以測量和評估人工智能技術(shù)。人工智能進(jìn)步極其重要的是指導(dǎo)和評估人工智能進(jìn)展的標(biāo)準(zhǔn)、測試基準(zhǔn)、測試臺(tái)和社區(qū)參與。需要進(jìn)行額外的研究來開發(fā)廣泛的評價(jià)技術(shù)。戰(zhàn)略七：更好地了解國家人工智能人力需求。人工智能的進(jìn)步將需要一個(gè)強(qiáng)大的人工智能研究人員社區(qū)。需要更好地了解人工智能當(dāng)前和未來研發(fā)人員需求，以幫助確保有足夠的人工智能專家能夠應(yīng)對本方案中概述的戰(zhàn)略研發(fā)領(lǐng)域。?戰(zhàn)略?最后提出了兩方面建議：建議一：開發(fā)一個(gè)人工智能研發(fā)實(shí)施框架，以抓住科技機(jī)遇，并支持人工智能研發(fā)投資的有效協(xié)調(diào)，與本方案的第一六項(xiàng)戰(zhàn)略保持一致。建議二：研究創(chuàng)立和維持一個(gè)健全的人工智能研發(fā)隊(duì)伍的國家愿景，與本方案的戰(zhàn)略第七項(xiàng)保持一致。一、簡介〔一〕?國家人工智能研究和開展戰(zhàn)略方案?的目的1956年，來自美國的計(jì)算機(jī)科學(xué)研究人員在新罕布什爾州的達(dá)特茅斯學(xué)院或I一個(gè)世界，“機(jī)器使用語言，構(gòu)成抽象和概念，解決現(xiàn)在人類的問題，并改善自己〞。2這次歷史性會(huì)議為AI的政府和行業(yè)研究設(shè)置了幾十年階段，包括感知、自動(dòng)推理/規(guī)劃、認(rèn)知系統(tǒng)、機(jī)器學(xué)習(xí)自然語言處理、機(jī)器人和相關(guān)領(lǐng)域的進(jìn)展。今天，這些研究進(jìn)展已經(jīng)產(chǎn)生影響我們?nèi)粘Ｉ畹男屡d經(jīng)濟(jì)部門，從制圖技術(shù)到語音輔助智能，到郵件傳遞的手寫識(shí)別，到金融交易，到智能物流，到垃圾郵件過濾，語言翻譯，甚至更多。I進(jìn)展也為精準(zhǔn)醫(yī)學(xué)、環(huán)境可持續(xù)性、教育和公共福利等領(lǐng)域的社會(huì)福利帶來巨大的益處。3過去25年來，AI方法的顯著增加在很大程度上得益于統(tǒng)計(jì)和概率方法的采用，大量數(shù)據(jù)的可用性以及計(jì)算機(jī)處理能力的提高。在過去十年中，機(jī)器學(xué)的I結(jié)果，引起了人們對AI近期前景更多的興趣。雖然最近注意到例如深度學(xué)習(xí)等統(tǒng)計(jì)方法的重要性，4但在其他各種領(lǐng)域AI也已經(jīng)取得了影響深遠(yuǎn)的進(jìn)展，例如：感知、自然語言處理、形式邏輯、知識(shí)展示、機(jī)器人技術(shù)、控制理論、認(rèn)知系統(tǒng)架構(gòu)、搜索和優(yōu)化技術(shù)以及其他更多方面?！沧ⅲ荷疃葘W(xué)習(xí)是指使用多層神經(jīng)網(wǎng)絡(luò)的一系列方法的匯總，這些方法支持快速完成一度被認(rèn)為無法自動(dòng)化完成的任務(wù)。〕AI的最近成就對這些技術(shù)的最終方向和影響已經(jīng)產(chǎn)生了重要問題：當(dāng)前AI技術(shù)的重要科學(xué)和技術(shù)瓶頸是什么？新的AI進(jìn)展將提供什么積極，需要的經(jīng)濟(jì)和社會(huì)影響？如何繼續(xù)平安和有益地使用AI技術(shù)？如何設(shè)計(jì)AI系統(tǒng)以符合倫理、法律和社會(huì)原那么？這些進(jìn)步對AI研發(fā)人員的影響是什么？AI研發(fā)的情況變得越來越復(fù)雜。雖然政府過去和現(xiàn)在的投資造就了I的為I組織。這種投資環(huán)境提出了關(guān)于聯(lián)邦投資在AI技術(shù)開展中適當(dāng)作用的重要問對I時(shí)間框架方面？是否有時(shí)機(jī)進(jìn)行產(chǎn)業(yè)和國際研發(fā)合作，推動(dòng)美國的優(yōu)先事項(xiàng)？2021年，美國政府對AI相關(guān)技術(shù)的未分類研發(fā)投資約為11億美元。雖然這些投資已經(jīng)產(chǎn)生了重要的新科學(xué)和技術(shù)，但是仍有時(shí)機(jī)在聯(lián)邦政府之間進(jìn)一步協(xié)調(diào)，使這些投資能夠充分發(fā)揮潛力。5認(rèn)識(shí)到AI的革新性影響，2021年5月，白宮科學(xué)和技術(shù)政策辦公室〔OSTP〕宣布了一個(gè)新的跨部門工作組，以探討AI的利益和風(fēng)險(xiǎn)。6OSTP還宣布了一系列四個(gè)研討會(huì)，舉辦于2021年5月至7月的一段時(shí)間，旨在促進(jìn)AI的公眾對話，并確定其所帶來的挑戰(zhàn)和機(jī)遇。研討會(huì)的結(jié)果是伴隨公共報(bào)告?為人工智能的未來準(zhǔn)備?的一局部，與該方案一起發(fā)布。在2021年6月，新的NSTC機(jī)器學(xué)習(xí)和人工智能小組委員會(huì)-它被特許在聯(lián)邦政府、私營部門和國際上與AI的進(jìn)展保持同步，并幫助協(xié)調(diào)聯(lián)邦在AI的活動(dòng)，任命NITRD國家協(xié)調(diào)辦公室〔NCO〕創(chuàng)立?國家人工智能研究和開展戰(zhàn)略方案?。小組委員會(huì)指示本方案應(yīng)傳達(dá)一系列明確的研發(fā)優(yōu)先重點(diǎn)，以解決戰(zhàn)略研究目標(biāo)，將聯(lián)邦投資重點(diǎn)放在行業(yè)不太可能投資的領(lǐng)域，并解決擴(kuò)大和維持AI研發(fā)人才渠道的需求。本AI研發(fā)戰(zhàn)略方案的輸入來自廣泛的來源，包括聯(lián)邦機(jī)構(gòu)、AI相關(guān)會(huì)議的公開討論、投資于IT相關(guān)研發(fā)的所有聯(lián)邦機(jī)構(gòu)的OMB數(shù)據(jù)呼叫、投資IT相關(guān)研發(fā)，OSTP信息請求RFI〕，該信息請求向公眾征詢了有關(guān)美國如何為未來的AI7做出最正確準(zhǔn)備的意見，以及AI公開出版物的信息。該方案對AI8的未來做出多個(gè)假想。首先，假設(shè)AI技巧妙并無所不在，而這多虧了政府和行業(yè)對AI研發(fā)的投資。第二，本方案假設(shè)AI對社會(huì)的影響將繼續(xù)增加，其中包括就業(yè)、教育、公共平安和國家平安，以對I的商業(yè)成就已增加了研發(fā)投資的預(yù)期回報(bào)。同時(shí)，本方案假設(shè)一些重要的研究領(lǐng)域不太可能獲得來自行業(yè)的足夠投資，因?yàn)樗鼈兪苤朴诘湫偷墓参锲吠顿Y缺乏問題。最后，本方案假設(shè)對AI專業(yè)的需求將繼續(xù)在行業(yè)、學(xué)術(shù)界和政府內(nèi)部增長，從而對公共和私人造成勞動(dòng)力壓力。與AI研和開展戰(zhàn)略方案?、9?聯(lián)邦網(wǎng)絡(luò)平安研究和開展戰(zhàn)略方案?、10?國家隱私研究和開展戰(zhàn)略?、11?國家納米技術(shù)建議戰(zhàn)略方案?、12?國家戰(zhàn)略計(jì)算計(jì)劃?、13?推進(jìn)創(chuàng)新神經(jīng)技術(shù)腦研究方案?14與?國家機(jī)器人方案?。15涉及某些AI子像分析、健康信息技術(shù)、機(jī)器人和智能系統(tǒng)。這些額外方案和框架將提供補(bǔ)助和詳細(xì)表達(dá)本AI研發(fā)戰(zhàn)略方案的協(xié)同建議。〔二〕預(yù)期結(jié)果本AI研的I于I變革影響。AI的最新研究進(jìn)展讓AI的潛力更為樂觀，使行業(yè)得到迅猛開展，并讓AI方法變得商業(yè)化。然而，雖然聯(lián)邦政府可以利用AI的行業(yè)投資，但許多應(yīng)用領(lǐng)域和長期研究挑戰(zhàn)不會(huì)存在明確的近期利潤驅(qū)動(dòng)因素，因此不可能完全由行業(yè)進(jìn)行解決。聯(lián)邦政府是長期高風(fēng)險(xiǎn)研究方案以及近期開展工作的主要資金來源，以實(shí)現(xiàn)部門或機(jī)構(gòu)的具體要求，或解決私營企業(yè)并不從事的重要社的I消費(fèi)市場的領(lǐng)域，如用于公共衛(wèi)生、城市系統(tǒng)與智慧社區(qū)、社會(huì)福利、刑事司法、環(huán)境可持續(xù)性和國家平安的AI，以及加速AI知識(shí)和技術(shù)生成的長期研究。的I供用于解決與使用AI相關(guān)的復(fù)雜政策挑戰(zhàn)的所需知識(shí)。此外，協(xié)調(diào)方法將有助于美國利用AI技術(shù)的全部潛力來改善社會(huì)。本AI研發(fā)戰(zhàn)略方案定義了一個(gè)高級(jí)框架，該框架可用于確定AI的科學(xué)和技術(shù)差距，并跟蹤用于填補(bǔ)這些差距的聯(lián)邦發(fā)投資。I研發(fā)戰(zhàn)略方案確定了AI短期和長期支持的戰(zhàn)略優(yōu)先事項(xiàng)，以此來解決重要的技術(shù)和社會(huì)挑戰(zhàn)。然而，AI研發(fā)戰(zhàn)略方案并未為個(gè)聯(lián)邦機(jī)構(gòu)定義具體的研究議程。相反，其為行政部門設(shè)定了目標(biāo)，在這些目標(biāo)中，各機(jī)構(gòu)可以根據(jù)其任務(wù)、能力、權(quán)威和預(yù)算來決定優(yōu)先順序，以便整個(gè)研究組合能與AI研發(fā)戰(zhàn)略方案保持一致。AI研發(fā)戰(zhàn)略方案也并未制定AI的研究或使用政策，亦未就AI對就業(yè)和經(jīng)濟(jì)的潛在影響作更廣泛的探討。雖然這些議題對國家至關(guān)重要，但它們在題為“人工智能的機(jī)遇和挑戰(zhàn)，這次會(huì)有所不同嗎？8的經(jīng)濟(jì)參謀委員會(huì)報(bào)告中進(jìn)行了討論。AI研發(fā)戰(zhàn)略方案側(cè)重于有助定義和推進(jìn)確保AI責(zé)任、平安和權(quán)益用途的政策的研發(fā)投資。〔三〕利用人工智能推進(jìn)國家優(yōu)先事項(xiàng)的愿景推動(dòng)此AI研發(fā)戰(zhàn)略方案是未來世界充滿希望的愿景，AI將給所有社會(huì)成員帶來顯著益處。人工智能的進(jìn)一步進(jìn)展可以提升社會(huì)中幾乎所有部門的福利，16讓國家優(yōu)先事項(xiàng)獲得進(jìn)展，其中包括促進(jìn)經(jīng)濟(jì)開展、改善生活質(zhì)量和加強(qiáng)國家平安。這種潛在利益的例子包括：1、促進(jìn)經(jīng)濟(jì)開展新產(chǎn)品和效勞可以創(chuàng)造新市場，并提高多個(gè)行業(yè)現(xiàn)有商品和效勞的質(zhì)量和效率。通過專業(yè)決策系統(tǒng)創(chuàng)造更有效的物流和供給鏈。17通過基于視覺的駕駛員輔助和自動(dòng)/機(jī)器人系統(tǒng)，18能更有效地運(yùn)輸產(chǎn)品。通過用于控制制造工藝和調(diào)度工作流程的新方法來改善制造業(yè)。19如何促進(jìn)經(jīng)濟(jì)開展？〔1〕制造業(yè)：技術(shù)進(jìn)步能在制造業(yè)，包括整個(gè)工程產(chǎn)品生命周期內(nèi)引發(fā)新工業(yè)革命。更多使用機(jī)器人技術(shù)能使制造業(yè)回歸陸上。20AI可以通過更可靠的需求預(yù)測、提升運(yùn)營和供給鏈靈活性，以及對改變制造業(yè)營運(yùn)的影響進(jìn)行更好的預(yù)測來加速生產(chǎn)能力。AI可以創(chuàng)造更智能、更快、更廉價(jià)和更環(huán)保的生產(chǎn)流程，這能提高工人的生產(chǎn)率、提高產(chǎn)品質(zhì)量、降低本錢并改善工人的健康和安全。21機(jī)器學(xué)習(xí)算法可以改善制造流程的調(diào)度并減少庫存要求。22消費(fèi)者可以從現(xiàn)時(shí)的商業(yè)級(jí)3-D打印中獲利。23〔2〕物流：私營部門制造商和托運(yùn)人可以使用AI，通過適配調(diào)度和路線來改進(jìn)供給鏈管理。24通過自動(dòng)調(diào)整天氣、交通和意外事件的預(yù)期影響，讓供給鏈更加牢固難以中斷。25〔3〕金融：工業(yè)和政府可以使用AI提供多種規(guī)模的異常金融風(fēng)險(xiǎn)早期檢測。26平安控制可以確保金融系統(tǒng)自動(dòng)減少惡意行為的時(shí)機(jī)，例如市場操縱、欺詐和異常交易。27他們可以進(jìn)一步提高效率并降低波動(dòng)性和交易本錢，同時(shí)預(yù)防系統(tǒng)性失效，例如定價(jià)泡沫和低估信用風(fēng)險(xiǎn)。28〔4〕交通：AI可以增強(qiáng)所有交通方式，實(shí)質(zhì)上影響所有類型的旅途的安全。29它可以用于結(jié)構(gòu)平安監(jiān)測和根底設(shè)施資產(chǎn)管理，提高公眾信任，降低維修和重建本錢。30AI可用于乘客和貨運(yùn)車輛，從而通過增強(qiáng)情景意識(shí)來提高平安性，并為司機(jī)和其他旅客提供實(shí)時(shí)路線信息。31AI應(yīng)用還可以改善網(wǎng)絡(luò)級(jí)移動(dòng)性并減少整個(gè)系統(tǒng)的能源使用和運(yùn)輸相關(guān)的排放。32〔5〕農(nóng)業(yè)：AI系統(tǒng)可以創(chuàng)立通往可持續(xù)農(nóng)業(yè)的途徑，使農(nóng)業(yè)產(chǎn)品的生產(chǎn)、加工、儲(chǔ)存、分配和消費(fèi)更靈活。I和機(jī)器人能收集有關(guān)作物的特定場所和時(shí)間數(shù)據(jù)，僅在它們需要的時(shí)間和地點(diǎn)才應(yīng)用所需的投入〔例如水、化學(xué)品和化肥〕，并填補(bǔ)農(nóng)業(yè)勞動(dòng)力的緊迫缺口。33〔6〕營銷：AI方法能使商業(yè)實(shí)體更好地配合供給與需求，增加用來資助進(jìn)行中資助私營部門開展的稅收。34其能預(yù)測和識(shí)別消費(fèi)者需求35，使他們以更低的本錢獲得更好的產(chǎn)品和效勞?！?〕通信：AI技術(shù)可以最大限度地有效利用帶寬和信息存儲(chǔ)和檢索的自動(dòng)化。36I可以改進(jìn)數(shù)字通信過濾、搜索、語言翻譯和摘要，積極影響商業(yè)和我們的生活方式。37〔8〕科學(xué)和技術(shù)：AI系統(tǒng)可以協(xié)助科學(xué)家和工程師閱讀出版物和專利，使理論與之前的觀察值更一致，使用機(jī)器人系統(tǒng)和模擬、進(jìn)行實(shí)驗(yàn)，并設(shè)計(jì)新的設(shè)備和軟件。382、改善教育時(shí)機(jī)和生活質(zhì)量通過用于制定專有學(xué)習(xí)方案的虛擬導(dǎo)師來實(shí)現(xiàn)終身學(xué)習(xí)，以此根據(jù)每個(gè)人的興趣、能力和教育需求進(jìn)行自我挑戰(zhàn)和參與其中。通過為每個(gè)人定做和調(diào)整的個(gè)性化健康信息，讓人們能過上更健康和更積極的生活。智能家居和個(gè)人虛擬助手可以節(jié)省人們的時(shí)間，并減少每日重復(fù)任務(wù)所損失的時(shí)間。AI將如何改善教育時(shí)機(jī)和社會(huì)福利？〔1〕教育：AI-增強(qiáng)的學(xué)習(xí)型學(xué)校隨處可見，通過其自動(dòng)化輔導(dǎo)能衡量學(xué)生的開展16。AI輔導(dǎo)員可補(bǔ)充面授教師，還可以因材施教。16AI工具可以促進(jìn)終身學(xué)習(xí)并讓所有社會(huì)成員獲取新技能。16〔2〕醫(yī)學(xué)：AI能支持從大規(guī)?；蚪M研究〔如全基因組關(guān)聯(lián)研究，排序研究〕中識(shí)別出遺傳風(fēng)險(xiǎn)的生物信息學(xué)系統(tǒng)，并預(yù)測新藥物的平安性和有效性。39AI技術(shù)允許進(jìn)行多維度數(shù)據(jù)評估，以研究公共衛(wèi)生問題，并為醫(yī)療診斷和處方治療提供決策支持系統(tǒng)40AI技術(shù)為個(gè)人提供藥物定制；由此可提高醫(yī)療效果、患者舒適度和減少浪費(fèi)。41〔3〕法律：通過機(jī)器對法律個(gè)案史進(jìn)行分析會(huì)變?yōu)槠毡椤?這些變得越來越復(fù)雜的過程使輔助取證過程的分析水平得以提高。42法律取證工具能識(shí)別和總結(jié)相關(guān)證據(jù)；這些系統(tǒng)甚至能以越來越復(fù)雜的方式制定法律條例。42〔4〕個(gè)人效勞：AI軟件可以利用多來源的知識(shí)，為多種用途提供更準(zhǔn)確的信息。43自然語言系統(tǒng)可以為真實(shí)世界、嘈雜環(huán)境中的技術(shù)系統(tǒng)提供直觀界面。44個(gè)性化工具能為個(gè)人和群體調(diào)度提供自動(dòng)輔助設(shè)備。45文本能從多個(gè)搜索結(jié)果進(jìn)行自動(dòng)匯總，并在多種媒體中得以增強(qiáng)。46AI可以實(shí)現(xiàn)實(shí)時(shí)口語多語言翻譯。473、增強(qiáng)國家和國土平安機(jī)器學(xué)習(xí)代理可以處理大量智能數(shù)據(jù)，并使用快速變化的戰(zhàn)術(shù)來識(shí)別敵人的相關(guān)生存規(guī)律模式。48這些代理還能向易受攻擊的關(guān)鍵根底設(shè)施和主要經(jīng)濟(jì)部門提供保護(hù)。49數(shù)字防御系統(tǒng)可以大大降低戰(zhàn)場風(fēng)險(xiǎn)和傷亡。50如何增強(qiáng)國家和國土平安？〔1〕平安和執(zhí)法：執(zhí)法和平安官員可以通過使用模式檢測來檢測個(gè)人行為者的異常行為或預(yù)測危險(xiǎn)人群的行為，從而幫助建立一個(gè)更平安的社會(huì)。48智能感知系統(tǒng)可以保護(hù)關(guān)鍵根底設(shè)施，如機(jī)場和發(fā)電廠。49〔2〕平安和預(yù)測：正常條件的分布式傳感器系統(tǒng)和模式理解技術(shù)可以檢測主要根底設(shè)施中斷的概率何時(shí)會(huì)顯著上升，無論是由自然原因還是人為原因引起。51這種預(yù)測能力能有助于指示出問題將在哪里發(fā)生，以防止或甚至在發(fā)生之前阻止中斷。51然而，這種積極使用AI的愿景，需要大量研發(fā)進(jìn)展。許多關(guān)鍵和困難的技術(shù)挑戰(zhàn)仍存在于所有I子領(lǐng)域中，包括根底科學(xué)和應(yīng)用領(lǐng)域。AI技術(shù)還存在風(fēng)險(xiǎn)，例如隨著人類因自動(dòng)化系統(tǒng)而增長或被替代，勞動(dòng)力市場可能會(huì)中斷，以及AI系統(tǒng)平安性和可靠性的不確定性。本AI研發(fā)戰(zhàn)略方案的后續(xù)章節(jié)討論了AI研破壞和風(fēng)險(xiǎn)?！菜摹橙斯ぶ悄艿默F(xiàn)狀自其開始后，AI研究已經(jīng)歷了三次技術(shù)浪潮。第一次浪潮集中于手工知識(shí)，20世紀(jì)80年代著重于明定義域的基于規(guī)那么的專家系統(tǒng)，其中知識(shí)是從人類專家中采集，以“if-then〞的規(guī)那么進(jìn)行運(yùn)算，然后在硬件中執(zhí)行。此類系統(tǒng)推理可成功應(yīng)用于狹義問題，但其并沒有學(xué)習(xí)或處理不確定性的能力。然而，他們?nèi)匀荒墚a(chǎn)生重要解決方案，并且今天的技術(shù)開展仍然非?；顫?。AI研究的第二次浪潮起始于21世紀(jì)直到現(xiàn)在，其表現(xiàn)特點(diǎn)是機(jī)器學(xué)習(xí)的崛起。當(dāng)應(yīng)用于諸如圖像和書寫識(shí)別、語音理解和人類語言翻譯的任務(wù)時(shí)，極為大量的數(shù)字?jǐn)?shù)據(jù)可用性、相對廉價(jià)的大規(guī)模并行計(jì)算能力和經(jīng)改進(jìn)的學(xué)習(xí)技術(shù)讓AI變得更為進(jìn)步。這些進(jìn)步的成果無處不在：智能執(zhí)行語音識(shí)別、ATM在書面支票執(zhí)行手寫識(shí)別、電子郵件應(yīng)用程序執(zhí)行垃圾郵件過濾、以及免費(fèi)在線效勞執(zhí)行機(jī)器翻譯。其中一些成就的關(guān)鍵是深度學(xué)習(xí)的開展。如今，AI系統(tǒng)在專業(yè)任務(wù)上的表現(xiàn)經(jīng)常勝于人類。AI首次超越人類表現(xiàn)的主要里程碑包括：國際象棋〔1997年〕、52trivia〔2021年〕、53Atari游戲〔2021年〕、54圖像識(shí)別〔2021年〕、55語音識(shí)別〔2021年〕、56和Go〔譯者注：即AlphaGo圍棋。2021年〕。57這類里程碑的步伐似乎越來越快，按現(xiàn)狀，最正確表現(xiàn)系統(tǒng)是基于機(jī)器學(xué)習(xí)，而非手編碼規(guī)那么集合。AI的這些成就已得到了強(qiáng)大的根本研究根底的支持。這項(xiàng)研究正在擴(kuò)大，可能會(huì)刺激未來的開展。作為一項(xiàng)指標(biāo)，2021年到2021年，以科學(xué)為索引提到“深度學(xué)習(xí)〞的期刊文章的網(wǎng)站數(shù)量增加了六倍〔圖1〕。這一趨勢也說明研究日益全球化，美國的出版物，或至少被引用過一次的出版物的數(shù)量不再領(lǐng)先世界〔圖2〕。美國政府在人工智能研究中發(fā)揮了關(guān)鍵作用，盡管商業(yè)部門也積極參與人工智能相關(guān)研發(fā)。58使用“深度學(xué)習(xí)〞或“深度神經(jīng)網(wǎng)絡(luò)〞這一術(shù)語的專利數(shù)量急劇增加〔圖3〕。從2021年到2021年，投入人工智能創(chuàng)業(yè)公司的風(fēng)險(xiǎn)資本增加了四倍。59人工智能的應(yīng)用現(xiàn)正為大型企業(yè)創(chuàng)造可觀收益。60人工智能對金融系統(tǒng)的影響甚至更大——全球金融交易近乎一半，即數(shù)萬億美元的交易，屬于自動(dòng)化〔“算法〞〕交易。61深度學(xué)習(xí)期刊數(shù)期刊數(shù)出版年份圖1：各國提到“深度學(xué)習(xí)〞或“深度神經(jīng)網(wǎng)絡(luò)〞的期刊文章62至少被引用一次的期刊數(shù)深度學(xué)習(xí)〔引用出版物〕至少被引用一次的期刊數(shù)

中國美國英國澳大利亞加拿大日本德國新加坡韓國法國中國美國英國澳大利亞加拿大日本德國新加坡韓國法國出版年份圖2：各國至少被引用過一次的提到“深度學(xué)習(xí)〞或“深度神經(jīng)網(wǎng)絡(luò)〞的期刊文章63深度學(xué)習(xí)專利患者人數(shù)患者人數(shù)專利公布年份圖3：使用術(shù)語“深度學(xué)習(xí)〞或“深度神經(jīng)網(wǎng)絡(luò)〞的專利數(shù)量分析64盡管取得了進(jìn)步，人工智能系統(tǒng)仍然有其局限性。幾乎所有進(jìn)步都是在能夠有效完成專業(yè)任務(wù)的“狹義人工智能〞方面取得；而在各種認(rèn)知領(lǐng)域能夠發(fā)揮有效作用的“廣義人工智能〞方面取得的進(jìn)步很小。即使是在狹義人工智能方面，進(jìn)步也不均衡。用于圖像識(shí)別的人工智能系統(tǒng)需大量人力來標(biāo)記數(shù)以千計(jì)的例如答案。65相反，大多數(shù)人只需通過幾個(gè)例如便可“一次性〞掌握學(xué)習(xí)方法。雖然大多數(shù)機(jī)器視覺系統(tǒng)容易被具有重疊事物的復(fù)雜場景混雜，但是兒童可輕松進(jìn)行“場景解析〞。人容易理解的場景對于機(jī)器來說仍然很困難。人工智能領(lǐng)域現(xiàn)處于第三次浪潮的開始階段，注重解釋性和通用人工智能技術(shù)。這些方法的目標(biāo)是通過說明和界面修正加強(qiáng)學(xué)習(xí)模型，明確輸出的根底和可靠性，以高透明度運(yùn)作，超越狹義人工智能，獲得可在更廣泛任務(wù)領(lǐng)域中通用的功能。如果成功的話，工程師可創(chuàng)立系統(tǒng)，構(gòu)建現(xiàn)實(shí)世界現(xiàn)象類的解釋性模型，與人進(jìn)行自然交流，在遇到新任務(wù)和情況時(shí)學(xué)習(xí)和思考，并通過總結(jié)過去的經(jīng)驗(yàn)解決新問題。人工智能系統(tǒng)的解釋性模型可通過先進(jìn)方法自動(dòng)構(gòu)建。這些模型可實(shí)現(xiàn)人工智能系統(tǒng)的快速學(xué)習(xí)，可以向人工智能系統(tǒng)提供“含義〞或“理解〞，使人工智能系統(tǒng)獲得更多通用功能。二、研發(fā)戰(zhàn)略?戰(zhàn)略?中所述研究重點(diǎn)側(cè)重于行業(yè)不能解決的領(lǐng)域，因此這些領(lǐng)域最有可能從聯(lián)邦投資中受益。這些重點(diǎn)研究涉及人工智能領(lǐng)域所有需求，包括感知、自動(dòng)推理/規(guī)劃、認(rèn)知系統(tǒng)、機(jī)器學(xué)習(xí)自然語言處理、機(jī)器人等人工智能子領(lǐng)域和相關(guān)領(lǐng)域中的常見需求。由于人工智能的廣度，這些研究重點(diǎn)跨越整個(gè)領(lǐng)域，而不僅針對各子領(lǐng)域具體的單個(gè)研究難題。為了實(shí)施該規(guī)劃，應(yīng)制定詳細(xì)的路線圖，明確與規(guī)劃一致的功能缺口。戰(zhàn)略一中所述最重要的聯(lián)邦研究重點(diǎn)之一是對人工智能的持續(xù)長期研究，獲得發(fā)現(xiàn)和深刻見解。美國聯(lián)邦政府許多對高風(fēng)險(xiǎn)、高回報(bào)根底研究的投資已帶來了今天賴于生存的革命性的技術(shù)進(jìn)步，括互聯(lián)網(wǎng)、GPS、智能語音識(shí)別、心臟監(jiān)視器、太陽能電池板、先進(jìn)電池、癌癥治療等。人工智能的前景幾乎可涉及社會(huì)的每一方面，帶來顯著積極的社會(huì)效益和經(jīng)濟(jì)效益。因此，為了在這一領(lǐng)域保持世界領(lǐng)先地位，美國必須重視對人工智能根底和長期研究的投資。許多人工智能技術(shù)將與人一起工作，16因此如何最好地建立主動(dòng)幫助人工作的人工智能系統(tǒng)成為重要挑戰(zhàn)16。人和人工智能系統(tǒng)之間的壁壘慢慢被打破，人工智能系統(tǒng)不斷增強(qiáng)人的能力。如戰(zhàn)略二所述，需開展根底研究，以研究有效的人機(jī)交互和協(xié)作方法。人工智能的進(jìn)步為社會(huì)帶來了許多積極的益處，并提高了美國的國家競爭力。8然而，與大多數(shù)變革性技術(shù)一樣，人智能也為某些領(lǐng)域帶來了風(fēng)險(xiǎn)，包括就業(yè)、經(jīng)濟(jì)、平安、倫理和法律問題。因此，隨著人工智能科技的開展，聯(lián)邦政府也必須投資研究更好地理解人工智能對所有這些領(lǐng)域的影響，并通過研發(fā)如戰(zhàn)略三所述的符合倫理、法律和社會(huì)目標(biāo)的人工智能系統(tǒng)以解決這些影響。當(dāng)前人工智能技術(shù)的一個(gè)關(guān)鍵缺口是缺乏確保人工智能系統(tǒng)平安性和可預(yù)測性的方法。確保人工智能系統(tǒng)的平安性是一項(xiàng)挑戰(zhàn)，因?yàn)檫@些系統(tǒng)異常復(fù)雜并不斷演變。面對這一平安挑戰(zhàn)進(jìn)行了幾項(xiàng)重點(diǎn)研究。首先，戰(zhàn)略四強(qiáng)調(diào)需建立可解釋和透明的系統(tǒng)，這些系統(tǒng)受到用戶信任，按用戶可接受的方式運(yùn)行，并確?？砂从脩粝胍姆绞竭\(yùn)行。人工智能系統(tǒng)的潛在功能和復(fù)雜性以及與人類用戶和環(huán)境的廣泛相互作用，使增加對人工智能技術(shù)平安性和控制性研究的投資至關(guān)重要。戰(zhàn)略五要求聯(lián)邦政府對用于人工智能培訓(xùn)和測試的共享公共數(shù)據(jù)集進(jìn)行投資，以推進(jìn)人工智能的研究并對替代解決方案進(jìn)行更有效的比擬。戰(zhàn)略六討論了評估研發(fā)的標(biāo)準(zhǔn)和基準(zhǔn)，以確定進(jìn)展，縮小差距，為具體問題和挑戰(zhàn)提供創(chuàng)新解決方案。標(biāo)準(zhǔn)和基準(zhǔn)對于測量和評估人工智能系統(tǒng)以及確保人工智能技術(shù)符合設(shè)計(jì)功能和互用性的關(guān)鍵目標(biāo)至關(guān)重要。最后，人工智能技術(shù)在社會(huì)各領(lǐng)域的日益普及為人工智能研發(fā)專家?guī)砹诵碌膲毫Α?6人工智能領(lǐng)域的核心科學(xué)家和工程師將擁有大量時(shí)機(jī)，他們熟練掌握技術(shù)，具有新想法，能夠拓展該領(lǐng)域的知識(shí)邊界。國家應(yīng)采取措施，確保熟練掌握人工智能技術(shù)的人才充足。戰(zhàn)略七闡述了這一挑戰(zhàn)。應(yīng)用程序農(nóng)業(yè)通信教育財(cái)務(wù)方面政府效勞法律物流制造業(yè)市場營銷方面醫(yī)藥人事效勞科學(xué)和工程安保運(yùn)輸以下列圖4提供了本?戰(zhàn)略?總結(jié)構(gòu)的圖形說明。底部一行〔紅色行〕是影響所有人工智能系統(tǒng)開發(fā)的跨領(lǐng)域根本根底；這些根底在戰(zhàn)略三7中進(jìn)行了說明。中間第二行〔淺藍(lán)色和中藍(lán)色行〕包括推動(dòng)人工智能進(jìn)步所需許多領(lǐng)域的研究。這些根底研究領(lǐng)域〔包括應(yīng)用型根底研究〕在戰(zhàn)略一-2中進(jìn)行了概述。67圖形的頂部一行〔深藍(lán)色行〕是預(yù)期受益于AI進(jìn)步的應(yīng)用例如，如本文件前文愿景局部所述。總之，本?戰(zhàn)略?的這些組成局部為聯(lián)邦投資定義了一應(yīng)用程序農(nóng)業(yè)通信教育財(cái)務(wù)方面政府效勞法律物流制造業(yè)市場營銷方面醫(yī)藥人事效勞科學(xué)和工程安保運(yùn)輸根底研發(fā)數(shù)據(jù)分析感知理論假設(shè)限制通用人工智能可擴(kuò)展人工智能類人人工智能機(jī)器人硬件人本意識(shí)人工智能人類機(jī)能增進(jìn)自然語言處理界面和可視化[1根底研發(fā)數(shù)據(jù)分析感知理論假設(shè)限制通用人工智能可擴(kuò)展人工智能類人人工智能機(jī)器人硬件人本意識(shí)人工智能人類機(jī)能增進(jìn)自然語言處理界面和可視化跨領(lǐng)域研發(fā)根底跨領(lǐng)域研發(fā)根底倫理、法律和社會(huì)影響

[4]平安與安保

[5]標(biāo)準(zhǔn)和基準(zhǔn)

[6]數(shù)據(jù)集和環(huán)境

[7]人工智能精干團(tuán)隊(duì)圖4.人工智能研發(fā)戰(zhàn)略規(guī)劃的結(jié)構(gòu)跨領(lǐng)域研發(fā)根底〔底部紅色行〕對于所有人工智能的研究都很重要。人工智能研發(fā)的許多根底領(lǐng)域〔淺藍(lán)色和中藍(lán)色行〕可建立在這些跨領(lǐng)域根底上，以影響各種社會(huì)應(yīng)用〔頂部深藍(lán)色行〕。〔括號(hào)中的小數(shù)字表示在本規(guī)劃中的戰(zhàn)略編號(hào)，戰(zhàn)略有待進(jìn)一步拓展。戰(zhàn)略順序并不表示重要性的優(yōu)先次序?！场惨弧硲?zhàn)略一：對人工智能研究進(jìn)行長期投資需對具有潛在長期回報(bào)領(lǐng)域的人工智能研究進(jìn)行投資。長期研究包含可預(yù)測結(jié)果的漸進(jìn)式研究，對高風(fēng)險(xiǎn)研究的長期持續(xù)投資可帶來高回報(bào)。這些回報(bào)可在5年、10年或更長時(shí)間內(nèi)兌現(xiàn)。國家科學(xué)研究委員會(huì)最新報(bào)告強(qiáng)調(diào)了聯(lián)邦投資在長期研究中的關(guān)鍵作用，指出“初步探索和商業(yè)化應(yīng)用之間長期不可預(yù)測的孕育期需穩(wěn)定的人力和財(cái)力〞。68報(bào)告進(jìn)一步指出“從初步概念到成功上市通常需要幾十年〞。68持續(xù)的根底研究工作帶來高回報(bào)的有力證據(jù)包括萬維網(wǎng)和深度學(xué)習(xí)。這兩種案例的根底研究均始于20世紀(jì)60年代；歷經(jīng)30多年的持續(xù)研究，那些想法才轉(zhuǎn)換成今天在各種人工智能中所見到的變革性技術(shù)。例1：國立衛(wèi)生研究院〔NIH〕資助研究計(jì)算機(jī)病理學(xué)人工智能影像診斷在癌癥的病理診斷中具有關(guān)鍵作用。自9世紀(jì)期以來，病理學(xué)家用于確定癌癥診斷的主要工具是顯微鏡。病理學(xué)家通過手動(dòng)檢查癌癥組織的染色切片來診斷癌癥，確定癌癥子類型。使用常規(guī)方法的病理診斷需要大量人力，不易重復(fù)，導(dǎo)致質(zhì)量問題。新方法利用人工智能根底研究建立工具，使病理分析更有效、更準(zhǔn)確、更具可預(yù)測性。在2021轉(zhuǎn)移性癌癥檢測Camelon挑戰(zhàn)大賽中，69表現(xiàn)最正確的是基于人工智能的計(jì)算系統(tǒng)，出錯(cuò)率僅為7.5％。0辨識(shí)同組評估圖像的一位病理頂尖I系統(tǒng)病理學(xué)家頂尖I病理學(xué)家人工智能在通過前哨淋巴結(jié)活檢確定轉(zhuǎn)移性乳腺癌方面能夠有效降低病理學(xué)家的出錯(cuò)率。

學(xué)家出錯(cuò)率僅為3.5％結(jié)合人工智能系統(tǒng)的預(yù)測與病理學(xué)家的分析可將出錯(cuò)率降低至5％，表示可減少5％的錯(cuò)誤〔見圖像〕。71下文強(qiáng)調(diào)了上述某些領(lǐng)域。其他類型人工智能的重要研究在戰(zhàn)略二至六中進(jìn)行了討論。1、提升基于數(shù)據(jù)發(fā)現(xiàn)知識(shí)的能力正如?聯(lián)邦大數(shù)據(jù)研究和開展戰(zhàn)略規(guī)劃?中所述，9實(shí)現(xiàn)智能數(shù)據(jù)理解和知識(shí)發(fā)現(xiàn)需許多新的根底工具和技術(shù)。開發(fā)挖掘大數(shù)據(jù)中所有有用信息的更先進(jìn)的機(jī)器學(xué)習(xí)算法中需取得進(jìn)一步進(jìn)展。許多開放性研究問題圍繞數(shù)據(jù)的創(chuàng)立和使用，包括對人工智能系統(tǒng)培訓(xùn)的準(zhǔn)確性和適當(dāng)性。當(dāng)處理大量數(shù)據(jù)時(shí)，數(shù)據(jù)的準(zhǔn)確性尤其具有挑戰(zhàn)性，使人難以對其進(jìn)行評估并從中提取信息。雖然許多研究通過數(shù)據(jù)質(zhì)量保證方法確保數(shù)據(jù)清理和知識(shí)發(fā)現(xiàn)的準(zhǔn)確性，但需進(jìn)一步研究以提高數(shù)據(jù)清理技術(shù)的效率，建立發(fā)現(xiàn)數(shù)據(jù)不一致和異常的方法并使其可與人的反響相結(jié)合。研究人員需探索新方法，以便同時(shí)挖掘數(shù)據(jù)和相關(guān)元數(shù)據(jù)。許多人工智能的應(yīng)用具有跨學(xué)科性質(zhì)并利用異構(gòu)數(shù)據(jù)。需對多模態(tài)機(jī)器學(xué)習(xí)進(jìn)行進(jìn)一步研究，以實(shí)現(xiàn)從不同類型數(shù)據(jù)〔如離散數(shù)據(jù)、連續(xù)數(shù)據(jù)、文本數(shù)據(jù)、空間數(shù)據(jù)、時(shí)間數(shù)據(jù)、時(shí)空數(shù)據(jù)、圖形數(shù)據(jù)〕中獲得知識(shí)發(fā)現(xiàn)。人工智能研究人員必須確定培訓(xùn)所需的數(shù)據(jù)量，并正確處理大型數(shù)據(jù)和長尾數(shù)據(jù)需求。他們也必須確定如何識(shí)別和處理純統(tǒng)計(jì)學(xué)方法之外的小概率事件；在工作中利用知識(shí)源〔即解釋世界的任何類型的信息，如重力定律或社會(huì)標(biāo)準(zhǔn)的知識(shí)〕和數(shù)據(jù)源，在學(xué)習(xí)過程中結(jié)合模型和本體；并且當(dāng)大數(shù)據(jù)源不可用時(shí)，可利用有限數(shù)據(jù)獲得有效的學(xué)習(xí)效果。2、增強(qiáng)人工智能系統(tǒng)的感知能力感知是智能系統(tǒng)面對世界的窗口。感知來自〔可能為分布式〕傳感器數(shù)據(jù)，具有多種形態(tài)和形式，如系統(tǒng)本身的狀態(tài)或環(huán)境的相關(guān)信息。傳感器數(shù)據(jù)常與先驗(yàn)知識(shí)和模型一起進(jìn)行處理和整合，以提取與人工智能系統(tǒng)任務(wù)相關(guān)的信息，如幾何特征、屬性、位置和速度。來自感知的綜合數(shù)據(jù)形成環(huán)境感知，為人工智能系統(tǒng)提供綜合知識(shí)和世界狀態(tài)模型，有助于有效、平安地規(guī)劃和執(zhí)行任務(wù)。人工智能系統(tǒng)將極大地受益于硬件和算法方面的進(jìn)步，獲得更穩(wěn)定和可靠的感知。傳感器必須能夠長距離捕獲具有高分辨率的實(shí)時(shí)數(shù)據(jù)。感知系統(tǒng)需能夠綜合來自各種傳感器和其他來源〔包括計(jì)算云〕的數(shù)據(jù)，以確定人工智能系統(tǒng)當(dāng)前的感知對象并對其未來狀態(tài)進(jìn)行預(yù)測。對物體的檢測、分類、識(shí)別和確認(rèn)仍具有挑戰(zhàn)性，特別是在雜亂和動(dòng)態(tài)條件下。此外，通過使用傳感器和得I工作。16在整個(gè)感知過程中，需要一套用于計(jì)算和傳播不確定性的框架來量化AI系統(tǒng)在其情境意識(shí)中的置信水平并提高準(zhǔn)確性。3、了解人工智能的理論能力和局限性雖然許多AI算法的最終目標(biāo)是使用仿人類的方案來解決開放式挑戰(zhàn)，但我們不能很好地理解AI的理論能力和限制，以及這種仿人類的解決方案與AI算法一起使用的可行性能到達(dá)何種程度。需要理論工作來更好地理解為什么AI技術(shù)〔特別是機(jī)器學(xué)習(xí)〕通常在實(shí)踐中起到良好作用。雖然不同的學(xué)科〔包括數(shù)學(xué)，控制科學(xué)和計(jì)算機(jī)科學(xué)〕都在研究這個(gè)問題，但該領(lǐng)域目前缺乏統(tǒng)一的理論模型或框架來理解AI系統(tǒng)性能。需要對計(jì)算可求解性進(jìn)行額外的研究，這是指針對AI算法在理論上能夠解決的問題類別的理解性，同樣地，還針對了它們無法解決的問題。這種理解必須在現(xiàn)有硬件的背景下形成，以便了解硬件是如何影響這些算法的性能。理解哪些問題在理論上是不可解決的，這樣可以引導(dǎo)研究人員開發(fā)出這些于I人工神經(jīng)網(wǎng)絡(luò)〔ANNs〕于20世紀(jì)60年代被創(chuàng)造出來時(shí)，其只能被用于解決非用s題才變得可行，而且算法也被調(diào)整以利用新型硬件。這些開展是使得現(xiàn)今在深度學(xué)習(xí)方面取得重大進(jìn)步的關(guān)鍵因素。4、研究通用人工智能AI方法可以分為“狹義AI〞和“通用AI〞。狹義的AI系統(tǒng)在特定的、定義明確的領(lǐng)域中執(zhí)行單個(gè)任務(wù)，例如語音識(shí)別，圖像識(shí)別和翻譯。最近幾項(xiàng)高度可見的狹義AI系統(tǒng)，包括IBMWatson和DeepMind的AlphaGo，已經(jīng)取得了重大成就。72,73確實(shí)，這些特定的系統(tǒng)被賦“超越人類〞的標(biāo)簽，因?yàn)樗麄兏髯栽贘eopardy和Go中的表現(xiàn)均勝過了最好的人類玩家。但這些系統(tǒng)只是舉例說明了狹義AI，因?yàn)樗鼈冎荒軕?yīng)用于為們專門設(shè)計(jì)的任務(wù)。將這些系統(tǒng)用在用I創(chuàng)造出能夠在廣泛的認(rèn)知領(lǐng)域〔包括學(xué)習(xí)，語言，知覺，推理，創(chuàng)造力和規(guī)劃〕中表現(xiàn)出人類智力之靈活性和多功能性系統(tǒng)。廣泛學(xué)習(xí)能力將為通用AI系統(tǒng)提供將知識(shí)從一個(gè)領(lǐng)域轉(zhuǎn)移到另一個(gè)領(lǐng)域以及從經(jīng)驗(yàn)和人類交互中學(xué)習(xí)的能力。通用AI自AI出現(xiàn)以來一直是研究者的遠(yuǎn)大目標(biāo)，但目前的系統(tǒng)離實(shí)現(xiàn)這一目標(biāo)仍然很遠(yuǎn)。目前正在探索狹義AI和通用AI之間的關(guān)系；從其中一個(gè)獲得的經(jīng)驗(yàn)教訓(xùn)也可能應(yīng)用到改進(jìn)另外一個(gè)上，反之亦然。雖然沒有一致的共識(shí)，大多數(shù)AI研究人員認(rèn)為，通用AI距離現(xiàn)在仍有幾十年的差距，需要長期、持續(xù)的研究投入來實(shí)現(xiàn)它。5、開發(fā)可擴(kuò)展的人工智能系統(tǒng)AI系統(tǒng)的不同分組和網(wǎng)絡(luò)可以協(xié)調(diào)或自主協(xié)作以執(zhí)行單個(gè)AI系統(tǒng)不可能多I用在該類系統(tǒng)的規(guī)劃、協(xié)調(diào)、控制和可擴(kuò)展性方面產(chǎn)生了重大的研究挑戰(zhàn)。多AI系統(tǒng)的規(guī)劃技術(shù)必須足夠快，能夠?qū)崟r(shí)操作和適應(yīng)環(huán)境的變化。它們應(yīng)以流動(dòng)的方式去適應(yīng)可用通信帶寬或系統(tǒng)退化的變化以及故障。許多先前的努力都是聚焦于集中規(guī)劃和協(xié)調(diào)技術(shù)；然而，這些方法受制于單點(diǎn)故障，諸如規(guī)劃器的信息喪失或者通向規(guī)劃器的通信鏈接的信息喪失。分布式規(guī)劃和控制技術(shù)難以通過算法實(shí)現(xiàn)，并且通常效率較低和不完整，但能潛在地為單點(diǎn)故障提供更強(qiáng)的穩(wěn)健性。未來的研究必須發(fā)現(xiàn)更有效、健和可擴(kuò)展的技術(shù)，用于多個(gè)AI系統(tǒng)和人類群組的規(guī)劃、控制和協(xié)作。6、促進(jìn)類人的人工智能研究要I這將引出新一代的智能系統(tǒng)，如智能教學(xué)系統(tǒng)、在執(zhí)行任務(wù)時(shí)有效地協(xié)助人們前I存在著巨大差距。人們能通過幾個(gè)例如學(xué)習(xí)，或者通過接收正式指令和“提示〞來執(zhí)行任務(wù)，或者通過觀察其他人執(zhí)行任務(wù)。醫(yī)學(xué)院采取這種方法，例如，醫(yī)學(xué)院的學(xué)生通過觀察有經(jīng)驗(yàn)的醫(yī)生完成復(fù)雜的手術(shù)來學(xué)習(xí)。即使在諸如世界冠軍級(jí)圍棋游戲中，大師級(jí)玩家只需幾千場游戲來訓(xùn)練自己。相比之下，人類需要花費(fèi)數(shù)百年的時(shí)間來完成訓(xùn)練AlphaGo所需的游戲次數(shù)。關(guān)于實(shí)現(xiàn)類人類AI新方法的更多根底研究將使得這些系統(tǒng)更接近這一目標(biāo)。例2：NSF資助的平安游戲理論框架平安性是全世界的一個(gè)關(guān)鍵問題，無論是保護(hù)港口，機(jī)場和其他關(guān)鍵根底設(shè)施的挑戰(zhàn);保護(hù)瀕危野生動(dòng)植物，森林和漁業(yè);壓制城市犯罪;或網(wǎng)絡(luò)空間的平安性。不幸的是，有限的平安資源在任何時(shí)候都需要保障完整的平安性能我們必須優(yōu)化有限平安資源的使用。為此，“平安游戲〞框架-基于計(jì)算機(jī)游戲理論的根底研究，同時(shí)也納入了人類行為建模，不確定性下的AI規(guī)劃以及機(jī)器學(xué)習(xí)的元素-在美國及世界各地為平安機(jī)構(gòu)而建立和部署的決美國海岸警衛(wèi)隊(duì) 全球應(yīng)用洛杉磯警署 洛杉磯國際機(jī)場警察許多類型的應(yīng)用程序可能受益于實(shí)現(xiàn)平安性的游戲理論方式。

策輔助工具。74例如，RMR系統(tǒng)自2021年以一直部署在X機(jī)場，美國聯(lián)邦航空公司效勞部門的S系統(tǒng)自2021以來一直在使用中，還有自2021年以來美國海岸警衛(wèi)隊(duì)一直在用的PROTECT系統(tǒng)。通常，給定有限的平安資源〔例如，船只，空中巡警，警察〕和大量不同值的目標(biāo)〔例如，不同的航班，機(jī)場處的不同終端〕，基于平安游戲的決策輔助會(huì)提供隨機(jī)分配或巡邏方案，并考慮到不同目標(biāo)的權(quán)重以及敵對目標(biāo)對于不同平安姿勢的智能反響。這些應(yīng)用程序在不同平安機(jī)構(gòu)〔使用各種衡量指標(biāo)，例如俘獲率，紅色警示隊(duì)，巡邏方案隨機(jī)性等〕的工作表現(xiàn)中被證明顯著改進(jìn)了平安性能。747、開發(fā)更強(qiáng)大和更可靠的機(jī)器人在過去十年中機(jī)器人技術(shù)的重大進(jìn)步對多種應(yīng)用產(chǎn)生影響力，包括制造，物流，醫(yī)藥，醫(yī)療保健，國防和國家平安，農(nóng)業(yè)和消費(fèi)品。雖然在歷史上，機(jī)器人被設(shè)想用于靜態(tài)工業(yè)環(huán)境，但最近的技術(shù)開展使得機(jī)器人與人類能夠親密合作?，F(xiàn)今，機(jī)器人技術(shù)已如預(yù)期地展示出它們擁有補(bǔ)充、增加、增強(qiáng)或模擬人類身體能力或人類智力的能力。然而，科學(xué)家需要使這些機(jī)器人系統(tǒng)更強(qiáng)大、更可靠和更易使用。研究人員需要更好地了解機(jī)器人的感知，以便從各種傳感器中提取信息，并讓機(jī)器人實(shí)時(shí)感知周圍環(huán)境。機(jī)器人需要有更先進(jìn)的認(rèn)知和推理能力，這樣機(jī)器人更好地理解物理世界并與之進(jìn)行交互。適應(yīng)和學(xué)習(xí)能力的提高將使機(jī)器人能夠自我總結(jié)和自我評估，并從人類導(dǎo)師那里學(xué)習(xí)肢體運(yùn)動(dòng)。移動(dòng)性和操作性是有待進(jìn)一步研究的領(lǐng)域，這樣一來機(jī)器人可以穿越崎嶇的不確定性地形并靈活應(yīng)對各種物體。機(jī)器人需要學(xué)會(huì)以無縫方式進(jìn)行團(tuán)隊(duì)合作，并以可信賴和可預(yù)測的方式與人類合作。8、推動(dòng)人工智能的硬件升級(jí)雖然AI研究最常見的是與軟件開展相關(guān)，但AI系統(tǒng)的性能在很大程度上取決于硬件。眼下深度機(jī)器學(xué)習(xí)的復(fù)興與基于GPU的硬件技術(shù)進(jìn)步及其改進(jìn)的存儲(chǔ)器、75輸入/輸出、時(shí)鐘速度、并行性和對I優(yōu)化的開發(fā)硬件將實(shí)現(xiàn)比GPU更高的性能水平。其中一個(gè)實(shí)例是“神經(jīng)形態(tài)〞處理器，其受到大腦組織的自由啟發(fā)，76并且在一些情況下，針對神經(jīng)網(wǎng)絡(luò)的運(yùn)行而對其進(jìn)行優(yōu)化。型I個(gè)分布式系統(tǒng)中以受控方式翻開和關(guān)閉數(shù)據(jù)通道的方法。還需要繼續(xù)研究以使得機(jī)器學(xué)習(xí)算法能夠高效地從高速數(shù)據(jù)中獲取信息，包括從多個(gè)數(shù)據(jù)通道同時(shí)學(xué)習(xí)的分布式機(jī)器學(xué)習(xí)算法。更先進(jìn)的基于機(jī)器學(xué)習(xí)的反響方法將允許AI系統(tǒng)對來自大規(guī)模仿真、實(shí)驗(yàn)儀器和分布式傳感器系統(tǒng)〔如智能建筑和物聯(lián)網(wǎng)〔IoT〕〕的數(shù)據(jù)進(jìn)行智能采樣或優(yōu)先級(jí)排序。這樣的方法可能需要?jiǎng)討B(tài)I/O決策，其中基于重要性實(shí)時(shí)地作出選擇來存儲(chǔ)數(shù)據(jù)，而不是簡單地以固定頻率存儲(chǔ)數(shù)據(jù)。9、為改進(jìn)的硬件創(chuàng)立人工智能雖然改進(jìn)的硬件可以產(chǎn)生更強(qiáng)大的AI系統(tǒng)，AI系統(tǒng)也可以提高硬件的性能。77這種互惠將引導(dǎo)硬件性能的進(jìn)一步提高，因?yàn)榻鉀Q計(jì)算的物理限制需要新的硬件設(shè)計(jì)方法。78基于AI的方法可能對于改進(jìn)尤其重要。這樣的系統(tǒng)消耗大量能量。AI用于預(yù)測HPC性能和資源使用，并進(jìn)行在線優(yōu)化決策以提高效率;更高級(jí)的AI技術(shù)可以進(jìn)一步提高系統(tǒng)性能。AI還可用于創(chuàng)立可自動(dòng)重新配置的HPC系統(tǒng)，其可以在無人為干預(yù)的情況下處理發(fā)生的系統(tǒng)故障79改進(jìn)的AI算法可以通過減少處理器和存儲(chǔ)器之間的數(shù)據(jù)移動(dòng)來提高多核系統(tǒng)的性能。這是通向百億次級(jí)計(jì)算系統(tǒng)的要障礙，而這種系統(tǒng)比現(xiàn)在的超級(jí)計(jì)算機(jī)運(yùn)行速度要快10倍。80實(shí)際上，HPC系統(tǒng)中的執(zhí)行配置從來不相同，并且同時(shí)執(zhí)行不同的應(yīng)用，其中每個(gè)不同軟件代碼的狀態(tài)隨著時(shí)間獨(dú)立地演進(jìn)。設(shè)計(jì)AI算法需要使其能夠?yàn)镠PC系統(tǒng)在線運(yùn)行和大規(guī)模運(yùn)行。〔注：進(jìn)入百萬兆級(jí)運(yùn)算是指計(jì)算系統(tǒng)可實(shí)現(xiàn)至少每秒10億次運(yùn)算?！场捕硲?zhàn)略二：開發(fā)有效的人類與人工智能協(xié)作方法的I比擬重要的，但是許多其它應(yīng)用領(lǐng)域〔例如，災(zāi)難恢復(fù)和醫(yī)學(xué)診斷〕是通過人和I用了人類和AI系統(tǒng)的互補(bǔ)性質(zhì)。雖然針對人類-AI協(xié)作的有效方法已經(jīng)存在，但大多數(shù)是“單點(diǎn)解決方案〞，只能奏效于特定環(huán)境中，并使用特定平臺(tái)來實(shí)現(xiàn)特定目標(biāo)。針對每個(gè)可能的應(yīng)用程序?qū)嵗齺砩牲c(diǎn)解決方案是不能量化的；因此，需要更多的工作來越過這些點(diǎn)解決方案，并傾向于人類-AI協(xié)作中更具一般性的方法。需要在設(shè)計(jì)“通用系統(tǒng)〞和建立大量的“專用系統(tǒng)〞之間進(jìn)行權(quán)衡。前者能夠在所有類型的問題中起到作用，構(gòu)建所需人力較少且能更加便利地在不同應(yīng)用之間進(jìn)行切換；而后者可以針對每個(gè)問題更有效率地發(fā)揮作用。未來應(yīng)用程序?qū)⒃谌祟惡虯I系統(tǒng)之間的功能作用劃分，人與AI系統(tǒng)之間的相互作用性質(zhì)，人類和其他AI系統(tǒng)協(xié)同工作的數(shù)量以及人類和AI系統(tǒng)交流和I通常屬于以下類別之一：〔1〕AI執(zhí)行輔助人類的功能：AI系統(tǒng)執(zhí)行支持人類決策者的外圍任務(wù)。例如，AI可以幫助人類檢索工作記憶，短期或長期記憶，以及預(yù)測任務(wù)?！?〕AI執(zhí)行分擔(dān)人類高認(rèn)知負(fù)荷的功能：當(dāng)人類需要幫助時(shí)，AI系統(tǒng)執(zhí)行復(fù)雜的監(jiān)視功能〔例如飛機(jī)中的地面接近警告系統(tǒng)〕，決策和自動(dòng)醫(yī)療診斷?！?〕AI執(zhí)行代替人類的功能：AI系統(tǒng)執(zhí)行人類對其能力非常有限的任務(wù)，例如用于復(fù)雜的數(shù)學(xué)運(yùn)算，用于爭議性操作環(huán)境中的動(dòng)態(tài)系統(tǒng)控制引導(dǎo)，用于有害或有毒環(huán)境中的自動(dòng)化系統(tǒng)的控制方面，以及用于系統(tǒng)應(yīng)非?？焖俚仨憫?yīng)的情況下〔例如，在核反響堆控制室中〕。與I導(dǎo)致過度的復(fù)雜性，置信缺乏或置信過度?？梢酝ㄟ^培訓(xùn)和體驗(yàn)來增加人類對人工智能系統(tǒng)的熟悉程度，以確保人類能很好的了解人工智能系統(tǒng)的功能以及人工智能系統(tǒng)能夠和不能夠做什么。為了解決這些問題，在設(shè)計(jì)和開發(fā)這些系統(tǒng)時(shí)應(yīng)使用某些以人為中心的自動(dòng)化原那么：81〔1〕對人工智能系統(tǒng)的界面、控制和顯示，采用直觀、人性化的設(shè)計(jì)?！?〕保持操作人員對信息的及時(shí)了解。顯示關(guān)鍵信息，人工智能系統(tǒng)的狀態(tài)以及對這些狀態(tài)的更改?！?〕對操作人員進(jìn)行培訓(xùn)。參與一般性知識(shí)、技能和能力〔KA〕的定期復(fù)訓(xùn)，以及進(jìn)行人工智能系統(tǒng)采用的算法和邏輯和系統(tǒng)的預(yù)期故障模式的培訓(xùn)?！?〕確保自動(dòng)化設(shè)備靈活。對于希望是否決定使用人工智能系統(tǒng)的操作人員而言，部署人工智能系統(tǒng)應(yīng)被視為方案選項(xiàng)。同樣重要的是，在過度工作負(fù)荷或疲勞期間，用于支持人類操作人員的自適應(yīng)人工智能系統(tǒng)的設(shè)計(jì)和運(yùn)用也是非常重要的。82,83當(dāng)創(chuàng)立能與人類進(jìn)行有效合作的系統(tǒng)時(shí)，研究人員會(huì)遇到許多根本挑戰(zhàn)。以下小節(jié)中列出了其中一些重要的挑戰(zhàn)。1、尋找人類感知人工智能的新算法多年以來，人工智能算法已經(jīng)能夠解決日益復(fù)雜的問題。然而，這些算法的功能和人類對這些系統(tǒng)的可用性之間存在一定的差距。人類感知智能系統(tǒng)需要能夠直觀地與用戶進(jìn)行互動(dòng)，并且能夠?qū)崿F(xiàn)無縫人機(jī)協(xié)作。直觀的互動(dòng)包括淺層互動(dòng)，例如當(dāng)用戶舍棄由系統(tǒng)推薦的選項(xiàng)時(shí)；基于模型方法，考慮用戶過去的行為；或甚至基于準(zhǔn)確的人類認(rèn)知模型的用戶意圖的深層模型。必須開發(fā)人為干預(yù)模型，允許智能系統(tǒng)僅在必要和適當(dāng)時(shí)介入人類操作。智能系統(tǒng)還應(yīng)該具有增強(qiáng)人類認(rèn)知的能力，使用戶在需要時(shí)知道需要檢索哪些信息，即使他們沒有明確地向系統(tǒng)提示該信息。未來的智能系統(tǒng)必須能夠解釋人類社會(huì)的行為標(biāo)準(zhǔn)，并相應(yīng)地采取行動(dòng)。如果智能系統(tǒng)具有一定程度的情感智能，那么智能系統(tǒng)可以更有效地與人類一起協(xié)作，使得他們可以識(shí)別用戶的情緒并做出適當(dāng)?shù)仨憫?yīng)。另一個(gè)研究目標(biāo)是超越單人和單臺(tái)機(jī)器的互動(dòng)，朝向“系統(tǒng)的系統(tǒng)〔systems-of-systems〕〞方向開展，即由多個(gè)機(jī)器與多個(gè)人互動(dòng)的協(xié)同工作。人類人工智能系統(tǒng)的互動(dòng)具有廣泛的目標(biāo)。人工智能系統(tǒng)需要能夠代表多個(gè)目標(biāo)，他們?yōu)榈竭_(dá)這些目標(biāo)可以采取的行動(dòng)，對這些行動(dòng)的約束和其他因素，以及容易適應(yīng)目標(biāo)的修改。此外，人類和人工智能系統(tǒng)必須共享共同目標(biāo)，并相互了解他們和他們當(dāng)前狀態(tài)的相關(guān)方面。需要進(jìn)一步研究來概括人類人工智能系統(tǒng)的這些方面，以開發(fā)需要較少人體工程學(xué)的系統(tǒng)。2、開發(fā)增強(qiáng)人類能力的人工智能技術(shù)盡管人工智能研究先前的大多數(shù)焦點(diǎn)是關(guān)于匹配或勝過人類執(zhí)行狹窄任務(wù)的算法，但是需要額外的工作來開發(fā)在許多領(lǐng)域增強(qiáng)人類能力的系統(tǒng)。人類增強(qiáng)研究包括固定設(shè)備〔例如計(jì)算機(jī)〕上使用的算法；可穿戴設(shè)備〔如智能眼鏡〕；植入裝置〔如大腦連接〕；以及特定的用戶環(huán)境〔例如特制的手術(shù)室〕。例如，增強(qiáng)的人類意識(shí)可以使醫(yī)療助手，基于多個(gè)設(shè)備組合的數(shù)據(jù)讀數(shù)指出醫(yī)療過程中的錯(cuò)誤。其他系統(tǒng)可以通過幫助用戶回憶，適用于用戶當(dāng)前狀況的過去經(jīng)驗(yàn)來增強(qiáng)人類的認(rèn)知。人類和人工智能系統(tǒng)之間的另一種類型的協(xié)作，涉及對智能數(shù)據(jù)理解的主動(dòng)學(xué)習(xí)。在主動(dòng)學(xué)習(xí)中，從領(lǐng)域?qū)＜姨帉で筝斎?，并且?dāng)學(xué)習(xí)算法不確定時(shí)僅對數(shù)據(jù)進(jìn)行學(xué)習(xí)。這是減少需要首先生成的訓(xùn)練數(shù)據(jù)量或需要學(xué)習(xí)的量的重要技術(shù)。主動(dòng)學(xué)習(xí)也是獲得領(lǐng)域?qū)＜逸斎牒吞岣邔W(xué)習(xí)算法信任度的關(guān)鍵方法。主動(dòng)學(xué)習(xí)迄今為止只在監(jiān)督式學(xué)習(xí)中使用——需要進(jìn)一步的研究將主動(dòng)學(xué)習(xí)納入無監(jiān)督學(xué)習(xí)〔例如集中、異常檢測〕和強(qiáng)化學(xué)習(xí)中去。84隨機(jī)網(wǎng)絡(luò)允許領(lǐng)域知識(shí)以先驗(yàn)概率分布的形式包含在內(nèi)。必須尋求允許機(jī)器學(xué)習(xí)算法并入領(lǐng)域知識(shí)的一般方法，無論是以數(shù)學(xué)模型、文本或其他形式?！沧ⅲ?4.督學(xué)習(xí)需要人類提供正確的結(jié)果，而強(qiáng)化學(xué)習(xí)和無監(jiān)督學(xué)習(xí)那么不需要。〕3、開發(fā)可視化和人機(jī)界面技術(shù)更好的可視化和用戶界面是需要更多開發(fā)，以幫助人們了解大量現(xiàn)代數(shù)據(jù)集和來自不同信息來源的額外領(lǐng)域?？梢暬陀脩艚缑姹仨氁匀祟惪衫斫獾姆绞?，清楚地呈現(xiàn)來自他們的日益復(fù)雜的數(shù)據(jù)和信息。在平安危急操作中提供實(shí)時(shí)結(jié)果是重要的，并且可以通過增加計(jì)算能力和互連系統(tǒng)來實(shí)現(xiàn)。在這些類型的情況下，用戶需要可以為實(shí)時(shí)響應(yīng)而快速傳達(dá)正確信息的可視化和用戶界面。人類人工智能系統(tǒng)的協(xié)作可以應(yīng)用于各種環(huán)境中，并且對通信存在約束。在一些領(lǐng)域，人類人工智能通信延遲低，通信快速可靠。在其他領(lǐng)域〔例如，美國航空航天局布置在火星上的勇氣號(hào)和機(jī)遇號(hào)探測器〕，人與人工智能系統(tǒng)之間的遠(yuǎn)程通信的延遲時(shí)間非常長〔例如，球和火星之間的往返時(shí)間為5-20分鐘〕，因此需要部署能在很大程度上自主操作，且只向其傳送高級(jí)別戰(zhàn)略目標(biāo)的平臺(tái)。這些通信要求和約束是研發(fā)用戶界面的重要考慮因素。4、開發(fā)更高效的語言處理系統(tǒng)使人們能通過口語和書面語言與人工智能系統(tǒng)進(jìn)行互動(dòng)一直是人工智能研究人員的目標(biāo)。雖然已經(jīng)取得了重大進(jìn)展，但是在人與人工智能系統(tǒng)能像人與人之間進(jìn)行有效溝通之前，必須在語言處理中解決相當(dāng)大的開放性研究挑戰(zhàn)。語言處理的最新進(jìn)展已經(jīng)歸功于使用數(shù)據(jù)驅(qū)動(dòng)的機(jī)器學(xué)習(xí)方法，其產(chǎn)生了成功的系統(tǒng)，例如，在安靜的環(huán)境中成功的實(shí)時(shí)識(shí)別流利的英語語音。然而，這些成就只是實(shí)現(xiàn)更長期目標(biāo)的第一步。當(dāng)前系統(tǒng)不能處理現(xiàn)實(shí)世界的挑戰(zhàn)，例如在嘈雜環(huán)境中的語音、帶濃重口音的語音、兒童語音、受損的語音和手語語音。還需要開發(fā)能夠與人進(jìn)行實(shí)時(shí)對話的語言處理系統(tǒng)。這種系統(tǒng)需要推斷人類對話者的目標(biāo)和意圖，使用針對當(dāng)前情況適當(dāng)?shù)恼Z境、風(fēng)格和修辭，并在對話產(chǎn)生誤解的情況下對其進(jìn)行修復(fù)。需要進(jìn)一步研究更易于普及不同語言的系統(tǒng)。此外，需要更多的以語言處理系統(tǒng)更容易訪問的形式的研究，來獲得有用的結(jié)構(gòu)化領(lǐng)域知識(shí)。例3：DARPA的可學(xué)習(xí)個(gè)性化助理〔PAL〕工程創(chuàng)立了蘋果商業(yè)化技術(shù)，如Siri計(jì)算技術(shù)對現(xiàn)代生活的每一個(gè)方面都至關(guān)重要，但我們每天使用的信息系統(tǒng)缺乏人類認(rèn)知的一般的、靈活的能力。在PAL方案中，85DARPA著手創(chuàng)立可以從經(jīng)驗(yàn)、推論中學(xué)習(xí)的認(rèn)知助手，并通過語音界面告訴他們該做什么。DARPA設(shè)想了PAL技術(shù)，使得信息系統(tǒng)對于用戶更加高效和有效。DARPA和PAL的執(zhí)行者與軍事運(yùn)營商合作，將PAL技術(shù)應(yīng)用于命令和控制問題，PAL程序?qū)W習(xí)技術(shù)被整合到未來版本的戰(zhàn)斗通信和10〔見〕的美國軍隊(duì)指揮所中，并在世界各地使用。用戶演示程序 PAL完成并概括了參數(shù)和結(jié)構(gòu)，以產(chǎn)生可重復(fù)使用的標(biāo)準(zhǔn)操作規(guī)程標(biāo)準(zhǔn)操作程序庫〔SOPs〕L程序?qū)W習(xí)助手通過觀察一個(gè)實(shí)例來學(xué)習(xí)可重復(fù)使用的過程。DARPA還非常了解PAL技術(shù)的商業(yè)潛力，特別是需要基于語音的智能交互的移動(dòng)應(yīng)用。DARPA強(qiáng)烈勵(lì)PAL商化，并且為了響應(yīng)DARPA的鼓勵(lì)在27年了Sii公司，以便在通過基于語音界面管理信息和自動(dòng)化任務(wù)來幫助用戶的系統(tǒng)中使PAL技術(shù)商業(yè)化。年4，Siri公司蘋果收購，該公司進(jìn)一步開發(fā)了這些技術(shù)，使其成為用于iPone和iPd的Apple移動(dòng)操系統(tǒng)的一個(gè)組成局部，也是其定義的特征。在許多其他領(lǐng)域的語言處理研究方面的進(jìn)展，也需要使人類和人工智能系統(tǒng)之間的互動(dòng)更加自然和直觀。必須為語言和書面語言的模式建立穩(wěn)健的計(jì)算模型，其為情緒狀態(tài)、情感和立場提供根據(jù)，并確定語言和文本中隱含的信息。人工智能系統(tǒng)環(huán)境文本中的根底語言，需要能物理世界中操作的新的語言處理技術(shù)，例如在機(jī)器人中。最后，由于人們在線互動(dòng)交流的方式，可能與語音互動(dòng)完全不同，因此完善這些文本中使用的語言模式，使得社交人工智能系統(tǒng)可以更有效的與人進(jìn)行互動(dòng)?！踩硲?zhàn)略三：了解并解決人工智能的倫理、法律和社會(huì)影響當(dāng)人工智能自主代理行為時(shí)，我們期望他們根據(jù)我們?nèi)祟愓胶头钦降臉?biāo)準(zhǔn)行事。作為根本的社會(huì)秩序的力量、法律和道德，既能告知也能判斷人工智能系統(tǒng)的行為。首要研究需要涉及對道德、法律的理解，以及人工智能的社會(huì)影響，且人工智能設(shè)計(jì)的開發(fā)方式必須符合道德標(biāo)準(zhǔn)、法律和社會(huì)原那么。還必須考慮隱私問題；有關(guān)這一問題的進(jìn)一步信息可以在?國家隱私研究和開展戰(zhàn)略?中找到。與任何技術(shù)一樣，法律和道德原那么將告知人工智能可接受的用途；是如何將這些原那么應(yīng)用于這項(xiàng)新技術(shù)所面臨的挑戰(zhàn)，特別是那些涉及自主性、代理和控制的技術(shù)。如?強(qiáng)健和有益的人工智能研究重點(diǎn)?〔ResearchPrioritiesforRobustandBeneficialArtificialIntelligence〕所示：“為了構(gòu)建穩(wěn)健的表現(xiàn)良好的系統(tǒng)，我們當(dāng)然需要在每個(gè)應(yīng)用領(lǐng)域中確定什么是良好的行為方式。這種倫理維度與工程技術(shù)可用的問題，這些技術(shù)如何可靠，以及作出了怎樣的取舍——所有計(jì)算機(jī)科學(xué)領(lǐng)域、機(jī)器學(xué)習(xí)和更廣泛可用的人工智能專業(yè)知識(shí)是緊密相關(guān)的。〞86該領(lǐng)域的研究可以受益于來自涉及計(jì)算機(jī)科學(xué)、社會(huì)和行為科學(xué)、倫理、生物醫(yī)學(xué)科學(xué)、心理學(xué)、經(jīng)濟(jì)學(xué)、法律和政策研究專家的多學(xué)科視角。需要對ITRD相關(guān)IT領(lǐng)域〔即信息技術(shù)領(lǐng)域以及上述學(xué)科〕的內(nèi)部和外部領(lǐng)域進(jìn)行進(jìn)一步的調(diào)查研究，以便為人工智能系統(tǒng)的研發(fā)和使用及其對社會(huì)的影響提供信息。以下小節(jié)探討了該領(lǐng)域中關(guān)鍵信息技術(shù)研究的挑戰(zhàn)。1、改進(jìn)公平性、透明度和設(shè)計(jì)責(zé)任機(jī)制人們對數(shù)據(jù)密集型人工智能算法出錯(cuò)和濫用的敏感性，以及對性別、年齡、種族或經(jīng)濟(jì)類可能產(chǎn)生的影響表示了許多關(guān)注。在這方面，適當(dāng)收集和使用人工智能系統(tǒng)的數(shù)據(jù)是一個(gè)重要挑戰(zhàn)。然而，除了純粹的數(shù)據(jù)相關(guān)問題，出現(xiàn)在人工智能設(shè)計(jì)上的更大的問題本質(zhì)上是公正、公平、透明和負(fù)責(zé)。研究人員必須學(xué)會(huì)如何設(shè)計(jì)這些系統(tǒng)，以使他們的行動(dòng)和決策是透明且是容易被人解釋的，因此可以檢查其可能包含的任何偏差，而不僅僅是學(xué)習(xí)和重復(fù)這些偏差。如何表示和“編碼〞人類價(jià)值和信仰體系是重要的研究課題。科學(xué)家們還必須研究可以在什么程度上將正義和公平的考慮設(shè)計(jì)到系統(tǒng)中去，以及如何在當(dāng)前工程技術(shù)范圍內(nèi)實(shí)現(xiàn)這一點(diǎn)。2、建立符合倫理的人工智能除了正義和公平的根本假設(shè)之外，還有人擔(dān)憂人工智能系統(tǒng)是否能夠表現(xiàn)出一般倫理原那么所容忍的行為。如何改進(jìn)人工智能框架在道德倫理中新的“機(jī)器相關(guān)〞問題，或什么用途的人工智能可能被認(rèn)為是不道德的？倫理在本質(zhì)上是一個(gè)哲學(xué)問題，而人工智能技術(shù)依賴于并受到工程的限制。因此，在技術(shù)可行的范圍內(nèi)，研究人員必須努力開發(fā)與現(xiàn)有法律、社會(huì)標(biāo)準(zhǔn)和道德倫理一致或相符的算法和架構(gòu)——這顯然是一項(xiàng)非常具有挑戰(zhàn)性的任務(wù)。倫理原那么通常有不同程度的模糊性，并且難以轉(zhuǎn)化為精確的系統(tǒng)和算法設(shè)計(jì)。當(dāng)人工智能系統(tǒng)，尤其是新的自主決策算法，面臨基于獨(dú)立和可能沖突的價(jià)值體系道德困境時(shí)，還有一些混亂。倫理問題因文化、宗教和信仰而異。然而，可以制定可接受的道德參考框架，以指導(dǎo)人工智能系統(tǒng)進(jìn)行推理和決策，以解釋和證明其結(jié)論和行為。需要一種多學(xué)科方法來生成反映適當(dāng)價(jià)值體系的訓(xùn)練數(shù)據(jù)集，包括當(dāng)存在道德問題或沖突價(jià)值困難時(shí)，顯示首選行為的實(shí)例。這些實(shí)例可以包括法律或道德的“少見或極端案件〔cornercases〕〞，由對用戶透明的結(jié)果或判斷進(jìn)行標(biāo)記87人工智能需要適當(dāng)?shù)姆椒▉斫鉀Q價(jià)值沖突，在嚴(yán)格規(guī)那么行不通的地方，該系統(tǒng)結(jié)合的原那么可以解決復(fù)雜情況下的實(shí)際情況。3、設(shè)計(jì)符合倫理的人工智能架構(gòu)必須在根底研究方面取得額外的進(jìn)展，以確定如何最好地設(shè)計(jì)包含道德推理的人工智能系統(tǒng)架構(gòu)。已提出了各種方法例如兩層監(jiān)控架構(gòu)，其將操作AI從負(fù)責(zé)任何操作行動(dòng)的倫理或法律評估的監(jiān)視代理中別離。87另一種觀點(diǎn)是傾向于選擇平安工程——使用用于AI代理體系結(jié)構(gòu)的精確概念框架來確保AI行為是平安且對人無害。88第三種方法是使用集合理論原那么來構(gòu)成倫理體系結(jié)構(gòu)，這結(jié)合了限制行動(dòng)以符合道德原那么的AI9著I更加普遍，他們的架構(gòu)或許包括能在多個(gè)級(jí)別承當(dāng)?shù)赖聠栴}的子系統(tǒng)，其中包括：90匹配規(guī)那么的快速響應(yīng)模式、用于放慢描述和辯護(hù)行為反響的審議推理、顯示用戶可信度的社會(huì)信號(hào)，以及社會(huì)歷程——其會(huì)運(yùn)作超過甚至更長的時(shí)間尺度以便系統(tǒng)能遵守文化標(biāo)準(zhǔn)。研究人員需要關(guān)注如何能最好地處理符合道德、法律和社會(huì)目標(biāo)的人工智能系統(tǒng)的整體設(shè)計(jì)。〔四〕戰(zhàn)略四：確保人工智能系統(tǒng)的平安可靠用I作。需要進(jìn)行研究來解決這一挑戰(zhàn)：創(chuàng)立可靠、真實(shí)和可信賴的AI系統(tǒng)。正如其他復(fù)雜的系統(tǒng)，AI系統(tǒng)面臨著重要的平安和安保挑戰(zhàn)：91〔1〕復(fù)雜及不確定的環(huán)境：在許多情況下，AI系統(tǒng)是用于在復(fù)雜環(huán)境中進(jìn)行操作，并存在不能進(jìn)行詳盡檢查或測試的大量潛在狀態(tài)。系統(tǒng)可能面臨在其設(shè)計(jì)期間從未考慮過的條件?！?〕緊急行為：對于在部署后進(jìn)行學(xué)習(xí)的AI系統(tǒng)，系統(tǒng)的行為可能主要由無監(jiān)督條件下的學(xué)習(xí)階段來決定。在這種情況下，可能難以預(yù)測系統(tǒng)的行為?！?〕目標(biāo)設(shè)定的偏差：由于將人類目標(biāo)轉(zhuǎn)換為計(jì)算機(jī)指令極為困難，對AI系統(tǒng)編程的目標(biāo)可能未必符合程序員預(yù)期目標(biāo)?！?〕人機(jī)交互限制：在許多情況下，人工智能系統(tǒng)的性能會(huì)極大地受到人類交互的影響。在這些情況下，人類反響的變化可能會(huì)影響系統(tǒng)的平安性。92為了解決這些和其他問題，需要進(jìn)行額外投資來提高人工智能的平安性和可靠性，93其中包括可解釋性與透明度、信任、驗(yàn)證與確認(rèn)、抵御攻擊的平安性以及長期的AI平安和數(shù)值調(diào)整。1、提高可解釋性和透明度加I度學(xué)習(xí)在內(nèi)的多種算法，對于用戶來說是不透明的，只有很少的現(xiàn)有機(jī)制對它們的結(jié)果進(jìn)行解釋。這尤其會(huì)對諸如醫(yī)療保健等領(lǐng)域造成問題，在該領(lǐng)域，醫(yī)生需要解釋來驗(yàn)證特定診斷或治療過程。AI技術(shù)如決策樹感應(yīng)提供內(nèi)在的解釋，但通常不太準(zhǔn)確。因此，研究人員必須開發(fā)透明的系統(tǒng)，并能在本質(zhì)上向用戶解釋其結(jié)果的原因。2、提高信任度為了取得信任，AI系統(tǒng)設(shè)計(jì)人需要?jiǎng)?chuàng)立具有信息性和用戶友好界面的準(zhǔn)確、可靠的系統(tǒng)，而操作人員必須花時(shí)間進(jìn)行充分的培訓(xùn)，以了解系統(tǒng)操作和性能限制。用戶廣泛信任的復(fù)雜系統(tǒng)〔例如車輛手動(dòng)控制〕將趨于透明〔系統(tǒng)以用戶可見的方式進(jìn)行操作〕、可信〔用戶接受系統(tǒng)的輸出〕、可審計(jì)〔可以評估系統(tǒng)〕、可靠〔系統(tǒng)按用戶期望行動(dòng)〕和可恢復(fù)〔用戶可以在需要時(shí)恢復(fù)控制〕。當(dāng)前和未來AI系統(tǒng)的重大挑戰(zhàn)仍是不穩(wěn)定的軟件生產(chǎn)技術(shù)質(zhì)量。隨著與I增的能力并駕齊驅(qū)，預(yù)期會(huì)采用和長期使用技術(shù)進(jìn)步，并為研究設(shè)計(jì)、建造和使用的最正確實(shí)施制定管理原那么和政策，包括為平安操作對操作人員進(jìn)行適當(dāng)培訓(xùn)。3、增強(qiáng)可驗(yàn)證與可確認(rèn)性認(rèn)I而“可確認(rèn)性〞確定系統(tǒng)滿足用戶的操作需求。平安AI系統(tǒng)可能需要新的評估方法〔確定系統(tǒng)是否發(fā)生故障，可能在預(yù)期參數(shù)以外運(yùn)行時(shí)〕、診斷方法〔確定故障原因〕和維修方式〔調(diào)整系統(tǒng)以解決故障〕。對于超過時(shí)間延長期進(jìn)行自主操作的系統(tǒng)，系統(tǒng)設(shè)計(jì)者可能未考慮系統(tǒng)會(huì)遇到的每種條件。這種系統(tǒng)可能需要擁有自我評估、自我診斷和自我修復(fù)的能力，以變得穩(wěn)健和可靠。例4：美國宇航局艾姆斯研究中心—在出現(xiàn)故障前預(yù)測出故障因?yàn)榛谀Ｐ偷漠惓z測方式的缺乏，所以美國宇航局艾姆斯研究中心在23開發(fā)了一種數(shù)據(jù)驅(qū)動(dòng)的異常檢測方法，稱為感應(yīng)監(jiān)測系統(tǒng)〔S〕。從那時(shí)起，其便已用于美國宇航局內(nèi)的系統(tǒng)健康監(jiān)測應(yīng)用程序，包括監(jiān)測航天飛機(jī)和國際空間站〔ISS〕以及非美國宇航局應(yīng)用程序。在2021年對獵戶座載人飛船進(jìn)行發(fā)射測試，在此期間IS用于監(jiān)測電氣系統(tǒng)。

C-130大力士軍用運(yùn)輸機(jī)的預(yù)測性軟件用來預(yù)測閥門出現(xiàn)的故障，該閥門用于切換引擎間的氣流。2021年，合工程管理解決方案〔CEMSol〕授和增強(qiáng)了S，并與美宇航局艾姆斯研究中心和洛克希德·馬丁公司合作將S為洛克希德C-10大士運(yùn)輸機(jī)的集成統(tǒng)健康監(jiān)測系統(tǒng)來進(jìn)行測試。洛克希德·馬丁公司在該項(xiàng)測試中投資了7000美元，隨即在降低的維護(hù)本錢和任務(wù)延遲中收獲了將近10的利潤。944、保護(hù)免受攻擊的I范圍的蓄意網(wǎng)絡(luò)攻擊。平安工程包括了解系統(tǒng)的漏洞，以及有意對其進(jìn)行攻擊的行動(dòng)者的行動(dòng)。雖然在NITRD網(wǎng)絡(luò)平安研發(fā)戰(zhàn)略中心詳細(xì)論述了網(wǎng)絡(luò)平安研對I“對抗機(jī)器學(xué)習(xí)〞，其通過“污染〞訓(xùn)練數(shù)據(jù)、修改算法或通過對阻礙其得到正確識(shí)別的某一目標(biāo)進(jìn)行微小變化〔例如，欺騙面部識(shí)別系統(tǒng)的假肢〕，以此來探索對AI系統(tǒng)危害會(huì)到多大程度。在需要高度