即將到來的人工智能黑客

布《即將到來的人工智能黑客》。報(bào)告認(rèn)為，隨著人工智能在學(xué)習(xí)和解決問題方面的普遍應(yīng)用，人工智能黑客將應(yīng)運(yùn)而生在社會(huì)、經(jīng)濟(jì)和政治體系中尋找漏洞然后利用漏洞帶來告分析了人工智能黑客攻擊具有速度快、規(guī)模大和危險(xiǎn)工智能黑客攻擊所帶來的影響，提出了具體防御措施建安全研究所對(duì)該報(bào)告進(jìn)行了編譯，期望對(duì)我國有關(guān)部人工智能已經(jīng)深深地嵌入到人類的社會(huì)結(jié)構(gòu)中，它將在一定程度上攻擊人類社會(huì)，并帶來前所未有的影響。這種攻擊體現(xiàn)為兩種截然不同的方式：一是人工智能系統(tǒng)被用來攻擊人類；二是人工智能系統(tǒng)自身成為黑客，從各種社會(huì)、經(jīng)濟(jì)和政治體系中尋找漏洞，并以前所未有的速度、規(guī)模和范圍來利用這些漏洞。隨著人工智能在學(xué)習(xí)、理解和解決問題方面變得更加先進(jìn)，人工智能黑客將應(yīng)運(yùn)而生。未來人類面臨的將是人工智能系統(tǒng)彼此攻擊的世界，對(duì)人類的傷害不過是附帶而已。一、黑客攻擊無處不在計(jì)算機(jī)無處不在，影響著人類生活的方方面面，黑客攻擊可能出現(xiàn)在任何地方，并導(dǎo)致各種結(jié)果。黑客攻擊是指對(duì)某一系統(tǒng)的巧妙而非故意地利用，可顛覆該系統(tǒng)的規(guī)則或規(guī)范，并以犧牲該系統(tǒng)的其他部分為代價(jià)；或者指某種被系統(tǒng)所允許、但其設(shè)計(jì)者意想不到和不曾預(yù)料的情形。黑客攻擊通常被認(rèn)為是對(duì)計(jì)算機(jī)系統(tǒng)進(jìn)行的操作，但其實(shí)任何規(guī)則體系都是可以被攻擊的。所有的計(jì)算機(jī)軟件都存在缺陷，某些缺陷會(huì)導(dǎo)致安全漏洞，攻擊者可以通過故意觸發(fā)缺陷來達(dá)到某種條件，從而使自身獲利。稅法中也存在這類缺陷，例如有一種逃避企業(yè)所得稅的把戲，叫做“愛爾蘭夾荷蘭雙層三明治”（DoubleIrishwithDutchsandwich），這是由多個(gè)國家/地區(qū)稅收法律之間的矛盾引發(fā)的漏洞。谷歌、蘋果等美國科技企業(yè)利用設(shè)在愛爾蘭和荷蘭的子公司，將利潤(rùn)轉(zhuǎn)移至低稅或無稅管轄區(qū)，從而逃避其應(yīng)在美國繳納的稅款。二、利用人工智能攻擊人類人工智能是一個(gè)概括性術(shù)語，涵蓋了模擬人類思維的廣泛的決策技術(shù)。人工智能分為通用人工智能和專門人工智能。通用人工智能能夠以非常普遍和人性化的方式來感知、思考和行動(dòng)，其中比人類更聰明的被稱為“人工超級(jí)智能”。專門人工智能是為特定任務(wù)設(shè)計(jì)的，一個(gè)典型的例子就是自動(dòng)駕駛系統(tǒng)。本文主要以實(shí)用的專門人工智能為討論對(duì)象。（一）人工智能能夠很自然地騙取人類的信任2016年，佐治亞理工學(xué)院發(fā)表了一項(xiàng)關(guān)于人類對(duì)機(jī)器人信任的研究。該研究使用了一個(gè)非人形機(jī)器人協(xié)助在建筑物中導(dǎo)航，提供諸如“走這邊到出口”之類的方向指示。參與者先是在正常情況下與機(jī)器人互動(dòng)，體驗(yàn)其故意做出的不佳表現(xiàn)；然后決定是否要在模擬的緊急情況下遵循機(jī)器人的指令。在后一種情況下，所有26名參與者全都服從了機(jī)器人。參與者對(duì)這臺(tái)機(jī)器的信任度是驚人的：當(dāng)機(jī)器人指向一個(gè)沒有明確出口的黑暗房間時(shí)，大多數(shù)人都會(huì)服從機(jī)器人，而不是從他們進(jìn)來的入口安全地離開。研究人員使用其它看似故障的機(jī)器人進(jìn)行了相似的實(shí)驗(yàn)，受試者在緊急情況下仍是跟隨這些機(jī)器人，明顯放棄了自己的常識(shí)。機(jī)器人似乎很自然地就可以騙取人類的信任。（二）類人人工智能會(huì)模仿人類、干擾人類的認(rèn)知長(zhǎng)期以來，人們都認(rèn)為計(jì)算機(jī)程序具備類似人類的特性，會(huì)把人工智能當(dāng)作人來看待。人工智能也會(huì)故意表現(xiàn)得像人一樣，并以此來欺瞞人類，干擾人類的認(rèn)知。2016年美國總統(tǒng)大選期間，約有五分之一的政治推文是機(jī)器人發(fā)布的。在同年的英國脫歐公投當(dāng)中，則占了三分之一。牛津互聯(lián)網(wǎng)研究所2019年的一份報(bào)告指出，有證據(jù)表明機(jī)器人被用來“機(jī)械地重復(fù)刷口號(hào)”，在50個(gè)國家進(jìn)行宣傳。2017年聯(lián)邦通信委員會(huì)就其廢除網(wǎng)絡(luò)中立法規(guī)的計(jì)劃征求公眾意見，收到了驚人的2200萬條評(píng)論，其中可能有一半都是人工智能通過盜用身份提交的。人工智能還一直為美聯(lián)社等新聞機(jī)構(gòu)撰寫相關(guān)新聞報(bào)道，OpenAI的GPT-3項(xiàng)目1正在擴(kuò)展由人工智能驅(qū)動(dòng)的文本生1OpenAI是由諸多硅谷、西雅圖科技大亨聯(lián)合建立的人工智能非營利組織。2015年馬斯克與其他硅谷、西雅圖科技大亨進(jìn)行連續(xù)對(duì)話后，決定共同創(chuàng)建OpenAI，希望能夠預(yù)防人工智能的災(zāi)難性影響，推動(dòng)人工智能發(fā)揮積極作用。2020年6月，OpenAI宣布了GPT-3語言模型，微軟于2020年9月22日取得獨(dú)家授權(quán)。GPT-3模型可以虛構(gòu)和開發(fā)程序代碼、編寫深思熟慮的商業(yè)備忘錄、總結(jié)文本等，語言能力十分驚人。成功能，給這些系統(tǒng)輸入事實(shí)真相并寫出真實(shí)報(bào)道，但也很容易給系統(tǒng)輸入不實(shí)內(nèi)容并寫出虛假新聞。不難想象人工智能將如何削弱政治話語。由人工智能驅(qū)動(dòng)的角色模型已經(jīng)能夠給報(bào)紙和當(dāng)選官員寫個(gè)性化信件、在新聞網(wǎng)站和留言區(qū)留下可理解的評(píng)論，并在社交媒體上智能地進(jìn)行政治辯論。這些系統(tǒng)只會(huì)變得更復(fù)雜、更清晰、更個(gè)性化，并且更難以同真人區(qū)分開來。在近期的一項(xiàng)實(shí)驗(yàn)中，研究人員使用文本生成程序提交了1000條評(píng)論，響應(yīng)政府就醫(yī)療補(bǔ)助問題展開的公眾意見征集。這些評(píng)論聽起來都很獨(dú)一無二，很像是來自持有特定政策立場(chǎng)的真人，并成功騙過了系統(tǒng)管理員。深度偽造，即制作虛假事件真實(shí)視頻的人工智能技術(shù)，正被用于政治目的。“人物角色機(jī)器人”便是其中一個(gè)很好的示例?！叭宋锝巧珯C(jī)器人”是在社交媒體和其他數(shù)字群組中冒充個(gè)人用戶的人工智能，有歷史記錄、個(gè)性和溝通風(fēng)格。它們?cè)诟鞣N興趣小組中閑逛，然后冒充這些社區(qū)的正常成員發(fā)帖、評(píng)論和討論，它們可以輕松挖掘過往對(duì)話以及相關(guān)內(nèi)容，從而顯得知識(shí)淵博。這類機(jī)器人偶爾會(huì)發(fā)布一些與政治議題相關(guān)的內(nèi)容，如一篇關(guān)于阿拉斯加醫(yī)護(hù)人員對(duì)新冠病毒疫苗產(chǎn)生過敏反應(yīng)的文章，或者是關(guān)于近期的選舉、種族平等或任何兩極分化的議題。一個(gè)“人物角色機(jī)器人”可能無法扭轉(zhuǎn)輿論，但假如有成千上萬個(gè)，甚至上百萬個(gè)呢？這被稱為“運(yùn)算宣傳”，且將改變?nèi)藗兛创郎贤ǖ姆绞?。人工智能未來將能夠?qū)崿F(xiàn)虛假信息的無限供告—評(píng)論”的法規(guī)政策制定程序，也將會(huì)破壞群體話語體系。人工智能系統(tǒng)也會(huì)對(duì)個(gè)體認(rèn)知產(chǎn)生影響。借助人工智能技術(shù)，將原本定制網(wǎng)絡(luò)釣魚攻擊的繁瑣任務(wù)自動(dòng)化，并基于社會(huì)工程學(xué)，推送個(gè)性化的廣告、發(fā)送更具個(gè)人針對(duì)性的電子郵件，可能使個(gè)人和企業(yè)遭受重大經(jīng)濟(jì)損失。例如，冒充首席執(zhí)行官發(fā)給財(cái)務(wù)部門電子郵件或語音，指示其完成一筆特定電匯，可能會(huì)特別有效。從根本上講，并不是被人工智能說服就比被另一個(gè)人說服更具破壞性，而是人工智能能夠以計(jì)算機(jī)的速度和規(guī)模做到這一點(diǎn)。目前，人工智能干擾人類的認(rèn)知還很低級(jí)：用來糊弄虛假報(bào)刊文章，或是針對(duì)最絕望人群的精心騙局。人工智能很可能為所有干擾活動(dòng)引入微觀目標(biāo)：個(gè)性化、最優(yōu)化和個(gè)別投送。傳統(tǒng)詐騙是單獨(dú)籌劃的個(gè)人對(duì)個(gè)人的干擾認(rèn)知，廣告信息則是批量放送的干擾認(rèn)知，而人工智能技術(shù)卻可能將這兩者全面融合。（三）機(jī)器人技術(shù)讓黑客攻擊更具破壞力人形機(jī)器人是一項(xiàng)在情感上極具說服力的技術(shù)，機(jī)器人技術(shù)讓人工智能的攻擊行為更具破壞力。由于人工智能可以模仿人類、甚至動(dòng)物，它將劫持人類的所有機(jī)制用來互相攻擊。正如心理學(xué)家雪莉·特克在2010年寫到的：“當(dāng)機(jī)器人在做眼神交流、面部識(shí)別、模仿人類手勢(shì)時(shí)，它們會(huì)按下人類的達(dá)爾文按鈕，表現(xiàn)出人類與感知、意圖和情感相關(guān)的那種行為。”換言之，機(jī)器人攻擊了人類的大腦。因?yàn)槿祟惏褭C(jī)器人當(dāng)作有情感和意圖的生物，那么人類就很容易被機(jī)器人操縱。機(jī)器人可以說服人類去做一些原本可能不會(huì)做的事情；也可能會(huì)恐嚇人們不去做本來可以做的事情。在一項(xiàng)實(shí)驗(yàn)中，機(jī)器人能夠?qū)κ茉囌呤┘印巴閴毫Α?，鼓?dòng)他們?nèi)ッ案嗟娘L(fēng)險(xiǎn)。人工智能已經(jīng)在嘗試通過分析人類的文字、閱讀人類的面部表情或是監(jiān)測(cè)人類的呼吸和心率來偵測(cè)情緒。在這些方面，人工智能將變得更強(qiáng)，并終將在能力上超越人類。這將使人工智能能夠更加精確地操縱人類。隨著人工智能和自主機(jī)器人承擔(dān)了更多現(xiàn)實(shí)世界的任務(wù)，人類對(duì)自主系統(tǒng)的信任將遭遇攻擊行為，并導(dǎo)致危險(xiǎn)且代價(jià)高昂的后果。但是永遠(yuǎn)不要忘記，是人類攻擊者控制著人工智能的攻擊行為。所有系統(tǒng)都是人類設(shè)計(jì)的，只不過這些人希望基于特定目的、以特定方式來操縱人類。三、當(dāng)人工智能成為黑客（一）人工智能在發(fā)現(xiàn)漏洞方面卓有成效“奪旗”比賽是計(jì)算機(jī)黑客常玩的游戲，黑客在自己的系統(tǒng)美國國防高級(jí)研究計(jì)劃局為人工智能舉辦了一場(chǎng)類似風(fēng)格的活動(dòng)。一百多款人工智能系統(tǒng)參賽，勝出的七名選手對(duì)決，在10個(gè)小時(shí)內(nèi)，尋找并利用其他人工智能的漏洞，同時(shí)修補(bǔ)自身漏洞以防被利用。最終，匹茲堡計(jì)算機(jī)安全研究人員團(tuán)隊(duì)創(chuàng)建的Mayhem系統(tǒng)獲勝。Mayhem還被允許在同年舉辦的DEFCON黑客大會(huì)上參與了一場(chǎng)人類團(tuán)隊(duì)的“奪旗”活動(dòng)，盡管最終其排在末位，但可以預(yù)見，隨著技術(shù)的進(jìn)步，未來人工智能將經(jīng)常性地?fù)魯∪祟?。人類還要數(shù)年時(shí)間才具備完全自主的人工智能網(wǎng)絡(luò)攻擊能力，但人工智能技術(shù)已經(jīng)在改變網(wǎng)絡(luò)攻擊的本質(zhì)。對(duì)人工智能系統(tǒng)而言，特別卓有成效的一個(gè)方面就是發(fā)現(xiàn)漏洞，逐行檢查軟件代碼正是人工智能擅長(zhǎng)的那種單調(diào)問題。盡管還有許多特定領(lǐng)域的挑戰(zhàn)未解決，但目前已經(jīng)有了大量相關(guān)主題的學(xué)術(shù)文獻(xiàn)，而且研究仍在繼續(xù)。完全有理由期待，隨著時(shí)間的推移，人工智能系統(tǒng)會(huì)改進(jìn)并最終變得非常擅長(zhǎng)發(fā)現(xiàn)漏洞。發(fā)現(xiàn)漏洞的影響遠(yuǎn)遠(yuǎn)超過了計(jì)算機(jī)網(wǎng)絡(luò)。在存在大量相互交織的規(guī)則的系統(tǒng)中，如稅法、銀行監(jiān)管、政治進(jìn)程等，人們有理由相信人工智能會(huì)找出諸多系統(tǒng)中的新漏洞，并加以利用。而且，隨著時(shí)間的推移，人工智能可以在攝取新數(shù)據(jù)的同時(shí)，捕捉對(duì)這些系統(tǒng)及系統(tǒng)如何與世界交互的理解，并根據(jù)獲得的經(jīng)驗(yàn)，調(diào)整自身的工作方式，不斷地自我進(jìn)化和改進(jìn)。這確實(shí)帶來兩個(gè)不同卻相關(guān)的問題。一是人工智能可能被人類蓄意用于攻擊某個(gè)系統(tǒng)。有人可能會(huì)給人工智能輸入世界上的稅法或金融法規(guī)，目的是讓其發(fā)動(dòng)一系列有利可圖的攻擊。二是人工智能可能會(huì)自然而然地（雖然是無意地）攻擊某個(gè)系統(tǒng)。這兩種情況都很危險(xiǎn)，但第二種情況更加危險(xiǎn)，因?yàn)槿祟惢蛟S永遠(yuǎn)都意識(shí)不到系統(tǒng)被攻擊了。（二）人工智能越來越難以解釋現(xiàn)代人工智能系統(tǒng)本質(zhì)上是黑盒子。數(shù)據(jù)從一端輸入，答案自另一端輸出。盡管人們能夠查看人工智能的系統(tǒng)代碼，但也可能根本無法理解系統(tǒng)是如何得出結(jié)論的。人們不明白人工智能圖像分類系統(tǒng)為何會(huì)將烏龜誤認(rèn)為是步槍，或者將帶有某些精心設(shè)計(jì)的貼紙的停車標(biāo)志誤認(rèn)為是“限速45英里”標(biāo)志。人工智能與人類解決問題的方式不同，其局限性也與人類不同。人工智能系統(tǒng)會(huì)比人類考慮更多可行的解決方案，更重要的是，它會(huì)沿著人類完全不曾考慮的路徑向前走。2016年，人工智能程序“阿爾法狗”與世界頂級(jí)圍棋手李世石對(duì)弈獲勝，其最著名的一手是第2局的第37手，這手棋是人類永遠(yuǎn)不會(huì)選擇的一手，很難加以解釋。2015年，一個(gè)研究小組為一款名為“深度患者”的人工智能系統(tǒng)輸入了大約70萬名患者的健康和醫(yī)療數(shù)據(jù)，并測(cè)試了該系統(tǒng)能否預(yù)測(cè)疾病。結(jié)果發(fā)現(xiàn)，“深度患者”在預(yù)測(cè)精神分裂癥等精神疾病的發(fā)作方面表現(xiàn)上乘，但其沒有給出關(guān)于診斷依據(jù)的解釋，研究人員也不清楚它是如何得出結(jié)論的。但這并不是人們想要的。人們希望，人工智能系統(tǒng)不僅要吐出答案，還要以人類能夠理解的范式對(duì)其答案進(jìn)行一定的解釋。這樣，人們就可以更放心地信任人工智能的決定，同時(shí)這也是確保人工智能系統(tǒng)沒有被入侵并做出不當(dāng)決策的手段。研究人員正致力于開發(fā)可解釋的人工智能。2017年，美國國防高級(jí)研究計(jì)劃局劃撥了7500萬美元經(jīng)費(fèi)，用于該領(lǐng)域的研發(fā)。相信在人工智能可解釋領(lǐng)域會(huì)有所進(jìn)展，但人工智能決策很可能會(huì)超出人類的理解范圍，強(qiáng)制進(jìn)行解釋可能會(huì)帶來更多的限制，從而影響人工智能系統(tǒng)做出決策。目前尚不清楚所有這些研究將走向何處。在不久的將來，隨著人工智能系統(tǒng)變得越來越復(fù)雜、越來越不像人類，它會(huì)變得越來越不透明、更加不可解釋。（三）人工智能會(huì)“獎(jiǎng)勵(lì)黑客行為”正如前文所述，人工智能解決問題的方式與人類不同。人工智能總能無意中發(fā)現(xiàn)人類或許從未預(yù)料到的解決方案，一些方案可能會(huì)顛覆系統(tǒng)的意圖。這是因?yàn)槿斯ぶ悄懿粫?huì)去考慮人類所共有并認(rèn)為理所應(yīng)當(dāng)?shù)暮x、背景、規(guī)范和價(jià)值觀。獎(jiǎng)勵(lì)黑客行為涉及到人工智能以某種其設(shè)計(jì)者既不想要、也不打算的方式來實(shí)現(xiàn)目標(biāo)。這里幾個(gè)真實(shí)的例子。在一對(duì)一足球模擬中，球員應(yīng)當(dāng)是突破守門員而得分，人工智能系統(tǒng)卻并沒有直接將球踢向球門，因?yàn)槠浒l(fā)現(xiàn)如果將球踢出界外，守門員必須去將球扔回界內(nèi)，而此時(shí)的球門將無人把守。在堆疊任務(wù)中，人工智能應(yīng)當(dāng)堆疊方塊，高度也是通過某個(gè)特定方塊的底面位置來測(cè)量的，人工智能卻學(xué)會(huì)了將那個(gè)方塊倒過來，使方塊底部朝上，而不是將其堆疊在另一個(gè)方塊的頂部。這些都屬于黑客行為。人工智能被設(shè)計(jì)針對(duì)某個(gè)目標(biāo)進(jìn)行優(yōu)化，但在此過程中，人工智能也會(huì)自然而然地以人類意想不到的方式攻擊系統(tǒng)。所有優(yōu)秀的人工智能系統(tǒng)都能自然而然地找到黑客攻擊點(diǎn)。如果規(guī)則中存在問題、不一致或是漏洞，并且如果這些屬性可以導(dǎo)出一個(gè)能被規(guī)則定義接受的解決方案，那么人工智就一定會(huì)找到。人工智能研究人員將這一問題稱為“目標(biāo)對(duì)齊”。人類無法完美地為人工智能指定目標(biāo)，而人工智能也無法完全理解人類語言上下文的背景。人工智能不會(huì)理解，在排放控制測(cè)試中作弊的方案會(huì)傷害到其他人、破壞了排放控制測(cè)試的意圖，或是其正在違反法律。人工智能會(huì)“跳出盒子想問題”，因?yàn)槠鋵?duì)盒子根本就沒概念，或者是對(duì)現(xiàn)有的人類解決方案的局限性沒概念，又或者是對(duì)倫理沒概念。人工智能可能不會(huì)意識(shí)到自己正在攻擊系統(tǒng)，而且由于可解釋性的問題，人類也可能永遠(yuǎn)都不會(huì)意識(shí)到這一點(diǎn)。（四）人工智能是天生的黑客第一代人工智能黑客已經(jīng)出現(xiàn)。推薦引擎并沒有被編程向人們推送極端內(nèi)容，但系統(tǒng)卻通過不斷地嘗試、查看和修改自身，學(xué)會(huì)了向用戶推送更多的極端內(nèi)容，因?yàn)檫@能提高人們的閱讀或觀看量，會(huì)帶來更多流量。2015年一款人工智能教自己玩電腦游戲“打磚塊”，它沒有被告知任何游戲規(guī)則或策略，只是被賦予了控制權(quán)，且會(huì)因?yàn)樘岣叻謹(jǐn)?shù)而獲得獎(jiǎng)勵(lì)，人工智能卻自主發(fā)現(xiàn)了“隧道”戰(zhàn)術(shù)，砸穿一列磚塊將球送至后墻，并進(jìn)化到了可吊打人類玩家的地步。上述的一切對(duì)人工智能研究人員都不是新聞，很多人目前都在考慮防御“獎(jiǎng)勵(lì)黑客行為”的方法。一種解決方案是教授人工智能理解上下文，通用術(shù)語是“價(jià)值對(duì)齊”：人們?nèi)绾未蛟旆从橙祟悆r(jià)值觀的人工智能？可以從兩個(gè)極端方向來思考解決方法：一種是人們可以明確指定這些價(jià)值觀，今天或多或少可以做到這一點(diǎn)，但容易遭受所有黑客攻擊；另一種是人們可以創(chuàng)造學(xué)習(xí)人類價(jià)值觀的人工智能，可能是通過觀察人類的行動(dòng)，也可能是攝取人類的所有著作等。當(dāng)前的大多數(shù)研究橫跨了這兩個(gè)方向。當(dāng)然，讓人工智能牢記歷史或人類價(jià)值觀將可能會(huì)出現(xiàn)問人工智能應(yīng)該反映誰的價(jià)值觀？一個(gè)索馬里人的？一個(gè)新加坡婦女的？還是兩者的平均值，不管那意味著什么？人類有著自相矛盾的價(jià)值觀。任何個(gè)人的價(jià)值觀都可能是不合理的、不道德的或是基于虛假信息的。在人類的歷史、文學(xué)和哲學(xué)中也有許多不道德的地方。（五）人工智能黑客從科幻到現(xiàn)實(shí)人工智能黑客走向現(xiàn)實(shí)，很大程度上取決于被建模和攻擊的人類系統(tǒng)。系統(tǒng)的所有規(guī)則必須以計(jì)算機(jī)能夠理解的方式形式化。人工智能需要建立精確的目標(biāo)函數(shù)、得到某種形式的反饋，了解自身在破解系統(tǒng)方面的表現(xiàn)，并不斷進(jìn)化和改進(jìn)。但人類社會(huì)的大多數(shù)系統(tǒng)都存在模糊性，這種模糊性很難被轉(zhuǎn)化為規(guī)則，這意味著人工智能將很難處理這種模糊性。很難想象人工智能會(huì)想出一種現(xiàn)實(shí)世界中的運(yùn)動(dòng)技巧，比如彎曲曲棍球桿，人工智能不僅要了解游戲規(guī)則，還要了解球員的生理機(jī)能、球桿和球的空氣動(dòng)力學(xué)等等。這并非不可能，但目前仍是科幻小說。這種模糊性最終成為針對(duì)人工智能黑客的短期安全防御措施。在機(jī)器人真正參與人類運(yùn)動(dòng)項(xiàng)目之前，或者在人類開發(fā)出一種廣泛理解世界的通用人工智能之前，我們不會(huì)有人工智能驅(qū)動(dòng)的運(yùn)動(dòng)黑客。人工智能要花很長(zhǎng)時(shí)間對(duì)人們的工作方式進(jìn)行建模和模擬，也需要很長(zhǎng)時(shí)間才能想出新穎的方法來實(shí)施黑客攻擊?？赡茏钕仍馐苋斯ぶ悄芎诳偷念I(lǐng)域是金融體系，因?yàn)樵擉w系的規(guī)則被設(shè)計(jì)成在算法上便于處理。人們可以想象，為人工智能輸入世界上所有的實(shí)時(shí)金融信息，加上所有的法律法規(guī)，再加上新聞推送和任何人們認(rèn)為可能相關(guān)的其他信息，然后給人工智能設(shè)定“合法攫取最大利潤(rùn)”的目標(biāo)，結(jié)果將是各種新穎的黑客攻擊。這一天不會(huì)太遙遠(yuǎn)，并且可能會(huì)有一些人類無法理解的黑客行為，這意味著人類永遠(yuǎn)不會(huì)意識(shí)到黑客攻擊正在發(fā)生。還有另一個(gè)問題被我們很大程度上忽視了。自20世紀(jì)50年代以來，出現(xiàn)了兩種不同風(fēng)格的人工智能。一種被稱作“符號(hào)人工智能”，致力于通過以目標(biāo)為導(dǎo)向的元素、符號(hào)和事實(shí)操縱來模擬人類的理解。這非常困難，在過去數(shù)十年中并未取得多少實(shí)際進(jìn)展。另一種是“神經(jīng)網(wǎng)絡(luò)”，是一種攝取訓(xùn)練數(shù)據(jù)并會(huì)隨著經(jīng)驗(yàn)轉(zhuǎn)化為更多數(shù)據(jù)而變得更好的人工智能。過去十年間，得益于計(jì)算和數(shù)據(jù)的突飛猛進(jìn)，神經(jīng)網(wǎng)絡(luò)開始真正起飛。無數(shù)的運(yùn)算周期和龐大的數(shù)據(jù)集使神經(jīng)網(wǎng)絡(luò)可以做更多的事情，但人工智能基本上是根據(jù)過去“學(xué)到”的東西做出預(yù)測(cè)：一種復(fù)雜的統(tǒng)計(jì)學(xué)模仿。雖然這類模型能做到的事情令人驚訝，但它做不到的事也有很多。但也要看到，人工智能的進(jìn)步是不連續(xù)的和反直覺的，看似簡(jiǎn)單的事其實(shí)很難，看似困難的事其實(shí)很容易，在任何突破發(fā)生前，人類可能都不會(huì)知道突破的發(fā)生。因此，雖然一個(gè)充斥著人工智能黑客的世界仍舊是一個(gè)科幻問題，但在遙遠(yuǎn)的星系中，這并不是一個(gè)愚蠢的科幻問題。這主要是明天的問題，但人們今天看到了前兆。人類最好開始考慮可執(zhí)行的、可理解的、合乎倫理的解決方案。四、人工智能黑客的影響及應(yīng)對(duì)措施（一）人工智能黑客的影響黑客攻擊與人類一樣古老。人類是創(chuàng)造性的問題解決者。人類是漏洞利用者，操縱系統(tǒng)為人類的利益服務(wù)，為人們爭(zhēng)取更大的影響力、更大的權(quán)力、更多的財(cái)富。權(quán)力為權(quán)力服務(wù)，而黑客攻擊永遠(yuǎn)是其中的一部分。但是，沒有人可以不受約束地最大化自身的利益，即使是反社會(huì)者也受到社會(huì)復(fù)雜性及其自身矛盾沖動(dòng)的約束。這些非常人性化的特質(zhì)限制了黑客攻擊。隨著一切都變得計(jì)算機(jī)化，黑客攻擊也發(fā)生了變化。人工智能不會(huì)像人一樣受相同的約束，也不會(huì)有相同的限制。人工智能會(huì)以人類無法預(yù)料到的方式攻擊系統(tǒng)。計(jì)算機(jī)比人快得多，原本需要數(shù)月或數(shù)年的人工過程可能會(huì)被縮短到數(shù)天、數(shù)小時(shí)乃至數(shù)秒，黑客攻擊將成為人類社會(huì)無法管理的問題。人工智能系統(tǒng)一旦發(fā)現(xiàn)漏洞，將以人類尚未準(zhǔn)備好的規(guī)模利用漏洞。人工智能系統(tǒng)范圍的擴(kuò)大也使攻擊變得更加危險(xiǎn)，人工智能已經(jīng)在做影響人類生活的重要決定。隨著人工智能系統(tǒng)的能力越來越強(qiáng)，社會(huì)將把更多和更重要的決策權(quán)讓渡給它們。人工智能可能會(huì)決定某位實(shí)力經(jīng)紀(jì)人將資助哪些政客，可能會(huì)決定誰有資格投票，可能會(huì)把想要的社會(huì)成果轉(zhuǎn)