人工智能的威脅

1、人工智能的威脅人工智能的威脅假如?紐約時(shí)報(bào)?的報(bào)道屬實(shí)，當(dāng)今的人工智能已經(jīng)開(kāi)展到令人無(wú)法想象的程度。比方，自動(dòng)駕駛汽車；蘋果siri智能語(yǔ)音可以聽(tīng)出你的聲音，幫你找到最近的電影院。IB公司最近剛剛推出一款冒險(xiǎn)智能軟件取代了沃森系統(tǒng)用于醫(yī)療作用，最初是用于培訓(xùn)醫(yī)學(xué)院學(xué)生，最終將運(yùn)用于臨床治療階段。如今，幾乎不到一個(gè)月就有一款最新的人工智能產(chǎn)品問(wèn)世。不過(guò)，其中有許多最新的創(chuàng)造還不成熟，據(jù)我之前的分析，目前我們?nèi)匀粵](méi)有創(chuàng)造出具有想象力，天然語(yǔ)言處理系統(tǒng)的智能，或是智能創(chuàng)造其他機(jī)器的才能，而我們?cè)陂_(kāi)發(fā)人類大腦的道路上已經(jīng)停滯不前了。在某種程度上，支持者與反對(duì)者之間的區(qū)別就是時(shí)間期限。比方，將來(lái)學(xué)家、創(chuàng)

2、造家雷蒙德庫(kù)茲韋爾就認(rèn)為20年智能就能研發(fā)出真正接近人類智力程度的人工智能。而我認(rèn)為這個(gè)過(guò)程起碼如今，幾乎不到一個(gè)月就有一款最新的人工智能產(chǎn)品問(wèn)世，而我們?cè)陂_(kāi)發(fā)人類大腦的道路上已經(jīng)停滯不前了人工智能的威脅格力馬庫(kù)斯/文李雨蒙/譯需要20年，尤其要考慮到創(chuàng)造常識(shí)正常思維的困難，創(chuàng)造人工智能的挑戰(zhàn)，還有軟件技術(shù)，都比庫(kù)茲韋爾預(yù)測(cè)的要困難得多。然而，從今往后的一本文由論文聯(lián)盟搜集整理個(gè)世紀(jì)里，沒(méi)有人會(huì)在意人工智能的開(kāi)展需要多久，只會(huì)關(guān)心將會(huì)出現(xiàn)哪些先進(jìn)的人工智能?；蛟S在這個(gè)世紀(jì)末，人工智能就會(huì)變得比人類更加智慧不僅可以解決國(guó)際象棋、瑣碎小事等等，根本可以處理所有的事物，無(wú)論從數(shù)學(xué)、工廠還是科學(xué)和醫(yī)藥

3、。還剩下一小局部創(chuàng)造類工作留給人類，比方演員，作家或是其他創(chuàng)意類工作。最終的電腦系統(tǒng)可以完成自我編程，獲取大量的最新信息。我們這些碳基生物的模糊印象，他們可以在分分鐘就分析處理完成，也不需要長(zhǎng)時(shí)間的睡眠或休息。對(duì)于支持者來(lái)說(shuō)，人工智能的將來(lái)充滿希望。庫(kù)茲韋爾就曾撰文發(fā)表自己一個(gè)大膽的設(shè)想，就是人類與智能機(jī)器結(jié)合，將人類的靈魂上傳到人工智能中，使我們的靈魂永生；彼得迪亞芒蒂斯那么認(rèn)為人工智能是開(kāi)啟富裕時(shí)代，擁有富足食物、水源、消費(fèi)工具的重要因素。不過(guò)，反對(duì)者像埃里克布林約爾松和我很擔(dān)憂機(jī)器人職業(yè)化和人工智能帶來(lái)的隱患，即使不去考慮高級(jí)人工智能對(duì)勞動(dòng)力市場(chǎng)的影響，功能強(qiáng)大的智能機(jī)器也會(huì)威脅人類的生

4、活，與人類爭(zhēng)奪有限的資源。大多數(shù)人把這種擔(dān)憂看作是科幻小說(shuō)里的蠢話像?終結(jié)者?和?黑客帝國(guó)?這類。在一定程度上，我們需要將來(lái)很長(zhǎng)一段時(shí)間做好打算，我們要擔(dān)憂小行星會(huì)撞地球，化石燃料產(chǎn)量下降，全球變暖等問(wèn)題，而不用擔(dān)憂機(jī)器人問(wèn)題。可是，詹姆斯巴雷特的黑暗系新書?我們的最終創(chuàng)造：人工智能和人類時(shí)代的終結(jié)?，描繪了一種嚴(yán)峻的情況，我們至少應(yīng)該有所考慮。假如機(jī)器最終取代了人類正如在人工智能領(lǐng)域工作的人所堅(jiān)信的那樣，真正的問(wèn)題在于價(jià)值觀：我們?nèi)绾伟褍r(jià)值觀輸入機(jī)器中，當(dāng)它們的價(jià)值觀與我們的價(jià)值觀發(fā)生了很大的沖突時(shí)，我們?cè)撊绾魏瓦@些機(jī)器協(xié)商呢？牛津的哲學(xué)家尼克博斯特羅認(rèn)為：我們不能樂(lè)觀地假設(shè)，超級(jí)智能一定會(huì)

5、分享人類的智慧和智能開(kāi)展形成的價(jià)值觀對(duì)科學(xué)的求知欲，對(duì)別人的關(guān)心和仁慈，精神啟發(fā)和沉思，抑制物質(zhì)占有欲，高雅的文化品位，對(duì)感受簡(jiǎn)單生活的快樂(lè)，謙虛無(wú)私等等?；蛟S通過(guò)專門的訓(xùn)練，可以創(chuàng)造出擁有這些價(jià)值觀的超級(jí)智能，或是珍惜人類財(cái)富和高尚道德的超級(jí)智能，或是設(shè)計(jì)者想要它擁有一些復(fù)雜目的的智能。這是可能的可能從技術(shù)上說(shuō)更簡(jiǎn)單打造一個(gè)可以把最終價(jià)值都放在計(jì)算圓周率小數(shù)上的超級(jí)智能。英國(guó)控制論學(xué)者凱文沃里克曾問(wèn)道：當(dāng)機(jī)器不在我們?nèi)祟愃幍乃季S次元中考慮時(shí)，你如何跟它理論，如何與它做交易，如何能明白它的想法？假如說(shuō)巴雷特黑暗系理論有破綻的話，那就是他未經(jīng)考慮就提出的假設(shè)：假如機(jī)器人聰明到可以下棋，那它可能

6、也會(huì)想要制造宇宙飛船在任何足夠復(fù)雜，有目的驅(qū)動(dòng)的系統(tǒng)中都是天生具有自我保護(hù)和獲取資源的本能。如今大局部機(jī)器都非常先進(jìn)，比方，IB公司的深藍(lán)系列電腦，但是目前它們還沒(méi)有顯示出想要獲得資源的興趣?？墒?，在我們感到沾沾自喜，確定無(wú)需擔(dān)憂時(shí)，別忘了有一點(diǎn)非常重要：我們要意識(shí)到隨著機(jī)器越來(lái)越聰明，它們的目的也是會(huì)變化的。一旦電腦可以有效地重新給自己編程，成功地提升自己的性能，到達(dá)所謂的技術(shù)奇點(diǎn)或智能爆炸，那么我們就不能無(wú)視機(jī)器在與人類搶奪資源和自我保護(hù)的比賽中會(huì)有勝過(guò)人類的風(fēng)險(xiǎn)。在巴雷特書中，最鮮明的觀點(diǎn)之一是來(lái)源于著名的系列人工智能企業(yè)家丹尼希利斯，他把即將到來(lái)的轉(zhuǎn)變比作生物進(jìn)化史上最重大的轉(zhuǎn)變之一：我們?nèi)缃竦竭_(dá)的高度就像是一個(gè)單細(xì)胞有機(jī)體轉(zhuǎn)變?yōu)槎嗉?xì)胞有機(jī)體的高度。我們是變形蟲，我們不清楚自己在創(chuàng)造的到底是個(gè)什么東西。無(wú)論怎樣，人工智能的進(jìn)步已經(jīng)到達(dá)了我們從未想過(guò)的危險(xiǎn)。德雷塞爾大學(xué)的電腦風(fēng)險(xiǎn)專家加格跟我說(shuō)：隨著因特網(wǎng)時(shí)代的到來(lái)和大數(shù)據(jù)時(shí)代的爆炸，人工智能已經(jīng)搜集了有關(guān)我們的許多數(shù)據(jù)，并輸入計(jì)算程序，做出預(yù)測(cè)，我們無(wú)法知道