人工智能的威脅

1、人工智能的威脅人工智能的威脅假如?紐約時報?的報道屬實，當(dāng)今的人工智能已經(jīng)開展到令人無法想象的程度。比方，自動駕駛汽車；蘋果siri智能語音可以聽出你的聲音，幫你找到最近的電影院。IB公司最近剛剛推出一款冒險智能軟件取代了沃森系統(tǒng)用于醫(yī)療作用，最初是用于培訓(xùn)醫(yī)學(xué)院學(xué)生，最終將運用于臨床治療階段。如今，幾乎不到一個月就有一款最新的人工智能產(chǎn)品問世。不過，其中有許多最新的創(chuàng)造還不成熟，據(jù)我之前的分析，目前我們?nèi)匀粵]有創(chuàng)造出具有想象力，天然語言處理系統(tǒng)的智能，或是智能創(chuàng)造其他機器的才能，而我們在開發(fā)人類大腦的道路上已經(jīng)停滯不前了。在某種程度上，支持者與反對者之間的區(qū)別就是時間期限。比方，將來學(xué)家、創(chuàng)

2、造家雷蒙德庫茲韋爾就認(rèn)為20年智能就能研發(fā)出真正接近人類智力程度的人工智能。而我認(rèn)為這個過程起碼如今，幾乎不到一個月就有一款最新的人工智能產(chǎn)品問世，而我們在開發(fā)人類大腦的道路上已經(jīng)停滯不前了人工智能的威脅格力馬庫斯/文李雨蒙/譯需要20年，尤其要考慮到創(chuàng)造常識正常思維的困難，創(chuàng)造人工智能的挑戰(zhàn)，還有軟件技術(shù)，都比庫茲韋爾預(yù)測的要困難得多。然而，從今往后的一本文由論文聯(lián)盟搜集整理個世紀(jì)里，沒有人會在意人工智能的開展需要多久，只會關(guān)心將會出現(xiàn)哪些先進(jìn)的人工智能?；蛟S在這個世紀(jì)末，人工智能就會變得比人類更加智慧不僅可以解決國際象棋、瑣碎小事等等，根本可以處理所有的事物，無論從數(shù)學(xué)、工廠還是科學(xué)和醫(yī)藥

3、。還剩下一小局部創(chuàng)造類工作留給人類，比方演員，作家或是其他創(chuàng)意類工作。最終的電腦系統(tǒng)可以完成自我編程，獲取大量的最新信息。我們這些碳基生物的模糊印象，他們可以在分分鐘就分析處理完成，也不需要長時間的睡眠或休息。對于支持者來說，人工智能的將來充滿希望。庫茲韋爾就曾撰文發(fā)表自己一個大膽的設(shè)想，就是人類與智能機器結(jié)合，將人類的靈魂上傳到人工智能中，使我們的靈魂永生；彼得迪亞芒蒂斯那么認(rèn)為人工智能是開啟富裕時代，擁有富足食物、水源、消費工具的重要因素。不過，反對者像埃里克布林約爾松和我很擔(dān)憂機器人職業(yè)化和人工智能帶來的隱患，即使不去考慮高級人工智能對勞動力市場的影響，功能強大的智能機器也會威脅人類的生

4、活，與人類爭奪有限的資源。大多數(shù)人把這種擔(dān)憂看作是科幻小說里的蠢話像?終結(jié)者?和?黑客帝國?這類。在一定程度上，我們需要將來很長一段時間做好打算，我們要擔(dān)憂小行星會撞地球，化石燃料產(chǎn)量下降，全球變暖等問題，而不用擔(dān)憂機器人問題?？墒?，詹姆斯巴雷特的黑暗系新書?我們的最終創(chuàng)造：人工智能和人類時代的終結(jié)?，描繪了一種嚴(yán)峻的情況，我們至少應(yīng)該有所考慮。假如機器最終取代了人類正如在人工智能領(lǐng)域工作的人所堅信的那樣，真正的問題在于價值觀：我們?nèi)绾伟褍r值觀輸入機器中，當(dāng)它們的價值觀與我們的價值觀發(fā)生了很大的沖突時，我們該如何和這些機器協(xié)商呢？牛津的哲學(xué)家尼克博斯特羅認(rèn)為：我們不能樂觀地假設(shè)，超級智能一定會

5、分享人類的智慧和智能開展形成的價值觀對科學(xué)的求知欲，對別人的關(guān)心和仁慈，精神啟發(fā)和沉思，抑制物質(zhì)占有欲，高雅的文化品位，對感受簡單生活的快樂，謙虛無私等等?；蛟S通過專門的訓(xùn)練，可以創(chuàng)造出擁有這些價值觀的超級智能，或是珍惜人類財富和高尚道德的超級智能，或是設(shè)計者想要它擁有一些復(fù)雜目的的智能。這是可能的可能從技術(shù)上說更簡單打造一個可以把最終價值都放在計算圓周率小數(shù)上的超級智能。英國控制論學(xué)者凱文沃里克曾問道：當(dāng)機器不在我們?nèi)祟愃幍乃季S次元中考慮時，你如何跟它理論，如何與它做交易，如何能明白它的想法？假如說巴雷特黑暗系理論有破綻的話，那就是他未經(jīng)考慮就提出的假設(shè)：假如機器人聰明到可以下棋，那它可能

6、也會想要制造宇宙飛船在任何足夠復(fù)雜，有目的驅(qū)動的系統(tǒng)中都是天生具有自我保護(hù)和獲取資源的本能。如今大局部機器都非常先進(jìn)，比方，IB公司的深藍(lán)系列電腦，但是目前它們還沒有顯示出想要獲得資源的興趣。可是，在我們感到沾沾自喜，確定無需擔(dān)憂時，別忘了有一點非常重要：我們要意識到隨著機器越來越聰明，它們的目的也是會變化的。一旦電腦可以有效地重新給自己編程，成功地提升自己的性能，到達(dá)所謂的技術(shù)奇點或智能爆炸，那么我們就不能無視機器在與人類搶奪資源和自我保護(hù)的比賽中會有勝過人類的風(fēng)險。在巴雷特書中，最鮮明的觀點之一是來源于著名的系列人工智能企業(yè)家丹尼希利斯，他把即將到來的轉(zhuǎn)變比作生物進(jìn)化史上最重大的轉(zhuǎn)變之一：我們?nèi)缃竦竭_(dá)的高度就像是一個單細(xì)胞有機體轉(zhuǎn)變?yōu)槎嗉?xì)胞有機體的高度。我們是變形蟲，我們不清楚自己在創(chuàng)造的到底是個什么東西。無論怎樣，人工智能的進(jìn)步已經(jīng)到達(dá)了我們從未想過的危險。德雷塞爾大學(xué)的電腦風(fēng)險專家加格跟我說：隨著因特網(wǎng)時代的到來和大數(shù)據(jù)時代的爆炸，人工智能已經(jīng)搜集了有關(guān)我們的許多數(shù)據(jù)，并輸入計算程序，做出預(yù)測，我們無法知道