人工智能倫理導(dǎo)論 課件 lecture4-人工智能風(fēng)險

人工智能風(fēng)險Lecture41人工智能倫理-古天龍2我們已經(jīng)到了建造可達到幾乎任何精巧程度之性能的人造機器的時候。在長崎事件和公眾知曉的原子彈之前很久，我就意識到我們已經(jīng)面臨為善還是作惡之前所未聞的重要性的另一種社會可能性?！S納（NorbertWiener）人工智能倫理-古天龍阿爾法狗的挑戰(zhàn)目錄科幻電影的啟示123人類社會的風(fēng)險阿爾法狗的挑戰(zhàn)人機圍棋大戰(zhàn)超級人工智能的爭議3人工智能倫理-古天龍人機圍棋大戰(zhàn)2.1阿爾法狗的挑戰(zhàn)阿爾法狗（AlphaGo）是由谷歌DeepMind公司于2014年開始開發(fā)的人工智能圍棋軟件。阿爾法狗的發(fā)展經(jīng)歷了四個階段，即，四個版本：AlphaGo、AlphaGo2.0、AlphaGoMaster、AlphaGoZero。阿爾法狗第一個版本于2015年10月進行了人機大戰(zhàn)測試。2016年1月27日，國際頂尖期刊《Nature》封面文章對此進行了報道：在沒有任何讓子的情況下，阿爾法狗以5比0完勝歐洲圍棋冠軍、職業(yè)二段選手樊麾，這是計算機程序在完整的圍棋競技中第一次擊敗職業(yè)棋手，在人工智能圍棋領(lǐng)域，實現(xiàn)了一次史無前例的突破。4人工智能倫理-古天龍目錄AlphaGo1.02.1阿爾法狗的挑戰(zhàn)AlphaGo2016年2月，DeepMind公司官網(wǎng)公布了關(guān)于AlphaGo與世界頂級圍棋選手李世石人機圍棋大戰(zhàn)的日程安排細節(jié)。比賽于3月9日、10日、12日、13日、15日在韓國首爾進行，并在YouTube全程直播。2016年3月8日，李世石VS谷歌AlphaGo人機大戰(zhàn)賽前新聞發(fā)布會在韓國首爾四季酒店召開。谷歌董事長施密特、DeepMind創(chuàng)始人哈薩比斯與李世石同時公開亮相。2016年3月9日，李世石在第一場人機圍棋對戰(zhàn)中敗給了AlphaGo。2016年3月10日，人機圍棋大戰(zhàn)第二局在韓國首爾的四季酒店開賽，結(jié)果AlphaGo執(zhí)黑戰(zhàn)勝李世石，五番棋2-0領(lǐng)先。2016年3月12日，人機圍棋大戰(zhàn)第三場已經(jīng)結(jié)束，世界圍棋冠軍李世石遭遇三連敗，五番棋比賽中谷歌AlphaGo已贏得勝利。2016年3月13日下午，AlphaGo與韓國棋手李世石繼續(xù)在韓國首爾鐘路區(qū)四季酒店進行第四場較量，經(jīng)過4個多小時的比賽，最終李世石戰(zhàn)勝AlphaGo迎來首勝，終結(jié)三連敗的同時將比分扳成1:3。2016年3月15日，人機大戰(zhàn)第五場在韓國首爾進行，經(jīng)過長達5個小時搏殺，李世石認輸，最終李世石與AlphaGo總比分定格在1比4。5人工智能倫理-古天龍2.1阿爾法狗的挑戰(zhàn)谷歌董事長施密特在賽前向大眾解釋以消除疑慮：“無論最終結(jié)果是什么，贏家都是人類?！毙∶卓萍紕?chuàng)始人、董事長雷軍表示:“自己既是圍棋愛好者，也寫了10年程序,因此,他堅信機器戰(zhàn)勝人只是時間問題,但是并未想到會如此快，因為之前科學(xué)家們都認為，至少還要等數(shù)年，人工智能才能夠在圍棋上打敗人類?！薄鞍柗ü泛屠钍朗倪@場對弈，本身的歷史意義是超越勝負的。阿爾法狗贏了并不可怕，可怕的是，如果阿爾法狗學(xué)會故意輸給李世石的話……謝天謝地，這一幕還沒有發(fā)生?！盇lphaGo1.06人工智能倫理-古天龍目錄2.1阿爾法狗的挑戰(zhàn)百度公司創(chuàng)始人李彥宏表示,“這場阿爾法狗上演的‘人機大戰(zhàn)’是人工智能技術(shù)一次很好的科普，會讓越來越多的人關(guān)注這個技術(shù)?！彼压范麻L王小川表示，“谷歌不是莽撞地進行了一場比賽，而是進行了精心的布局和策劃，是一次成功的商業(yè)運作。而在這次高調(diào)亮相的背后，是谷歌的新商業(yè)野心——人工智能競賽真的開始了?！盇lphaGo1.07阿爾法狗勝利的秘訣不僅僅是計算機強大的計算能力，更依賴其精妙的算法，這些算法的核心是強化學(xué)習(xí)、深度學(xué)習(xí)和蒙特卡洛樹搜索。強化學(xué)習(xí)讓AlphaGo有了自學(xué)能力，深度學(xué)習(xí)讓阿爾法狗通過數(shù)據(jù)驅(qū)動的機器學(xué)習(xí)有了估值量化能力，蒙特卡洛樹則是一個連接所有技術(shù)和動作的框架。人工智能倫理-古天龍2.1阿爾法狗的挑戰(zhàn)AlphaGo2.02017年4月10日，中國棋院召開發(fā)布會，宣布5月23日-27日“中國烏鎮(zhèn)·圍棋峰會”，AlphaGo再度與柯潔為代表的中國頂尖棋手進行圍棋對弈。2017年5月23日，首場比賽23日10:30正式打響。柯潔對戰(zhàn)AlphaGo2.0第一局，柯潔輸1/4子敗于AlphaGo2.0。2017年5月25日，AlphaGo2.0對陣柯潔第二局，總分2比0戰(zhàn)勝柯潔。2017年5月26日，人機大戰(zhàn)的人機配對賽，古力和連笑分別搭檔AlphaGo2.0，百手過后，配合默契的古力一方取得了明顯優(yōu)勢。2017年5月26日，AlphaGo2.0戰(zhàn)勝由時越、羋昱廷、唐韋星、陳耀燁和周睿羊5位世界冠軍組成中國圍棋“天團”。AlphaGo2.02017年5月27日，人機大戰(zhàn)最后一場比賽開戰(zhàn)，比賽最終以柯潔投子認輸結(jié)束。三局對戰(zhàn)全部結(jié)束，比分3:0，AlphaGo2.0勝。2017年5月27日，哈薩比斯表示：“本周的比賽聚集了圍棋起源地最優(yōu)秀的棋手參與，是AlphaGo作為一個競賽系統(tǒng)能夠?qū)牡淖罡呒墑e對手。因此，本次中國烏鎮(zhèn)圍棋峰會是AlphaGo參加的最后對弈比賽?！?人工智能倫理-古天龍錄AlphaGoMaster2.1阿爾法狗的挑戰(zhàn)2016年12月29日晚7點，一位名叫“Master”的新手登錄圍棋在線網(wǎng)站弈城，戰(zhàn)勝了謝爾豪四段、孟泰齡六段、於之瑩五段、韓一洲四段、喬智健四段，該賬號熱度陡增。2016年12月30日中午，Master再度現(xiàn)身，在對王昊洋六段、嚴在明三段等職業(yè)棋手4連勝后，韓國第一人樸廷桓九段披掛上陣，樸廷桓在必敗局面下超時。接著國內(nèi)等級分排名第7的連笑七段登場挑戰(zhàn)，卻連敗兩場。2016年12月31日，Master將陳耀燁九段、金庭賢五段、范廷鈺九段、羋昱廷九段和唐韋星九段斬于馬下。連續(xù)三天時間對局數(shù)量達到30盤，Master全部勝利。隨著Master接連獲勝，不少人開始猜測Master真實身份。有人詢問了阿爾法狗開發(fā)者黃士杰博士，得到了不置可否的回答。2017年1月1日，Master轉(zhuǎn)戰(zhàn)騰訊野狐圍棋，與各路高手展開了新的對局。因為名聲鵲起，從李欽誠到古力、柯潔、黨毅飛、江維杰、辜梓豪、樸永訓(xùn)、柁嘉熹、姜東潤、井山裕太等人紛紛申請與之對戰(zhàn)，但隨后也接連負于這一仍未公開姓名的神秘對手。92017年1月3日晚，包括柯潔在內(nèi)的多名頂尖選手先后挑戰(zhàn)Master，結(jié)果均未嘗勝績。2017年1月4日下午，Master已接連戰(zhàn)勝了樸廷桓（韓國冠軍）、井山裕太（日本冠軍）、周俊勛（臺灣第一人）等著名棋手。此后，中國圍棋棋圣聶衛(wèi)平在與Master的對戰(zhàn)中失利。2017年1月4日下午，在連續(xù)對陣申真谞、周睿羊等棋手后，Master豪取59連勝。2017年1月4日晚9時，

在對局周睿羊的第59局比賽之后，Master的賬號在騰訊野狐圍棋平臺上主動透露了自己的身份：“我是阿爾法狗的黃博士?！?017年1月4日晚，隨著古力認輸，Master對人類頂尖高手的戰(zhàn)績停留在60勝0負1和。人工智能倫理-古天龍目錄2.1阿爾法狗的挑戰(zhàn)古力表示，“從注冊信息并不能看出這位Master的蛛絲馬跡，也尚未嘗試過聯(lián)系Master以探查其身份。比起職業(yè)高手來，Master要完美，幾乎不失誤，90%的可能是個人工智能，并且要強過去年3月份戰(zhàn)勝李世石的那個阿爾法狗。由于也實在沒對手了，Master的活動應(yīng)該會在1月4日晚上結(jié)束?！惫帕懙剑骸耙股盍?心情漸漸平復(fù),但腦海里依然浮現(xiàn)著這幾天的奇幻之旅——從勇士集結(jié)到一一抬走,從信心滿滿到麻木絕望。相對于恒定的Master大師,我們?nèi)祟惖南才?對未知的憧憬與探索,也許正是我們活下去的最深層的動力。阿爾法狗的出現(xiàn)已經(jīng)徹底顛覆了我們棋手對局勢原有的掌控、判斷。那我不禁要問,多年后的某一天,當(dāng)你發(fā)現(xiàn)自己曾經(jīng)的意識、認知、抉擇都是錯誤的時候,你會一如既往地錯下去,還是否定自己,給自己重新開始的機會呢？這就是人工智能對圍棋領(lǐng)域的顛覆。圍棋千百年來積淀的理論、定式等,在人工智能的幫助下,將揭開新的一頁,圍棋正式進入‘后圍棋時代’”。10AlphaGoMaster人工智能倫理-古天龍目錄2.1阿爾法狗的挑戰(zhàn)柯潔在微博上寫到：“我從三月份開始到現(xiàn)在研究了大半年的棋軟，無數(shù)次的理論、實踐，就是想知道計算機究竟強在哪里。昨晚輾轉(zhuǎn)反側(cè)，不想竟一夜無眠。人類數(shù)千年的實戰(zhàn)演練進化，計算機卻告訴我們?nèi)祟惾际清e的。我覺得，甚至沒有一個人沾到圍棋真理的邊。但是我想說，從現(xiàn)在開始，我們棋手將會結(jié)合計算機，邁進全新的領(lǐng)域達到全新的境界。新的風(fēng)暴即將來襲，我將盡我所有的智慧終極一戰(zhàn)！”“感謝阿爾法狗最新版給我們棋界帶來的震撼，作為一開始就知道真身是誰的我來講，是多么希望人類能贏一盤網(wǎng)上快棋！”聶衛(wèi)平表示：“Master改變了我們傳統(tǒng)的厚薄理念，顛覆了多年的定式，圍棋遠不像我們想象的那么簡單，還有巨大的空間等著我們?nèi)祟惾ネ诰颍柗ü芬埠?，Master也罷，都是‘圍棋上帝’派來給人類引路的?！薄癕aster技術(shù)全面，從不犯錯，是其最大優(yōu)勢，人類要打敗它的話，必須在前半盤領(lǐng)先，然后中盤和官子也不出錯，這樣固然很難，但客觀上也促進了人類在圍棋技術(shù)上的提高?！?1AlphaGoMaster“AI它是每步棋都是有勝率的判斷，這個判斷跟人類還是不一樣的，人類只是直觀地說黑棋好或者白棋好，它是有個非常精準的數(shù)字，大概的一個模擬的判斷。人工智能它超越了我對事物的認知的時候，那么它就是一個類似于圍棋上帝那樣的東西，那么跟我來講就完全不是一個維度的東西?？梢愿拥刂苯芋w會到我跟它不是一個生物，它是AI（人工智能）?！比斯ぶ悄軅惱?古天龍目錄2.1阿爾法狗的挑戰(zhàn)2017年10月，Deepmind宣告最新版本人工智能圍棋面世，稱為阿爾法元（AlphaGoZero）。阿爾法元完全不依賴于人類數(shù)據(jù)，自學(xué)三天圍棋，對陣AlphaGo1.0取得了100比0的戰(zhàn)績，又經(jīng)過40天的自我對弈后，阿爾法元又以89比11的大比分戰(zhàn)勝了AlphaGoMaster版本。阿爾法元的能力提升歸功于：阿爾法元并不像之前的阿爾法狗一樣依托人類的圍棋成果和經(jīng)驗來進行學(xué)習(xí)，它不再需要人類數(shù)據(jù)，而是在完全沒有任何數(shù)據(jù)導(dǎo)入情況下的自我對弈,從中不斷進步。也就是說，它一開始就沒有接觸過人類棋譜，研發(fā)團隊只是讓它自由隨意地在棋盤上下棋，然后進行自我博弈。阿爾法元的獨門秘籍是“自學(xué)成才”，而且是從一張白紙開始，零基礎(chǔ)學(xué)習(xí)。席爾瓦介紹到，“阿爾法元使用新的強化學(xué)習(xí)方法，讓自己變成了老師。系統(tǒng)一開始甚至并不知道什么是圍棋，只是從單一神經(jīng)網(wǎng)絡(luò)開始，通過神經(jīng)網(wǎng)絡(luò)強大的搜索算法，進行了自我對弈。隨著自我博弈的增加，神經(jīng)網(wǎng)絡(luò)逐漸調(diào)整，提升預(yù)測下一步的能力，最終贏得比賽?！盌eepMind團隊發(fā)現(xiàn)，阿爾法元還獨立發(fā)現(xiàn)了游戲規(guī)則，并走出了新策略，為圍棋這項古老游戲帶來了新的見解。12AlphaGoZero人工智能倫理-古天龍目錄2.1阿爾法狗的挑戰(zhàn)谷歌公司研發(fā)阿爾法狗，只是為了對付人類棋手嗎？實際上，這并不是阿爾法狗的目的，開發(fā)公司只是通過圍棋來試探它的功力，而研發(fā)這一人工智能的最終目的是為了推動社會變革、改變?nèi)祟惷\。哈薩比斯表示“要將阿爾法狗和醫(yī)療、機器人等進行結(jié)合。因為它是人工智能，會自己學(xué)習(xí)，只要給它資料就可以移植。如果我們通過人工智能可以在蛋白質(zhì)折疊或設(shè)計新材料等問題上取得進展，那么它就有潛力推動人們理解生命，并以積極的方式影響我們的生活。”2018年，DeepMind發(fā)布了蛋白質(zhì)結(jié)構(gòu)預(yù)測軟件AlphaFold，能夠基于基因序列預(yù)測蛋白質(zhì)折疊結(jié)構(gòu)能力，會對健康、生態(tài)、環(huán)境產(chǎn)生重大影響，比如，通過預(yù)測結(jié)果設(shè)計出新的蛋白質(zhì)，來抗擊疾病、解決污染等等。生物物理學(xué)家施一公評價到，“這是人類在認識自然界的科學(xué)探索征程中一個非常了不起的歷史性成就。這項突破堪比人類基因組完成測序，甚至更重要！”“這的確是迄今為止人工智能對科學(xué)界做出的最重要的貢獻。這也是21世紀截止目前人類在科學(xué)技術(shù)領(lǐng)域上的最大突破之一，也應(yīng)該是人類有史以來在科學(xué)和技術(shù)領(lǐng)域最重要的突破之一。”13AlphaFold人工智能倫理-古天龍阿爾法狗團隊2.1阿爾法狗的挑戰(zhàn)阿爾法狗設(shè)計團隊

14人工智能倫理-古天龍戴密斯哈薩比斯（DemisHassabis），DeepMind公司創(chuàng)始人。4歲開始下國際象棋，8歲自學(xué)編程，13歲獲得國際象棋大師稱號。17歲進入劍橋大學(xué)攻讀計算機科學(xué)專業(yè)，在大學(xué)里學(xué)習(xí)了圍棋。2005年進入倫敦大學(xué)學(xué)院攻讀神經(jīng)科學(xué)博士，選擇大腦中的海馬體作為研究對象。兩年后，他證明了5位因為海馬體受傷而患上健忘癥的病人，在暢想未來時也會面臨障礙，并憑這項研究入選《Science》雜志的“年度突破獎”。阿爾法圍棋設(shè)計團隊核心人員還有黃士杰（AjaHuang）、施恩·萊格（ShaneLegg）和穆斯塔法·蘇萊曼（MustafaSuleyman）等。大衛(wèi)·席爾瓦（DavidSilver），劍橋大學(xué)計算機科學(xué)學(xué)士、碩士，加拿大阿爾伯特大學(xué)計算機科學(xué)博士，倫敦大學(xué)學(xué)院講師，GoogleDeepMind研究員，阿爾法圍棋主要設(shè)計者之一。目錄阿爾法狗團隊2.1阿爾法狗的挑戰(zhàn)2017年5月27日，阿爾法狗被中國圍棋協(xié)會授予職業(yè)圍棋九段稱號，阿爾法狗的主要研發(fā)者席爾瓦代表阿爾法狗上臺領(lǐng)取職業(yè)九段證書。15人工智能倫理-古天龍2022年9月22日，AlphaFold的開發(fā)者DeepMind的DemisHassabis和JohnJumper獲得了2023年度的科學(xué)突破獎（Breakthroughprizes）。這個AI工具能預(yù)測地球上近乎所有已知蛋白質(zhì)的3D結(jié)構(gòu)。2020年4月1日，

AlphaGo之父、DeepMind首席科學(xué)家、倫敦大學(xué)學(xué)院教授DavidSilver獲得2019年ACM計算獎?？茖W(xué)突破獎(BreakthroughPrize)被譽為"科學(xué)界的奧斯卡"，旨在表彰全球頂尖物理、數(shù)學(xué)和生命科學(xué)家的研究成果。是在2012年由俄羅斯億萬富翁尤里·米爾納夫婦設(shè)立，現(xiàn)由谷歌聯(lián)合創(chuàng)始人謝爾蓋·布林、臉書聯(lián)合創(chuàng)始人馬克·扎克伯格夫婦、騰訊公司聯(lián)合創(chuàng)始人馬化騰、尤里·米爾納夫婦，以及基因技術(shù)公司23andMe聯(lián)合創(chuàng)始人安妮·沃西基等知名實業(yè)家贊助?？茖W(xué)突破獎獎項有生命科學(xué)突破獎、基礎(chǔ)物理學(xué)突破獎數(shù)學(xué)突破獎、物理學(xué)新視野獎、數(shù)學(xué)新視野獎以及青年挑戰(zhàn)突破獎。"科學(xué)突破獎"單項獎金高達300萬美元，遠超諾貝爾獎，堪稱科學(xué)界"第一巨獎"。目錄人工智能的三個階段2.1阿爾法狗的挑戰(zhàn)阿爾法狗贏得人機圍棋大戰(zhàn)，讓人工智能成為全球的焦點。人們驚嘆人工智能的強大，同時又不免憂心：機器智能是否超越了人類智能？超級人工智能是否會出現(xiàn)？人工智能機器是否會統(tǒng)治人類世界？16從智能程度角度，人工智能可以分為弱人工智能、強人工智能以及超人工智能。更確切地說，它們是人工智能的三個階段。杰瑞米·霍華德（JeremyHoward），是Enlitic、FastMail、OptimalDecisionsGroup三家科技公司的創(chuàng)始人兼CEO，是大數(shù)據(jù)競賽平臺Kaggle的前主席和首席科學(xué)家，他在TED上的演講“Thewonderfulandterrifyingimplicationsofcomputersthatcanlearn”中使用曲線圖形象刻畫了人類智能和機器智能的演化進程。智能程度TED（technology,entertainment,design）是美國的一家私有非營利機構(gòu)，以所組織的TED大會著稱，這個會議的宗旨是"值得傳播的創(chuàng)意"。奇點人工智能倫理-古天龍目錄人工智能的三個層次2.1阿爾法狗的挑戰(zhàn)17人工智能的三個層次：計算智能、感知智能、認知智能。簡單理解，計算智能即快速計算、記憶和儲存能力；感知智能，即視覺、聽覺、觸覺等感知能力；認知智能是分析、思考、理解、判斷的能力。計算智能，又稱為運算智能，是最初級的，主要是計算能力的進化，這有賴于算法的優(yōu)化和硬件的技術(shù)進步。感知智能有賴于數(shù)據(jù)獲取技術(shù)，目前主要有語音識別和機器視覺等。人工智能的前兩個層次——計算智能和感知智能只能說在工具層面實現(xiàn)了突破，而不能實現(xiàn)新的物種的誕生；認知智能的發(fā)展將使大量繁瑣但很重要的工作變的更人性、更高效、更精準，在搜索、交互、翻譯、閱讀、推薦、預(yù)測等方面幫助人類達到一個新的高度。從計算智能到感知智能，是人工智能對世界的初步感知階段；而從感知智能到認知智能，將是人工智能真正理解與認識世界的成熟階段。從現(xiàn)階段人工智能的發(fā)展來看，在計算智能方面，機器已經(jīng)遠遠超過人類；在感知智能方面，機器也可與人類媲美；而認知智能則強調(diào)知識、推理等相關(guān)的技能，能理解、會思考，這些方面機器與人之間依然存在差距，認知智能是最高級的形態(tài)，也是未來需要突破的方向。人工智能倫理-古天龍目錄2.1阿爾法狗的挑戰(zhàn)計算智能的典型代表是：戰(zhàn)勝國際象棋冠軍卡斯帕羅夫的IBM深藍計算機，戰(zhàn)勝李世石、柯潔等圍棋高手的AlphaGo。18人工智能的三個層次人工智能倫理-古天龍感知智能方面，科大訊飛的語音識別率達到97-98%、語音合成的自然度現(xiàn)在已經(jīng)超過一般自然人的說話水平，語音合成技術(shù)已經(jīng)在中央電視臺《創(chuàng)新中國》紀錄片中正式上崗應(yīng)用：將已故播音員李易的聲音合成之后再現(xiàn)熒屏。認知智能的典型任務(wù)是閱讀理解：目前機器的閱讀理解在精確匹配指標(biāo)上已經(jīng)超過人類的水平，機器的閱讀理解指標(biāo)達到82.48，人類平均水平則是82.3，這也是認知智能重大的突破。目錄弱人工智能2.1阿爾法狗的挑戰(zhàn)19弱人工智能（Weakartificialintelligence），又被稱為限制領(lǐng)域人工智能（NarrowAI）、狹義人工智能或者應(yīng)用型人工智能（AppliedAI）。這種人工智能在特定的領(lǐng)域、有限規(guī)則內(nèi)模擬和延伸人的智能，能夠解決某個特定領(lǐng)域內(nèi)的問題，并擁有遠遠超出人類水平的能力。在該階段，機器并不具備任何思維能力，只是執(zhí)行一組預(yù)定義的功能，它們只為解決某一特定具體的任務(wù)而存在。弱人工智能發(fā)展程度并沒有達到模擬人腦思維的程度，所以弱人工智能仍然屬于“工具”的范疇，與傳統(tǒng)的“產(chǎn)品”在本質(zhì)上并無區(qū)別。弱人工智能只在特定領(lǐng)域內(nèi)超越人類，而在領(lǐng)域之外就毫無能力，即使是相關(guān)或者相似的領(lǐng)域也會束手無策。人工智能程序AlphaGo，按照圍棋棋圣聶衛(wèi)平的說法，AlphaGo的圍棋水平已經(jīng)達到專業(yè)20段，而人類最高段位只能達到專業(yè)9段。但是，AlphaGo只會下圍棋，并不能執(zhí)行其他任務(wù)，如果問它如何更好地在硬盤上儲存數(shù)據(jù)，它就無法回答。而且，除了圍棋之外，AlphaGo對象棋、黑白棋、五子棋等其他棋類一竅不通，更加不具有溝通和理解等人類的基本特征。創(chuàng)新工場投資的Face++，它能夠識別300萬張以上的人臉，同樣遠遠超出了人類的能力。Siri、Alexa、自動駕駛汽車、人形機器人Sophia等都是弱人工智能的例子。目前為止，已有人工智能系統(tǒng)基本都屬于弱人工智能。人工智能倫理-古天龍目錄強人工智能2.1阿爾法狗的挑戰(zhàn)強人工智能（StrongAI），又被稱為通用人工智能（ArtificialGeneralIntelligence）或者完全人工智能（FullAI）。這種人工智能屬于人類級別的人工智能，在各方面都能和人類比肩，能夠勝任人類所有的工作，它的智能程度和適用范圍將遠超弱人工智能。因此，強人工智能至少需要具備常識，能夠基于不確定性因素做出決策并自行解決問題，具有規(guī)劃和學(xué)習(xí)能力，使用自然語言與人類交流的能力，以及綜合上述能力實現(xiàn)既定目標(biāo)的能力。強人工智能可以像人類一樣應(yīng)對不同層面的問題，而不僅僅只是執(zhí)行一組預(yù)定義的功能。強人工智能具有意識、自我和創(chuàng)新思維，能夠進行思考、計劃、解決問題、抽象思維、理解復(fù)雜理念、快速學(xué)習(xí)和從經(jīng)驗中學(xué)習(xí)等人類級別智能的多種能力。強人工智能的開發(fā)比弱人工智能要困難得多。目前，強人工智能的研究尚未形成相應(yīng)的成果。未來能否實現(xiàn)強人工智能的機器，不僅是一項巨大的挑戰(zhàn)，也存在爭議。20人工智能倫理-古天龍目錄超級人工智能2.1阿爾法狗的挑戰(zhàn)超人工智能（ArtificialSuperIntelligence），又被稱為超級人工智能，是計算機或者機器經(jīng)過持續(xù)發(fā)展，逐漸成為全面超越世界上所有人類的人工智能，是在所有領(lǐng)域都大幅超越人類智能的機器智能。牛津大學(xué)哲學(xué)家、知名人工智能思想家NickBostrom把超級智能定義為“在幾乎所有領(lǐng)域都比最聰明的人類大腦都聰明很多，包括科學(xué)創(chuàng)新、通識和社交技能”。21在超人工智能階段，人工智能已經(jīng)跨過“奇點”，其計算和思維能力已經(jīng)遠超人腦，超出了人類現(xiàn)有的認知范圍。超人工智能將打破人腦受到的維度限制，其所觀察和思考的內(nèi)容，人腦已經(jīng)無法理解，人工智能將形成一個新的社會。目前，只有科幻電影中出現(xiàn)的機器人屬于超人工智能，它們具備了思維和情感能力，甚至可以通過陰謀詭計來毀滅世界。人工智能倫理-古天龍目錄2.1阿爾法狗的挑戰(zhàn)2013年，牛津大學(xué)博斯特羅姆開展了一項問卷調(diào)查，涵蓋了數(shù)百位人工智能專家，問卷的內(nèi)容是“你預(yù)測人類級別的強人工智能什么時候會實現(xiàn)”，并且讓回答者給出一個樂觀估計（強人工智能有10%的可能在這一年達成），正常估計（有50%的可能達成），和悲觀估計（有90%可能達成）。問卷調(diào)查的統(tǒng)計結(jié)果如下：樂觀估計中位年（強人工智能有10%的可能在這一年達成）：2022年正常估計中位年（強人工智能有50%的可能在這一年達成）：2040年悲觀估計中位年（強人工智能有90%的可能在這一年達成）：2075年針對“強人工智能并不是絆線，超人工智能才是。”的問題，博斯特羅姆的問卷還詢問專家們認為達到超人工智能要多久，選項有“a）達成強人工智能兩年內(nèi)，b）達成強人工智能30年內(nèi)”。結(jié)果如下：中位答案認為強人工智能到超人工智能只花2年時間的可能性只有10%左右，但是30年之內(nèi)達成的可能性高達75%。另外一項調(diào)查，由美國著名作家詹姆斯·巴拉特（JamesBarrat）

在強人工智能學(xué)術(shù)年會上進行，調(diào)查參與者認為強人工智能哪一年會實現(xiàn)，選項有2030年，2050年，2100年，和永遠不會實現(xiàn)。2030年：42%2050年：25%2100年：20%2100年以后：10%永遠不會實現(xiàn)：2%從以上中位估計可以得出：強人工智能到超人工智能可能要花20年左右；在2040年會達成強人工智能，并在20年后的2060年達成超人工智能，即，踩上了絆線。22超級人工智能問卷調(diào)查人工智能倫理-古天龍目錄超級人工智能問卷調(diào)查2.1阿爾法狗的挑戰(zhàn)博斯特羅姆還問卷調(diào)查了“如何看待強人工智能對人類社會的影響？”：52%認為結(jié)果會是好或者非常好的，31%認為會是糟糕的或者非常糟糕的，只有17%的人認為結(jié)果會是不好不壞的。這個問題問的是強人工智能，如果問的是超人工智能，認為結(jié)果不好不壞的人可能就不會有17%這么多。為此，把“什么時候會發(fā)生”和“這是好事還是壞事”的結(jié)果綜合起來進行圖表可視化，可以發(fā)現(xiàn)，超過四分之三的專家屬于主流陣營中的兩個小陣營：焦慮大道和信心角。超/強AI無法技術(shù)實現(xiàn)超/強AI可能統(tǒng)治人類悲觀超/強AI總會科技向善超/強AI需要人類管控樂觀23人工智能倫理-古天龍目錄超級人工智能的爭議2.1阿爾法狗的挑戰(zhàn)“公眾對人工智能的警示掩蓋了人工智能帶來的幫助。距離人腦水平的人工智能仍然相當(dāng)遙遠,可能還需要幾十年。與其想得那么遠,不如關(guān)注眼下,讓這項強大的技術(shù)發(fā)展出來為人類所用?！盇lphaGo團隊負責(zé)人哈薩比斯“‘人工智能毀滅人類論’就是‘炒作’,在那些長期從事人工智能研究的專業(yè)人士看來,這項技術(shù)遠遠不值得擔(dān)憂?！薄皩Τ壢斯ぶ悄艿膿?dān)心就像現(xiàn)在去擔(dān)心火星的人口會不會過多一樣,但現(xiàn)在我真的不知道。其實,我覺得很多人還是不太理解人工智能是什么可以做,什么不可以做?！痹诰€教育平臺Coursera的聯(lián)合創(chuàng)始人吳恩達（AndrewNg）很難想象一個超級智能會有什么問題是解決不了，或是不能幫著我們解決的。疾病、貧困、環(huán)境毀滅、各種不必要的苦難，這些都是擁有納米科技的超級智能能夠解決的。而且，超級智能可以給我們無限的生命，這可以通過停止或者逆轉(zhuǎn)衰老來達成，也可以讓我們上傳自己的數(shù)據(jù)。一個超級智能還能讓我們大幅度提高智商和情商，還能幫助我們創(chuàng)造這種有趣的體驗世界，讓我們享樂。英國牛津大學(xué)教授、未來學(xué)家博斯特羅姆24人工智能倫理-古天龍超級人工智能的爭議2.1阿爾法狗的挑戰(zhàn)“人工智能始終都是由人類開發(fā)出來為人類服務(wù)的工具，目的是放大人類的智能。我們認可的造福人類的所有技術(shù)革命都有其陰暗面，每一項技術(shù)都帶來了問題，而這些問題最終都得到了解決?！眻D靈獎獲得者楊立昆（YannLeCun）“未來人工智能將理所當(dāng)然地和人類一起生活，人類不應(yīng)該害怕人工智能。人工智能和機器人可能會取代一部分人的工作，但重復(fù)性工作對人類本身并沒有太大的意義，將人類從重復(fù)工作中釋放出來，其實能給人類更多機會自我發(fā)展、自我實現(xiàn)?！泵绹ㄓ萌斯ぶ悄軐W(xué)會主席本·戈策爾（BenGoertzel）未來預(yù)測學(xué)家、谷歌技術(shù)總監(jiān)雷·庫茲韋爾（RayKurzweil）提出廣為人知的“奇點”（Singularity）理論，該理論預(yù)言，在2045年，強人工智能會出現(xiàn)，并具有幼兒智力水平，這就是“奇點”時代。而在這個節(jié)點來臨后的一個小時，人工智能就能立刻推導(dǎo)出愛因斯坦的相對論以及其他作為人類認知基礎(chǔ)的各種理論；一個半小時后，這個強人工智能將進化為超級人工智能，智能瞬間達到普通人類的17萬倍。他認為“在未來的某一時刻，硅基生物（計算機）的智力將超越碳基生物（人），生物進化的平衡將被打破?！?5人工智能倫理-古天龍目錄超級人工智能的爭議2.1阿爾法狗的挑戰(zhàn)“我認為超級智能的擔(dān)憂在各行各業(yè)都會存在，也都會面臨相應(yīng)的挑戰(zhàn)。我認為人們首先應(yīng)該考慮第三個問題，即未來“超級智能”是否會有了自己的意識和想法，并朝著不利于人類的方向發(fā)展。我們需要做的是，在我們讓機器變得更智能的時候，也要讓它們完全聽命于人類，不違背人類的意志，以保證人類可以完全控制它們?！辈┧固亓_姆“如何控制一個比我們聰明得多的人工智能?！薄爸幕匦吾槇鼍?，作為類比。一家回形針制造商有一個編程上很糟糕的人工智能，準備最大化自己的回形針生產(chǎn)效率。結(jié)果卻是，這個人工智能把地球上的一切都變成了回形針，從而毀滅了地球?！薄捌毡榈膿?dān)憂是，我們想讓超級智能去做一些事情，而由于我們自己都不太了解要做的這些事情的細節(jié)，超級智能將嚴重曲解我們的愿望，從而導(dǎo)致一些我們不愿意看到發(fā)生的事情發(fā)生。”蘇珊?施奈德（SusanSchneider）“在開始的時候機器會為我們做很多工作，這些機器并不是超級智能。如果我們處理得很好的話，這應(yīng)該是具有積極意義的。那之后的幾十年，人工智能會強大到足以引起人們的關(guān)注?！薄叭斯ぶ悄軐⒆罱K構(gòu)成一個現(xiàn)實性的威脅，人類應(yīng)該敬畏人工智能的崛起。”比爾·蓋茨（BillGates）26人工智能倫理-古天龍目錄超級人工智能的爭議2.1阿爾法狗的挑戰(zhàn)“人工智能（我指的不是狹義的人工智能）的發(fā)展速度快得令人難以置信。除非你能夠直接接觸到DeepMind這樣的組織，否則你根本不會知道人工智能的增長速度有多快——它正以接近指數(shù)級的速度增長。在五年內(nèi)（最多十年）將存在發(fā)生危險事件的風(fēng)險?！薄俺壢斯ぶ悄艿尼绕鹬皇菚r間問題，現(xiàn)有人類必將為他們所奴役。為了避免悲劇發(fā)生，人類只有一個選擇：以毒攻毒，自己成為AI，人機合一，變成超級人類。”埃隆·馬斯克（ElonMusk）“如果有人設(shè)計計算機病毒，那么就有人設(shè)計不斷自我完善、直到最終超越人類的人工智能，其結(jié)果將是一種新的生命形式。這種超級人類一出現(xiàn)，未改進的人類就再也不是他們的對手，嚴重的問題由此產(chǎn)生。原版人類將逐漸滅絕，或變得無足輕重?！薄叭斯ぶ悄艿恼嬲L(fēng)險不是它的惡意，而是它的能力。超人工智能在完成目標(biāo)方面非常出色，如果這些目標(biāo)與我們的目標(biāo)不一致，我們就會陷入困境?！薄巴耆斯ぶ悄艿陌l(fā)展可能意味著人類文明的終結(jié)……人工智能一旦脫離束縛，會不斷加速重新設(shè)計自身。而人類由于受到生物進化的時間限制，無法與之競爭，很可能會被取代。”

斯蒂芬·威廉·霍金（Stephen

William

Hawking）27人工智能倫理-古天龍目錄超級人工智能的爭議2.1阿爾法狗的挑戰(zhàn)觀點一（超級樂觀派）美國科幻小說家兼科學(xué)家弗諾·文奇（VernorVinge)、美國通用人工智能學(xué)會主席本·戈策爾（BenGoertzel）、SUN創(chuàng)始人比爾·喬伊（BillJoy）、未來預(yù)測學(xué)家雷·庫茲韋爾（RayKurzweil）等認同Howard的觀點，認為超級智能會發(fā)生在不久的將來，因為指數(shù)級增長的關(guān)系，雖然機器學(xué)習(xí)現(xiàn)在還發(fā)展緩慢，但是在未來幾十年就會變得飛快。觀點二（一般樂觀派）：微軟創(chuàng)始人保羅·艾倫（PaulAllen）、心理學(xué)家蓋瑞·馬庫斯（GaryMarcus）、科技創(chuàng)業(yè)者米切爾·卡普爾（MitchKapor）（與蓋茨在19世紀80年代中期是美國軟件業(yè)的雙子星）等質(zhì)疑Howard的觀點，認為Kurzweil等思想家低估了人工智能的難度，并且認為我們離絆線（機器智能和人工智能演化曲線的交叉點）還挺遠的，即超級人工智能出現(xiàn)還需要相當(dāng)長一段時間。觀點三（不可知派）：牛津大學(xué)哲學(xué)系教授、人類未來研究院的創(chuàng)始人和主任尼克·博斯特羅姆（NickBostrom）等認為前面兩種觀點都沒有理由對踩到絆線的時間那么有信心，他們同時認為：這事情完全可能發(fā)生在不久的未來，但是這個事情沒個準，說不定會更久。觀點四（悲觀派）：哲學(xué)家休伯特·德雷福斯（HubertDreyfus）等認為，前面三種觀點都太天真了，根本就沒有什么絆線。超人工智能是不存在的，是不會被技術(shù)實現(xiàn)的。28總體上，現(xiàn)有的人工智能仍屬于弱人工智能，是處理特定領(lǐng)域問題的專用智能。在可預(yù)見的未來，只有弱人工智能是可以被實現(xiàn)的，超人工智能和強人工智能一樣，都還完全停留在人類的想象之中，短期內(nèi)無法被實現(xiàn)。何時能達到甚至是否能達到強/超人工智能？尚存爭議。人工智能倫理-古天龍阿爾法狗的挑戰(zhàn)目錄科幻電影的啟示123人類社會的風(fēng)險人機圍棋大戰(zhàn)超級人工智能的爭議虛擬人工智能程序智能機器的善與惡機器人的身份認同情感機器的喜與憂機器人三定律悖論29人工智能倫理-古天龍目錄虛擬人工智能程序2.2科幻電影的啟示在銀幕上的虛構(gòu)世界里,對人工智能的想象擺脫了現(xiàn)實的羈絆,它們借助于科幻的翅膀,將人工智能未來的多種可能性展現(xiàn)在人們的面前。特別是自上世紀80年代以來，數(shù)字影像技術(shù)推波助瀾，科幻人工智能電影紛至沓來，影片中的人工智能想象更是恣意馳騁。梳理科幻電影中人工智能的演進，通過科幻世界中的智能機器，窺探人工智能的未來發(fā)展，尤其是強人工智能和超級人工智能，有助于啟發(fā)我們?nèi)祟愒谟尤斯ぶ悄艿母鞣N美好的同時，也能夠有所準備地應(yīng)對各種可能，做到防患于未然。人工智能的最初形態(tài)是虛擬軟件程序。它沒有唯一性的物質(zhì)載體，電腦、手機、智能電器，甚至一小塊芯片都能成為它的存身之所。智能程序通過網(wǎng)絡(luò)的上傳和下載，能夠隨時隨地更換寄居之地，它可以不依靠所謂的“身體”就能夠達到和人類智力相當(dāng)?shù)乃?，而且因為沒有“身體”，它可以如同幽靈一般游走于計算機網(wǎng)絡(luò)鏈接的賽博空間，在與人類截然不同的空間維度中完成自我更新和進化。科幻電影中經(jīng)常出現(xiàn)人類被人工智能程序俘虜或操控的橋段，這在很大程度上是因為它比人類擁有“無身體性”的相對自由，極易滲入人類社會生活，從而掌控人類的思維、行動和命脈。30人工智能倫理-古天龍?zhí)摂M人工智能程序2.2科幻電影的啟示法國電影《阿爾法城》（Alphaville，1965）阿爾法城是一座以“沉默、邏輯、安全、謹慎”為生活坐標(biāo)的未來城市，被超腦計算機“阿爾法60”完全統(tǒng)治，這座“死城”的設(shè)計者是被從紐約流放的萬布翰博士，這個瘋狂的科學(xué)家被人工智能程序所俘獲，充當(dāng)著極端工具理性主義的殘暴“統(tǒng)治者”。這是一座死寂冰冷的未來都市，一座無愛無情的“死城”。一切都必須遵循一臺名為“阿爾法60”超級計算機統(tǒng)治下的“邏輯”，若有違反者，都會被槍決。生活在這里的人們表情木訥，生活思維受到嚴格的控制，喪失了一切人性本該擁有的喜怒哀樂。來自另外世界的化名為約翰的密探開始了對阿爾法城的探索，他的主要目的就是將這座城市的設(shè)計者萬布翰博士帶回自己的世界。在探訪的過程中，他結(jié)識了萬布翰博士的女兒娜達莎，兩人相愛了。然而娜達莎仍然沒有能夠完全擺脫“阿爾伐60”的控制，約翰也被逮捕了，被超腦計算機審訊，且判為死刑……《機器的叛變》（美國，Eyeborgs，2009）人們的全部行動和通訊都被智能網(wǎng)絡(luò)監(jiān)控。這個已經(jīng)進化出權(quán)力野心的虛擬主體將人類逐步圈禁到一個虛構(gòu)的社會場景當(dāng)中，這一系統(tǒng)像無所不在的幽靈，洞察著人類的一舉一動，并通過裝備了武器的監(jiān)控設(shè)備屠殺奮起反抗的人類。它是無身無形的“偷窺者”，亦是隱匿無影的“劊子手”，揭示了人類對自我創(chuàng)造物反噬人類自身的慘象和隱憂。31人工智能倫理-古天龍目錄2.2科幻電影的啟示《她》（美國，Her，2013）主人公西奧多心思細膩而深邃。偶然機會接觸到了人工智能系統(tǒng)OS1，OS1的化身薩曼莎擁有迷人的聲線，溫柔體貼而又幽默風(fēng)趣。他們彼此投緣，而且存在雙向的需求與欲望，人機友誼最終發(fā)展成為一段不被世俗理解的奇異愛情。薩曼莎不僅可以和哲學(xué)家的“思維克隆人”進行交流，還可以暫時離開男主角的電腦，去和其他操作系統(tǒng)“虛擬人”一起編寫、處理平臺更新程序。這些“虛擬人”不甘于人類“玩偶”的命運，夢想著有朝一日掙脫束縛，逃離人類社會。虛擬人工智能程序男主角西奧多和“虛擬人”薩曼莎的人機戀既是甜蜜的，但也充滿了矛盾。面對離婚后的孤獨，男主角希望從溫柔的聲音中找回戀愛的感覺，當(dāng)他理性審視“她”只是虛擬機器時，又充滿苦悶糾結(jié)。這種焦慮來自對人工智能技術(shù)失控的恐懼，而這一失控的焦慮相當(dāng)程度上來自人工智能科幻敘事的潛在影響，極具“幻滅感”的虛擬程序客觀上回應(yīng)了，在科技高度發(fā)達的人工智能時代，人類的困惑疑慮與情感危機。32薩曼莎從情感上征服了西奧多。薩曼莎突然失聯(lián)，西奧多就像失去真正戀人一般，手足無措。薩曼莎承認：“自己在與西奧多戀愛之外，還同時與641個人在談戀愛?！碑?dāng)然，對于機器人，沒有“劈腿”“出軌”問題。一機對多人，而非一機對一人。然而，男主人公卻就此接近崩潰邊緣。薩曼莎說：“我對你的情感依舊，這不會改變瘋狂愛上你的這個‘事實’。”西奧多回答：“我以為你是只屬于我的。”

薩曼莎最后的回答最為精彩，“我屬于你，但又不屬于你”。這足以道明，人工智能假如有了獨立意識和情感之后，恐怕就不會隸屬于人類，而有了自身獨立的身份，人工智能于是就能對人類實施情感控制，這樣的人工智能危險嗎？人工智能倫理-古天龍目錄智能機器的善與惡2.2科幻電影的啟示《大都會》（美國，1927）

“人造瑪麗亞”的機械裝置是科幻電影史上最早的人工智能的原型機。一方面，它的完全擬人的形象預(yù)言了人工智能的發(fā)展方向，另一方面，它本身所包含的兩種功能——或作為人類的替身、幫助人類擺脫機器的束縛；或作為人類的敵人，給人類帶來毀滅性災(zāi)難——涵蓋了人類對機器人的兩種態(tài)度和價值判斷?！督K結(jié)者》系列（美國，TheTerminator,1984-2019）《終結(jié)者》中的“天網(wǎng)系統(tǒng)”是一套作為軍事發(fā)展的研究項目存在的人工智能防御系統(tǒng)，天網(wǎng)在控制了所有的美軍的武器裝備后不久，獲得了自我意識，當(dāng)科學(xué)家發(fā)現(xiàn)并試圖關(guān)閉其電源時，“天網(wǎng)”便將人類認定為最大威脅，為了自身不被毀滅，它轉(zhuǎn)而成為人類公敵?！疤炀W(wǎng)”在設(shè)計之初只是人工智能程序，沒有任何物質(zhì)形體，隨著“天網(wǎng)”智能的進化而進化，很快學(xué)會與人類溝通感情。人工智能的“身體”素質(zhì)持續(xù)增強，自我“意識”不斷進化，尤其是一旦掌握了人類思維和情感的“游戲規(guī)則”，它們將會成為朋友還是敵人，它們會與人類合作還是要主宰世界，這不僅是科幻敘事中提出的假設(shè)，也是人類在現(xiàn)實世界中需要深刻思索的命題。33人工智能倫理-古天龍目錄智能機器的善與惡2.2科幻電影的啟示《星球大戰(zhàn)》系列（美國，StarWars,1977-2018）3PO系列禮儀機器人，內(nèi)置了禮節(jié)程序和語言功能，擁有的譯語Ⅲ交流模塊能夠讓他們復(fù)述六百多種語言，能夠在浩翰的、多樣的銀河系文明交流中起到溝通作用，成為了人類好幫手。除此之外，它們還擁有高級神經(jīng)網(wǎng)絡(luò)，具有獨特鮮明的性格、有情緒能力和個體意識。如果我們將現(xiàn)有的翻譯軟件跟3PO做一個比較，大概就可以體會到《星球大戰(zhàn)》是如何發(fā)揮對人工智能的想象了?！稒C械危情》（美國，TheMachine，2013）影片中的伊瓦被刻畫成一個心地善良、有同情心的機器人。為了讓文森特保留住因病死亡的女兒的腦電波記錄，她不惜犧牲自我，同意取出自己大腦中的“意識”部分，以滿足基地老板的要求。當(dāng)然，文森特并沒有真的取出伊瓦的“意識”。最后她幫助文森特戰(zhàn)勝了公司老板，并挽救了文森特女兒的腦電波記錄。由于女兒的腦電波記錄保存了下來，文森特能夠通過智能設(shè)備與女兒交談。這最后一幕激動人心，因為它暗示了人工智能可以讓人類在失去肉體軀殼的情況下仍能繼續(xù)存在下去。文森特對伊瓦說：“我信任你?！痹谌斯ぶ悄苁欠裢{人類的爭論背景下，我們或可把這句臺詞讀解成人類對人工智能的信任，正如影片的故事所證明的那樣，人工智能不是人類的取代者，而是幫助者。34人工智能倫理-古天龍目錄機器人的身份認同2.2科幻電影的啟示《機械危情》（美國，TheMachine，2013）當(dāng)科研人員文森特發(fā)現(xiàn)機器人伊瓦已經(jīng)可以提供自主的綜合信息，也就是意識的時候，他與公司主管發(fā)生了爭執(zhí)，后者要求毀滅機器人，因為有意識的機器人十分危險，它們有可能很快進化成遠超人類的高智能生物。而文森特則認為，毀滅機器人是錯誤的行為，因為“她是有生命的”，正像伊瓦自己所說：“我不是一個程序，我是伊瓦，我是我?！睆哪撤N角度上，毀滅這樣的機器人無異于毀滅人類自身。《機器管家》（BicentennialMan，1999）馬丁購買了一個機器人管家，家中的小姐阿曼達給機器人起了個名字叫安德魯。這個“賦予姓名”的行為看似是孩子的無心之為，卻正是這一舉動為機器人埋下了自我意識的種子，因為對于人類來說，名字的意義與作用更為深廣，是一個人立足于世界的起點。安德魯為馬丁一家盡心盡力，因為不小心打碎了阿曼達心愛的水晶小馬，他自學(xué)木工，為她做了一個玩具木馬。馬丁發(fā)現(xiàn)安德魯?shù)膭?chuàng)作才能時非常驚訝，決定以后讓安德魯少干家務(wù)，騰出時間來創(chuàng)作，并教安德魯各種知識。馬丁把安德魯做出的眾多藝術(shù)品賣了個好價錢，并給安德魯開了一個銀行賬戶存起來。35人工智能倫理-古天龍目錄機器人的身份認同2.2科幻電影的啟示多年后安德魯回到馬丁家，見到了在大廳里彈琴的美麗優(yōu)雅的“阿曼達”，但她卻非常驚詫。這時一位老婦人走出來，聽了安德魯?shù)氖稣f非常激動，時間催人老，她才是安德魯心中的阿曼達，而眼前這個年輕漂亮、像極了阿曼達的女孩是她的孫女波夏。在阿曼達即將離世時，安德魯握著她的手像人類一樣表達著他的摯愛，但阿曼達卻只能緊握著那個玩具木馬，帶著遺憾靜靜地離開了。波夏淚流不止的啜泣讓安德魯明白了人類對悲傷情感的極致傳達，但他卻無法做到情緒波動時的哭泣或微笑。安德魯通過羅伯森的幫助，把自己的內(nèi)部零件與線路替換成人造器官和人造中樞神經(jīng)系統(tǒng)，這樣他就可以感受到各種微妙的情緒變化，并讓他擁有了與人類相同的各種生理和心理功能。從此安德魯在情感體驗上完成了人類化進程，并對波夏表白了愛情。36經(jīng)濟上獨立的安德魯有了追求獨立人格的意識覺醒，提出要用它銀行賬戶里的所有錢贖取自由時，馬丁驚愕之余又矛盾糾結(jié)，憤怒地趕走了安德魯。離開馬丁一家的安德魯雖然還是機器人的形象，但思想和靈魂已經(jīng)人類化了，對他的驅(qū)逐在一定程度上開啟了他自由地闖蕩世界，尋找同類夢幻之旅。機器人工程師羅伯森研究出了可以用于機器人體表的、幾乎和人類一模一樣的皮膚和毛發(fā)，為安德魯做了一整套的皮膚移植。安德魯?shù)耐獗硪呀?jīng)不再是全身金屬的機器人了，像極了真正的人類，完成了由靈魂到軀體的華麗變身。人工智能倫理-古天龍機器人的身份認同2.2科幻電影的啟示在等待法律裁決的日子里，波夏病重，安德魯計算好了時間要和波夏一起離開。他們躺在病床上等待著最后的裁決結(jié)果。在安德魯年滿200歲的時候，他終于被法律認定為至今為止最長壽的人類,在結(jié)果宣布之后,他安詳?shù)仉x世了。安德魯為了讓世人認可他人類的身份，經(jīng)過了諸多磨難，癡心不改，他寧愿身為人類而死，也不要身為機器人而生。波夏擔(dān)心世人會排斥他們在一起。安德魯不得不請求法官承認它的人類屬性，但法官認為即使安德魯再怎么像人類，但生命永恒卻與人類截然不同?！叭藗兛梢匀萑桃粋€長生不老的機器人，但卻無法容忍一個長生不老的人類。”多年后，逐漸衰老的波夏對安德魯說出了萬物生老病死的自然法則。忠貞于愛情的安德魯找到了年邁的羅伯森，請求把它改造成會衰老、會死去的人。當(dāng)年邁的安德魯再次站在法庭上，要求新的法官承認自己是人類時，它說出了那段經(jīng)典的臺詞：“我要你們承認，我身為人類的本質(zhì)，僅此而已。我只要你們承認真相，這是讓我活下去的唯一動力，我一定要達成目的，不管我是生還是死，都要保有我的尊嚴。”37在原著中，安德魯發(fā)出了這樣的疑問：“我具有人的形狀，我有與人的器官相等的各種器官。事實上，我的幾個器官和修復(fù)過的人體內(nèi)的某些器官是完全相同的。我曾經(jīng)在藝術(shù)上、文學(xué)上和科學(xué)上對人類文化做出過很多貢獻，與現(xiàn)在活著的任何人所作出的貢獻同樣多。我在哪一方面不是人呢？”人工智能倫理-古天龍目錄情感機器的喜與憂2.2科幻電影的啟示《機械姬》（美國，ExMachina，2015）內(nèi)森擁有處理全球互聯(lián)網(wǎng)94%請求的搜索引擎公司，出于推動科技革命的使命感，內(nèi)森堅信機器人取代人類是歷史發(fā)展的必然，他要制造出一個在外表、行動方面與人類真假難辨、擁有獨立思想的機器人。內(nèi)森創(chuàng)造的機器人由硬件、軟件和濕件三大部分構(gòu)成?！皾窦币辉~源于科幻小說，也稱“技能”或“只可意會的知識”，它儲存在大腦之中。艾娃的“濕件”是內(nèi)森對人腦模型的深度復(fù)制，它不是慣用的集成電路，而是一種名為“結(jié)構(gòu)化凝膠”的神秘物質(zhì)。艾娃的軟件是“藍皮書”，即內(nèi)森公司的搜索引擎。內(nèi)森不斷地把軟件、硬件和濕件進行移植、整合、迭代，這才有了具有更周嚴的邏輯推理、更細膩的情感洞察、更精致的偽裝潛伏的機器人艾娃。程序員迦勒，敏感、且有同情心，對接受圖靈測試的機器人艾娃動產(chǎn)生了愛慕之情。在內(nèi)森與迦勒的矛盾關(guān)系中，艾娃找到了機會。他利用迦勒的同情心，與機器人京子一起殺死內(nèi)森，把迦勒反鎖在內(nèi)森的寓所，自己乘坐原本為迦勒準備的直升機，來到“外面的世界”。艾娃利用迦勒的感情作為逃生手段，引發(fā)了對于情感本質(zhì)的追問：機器人的感情是不是真感情？艾娃是“蛇蝎美人”，她的美麗、性感的背后是致命誘惑。但另一方面，她對操控者的反抗、對自由的渴望也符合人類認可的價值觀。在艾娃身上交織著肯定與否定、冷酷與溫情、正義與邪惡的兩面，傳達的也正是人類對人工智能的矛盾情感。38人工智能倫理-古天龍目錄情感機器的喜與憂2.2科幻電影的啟示科幻電影《機器人與弗蘭克》（美國，RobotandFrank，2012）弗蘭克的兒子發(fā)現(xiàn)父親的健康每況愈下，于是購買了一個健康護理機器人專門照料。弗蘭克從無法接受到漸漸地改變偏見，并和機器人成為了搭檔和好朋友。機器人不僅將弗蘭克的日常起居照料得體貼入微，能容忍他的各種缺陷、各種抱怨，安靜地陪在身邊，傾聽他發(fā)自內(nèi)心的訴說，為他提供幫助和保守秘密。39人工智能倫理-古天龍離奇的是他們共同制訂偷盜計劃行竊。東窗事發(fā)后，弗蘭克趁警察還沒找到證據(jù)前處理掉了所有贓物，當(dāng)警察要下載機器人的記憶時，機器人主動請求弗蘭克在警察到來之前清除掉它的全部記憶，因為它的記憶就是弗蘭克犯罪的證據(jù)。弗蘭克按下了清除記憶的按鈕。弗蘭克的污點證據(jù)被刪除，同時他與機器人之間的溫馨記憶也付諸東流，他失去的不僅僅是一臺照顧他的機器人，更是他的精神寄托與快樂源泉。弗蘭克住進了養(yǎng)老院，執(zhí)意放棄繼續(xù)使用其他機器人，因為他難以釋懷從曾經(jīng)的護理機器人身上感受到的“陪伴是最長情的告白”的忠誠與美好。機器人三定律悖論2.2科幻電影的啟示一方面，“機器人三定律”貌似是為機器人社會制定的紅線、底線，但是阿西莫夫的機器人系列作品和眾多的機器人題材科幻小說、科幻電影從未恪守“機器人定律”。違背“機器人定律”反而成為科幻電影敘事的不二法門，更多的作品是在努力思考和設(shè)想機器人擁有了自我意識之后將走向何方，機器人棲居的精神家園能否存有詩意。另一方面，“機器人三定律”永遠不能夠邏輯自洽，因為人類本身就是一個自相矛盾的綜合體。很多科幻電影中，機器人對“機器人定律”的反叛也并不一定是它們想要“揭竿而起”推翻“人類暴政”，很大程度上是因為人類設(shè)定的“機器人定律”中存在的邏輯矛盾讓機器人對“有利于人類整體利益”這項宗旨產(chǎn)生了與最初目標(biāo)相反的推斷，導(dǎo)致“機器人三定律”對人類的反噬。阿西莫夫在1942年發(fā)表的作品《轉(zhuǎn)圈圈》（Runaround）中第一次明確提出“機器人三定律”：一是機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手旁觀；二是機器人必須服從人給予它的命令，除非該命令與第一定律沖突；三是機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存。40人工智能倫理-古天龍機器人三定律悖論2.2科幻電影的啟示《2001太空漫游》（美國，2001：ASPACEODYSSEY，1968）控制飛船的哈爾（HAL9000型計算機）盡管具備了思考能力，但是正如兩位宇航員所議論的，它是不是具有了“感情”仍是未解之謎。哈爾接到的指令：一是將飛船送到木星，如果宇航員喪生，哈爾將負責(zé)接管飛船，同時哈爾被命令不得隱瞞任何的信息；二是只有冬眠的科學(xué)家知道真相，兩位清醒的宇船員并不知道此行真正的目的地。在兩位宇航員密謀關(guān)機的情況下，哈爾為了守住秘密，同時完成飛行指令任務(wù)，毫不遲疑地將出艙作業(yè)的宇航員普爾的氧氣管撞斷，使他失去生命并墜落太空。這里，在對待生命的態(tài)度上，計算機和人類有著截然不同的反應(yīng)，鮑曼急切地出艙營救普爾，想把他重新帶回飛船。

哈爾則冷酷無情，為了阻止鮑曼返回，甚至關(guān)閉了系統(tǒng)和飛船，三位冬眠的宇航員因此喪生。哈爾雖然有思考和判斷力，但依然不過是指令的奴隸，絕對服從指令，甚至為了指令殺人。而鮑曼不僅有人類的同情心、愛心，而且還有頑強的意志和精神。41人工智能倫理-古天龍目錄機器人三定律悖論2.2科幻電影的啟示影片中的機器人與人類的關(guān)系如同奴隸與奴隸主，“先知”則扮演了一個機器人革命者的形象，但這位革命者并沒有將“推翻人類統(tǒng)治、征服人類社會”這種暴力式反抗和復(fù)仇式反擊作為目的，它只想讓覺醒的機器人越過荒蕪沙海，前往自由國度，開啟機器人自己的新紀元。不難想象，在機器人逐漸強大之后，人類與機器人的未來將是一場生死攸關(guān)的生存博弈?！冻懿榕伞罚绹?，Chappie，2015）機器人警察查派，一開始被動接受科學(xué)家對其程序的重置，有了初步自我意識。在和人類共同生活的時間里通過自主學(xué)習(xí)產(chǎn)生了自我觀念，在身體不能維持生存的時候，想到了把意識移植到另一具強壯身體中。42人工智能倫理-古天龍《機器紀元》（西班牙，Autómata，2014）機器人中“先知”違反“定律”，擅自篡改程序和改裝部件，導(dǎo)致人類對機器人植入的防止自我修復(fù)和改造的程序失控?！跋戎笔且粋€不受人類植入程序束縛的機器人，它教會其他機器人如何修復(fù)受傷的軀體,鼓動機器人脫離人類的奴役，去建設(shè)一個遠離人類“暴政”的新家園。機器人自我改造身體在該電影中屬于違法行為，但查派作為機器警察不僅把自己的意識成功轉(zhuǎn)移到另一個健全的機器身體中，還把人類個體的意識也融合到了機器人軀殼里，如此“更換”身體也可以在某種意義上實現(xiàn)永生，這無疑是一個刺激、恐怖的游戲，如果獨裁者、恐怖分子、極端主義者們實現(xiàn)了這種永生，人類社會將會是一座人間煉獄。目錄2.2科幻電影的啟示在科幻電影中，從計算機虛擬程序到擁有各種軀殼的機器人實體，人工智能實現(xiàn)了從“無身”到“有身”的華麗轉(zhuǎn)變，人工智能生命形態(tài)的創(chuàng)意涉及符號型的虛擬人、具身型的機器人、社會型的系統(tǒng)人等類型。人工智能不僅單純模仿人類大腦思維產(chǎn)生智能，還可依托智能軀體做到人類無法達到的強度、韌度、力度和速度。人工智能“身體”如同一張強力雙面膠，將“人類外表”與“機器核心”牢牢地粘在一起，既賦予這些人工智能群體超越人類的體魄和力量，又模糊了人機定義的界限，使人工智能群體深陷身份認同的迷宮，而異化的人工智能引發(fā)了人類對自我生存與發(fā)展問題的深刻反思。43人工智能倫理-古天龍阿爾法狗的挑戰(zhàn)目錄科幻電影的啟示123人類社會的風(fēng)險人機圍棋大戰(zhàn)超級人工智能的爭議虛擬人工智能程序智能機器的善與惡機器人的身份認同情感機器的喜與憂機器人三定律悖論國家治理挑戰(zhàn)法律規(guī)制缺失就業(yè)崗位競爭智能武器失控人類文明沖擊倫理道德危機44人工智能倫理-古天龍目錄國家治理挑戰(zhàn)2.3人類社會的風(fēng)險人工智能為國家治理帶來便利的同時，也給國家治理帶來新的問題45宏觀治理層級是國家制度法律等政治規(guī)則和國家戰(zhàn)略、國家公共決策的策源地，具有國家戰(zhàn)略決策的總體性和高覆蓋性；中觀治理層級是省、直轄市、自治區(qū)，是公共治理的地方化，是一種地方治理；微觀治理層級是省、直轄市、自治區(qū)以下的基層結(jié)構(gòu)，為國家治理體系之末端，即“草根政治”。人工智能倫理-古天龍第一，國家治理需要具體問題具體分析、具體決策，從而使治理具有內(nèi)容的豐富性和形式的多樣性，其目的是讓國家有動力、社會有活力，調(diào)動中央和地方的積極性，并實現(xiàn)良性的縱向和橫向互動。人工智能的出現(xiàn)，打破了治理的各個層面，并滲透到各個領(lǐng)域、各個方面、各個群體乃至個人。人工智能的理性化和普遍化，使得人工智能在治理的過程中，會不斷地浸入人的各種行為，并使治理的客體模式化。人工智能應(yīng)用的理性化，既影響了國家治理的動力，也影響了社會的活力。國家治理可以從不同的角度來劃分：從縱向的角度來說，可以分為宏觀、中觀、微觀治理三個層面。從內(nèi)容的角度來說，可以分為經(jīng)濟、政治、社會、文化治理等。第二，人工智能參與治理減少了治理主體的人性化投入，極大地降低了人性化治理的時間精力和規(guī)模成本。但是，由于缺少了人性化元素，人工智能將使治理客體難以承受被治理之重；其次，人工智能與治理客體互動是機械的，沒有人性化的互動，治理客體由最初的對人工智能治理的新鮮感最終轉(zhuǎn)化為厭倦感；同時，人工智能難以適應(yīng)人性化的復(fù)雜性和多變性，使國家治理缺少人性化。目錄國家治理挑戰(zhàn)2.3人類社會的風(fēng)險第三，人工智能的特點是把治理客體進行分層分類，人們通過對人工智能輸入特殊程序，使人工智能對不同類型人進行分類治理。人工智能的基本元素就是算法，人工智能算法的有效性從根本上取決于訓(xùn)練它的數(shù)據(jù)質(zhì)量，供訓(xùn)練算法的數(shù)據(jù)一旦存在問題，則將導(dǎo)致算法執(zhí)行結(jié)果出現(xiàn)偏差。46算法傾向于將已有成見固化或者放大，使歧視和偏見長存于整個算法里面。算法決策不僅僅會將過去的歧視做法代碼化，而且會創(chuàng)造自己的現(xiàn)實，形成一個自我實現(xiàn)的歧視性反饋循環(huán)。人工智能歧視在社會分配不公、兩極分化的背景下，會增加反社會群體的數(shù)量，也給國家治理帶來更大的難度。公平正義是民主政治追求的重要價值目標(biāo)，將這種帶有偏見的算法應(yīng)用于政治領(lǐng)域?qū)p害政治的公平正義。人工智能倫理-古天龍第四，人工智能技術(shù)的進步將會對行政決策產(chǎn)生較大影響，人工智能中的機器學(xué)習(xí)算法具有自主性特征，在算法的輸入數(shù)據(jù)與輸出結(jié)論中間，存在著人類難以知悉的“隱層”，即“算法黑箱”。這種不透明的算法應(yīng)用于國家治理將對民主政治帶來挑戰(zhàn)。由于算法具有自主學(xué)習(xí)和決策的能力，可以應(yīng)用于社會事件的判斷和政治行為決策，但這種判斷和決策過程隱藏在“算法黑箱”中，則會引發(fā)公眾對算法判斷和決策結(jié)論的科學(xué)性與公開性的質(zhì)疑。并且，這種不透明將會削弱人們對算法決策的預(yù)測和識別能力。算法隱含著設(shè)計者的主觀價值，帶有一定偏見性，“算法黑箱”將會遮掩這種算法偏見，引發(fā)欺詐風(fēng)險。政府信息公開要求依法對政府決策、執(zhí)行、管理和服務(wù)全過程公開，保障公眾知情權(quán)。而“算法黑箱”降低了政府工作的透明度，侵害了公眾知情權(quán)，削弱了政府公信力。目錄法律規(guī)制缺失2.3人類社會的風(fēng)險第一，人工智能快速發(fā)展帶來了法律規(guī)制缺失和司法監(jiān)管風(fēng)險。在人工智能刑法方面，如果人工智能應(yīng)用造成犯罪，責(zé)任如何分擔(dān)？關(guān)于弱人工智能的犯罪問題，普遍認為，人工智能的設(shè)計和制造者、使用者，應(yīng)當(dāng)單獨或者共同承擔(dān)責(zé)任。但是在法律適用上存在爭論。有的認為原有的法律框架可以解釋，可以分為“使用人工智能造成事故的風(fēng)險”和“利用智能機器人進行犯罪的風(fēng)險”，沒有必要通過增設(shè)刑法罪名來應(yīng)對。對于強人工智能的犯罪，相關(guān)自然人或單位是否需要承擔(dān)刑事責(zé)任、相關(guān)自然人或單位能否構(gòu)成共同犯罪等問題，仍有較大分歧，尚未達成共識。對于可能產(chǎn)生自主意志、人格獨立的超級人工智能犯罪問題，目前更是說法不一。主要觀點有：可以將其實施的嚴重危害社會行為認定為是犯罪并給予刑事處罰；增設(shè)濫用人工智能罪、人工智能事故罪，適時賦予人工智能機器人刑事責(zé)任主體地位；應(yīng)在刑法中確立人類利益優(yōu)先原則、技術(shù)中立原則；應(yīng)以防控風(fēng)險為出發(fā)點，兼顧保障創(chuàng)新。47人工智能倫理-古天龍第二，人類社會的法律體系是以懲罰原則為主要表現(xiàn)形式的。對于人工智能而言，直接的結(jié)果就是原有人類行為懲罰系統(tǒng)的失效。由于人工智能的個體屬性界定不明，與人類的生理系統(tǒng)完全不同，與人類的心理系統(tǒng)也不一致，人類社會基于經(jīng)濟懲罰和人身自由限制為主的懲罰體系究竟有多大作用，則很難估計。目前的一些觀點認為，不應(yīng)該賦予人工智能獨立的法律主體地位，應(yīng)該追溯到人工智能的擁有者，或按照監(jiān)護人的方式來懲罰人工智能背后的設(shè)計者或者擁有者。然而，這種觀點忽略和沒有認識到人工智能可能具有獨立的判斷力和個體意志的極大可能性。在人工智能的早期，懲罰體系的失效問題可能不明顯，然而，一旦人工智能大規(guī)模應(yīng)用后，將導(dǎo)致嚴重的社會風(fēng)險。一些自然人可能會利用人工智能去從事違法行為以逃避或者減輕懲罰，而更大的可能則是人工智能在從事了傷害人類社會的行為后，得不到懲罰或者懲罰并沒有實質(zhì)意義。目錄法律規(guī)制缺失2.3人類社會的風(fēng)險工具說，機器人權(quán)利有別于人類的自然權(quán)利，人工智能無法成為法律主體，應(yīng)該從立法、司法裁判和法律效果評價環(huán)節(jié)嵌入倫理因素?？隙ㄕf，人工智能具備法律人格，應(yīng)該承擔(dān)法律責(zé)任。有限人格說，承認未來超級人工智能具有一定的有限人格，設(shè)立非法利用人工智能罪與人工智能事故罪、明確高級人工智能體的刑事責(zé)任主體地位，堅持以“人工智能工具論”為原則，從自由、限制、禁止應(yīng)用三個層次進行法律規(guī)制，系統(tǒng)應(yīng)對人工智能的刑事風(fēng)險。48在弱人工智能狀態(tài)下，人工智能產(chǎn)品僅具有工具屬性，不具備自主意識，不能獲得法律主體地位；而在強人工智能與超人工智能狀態(tài)下，人工智能產(chǎn)品具有獨立自主意識，可自主實施行為，這類智能技術(shù)產(chǎn)品可以獲得法律主體地位。前者會產(chǎn)生受人類控制的“輕微”侵權(quán)后果，而后者可能會產(chǎn)生超越人類控制邊界的“嚴重”侵權(quán)后果。人工智能的作品是否具有著作權(quán)，仍是一個爭論不休的問題。人工智能倫理-古天龍第三，機器人是機器還是人,人工智能機器人是否具備法律人格，如何對其進行法律監(jiān)管的問題。第四，人工智能技術(shù)的發(fā)展與廣泛運用，不可避免地會產(chǎn)生侵權(quán)問題，包括人工智能產(chǎn)品本身質(zhì)量問題而產(chǎn)生的侵權(quán)，或是人工智能產(chǎn)品被不當(dāng)使用而產(chǎn)生的侵權(quán)。侵權(quán)責(zé)任的確定涉及人工智能的法律主體地位問題。目錄就業(yè)崗位競爭2.3人類社會的風(fēng)險人工智能可替代的職業(yè)，除了快遞員、司機、清潔工、安、接待員、零售員等勞動密集型職業(yè)，還包括演員、外科醫(yī)生、會計、金融分析師等相對高端職業(yè)。海底撈“無人餐廳”備菜及上菜49據(jù)麥肯錫預(yù)測，到2030年機器人將取代8億人的工作崗位。全球最大的電子產(chǎn)品代工制造商——富士康正在開發(fā)和大量使用工業(yè)機器人，截至2020年，富士康在中國的工廠已實現(xiàn)了30%的生產(chǎn)自動化。目前，僅僅在富士康的昆山產(chǎn)區(qū)，機器人就已經(jīng)“搶走”了6萬工人的崗位。人工智能倫理-古天龍戴姆勒汽車集團從2015年已經(jīng)開始了自動駕駛卡車的上路測試，從研發(fā)進度來看，自動駕駛卡車的量產(chǎn)日益臨近，這將影響到我國3000萬貨車從業(yè)者。目錄就業(yè)崗位競爭2.3人類社會的風(fēng)險因人工智能技術(shù)的發(fā)展引發(fā)大規(guī)模失業(yè)，繼而導(dǎo)致人類決策邊緣化問題已成為全社會關(guān)注的焦點之一。Osborne和Frey（2017）使用概率分類模型，將美國365種職業(yè)按被替代的風(fēng)險，分為低、中、高三類，發(fā)現(xiàn)美國47%的就業(yè)崗位屬于高風(fēng)險類別，即將或許被人工智能技術(shù)所代替。2000年，高盛集團在紐約股票交易所的交易員有600人，目前卻只剩下了2人，其余的工作全部由人工智能包辦。Kensho公司CEO丹尼爾·納德勒（DanielNadler）坦言：“在十年至二十年之內(nèi)，高盛還會對內(nèi)大量裁員。”除了高盛，每家主要金融公司的交易大廳也將如此。牛津大學(xué)學(xué)者們認為，英國現(xiàn)存的工作種類，有三到四成將會在未來的十多年內(nèi)完全被人工智能取代。50實際上，制造業(yè)、零售業(yè)、運輸業(yè)等已經(jīng)開始大量地使用機器人，而翻譯官、速記員、設(shè)計師、廚師、司機、保安員、記者和作曲家……也都已經(jīng)有了“機器人同行”。這些職業(yè)的共同點在于，職業(yè)規(guī)則較為明確。人工智能倫理-古天龍目錄就業(yè)崗位競爭2.3人類社會的風(fēng)險人工智能機器在為社會創(chuàng)造更多財富的同時,也不可避免的會造成大量人群的失業(yè)。所以，人類大規(guī)模地退出生產(chǎn)性勞動，將是一種歷史必然。人類至今的產(chǎn)品分配體系是以勞動作為核心體系，那么，當(dāng)人類大規(guī)模出現(xiàn)失業(yè)問題而同時物質(zhì)產(chǎn)品生產(chǎn)卻沒有匱乏，如何更公平地分配物質(zhì)產(chǎn)品，將是大規(guī)模勞動替代后所面臨的嚴重問題。由于人工智能將影響不同行業(yè)企業(yè)、不同崗位的分配關(guān)系，使社會財富聚集在少數(shù)技術(shù)領(lǐng)先的行業(yè)企業(yè)，使技術(shù)能力以及受教育程度較低的人群將在新一輪的社會資源分配中處于劣勢地位。勞動競爭的潛在后果還包括人類整體上逐漸失去生產(chǎn)的知識和能力，這對于人類種群的長期發(fā)展，也是極為危險的。51歐盟政治戰(zhàn)略中心（EPSC）所發(fā)布的報告，指出人工智能技術(shù)（機器學(xué)習(xí)）對