分析：是什么讓我對(duì)人工智能憂心忡忡

【計(jì)算機(jī)論文】分析：是什么讓我對(duì)人工智能憂心忡忡？

(電子商務(wù)研究中心訊)如果你身在20世紀(jì)80年代、90年代左右，你可能還記得已經(jīng)消失的“電腦恐懼癥”。直到21世紀(jì)初，我還親身經(jīng)歷過(guò)隨著個(gè)人電腦在我們的生活、工作和家庭中出現(xiàn)，很多人會(huì)焦慮、恐懼甚至出現(xiàn)攻擊行為。雖然其中的一些人被電腦吸引，并且看到了電腦的潛力，但大多數(shù)人并不了解電腦。這些人對(duì)電腦感到陌生、費(fèi)解，并在許多方面存在著威脅。他們害怕被技術(shù)取代。大多數(shù)人對(duì)技術(shù)的態(tài)度，最好的情況是反感，最壞的情況是恐慌——也許對(duì)任何變化，人們的反應(yīng)都是這樣的。值得注意的是：我們所擔(dān)心的，大部分都是杞人憂天。讓我們快進(jìn)一下：因電腦而擔(dān)憂的人已經(jīng)不能沒(méi)有電腦了，并且他們用電腦為自己謀利。計(jì)算機(jī)并沒(méi)有取代我們，也沒(méi)有引發(fā)大規(guī)模失業(yè)。反倒是現(xiàn)在，我們無(wú)法想象沒(méi)有筆記本電腦、平板電腦和智能手機(jī)的生活。昔日的杞人憂天卻朝著相反的方向發(fā)展，我們的擔(dān)憂未能實(shí)現(xiàn)。但同時(shí)，在20世紀(jì)80年代和90年代，沒(méi)有人警告我們電腦和互聯(lián)網(wǎng)將會(huì)產(chǎn)生一定的威脅——無(wú)處不在的大規(guī)模監(jiān)控：黑客通過(guò)追蹤網(wǎng)絡(luò)設(shè)施或者個(gè)人數(shù)據(jù)，人們通過(guò)社交網(wǎng)絡(luò)表現(xiàn)出心理異化，人們的耐心和注意力喪失，網(wǎng)上易受政治思想或宗教激進(jìn)化的影響，敵對(duì)的境外勢(shì)力劫持社交網(wǎng)絡(luò)以破壞國(guó)家主權(quán)。如果大部分的恐懼變得非理性的話，相反地，人們才發(fā)現(xiàn)過(guò)去由于技術(shù)變化而產(chǎn)生的擔(dān)憂已成為現(xiàn)實(shí)。一百年前，我們無(wú)法真正預(yù)測(cè)到，正在開(kāi)發(fā)的運(yùn)輸和制造技術(shù)將導(dǎo)致新的工業(yè)戰(zhàn)爭(zhēng)，而這在兩次世界大戰(zhàn)中使數(shù)千萬(wàn)人喪生。我們并沒(méi)有過(guò)早地意識(shí)到電臺(tái)的發(fā)明，會(huì)促成一種新的大眾傳播形式，這種形式有助于意大利和德國(guó)的法西斯主義興起。20世紀(jì)20年代和30年代理論物理學(xué)的發(fā)展的同時(shí)，并沒(méi)有相應(yīng)的帶有焦慮性的前瞻報(bào)道，即關(guān)于這些理論發(fā)展如何能夠很快落地并發(fā)展成核武器，使世界永遠(yuǎn)處于即將毀滅的恐慌之中。而當(dāng)今，即便是被關(guān)注十多年的氣候等嚴(yán)重問(wèn)題，大部分美國(guó)人（44％）也仍然會(huì)選擇忽視。作為一種文明，我們似乎很難正確辨別它們的未來(lái)是好是壞，正如我們因非理性的恐懼而出現(xiàn)恐慌一樣。與過(guò)去一樣，當(dāng)前我們依然處在一場(chǎng)根本性變革的新浪潮當(dāng)中：認(rèn)知自動(dòng)化，它可以概括為“人工智能（AI）”。與過(guò)去一樣，我們擔(dān)心這種新技術(shù)會(huì)傷害我們——人工智能會(huì)導(dǎo)致大規(guī)模失業(yè)，或者人工智能會(huì)擁有自己的機(jī)構(gòu)，變成超人，把我們摧毀。圖片來(lái)源：/zuck但如果這些擔(dān)心是多余的，就像我們以前一樣？如果人工智能的真正危險(xiǎn)與當(dāng)下令人驚慌的“超級(jí)智能”和“奇點(diǎn)”敘述大相徑庭呢？在本文，我想和大家聊聊讓我對(duì)人工智能憂心忡忡的問(wèn)題是：人工智能對(duì)人類行為具有高效、可擴(kuò)展性操作的能力，以及企業(yè)和政府對(duì)人工智能的濫用。當(dāng)然，這不是唯一的有形風(fēng)險(xiǎn)，還有很多，特別是與機(jī)器學(xué)習(xí)模型有害偏見(jiàn)相關(guān)的問(wèn)題；就這個(gè)問(wèn)題，其他人的見(jiàn)解比我更加出色。本文選擇從大規(guī)模人口控制的角度進(jìn)行切入，是因?yàn)槲艺J(rèn)為這種風(fēng)險(xiǎn)是迫切并且被嚴(yán)重低估的。今天，這種風(fēng)險(xiǎn)已經(jīng)變?yōu)楝F(xiàn)實(shí)，在接下來(lái)的幾十年里，許多技術(shù)會(huì)有增強(qiáng)的趨勢(shì)。我們的生活越來(lái)越數(shù)字化，社交媒體公司越來(lái)越了解我們的生活和想法。與此同時(shí)，他們?cè)絹?lái)越多地使用一些手段控制我們獲取信息，特別是通過(guò)算法手段。他們將人類行為視為一個(gè)可優(yōu)化的問(wèn)題，一個(gè)人工智能問(wèn)題：社交媒體公司調(diào)整算法變量實(shí)現(xiàn)某種特定行為，就像游戲人工智能會(huì)改進(jìn)游戲策略一樣。這個(gè)過(guò)程中唯一的瓶頸就是算法。這些事情都正在發(fā)生或即將到來(lái)，最大的社交網(wǎng)絡(luò)公司目前正在潛心研究人工智能技術(shù)，并在相關(guān)項(xiàng)目上投資了數(shù)十億美元。接下來(lái)的討論，我將分成以下幾部分，對(duì)上面的問(wèn)題進(jìn)行拆解并詳細(xì)描述：·社交媒體是一種心理監(jiān)獄·內(nèi)容消費(fèi)是心理控制載體·用戶行為是待優(yōu)化的問(wèn)題·當(dāng)前的情況·反面：人工智能能為我們做什么人人都是產(chǎn)品經(jīng)理·反社交媒體的構(gòu)建·結(jié)論：在前進(jìn)的岔道口上一、社交媒體是一種心理監(jiān)獄在過(guò)去的20年中，我們的私人和公共生活已經(jīng)轉(zhuǎn)移到網(wǎng)絡(luò)上。我們每天用更多的時(shí)間盯著屏幕。我們的世界正在轉(zhuǎn)向某個(gè)狀態(tài)，在這個(gè)狀態(tài)中我們所做的大部分事都由內(nèi)容消費(fèi)、修改或創(chuàng)造構(gòu)成的。這種趨勢(shì)的反面是：企業(yè)和政府正在大量收集我們的數(shù)據(jù)，特別是通過(guò)社交網(wǎng)絡(luò)了解我們與誰(shuí)交流，我們說(shuō)什么，我們?cè)诳词裁磧?nèi)容——圖片、電影、音樂(lè)以及新聞，我們?cè)谔囟〞r(shí)間的心情，等等。最終，幾乎與我們相關(guān)的一切最終都會(huì)以數(shù)據(jù)的形式記錄在某個(gè)服務(wù)器上。理論上，這些數(shù)據(jù)能夠讓收集的企業(yè)和政府為個(gè)人以及團(tuán)體建立非常準(zhǔn)確的心理畫(huà)像。你的觀點(diǎn)和行為可以與成千上萬(wàn)的“同類”產(chǎn)生共鳴，讓你對(duì)所選的內(nèi)容有不可思議的理解——這可能比你單純通過(guò)自省的手段要好的多。例如，通過(guò)Facebook的“喜歡”功能更好地評(píng)估朋友的個(gè)性。大量的數(shù)據(jù)讓下面這些成為可能：提前幾天預(yù)測(cè)用戶何時(shí)（與誰(shuí)）建立關(guān)系，何時(shí)結(jié)束關(guān)系；誰(shuí)有自殺傾向；在選舉中，用戶最終會(huì)票投給誰(shuí)——即便是那時(shí)用戶仍猶豫不決。這不僅僅能對(duì)個(gè)人進(jìn)行分析，對(duì)大型團(tuán)隊(duì)的預(yù)測(cè)能做得更好（擁有大量數(shù)據(jù)消除其中的隨機(jī)性以及異常值）。二、內(nèi)容消費(fèi)是心理控制載體被收集數(shù)據(jù)還只是個(gè)開(kāi)始，社交網(wǎng)絡(luò)越來(lái)越多地控制著我們獲取的內(nèi)容。目前，我們看到的內(nèi)容大多是算法在起作用。算法越來(lái)越多地影響并決定我們閱讀的政治文章、我們看到的電影預(yù)告片、與我們保持聯(lián)系的人，甚至是我們收到誰(shuí)關(guān)于自己的反饋。綜合多年的報(bào)道，算法對(duì)我們的生活有相當(dāng)大的影響——比如我們是誰(shuí)、我們會(huì)成為誰(shuí)。如果Facebook能夠在較長(zhǎng)時(shí)間內(nèi)能夠決定你將看到哪些新聞（或真或假），以及決定你的政治地位的變化，甚至?xí)Q定誰(shuí)會(huì)看到有關(guān)你的新聞；那么，F(xiàn)acebook就會(huì)實(shí)際控制你的世界觀以及政治信仰。Facebook的業(yè)務(wù)在于影響人們，從而向廣告主提供服務(wù)。Facebook建立了一個(gè)微調(diào)算法引擎，這個(gè)算法引擎不僅能夠影響你對(duì)品牌或購(gòu)買(mǎi)智能音箱的看法。調(diào)整這個(gè)算法給你的內(nèi)容，能夠影響并控制你的情緒——這個(gè)算法甚至能夠改變選舉結(jié)果。三、用戶行為是待優(yōu)化的問(wèn)題社交網(wǎng)絡(luò)能夠在衡量我們一切的同時(shí)，控制我們獲取的內(nèi)容——而這一切正在加速發(fā)展。當(dāng)我們感知并行動(dòng)時(shí)，就會(huì)考慮人工智能問(wèn)題了。你能夠建立一個(gè)行為的優(yōu)化循環(huán)，在這個(gè)循環(huán)中，可以觀察目標(biāo)當(dāng)前狀態(tài)并不斷調(diào)整提供的信息，直到目標(biāo)。人工智能領(lǐng)域的一大子集——特別是“強(qiáng)化學(xué)習(xí)”——是關(guān)于開(kāi)發(fā)算法來(lái)有效地解決待優(yōu)化的問(wèn)題，從而關(guān)閉循環(huán)并完全控制目標(biāo)。在這種情況下，通過(guò)把我們的生活轉(zhuǎn)移到數(shù)字領(lǐng)域，我們會(huì)易受人工智能影響。人類行強(qiáng)化學(xué)習(xí)循環(huán)人類的思想很容易受簡(jiǎn)單社交模式的影響，因此更容易受到攻擊和控制。比如以下角度：·身份強(qiáng)化：自從有廣告后一直被利用的技巧，現(xiàn)在任然奏效。它把特定的內(nèi)容和你的標(biāo)記聯(lián)系起來(lái)，進(jìn)而能把控內(nèi)容。在人工智能參與的社交媒體下，算法可以讓你你只看到自己希望看到的內(nèi)容（無(wú)論是新聞，還是來(lái)自朋友的博文）；相反，算法也可以讓你遠(yuǎn)離你不想看到的內(nèi)容?！は麡O社交強(qiáng)化：如果你發(fā)表的文章表達(dá)了算法不希望你持有的觀點(diǎn)，系統(tǒng)可以選擇僅向持有相反觀點(diǎn)的人推薦你的文章（可能是熟人、陌生人，甚至是機(jī)器人）。反復(fù)多次，這可能會(huì)讓你與初始觀點(diǎn)相去甚遠(yuǎn)?！しe極社交強(qiáng)化：如果你發(fā)表文章表達(dá)的觀點(diǎn)是算法想要傳播的，算法會(huì)選擇將文章展示給“喜歡”它的人（甚至是機(jī)器人）——這會(huì)加強(qiáng)你的信念，讓你覺(jué)得自己是多數(shù)人當(dāng)中的一員?！颖酒茫核惴ㄒ材芸刂葡蚰泔@示來(lái)自你朋友（或廣大媒體）的支持你觀點(diǎn)博文。在這樣的信息泡沫中，你會(huì)覺(jué)得這些觀點(diǎn)會(huì)獲得比現(xiàn)實(shí)中更廣泛的支持?！?shù)個(gè)性化：算法也可能會(huì)觀察到和你的心理屬性相似的人——畢竟“人以群分”嘛。然后，算法為你提供內(nèi)容，這些內(nèi)容會(huì)對(duì)和你有類似觀點(diǎn)和生活經(jīng)驗(yàn)的人最有益。從長(zhǎng)遠(yuǎn)來(lái)看，該算法甚至可以從頭開(kāi)始生成特別適合你的、最高效的內(nèi)容。從信息安全的角度來(lái)看，你會(huì)稱這些為漏洞——已知的可接管系統(tǒng)的漏洞。就人類思維而言，這些漏洞永遠(yuǎn)不會(huì)被修補(bǔ)，它們只是我們的生活方式，存在于我們的DNA中。人類思維是一個(gè)靜態(tài)的、易受攻擊的系統(tǒng)，并將越來(lái)越受到人工智能算法的控制，這些算法在完全了解我們所做的和相信的事情的同時(shí)，開(kāi)始完全控制我們獲取的內(nèi)容。四、當(dāng)前的情況值得注意的是，在獲取信息的過(guò)程中應(yīng)用人工智能算法，會(huì)引起大規(guī)模的人口控制——特別是政治控制——這個(gè)過(guò)程中使用的人工智能算法，不一定非常先進(jìn)。你不需要自我意識(shí)，目前的技術(shù)可能就足夠了，人工智能是這樣可怕的存在——社交網(wǎng)絡(luò)公司在這方面已經(jīng)開(kāi)展了較長(zhǎng)時(shí)間的研究，并且取得了顯著的成果。雖然可能只是試圖將“參與”效果最大化并影響你的購(gòu)買(mǎi)決定，而不是操縱你對(duì)世界的看法，但他們開(kāi)發(fā)的工具已被反對(duì)派在政治事件中使用。如2016年英國(guó)脫歐公投或2016年美國(guó)總統(tǒng)選舉——這是我們必須面對(duì)的現(xiàn)實(shí)。但是，如果今天大規(guī)模人口控制已經(jīng)成為可能，那理論上，為什么世界還沒(méi)有顛覆呢？總之，我認(rèn)為這是因?yàn)槲覀儾⒉簧瞄L(zhǎng)運(yùn)用人工智能；但這也意味著有很大的潛力，或許即將有所改變。直到2015年，整個(gè)行業(yè)所有廣告相關(guān)的算法都只靠邏輯回歸運(yùn)行——事實(shí)上，就算是現(xiàn)在，很大程度上也是如此，畢竟只有行業(yè)大佬才會(huì)用更先進(jìn)的模式。邏輯回歸是一種早于計(jì)算時(shí)代的算法，是個(gè)性化推薦的最基本的技術(shù)之一——這就是為什么在網(wǎng)上看到的這么多廣告，而這些廣告卻毫無(wú)關(guān)系的根源所在。同樣，反對(duì)派用來(lái)影響輿論的社交媒體機(jī)器人幾乎沒(méi)有人工智能，目前他們的做法都非常原始。機(jī)器學(xué)習(xí)和人工智能近年來(lái)飛速發(fā)展，而且它們才開(kāi)始在算法和社交媒體機(jī)器人上得到應(yīng)用；直到在2016年，深度學(xué)習(xí)才開(kāi)始在新聞傳播和廣告網(wǎng)絡(luò)中得到應(yīng)用。誰(shuí)知道接下來(lái)會(huì)發(fā)生什么呢？Facebook在人工智能研究和開(kāi)發(fā)方面投入了大量資金，并且勵(lì)志成為該領(lǐng)域的領(lǐng)導(dǎo)者，這令人為之興奮。當(dāng)你的產(chǎn)品是新聞源時(shí)，對(duì)你來(lái)說(shuō)，自然語(yǔ)言處理和強(qiáng)化學(xué)習(xí)會(huì)有什么用武之地呢？我們正在創(chuàng)建一家公司，該公司可為近20億人構(gòu)建細(xì)致入微的心理畫(huà)像，為許多人提供主要的新聞來(lái)源，它運(yùn)行大規(guī)模的行為操縱實(shí)驗(yàn)，旨在開(kāi)發(fā)當(dāng)今世界還沒(méi)有的、最先進(jìn)的人工智能技術(shù)——就我個(gè)人而言，它讓我感到害怕。在我看來(lái)，F(xiàn)acebook可能不是最令人擔(dān)憂的存在。許多人喜歡意淫某些大企業(yè)統(tǒng)治著世界，但這些企業(yè)的權(quán)力卻遠(yuǎn)遠(yuǎn)小于政府。如果對(duì)我們的思想通過(guò)算法進(jìn)行控制，那么政府很可能會(huì)變的很差，而不是企業(yè)?，F(xiàn)在，我們能做些什么呢？我們?nèi)绾伪Ｗo(hù)自己？作為技術(shù)人員，我們通過(guò)社交媒體做什么才能避免大規(guī)?？刂?？五、反面：人工智能能為我們做什么重要的是，這種威脅即便是存在，也不意味著所有的算法策略都是不好的，或者說(shuō)所有的廣告都不好，它們都有一定的價(jià)值。隨著互聯(lián)網(wǎng)和人工智能的興起，將算法應(yīng)用于獲取信息不僅是必然的趨勢(shì)，更是理想的趨勢(shì)。隨著我們的生活越來(lái)越數(shù)字化、聯(lián)系越來(lái)越緊密，信息也變得越來(lái)越密集，人工智能變成我們與世界的橋梁。長(zhǎng)遠(yuǎn)看，教育和自我提高將是人工智能最強(qiáng)的應(yīng)用場(chǎng)景——這種情況會(huì)在動(dòng)態(tài)變化中實(shí)現(xiàn)，這些變化幾乎完全反映了試圖控制你的惡意人工智能在內(nèi)容推送中的運(yùn)用。在幫助我們方面，算法存在巨大的潛力，能夠賦予個(gè)人更多能力，并幫助社會(huì)更好地自我管理。問(wèn)題不是人工智能，而是——控制。我們不應(yīng)該讓內(nèi)容推送算法控制用戶并暗中實(shí)現(xiàn)隱藏的目標(biāo)——比如左右他們的政治觀點(diǎn)，或者不斷地浪費(fèi)時(shí)間——而應(yīng)該讓用戶負(fù)責(zé)算法優(yōu)化。畢竟，我們正在談?wù)摰氖怯嘘P(guān)自己的內(nèi)容、自己的世界觀、自己的朋友、自己的生活；技術(shù)對(duì)你的影響應(yīng)該自然地受制于你自己。算法不應(yīng)該成為一股神秘的力量，靠這個(gè)力量實(shí)現(xiàn)有損于自身利益目標(biāo)；相反，他們應(yīng)該為我們所用，能夠?yàn)樽陨砝娣?wù)的工具。如教育、自我營(yíng)銷，而不是為了娛樂(lè)。我想，任何應(yīng)用算法的產(chǎn)品都應(yīng)該：·公開(kāi)透明地告知算法目前優(yōu)化的目標(biāo)，以及這些目標(biāo)如何影響用戶的信息獲取?！ぬ峁┙o用戶簡(jiǎn)潔的功能設(shè)定他們的目標(biāo)。例如，用戶應(yīng)該能夠在特定的地方能夠自由控制，從而最大限度地保護(hù)自己，并未自己服務(wù)?！な冀K以可見(jiàn)的方式了解用戶在當(dāng)前產(chǎn)品上花費(fèi)的時(shí)間?！ねㄟ^(guò)工具能夠控制用戶自己在當(dāng)前產(chǎn)品上花費(fèi)的時(shí)間。如設(shè)置每天的時(shí)間目標(biāo)，算法通過(guò)該目標(biāo)讓你實(shí)現(xiàn)自我管理。在避免被控制的同時(shí)用人工智能保護(hù)自己我們應(yīng)該讓人工智能為人類服務(wù)，而不應(yīng)該操縱用戶牟取利潤(rùn)或者達(dá)到某種政治目的。如果算法不像賭場(chǎng)運(yùn)營(yíng)商或宣傳人員那樣運(yùn)作，該怎么辦？相反，如果算法更像一位導(dǎo)師或一位優(yōu)秀的圖書(shū)管理員，對(duì)你以及數(shù)百萬(wàn)人的心理洞若觀火——在此基礎(chǔ)上，算法向你推薦了一本書(shū)，這會(huì)與你的需求不謀而合，并且他們相伴而生。這種人工智能是一種指導(dǎo)你生活的工具，它能夠幫你找到實(shí)現(xiàn)目的的最佳路徑。如果算法已經(jīng)分析過(guò)數(shù)百萬(wàn)人，你能想象通過(guò)算法了解的世界來(lái)看待自己的生活嗎？或者與一個(gè)百科全書(shū)式的系統(tǒng)合著一本書(shū)？又或者與一個(gè)了解當(dāng)前人類全部知識(shí)的系統(tǒng)合作進(jìn)行研究？在一個(gè)完全受制于人工智能的產(chǎn)品中，更先進(jìn)的算法——而不是威脅，將會(huì)存在一些積極的方面，讓你更有效地實(shí)現(xiàn)自己的目標(biāo)。六、反社交媒體的構(gòu)建總而言之，未來(lái)人工智能將成為我們與世界的接口，這是一個(gè)由數(shù)字信息組成的世界——這同樣會(huì)讓個(gè)人有可能更好地管理自己的生活，當(dāng)然也有可能完全喪失這個(gè)權(quán)利。不幸的是：社交媒體目前的發(fā)展有些南轅北轍。不過(guò)，千萬(wàn)不要覺(jué)得我們可以扭轉(zhuǎn)局面，這還為時(shí)尚早。我們需要開(kāi)發(fā)這個(gè)行業(yè)內(nèi)的產(chǎn)品類別和市場(chǎng)，其中的激勵(lì)措施與讓用戶負(fù)責(zé)影響他們的算法是一致的，而不是使用人工智能操縱用戶牟取利潤(rùn)或者達(dá)到某種政治目的；我們需要努力做出反Facebook一類社交媒體的產(chǎn)品。在遙遠(yuǎn)的未來(lái)，這些產(chǎn)品可能會(huì)以人工智能助手的形式出現(xiàn)。數(shù)字導(dǎo)師通過(guò)程序幫助你，你能夠通過(guò)他們控制自己在交往過(guò)程中所追求的目標(biāo)。而在目前，搜索引擎可以被看作是一個(gè)人工智能驅(qū)動(dòng)信息的出雛形，它為用戶服務(wù)，而不是試圖控制用戶。搜索引擎是一種有意控制而達(dá)到特定目的的工具，你告訴搜索引擎它應(yīng)該為你做什么，而不是被動(dòng)的獲得內(nèi)容；搜索引擎會(huì)盡量減少?gòu)膯?wèn)題到答案，從問(wèn)題到解決方案所需的時(shí)間，而不是在浪費(fèi)時(shí)間。你可能會(huì)想：畢竟搜索引擎仍然是我們和信息之間的人工智能層，它做展示的結(jié)果，是否會(huì)有所偏好從而控制我們呢？是的，每種信息管理算法都存在這種風(fēng)險(xiǎn)。但與社交網(wǎng)絡(luò)形成鮮明對(duì)比的是：在這種情況下，市場(chǎng)激勵(lì)實(shí)際上與用戶需求一致，推動(dòng)搜索引擎盡可能做到相關(guān)和客觀。如果不能最大限度地發(fā)揮作用，那么用戶會(huì)毫不猶豫地轉(zhuǎn)向競(jìng)品。重要的是：搜索引擎對(duì)用戶心理的攻擊，比社交內(nèi)容小得多。本文所描述的產(chǎn)品中的威脅包含以下內(nèi)容：·感知和行動(dòng)：產(chǎn)品不僅應(yīng)該控制向你展示的內(nèi)容（新聞和社交內(nèi)容），還應(yīng)該通過(guò)類似“喜歡”的功能、聊天信息和狀態(tài)更新來(lái)“感知”你當(dāng)前的心理狀態(tài)。沒(méi)有認(rèn)知和行動(dòng)，就不能強(qiáng)化學(xué)習(xí)。正所謂“工欲善其事，必先利其器”?！ど畹闹行模寒a(chǎn)品應(yīng)該是一部分用戶的主要信息來(lái)源，典型用戶會(huì)每天花費(fèi)數(shù)小時(shí)在產(chǎn)品上。輔助性和專業(yè)化的產(chǎn)品或服務(wù)（如亞馬遜的物品推薦）將不會(huì)存在嚴(yán)重的威脅?！ど鐣?huì)成分：激活更廣泛和更有效的心理控制因素（特別是社會(huì)強(qiáng)化）。沒(méi)有人情味的內(nèi)容只占我們思想的一小部分?！I(yè)務(wù)激勵(lì)：目的在于操縱用戶，并讓用戶在產(chǎn)品上停留更多時(shí)間。而大多數(shù)人工智能驅(qū)動(dòng)的產(chǎn)品，都不符合以上這些要求。另一方面，社交網(wǎng)絡(luò)是風(fēng)險(xiǎn)因素的組合，它擁有可怕的力量。作為技術(shù)專家，我們應(yīng)該傾向于那些不具備這些功能的產(chǎn)品，拒絕那些將這些功能組合在一起的產(chǎn)品，它們因錯(cuò)誤使用而具有潛在危險(xiǎn)性。建立搜索引擎和數(shù)字助理，而不是社會(huì)新聞，這將