英語(yǔ)流利說(shuō)level7-u2-p3文本

英語(yǔ)流利說(shuō)level7-u2-p3文本英語(yǔ)流利說(shuō)level7-u2-p3文本英語(yǔ)流利說(shuō)level7-u2-p3文本xxx公司英語(yǔ)流利說(shuō)level7-u2-p3文本文件編號(hào)：文件日期：修訂次數(shù)：第1.0次更改批準(zhǔn)審核制定方案設(shè)計(jì)，管理制度Level7Unit2Part3Machineintelligencemakeshumanmoralsmoreimportant機(jī)器智能使人類(lèi)道德更重要byZeynepTufekciSo,Istartedmyfirstjobasacomputerprogrammerinmyveryfirstyearofcollege--basically,asateenager.所以，我在大學(xué)一年級(jí)時(shí)就開(kāi)始了我的第一份電腦程序員的工作，基本上是一個(gè)十幾歲的孩子。SoonafterIstartedworking,writingsoftwareinacompany,amanagerwhoworkedatthecompanycamedowntowhereIwas,andhewhisperedtome,"CanhetellifI'mlying"Therewasnobodyelseintheroom.我開(kāi)始工作后不久，在一家公司寫(xiě)軟件，一位在公司工作的經(jīng)理來(lái)到我所在的地方，他低聲對(duì)我說(shuō)：“他能告訴我我在撒謊嗎？”房間里沒(méi)有其他人。"Canwhotellifyou'relyingAndwhyarewewhispering"

“誰(shuí)能告訴我你在撒謊我們?yōu)槭裁匆`竊私語(yǔ)”Themanagerpointedatthecomputerintheroom."CanhetellifI'mlying"Well,thatmanagerwashavinganaffairwiththereceptionist.經(jīng)理指著房間里的電腦?！八芨嬖V我我在撒謊嗎？”嗯，那個(gè)經(jīng)理和接待員有曖昧關(guān)系。(Laughter)（笑聲）AndIwasstillateenager.SoIwhisper-shoutedbacktohim,"Yes,thecomputercantellifyou'relying."我還是個(gè)十幾歲的孩子。于是我小聲地對(duì)他喊道：“是的，電腦能分辨出你在撒謊?！?Laughter)（笑聲）Well,Ilaughed,butactually,thelaugh'sonme.Nowadays,therearecomputationalsystemsthatcansussoutemotionalstatesandevenlyingfromprocessinghumanfaces.Advertisersandevengovernmentsareveryinterested.嗯，我笑了，但事實(shí)上，我笑了?，F(xiàn)在，有一些計(jì)算系統(tǒng)可以解決情緒狀態(tài)，甚至可以從處理人臉上撒謊。廣告商甚至政府都很感興趣。IhadbecomeacomputerprogrammerbecauseIwasoneofthosekidscrazyaboutmathandscience.ButsomewherealongthelineI'dlearnedaboutnuclearweapons,andI'dgottenreallyconcernedwiththeethicsofscience.Iwastroubled.However,becauseoffamilycircumstances,Ialsoneededtostartworkingassoonaspossible.SoIthoughttomyself,hey,letmepickatechnicalfieldwhereIcangetajobeasilyandwhereIdon'thavetodealwithanytroublesomequestionsofethics.SoIpickedcomputers.我已經(jīng)成為一名電腦程序員，因?yàn)槲沂且粋€(gè)對(duì)數(shù)學(xué)和科學(xué)著迷的孩子。但我在某個(gè)地方學(xué)到了核武器，我真的很關(guān)心科學(xué)的倫理學(xué)。我很煩惱。然而，由于家庭情況，我也需要盡快開(kāi)始工作。因此，我想，嘿，讓我選擇一個(gè)技術(shù)領(lǐng)域，我可以輕松地找到一份工作，在那里我不需要處理任何棘手的道德問(wèn)題。所以我選擇了電腦。(Laughter)（笑聲）Well,ha,ha,ha!Allthelaughsareonme.Nowadays,computerscientistsarebuildingplatformsthatcontrolwhatabillionpeopleseeeveryday.They'redevelopingcarsthatcoulddecidewhotorunover.They'reevenbuildingmachines,weapons,thatmightkillhumanbeingsinwar.It'sethicsallthewaydown.哈，哈，哈！所有的笑聲都在我身上。如今，計(jì)算機(jī)科學(xué)家正在構(gòu)建一個(gè)平臺(tái)，控制著每天有十億人看到的東西。他們正在開(kāi)發(fā)可以決定誰(shuí)來(lái)跑的汽車(chē)。他們甚至制造機(jī)器，武器，可能會(huì)在戰(zhàn)爭(zhēng)中殺死人類(lèi)。這是道德的一路下滑。Machineintelligenceishere.We'renowusingcomputationtomakeallsortofdecisions,butalsonewkindsofdecisions.We'reaskingquestionstocomputationthathavenosinglerightanswers,thataresubjectiveandopen-endedandvalue-laden.機(jī)器智能在這里。我們現(xiàn)在使用計(jì)算來(lái)做所有的決定，但也有新的決定。我們問(wèn)的問(wèn)題是沒(méi)有一個(gè)正確答案的計(jì)算，這是主觀的，開(kāi)放的和價(jià)值的。We'reaskingquestionslike,"Whoshouldthecompanyhire""Whichupdatefromwhichfriendshouldyoubeshown""Whichconvictismorelikelytoreoffend""Whichnewsitemormovieshouldberecommendedtopeople"我們?cè)趩?wèn)這樣的問(wèn)題：“公司應(yīng)該雇傭誰(shuí)？”“你應(yīng)該從哪個(gè)朋友那里得到更新？”“哪一個(gè)犯人更有可能重新犯罪？”“應(yīng)該向人們推薦哪種新聞或電影？”Look,yes,we'vebeenusingcomputersforawhile,butthisisdifferent.Thisisahistoricaltwist,becausewecannotanchorcomputationforsuchsubjectivedecisionsthewaywecananchorcomputationforflyingairplanes,buildingbridges,goingtothemoon.AreairplanessaferDidthebridgeswayandfallThere,wehaveagreed-upon,fairlyclearbenchmarks,andwehavelawsofnaturetoguideus.Wehavenosuchanchorsandbenchmarksfordecisionsinmessyhumanaffairs.

看，是的，我們已經(jīng)使用了一段時(shí)間的電腦，但這是不同的。這是一個(gè)歷史的轉(zhuǎn)折，因?yàn)槲覀儾荒苠^定計(jì)算這樣的主觀決定的方式，我們可以錨定計(jì)算的飛行飛機(jī)，建造橋梁，去月球。飛機(jī)安全嗎這座橋搖晃了嗎在那里，我們已經(jīng)達(dá)成一致，相當(dāng)明確的基準(zhǔn)，我們有自然法則來(lái)指導(dǎo)我們。在混亂的人類(lèi)事務(wù)中，我們沒(méi)有這樣的錨定和基準(zhǔn)。

Tomakethingsmorecomplicated,oursoftwareisgettingmorepowerful,butit'salsogettinglesstransparentandmorecomplex.Recently,inthepastdecade,complexalgorithmshavemadegreatstrides.Theycanrecognizehumanfaces.Theycandecipherhandwriting.Theycandetectcreditcardfraudandblockspamandtheycantranslatebetweenlanguages.Theycandetecttumorsinmedicalimaging.TheycanbeathumansinchessandGo.為了使事情變得更復(fù)雜，我們的軟件變得越來(lái)越強(qiáng)大，但它也變得越來(lái)越不透明，越來(lái)越復(fù)雜。最近，在過(guò)去的十年中，復(fù)雜的算法取得了很大的進(jìn)步。他們可以識(shí)別人臉。他們能辨認(rèn)筆跡。他們可以檢測(cè)信用卡詐騙和阻止垃圾郵件，他們可以翻譯之間的語(yǔ)言。他們可以在醫(yī)學(xué)影像中發(fā)現(xiàn)腫瘤。他們可以在國(guó)際象棋中擊敗人類(lèi)。Muchofthisprogresscomesfromamethodcalled"machinelearning."Machinelearningisdifferentthantraditionalprogramming,whereyougivethecomputerdetailed,exact,painstakinginstructions.It'smorelikeyoutakethesystemandyoufeeditlotsofdata,includingunstructureddata,likethekindwegenerateinourdigitallives.Andthesystemlearnsbychurningthroughthisdata.Andalso,crucially,thesesystemsdon'toperateunderasingle-answerlogic.Theydon'tproduceasimpleanswer;it'smoreprobabilistic:"Thisoneisprobablymorelikewhatyou'relookingfor."這種進(jìn)步很大程度上來(lái)自一種叫做“機(jī)器學(xué)習(xí)”的方法。機(jī)器學(xué)習(xí)不同于傳統(tǒng)編程，在那里你給計(jì)算機(jī)詳細(xì)、精確、細(xì)致的指令。它更像是你采取的系統(tǒng)，你喂它大量的數(shù)據(jù)，包括非結(jié)構(gòu)化數(shù)據(jù)，像我們?cè)谖覀兊臄?shù)字生活中產(chǎn)生的那種。系統(tǒng)通過(guò)這些數(shù)據(jù)來(lái)學(xué)習(xí)。而且，關(guān)鍵的是，這些系統(tǒng)不在一個(gè)單一的答案邏輯下運(yùn)作。他們并沒(méi)有給出一個(gè)簡(jiǎn)單的答案，而是更多的概率：“這一個(gè)可能更像你正在尋找的。”Now,theupsideis:thismethodisreallypowerful.TheheadofGoogle'sAIsystemscalledit,"theunreasonableeffectivenessofdata."Thedownsideis,wedon'treallyunderstandwhatthesystemlearned.Infact,that'sitspower.Thisislesslikegivinginstructionstoacomputer;it'smoreliketrainingapuppy-machine-creaturewedon'treallyunderstandorcontrol.Sothisisourproblem.It'saproblemwhenthisartificialintelligencesystemgetsthingswrong.It'salsoaproblemwhenitgetsthingsright,becausewedon'tevenknowwhichiswhichwhenit'sasubjectiveproblem.Wedon'tknowwhatthisthingisthinking.現(xiàn)在，好處是：這種方法真的很強(qiáng)大。谷歌的人工智能系統(tǒng)的負(fù)責(zé)人稱(chēng)之為“數(shù)據(jù)的不合理有效性”。缺點(diǎn)是，我們并不真正理解系統(tǒng)所學(xué)到的東西。事實(shí)上，這就是它的力量。這不像是給電腦指令，更像是訓(xùn)練puppy-machine-creature我們并不真正理解或控制。這就是我們的問(wèn)題。當(dāng)這種人工智能系統(tǒng)出錯(cuò)時(shí)，這是個(gè)問(wèn)題。這也是一個(gè)問(wèn)題，當(dāng)它得到正確的東西，因?yàn)槲覀兩踔敛恢肋@是什么時(shí)候，這是一個(gè)主觀的問(wèn)題。我們不知道這是什么想法。So,considerahiringalgorithm--asystemusedtohirepeople,usingmachine-learningsystems.Suchasystemwouldhavebeentrainedonpreviousemployees'dataandinstructedtofindandhirepeopleliketheexistinghighperformersinthecompany.Soundsgood.Ionceattendedaconferencethatbroughttogetherhumanresourcesmanagersandexecutives,high-levelpeople,usingsuchsystemsinhiring.Theyweresuperexcited.Theythoughtthatthiswouldmakehiringmoreobjective,lessbiased,andgivewomenandminoritiesabettershotagainstbiasedhumanmanagers.因此，考慮一種雇傭算法——一種用來(lái)雇傭人的系統(tǒng)，使用機(jī)器學(xué)習(xí)系統(tǒng)。這樣的系統(tǒng)將被培訓(xùn)在以前的員工的數(shù)據(jù)，并指示找到和雇用的人，如現(xiàn)有的高績(jī)效的公司。聽(tīng)起來(lái)不錯(cuò)。我曾經(jīng)參加過(guò)一個(gè)會(huì)議，匯集了人力資源經(jīng)理和高級(jí)管理人員，高層人員，在招聘中使用這種系統(tǒng)。他們非常興奮。他們認(rèn)為這會(huì)使招聘更加客觀，減少偏見(jiàn)，給女性和少數(shù)群體一個(gè)更好的機(jī)會(huì)來(lái)對(duì)付有偏見(jiàn)的人類(lèi)管理者。Andlook--humanhiringisbiased.Iknow.Imean,inoneofmyearlyjobsasaprogrammer,myimmediatemanagerwouldsometimescomedowntowhereIwasreallyearlyinthemorningorreallylateintheafternoon,andshe'dsay,"Zeynep,let'sgotolunch!"I'dbepuzzledbytheweirdtiming.It's4pm.LunchIwasbroke,sofreelunch.Ialwayswent.Ilaterrealizedwhatwashappening.Myimmediatemanagershadnotconfessedtotheirhigher-upsthattheprogrammertheyhiredforaseriousjobwasateengirlwhoworejeansandsneakerstowork.Iwasdoingagoodjob,Ijustlookedwrongandwasthewrongageandgender.看，人的雇傭是有偏見(jiàn)的。我知道。我的意思是，在我作為一名程序員的早期工作中，我的直屬經(jīng)理有時(shí)會(huì)到我真正早到的地方，或者是在下午很晚的時(shí)候，她會(huì)說(shuō)：“Zeynep，我們?nèi)コ晕顼埌?！”我?huì)被奇怪的時(shí)間所迷惑。下午四點(diǎn)。午餐？我破產(chǎn)了，所以免費(fèi)的午餐。我總是去。后來(lái)我意識(shí)到發(fā)生了什么。我的直屬經(jīng)理們還沒(méi)有承認(rèn)他們的上司，他們雇用的一個(gè)嚴(yán)肅的工作是一個(gè)十幾歲的女孩穿著牛仔褲和運(yùn)動(dòng)鞋上班。我做得很好，我只是看起來(lái)錯(cuò)了，是錯(cuò)誤的年齡和性別。

Sohiringinagender-andrace-blindwaycertainlysoundsgoodtome.Butwiththesesystems,itismorecomplicated,andhere'swhy:Currently,computationalsystemscaninferallsortsofthingsaboutyoufromyourdigitalcrumbs,evenifyouhavenotdisclosedthosethings.Theycaninferyoursexualorientation,yourpersonalitytraits,yourpoliticalleanings.Theyhavepredictivepowerwithhighlevelsofaccuracy.Remember--forthingsyouhaven'tevendisclosed.Thisisinference.因此，在一個(gè)性別和種族的盲目的方式雇用聽(tīng)起來(lái)對(duì)我很好。但是，隨著這些系統(tǒng)，它是更復(fù)雜的，這就是為什么：目前，計(jì)算系統(tǒng)可以推斷出各種各樣的事情，你從你的數(shù)字面包屑，即使你沒(méi)有透露這些東西。他們可以推斷出你的性取向，你的個(gè)性特征，你的政治傾向。他們具有高精度的預(yù)測(cè)能力。記住--對(duì)于你還沒(méi)有透露的事情。這是推理。Ihaveafriendwhodevelopedsuchcomputationalsystemstopredictthelikelihoodofclinicalorpostpartumdepressionfromsocialmediadata.Theresultsareimpressive.Hersystemcanpredictthelikelihoodofdepressionmonthsbeforetheonsetofanysymptoms--monthsbefore.Nosymptoms,there'sprediction.Shehopesitwillbeusedforearlyintervention.Great!Butnowputthisinthecontextofhiring.我有一個(gè)朋友開(kāi)發(fā)了這樣的計(jì)算系統(tǒng)，從社會(huì)媒體數(shù)據(jù)預(yù)測(cè)臨床或產(chǎn)后抑郁癥的可能性。結(jié)果令人印象深刻。她的系統(tǒng)可以預(yù)測(cè)幾個(gè)月前出現(xiàn)任何癥狀之前的抑郁的可能性。沒(méi)有癥狀，有預(yù)測(cè)她希望這將被用于早期干預(yù)。太棒了！但現(xiàn)在把這放在招聘的背景下。Soatthishumanresourcesmanagersconference,Iapproachedahigh-levelmanagerinaverylargecompany,andIsaidtoher,"Look,whatif,unbeknownsttoyou,yoursystemisweedingoutpeoplewithhighfuturelikelihoodofdepressionThey'renotdepressednow,justmaybeinthefuture,morelikely.Whatifit'sweedingoutwomenmorelikelytobepregnantinthenextyearortwobutaren'tpregnantnowWhatifit'shiringaggressivepeoplebecausethat'syourworkplaceculture"

Youcan'ttellthisbylookingatgenderbreakdowns.Thosemaybebalanced.Andsincethisismachinelearning,nottraditionalcoding,thereisnovariabletherelabeled"higherriskofdepression,""higherriskofpregnancy,""aggressiveguyscale."Notonlydoyounotknowwhatyoursystemisselectingon,youdon'tevenknowwheretobegintolook.It'sablackbox.Ithaspredictivepower,butyoudon'tunderstandit.

所以在這次人力資源經(jīng)理會(huì)議上，我找了一家非常大的公司的高級(jí)經(jīng)理，我對(duì)她說(shuō)：“看，如果你不知道，你的系統(tǒng)正在淘汰那些未來(lái)可能有抑郁癥的人呢他們現(xiàn)在不沮喪，只是可能在未來(lái)，更有可能。如果在接下來(lái)的一年或兩年內(nèi)淘汰婦女更可能懷孕，但現(xiàn)在又沒(méi)有懷孕怎么辦如果它雇傭有侵略性的人，因?yàn)槟鞘悄愕墓ぷ鲌?chǎng)所文化”你不能通過(guò)看性別問(wèn)題來(lái)判斷。這些可能是平衡的。而且由于這是機(jī)器學(xué)習(xí)，而不是傳統(tǒng)的編碼，沒(méi)有可變的標(biāo)簽“高風(fēng)險(xiǎn)的抑郁癥，”“更高的風(fēng)險(xiǎn)懷孕，”“侵略性的家伙規(guī)模?！辈粌H你不知道你的系統(tǒng)在選擇什么，你甚至不知道從哪里開(kāi)始看。它是一個(gè)黑匣子。它具有預(yù)測(cè)力，但你不理解它。"Whatsafeguards,"Iasked,"doyouhavetomakesurethatyourblackboxisn'tdoingsomethingshady"ShelookedatmeasifIhadjuststeppedon10puppytails.“什么保障措施，”我問(wèn)，“你必須確保你的黑匣子沒(méi)有做什么可疑的事情？”她看著我，好像我剛剛踩了10條小狗的尾巴。(Laughter)（笑聲）Shestaredatmeandshesaid,"Idon'twanttohearanotherwordaboutthis."Andsheturnedaroundandwalkedaway.Mindyou--shewasn'trude.Itwasclearly:whatIdon'tknowisn'tmyproblem,goaway,deathstare.她盯著我，她說(shuō)：“我不想再聽(tīng)到這個(gè)消息了。”她轉(zhuǎn)身走開(kāi)了。注意你--她并不粗魯。很明顯：我不知道的不是我的問(wèn)題，走開(kāi)，死亡凝視。(Laughter)（笑聲）Look,suchasystemmayevenbelessbiasedthanhumanmanagersinsomeways.Anditcouldmakemonetarysense.Butitcouldalsoleadtoasteadybutstealthyshuttingoutofthejobmarketofpeoplewithhigherriskofdepression.Isthisthekindofsocietywewanttobuild,withoutevenknowingwe'vedonethis,becauseweturneddecision-makingtomachineswedon'ttotallyunderstand?看，這樣的系統(tǒng)在某些方面甚至可能比人類(lèi)管理者有更少的偏見(jiàn)。這可能會(huì)使貨幣變得有意義。但這也可能導(dǎo)致一個(gè)穩(wěn)定但卻悄無(wú)聲息的退出就業(yè)市場(chǎng)的人，有更高的憂(yōu)郁癥風(fēng)險(xiǎn)。這是我們想要建立的社會(huì)，甚至不知道我們已經(jīng)這樣做了，因?yàn)槲覀儼褯Q策變成了我們不完全理解的機(jī)器？Anotherproblemisthis:thesesystemsareoftentrainedondatageneratedbyouractions,humanimprints.Well,theycouldjustbereflectingourbiases,andthesesystemscouldbepickinguponourbiasesandamplifyingthemandshowingthembacktous,whilewe'retellingourselves,"We'rejustdoingobjective,neutralcomputation."另一個(gè)問(wèn)題是：這些系統(tǒng)通常是由我們的行為、人類(lèi)印記所產(chǎn)生的數(shù)據(jù)訓(xùn)練的。嗯，他們可能只是反映了我們的偏見(jiàn)，這些系統(tǒng)可能會(huì)發(fā)現(xiàn)我們的偏見(jiàn)，放大他們，并讓他們回到我們，而我們告訴自己，“我們只是做客觀的，中立的計(jì)算。”ResearchersfoundthatonGoogle,womenarelesslikelythanmentobeshownjobadsforhigh-payingjobs.AndsearchingforAfrican-Americannamesismorelikelytobringupadssuggestingcriminalhistory,evenwhenthereisnone.Suchhiddenbiasesandblack-boxalgorithmsthatresearchersuncoversometimesbutsometimeswedon'tknow,canhavelife-alteringconsequences.研究人員發(fā)現(xiàn)，在谷歌上，女性比男性更不可能在高薪職位上招聘廣告。而尋找非裔美國(guó)人的名字更可能帶來(lái)犯罪歷史的廣告，即使沒(méi)有。研究人員有時(shí)會(huì)發(fā)現(xiàn)這種隱藏的偏見(jiàn)和黑箱算法，但有時(shí)我們不知道，會(huì)有改變生活的結(jié)果。InWisconsin,adefendantwassentencedtosixyearsinprisonforevadingthepolice.Youmaynotknowthis,butalgorithmsareincreasinglyusedinparoleandsentencingdecisions.Hewantedtoknow:HowisthisscorecalculatedIt'sacommercialblackbox.Thecompanyrefusedtohaveitsalgorithmbechallengedinopencourt.ButProPublica,aninvestigativenonprofit,auditedthatveryalgorithmwithwhatpublicdatatheycouldfind,andfoundthatitsoutcomeswerebiasedanditspredictivepowerwasdismal,barelybetterthanchance,anditwaswronglylabelingblackdefendantsasfuturecriminalsattwicetherateofwhitedefendants.在威斯康星州，一名被告因躲避警察被判六年監(jiān)禁。你可能不知道這一點(diǎn)，但算法越來(lái)越多地用于假釋和判決決定。他想知道：這是怎么計(jì)算的？它是一個(gè)商業(yè)黑匣子。該公司拒絕在公開(kāi)法庭上對(duì)其算法提出質(zhì)疑。但是ProPublica，一個(gè)調(diào)查性的非營(yíng)利組織，對(duì)他們所能發(fā)現(xiàn)的公共數(shù)據(jù)進(jìn)行了審計(jì)，發(fā)現(xiàn)其結(jié)果是有偏見(jiàn)的，其預(yù)測(cè)能力是令人沮喪的，幾乎沒(méi)有機(jī)會(huì)，并且錯(cuò)誤地把黑人被告作為未來(lái)的犯罪分子，是白人被告的兩倍。So,considerthiscase:ThiswomanwaslatepickinguphergodsisterfromaschoolinBrowardCounty,Florida,runningdownthestreetwithafriendofhers.Theyspottedanunlockedkid'sbikeandascooteronaporchandfoolishlyjumpedonit.Astheywerespeedingoff,awomancameoutandsaid,"Hey!That'smykid'sbike!"Theydroppedit,theywalkedaway,buttheywerearrested.所以，考慮一下這個(gè)案例：這個(gè)女人在佛羅里達(dá)州布勞沃德縣的一所學(xué)校接她的教母，她和她的一個(gè)朋友在街上跑來(lái)跑去。他們發(fā)現(xiàn)一個(gè)未上鎖的孩子的自行車(chē)和一輛滑板車(chē)在門(mén)廊和愚蠢地跳上它。當(dāng)他們超速行駛時(shí)，一個(gè)女人跑出來(lái)說(shuō)：“嘿！那是我孩子的自行車(chē)！”他們把它扔了，他們走開(kāi)了，但他們被逮捕了。Shewaswrong,shewasfoolish,butshewasalsojust18.Shehadacoupleofjuvenilemisdemeanors.Meanwhile,thatmanhadbeenarrestedforshopliftinginHomeDepot--85dollars'worthofstuff,asimilarpettycrime.Buthehadtwopriorarmedrobberyconvictions.Butthealgorithmscoredherashighrisk,andnothim.Twoyearslater,ProPublicafoundthatshehadnotreoffended.Itwasjusthardtogetajobforherwithherrecord.He,ontheotherhand,didreoffendandisnowservinganeight-yearprisontermforalatercrime.Clearly,weneedtoauditourblackboxesandnothavethemhavethiskindofuncheckedpower.她錯(cuò)了，她很愚蠢，但她也只有18歲。她有過(guò)兩次未成年的輕罪。與此同時(shí)，那名男子因在家得寶商店行竊被逮捕——價(jià)值85美元的東西，類(lèi)似的輕微犯罪。但他有兩次持槍搶劫的前科。但該算法的得分高風(fēng)險(xiǎn)，而不是他。兩年后，propublica發(fā)現(xiàn)她沒(méi)有再生氣。她很難找到一份有記錄的工作。另一方面，他又重新犯罪，現(xiàn)在為以后的罪行服刑8年。顯然，我們需要審計(jì)我們的黑匣子，而不是讓他們擁有這種不受約束的權(quán)力。(Applause)（掌聲）Auditsaregreatandimportant,buttheydon'tsolveallourproblems.TakeFacebook'spowerfulnewsfeedalgorithm--youknow,theonethatrankseverythinganddecideswhattoshowyoufromallthefriendsandpagesyoufollow.Shouldyoubeshownanotherbabypicture?審計(jì)是偉大而重要的，但它們并不能解決我們所有的問(wèn)題。采取Facebook的強(qiáng)大的新聞feed算法-你知道，一個(gè)排名一切，并決定什么顯示你從所有的朋友和網(wǎng)頁(yè)，你跟隨。你應(yīng)該再給我看一張嬰兒照片嗎？

(Laughter)（笑聲）AsullennotefromanacquaintanceAnimportantbutdifficultnewsitemThere'snorightanswer.Facebookoptimizesforengagementonthesite:likes,shares,comments.

一個(gè)熟人的悶悶不樂(lè)的便條一個(gè)重要但困難的新聞沒(méi)有正確的答案。Facebook優(yōu)化了對(duì)網(wǎng)站的參與：喜歡，分享，評(píng)論。InAugustof2014,protestsbrokeoutinFerguson,Missouri,afterthekillingofanAfrican-Americanteenagerbyawhitepoliceofficer,undermurkycircumstances.ThenewsoftheprotestswasallovermyalgorithmicallyunfilteredTwitterfeed,butnowhereonmyFacebook.WasitmyFacebookfriendsIdisabledFacebook'salgorithm,whichishardbecauseFacebookkeepswantingtomakeyoucomeunderthealgorithm'scontrol,andsawthatmyfriendsweretalkingaboutit.It'sjustthatthealgorithmwasn'tshowingittome.Iresearchedthisandfoundthiswasawidespreadproblem.2014年8月，在密蘇里州的弗格森，在一名白人警官在黑暗的環(huán)境下殺害一名非洲裔美國(guó)少年后，發(fā)生了抗議活動(dòng)?？棺h的消息充斥了我的算法未過(guò)濾的Twitterfeed，但在我的Facebook上卻沒(méi)有。是我的Facebook朋友嗎？我禁用了Facebook的算法，這很難，因?yàn)镕acebook一直想讓你在算法的控制下，看到我的朋友們?cè)谡務(wù)撍?。只是算法沒(méi)有顯示給我看。我研究了這一點(diǎn)，發(fā)現(xiàn)這是一個(gè)普遍的問(wèn)題。ThestoryofFergusonwasn'talgorithm-friendly.It'snot"likable."Who'sgoingtoclickon"like"It'snoteveneasytocommenton.Withoutlikesandcomments,thealgorithmwaslikelyshowingittoevenfewerpeople,sowedidn'tgettoseethis.Instead,thatweek,Facebook'salgorithmhighlightedthis,whichistheALSIceBucketChallenge.Worthycause;dumpicewater,donatetocharity,fine.Butitwassuperalgorithm-friendly.Themachinemadethisdecisionforus.Averyimportantbutdifficultconversationmighthavebeensmothered,hadFacebookbeentheonlychannel.弗格森的故事不太友好。這不是“可愛(ài)”。誰(shuí)會(huì)點(diǎn)擊“喜歡”這甚至不容易評(píng)論。沒(méi)有喜歡和評(píng)論，算法可能會(huì)顯示它更少的人，所以我們沒(méi)有看到這一點(diǎn)。相反，在那個(gè)星期，F(xiàn)acebook的算法突出了這一點(diǎn)，這是ALS冰桶挑戰(zhàn)。有價(jià)值的事業(yè)；傾倒冰水，捐給慈善機(jī)構(gòu)，罰款。但它是超級(jí)算法友好。機(jī)器為我們做了這個(gè)決定。一個(gè)非常重要但困難的談話可能被扼殺了，F(xiàn)acebook是唯一的渠道。Now,finally,thesesystemscanalsobewronginwaysthatdon'tresemblehumansystems.DoyouguysrememberWatson,IBM'smachine-intelligencesystemthatwipedthefloorwithhumancontestantsonJeopardyItwasagreatplayer.Butthen,forFinalJeopardy,Watsonwasaskedthisquestion:"ItslargestairportisnamedforaWorldWarIIhero,itssecond-largestforaWorldWarIIbattle."現(xiàn)在，最后，這些系統(tǒng)也可能是錯(cuò)誤的方式，不象人類(lèi)系統(tǒng)。你們還記得Watson，IBM的機(jī)器智能系統(tǒng)嗎？這是一個(gè)偉大的球員。但是，最后的危險(xiǎn)，沃森被問(wèn)到這個(gè)問(wèn)題：“它最大的機(jī)場(chǎng)被命名為一個(gè)二戰(zhàn)英雄，它的第二次世界大戰(zhàn)第二次戰(zhàn)斗?！?HumsFinalJeopardymusic)（人類(lèi)最后的危險(xiǎn)音樂(lè)）Chicago.Thetwohumansgotitright.Watson,ontheotherhand,answered"Toronto"--foraUScitycategory!Theimpressivesystemalsomadeanerrorthatahumanwouldnevermake,asecond-graderwouldn'tmake.芝加哥。這兩個(gè)人是對(duì)的。華生，另一方面，回答“多倫多”-為美國(guó)城市類(lèi)別！令人印象深刻的系統(tǒng)也犯了一個(gè)錯(cuò)誤，一個(gè)人類(lèi)永遠(yuǎn)不會(huì)做出，一個(gè)二年級(jí)學(xué)生不會(huì)作出。Ourmachineintelligencecanfailinwaysthatdon'tfiterrorpatternsofhumans,inwayswewon'texpectandbepreparedfor.It'dbelousynottogetajoboneisqualifiedfor,butitwouldtriplesuckifitwasbecauseofstackoverflowinsomesubroutine.我們的機(jī)器智