復(fù)旦大學(xué)：人工智能時(shí)代的歷史、現(xiàn)狀與展望

現(xiàn)狀與展望張軍平復(fù)旦?學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院2024.3.14提綱?AI重要突破?挑戰(zhàn)與思考AI重要突破GPT-4Turbo/CEO山姆·奧特曼?上下??度、最新知識(shí)和價(jià)格?通?GPT模型?GPTStore/300萬(wàn)+?定義GPT?GPT開(kāi)發(fā)環(huán)境?DALL-E3、GPT-4Vision和語(yǔ)音合成的API?更便宜的收費(fèi)OpenAIDevDay活動(dòng)/Nov.6.23?紅柿炒蛋劉禹錫《烏?巷》：舊時(shí)王謝堂前燕，??尋常百姓家編程：程序員Promptitwithinteractiveandboxes.pointsAutomaticallysegmenteverythinginanimage.Generatemultiplevalidmasksforambiguousprompts.Promptsspecifyingwhattosegmentinanimageallowforawiderangeofsegmentationtaskswithouttheneedforadditionaltraining./11Mimages,1B+masks善?ChatGPT，科研與學(xué)習(xí)?????、通義千問(wèn)、ChatGPT3/3.5,Gemini等?Midjourney,DALL-E3,StableDiffusion?Copilot,WPSAI從貓視覺(jué)?層發(fā)現(xiàn)神經(jīng)元具有?向性SemanticNetworks語(yǔ)義?人工智能的成長(zhǎng)期JosephWeizenbaum建成第?個(gè)智能聊天機(jī)器?EliZAZadeh提出模糊邏輯apnik統(tǒng)計(jì)機(jī)器學(xué)?持向量機(jī)annLeCun積神經(jīng)?絡(luò)LeNet-5VY卷2012-至今）式模型AlphaStar擊敗星際爭(zhēng)霸II職業(yè)玩家（1981-2011）關(guān)聯(lián)規(guī)則：啤酒與尿布1966-1972Hornik&Cybenko提出萬(wàn)能近似定理從貓視覺(jué)?層發(fā)現(xiàn)神經(jīng)元具有?向性SemanticNetworks語(yǔ)義?人工智能的成長(zhǎng)期JosephWeizenbaum建成第?個(gè)智能聊天機(jī)器?EliZAZadeh提出模糊邏輯apnik統(tǒng)計(jì)機(jī)器學(xué)?持向量機(jī)annLeCun積神經(jīng)?絡(luò)LeNet-5VY卷2012-至今）式模型AlphaStar擊敗星際爭(zhēng)霸II職業(yè)玩家（1981-2011）關(guān)聯(lián)規(guī)則：啤酒與尿布1966-1972Hornik&Cybenko提出萬(wàn)能近似定理人工智能的第三次熱潮(?歌AlphaGo擊敗圍棋世界冠軍李世?GPT?歌：知識(shí)圖譜Newell&Simon通?問(wèn)題求解（GPS）互聯(lián)?誕?Minsky&Papert出版《感知機(jī)》?出寒冬專(zhuān)家系統(tǒng)盛??本研發(fā)第五代計(jì)算機(jī)福島邦彥提出新認(rèn)知機(jī)MyCin醫(yī)療診斷費(fèi)根鮑姆等提出DENDRAL第?個(gè)專(zhuān)家系統(tǒng)化合物分?結(jié)構(gòu)推斷??智能寒冬1973萊特希爾報(bào)告LISP,AI標(biāo)準(zhǔn)編程語(yǔ)?Cyc,百科全書(shū)項(xiàng)?SHRDLU虛擬機(jī)器?深藍(lán)戰(zhàn)勝?lài)?guó)際象棋世界冠軍加?-卡斯帕羅夫Rumelhart、Hinton、Williams提出反向傳播算法習(xí)Shakey第?個(gè)可移動(dòng)機(jī)器?Hinton在《Science》提出深度?絡(luò)流形學(xué)習(xí)斯坦福?學(xué)和?歌：Google街景項(xiàng)?李??ImageNet圖像分類(lèi)數(shù)據(jù)集IBM的AI計(jì)算機(jī)Watson在游戲Jeopardy中擊敗?類(lèi)冠軍iRobot家?機(jī)器?Roomba問(wèn)世IanGoodfellow提出?成對(duì)抗?(GAN)何愷明等提出殘差?(ResNet)Alex和Hinton等提出AlexNet?絡(luò)深度學(xué)習(xí)取得性能突破GPU得到?泛使??歌AlphaZero?歌?腦提出TransformerOpenAI提出?成預(yù)訓(xùn)練人工智能的初創(chuàng)期（1956-1980）人工智能的萌芽期（1936人工智能的初創(chuàng)期（1956-1980）圖靈提出通?計(jì)算機(jī)模型的“圖靈機(jī)”馮諾依曼等建成ENIAC電?數(shù)字積分計(jì)算機(jī)達(dá)特茅斯學(xué)院圖靈提出通?計(jì)算機(jī)模型的“圖靈機(jī)”馮諾依曼等建成ENIAC電?數(shù)字積分計(jì)算機(jī)達(dá)特茅斯學(xué)院AI誕?維納《控制論》明斯基與艾德蒙茲創(chuàng)建第?個(gè)??智能實(shí)驗(yàn)室?農(nóng)探討機(jī)器下棋的可能性王浩IBM704?3-4分鐘證明220條數(shù)學(xué)定理圖靈測(cè)試Rosenblatt提出感知機(jī)第?次機(jī)器翻譯第?臺(tái)?業(yè)機(jī)器?誕?塞繆爾，跳棋程序提出神經(jīng)元模型MP模型Newell&Simon38條數(shù)學(xué)定理證明Wiesel&Huber38條數(shù)學(xué)定理證明OpenAI提出：世界模擬器SoraOpenAI提出：OpenAI提出?成式預(yù)訓(xùn)練模型GPT-3?歌????駛300萬(wàn)OpenAI提出：世界模擬器SoraOpenAI提出：OpenAI提出?成式預(yù)訓(xùn)練模型GPT-3?歌????駛300萬(wàn)以上公??歌提出?向?qū)υ挼恼Z(yǔ)??模型LaMDA?歌AlphaFold預(yù)測(cè)蛋?質(zhì)結(jié)構(gòu)Meta提出圖像分割模型SAMMidJourney公司：??智能繪畫(huà)AI創(chuàng)作/聊天/?模型的歷史專(zhuān)家系統(tǒng)之?，費(fèi)根鮑姆ELIZA,1960sTheELIZAeffect,incomputerscience,isthetendencytounconsciouslyassumecomputerbehaviorsareanalogoustohumanbehaviors;thatis,anthropomorphisation.??智能à預(yù)測(cè)能?增強(qiáng)?大數(shù)據(jù)的形成數(shù)據(jù)標(biāo)注?基于?類(lèi)反饋的強(qiáng)化學(xué)習(xí)圖源?知乎和微博?(Multi-head)Self-attention;Seq2Seq?預(yù)訓(xùn)練+精調(diào)?OpenAI的CodeX、DeepMind的AlphaCode，Pangu-Code,清華?思維鏈（ChainofThought可解釋、符合?類(lèi)的思維?式??步?步的邏輯思維模式?上下?學(xué)習(xí)（In-contextLearning）?指令調(diào)整(Instructtuning):與?類(lèi)意圖?致??類(lèi)似?類(lèi)?然語(yǔ)?表達(dá)的?式來(lái)實(shí)現(xiàn)預(yù)測(cè)?ChatGPT涌現(xiàn)能力和策略之間的關(guān)系。指令學(xué)習(xí)通過(guò)與人類(lèi)對(duì)齊，提高模型“知道知道”和“知道不知道”的能力，以及減少“不知道知道”和“不知道不知道”的限制。同時(shí)，代碼預(yù)訓(xùn)練通過(guò)逐步思考，幫助ChatGPT模型回答其不知道的問(wèn)題Zhaoetal.ASurveyofLargeLanguageModels,arXiv:2303.18223v12,2023.端到端的革命準(zhǔn)??檻降低、同化現(xiàn)象明顯?產(chǎn)業(yè)界/Infrastructure??業(yè)間差異變??低層、簡(jiǎn)單易重復(fù)的?作可能最早被淘汰?AI不學(xué)不??AI并?萬(wàn)能26?性價(jià)?極低?千分之三的性能提升?耗費(fèi)17810核?時(shí)，按3.22?/h?計(jì)算，需要57,338??ChatGPT:175B，45TB,10000GPU,285000CPU?1200萬(wàn)美元?建議重新開(kāi)個(gè)新期刊?只接收實(shí)驗(yàn)結(jié)果能在單機(jī)上8?時(shí)?做完的研究成果?富組的結(jié)果，窮組?法復(fù)現(xiàn)?窮則調(diào)參數(shù)，富則買(mǎi)顯卡29AI偏?的不確定性；歸納偏置歸納偏置ChatGPT團(tuán)隊(duì)中?性9?，占10%，男性78?，占90%數(shù)學(xué)是?類(lèi)能戰(zhàn)勝AI的主要?段：數(shù)數(shù)問(wèn)題文心—言整體認(rèn)知與局部認(rèn)知莫拉維克悖論/簡(jiǎn)單與復(fù)雜??覺(jué)得簡(jiǎn)單的，機(jī)器覺(jué)得難??覺(jué)得復(fù)雜的，機(jī)器覺(jué)得容易混合智能---孤?依賴(lài)?或機(jī)都