【北京大學(xué)】DeepSeek內(nèi)部研討系列：DeepSeek與AIGC應(yīng)用

1.本次講座為DeepSeek原理和應(yīng)用系列研討的講座之一，主要介紹DeepSeek的基本概2.本次講座首先分析當(dāng)前備受矚目的DeepSeek-R1的概念、優(yōu)勢(shì)和歷史地位。然后進(jìn)一步探討大模型和AIGC的底層工作機(jī)制，旨在幫助讀者突破工具應(yīng)用DeepSeek和AIGC的深層次價(jià)值3.盡管DeepSeek-R1以其低成本和開源策略為行業(yè)帶來變革，但當(dāng)前網(wǎng)絡(luò)上的大量相關(guān)內(nèi)容僅停留在工具應(yīng)用層面，易對(duì)初級(jí)AI應(yīng)用人員造成概念和思維方式的誤導(dǎo)，這也NI898CONTENTS01詳解DeepSeekR102AIGC的概念和應(yīng)用03AIGC的能力揭秘04選擇AIGC工具88PEKINGUNIVERSITYPEKINGUNIVERSITY詳解DeepSeek-R1首先介紹人工智能的發(fā)展歷程，以及大模型相關(guān)術(shù)語，并對(duì)比DeepSeek-R1隨后介紹DeepSeek公司的背景、市場(chǎng)定位以及DeepSeek-R在推理密集型任務(wù)、教育、科研、知識(shí)應(yīng)用和文檔分析等領(lǐng)域的獨(dú)特優(yōu)勢(shì)，并列舉接通過對(duì)人工智能發(fā)展歷史以及DeepSeek-R1的介紹和分析，本部分旨在為聽眾提供●2023年1950s-1990S1950s-1990S1990s-2010S2010s-2022年l多模態(tài)文本、圖片、音頻、視頻l通用模型大語言模型（LLM，LargeLanguageModel）l行業(yè)模型（垂直模型、垂類模型）教育、醫(yī)療、金融等比較項(xiàng)GPT-4o（生成模型）DeepSeek-R1（推理模型）模型定位專注于通用自然語言處理和多模態(tài)能力，適合日常對(duì)話、內(nèi)容生成、翻譯以及圖文、音頻、視頻等信息處側(cè)重于復(fù)雜推理與邏輯能力，擅長數(shù)學(xué)、編程和自然語言推理任務(wù)，適合高難度問題求解和專業(yè)領(lǐng)域應(yīng)用，在中文表達(dá)上容易出在日常語言任務(wù)中表現(xiàn)均衡，但在復(fù)雜邏輯推理（如在復(fù)雜推理任務(wù)表現(xiàn)卓越，尤其擅長數(shù)學(xué)、代碼推理任務(wù)，在部支持文本、圖像、音頻乃至視頻輸入，可處理多種模應(yīng)用場(chǎng)景適合廣泛通用任務(wù)，如對(duì)話、內(nèi)容生成、多模態(tài)信息處理以及多種語言相互翻譯和交流；面向大眾市場(chǎng)和適合需要高精度推理和邏輯分析的專業(yè)任務(wù)，如數(shù)學(xué)競(jìng)賽、編程問題和科學(xué)研究；在思路清晰度要求高的場(chǎng)景具有明顯優(yōu)勢(shì)如采訪大綱、方案梳理；在對(duì)中文語言表達(dá)和情感表達(dá)方面有明驗(yàn)界面友好，適合大眾使用?？烧故敬蟛糠宙?zhǔn)剿伎歼^程，便于專業(yè)用戶理解推理過程；界面和使用體驗(yàn)具有較高的定制性，但整體交互節(jié)奏較慢。?DeepSeek-R1的推理能力進(jìn)入了第一梯隊(duì)（媲美OpenAIo1）,但訓(xùn)練和推理成本低、速度快、全部開源?DeepSeek打破了硅谷傳統(tǒng)的“堆算力、拼資本”的大模型發(fā)展路徑打破壟斷DeepSeek-R1以低成本和開源特性打破以往頭部企業(yè)巨頭割據(jù)局面價(jià)格下調(diào)DeepSeek-R1的API定價(jià)僅為行業(yè)均價(jià)的1/10,推動(dòng)了中小型企業(yè)低成本接入AI,對(duì)行業(yè)產(chǎn)生了積極影響推動(dòng)創(chuàng)新DeepSeek-R1促使行業(yè)開始從“唯規(guī)模論”轉(zhuǎn)向更加注重“性價(jià)比”和“高效能”方向DeepSeek，全稱杭州深度求索人工智能基礎(chǔ)技術(shù)研究有限公司，成立于2023年7月17日，是一家創(chuàng)新型科技企業(yè)，專注于人工智能基礎(chǔ)技術(shù)的研究與開發(fā)DeepSeek，全稱杭州深度求索人工智能基礎(chǔ)技術(shù)研究有限公司，成立于2023年7月17日，是一家創(chuàng)新型科技企業(yè)，專注于人工智能基礎(chǔ)技術(shù)的研究與開發(fā)大語言模型(大語言模型(LLM)DeepSeek專注于開發(fā)先進(jìn)的大語言模型(LLM)和相關(guān)技術(shù)，旨在通過這些技的創(chuàng)新應(yīng)用術(shù)推動(dòng)人工智能在多個(gè)領(lǐng)域的應(yīng)用和創(chuàng)新投資者背景與市場(chǎng)定位作為由知名私募巨頭幻方量化孕育而生的公司，De管理資金規(guī)模均超過600億元。這為DeepSeek提供了清晰的市場(chǎng)定位和投資者背景里程碑2025年1月20日推出里程碑2025年1月20日推出DeepSeek-R1推理模型官網(wǎng)：對(duì)話：新聞：/zh-cn/news/news250120Github:/deepseek-ai/推理模型（R1）思維鏈思維鏈（ReinforcementLearning）讓模型進(jìn)行慢思考讓模型自我探索和訓(xùn)練讓模型進(jìn)行慢思考蒸餾（Distillation）在不損失能力的情況下縮小模型滿血版，能力最強(qiáng)蒸餾版，能力稍弱理科能力強(qiáng)，且準(zhǔn)確率高l數(shù)學(xué)推理l代碼生成l復(fù)雜任務(wù)處理l通用能力l語言混雜l提示詞工程使用few-shot提示可能會(huì)降低R1性能l推理密集型任務(wù)編程任務(wù)中的代碼生成、算法設(shè)計(jì)，媲美Claude3.5l教育與知識(shí)應(yīng)用l文檔分析與長上下文理解l開放領(lǐng)域問答與寫作l騰訊系騰訊ima個(gè)人知識(shí)庫知乎直答l其它接入DeepSeek-R1的產(chǎn)品l互聯(lián)網(wǎng)大廠：l騰訊：騰訊元寶、ima、微信、騰訊云l百度：百度搜索、文小言l字節(jié)跳動(dòng)：豆包、扣子、飛書l阿里：釘釘ll互聯(lián)網(wǎng)小廠：科大訊飛、知乎、秘塔、納米AI搜索、……lAI初創(chuàng)公司：零一萬物、階躍星辰、minmax、……lAI應(yīng)用公司（教育類）：學(xué)而思、北大青鳥、網(wǎng)易有道、猿輔導(dǎo)、作業(yè)幫、…...l手機(jī)廠商：華為、榮耀、魅族、......l其它云服務(wù)平臺(tái)：三大運(yùn)營商、云服務(wù)商（硅基流動(dòng)等）88PEKINGUNIVERSITYPEKINGUNIVERSITYAIGC的概念和應(yīng)用首先梳理AIGC相關(guān)的術(shù)語，包括AI、AGI、生成式AI和決策式AI等，明確新聞傳媒、影視、游戲、教育和金融等行業(yè)的具體實(shí)踐，展示AIGC在提升效率、降低成本和通過深入探討AIGC的應(yīng)用現(xiàn)狀和未來趨勢(shì)，本部分旨在幫助讀者全面理解AIGC的潛力和影響，為應(yīng)PEKINGUNIVERSITY AIGCChatGPTAI(人工智能)AI(人工智能)生成內(nèi)容?Cursor?Windsurf?MarsCode?GitHubCopilot?阿里云通義靈碼?微軟“小冰”出版詩集?AI撰寫劇本電影《陽春》?百萬字小說《天命使徒》?清華大學(xué)的《機(jī)憶之地》?Perplexity?知乎直答?秘塔AI搜索引擎?納米AI搜索?微信搜索（DeepSeekR1、元寶）?小紅書的筆記助手?短視頻平臺(tái)的內(nèi)容創(chuàng)意?自動(dòng)回復(fù)機(jī)器人?企業(yè)微信的智能回復(fù)?英國廣播公司(BBC)的Juicer?彭博社的Cyborg?新華社的快筆小新?人民日?qǐng)?bào)的創(chuàng)作大腦?第一財(cái)經(jīng)的DT稿王“數(shù)字藝術(shù)/數(shù)字修飾照片”新西湖繁勝全景圖全景圖是一副百米畫卷，再現(xiàn)了當(dāng)下西湖邊的景觀特色、生活場(chǎng)景，還有一些已經(jīng)消失的景觀，比如曾經(jīng)聞名圖中包含5000個(gè)建筑，作者白小蘇說如果這些建筑都要自己親手畫，一天畫10個(gè)都要500天。最后他借助于AI技術(shù)，在一年內(nèi)完成了作品語音對(duì)話創(chuàng)作音樂語音克隆千秋詩頌視頻特效視頻添加圖片PEKINGUNIVERSITY 內(nèi)容廣告電商行業(yè)內(nèi)容廣告電商行業(yè)新聞傳媒其它行業(yè)新聞傳媒其它行業(yè)影視行業(yè)游戲行業(yè)影視行業(yè)游戲行業(yè)產(chǎn)品拍攝降本增效提升直播帶貨效率采編環(huán)節(jié)采編環(huán)節(jié)媒錄音語音轉(zhuǎn)寫應(yīng)用場(chǎng)景拓展媒錄音語音轉(zhuǎn)寫應(yīng)用場(chǎng)景拓展AIGC對(duì)傳媒行業(yè)參與主體的影響應(yīng)用功能升級(jí)短時(shí)間獲得更多新聞，提高獲取及時(shí)性及便捷性;降低傳媒門檻，使得受眾可以參與內(nèi)容生產(chǎn)，增強(qiáng)參與感將部分采編、播放應(yīng)用功能升級(jí)短時(shí)間獲得更多新聞，提高獲取及時(shí)性及便捷性;降低傳媒門檻，使得受眾可以參與內(nèi)容生產(chǎn)，增強(qiáng)參與感將部分采編、播放工作自動(dòng)化，讓其更專注于思考創(chuàng)造如將精力集中于深度報(bào)道專題報(bào)道等更需發(fā)揮人類精準(zhǔn)分析事物、妥善處理情感的領(lǐng)域;應(yīng)用形態(tài)完善大幅提高生產(chǎn)效率，并帶來新的視覺化、互動(dòng)化體驗(yàn);豐富了新聞報(bào)道的形式，推動(dòng)傳媒向智媒轉(zhuǎn)變影視劇本文稿創(chuàng)作拓展角色范疇賦能影視剪輯影視劇本文稿創(chuàng)作拓展角色范疇賦能影視剪輯拓展場(chǎng)景空間拓展場(chǎng)景空間AIGC游戲研發(fā)環(huán)節(jié)作用體驗(yàn)游戲性能?游戲性能?特定風(fēng)格模擬：AI通過模仿職業(yè)功能功能?游戲功能測(cè)試：針對(duì)性找出游戲交互的可能角色劇情角色劇情?AI創(chuàng)造不同的面孔、服飾、聲音甚至性格特征，甚至可同步驅(qū)動(dòng)嘴型、表情等面策略策略?AI智能NPC能夠分析玩家的實(shí)時(shí)輸入，與玩家動(dòng)態(tài)交互，構(gòu)建幾乎無限且不重復(fù)的劇情;?AI能夠生產(chǎn)相關(guān)的圖文、音樂等，創(chuàng)造游戲素材，輔以劇情鋪排，提升劇情飽滿度。?讓AI感知環(huán)境、自身狀態(tài)并基于特定目標(biāo)決定當(dāng)下需要執(zhí)行的動(dòng)作，基于特定問題和?讓AI感知環(huán)境、自身狀態(tài)并基于特定目標(biāo)決定當(dāng)下需要執(zhí)行的動(dòng)作，基于特定問題和場(chǎng)景，自主提出解決方案。游戲策游戲運(yùn)營環(huán)節(jié)?AI自動(dòng)化廣告投放:目前抖音等游戲運(yùn)營環(huán)節(jié)?生成廣告素材:素材主要是圖像及音視頻內(nèi)容，預(yù)計(jì)AIGC的加持下廣告素材生成會(huì)更高效、高質(zhì)量;?玩家分類提升體驗(yàn):通過不同玩家的數(shù)據(jù)，將用戶細(xì)分類型，為不同類型玩家提供獨(dú)特的玩法，提高用戶體驗(yàn)。金融行業(yè)PEKINGUNIVERSITY 企業(yè)賦能個(gè)人賦能結(jié)果幻象、可控性、理解能力結(jié)果幻象、可控性、理解能力生成精準(zhǔn)度、還原度、仿真度社會(huì)偏見、性別歧視等數(shù)字身份冒用制作虛假信息詐騙侵權(quán)與被侵權(quán)AIGC的生成質(zhì)量和準(zhǔn)確性將得到提升在更多領(lǐng)域得到應(yīng)用，如保險(xiǎn)、醫(yī)療和法律服務(wù)等更多地與人類專家協(xié)作，以提供更高質(zhì)量的內(nèi)容和服務(wù)預(yù)計(jì)將出現(xiàn)更多關(guān)于內(nèi)容生成和使用的監(jiān)管框架80%的企業(yè)將使用生成式AI的API或模型，或在生產(chǎn)環(huán)境中部署支持生成式AI的應(yīng)用，而在2023年初這一比例不到5%。顯著上升?STEM（科學(xué)、技術(shù)、工程相關(guān)職業(yè)?醫(yī)療保健和其他高技能職業(yè)下降顯著?辦公室職員?生產(chǎn)工人?客戶服務(wù)代表等傳統(tǒng)職業(yè)麥肯錫報(bào)告：《工作的新未來：在歐洲及其他地區(qū)部署人工智能和提升技能的?技術(shù)技能大幅增長?炙手可熱的“新寵”技能是社會(huì)和情感技能?體力和手動(dòng)技能的需求預(yù)計(jì)將保持大致穩(wěn)定?認(rèn)知技能(文字和信息處理、編程、科研、工程等）的需求預(yù)計(jì)將減少14%麥肯錫報(bào)告：《工作的新未來：在歐洲及其他地區(qū)部署人工智能和提升技能的88PEKINGUNIVERSITYPEKINGUNIVERSITYAIGC的能力揭秘本部分深入剖析AIGC背后的技術(shù)原理，涵蓋文本生成和圖像生成兩大核心領(lǐng)域。通過對(duì)比文本生成和圖像生成的不同路徑，大家能夠全面理解AIGC在不同模態(tài)下的工作原理，以及如何利用這些技術(shù)實(shí)現(xiàn)高效的內(nèi)容創(chuàng)作在文本生成方面，以O(shè)penAI的GPT-4o為例，詳細(xì)介紹了通用大語言模型（LLM）的工作原理，包括其基于Transformer架構(gòu)的生成機(jī)制、上下文編碼、自注意力機(jī)制以及預(yù)訓(xùn)練和微調(diào)過程。探討了GPT-4o在多輪對(duì)話、語言轉(zhuǎn)換、意圖理解、文本生成和推理能力等方面的優(yōu)勢(shì)，同時(shí)也指出其在知識(shí)局限、上下文窗口限制和生成幻覺在圖像生成方面，以StableDiffusion模型為例，解釋了其核心組件（文本編碼器、圖像信息生成器和圖像解碼器）的工作流程，揭示了文生圖和圖生圖技術(shù)的優(yōu)勢(shì)與局限。本部分的內(nèi)容參考了《人工智能通識(shí)課（微課版）》和相關(guān)的視頻（B站的思睿觀通）。PEKINGUNIVERSITY 1950s-1990S1950s-1990S1990s-2010S1990s-2010S2010s-2022年2010s-2022年GenerativeGPTPre-trainedGPTTransformer1.收到提示詞1.收到提示詞示例:“今天天氣不錯(cuò)，我決定”2.將輸入拆分為token3.采用Transformer架構(gòu)處理token4.基于上下文預(yù)測(cè)下一個(gè)token5.根據(jù)概率分?jǐn)?shù)選擇標(biāo)記概率預(yù)測(cè)概率預(yù)測(cè)+文字接龍自回歸：重復(fù)步驟4和步驟5直到形成完整的句子示例:今天天氣不錯(cuò)，我+處理輸入處理輸入生成輸出進(jìn)行推理階段1：模型訓(xùn)練典型的新技能學(xué)習(xí)曲線：規(guī)模到達(dá)臨界點(diǎn)之后才會(huì)迅速典型的新技能學(xué)習(xí)曲線：規(guī)模到達(dá)臨界點(diǎn)之后才會(huì)迅速維基百科在線百科,嚴(yán)謹(jǐn)圖書經(jīng)典為主的古登堡計(jì)劃和自助出版平臺(tái)Smashwords等雜志期刊論文：ArXiv等鏈接WebText,RedditCommonCrawl開源項(xiàng)目,爬取互聯(lián)網(wǎng)所有數(shù)據(jù)GitHub程序員聚集地合計(jì)?700多GB,約有19萬套四大名著的閱讀量?5000億左右的token數(shù)量。（13萬億token:gpt4)?100個(gè)標(biāo)記大約等于75個(gè)英語單詞n語言理解和生成能力n語言理解和生成能力n世界知識(shí)能力n一定的推理能力vsvsn知識(shí)庫有限n上下文窗口限制基本對(duì)話方法智慧對(duì)話基本對(duì)話方法智慧對(duì)話----------------->訪問地址：/GPT-3.5、GPT-4o?上下文編碼?自注意力機(jī)制上下文窗口限制?GPT-3.5：4096，大約3000個(gè)英文單詞或4000個(gè)漢字?GPT-4：8192，大約6000個(gè)英文單詞或8000個(gè)漢字?分段對(duì)話?定期總結(jié)?使用關(guān)鍵詞提醒?精簡(jiǎn)輸入?人類語言之間轉(zhuǎn)換?機(jī)器語言之間轉(zhuǎn)換?人類語言與機(jī)器語言之間轉(zhuǎn)換?人類語言生成能力不同法語、德語、中文?機(jī)器語言生成能力不同?GPT:使用英文?中文優(yōu)先選擇國內(nèi)產(chǎn)品?編程盡量選用前4種語言?真實(shí)意圖?情緒識(shí)別?判斷行為特點(diǎn)?重要他人?缺乏真正的情感?上下文理解有限?缺乏深層次推理?提供清晰具體的信息?簡(jiǎn)短和連貫的對(duì)話?使用明確的情感表達(dá)文本統(tǒng)計(jì)l統(tǒng)計(jì)字符數(shù)、單詞數(shù)、句子數(shù)等基本統(tǒng)計(jì)信息文本摘要文本統(tǒng)計(jì)l統(tǒng)計(jì)字符數(shù)、單詞數(shù)、句子數(shù)等基本統(tǒng)計(jì)信息文本摘要l從長文檔中提取主要信息，并生成一個(gè)簡(jiǎn)短的概述TT文本分類l新聞分類、情感分析（正面、負(fù)面、中性）文本總結(jié)l文本的整體內(nèi)容進(jìn)行簡(jiǎn)要概述，通常比文本摘要更為簡(jiǎn)短文本校對(duì)l錯(cuò)別字識(shí)別與修改、語法錯(cuò)誤檢查與修正、標(biāo)點(diǎn)符號(hào)調(diào)整、詞匯選擇優(yōu)化、語句重組與調(diào)整、保持一致的寫作風(fēng)格文本校對(duì)TTTl口語轉(zhuǎn)書面語、不同體裁風(fēng)格、語義保持、文本簡(jiǎn)化、文本優(yōu)化、保持一致性文本擴(kuò)寫l增加細(xì)節(jié)、舉例說明、提供背景信息、解釋專業(yè)術(shù)語或概念、描述過程或步驟、增加文學(xué)修辭、提供多種觀點(diǎn)等使用優(yōu)先級(jí)分段處理長文本 明確和具體的指示補(bǔ)充背景信息注意多義詞和模糊表達(dá)對(duì)比能力l對(duì)比分析：事物、概念、人物、事件、文對(duì)比能力l對(duì)比分析：事物、概念、人物、事件、文學(xué)作品、藝術(shù)作品等列舉能力l簡(jiǎn)單列舉任務(wù)：組合/排列/序列，簡(jiǎn)單數(shù)學(xué)問題等假設(shè)推理能力l多個(gè)領(lǐng)域能力不同：歷史事件、文學(xué)作品解讀等學(xué)會(huì)提問l學(xué)會(huì)提問l明確、具體、避免歧義l邏輯清晰l上下文信息l示范數(shù)據(jù)驗(yàn)證輸出l從回復(fù)中找到有價(jià)值的部分l判斷結(jié)果質(zhì)量：初步識(shí)別可靠信息l評(píng)估信息準(zhǔn)確性：與其他來源進(jìn)行對(duì)比l處理錯(cuò)誤信息：指出錯(cuò)誤，重新提問PEKINGUNIVERSITY 三大核心組件l精確控制困