AI大模型落地的前景和痛點兼談工程師架構(gòu)師所面臨的機會和挑戰(zhàn)-李維

ArchSummit全球架構(gòu)師峰會深圳深圳2023｜07｜21“NLP老司機、勞碌命，前訊飛AI研究院副院長，出門問問VP。Netbase前首席科學家10年，指揮研發(fā)18種語言的社會媒體輿情系統(tǒng)，成為美國NLP產(chǎn)業(yè)應用的經(jīng)典成功案例。Cymfony前研發(fā)副總，獲第一屆問答系統(tǒng)第一名，贏得17個SBIR小企業(yè)創(chuàng)新研究項目型之煉型之煉模型與AIGC大模大巴別塔建成日：公元2022年11月30日輸出輸入輸出輸入理解能力能聽“勞碌命”會說LLM能聽“勞碌命”會說生成能力LLMLLM文字序列文字序列自學習生成式自學習生成式AI（自回歸GPT系列）11年前11年前的第一次AI深度神經(jīng)革命，聚焦感知，靠的是帶標大數(shù)據(jù)有監(jiān)督訓練。5年多前5年多前的二次AI深度革命，NLP大模型（LLM）為旗幟，AI從感知到認知,靠的是自監(jiān)督預訓練。半年前半年前通天塔的三次AI革命，搞定了自然語言交互，以ChatGPT為里程碑。機器遷就人，而不是人遷就機器機器遷就人，而不是人遷就機器ShotsZeroshotZeroshot/零樣本：不依賴標注大數(shù)據(jù)，克服知識瓶頸海量樣本標注少樣本標注零樣本標注客戶調(diào)查用戶粘性、增長性利用已有測試：客戶調(diào)查用戶粘性、增長性利用已有測試：NLP測試集，高考，各資格考試LLMZeroshot開放類任務理論上沒有測試集，無法定量數(shù)據(jù)質(zhì)量（QA)底線拉平，LLM聽得懂所有人的指示ChatGPT建成語言通天塔ChatGPT建成語言通天塔GPTGPT洗禮后的新生態(tài)建設模型痛點模型痛點領域落地的挑戰(zhàn)領域落地的挑戰(zhàn)NLP老司機的焦慮NLP老司機的焦慮普羅的焦慮普羅的焦慮-&--&-out:2我有一只貓我有一只貓完全基于注意力機制，完全不用遞歸和卷積特別擅長對序列數(shù)據(jù)中的長距離依賴進行建模，非常適合自然語言處理任務Transformerseq2seq計算出每個單詞與其他單詞的相關性，然后使用這些相關性加權求和得到每個單詞的表示向量。 神經(jīng)網(wǎng)絡的每一層都可以看作是一個函數(shù)，它接收上一層的輸出（或者輸入數(shù)據(jù)，如果它是第一層），然后生成自己的輸出。每個層都包含許多的神經(jīng)元。每個神經(jīng)元都有一個權重，這就是大語言模型的參數(shù)。這些權重在訓練過程中被調(diào)整，以使模型能夠更好地預測輸出。能適應一系列下游任務的模型。GPT-3訓練數(shù)據(jù)來自于互聯(lián)網(wǎng)上的大量文本，包括維基百科、新聞文章、網(wǎng)頁、論壇、社交媒體等。模型先進行預訓練，即在未標記的文本上進行多次迭代的自監(jiān)督學習，以學習語言的結(jié)構(gòu)和規(guī)律。升了開發(fā)效率。更多微調(diào)場景...層」使模型能夠更貼合實際使用場景。RLHF基于人類反饋的強化學習RLHF基于人類反饋的強化學習指令微調(diào)有監(jiān)督微調(diào)（SFT）,對GPT-3進行微調(diào)反饋模型為輸出計算一3高智商的大腦動聽的聲音好看的外表智能硬件載體對話對話知識知識邏輯邏輯推理推理數(shù)學數(shù)學規(guī)劃規(guī)劃序列猴子：面向創(chuàng)作者的應用打通內(nèi)容創(chuàng)作全流程。超超超付費會員風格像做PPT一樣制作數(shù)字人視頻和直播海量資產(chǎn)海量資產(chǎn)豐富語音豐富語音逼真效果逼真效果本視頻由出門問問AIGC應用本視頻由出門問問AIGC應用本視頻由出門問問AIGC應用大模型大腦大模型大腦個人信息記憶語音助手個人信息記憶文檔分析好看的外表好聽的聲音形象定制聲音定制持續(xù)迭代形象定制聲音定制持續(xù)迭代…模型定制模型定制企業(yè)專有數(shù)據(jù)模型定制