企業(yè)落地大模型的路徑、場景與案例

目錄

Contents02.大模型在企業(yè)用戶落地進展企業(yè)用戶對大模型的預(yù)期大模型在行業(yè)落地進展大模型在企業(yè)落地方式03.大模型在科技廠商落地進展大模型對科技廠商的價值大模型在數(shù)據(jù)分析、營銷、辦公的落地案例01.中國市場大模型進展與趨勢中國大模型市場全景地圖國產(chǎn)大模型市場機會企業(yè)落地大模型路徑01中國大模型市場全景地圖國產(chǎn)大模型市場機會企業(yè)落地大模型路徑中國大模型市場進展與趨勢大模型定義大模型：參數(shù)量超過10億、具備泛化能力的模型，可以被稱為大模型。大模型小模型AI建模方法深度學(xué)習(xí)、自然語言處理、多模態(tài)技術(shù)機器學(xué)習(xí)、深度學(xué)習(xí)、自然語言處理、計算機視覺等參數(shù)量參數(shù)量規(guī)模在10億以上參數(shù)量規(guī)模是幾萬至幾百萬參數(shù)應(yīng)用場景泛語言類場景（自然語言、編程語言等）、多模態(tài)場景（文本、圖像、音頻、視頻）場景更加多樣，但生成類場景效果差，不具備多模態(tài)泛化能力強，處理多任務(wù)效果好弱，處理多任務(wù)效果差可解釋性弱強訓(xùn)練冷啟動成本低任務(wù)對齊成本高冷啟動成本高任務(wù)對齊成本低推理反饋速度慢準(zhǔn)確率低反饋速度快準(zhǔn)確率高大模型當(dāng)前以生成類應(yīng)用為主，多模態(tài)是未來重點發(fā)展方向生成類應(yīng)用對話式交互內(nèi)容生成代碼開發(fā)虛擬專家智能體決策類應(yīng)用輔助決策：描述、診斷智能決策：預(yù)測、指導(dǎo)多模態(tài)應(yīng)用圖像、語音、視頻、結(jié)構(gòu)化數(shù)據(jù)企業(yè)用戶是從應(yīng)用視角出發(fā)，分成生成類應(yīng)用、決策類應(yīng)用和多模態(tài)應(yīng)用。受限于模型能力、應(yīng)用效果等因素，當(dāng)前階段以生成類應(yīng)用為主。理解生成推理大模型能力對比美國市場，中國市場在模型層和應(yīng)用層發(fā)展迅速通用大模型應(yīng)?層模型層基礎(chǔ)層AI芯片高速網(wǎng)絡(luò)存儲向量數(shù)據(jù)庫云平臺行業(yè)大模型領(lǐng)域大模型企業(yè)大模型中間層大模型應(yīng)用開發(fā)工具數(shù)據(jù)標(biāo)注工具提示詞工程工具……金融能源教育出海傳媒電商醫(yī)療政務(wù)……營銷客服應(yīng)用開發(fā)數(shù)據(jù)分析……MSP運維服務(wù)商ISV獨?軟件服務(wù)商SI系統(tǒng)集成商任務(wù)大模型三大要素，驅(qū)動中國“OpenAI”（通用大模型）必定出現(xiàn)國產(chǎn)化：從IT基礎(chǔ)設(shè)施到上層應(yīng)用軟件的國產(chǎn)化、自主可控需求強烈。銀行、大型央國企在內(nèi)部明確限制員工使用ChatGPT用于內(nèi)部辦公、生產(chǎn)場景，5家銀行在1年內(nèi)有明確采購國產(chǎn)大模型服務(wù)的計劃。客群特征：以央國企等集團型企業(yè)為主的客群，集團層面要進行大模型能力建設(shè)，有明確購買/自研通用大模型的需求。本地部署：從數(shù)據(jù)安全角度出發(fā)，銀行、大型央國企如果將大模型用于生產(chǎn)，必須要進行本地部署。根據(jù)愛分析調(diào)研，除了部分企業(yè)基于開源自研之外，絕大部分國內(nèi)企業(yè)用戶和應(yīng)用廠商，都在等國產(chǎn)大模型的商業(yè)化落地，這是國產(chǎn)大模型最核心的驅(qū)動力。國產(chǎn)化服務(wù)支持本地部署市場成熟度、監(jiān)管要求、數(shù)據(jù)安全等因素推動行業(yè)/領(lǐng)域大模型發(fā)展監(jiān)管要求：C端應(yīng)用短期不會放開，更多應(yīng)用場景在B端。數(shù)據(jù)安全：大型甲方企業(yè)數(shù)據(jù)安全考慮，特定場景的SFT數(shù)據(jù)獲取存在一定難度。FT數(shù)據(jù)量不大，但需要有很深的行業(yè)know-how，獲取難度不低。通用大模型優(yōu)先訓(xùn)練通用場景FT數(shù)據(jù)，特定場景積累需要時間。市場成熟度：很多甲方企業(yè)在23-24年有明確上線大模型需求，當(dāng)前國產(chǎn)通用大模型能力不足。服務(wù)支持：中國企業(yè)客戶需要端到端服務(wù)，傾向于采購行業(yè)大模型+業(yè)務(wù)應(yīng)用，幾乎不可能直接采購?fù)ㄓ么竽Ｐ?，需要有很強的區(qū)域服務(wù)支持能力。監(jiān)管要求市場成熟度數(shù)據(jù)安全服務(wù)支持大模型能力建設(shè)和應(yīng)用場景探索是當(dāng)前企業(yè)用戶落地大模型的主要路徑基礎(chǔ)設(shè)施建設(shè)芯片（算力）大模型訓(xùn)練模型選型模型訓(xùn)練與微調(diào)大模型應(yīng)用模型壓縮大模型與小模型結(jié)合集團企業(yè)重點是大模型能力建設(shè)，一般企業(yè)/部門重點是應(yīng)用場景探索。大模型能力建設(shè)分成三個層面：基礎(chǔ)設(shè)施建設(shè)、大模型訓(xùn)練和大模型應(yīng)用，當(dāng)前以基礎(chǔ)設(shè)施建設(shè)和大模型訓(xùn)練為主。綜合成本和安全性考慮，智算中心會成為解決算力問題的重要方式自建集群成本高AI團隊要求高安全性高云服務(wù)租用性價比高安全性差智算中心成本低于云服務(wù)安全性強安全性投入產(chǎn)出比智算中心云服務(wù)租用自建集群當(dāng)前以SFT為主，未來預(yù)訓(xùn)練會成為主流SFT預(yù)訓(xùn)練投入算力成本低算力成本高團隊需要具備模型訓(xùn)練經(jīng)驗數(shù)據(jù)集SFT精標(biāo)數(shù)據(jù)SFT精標(biāo)數(shù)據(jù)大量無標(biāo)注數(shù)據(jù)集模型能力受限于模型本身能力能力增強，但可能出現(xiàn)災(zāi)難性遺忘安全性受限于模型自身數(shù)據(jù)集，只能盡可能彌補安全問題很大程度上解決安全性問題未來發(fā)展遷移成本低受限于基礎(chǔ)大模型，遷移成本高SFT試錯成本低，成為多數(shù)企業(yè)的選擇。未來隨著基礎(chǔ)/通用模型成熟和算力持續(xù)降低，模型預(yù)訓(xùn)練成為主流方式。當(dāng)前以小模型為主，模型級聯(lián)是未來主要應(yīng)用方向分成三種形式，現(xiàn)階段以（1）和（2）為主：1）小模型為主，大模型提升小模型的開發(fā)效率；大模型與小模型級聯(lián)，小模型連接應(yīng)用，大模型增強小模型能力；大模型與小模型融合以小模型為主大模型提升小模型訓(xùn)練效率降低數(shù)據(jù)標(biāo)注成本大模型與小模型級聯(lián)安全性、性價比、準(zhǔn)確度大模型提升小模型的理解和生成能力大模型與小模型融合當(dāng)前主要探索方向02企業(yè)用戶對大模型的預(yù)期大模型在行業(yè)落地進展大模型在企業(yè)落地方式大模型在企業(yè)用戶落地進展多數(shù)企業(yè)認為大模型將帶來變革性價值，但應(yīng)用場景尚需挖掘調(diào)研行業(yè)分布72%28%關(guān)注不關(guān)注15%高層部門中層在金融、消費品零售、能源、汽車等重點行業(yè)，對大模型現(xiàn)狀進行了摸排調(diào)研是否關(guān)注需求及來源能源、金融、消費品零售、汽車等行業(yè)最為關(guān)注大模型85%大型央企等控股集團從高層推動，其他企業(yè)多從IT等部門自下而上推動45%39%16%0%觀望學(xué)習(xí)探索可研試點應(yīng)用全面應(yīng)用43%40%12%5%變革性高中低當(dāng)前階段預(yù)期業(yè)務(wù)價值大模型上線應(yīng)用以內(nèi)部生產(chǎn)力工具為主，對客應(yīng)用囿于監(jiān)管和大模型技術(shù)成熟度，尚需時日大多數(shù)企業(yè)對大模型預(yù)期業(yè)務(wù)價值抱有高期待1%1%1%1%3%4%4%6%7%9%16%43%咨詢化工交通地產(chǎn)媒體信息技術(shù)央國企制造汽車能源消費品零售金融附錄：預(yù)期業(yè)務(wù)價值釋義高預(yù)期業(yè)務(wù)價值由高向低創(chuàng)造新的業(yè)務(wù)模式，并實現(xiàn)新的業(yè)務(wù)收入來源在既有業(yè)務(wù)模式下，業(yè)務(wù)價值得以顯著增強或業(yè)務(wù)流程得以重塑，從而明顯增加收入或者降低成本在既有業(yè)務(wù)模式下，業(yè)務(wù)流程有所改善，并帶來收入增長或成本下降用戶體驗改善等業(yè)務(wù)微調(diào)，難以與收入增長或成本下降直接關(guān)聯(lián)變革性中低大模型可分為生成和決策兩類應(yīng)用場景，決策場景預(yù)期業(yè)務(wù)價值更高生成場景決策場景通過數(shù)據(jù)分析建模，由系統(tǒng)直接給出能達成預(yù)期業(yè)務(wù)目標(biāo)的行動方案典型場景：智能決策系統(tǒng)通過數(shù)據(jù)分析發(fā)現(xiàn)業(yè)務(wù)現(xiàn)象背后的原因，實現(xiàn)業(yè)務(wù)可診斷典型場景：數(shù)據(jù)分析通過數(shù)據(jù)采集和展示，描述業(yè)務(wù)正在發(fā)生什么，實現(xiàn)業(yè)務(wù)可視化典型場景：數(shù)據(jù)大屏通過數(shù)據(jù)分析，判斷業(yè)務(wù)未來會可能會發(fā)生什么，實現(xiàn)業(yè)務(wù)結(jié)果可預(yù)測典型場景：機器學(xué)習(xí)平臺輔助決策智能決策在特定領(lǐng)域，通過對大量的非結(jié)構(gòu)化數(shù)據(jù)總結(jié)，為用戶提供專業(yè)意見典型場景：智能客服生成用戶需要的文字、圖片、音頻、視頻、3D模型等典型場景：AI繪畫虛擬專家代碼開發(fā)對已有代碼檢查、修正，或根據(jù)要求生成代碼典型場景：代碼生成智能體通過對話，調(diào)用內(nèi)外部數(shù)據(jù)，滿足用戶目標(biāo)，短期內(nèi)難實現(xiàn)典型場景：Auto-GPT內(nèi)容生成描述 診斷對話式交互通過自然語言與用戶進行交互典型場景：聊天機器人預(yù)測 指導(dǎo)基于大模型構(gòu)建的AI原生應(yīng)用，有望創(chuàng)造變革性價值預(yù)期業(yè)務(wù)價值高或中在既有業(yè)務(wù)模式下，增強或改善業(yè)務(wù)流程，帶來收入增長或者成本下降預(yù)期業(yè)務(wù)價值變革性基于大模型，創(chuàng)造全新業(yè)務(wù)模式，并實現(xiàn)新的業(yè)務(wù)收入來源。只有大模型才具備涌現(xiàn)能力、泛化能力，從而跳脫出在系統(tǒng)中的模塊局限。小模型時代，系統(tǒng)中只有部分模塊為AI替代。AI應(yīng)用場景切割的很細，工行1,000+場景、3,000+模型。大模型時代，整體系統(tǒng)具備AI能力，創(chuàng)造全新業(yè)務(wù)。能源、銀行兩大行業(yè)，大模型落地進展最快所處階段觀望學(xué)習(xí)探索可研試點應(yīng)用全面上線場景豐富度高中低銀行證券智能問答智能客服數(shù)字營業(yè)廳貸后報告生成沉睡客戶喚醒能源智能客服設(shè)備運檢知識助手檢修文檔生成智能投顧智能投研智能客服制造主機廠消費品零售智能客服千人千面文案營銷圖片生成導(dǎo)購賦能智能風(fēng)控審計助手智能營銷媒體摘要生成金融產(chǎn)品推薦電力系統(tǒng)仿真平臺電力負荷預(yù)測智能問答研發(fā)設(shè)計輔助藥企藥物研發(fā)自動駕駛智能座艙寫作助手智能問答出海智能客服能源企業(yè)生成類場景落地速度快，高價值應(yīng)用聚焦決策類場景3年以上實現(xiàn)主流采納時間生成類1-3年實現(xiàn)大模型帶來的場景價值變化1年內(nèi)實現(xiàn)決策類 原生應(yīng)用注：主流采納時間，指被行業(yè)內(nèi)企業(yè)用戶主流采納應(yīng)用的時間。場景價值變革性高中低電力系統(tǒng)仿真平臺電力負荷預(yù)測新能源規(guī)劃設(shè)計設(shè)備故障維修資金歸集 設(shè)備預(yù)測性維護設(shè)備運檢知識助手智能客服/虛擬營業(yè)廳檢修文檔生成大模型基于設(shè)備日志等運行信息進行故障定位，有望成為首個中價值場景設(shè)備運檢知識助手場景價值案例對比過去：基于NLP技術(shù)構(gòu)建結(jié)構(gòu)化知識庫現(xiàn)在：利用大模型構(gòu)建運檢助手預(yù)期：效率改善實際：提取效率和效果、交互方式有優(yōu)化智能客服/虛擬營業(yè)廳場景價值案例對比過去：基于Bert模型的智能客服現(xiàn)在：利用大模型改善智能客服的用戶體驗預(yù)期：用戶體驗改善實際：意圖理解更準(zhǔn)確、語言更擬人化檢修文檔生成場景價值案例對比過去：模板式文檔填寫現(xiàn)在：利用大模型快速自動生成文檔預(yù)期：效率提升實際：尚未實現(xiàn)，未知設(shè)備故障維修場景價值案例對比過去：傳統(tǒng)故障檢修方法難度大、耗時耗力現(xiàn)在：大模型快速定位故障原因，提供檢修建議和方案預(yù)期：故障快速定位與修復(fù)實際：尚未實現(xiàn)，未知預(yù)測類決策場景是未來高價值場景新能源規(guī)劃設(shè)計場景價值案例對比過去：新能源供電不穩(wěn)定，分配不同類型新能源電站強依賴專家經(jīng)驗現(xiàn)在：利用大模型規(guī)劃電站建設(shè)最優(yōu)解預(yù)期：提高供給側(cè)規(guī)劃準(zhǔn)確率實際：尚未實現(xiàn)，未知設(shè)備預(yù)測性維護場景價值案例對比過去：AI算法故障預(yù)測能力弱現(xiàn)在：大模型可以提取潛在故障特征，實現(xiàn)對電力設(shè)備故障預(yù)測預(yù)期：提高設(shè)備故障預(yù)測準(zhǔn)確率實際：尚未實現(xiàn)，未知電力系統(tǒng)仿真平臺場景價值案例對比過去：MATLAB等電力仿真工具現(xiàn)在：利用大模型自動實現(xiàn)仿真樣本補充和樣本分布改造預(yù)期：豐富仿真樣本庫實際：尚未實現(xiàn)，未知電力負荷預(yù)測場景價值案例對比過去：負荷預(yù)測考慮實時影響因素少現(xiàn)在：納入更多影響因素實時預(yù)測負荷預(yù)期：提高預(yù)測準(zhǔn)確率實際：尚未實現(xiàn)，未知銀行重視大模型在營銷、風(fēng)控、運營三個方向應(yīng)用價值主流采納時間1年內(nèi)實現(xiàn)1-3年實現(xiàn)3年以上實現(xiàn)大模型帶來的場景價值變化生成類 決策類 原生應(yīng)用注：主流采納時間，指被行業(yè)內(nèi)企業(yè)用戶主流采納應(yīng)用的時間。場景價值變革性高中低數(shù)字營業(yè)廳沉睡客戶喚醒 金融產(chǎn)品推薦個性化資產(chǎn)配置申請/交易反欺詐智能客服營銷圖片自動生成智能問答助手貸后報告撰寫智能客服場景價值案例對比過去：智能陪練題庫少，缺少針對性現(xiàn)在：基于大模型生產(chǎn)個性化題庫預(yù)期：改善培訓(xùn)效果實際：測試中，預(yù)期可以縮短培訓(xùn)周期營銷圖片自動生成場景價值案例對比過去：設(shè)計師在素材庫中選取并設(shè)計，耗時天級別現(xiàn)在：Midjourney自動生成預(yù)期：降低成本實際：版權(quán)成本以及人力成本下降銀行積極探索智能客服場景，強監(jiān)管環(huán)境下尚難以實現(xiàn)面客業(yè)務(wù)沉睡客戶喚醒場景價值案例對比過去：沉睡客戶分組、喚醒渠道、文案撰寫、喚醒時間等一系列人工策略現(xiàn)在：利用大模型自動生成策略預(yù)期：端到端策略改善喚醒效果實際：尚未實現(xiàn)，未知數(shù)字營業(yè)廳場景價值案例對比過去：3D營業(yè)廳以功能展示為主現(xiàn)在：大模型支持的數(shù)字人幫助客戶辦理業(yè)務(wù)、推薦產(chǎn)品完成交易預(yù)期：獨立于APP之外的新渠道實際：尚未實現(xiàn)，未知品牌商AI原生應(yīng)用多點開花，虛擬導(dǎo)購寄予厚望高中低1年內(nèi)實現(xiàn)1-3年實現(xiàn)場景價值變革性3年以上實現(xiàn)主流采納時間MA智能商品運營 虛擬導(dǎo)購代碼生成營銷圖片生成 智能客服導(dǎo)購賦能實時價格優(yōu)化CDP千人千面文案 渠道數(shù)字化全渠道一盤貨智慧門店大模型帶來的場景價值變化生成類 決策類 原生應(yīng)用注：主流采納時間，指被行業(yè)內(nèi)企業(yè)用戶主流采納應(yīng)用的時間。大模型的降本價值在營銷圖片生成場景顯著千人千面文案場景價值案例對比①過去：千篇一律的模板式郵件文案現(xiàn)在：出海企業(yè)可基于不同用戶生成個性化郵件文案預(yù)期：改善客訴率，降低拒付率實際：客訴率難改善，拒付率下降約1‰場景價值案例對比②過去：基于一組標(biāo)簽的用戶組撰寫營銷文案現(xiàn)在：基于每個用戶生產(chǎn)個性化營銷文案預(yù)期：提高銷售轉(zhuǎn)化率實際：客戶體驗改善，銷售轉(zhuǎn)化率無變化營銷圖片生成場景價值案例對比過去：品牌商外采采購營銷圖片現(xiàn)在：基于大模型自動生成營銷圖片預(yù)期：降低成本實際：降低面向供應(yīng)商的采購成本智能客服場景價值案例對比過去：基于Bert的NLP智能客服現(xiàn)在：基于通用大模型，客服機器人的交互能力、推理能力更強預(yù)期：提升一次接通成功解決率實際：測試場景表現(xiàn)強，無訓(xùn)練成本大模型長期將對虛擬導(dǎo)購、代碼生成場景帶來變革性價值虛擬導(dǎo)購場景價值案例對比①過去：傳統(tǒng)貨架式電商、直播電商現(xiàn)在：對話式電商，實現(xiàn)商品推薦、選擇、下單等購物全流程預(yù)期：收入增長實際：未知，取決于消費者接受度、用戶體驗等場景價值案例對比②過去：直播電商以真人帶貨為主現(xiàn)在：基于大模型的新一代數(shù)字人虛擬導(dǎo)購預(yù)期：收入增長實際：未知，取決于消費者接受度、用戶體驗等代碼生成場景價值案例對比①過去：Kite等上一代AI代碼補全工具現(xiàn)在：GitHub

Copilot可補全代碼預(yù)期：提高撰寫代碼效率實際：測試場景，代碼量10%左右可自動補全場景價值案例對比②過去：Gerrit等代碼評審工具現(xiàn)在：基于大模型可低成本評審全量代碼預(yù)期：保證代碼規(guī)范性實際：全量代碼規(guī)范性審核車企大模型車機端應(yīng)用預(yù)期高，智能座艙優(yōu)先投入高中低1年內(nèi)實現(xiàn)1-3年實現(xiàn)3年以上實現(xiàn)場景價值變革性主流采納時間智能座艙自動駕駛營銷圖片生成 智能客服導(dǎo)購賦能千人千面文案大模型帶來的場景價值變化生成類 決策類 原生應(yīng)用注：主流采納時間，指被行業(yè)內(nèi)企業(yè)用戶主流采納應(yīng)用的時間。大模型在自動駕駛中尚處于輔助角色智能座艙場景價值案例對比過去：人車互動限于特定娛樂、駕駛場景現(xiàn)在：人車互動場景擴展至開放域預(yù)期：改善體驗，基于互動產(chǎn)生新收入實際：新收入來源尚未實現(xiàn)自動駕駛場景價值案例對比①過去：人工標(biāo)注數(shù)據(jù)覆蓋現(xiàn)在：大模型自動完成標(biāo)準(zhǔn)預(yù)期：降低成本實際：數(shù)據(jù)標(biāo)注外包成本下降場景價值案例對比②過去：仿真庫基于歷史數(shù)據(jù)持續(xù)積累現(xiàn)在：大模型自動生成仿真場景，覆蓋Corner

Case預(yù)期：低成本豐富仿真庫實際：測試進程中，尚未落地藥物研發(fā)依然藥企場景中的皇冠明珠大模型帶來的場景價值變化生成類 決策類 原生應(yīng)用注：主流采納時間，指被行業(yè)內(nèi)企業(yè)用戶主流采納應(yīng)用的時間。高中低1年內(nèi)實現(xiàn)1-3年實現(xiàn)3年以上實現(xiàn)場景價值變革性主流采納時間AI藥物研發(fā) 虛擬醫(yī)生臨床應(yīng)用規(guī)劃及推薦臨床試驗文檔管理AI藥物研發(fā)場景價值案例基于大模型進行靶點發(fā)現(xiàn)、藥物分子篩選、藥物分子優(yōu)化等，預(yù)測藥物與靶點蛋白的相互作用預(yù)期：提高研發(fā)效率，降低研發(fā)成本實際：尚未實現(xiàn)，未知虛擬醫(yī)生場景價值案例過去：虛擬醫(yī)生做簡單導(dǎo)診現(xiàn)在：大模型基于病例給予診療建議預(yù)期：輔助不發(fā)達地區(qū)醫(yī)生診療實際：尚未實現(xiàn)，未知大模型對藥物研發(fā)帶來跨越式價值提升，商業(yè)化落地仍需時間臨床試驗文檔管理場景價值案例過去：人工撰寫eTMF現(xiàn)在：利用大模型自動生成臨床試驗文檔預(yù)期：提升效率實際：尚未實現(xiàn)，未知臨床應(yīng)用規(guī)劃及推薦場景價值案例過去：基于人工經(jīng)驗進行規(guī)劃現(xiàn)在：基于大模型生成藥物臨床試驗設(shè)計思路、統(tǒng)計方法等預(yù)期：輔助專家提高效率實際：尚未實現(xiàn)，未知大模型在企業(yè)內(nèi)部落地形式，當(dāng)前以直接調(diào)用通用大模型能力為主通用大模型中間層Prompt+思維鏈指令微調(diào)（SFT）應(yīng)用層SaaS應(yīng)用/傳統(tǒng)軟件工具+服務(wù)團隊行業(yè)大模型中間層Prompt+思維鏈指令微調(diào)（SFT）應(yīng)用層SaaS應(yīng)用/傳統(tǒng)軟件工具+服務(wù)團隊基礎(chǔ)大模型行業(yè)/企業(yè)知識庫目前在企業(yè)內(nèi)部有兩種落地方式：1）直接調(diào)用通用大模型的能力；2）用行業(yè)數(shù)據(jù)集訓(xùn)練基礎(chǔ)大模型，形成行業(yè)大模型。如何決定落地場景、測試性能、本地化部署均是重要關(guān)切問題AI/大模型應(yīng)用場景梳理場景落地順序規(guī)劃首批測試場景的大模型性能測試API調(diào)取/本地化部署決策提示詞工程（預(yù)處理）大模型與小模型結(jié)合應(yīng)用測試與上線關(guān)切問題1：如何決定場景落地順序？關(guān)切問題2：如何進行性能測試？關(guān)切問題3：本地化部署大模型如何選型？性能合規(guī)性價?Vicuna-13B性能合規(guī)性價?BloomZ-7B性能合規(guī)性價?GLM-6B企業(yè)內(nèi)部業(yè)務(wù)與IT加速融合，加快數(shù)字化落地進展企業(yè)數(shù)字化建設(shè)更加敏捷高效IT部門分化成兩個部分：1）深入業(yè)務(wù)的ITBP；2）更新維護大模型等基礎(chǔ)設(shè)施業(yè)務(wù)部門1IT部門IT開發(fā)團隊ITBP1大模型+零代碼平臺產(chǎn)品經(jīng)理/項目經(jīng)理業(yè)務(wù)部門2業(yè)務(wù)部門3業(yè)務(wù)部門1業(yè)務(wù)部門2業(yè)務(wù)部門3ITBP2ITBP3IT部門03大模型對科技廠商的價值大模型在數(shù)據(jù)分析、營銷、辦公的落地進展及案例大模型在科技廠商的落地進展大模型對于科技廠商有三方面價值提升內(nèi)部生產(chǎn)力增強產(chǎn)品能力重塑產(chǎn)品和商業(yè)模式研發(fā)：代碼生成，數(shù)據(jù)標(biāo)注營銷：營銷內(nèi)容生成交付：代碼生成培訓(xùn)：知識庫問答優(yōu)化產(chǎn)品功能和易用性，提升客戶體驗和滿意度自然語言交互降低用戶門檻，拓展用戶群體開發(fā)新功能，拓展能力邊界和客群發(fā)掘大模型原生應(yīng)用場景需求，開發(fā)全新產(chǎn)品基于新產(chǎn)品，實現(xiàn)按調(diào)用量收費等新商業(yè)模式大模型能力當(dāng)前普遍處于前兩個階段，更大價值預(yù)期在大模型原生應(yīng)用當(dāng)前進展?jié)撛趦r值RPABI知識管理低代碼機器學(xué)習(xí)大模型生成能力對于提升科技廠商內(nèi)部生產(chǎn)力價值明確：圖片、文本等營銷內(nèi)容生成，代碼生成，數(shù)據(jù)標(biāo)注與數(shù)據(jù)合成。大模型增強產(chǎn)品能力有初步進展：Copilot

類應(yīng)用成為“標(biāo)配”：利用大模型對話、生成等能力的AI

助手，降低用戶使用門檻，提升產(chǎn)品易用性；增強小模型效果：AI

廠商（如智能客服、知識管理）借助大模型在文本等任務(wù)中的優(yōu)異表現(xiàn)，增強產(chǎn)品能力；開發(fā)新應(yīng)用：AIGC

廠商（如數(shù)字辦公）利用自研或外部大模型能力，開發(fā)新的

AIGC

應(yīng)用。新商業(yè)模式處于探索階段，預(yù)期在大模型原生應(yīng)用現(xiàn)有產(chǎn)品能力增強不足以產(chǎn)生新訂單和提升客單價，需要開發(fā)大模型原生應(yīng)用產(chǎn)品；AI

對服務(wù)效果和效率提升預(yù)期顯著的應(yīng)用（客服、營銷等），未來有機會產(chǎn)生新的商業(yè)化收入；能夠幫助企業(yè)節(jié)省算力投入的AI基礎(chǔ)軟件，未來有機會產(chǎn)生新的商業(yè)模式。營銷客服AIGC辦公HRIT運維BI：對話式交互促進數(shù)據(jù)分析平民化，智能洞察將進一步提升價值自然語言交互業(yè)務(wù)用戶SQL

生成BI平臺行業(yè)大模型Prompt+思維鏈指令微調(diào)+模型蒸餾通用大模型當(dāng)前進展應(yīng)用場景：對話式交互：傳統(tǒng)

NLP

to

SQL

準(zhǔn)確性不足，大模型增強后，增加對常識的理解，避免顯而易見的答非所問，提升了用戶意圖識別準(zhǔn)確性。預(yù)期價值：顯著增強對話式交互能力，降低

BI

使用門檻，促進數(shù)據(jù)分析平民化，增加用戶數(shù)量。實際價值：功能可實現(xiàn)，但企業(yè)用戶額外付費意愿較低。潛在價值智能洞察：利用大模型的理解和生成能力，輔助業(yè)務(wù)人員，對查詢的數(shù)據(jù)進行分析并生成業(yè)務(wù)洞察，提升數(shù)據(jù)分析能力和效率。報告生成用戶數(shù)據(jù)源低代碼平臺：智能開發(fā)助手進一步提升效率，應(yīng)用生成實現(xiàn)周期長自然語言交互業(yè)務(wù)人員智能開發(fā)助手Prompt+思維鏈API

調(diào)用通用大模型低代碼平臺拖拉拽/編寫代碼專業(yè)/半專業(yè)開發(fā)者數(shù)據(jù)模型生成表單生成腳本代碼生成自動化配置提示內(nèi)容生成組件……當(dāng)前進展應(yīng)用場景：智能開發(fā)助手：基于大模型的生成能力，在使用開發(fā)過程中提供自動生成數(shù)據(jù)模型、表單、腳本代碼，以及基于對用戶意圖的理解自動推薦配置等能力。預(yù)期價值：提升專業(yè)開發(fā)者的開發(fā)效率。進一步降低門檻，普通業(yè)務(wù)用戶無需培訓(xùn)即可使用低代碼搭建簡單應(yīng)用。實際價值：可實現(xiàn)部分功能，企業(yè)用戶額外付費意愿較低。潛在價值應(yīng)用生成：利用大模型的理解和生成能力，理解復(fù)雜應(yīng)用開發(fā)需求文檔，調(diào)用低代碼平臺組件化能力直接生成復(fù)雜系統(tǒng)。當(dāng)前大模型的尚不滿足所需推理能力，實現(xiàn)周期較長。營銷：內(nèi)容生成顯著降低服務(wù)成本，千人千面效果有待提升企業(yè)知識庫（商品、素材）市場人員提示詞Prompt通用大模型理解查詢 反饋生成內(nèi)容用戶用戶A用戶B用戶C用戶D品牌商素材A素材B素材C素材D當(dāng)前進展應(yīng)用場景：營銷內(nèi)容生成：傳統(tǒng)模式下需要設(shè)計師根據(jù)客戶需求在素材庫中搜索素材，并進行設(shè)計?；诖竽Ｐ臀纳鷪D能力，可以根據(jù)需求描述查詢所需素