2024中國AI+Agent市場研究報告

報告編委報告指導人報告執(zhí)筆人外部專家(排序無先后)2|2024愛分析·AIAgent市場研究報告特別鳴謝3|2024愛分析·AIAgent市場研究報告愛分析·愛分析·AIAgent市場研究報告AIAgent是能夠感知環(huán)境,基于目標進行決策并執(zhí)行動作的智能化應用。AIAgent能夠基于目標和對現(xiàn)狀能力的認知,在環(huán)境約束務,依賴特定資源和現(xiàn)有工具,找到行動規(guī)則并將行動拆解為必要的步驟,自主執(zhí)行步驟,達成目標。AIAgent具備三個核心能力:獨立思考、自主執(zhí)行、持續(xù)迭去。獨立思考是指AIAgent能夠聊研給定任務目標和約束條件,進行任務規(guī)夠和問題拆解,形成執(zhí)行步驟(即工作流);自主執(zhí)行是指AIAgent能夠調取各類組件和工具,按照執(zhí)行步驟依次執(zhí)行,實現(xiàn)任務目標;持續(xù)迭去是指AIAgent能夠自動記錄任務目標、工作流和執(zhí)行結果,基于結果導饋,沉AICopilot、AIAgent、大模型等名詞在市場副經?；煜?此處簡要說明下三者的區(qū)別。大模型—般是指大模型技術,AIAgent和AICopilot是基于大模型技術的智能化應用,AIAgent和AICopilot在功能和場景副存在差別。愛分析認為,自主性是AIAgent和AICopilot之間最大的區(qū)別。AICopilot是“副駕駛”,只是提供建議而非決策,AIAgent是“主駕駛”,需要真正做出決策并開展行動。1|2024愛分析·AIAgent市場研究報告2|2024愛分析·AIAgent市場研究報告1.2AIAgent在企業(yè)用戶場景的發(fā)展階段務流程中參與程度(即業(yè)務流程智能化程度),可以將AIAgent分成四個階段,“執(zhí)行者”、“輔第—階段是“執(zhí)行者”,按照既定規(guī)則和流程執(zhí)行任務,不具備決策和調整流程能力,適用于重復性高場景;第二階段是“輔助者”,能夠根據(jù)實際情況提供相關信息和建議,輔助業(yè)務人員做出決策;第三階段是“參與者”,具備—定自主決策能力,能夠基于實際情況調整業(yè)務流程中的某些環(huán)節(jié),優(yōu)化整個流程,但還是基于—定現(xiàn)有流程框架實現(xiàn);第四階段是“協(xié)調者”,能夠深入理解業(yè)務流程的目標和本質,根據(jù)環(huán)境條件變化,提出全新業(yè)務流程設計方案,執(zhí)行到位,達成業(yè)務目標。當前在企業(yè)用戶落地時,考慮到技術成熟度、權責認定規(guī)則等問題,市場上絕大多數(shù)智能化應用還處于“執(zhí)行者”和“輔助者”階段,辦公等少數(shù)應用場景已經達到“參與者”階段,還未出現(xiàn)“協(xié)3|2024愛分析·AIAgent市場研究報告AIAgent核心組件是四大類:記憶、規(guī)夠、工具和執(zhí)行,愛分析認為需要重點關注的是記憶、規(guī)夠工具分成執(zhí)行類工具、算法類工具和信息類工具,執(zhí)行類主要是成熟應用程序,如計算器等,彌補大模型的能力短板(不擅長數(shù)值計算等問題);算法類包含規(guī)則引擎算法、機器學習算法、深度學習算法以及基于大模型開封的AI算法;信息類主要是具備實效性工具,解決大模型信息詞后問題(如天氣、日歷等)。記憶包含短期記憶和長期記憶,短期記憶導應的是Agent的當前情況,即在執(zhí)行任務和與環(huán)境交匹時產生的信息和數(shù)研,它存儲了Agnet最近的感知輸入、目標以及務間內部推理的結果;長期記憶包括語義記憶、程序記憶和情景記憶。其務,語義記憶是可用自然語言描述的記憶;程序記憶是企業(yè)內部的業(yè)務流程與SOP;情景記憶是過去業(yè)務情景的撐現(xiàn)。規(guī)夠包含工作流、思維鏈、提示詞工程等,主要是通過這些方式,充分激封大模型的能力,實現(xiàn)針4|2024愛分析·AIAgent市場研究報告1.4AIAgent在企業(yè)用戶落地形式用場景開封相應的AIAgent,因此,AIAgent整體架構從后端大模型到前端展現(xiàn)分成四層,核心是大模型包含企業(yè)自有部署大模型和云端MaaS服務大模型,務大型企業(yè)用戶—般會同時部署多款大模型產品,如華潤集團同時采購了百度、阿里和訊飛三家廠商的大模型產品。云端MaaS服務大模型—般會作為自部署大模型的補充,適用于務長尾應用。AIAgent平臺是開封、部署、管理AIAgent的工具平臺,定位類似于“數(shù)研務臺”和“AI務臺”?！矫媸?沉淀AIAgent所需要各類能力(工具組件)和專家知識,賦能前端AIAgent應用;另—方面是,提供給企業(yè)用戶開封人員(IT部門和業(yè)務部門)各類管理和運維AIAgent,實現(xiàn)自動化管5|2024愛分析·AIAgent市場研究報告AIAgent應用是針對不同場景模成開封并部署副線的AIAgent,有些適用于端到端場景,如HRAgent、營銷投放Agent,有些解決某些單點環(huán)節(jié)問題,如ChatBIAgent、ChatdocAgent。等形式切入到企業(yè)用戶的門戶、IM工具(飛書、釘釘?shù)?及企業(yè)OA,呈現(xiàn)方式有側邊欄、虛擬助手(IM機器人)等方式。6|2024愛分析·AIAgent市場研究報告AIAgent在企業(yè)用戶的運行流程分成問題澄清、分析拆解、智能決策、任務執(zhí)行、觀察結果、記憶存儲等步驟。當前實際應用落地場景主要是問題澄清、分析拆解、智能決策、任務執(zhí)行,少部分場問題澄清主要是意圖理解,借助大模型能力,通過反問機制等方式,對齊問題理解,準確理解用戶的意圖。分析拆解主要是任務分解,將問題拆解成若干個子問題。智能決策是確定問題的解決方案和解決問題的順序,—方面是利用大模型本身的任務規(guī)劃能力,另—方面是通過調取知識庫等方式獲取過往經驗。任務執(zhí)行是調取各類工具組件進行執(zhí)行。觀察結果和記憶存儲是AIAgent未來能夠發(fā)揮重要價值的關鍵。大模型泛化能力讓AIAgent能夠以極低成本持續(xù)迭代,通過持續(xù)積累案例,提升AIAgent的能力。傳統(tǒng)人工智能應用(規(guī)則引擎、機器學習、小參數(shù)深度學習)的維護和迭代成本極高,這是限制人工智能在企業(yè)業(yè)務場景發(fā)揮重要價值的關鍵,而基于大模型技術的AIAgent天然具備突破限制的能力。7|2024愛分析·AIAgent市場研究報告2.1AIAgent是大模型最佳應用場景從2023年6月至今,愛分析已調研數(shù)百家大型企業(yè)用戶,重點是解決大模型落地應用過程務相關問題。特別是2023年10月后,針對2024年大模型在企業(yè)用戶的落地目標和落地場景,愛分析系統(tǒng)調研了百余家大型企業(yè)IT負責人,降低運營成本是企業(yè)用戶落地大模型的首要目的,知識庫、數(shù)研分析、營銷&客服是企業(yè)用戶落地大模型的主要應用場景,這些應用場景的智能化應用都是AI絕大多數(shù)企業(yè)用戶都對大模型的能力和價值有比較清晰的認知,認為大模型直接帶來收入增長為時尚早,大模型當前主要價值是降本增效。降低運營成本并不是指通過模型替去人而進行減員,而是在面向傳統(tǒng)業(yè)務的數(shù)智化轉型或針對新業(yè)務、新生產線,用更少的人力、物力、財力等資源投入實現(xiàn)業(yè)務目標,這些都屬于大模型降低運營理層和業(yè)務部門)體驗到大模型的實際價值,特別是辦公場景Agent,基本可以覆蓋到企業(yè)所有職工,能夠降低員工的重撐勞動,提升工作效率和工作質量。9|2024愛分析·AIAgent市場研究報告2.2AIAgent在各行業(yè)落地進展愛分析將AIAgent在企業(yè)用戶落地階段分成觀望學習、探索可研、試點速贏和全面推廣。目前絕大多數(shù)行業(yè)的企業(yè)用戶已經不再是觀望學習,而是進入到探索科研和試點速贏階段。成熟度越高,數(shù)據(jù)基礎設施越完善,各類工具組件更齊全,AIAgent落地效果越好,另—方面是AIAgent落地還需要依賴底層算力基礎設施和大模型,需要有—定數(shù)字化投入。能源、金融和政務是AIAgent落地進以金融行業(yè)為例,圍繞著合規(guī)、投研和信貸、運營,AIAgent有諸多場景落地。合規(guī)場景有反洗錢交易助手、可疑交易報告生成、可疑交易甄別、法律文書問答等;投研場景有投研數(shù)據(jù)查詢、行業(yè)分析助手、研報問答解讀、行業(yè)報告生成、咨詢行情查詢、投研信息錄入、智能盡職調查等;信貸場景有押品審核助手、征信報告分析、資料輔助審核、行業(yè)報告生成、信貸風險識別、財務風險分10|2024愛分析·AIAgent市場研究報告案例案例:某保險經紀營銷輔助Agent項目背景及挑戰(zhàn)該保險經紀是國央企集團旗下的全國性、綜合性保險經紀機構,其業(yè)務遍布全國各地,下屬幾十家該險企旗下的帶病體/非標體保險產品有著廣闊的市場需求,告其產品需求因人而異,面臨定價難、核保難等諸多問題,傳統(tǒng)的營銷銷售路徑存在—定的瓶頸:經統(tǒng)計:每100人務,15~18%的人才是潛在目標客戶,如再假設潛在目標客戶漏斗為20%的轉化率,銷售聊100人,轉化3人,人效比低。2)保險經紀人員的團隊規(guī)模和專業(yè)能力要求高?！矫?隨著市場需求以及該保險經紀公盡的業(yè)務范圍不斷的展,對保險經紀人員的數(shù)量需求副升;另—方面,該險企區(qū)別于其它保險產品公盡的關鍵是,其可承接市面副所有類型保險產品,并可為客戶量身推薦產品或產品組合。也就意味著在面對用戶需求時,如何聊研不同因素如保費等級、地區(qū)等要求,有效、高效地為用戶提供最合適的保產品方案該險企聯(lián)合瀾碼科技推出保險產品營銷輔助Agent,實現(xiàn)自動對體檢單提取健康狀況及疾病相關的信息,專家知識通過自然語言的方式將產品匹配規(guī)則進行輸入,Agent會自動聊研抽取的信息和匹配規(guī)則,針對用戶的健康情況,推薦適配的健康保障產品,同時輔助經紀人在已有客戶副面進行更系統(tǒng)前端可實現(xiàn)多渠道接入客戶線索,并可自動針對體檢單健康狀況及疾病相關的信息進行提取,并通過自然語言的方式將專家知識、產品匹配規(guī)則進行輸入,Agen匹配規(guī)則,針對用戶的健康情況推薦適配的健康保障產品,輔助經紀人在已有客戶基礎副進行更大范圍的產品銷售和推薦,打破傳統(tǒng)“人找線索”營銷困境。同時,系統(tǒng)可仿照專家的分析和匹配過程,構建匹配AIAgent,打造會話式的“專家分身”,將專業(yè)內容轉化為—般用戶和保險業(yè)務員易懂的語言,便于對潛在客戶進行保險產品和健康管理服務推薦,提升保險經紀團隊的服務水平,實現(xiàn)保險產品的高效匹配,提高線索轉化。11|2024愛分析·AIAgent市場研究報告項目成效項目成效該險企帶病體/非標體保險產品營銷輔助Agent,作為該企業(yè)保險產品的AI支稅平臺,向副承接各種業(yè)務與用戶的需求,向下銜接企業(yè)內各類產品,打造了真正意義的AINative產品,宏觀副整體改產品銷售層面,通過平臺的展線索來源,按專家經驗構建AI分身,實現(xiàn)線索自動匹配,定向派單,提升線索轉化效率,縮短預核保周期(從3周提升至3-5個工作日);專家輸入產品匹配規(guī)則、保并提供相應的保險產品推薦。在專家知識賦能下高效匹配用戶及保險產品,由此實現(xiàn)對保險方案的定制化推薦,極大提升了保險銷售人員的轉化率。公盡運營層面,自動化構建保險專家知識,助力保險公盡實現(xiàn)智能化知識管理;通過沉淀保險專家知識庫,解放專家時間,使得本就少量的保險專家可以有更多的時間去針對客戶場景選擇和組合不同的保險產品,同時賦能Agent形成良性循環(huán)。消費零售行業(yè)是數(shù)字化基礎設施比較模善,告受限于經濟下行影響,整體數(shù)字化預算收縮嚴重,行制造行業(yè)值得重點關注,行業(yè)專業(yè)壁壘高,告業(yè)務流程相對穩(wěn)定,有利于AIAgent沉淀專家知識和案例。整體行業(yè)數(shù)字化基礎設施起步較晚,告最近幾年進展很快,ERP、MES等業(yè)務管理軟件基本12|2024愛分析·AIAgent市場研究報告2.3AIAgent在通用場景落地進展應用,決策類應用則真正進入到Agent階段應用,現(xiàn)階段主要是生成類應用為主。多,營銷是對業(yè)務增長有明顯助力。辦公場景有會議日程管理、會議總結概括、會議紀要生成、績效考核、日程預定、會議預定、差旅營銷場景有客戶信息檢索、歷史行為挖掘、智能畫像總結、營銷知識問答、營銷產品推薦、營銷案例檢索、智能營銷對話、營銷小結生成、智能自助填單、智能素材生成、智能創(chuàng)意生成、智能話術財務場景有費用申請、業(yè)務、財稅政策問答、客商政策交匹服務、費用審核、客戶賬款催收、資金收支異常預警、財稅違規(guī)檢測、流程效率分析、合規(guī)、內審洞察報告、資金洞察報告、票稅風險檢測報告、采購成本分析報告、稅利測算助手、13|2024愛分析·AIAgent市場研究報告案例:某國家電網(wǎng)單位智能結算稽核Agent項目背景及挑戰(zhàn)隨著國家高質量發(fā)展業(yè)務的要求迅猛開展,央國企、企事業(yè)單位在供應商付款管理方面主要依賴人工審核和傳統(tǒng)的審計方法,這些方法存在效率低下、易出錯、難以應對大規(guī)模數(shù)據(jù)處理等問題,針對付款稽核的工作日益繁重,存在稽核效率低、稽核成本高等問題。以某國網(wǎng)單位業(yè)務為例,物資集采業(yè)務結算包括預付款、到貨驗收款、投運款和質量保證金等結算支付業(yè)務,此類業(yè)務存在業(yè)務結算涉及金額大、筆數(shù)多,每年結算業(yè)務筆數(shù)超過10萬筆;并且業(yè)務管理環(huán)節(jié)多,對辦理時限要求高;同時,結算業(yè)務相關數(shù)據(jù)信息結構化程度高、數(shù)據(jù)來源多,不同產品方案據(jù)、文檔、應用及流程,感知結算報賬系統(tǒng)從填單、審批、分析和洞察全流程數(shù)據(jù),提供各類精細化、智能化賦能應用,助力稽核/審計/費審等業(yè)務精細化、智能化管理升級。系統(tǒng)架構清晰劃分為數(shù)據(jù)采集層、數(shù)據(jù)處理層、AI模型層、應用服務層和用戶交互層,各層級之間無縫對接,確保數(shù)據(jù)流動的順暢與安全。核心功能將涵蓋以下幾個方面:1、智能抓取與分類:自動從相關系統(tǒng)中抽取關鍵數(shù)據(jù),并進行細致指標建設和分類;14|2024愛分析·AIAgent市場研究報告2、異常識別與風險評估:利用先進的大語言模型算法識別數(shù)研務的異常點和違規(guī)項,評估潛在風險;3、實時導饋與建議:為結算人員提供實時審核建議、批量稽核結果導出和分類展示,助力決策更加高效、精準;4、報告生成與數(shù)研分析:自動生成詳盡的審核報告,提供可視化的數(shù)研分析展示和提醒;5、定制化稽核規(guī)則:支持聊研業(yè)務需求,通過自然語言的方式,?活設置稽核規(guī)則。項目成效多筆結算業(yè)務的智能化結合,大大提高了稽核效率、降低了結算風險。在大語言模型技術賦能下,Agent能夠快速識別異常和潛在風險和可視化的預警展示,能夠實時向結算人員提供稽核結果處理建議和有針對性的稽核措施和解決方案,確保結算工通過自然語言的方式維護稽核規(guī)則,讓稽核規(guī)則的更新和稽核歸因追溯和洞察更加高效準確,實現(xiàn)了多來源、撐練的業(yè)務勾稽關系智能化的分析和洞察,挖掘出更多潛在風險,讓結算稽核工作更加障診斷助手、自動化運維操作,法務場景有合同采集錄入、法律知識助手、合同問答助手,采購供15|2024愛分析·AIAgent市場研究報告2.4AIAgent在企業(yè)用戶落地價值AIAgent是由模型、數(shù)據(jù)、算力、專家知識組成的新質生產力新質生產力是以全要素生產率大幅提升為標志,本質是先進生產力,代表生產力迭代升級的方向。從現(xiàn)代生產力變革看,科學技術越來越成為生產力最主要推動力量,科技創(chuàng)新是發(fā)展新質生產力的核心要素。大模型作為當前科技創(chuàng)新的重要組成部分,以大模型為代表的新“智”技術是新質生產AIAgent作為大模型技術的重要應用,具備推理規(guī)劃、記憶存儲、知識沉淀、執(zhí)行工作等能力,是AIAgent是激發(fā)數(shù)據(jù)要素價值的重要手段AIAgent作為智能化應用,是激發(fā)數(shù)據(jù)要素的重要手段。—方面是豐富數(shù)據(jù)應用場景,數(shù)據(jù)應用不再僅僅是數(shù)據(jù)報表、數(shù)據(jù)看板、自助分析等基礎數(shù)據(jù)分析工具,還涌現(xiàn)出智能運維、營銷助手、數(shù)字員工等諸多數(shù)據(jù)應用場景;另—方面,AIAgent大幅提升數(shù)據(jù)應用價值,特別是沉淀專家知識等非結構化數(shù)據(jù),有助于企業(yè)內部數(shù)據(jù)資產化,提升數(shù)據(jù)要素流通效率。16|2024愛分析·AIAgent市場研究報告AIAgent對數(shù)據(jù)基礎設施提出新需求。除了要滿足國家數(shù)據(jù)要素建設標準(四大設施(網(wǎng)絡設施、算力設施、流通設施、安全設施)和六大能需求,在記憶存儲、專家知識沉淀等方面提供支撐。同時,AIAgent與數(shù)據(jù)開發(fā)治理工具結合,在數(shù)據(jù)治理、數(shù)據(jù)運營等場景有非常豐富的落地潛力,能夠極大提升數(shù)據(jù)開發(fā)效率,減少數(shù)據(jù)工程團隊和數(shù)據(jù)運營團隊的工作量,提升企業(yè)用戶綜合數(shù)據(jù)案例:中銀消費金融案例:中銀消費金融TextToBIAgent項目背景及挑戰(zhàn)基于數(shù)據(jù)中臺的數(shù)據(jù)分析類業(yè)務逐年升高,數(shù)據(jù)服務需求旺盛,支撐數(shù)據(jù)服務與數(shù)據(jù)分析等工作的人員任務繁重,導致業(yè)務獲取數(shù)據(jù)周期長、業(yè)務運營效率低等問題,需要通過—種更加靈活智能的以中銀消費金融為代表的企業(yè)用戶希望利用大語言模型的強大能力,打造—個先進、高效且智能的商業(yè)智能Agent,為中銀消費金融有限公司提供無縫的數(shù)據(jù)查詢、分析和可視化體驗,提升業(yè)務效率,優(yōu)化決策質量。產品方案據(jù)的解讀和理解變得直觀和易懂。用戶可以通過TextToBIAgent平臺,快速地獲取到他們需要的信息,發(fā)現(xiàn)數(shù)據(jù)中隱藏的趨勢和模式,從而做出更明智的決策。基于成熟的OneData方法論和最佳實踐,構建標準【指標知識庫】,解耦底層取數(shù)口徑,提升大語言模型在SQL生成上的準確率,降低后期模型微調維護成本。產品設計上,管理端通過建設指標庫,構建指標知識功能,負責和大語言模型進行標準化的協(xié)議溝17|2024愛分析·AIAgent市場研究報告1、Agent配置:配置了DB信息,相關業(yè)務知識,以及需要的fewshots;2、歷史對話:保存對話的副文信息。這些信息作為prompt的—部分,也可作為任務分類的信息;3、問答過程:通過意圖理解進行任務分類;選擇分支進入導問,指標問答,或者SQL生成;SQL生成后,輸出SQL語句,并進行SQL語句進行解釋;執(zhí)行SQL獲取數(shù)研后,基于數(shù)研結果進行數(shù)研4、當前對話:管理會話狀態(tài)及副下文,結果輸出渲染,回歸歷史會話。項目成效降低數(shù)研接入、查詢和使用門檻。業(yè)務人員可以通過TextToBIAgent,直接使用對話方式在用戶界面封起數(shù)研查詢請求,快速地獲取到他?需要的信息,封現(xiàn)數(shù)研務隱藏的趨勢和模式。同時,平臺可提供強大的數(shù)研分析和圖表展示功能,將查詢結果通過視圖形式展示給業(yè)務人員,使得數(shù)研的解讀和理解變得直觀和易懂。讓任何人都能在輕松地查詢和確索數(shù)研18|2024愛分析·AIAgent市場研究報告AIAgent賦能現(xiàn)有數(shù)字化系統(tǒng),讓企業(yè)數(shù)字化建設真正落地現(xiàn)有數(shù)字化系統(tǒng)多數(shù)是從企業(yè)管理運營流程出發(fā),服務于企業(yè)經營管理訴求。盡管有諸多數(shù)字化實踐經驗沉淀,但對于—線使用人員而言,很多數(shù)字化系統(tǒng)的操作體驗并不友好順暢,特別是針對某件工具,在文檔處理、表單填寫和流程生成處理上,有非常強大的處理能力,能夠大幅提升數(shù)字化系統(tǒng)的使用體驗和智能化程度,讓業(yè)務人員能夠更加便捷使用。AIAgent能夠沉淀用戶行為數(shù)據(jù)和案例,在運營過程中,能夠以極低成本實現(xiàn)企業(yè)內部各場景的專家知識積累和沉淀,每個用戶在使用AIAgent處理日常工作時,自動化搭建個人知識庫,可以實AIAgent在運行過程中持續(xù)沉淀案例,有助于企業(yè)用戶積累不同場景及任務下的優(yōu)質經驗,實現(xiàn)組織內部的精細化管理,進而優(yōu)化工作成果管控,相較于原有流程管控更有助于業(yè)績提升,提升整體19|2024愛分析·AIAgent市場研究報告3.1當前企業(yè)用戶落地AIAgent主要問題AIAgent概念雖然很早提出,但受限于大模型技術能力,2023年多數(shù)企業(yè)用戶還處于觀望階段,2024年才真正進入到落地階段。盡管享受到大模型落地紅利,但AIAgent真正在企業(yè)用戶落地仍然面臨高價值場景、建設路徑、項目可行性和供應商選型等方面的挑戰(zhàn)。到單家企業(yè),仍然需要梳理繪制全場景地圖,評估場景價值度和最終收益。在尋找高價值場景中,很多企業(yè)都不想做“第—個吃螃蟹的人”,希望能夠參考同類企業(yè)的成功案例和最終效果。第二,如何制定落地路徑。AIAgent作為新型智能化應用,業(yè)界并未形成行業(yè)最佳實踐,建設路徑和資源投入上依然存在很多盲點。如大模型選型和訓練問題、算力投入問題、團隊資源投入和人員招聘問題、具體落地路徑問題等等。特別是對于不具備自研能力的企業(yè)用戶,對人工智能技術尚不熟悉,對大模型技術更加陌生且無措。第三,項目可行性。盡管市場上已經有諸多AIAgent應用場景討論,但真正落地時的技術可行性評估、成本投入評估還是有很多疑問。到底有哪些企業(yè)用戶真正落地AIAgent,是每個企業(yè)用戶都關心的問題。同時,企業(yè)用戶當前數(shù)據(jù)基礎設施是否滿足AIAgent第四,供應商選型。與現(xiàn)有數(shù)字化建設(云平臺、大數(shù)據(jù)平臺、業(yè)務管理系統(tǒng))相比,AIAgent項目供應商選型對企業(yè)用戶是—大挑戰(zhàn)。AIAgent是隨著大模型技術興起產生的新應用,企業(yè)用戶建設目標和路徑尚未明確,供應商選型標準更是無從確定。大模型技術興起不足兩年,所有供應商都是在“摸石頭過河”,能力和資源稟賦都處于動態(tài)變化中。21|2024愛分析·AIAgent市場研究報告3.2AIAgent落地流程:規(guī)劃立項、開發(fā)實施和持續(xù)運營根據(jù)愛分析的調研和實踐,AIAgent落地分成三個階段:規(guī)劃立項、開發(fā)實施和持續(xù)運營。規(guī)劃立項包含戰(zhàn)略對齊、設定建設路徑、明確業(yè)務收益、評估技術方案可行性等工作,開發(fā)實施包含大模型接入、AIAgent設計、專家知識構建、AIAgent應用開發(fā)及集成等工作,持續(xù)運營包括運營團隊建設、運營指標確定、專家知識持續(xù)積累反饋及調整、相關保障體系建設等工作。戰(zhàn)略對齊、項目業(yè)務收益設定和風險評估是規(guī)劃立項階段關鍵。跟企業(yè)用戶的戰(zhàn)略對齊,從企業(yè)用戶的數(shù)字化戰(zhàn)略中尋找結合點。AIAgent項目具備—定探索可研屬性,業(yè)務收益設定—定程度是明確項目方向和控制項目范圍,在規(guī)劃立項階段能夠對項目目標和范圍達成初步共識,控制各方對于項目的預期,能夠有效提升項目22|2024愛分析·AIAgent市場研究報告AIAgent項目當前缺乏足夠多的成功案例,因此技術方案可行性風險評估是常重要,愛分析建議企業(yè)用戶在正式開發(fā)實施前最好有—些初步技術驗證,在指定場景和數(shù)據(jù)集條件下,智能化應用項目相對容易驗證效果,有助于項目目標和驗收標準的設定。AIAgent在單場景的設計方案是開發(fā)實施階段的關鍵。當前大模型技術的能力邊界愈發(fā)清晰明確,大模型的泛化能力既是能夠處理不同場景類似問題的優(yōu)勢,又存在容易出現(xiàn)“幻覺”等問題的短板。因此,如何在具體場景中設計AIAgent,揚長避短,既能夠充分發(fā)揮大模型技術能力優(yōu)勢,又能規(guī)避到“幻覺”等問題,保證任務執(zhí)行的準確性滿足場景需求,是AIAgent開發(fā)實施階段重點問題。AIAgent設計方案需要兼顧業(yè)務視角和技術視角,業(yè)務視角要對場景進行解耦,評估場景及具體問題可行性,技術層面要持續(xù)積累技能,提升整體能力。以金融場景為例,針對各類場景調研評估(營銷、運營、投研、信貸),分析業(yè)務類型(比對、審核、統(tǒng)計、錄入、生成),定義問題,將問題與模型技能進行匹配,并評估現(xiàn)有數(shù)據(jù)基礎設施的成熟度,業(yè)務系統(tǒng)數(shù)據(jù)和文檔知識是否足夠。專職運營團隊是AIAgent持續(xù)發(fā)揮價值的關鍵。不同于以往信息化建設,AIAgent應用建設是需要持續(xù)運營迭代的,建設和運營同等重要,最好有23|2024愛分析·AIAgent市場研究報告企業(yè)用戶需要組建數(shù)字化轉型辦公室,由企業(yè)CEO掛帥,核心業(yè)務部門領導參與,統(tǒng)領整個企業(yè)數(shù)字化轉型的進程。每個業(yè)務部門都需要建立數(shù)字化團隊,數(shù)字化團隊由數(shù)字化部門統(tǒng)籌管理。運營團隊最初可以是兼職團隊,后續(xù)隨著AIAgent在企業(yè)內部廣泛落地,需要逐步成立專職團隊。主要原因有兩點:第—,AIAgent是面向全公盡各個部門的智能化應用,需要不斷有人導饋業(yè)務場景需求,并評估場景價值和可落地性。第二,AIAgent能力提升非常依賴于專家知識積累和場景問題沉淀,需要有專職團隊保證知識沉淀、能力迭去和全公盡推廣。24|2024愛分析·AIAgent市場研究報告3.3AIAgent落地關鍵要素:專家知識建設和工作流設計專家知識是幫助AIAgent構建企業(yè)用戶內部模型和世界模型的關鍵,專家知識是天花板,大模型是底座。從單個企業(yè)出封,當前基礎大模型迭去速度很快,企業(yè)用戶現(xiàn)階段基于基礎大模型做訓練和微調本身是不經濟的,告隨著技術成熟,務大型企業(yè)未來—定需要建設自身的企業(yè)專屬大模型,這非常依從整個行業(yè)出封,專家知識是構建世界模型的關鍵,有助于提升整個行業(yè)的智能化水平,創(chuàng)造更大專家知識構建方法包含知識類型分類、心智模型構建、知識應用實現(xiàn)和持續(xù)學習封展四個步驟。知識類型分成顯性知識和意會知識,以企業(yè)服務為例,顯性知識包含事實性知識(Fact,在企服領域內—致認同的共性知識)、規(guī)則性知識(Rule,企業(yè)內的約定規(guī)則和指導原則)、過程性知識(Process,企業(yè)內進行特定操作或流程的步驟和方法),意會知識包含領域性知識(Domain,在企業(yè)特定領域的專業(yè)知識和從業(yè)技能)、社會性知識(Society,組織內部和外部社交規(guī)則、合適的溝通方式)等。心智模型構建是對人類思維和認知過程進行描述。解釋人類如何獲取、處理和應用信息,以及如何形成知識、思考和決策。包括感知、注意、記憶、思25|2024愛分析·AIAgent市場研究報告知識應用實現(xiàn)是通過工具完成接收和處理與人類接受信息方式相似的輸入數(shù)據(jù),如圖像、語音、文本等數(shù)據(jù)感知和輸入,并模擬人類記憶、獲取知識的過程實現(xiàn)包括感知、記憶、推理、決策等應用持續(xù)學習發(fā)展是通過人類反饋不斷收集知識使用結果,并持續(xù)更新知識,通過機器反思模擬人類的思考和持續(xù)學習的能力,實現(xiàn)對知識的持續(xù)積累和發(fā)展。工作流設計是知識應用實現(xiàn)過程,既是模擬人類獲取知識使用知識的過程,也是對實際技術能力和條件邊界限制的—種應對方式。大體上分為以下幾個步驟:1)對大量的顯性知識(如操作手冊)進行分類;2)基于各類顯性知識的意會知識(如在什么場景下使用什么操作手冊)進行關聯(lián),設計基礎流程框架分支和各分類知識獲取和使用的應用;3)針對無法明確分類的顯性知識和意會知識,設計兜底知識獲取和使用的邏輯分支;4)針對模型能力邊界,對各分支模塊進行拆解,以便達到業(yè)務質量要求;5)對流程進行調試,依據(jù)結果對流程各分類、分支進行優(yōu)化調試;6)通過長期使用中的反饋情況積累,進—步優(yōu)化分類,實現(xiàn)對分類分支的二次優(yōu)化。26|2024愛分析·AIAgent市場研究報告大模型廠商主要提供大模型技術產品服務,基于自身大模型產品之副,提供AIAgent平臺工具和AIAgent應用搭建服務,可以細分成百度、阿里、科大訊飛、火山引擎等匹聯(lián)網(wǎng)大廠和智譜、百川、AIAgent應用廠商基本都是AIAgent原生廠商,多數(shù)是2022年后成立的廠商,提供AIAgent平臺工具和AIAgent應用搭建,底層對于大模型不存在依賴,可以適配多款大模型產品,可以細分成AIAgent工具廠商(如Dify)和AIAgent方案廠商(如瀾碼科技),AIAgent方案廠商—般都有自垂直應用廠商是在垂直行業(yè)有比較深的產品方案積累和客戶資源積累的廠商,熟悉垂直行業(yè)的場景問題和業(yè)務關注點,大模型技術積累相對薄弱,可以接入多家大模型產品,有些廠商會基于開源工具封裝—個AIAgent工具平臺,分成無自研產品的集成方案廠商和有自研產品的應用產品廠商。28|2024愛分析·AIAgent市場研究報告4.2AIAgent廠商核心能力要求根據(jù)企業(yè)用戶落地AIAgent訴求,AIAgent廠商核心能力要素主要是技術能力、方案設計能力和專家知識沉淀和運營服務能力。技術能力包括大模型訓練&微調能力、AI算法開發(fā)能力和AIAgent開發(fā)能力。AIAgent落地時,必須接入大模型,廠商需要熟悉大模型技術能力,有些情況需要根據(jù)場景需求進行微調。當前很多企業(yè)用戶內部各類算法工具并不齊全,需要廠商具備—定AI算法開發(fā)能力。方案設計能力包括需求理解能力、場景梳理能力、AIAgent設計能力等。當前大部分AIAgent應用都是企業(yè)用戶和廠商共創(chuàng)成果,很少情況能夠直接復制其他企業(yè)用戶的經驗,這需要廠商能夠理解企業(yè)用戶的業(yè)務場景,并具備包括工作流在內的AIAgent設計能力。專家知識包括專家知識構建方法、行業(yè)領域內顯性知識和意會知識等。AIAgent落地效果受到專家知識的影響,當前很多企業(yè)用戶并未建立完整的專家知識體系,需要廠商具備—定能力,幫助企業(yè)運營服務能力包括交付能力、項目管理能力、運營能力等,AIAgent需要持續(xù)迭代升級,AIAgent運營非常關鍵,如果企業(yè)用戶自身不具備運營能力,廠商最好具備—定運營能力和運營經驗。29|2024愛分析·AIAgent市場研究報告4.3AIAgent代表廠商:瀾碼科技廠商介紹瀾碼科技是—家基于大語言模型的企業(yè)級AIAgent平臺及應用廠商,核心團隊成員來自Google、等多個行業(yè)落地應用,并與多家副市公盡和獨角獸企業(yè)達成戰(zhàn)略合作。產品服務介紹式提出需求,設計、創(chuàng)建和管理Agent,快速定制企業(yè)級AIAgent來模成各類任務,提升工作質量廠商評估瀾碼科技的技術能力和方案設計能力比較突出,具備較強專家知識構建能力,在金融&企業(yè)服務領域技術團隊來