大模型應用實踐報告

目錄1.報告綜述"2.市場洞察#3.數(shù)據(jù)分析市場$4.知識庫/智能客服市場"%&'結(jié)語(&報告綜述報告綜述型。大模型以其在模型精度和泛化能力等多個指標上超越傳統(tǒng)AI模型的表現(xiàn)，以及賦能千行百業(yè)的巨大潛力，成為當今世界各國人工智能技術(shù)發(fā)展的核心方向。進行更深入、更廣泛的融合。大模型應用百花齊放，其中數(shù)據(jù)分析和知識庫/2024202478%70%計劃在知識庫/智能客服場景落地?；诖?，本報告將重點研究數(shù)據(jù)分析和知識庫/智能客服兩個特定市場。圖表1：2024年大模型重點應用場景市場洞察市場洞察立項、選型、實施和運營等全流程。本報告將選取三個重點挑戰(zhàn)進行論述并提出解決方案。挑戰(zhàn)1：大模型項目未與企業(yè)保持戰(zhàn)略一致性CEOCIO2024IT202320242024心定位，或者說確定其與戰(zhàn)略的緊密聯(lián)系，這對于項目的順利進行至關(guān)重要。KPI目標，再到業(yè)務執(zhí)行略對齊，從而提升大模型項目的價值。圖表2：戰(zhàn)略解碼過程示意圖BI挑戰(zhàn)2：大模型業(yè)務收益難設定疑是更為有效的切入點。2024挑戰(zhàn)3：提升數(shù)據(jù)分析結(jié)果的準確率20232024體說明。7xx理解起來比較輕松，因為這是一個單任務，并且訂單量、產(chǎn)品、時間等指標比較明確。含義模糊的單任務問題對于大模型而言，難度也不大。例如“xx產(chǎn)品今年累計賣了多少？”大模型開始發(fā)揮優(yōu)勢，因為大模型擅長將模糊語義對齊標準語義。一些涉及多表數(shù)據(jù)處理的問題，開始給大模型增加難度。例如“今年xx品牌在國內(nèi)和國外的整ttnlSQL不限制問題長度的復雜問題帶來更大挑戰(zhàn)。例如“xx3一款？每個產(chǎn)品平均每月銷量是多少？”大模型需要先查詢過去某品牌三個月每個產(chǎn)品的銷量，復雜且需要調(diào)用專業(yè)算法的問題最為困難。例如“華北地區(qū)xx的效率月環(huán)比為什么下降了？”式讓大模型去調(diào)度，把之前的結(jié)果做參數(shù)解析填充到對應插件里，并生成最終的結(jié)果。API的輸入?yún)?shù)。任務務拆解成多個子任務后，每個子任務做協(xié)同執(zhí)行，再完成用戶最終的提問需求。AgentAgent數(shù)據(jù)分析市場數(shù)據(jù)分析市場SQL生成，二是如何借助大模型實現(xiàn)深度分析。實現(xiàn)這兩個要點，才能推動到大模型數(shù)據(jù)分析從“可用”到“好用”。第一個落地要點是如何借助大模型實現(xiàn)更準確的意圖理解和SQL生成。傳統(tǒng)的取數(shù)過程中，用戶需要SQLNL2SQLSQLNL2SQLNL2SQL人員持續(xù)維護。為保證準確率，目前主要采用限定查詢邊界的解決思路。具體而言，有兩種實現(xiàn)路徑。一是基于指標第二個落地要點是如何借助大模型實現(xiàn)深度分析。取數(shù)可以視為分析的前置動作，也可以視為淺層分析。其屬于描述性分析，用于回答“發(fā)生了什么？”，核心要求是呈現(xiàn)全面、準確、實時、可視化的發(fā)揮更大價值。企業(yè)需要和具備訓練或微調(diào)大模型能力的廠商進行合作。企業(yè)可以直接用基礎大模型進行相關(guān)性分析前，通過大模型實現(xiàn)因果推斷難度較大，對廠商而言不屬于必要能力項。案例1:AI賦能國有銀行理財經(jīng)理，業(yè)務收益提升30倍不能避免。業(yè)績壓力與營銷資源出現(xiàn)矛盾，某國有銀行的存量客戶復購潛力難以釋放某國有銀行重點分行主要有三項業(yè)務，分別為銷售投資型產(chǎn)品的個人金融業(yè)務、放貸的消費金融業(yè)務以及信用卡業(yè)務。三項業(yè)務發(fā)展較為獨立，其中個人金融業(yè)務有1000多萬個客戶。要改進。1%。40021000求的客戶，最后導致銷售機會的喪失與客戶流失，客戶陷入“睡眠”與“流失”狀態(tài)。高風險：過度打擾客戶，可能引起投訴?？蛻敉对V較多時，監(jiān)管部門會中止外呼渠道。飛算科技分析該銀行業(yè)務流程，發(fā)現(xiàn)各環(huán)節(jié)均存在明顯痛點飛算科技對該銀行業(yè)務流程進行全面分析，發(fā)現(xiàn)三個業(yè)務環(huán)節(jié)均存在痛點，且至今均未得到妥善解決。圖表3：業(yè)務流程及各環(huán)節(jié)痛點第一個業(yè)務環(huán)節(jié)是“獲得長名單”ITITIT人員容易出現(xiàn)理解偏差；三是ITIT的“溝通鴻溝”仍然比較原始的形態(tài)，業(yè)務人員提需求，IT人員手工取數(shù)。AI建模來環(huán)節(jié)的業(yè)務現(xiàn)狀便是專家建模小范圍使用，經(jīng)驗法則仍是主力。的問題。一是營銷閉環(huán)沒有打通，依賴人工執(zhí)行，不能自動化營銷。二是無法做到跨渠道資源整合與客戶溝通策略優(yōu)化。該環(huán)節(jié)的業(yè)務現(xiàn)狀便是暫且使用傳統(tǒng)營銷系統(tǒng)。飛算科技借助自動化、人工智能和大模型技術(shù)，為該銀行輸出端到端解決方案飛算為該銀行輸出端到端解決方案，該解決方案由三部分組成。第一部分是大模型+BI增強分是自動化營銷，用來解決營銷效率和資源優(yōu)化問題。圖表4：飛算科技解決方案概覽AI.Insight該產(chǎn)品具備自動生成客戶畫像功能以及趨tt來智能交互、智能洞察兩個預期效果。智能交互自然語言交互：產(chǎn)品與理財經(jīng)理能夠使用自然語言和語義搜索任何問題。答案將以見解、報告和推薦的儀表板的形式展現(xiàn)。智能圖表推薦：通過智能圖表推薦引擎展示合適的圖表，并支持理財經(jīng)理靈活切換圖表。智能洞察異常分析：自動對數(shù)據(jù)進行時序異常檢測、因果關(guān)聯(lián)、波動歸因等原因分析，并給出結(jié)論性描述。AutoOLAP度分析。客戶特征分析：基于數(shù)據(jù)洞察點進行客戶特征分析，定位異?？蛻羧后w。rrr個預期效果。精準定位：生成存量客戶短名單，精準營銷，提升轉(zhuǎn)化率。r即可實現(xiàn)30分鐘、4步驟、全流程、全自動建模，效果媲美專業(yè)建模人員。與銷售”業(yè)務環(huán)節(jié)帶來營銷策略優(yōu)化、營銷資源管理、活動設計、活動執(zhí)行等預期效果。tr產(chǎn)品經(jīng)理和理財經(jīng)理制定有效的營銷策略。營銷資源管理：銀行產(chǎn)品經(jīng)理可通過營銷資源管理功能，讓資源效益最大化?；顒釉O計：流程化設計概念，產(chǎn)品經(jīng)理可以使用圖形化拖、拉、拽的操作形式快速建立營銷活動流程。活動執(zhí)行：支持產(chǎn)品經(jīng)理進行實時與批量調(diào)度，設定活動的預期執(zhí)行時間區(qū)間，執(zhí)行周期頻率等，方便自動化執(zhí)行。飛算科技和該銀行以第二個業(yè)務環(huán)節(jié)為合作切入點，業(yè)務收益顯著該銀行第二個業(yè)務環(huán)節(jié)痛點最為嚴重，雙方將其作為首要解決的問題。該銀行要求在實際業(yè)務環(huán)境中測試飛算科技解決方案，看到實際效果后再正式采購。202261030下驗證，驗證結(jié)果如下。圖表5：線下驗證結(jié)果818550解決方案平均購買金額是傳統(tǒng)方式的3.6倍?？傮w而言，業(yè)務收益提升將近30倍。r畫像、事件營銷、營銷自動化事宜，推進POC。知識庫/智能客服市場知識庫/智能客服市場知識庫/智能客服有兩個落地要點，一是需要借助大模型降低知識庫冷啟動時間，二是需要借助大模型實現(xiàn)用戶體驗的全流程賦能。第一個落地要點是需要借助大模型降低知識庫冷啟動時間。知識庫構(gòu)建環(huán)節(jié)是搭建智能客服體系的重1-3答對拆分和相似問擴寫。第二個落地要點是需要借助大模型實現(xiàn)用戶體驗的全流程賦能。大模型和客服流程結(jié)合點眾多，全流和自動生成優(yōu)化策略。案例2:某股份制銀行利用大模型等數(shù)智技術(shù)賦能消費者權(quán)益保護全流程，降訴效果顯著格局。在此背景下，銀行產(chǎn)生了明確的降訴需求。數(shù)字化、智能化技術(shù)是實現(xiàn)銀行降訴需求的有效路徑。其中，大模型技術(shù)為降訴帶來了諸多新思考和新解決方案。某性股份制銀行高度重視消費者權(quán)益保護工作，希望進一步完善消保工作機制步推進消保管理體制建設，制定或修訂多項消保相關(guān)工作制度，不斷健全消保審查、內(nèi)部培訓、監(jiān)督檢查、考核評價等各項消保工作機制，切實保護消費者個人信息安全。產(chǎn)品/服務進入市場前的消保審查，投訴處理工單系統(tǒng)用于對事后投訴處理進行線上化流轉(zhuǎn)和記錄。2023年，該銀行認為消保中心消保工作機制存在以下痛點，需要升級改進。事前消保審查權(quán)威性不足，缺乏審查意見未采納事項的剛性控制流程，難以跟蹤審查意見的執(zhí)行落實；事前消保審查專業(yè)性不足，缺少規(guī)范化統(tǒng)一化審查標準，且極度依賴審查人員的專業(yè)知識與業(yè)務經(jīng)驗，“一事一策”現(xiàn)象嚴重；投訴數(shù)據(jù)的處理分析能力較弱，目前投訴處理與分析工作大量依賴人工處理后，投訴處理效率低，且難以結(jié)合行內(nèi)業(yè)務需求進行深入分析，預警能力與業(yè)務賦能能力較差；串聯(lián)，難以構(gòu)建客戶精細畫像，實現(xiàn)產(chǎn)品服務全生命周期監(jiān)控，或進行營銷觸點分析，不利于數(shù)據(jù)的統(tǒng)一管理與整合且利用率低；拓爾思依托豐富的銀行消保項目經(jīng)驗和領先的金融行業(yè)大模型，獲得該銀行青睞拓爾思信息技術(shù)股份有限公司(簡稱“拓爾思”)成立于1993年，是一家人工智能、大數(shù)據(jù)和數(shù)10000在消費者權(quán)益保護領域，拓爾思具備豐富的銀行消保項目經(jīng)驗。拓爾思已服務多家全國性股份制商業(yè)銀行和頭部城商行的消保需求，皆在提升客戶體驗和降低投訴方面取得顯著效果。拓爾思基于自有的110億30億+產(chǎn)2500+10000+10客服、智能消保審查、自動業(yè)務批處理等業(yè)務場景。拓爾思基于大模型技術(shù)構(gòu)建消保智能解決方案，為消保全流程提質(zhì)增效拓爾思的總體思路是運用多模態(tài)識別、NLP、LLMAIagent周期各個關(guān)口。審、審查、反饋、歸檔全流程線上管理，同時不斷完善消保審查因子體系和智能審查功能。動推薦。AIAgent員開展審查，能有效解決基層審查能力不足的問題，行方審查速度和審查準確性得到大幅提升。爾思構(gòu)建投訴處理分析智能Agent轉(zhuǎn)變。在電話接入環(huán)節(jié)，與資深客服進行匹配，實現(xiàn)客服資源的優(yōu)化配置。傳統(tǒng)方ASR技術(shù)實現(xiàn)自動記錄客戶投訴內(nèi)容，利用自然語言處理（NLP）技術(shù)構(gòu)建智能投訴分類模型，實現(xiàn)自動分類，加速投訴受理。服務整改意見。同時，系統(tǒng)支持監(jiān)管報表自動生成和報送，避免消保部門需要在監(jiān)管報送工作中投入大量人力進行手工導出和整合。該銀行客戶投訴顯著下降，在股份制銀行中的排名持續(xù)改