蘇商銀行大模型智能客服助手

蘇商銀行大模型客服助手目錄

CONTENTS01 客服領(lǐng)域場景概述大模型技術(shù)概述大模型在客服領(lǐng)域的應(yīng)用場景蘇商銀行的大模型客服助手實(shí)踐未來的發(fā)展方向01、客服領(lǐng)域場景概述理財(cái)客戶經(jīng)營借助CRM系統(tǒng)以遠(yuǎn)程管戶經(jīng)營模式，開展銀行存款和金服理財(cái)客戶經(jīng)營工作，從新客開發(fā)、老客深挖、客群轉(zhuǎn)化形成閉環(huán)，為財(cái)富客戶提供資產(chǎn)保值增值服務(wù)?！暗诙y行”業(yè)務(wù)綜合化程度高風(fēng)險(xiǎn)資產(chǎn)管理通過傳統(tǒng)電催模式與科技相結(jié)合，強(qiáng)化信用風(fēng)險(xiǎn)狀況的動(dòng)態(tài)監(jiān)測與早期預(yù)警，在預(yù)催收階段充分運(yùn)用IVR技術(shù)同時(shí)通過科技手段進(jìn)一步提升M1、M2、M3、M3+全流程的電催效率，為全行資產(chǎn)保駕護(hù)航?？蛻舴?wù)通過電話、手機(jī)APP等渠道接入，為客戶提供業(yè)務(wù)咨詢、業(yè)務(wù)辦理、產(chǎn)品營銷等銀行服務(wù)，以語音服務(wù)、文本服務(wù)、視頻服務(wù)為抓手，堅(jiān)持以客戶為中心的服務(wù)理念，服務(wù)客戶。貸款客戶經(jīng)營負(fù)責(zé)稅E貸、采購貸、商戶貸等小微企業(yè)類貸款以及個(gè)人消費(fèi)類貸款的銷售和客群貸后經(jīng)營維護(hù)工作。通過優(yōu)化貸款產(chǎn)品結(jié)構(gòu)，提升優(yōu)質(zhì)客群占比，降低業(yè)務(wù)風(fēng)險(xiǎn)；同時(shí)逐步調(diào)整電銷貸款結(jié)構(gòu)，形成均衡產(chǎn)品結(jié)構(gòu)。目錄

CONTENTS01 客服領(lǐng)域場景概述大模型技術(shù)概述大模型在客服領(lǐng)域的應(yīng)用場景蘇商銀行的大模型客服助手實(shí)踐未來的發(fā)展方向02、大模型技術(shù)概述大模型的基本概念本報(bào)告的大模型特指類似ChatGPT的大型語言模型（Large

Language

Models，

LLM），是一種由包含百億以上參數(shù)的深度神經(jīng)網(wǎng)絡(luò)構(gòu)建的自然語言模型。簡單來說，大模型就像是一個(gè)擁有巨大知識庫的學(xué)者，它通過閱讀和學(xué)習(xí)大量的書籍（數(shù)據(jù)）來掌握語言的規(guī)則和知識，從而能夠在各種任務(wù)中取得優(yōu)異的成績。02、大模型技術(shù)概述對話式交互會(huì)成為下一個(gè)具有超級增長點(diǎn)的交互方式隨著技術(shù)的發(fā)展，人機(jī)交互正不可逆轉(zhuǎn)地向人更習(xí)慣的方式靠近?？梢灶A(yù)見的是，接下來是強(qiáng)人工智能時(shí)代，過去成百上千個(gè)App會(huì)逐漸演化成未來的成百上千個(gè)Chatbot。就像Android和iOS系統(tǒng)為手機(jī)賦能一樣，Chatbot將會(huì)逐漸成為新的操作系統(tǒng)，逐漸為各行業(yè)賦能。02、大模型技術(shù)概述開源模型（綠線）正在逼近閉源模型（紅線）目前的開源模型與1年半前的閉源模型性能相當(dāng)GPT4在開源模型中具有離群性Qwen和01AI在閉源模型中具有離群性02、大模型技術(shù)概述AI大模型將加快新質(zhì)生產(chǎn)力發(fā)展，助力我國經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展我國始終高度重視人工智能發(fā)展機(jī)遇和頂層設(shè)計(jì)，

發(fā)布多項(xiàng)人工智能支持政策，

國務(wù)院于

2017

年發(fā)布《新一代人工智能發(fā)展規(guī)劃》

。

科技部等六部門也于

2022

年印發(fā)《關(guān)于加快場景創(chuàng)新

以人工智能高水平應(yīng)用促進(jìn)經(jīng)濟(jì)高質(zhì)量發(fā)展的指導(dǎo)意見》

對規(guī)劃進(jìn)行落實(shí)。

2024

年《政府工作報(bào)告》

中提出開展“人工智能+”

行動(dòng)。各地方政府出臺相關(guān)支持政策，

加快大模型產(chǎn)業(yè)的持續(xù)發(fā)展。南京市政府先后出臺《關(guān)于加快人工智能產(chǎn)業(yè)發(fā)展的實(shí)施意見》《南京市打造人工智能產(chǎn)業(yè)地標(biāo)行動(dòng)計(jì)劃》《南京市加快發(fā)展新一代人工智能產(chǎn)業(yè)行動(dòng)計(jì)劃（2023-2025）》等計(jì)劃措施，開年初，南京提出要全力突破人工智能產(chǎn)業(yè)，搶抓大模型新浪潮，建設(shè)算法城市、強(qiáng)化賦能應(yīng)用，高標(biāo)準(zhǔn)建設(shè)人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)。近日，蘇商銀行建設(shè)的“南京市金融大模型工程技術(shù)研究培育中心”獲得南京市科學(xué)技術(shù)局立項(xiàng)批復(fù)。目錄

CONTENTS01 客服領(lǐng)域場景概述大模型技術(shù)概述大模型在客服領(lǐng)域的應(yīng)用場景蘇商銀行的大模型客服助手實(shí)踐未來的發(fā)展方向03、大模型在客服領(lǐng)域的應(yīng)用場景大模型在客服領(lǐng)域的具有以下應(yīng)用場景：客戶服務(wù)1、大模型能夠理解并處理復(fù)雜的語義結(jié)構(gòu)，更準(zhǔn)確地解析和理解用戶的自然語言輸入。2、大模型使智能客服更具同理心和人性化，有效管理用戶情緒。3、大模型可根據(jù)坐席與客戶的聊天內(nèi)容，智能生成知識問答對，提升知識庫維護(hù)效率。貸款客戶經(jīng)營1、大模型根據(jù)客戶的信用歷史、財(cái)務(wù)狀況和行為模式，大模型可以生成個(gè)性化的營銷策略，提高貸款產(chǎn)品的吸引力。2、大模型可以分析對話記錄，幫助銷售人員生成客戶畫像，通過定期的跟進(jìn)和個(gè)性化的服務(wù)，增強(qiáng)客戶忠誠度。理財(cái)客戶經(jīng)營1、大模型能夠提供定制化的建議和解決方案，根據(jù)客戶的歷史交互、偏好和上下文對話信息，實(shí)現(xiàn)個(gè)性化服務(wù)。2、大模型具備持續(xù)學(xué)習(xí)能力，能夠適應(yīng)市場動(dòng)態(tài)和產(chǎn)品變更，確保提供給客戶的信息和服務(wù)始終是最新和最準(zhǔn)確的。風(fēng)險(xiǎn)資產(chǎn)管理1、大模型可以根據(jù)歷史數(shù)據(jù)和催收結(jié)果，不斷優(yōu)化催收策略，提高催收成功率。2、大模型可以分析催收員的專業(yè)領(lǐng)域、歷史業(yè)績和工作負(fù)載，將案件分配給最有可能成功回收的催收員，提升團(tuán)隊(duì)績效和員工滿意度。03、大模型在客服領(lǐng)域的應(yīng)用場景中國農(nóng)業(yè)銀行推出的金融

AI

大模型產(chǎn)品

ChatABC，能夠利用大模型技術(shù)提升智能客服的金融知識理解能力、內(nèi)容生成能力及安全問答能力。中國工商銀行在同業(yè)率先實(shí)現(xiàn)大模型技術(shù)在座席助手等場景落地，全年服務(wù)量21.5

億筆，接聽率和智能分流率同業(yè)領(lǐng)先。正式上線了首個(gè)基于大模型的網(wǎng)點(diǎn)員工智能助手，提升網(wǎng)點(diǎn)效能，全年運(yùn)營領(lǐng)域智能處理業(yè)務(wù)量3

.

2

億筆，

比上年

14

%；

建設(shè)13

個(gè)綜合型數(shù)字員工以及

1000余個(gè)流程自動(dòng)化數(shù)字員工，智能增效超過

3

萬人年。推廣客戶投訴智慧治理模式，在投訴處置和管理主要環(huán)節(jié)全面應(yīng)用機(jī)器人流程自動(dòng)化、自然語言處理、生成式人工智能（AIGC）等技術(shù)，成功落地首個(gè)全行應(yīng)用的AIGC

場景，實(shí)現(xiàn)大模型自動(dòng)撰寫投訴處理報(bào)告。案例簡述中國建設(shè)銀行上線了智能客服工單生成功能，每單平均節(jié)約客服工作時(shí)間

15-20

秒，可用率達(dá)

82%，一致性達(dá)

80%。建設(shè)銀行上線消保

AI

智能審查功能，通過智能信息識別與處理，產(chǎn)出

AI

審查結(jié)果，輔助審查人員，提高審查效率，提升消保審查的規(guī)范性和專業(yè)能力。實(shí)現(xiàn)營銷創(chuàng)意內(nèi)容和文案自動(dòng)化生產(chǎn)，幫助打造品牌形象、提升營銷內(nèi)容質(zhì)量、提升黏客能力。中國交通銀行交行利用

AI

技術(shù)深挖個(gè)金客戶興趣偏好，用大模型強(qiáng)化業(yè)務(wù)端留客能力，

各類理財(cái)模型策略累計(jì)觸客成交量近

4

千億元，較整體成交率提升

16

倍中國郵政儲(chǔ)蓄銀行郵儲(chǔ)銀行

App

融合

AI

空間、數(shù)字員工、視頻客服，打造沉浸式陪伴服務(wù)基于大模型的投訴問題分類智能模型，實(shí)現(xiàn)消保投訴管理自動(dòng)統(tǒng)計(jì)分析和智能監(jiān)測；上線推廣消保投訴文本分析模型和消保審查智能輔助工具，有效提升消保管理事前審查和事后分析能力。推出情感模型會(huì)話洞察與“靈動(dòng)智庫”服務(wù)增強(qiáng)企業(yè)微信運(yùn)營功能，提升基層精細(xì)化客戶洞察能力。目錄

CONTENTS01 客服領(lǐng)域場景概述大模型技術(shù)概述大模型在客服領(lǐng)域的應(yīng)用場景蘇商銀行的大模型客服助手實(shí)踐未來的發(fā)展方向04、蘇商銀行的大模型客服助手實(shí)踐業(yè)務(wù)痛點(diǎn)知識庫運(yùn)營效率低成本目前客服知識庫的內(nèi)容不夠全面并且更新主要依靠人工，耗時(shí)費(fèi)力，導(dǎo)致在線客服機(jī)器人的自助解決率較低，增加了人工客服的工作負(fù)擔(dān)和客戶的等待時(shí)間客服效能面臨多重挑戰(zhàn)首先，人工客服在并發(fā)處理多個(gè)請求時(shí)能力有限，易造成響應(yīng)延遲其次，服務(wù)質(zhì)量參差不齊，不同客服的專業(yè)水平和經(jīng)驗(yàn)差異導(dǎo)致體驗(yàn)不一致；再者，新員工的培訓(xùn)周期長且人力成本高昂。另一方面，現(xiàn)行機(jī)器人客服缺乏足夠的理解力和應(yīng)答能力，也難以提供人性化的交流，且面臨著系統(tǒng)升級和維護(hù)的高成本問題。需要更加智能和高效的機(jī)器人客服解決方案電銷/電催話術(shù)提煉效率低目前電銷/電催的優(yōu)秀話術(shù)提煉主要依賴于人工篩選和總結(jié)，效率低下，且難以充分利用數(shù)據(jù)潛力登記工單效率低目前客服坐席手動(dòng)填寫校對工單時(shí)耗時(shí)耗力、效率低，以及工單填寫不規(guī)范導(dǎo)致工單處理時(shí)需要跟客戶反復(fù)溝通、影響客戶體驗(yàn)質(zhì)檢流程準(zhǔn)確性不高由于目前的質(zhì)檢準(zhǔn)確度較低，需要大量依賴于人工判斷，不僅耗時(shí)耗力，而且難以覆蓋所有場景。04、蘇商銀行的大模型客服助手實(shí)踐項(xiàng)目目標(biāo)打造“客服智能助手”賦能遠(yuǎn)程銀行客戶服務(wù)業(yè)務(wù)。按照通話前、通話中、通話后的端到端業(yè)務(wù)流程閉環(huán)，形成事前知識庫運(yùn)營提效、事中副駕駛賦能、事后質(zhì)檢守護(hù)，助力客服工作模式和效率的全面升級。客服智能助手事前知識庫助手話術(shù)提煉助手事中話術(shù)推薦助手工單助手事后質(zhì)檢助手利用大模型的自然語言理解、抽取和生成能力，實(shí)現(xiàn)了知識庫的自動(dòng)化和智能化管理，大幅度降低了人力成本和時(shí)間成本客服知識庫助手通過實(shí)時(shí)理解對話情境和向量化的知識庫，利用檢索增強(qiáng)生成技術(shù)（RAG），實(shí)時(shí)推薦合適的話術(shù)，大幅提升了客服的效率和服務(wù)質(zhì)量。話術(shù)推薦助手還可以根據(jù)客戶的歷史交互和偏好，推薦個(gè)性化的話術(shù)，增強(qiáng)了客戶服務(wù)的個(gè)性化程度，提升了客戶滿意度話術(shù)推薦助手通過大模型提示詞技術(shù)，實(shí)現(xiàn)了質(zhì)檢的自動(dòng)化，大幅提高了質(zhì)檢的效率和準(zhǔn)確性。通過模型的情感分析能力，可以識別出客戶和客服的情緒，提供更全面的質(zhì)量評價(jià)質(zhì)檢助手從通話過程中自動(dòng)提取客戶的訴求和關(guān)鍵信息，自動(dòng)生成規(guī)范化的工單減少客服手動(dòng)填寫和校對工單所耗費(fèi)的時(shí)間和精力，提高工單處理效率，避免因信息不完整導(dǎo)致的反復(fù)溝通工單助手從現(xiàn)有電銷/電催等非結(jié)構(gòu)化數(shù)據(jù)中提煉優(yōu)秀話術(shù)，豐富語料庫話術(shù)提煉助手04、蘇商銀行的大模型客服助手實(shí)踐系統(tǒng)架構(gòu)規(guī)劃業(yè)務(wù)系統(tǒng)大模型系統(tǒng)大模型管理子系統(tǒng)檢索增強(qiáng)生成（RAG）服務(wù)子系統(tǒng)知識向量化 知識檢索 結(jié)果生成反饋數(shù)據(jù)報(bào)表大模型管理RAG服務(wù)管理功能使用報(bào)表支撐系統(tǒng)L0基座大模型向量模型大模型（LLM）服務(wù)子系統(tǒng)L1金融大模型 L2場景任務(wù)大模型數(shù)據(jù)湖智能營銷貸后系統(tǒng)CRM系統(tǒng)……用戶中心在線客服系統(tǒng)呼叫中心系統(tǒng)遠(yuǎn)程視頻系統(tǒng)OA系統(tǒng)營銷系統(tǒng)催收系統(tǒng)X文本機(jī)器人語音機(jī)器人數(shù)字員工…………智能體（Agent）服務(wù)子系統(tǒng)推理規(guī)劃工具使用 認(rèn)知反饋知識庫管理提示詞管理向量模型管理功能權(quán)限配置智能體管理應(yīng)用平臺模型催收機(jī)器人業(yè)務(wù)智能子系統(tǒng)客服機(jī)器人 文秘機(jī)器人投顧機(jī)器人…員工助手子系統(tǒng)（希格馬）聊天機(jī)器人 公文助手對話管理…客服助手企業(yè)知識庫業(yè)務(wù)智能批量子系統(tǒng)客服批處理機(jī)器人催收批處理機(jī)器人文秘批處理機(jī)器人投顧批處理機(jī)器人……04、蘇商銀行的大模型客服助手實(shí)踐標(biāo)準(zhǔn)問擴(kuò)寫知識庫助手0、訪問希格馬運(yùn)營機(jī)器人轉(zhuǎn)人大模型生成標(biāo)準(zhǔn)問工歷史對話答對客戶問題抽取客戶意圖識別客戶問題改寫客服答案抽取標(biāo)準(zhǔn)問大模型生成相似問抽象擴(kuò)寫規(guī)則1、上傳數(shù)據(jù)2、生成知識庫在線客服機(jī)器人機(jī)器人知識庫用戶在線咨詢檢索答案3、導(dǎo)入知識庫04、蘇商銀行的大模型客服助手實(shí)踐大模型系統(tǒng)意圖識別知識問答（問題改寫、多路召回、重排序）任務(wù)型對話（槽位抽取、對話狀態(tài)跟蹤、對話策略優(yōu)化和執(zhí)行）話術(shù)推薦助手1、在線咨詢2、推薦回答用戶3、采納回答/自主回答坐席智能在線客服系統(tǒng)04、蘇商銀行的大模型客服助手實(shí)踐質(zhì)檢助手質(zhì)檢系統(tǒng)3、審核質(zhì)檢結(jié)果并執(zhí)行處罰質(zhì)檢人員語音轉(zhuǎn)文字?jǐn)?shù)據(jù)預(yù)處理識別差錯(cuò)點(diǎn)、差錯(cuò)等級、差錯(cuò)原因、原文邏輯一致性檢查大模型系統(tǒng)2、推送質(zhì)檢結(jié)果1、上傳原始對話大模型系統(tǒng)語音轉(zhuǎn)文字?jǐn)?shù)據(jù)預(yù)處理從成單對話中提煉關(guān)鍵話術(shù)與未成單對話進(jìn)行交叉分析對比差異邏輯一致性檢查1、上傳成單對話和未成單對話2、推送優(yōu)秀話術(shù)04、蘇商銀行的大模型客服助手實(shí)踐話術(shù)提煉助手（研發(fā)中）運(yùn)營人員外呼系統(tǒng)3、審核生成話術(shù)客戶4、人工外呼任務(wù)4、自動(dòng)化外呼任務(wù)話術(shù)庫04、蘇商銀行的大模型客服助手實(shí)踐工單助手（研發(fā)中）客服系統(tǒng)坐席人員4、審核工單要素客戶1、客戶來電5、創(chuàng)建工單工單系統(tǒng)語音轉(zhuǎn)文字意圖識別槽位抽取邏輯一致性檢查大模型系統(tǒng)3、返回工單要素2、上傳原始對話04、蘇商銀行的大模型客服助手實(shí)踐缺少高質(zhì)量訓(xùn)練數(shù)據(jù)集提升模型效果的成本較高，需要大量人工標(biāo)注數(shù)據(jù)用于訓(xùn)練，且訓(xùn)練過程需要大量試錯(cuò)，投入產(chǎn)出比低。解決方案是優(yōu)先使用提示詞工程技術(shù)快速達(dá)到使用要求，同時(shí)在實(shí)際使用中加強(qiáng)對模型輸出的人工審核，積累高質(zhì)量數(shù)據(jù)集。此外，可以使用合成數(shù)據(jù)技術(shù)擴(kuò)充數(shù)據(jù)集，降低微調(diào)訓(xùn)練成本。模型更新?lián)Q代迅速不同階段開發(fā)的應(yīng)用使用了不同版本的模型，且往往不兼容，導(dǎo)致算力資源浪費(fèi)或增加應(yīng)用遷移成本。解決方案是提示詞工程標(biāo)準(zhǔn)化和統(tǒng)一模型版本管理，確保不同模型版本在使用提示詞時(shí)具有一致性和兼容性，減少因更新?lián)Q代帶來的資源浪費(fèi)和遷移成本。推理速度無法滿足實(shí)時(shí)話務(wù)場景需求電話客服、電銷和電催等實(shí)時(shí)話務(wù)場景對推理速度要求極高，需要在1秒內(nèi)生成結(jié)果。目前，大模型的推理速度難以滿足，導(dǎo)致其應(yīng)用場景受限。解決思路包括：第一，通過模型剪枝、量化和知識蒸餾等方法減少模型參數(shù)量和計(jì)算復(fù)雜度；第二，使用專門的推理加速引擎，如v