2023中國銀行業(yè)大模型用例分析-沙丘智庫

1|2023中國銀行業(yè)大模型用例分析1.銀行業(yè)大模型市場概況2.中國銀行業(yè)大模型用例優(yōu)先級矩陣附錄:調(diào)研數(shù)據(jù)說明23關(guān)于沙丘社區(qū)法律聲明2|2023中國銀行業(yè)大模型用例分析以chatGPT為代表的大模型技術(shù)的成熟和應(yīng)用將我們帶入大模型時代,大模型在理解和生成語言方面的驚人能力,使人類與機(jī)器的交互變得更加自然流暢。銀行擁有海量高價值數(shù)據(jù)資源和豐富的應(yīng)用場景,天然是大模型技術(shù)深度應(yīng)用的重要行業(yè),目前頭部銀行也都在擁抱大模型的技術(shù)趨勢,積極探索大模型的落地應(yīng)用。對銀行而言,大模型的核心能力到底是什么？哪些應(yīng)用場景對銀行來說更有業(yè)務(wù)價值、更報告將呈現(xiàn)我們對這些問題的思考與建議,為銀行管理者提供參考。3|2023中國銀行業(yè)大模型用例分析大模型的全稱是大規(guī)模預(yù)訓(xùn)練模型,是指參數(shù)規(guī)模超過億級的“預(yù)訓(xùn)練深度學(xué)習(xí)算法”,基于“大數(shù)據(jù)+大算力+大算法參數(shù)網(wǎng)絡(luò)結(jié)構(gòu)”進(jìn)行訓(xùn)練,實現(xiàn)海量知識“記憶”。人工智能模型主要可分為傳統(tǒng)機(jī)器學(xué)習(xí)模型、傳統(tǒng)深度學(xué)習(xí)模型(前兩者通常被稱為小模型)和大模型三類,不同模型之間的關(guān)系如下:傳統(tǒng)機(jī)器學(xué)習(xí)模型可解釋性強(qiáng),適用于可解釋要求高的智能決策分析類場景,例如反欺詐預(yù)測、理財產(chǎn)品營銷推薦等；傳統(tǒng)深度學(xué)習(xí)模型適用于感知識別類場景,例如0CR識別、相較于小模型(傳統(tǒng)機(jī)器學(xué)習(xí)模型和深度學(xué)習(xí)模型),大模型具備強(qiáng)大的通用能力和智能創(chuàng)作能力,可以通過聊天交互的形式,協(xié)助用戶完成各種智力性和創(chuàng)造性工作,更加適用從質(zhì)量、效率、成本的角度考慮,并非所有小模型都需要用大模型重新做一遍,二者在實際應(yīng)用中將會形成協(xié)同,企業(yè)需要根據(jù)具體的業(yè)務(wù)場景選擇使用大模型還是小模型。4|2023中國銀行業(yè)大模型用例分析通過沙丘社區(qū)對銀行高管層、技術(shù)專家和業(yè)務(wù)專家的深度調(diào)研,目前銀行已在多個領(lǐng)域探能夠為業(yè)務(wù)直接帶來增量收益的場景是銀行在開展大模型應(yīng)用時更加偏好的場景,但當(dāng)前大模型在關(guān)鍵技術(shù)上仍然存在缺陷,模型的輸出結(jié)果存在很大程度的不穩(wěn)定性,模型產(chǎn)出內(nèi)容仍然需要專人進(jìn)行審核,在直接面客、制定策略、風(fēng)險防控等關(guān)鍵業(yè)務(wù)領(lǐng)域,對大模5|2023中國銀行業(yè)大模型用例分析型的使用尤為謹(jǐn)慎。因此,短期內(nèi)大模型在銀行可行的落地場景還是偏向于內(nèi)部業(yè)務(wù)開展的助手層面,更多在降本增效方面發(fā)揮價值。具體用例,包括員工智能問答助手、營銷物料生成、編碼輔助工具、客服坐席助手、數(shù)據(jù)宏觀分析。同時,根據(jù)對銀行與大模型技術(shù)廠商的調(diào)研,沙丘社區(qū)對這些用例按照業(yè)務(wù)價值與可行性進(jìn)行優(yōu)先級排序,旨在為銀行的大模型應(yīng)用選擇提供參考(詳見第二章)。雖然大模型帶來了時代的變革,但大模型并非萬能,目前受制于模型黑盒、計算復(fù)雜度高、推理結(jié)果不可預(yù)知等因素,大模型存在答非所問、應(yīng)用成本高、科技倫理風(fēng)險等諸多訓(xùn)練大模型的數(shù)據(jù)來源于互聯(lián)網(wǎng)、業(yè)務(wù)數(shù)據(jù),這些數(shù)據(jù)可能涉及大量用戶隱私,在數(shù)據(jù)安全和隱私保護(hù)方面存在較大風(fēng)險。國家高度重視大模型應(yīng)用安全,國家網(wǎng)信辦明確“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會主義核心價值觀”,以及必須向網(wǎng)信辦申報安全沙丘社區(qū)對銀行的調(diào)研表明,目前阻礙銀行使用大模型的原因主要體現(xiàn)在安全、信任、數(shù)據(jù)質(zhì)量等方面:6|2023中國銀行業(yè)大模型用例分析對于安全相關(guān)的問題,目前銀行基本采取本地化部署的方式來規(guī)避,部分商用大模型的供可信度、社會倫理等方面的問題,銀行可通過不斷訓(xùn)練和調(diào)優(yōu)進(jìn)行緩解；但大模型的某些大模型的建設(shè)路徑有多種,目前主要的路徑有五種:購買嵌入了大模型的應(yīng)用、調(diào)用大模不同的大模型建設(shè)路徑之間不是互斥關(guān)系,銀行需要根據(jù)實際業(yè)務(wù)需求、技術(shù)能力、資源情況等選擇其中的—種或幾種。在選擇建設(shè)路徑時需要考慮的關(guān)鍵因素包括:領(lǐng)域數(shù)據(jù)、使用成本、數(shù)據(jù)安全與隱私保護(hù)、模型輸出第一,領(lǐng)域數(shù)據(jù)。大多數(shù)基礎(chǔ)大模型都是都是通用大模型,雖然具有較強(qiáng)的泛化能力,但或企業(yè)自有數(shù)據(jù)注入到大模型中,從而保證在某些任務(wù)下與需求更匹配。第二,使用成本。使用嵌入了大模型的應(yīng)用和調(diào)用大模成本,但會有使用成本或訂閱費用；在進(jìn)行提示工程時,每次修改人工創(chuàng)建的提示詞時會產(chǎn)生推理成本,但由于提示工程不會更新模型參數(shù),因此成本不高；數(shù)據(jù)檢索會在模型提示詞中添加更多數(shù)據(jù),從而增加推理成本；微調(diào)的成本與模型參數(shù)量有關(guān),超過數(shù)十億參數(shù)的模型,微調(diào)成本會很高；企業(yè)自建基礎(chǔ)大模型的成本非常之高。7|2023中國銀行業(yè)大模型用例分析第三,數(shù)據(jù)安全與隱私保護(hù)。企業(yè)建立自己的模型或通過微調(diào)創(chuàng)建模型可以加強(qiáng)對數(shù)據(jù)的控制,并在安全措施方面具有更強(qiáng)的靈活性。企業(yè)需要建立相應(yīng)的安全風(fēng)險評估框架,建立模型的安全準(zhǔn)入機(jī)制,對引入的大模型進(jìn)行安全風(fēng)險評估,確保模型滿足監(jiān)管合規(guī)要第四,模型輸出控制。模型輸出質(zhì)量非常重要,在對模型輸出質(zhì)量要求較高的場景,RAG、微調(diào)或自建大模型可能是企業(yè)最好的選擇。大模型目前無法做到100%的正確,因此在一些關(guān)鍵業(yè)務(wù)場景,需要有人工的參與。對于大型銀行而言,由于專業(yè)數(shù)據(jù)海量、應(yīng)用場景豐富且對投入成本的顧慮較小,適合引入業(yè)界領(lǐng)先的基礎(chǔ)大模型,在此基礎(chǔ)之上針對不同的場景選擇微調(diào)、RAG擴(kuò)展或者提示工對于中小銀行而言,應(yīng)綜合考慮應(yīng)用產(chǎn)出和投入成本的性價比,避免“人有我有”的不理性決策,按需引入各類大模型的公有云Apl接口或私有化部署服務(wù),或者直接購買嵌入了大模型的成熟應(yīng)用,滿足業(yè)務(wù)訴求。8|2023中國銀行業(yè)大模型用例分析針對眾多的大模型用例,銀行應(yīng)從業(yè)務(wù)價值和可行性兩個維度進(jìn)行用例篩選和優(yōu)先級排本用例優(yōu)先級矩陣共定義了18個大模型用例,這些用例將助力銀行實現(xiàn)營收增長、降本增效、提高用戶體驗并降低風(fēng)險,銀行CI0、CT0或科技、數(shù)據(jù)部門相關(guān)決策者可以通過用例優(yōu)先級矩陣,優(yōu)先選擇業(yè)務(wù)價值更大、可行性更高的用例,進(jìn)行合理的資源投入與分9|2023中國銀行業(yè)大模型用例分析10|2023中國銀行業(yè)大模型用例分析.提高營收:通過更精準(zhǔn)的客戶洞察,準(zhǔn)確理解客戶需求,吸引并留存更多客戶,增加銷.降本增效:實現(xiàn)業(yè)務(wù)流程自動化,減少人工干預(yù),降低運營成本、提高運營效率。.客戶體驗:為客戶提供更具個性化的產(chǎn)品與服務(wù),快速響應(yīng)客戶查詢與請求,提高客戶.風(fēng)險管理:降低潛在的信用、市場、流動性、聲譽等風(fēng)險,確保銀.技術(shù)可行性:技術(shù)是否滿足落地應(yīng)用的條件,包括大模型技術(shù)本身的成熟度、供應(yīng)商生.內(nèi)部環(huán)境:企業(yè)內(nèi)部是否支持用例實現(xiàn),包括管理層意愿、組織文化、人員能力、流程.外部環(huán)境:外部環(huán)境是否支持用例實現(xiàn),包括數(shù)據(jù)可得性、政策法規(guī)限制、市場競爭11|2023中國銀行業(yè)大模型用例分析用例1:員工智能問答助手定義:利用大模型的問答能力,結(jié)合企業(yè)知識庫,創(chuàng)建常用領(lǐng)域的問答應(yīng)用,為員工提供靈活的信息查詢方式,例如金融產(chǎn)品、規(guī)章制度、業(yè)務(wù)文檔等信息,提高員工獲取所需信息的效率,從而更高效的開展工作。典型案例1:浦發(fā)銀行審計制度問答場景大模型應(yīng)用典型案例1:浦發(fā)銀行審計制度問答場景大模型應(yīng)用浦發(fā)銀行通過“大模型+向量數(shù)據(jù)庫”搭建審計領(lǐng)域的制度搜索服務(wù),在向量數(shù)據(jù)庫中構(gòu)建自有審計制度知識資產(chǎn),并進(jìn)行提示工程采用對話引導(dǎo)式問答交互,通過問答形式完成知識查找,充分發(fā)揮浦發(fā)銀行所擁有的豐富、多種形態(tài)、高質(zhì)量的知識資產(chǎn),為審計人員提供知識助手服務(wù),具有更高的專業(yè)性和時效性。在數(shù)據(jù)準(zhǔn)備階段,浦發(fā)銀行準(zhǔn)備了數(shù)百篇審計知識文檔以及審計專家積累的高質(zhì)量審計問答QA對,由于大模型生成結(jié)果可能不準(zhǔn)確或不可控,浦發(fā)銀行采用“大模型+小模型”兩路召回的方案實現(xiàn),首先切分制度文檔,然后embedding向量化,存入向量數(shù)據(jù)庫;QA對進(jìn)行數(shù)據(jù)三元化處理,也存入向量數(shù)據(jù)庫。12|2023中國銀行業(yè)大模型用例分析用例2:營銷物料生成定義:用戶輸入文本提示詞以及設(shè)置生成屬性參數(shù)等,大模型根據(jù)客戶偏好自動生成多樣化、個性化的營銷物料,包括文字、圖片、視頻、音頻等形態(tài),并支持用戶對生成內(nèi)容進(jìn)行二次編輯,提升營銷素材生產(chǎn)質(zhì)量與效率。典型供應(yīng)商:百度、科大訊飛、奇富科技、中關(guān)村科金典型案例2:平安銀行營銷物料生成場景大模型應(yīng)用典型案例2:平安銀行營銷物料生成場景大模型應(yīng)用銀行業(yè)同質(zhì)化競爭加劇,一線運營經(jīng)理需要及時、個性化的營銷物料,但傳統(tǒng)設(shè)計效率及產(chǎn)能能以滿足需求,平安銀行將大模型用于營銷物料生成場景,通過“創(chuàng)意+Al+智能創(chuàng)意”根據(jù)客戶偏好自動生成溝通文本,提升內(nèi)容生產(chǎn)質(zhì)量與效率。用例3:編碼輔助工具定義:基于大模型的編碼工具可以幫助開發(fā)人員快速實現(xiàn)代碼生成、代碼轉(zhuǎn)換、代碼補全、單元測試生成、代碼缺陷檢測等,為軟件研發(fā)效能的提升帶來技術(shù)變革。13|2023中國銀行業(yè)大模型用例分析用例4:客服坐席助手定義:大模型可以賦能客戶服務(wù)與支持全流程,在銀行坐席人員與客戶的實時通話中,基于大模型的工具可以快速分析客戶過去與當(dāng)下的互動,輔助坐席人員準(zhǔn)確感知用戶情緒與真實需求,并為坐席人員生成指導(dǎo)建議,提高問答效率,降低客訴。典型案例3:工商銀行遠(yuǎn)程銀行客服坐席場景大模典型案例3:工商銀行遠(yuǎn)程銀行客服坐席場景大模型應(yīng)用針對遠(yuǎn)程銀行客服中心上千人的坐席團(tuán)隊,工商銀行聚焦對客服務(wù)中樞的運營團(tuán)隊、群體技術(shù)較大的人工坐席、工作量較為繁重的質(zhì)檢人員,重新定義作業(yè)和生產(chǎn)模式,基于大模型能力賦能客戶服務(wù)全流程,覆蓋事前運營、事中輔助和事后質(zhì)檢全流程:.事前智能客服知識運營階段,利用大模型自動完成知識標(biāo)注和知識維護(hù),提升傳統(tǒng)智能.在事中客戶服務(wù)階段,利用大模型開發(fā)前情摘要、知識隨行、工單預(yù)填等功能,提升坐席人員運營效率,壓降客戶通話時長。.在事后質(zhì)檢階段,生成傳統(tǒng)質(zhì)檢AI模型數(shù)據(jù),模擬客服及客戶問答對,提升傳統(tǒng)質(zhì)檢模14|2023中國銀行業(yè)大模型用例分析用例5:數(shù)據(jù)分析定義:結(jié)合大模型的智能數(shù)據(jù)分析工具(例如Bl)可以讓用戶通過自然語言的方式驅(qū)動數(shù)據(jù)分析,進(jìn)一步降低數(shù)據(jù)分析的門欖。業(yè)務(wù)人員通過對話的方式就能提取數(shù)據(jù),可將精力典型案例4:典型案例4:上海銀行數(shù)據(jù)分析場景大模型探索實踐數(shù)據(jù)分析是大模型重要的落地場景之一,上海銀行正在積極探索大模型與數(shù)據(jù)分析工具的結(jié)合,通過對話等交互方式實現(xiàn)指標(biāo)查詢、報表生成等功能,在不斷降低數(shù)據(jù)分析工具使用門欖的同時,通過提高數(shù)據(jù)分析數(shù)據(jù)獲取效率,改變數(shù)據(jù)分析模式,業(yè)務(wù)人員可以更加快捷的使用數(shù)據(jù),釋放數(shù)據(jù)分析的生產(chǎn)力,數(shù)據(jù)分析師更多完成經(jīng)營分析的工作而不是數(shù)據(jù)處理,數(shù)據(jù)處理人員進(jìn)一步壓縮編程統(tǒng)計分析工作的細(xì)支。用例6:投研助手定義:基于大模型文本生成與處理、數(shù)據(jù)挖掘等能力,幫助研究員快速獲取和解讀各類財經(jīng)資訊,輔助生成各類投資報告與圖表摘要并支持二次加工,提高投研工作效率。15|2023中國銀行業(yè)大模型用例分析典型案例5:招商銀行資產(chǎn)管理領(lǐng)域大模型應(yīng)用典型案例5:招商銀行資產(chǎn)管理領(lǐng)域大模型應(yīng)用基于大模型的生成和理解能力,可以在資產(chǎn)管理業(yè)務(wù)的整個鏈條中進(jìn)行應(yīng)用,例如在實體經(jīng)濟(jì)和底層金融資產(chǎn)中,利用大模型的生成能力可以完成研報的寫作、檢索,利用大模型的理解能力對已有研報可以進(jìn)行解析、理解、摘要、脫水,挖掘深層次數(shù)據(jù)價值；在資產(chǎn)組合層面,大模型可以進(jìn)行因子提取、指數(shù)輔助編制、策略c0T輔助實現(xiàn)；在財管管理階段,大模型可以解析基金公司新聞、管理人輿情、基金產(chǎn)品公告等信息,通過資配的邏輯對非專業(yè)投資客戶進(jìn)行產(chǎn)品推薦,輔助財富管理。用例7:智能營銷工具定義:通過大模型對海量用戶數(shù)據(jù)進(jìn)行關(guān)聯(lián)學(xué)習(xí),根據(jù)客戶的消費習(xí)慣和偏好生成營銷策略,推薦適合的信用卡、貸款和理財產(chǎn)品以及其他增值服務(wù),節(jié)約前期的管理和營銷成本,也可以使用預(yù)測模型分析客戶的歷史數(shù)據(jù)和行為,預(yù)測客戶的滿意度和忠誠度。典型供應(yīng)商:百度、科大訊飛、中關(guān)村科金16|2023中國銀行業(yè)大模型用例分析用例8:信貸審批定義:依托大模型的數(shù)據(jù)提取能力,同時結(jié)合RPA、0CR等技術(shù),實現(xiàn)貸款全流程自動化審批,加速信貸決策過程,提升信貸審批效率。用例9:風(fēng)險預(yù)警定義:大模型能夠從海量數(shù)據(jù)中自動提取更豐富、更抽象的風(fēng)險特征和信息,減少對手工特征工程的依賴,提高對風(fēng)險信號的敏感性,強(qiáng)大的學(xué)習(xí)能力使大模型能夠適應(yīng)不斷變化的市場條件和新興風(fēng)險模式,從而提高風(fēng)險預(yù)警的靈活性、及時性和準(zhǔn)確性。典型供應(yīng)商:華為云、科大訊飛、騰訊云、中科聞歌用例10:反欺詐定義:銀行可以使用大模型對交易數(shù)據(jù)進(jìn)行實時分析,通過學(xué)習(xí)欺詐特征,自動發(fā)現(xiàn)異常交易,以識別潛在的欺詐行為,以及生成合成數(shù)據(jù)用于模型訓(xùn)練,提升欺詐檢測系統(tǒng)的準(zhǔn)確性和魯棒性,全面提升銀行的反欺詐能力,降低誤報和漏報的風(fēng)險。典型供應(yīng)商:騰訊云、卓世科技用例11:智能辦公助手定義:利用大模型的文本生成、問答能力,圍繞會議、文檔、郵件等員工日常工作事務(wù)等方面,提供工作周報撰寫、PPT大綱生成、會議紀(jì)要生成等輔助工作,提高銀行員工辦公典型供應(yīng)商:百度、科大訊飛、金山辦公、螞蟻集團(tuán)、奇富科技、中關(guān)村科金17|2023中國銀行業(yè)大模型用例分析典型案例6:工商銀行智慧辦公場景大模型應(yīng)用典型案例6:工商銀行智慧辦公場景大模型應(yīng)用結(jié)合大模型摘要生成、文檔檢索等能力,工商銀行以人機(jī)協(xié)同的形式,圍繞郵件、會議、材料、員工日常事務(wù)等方面,優(yōu)化行內(nèi)辦公工具的交互體驗,提高辦公效率；面向網(wǎng)點—線員工提供制度、流程、辦法等交互式解答能力,解決網(wǎng)點對客服務(wù)、日常管理工作中制度規(guī)范檢索難、復(fù)雜業(yè)務(wù)辦理難、專業(yè)術(shù)語解釋難等業(yè)務(wù)痛點問題,提升網(wǎng)點員工業(yè)務(wù)應(yīng)變和溝通能力,打造高質(zhì)量服務(wù)。用例12:反洗錢報告生成定義:大模型通過分析大量的金融交易數(shù)據(jù),自動檢測可能的洗錢活動跡象,識別異常模式和風(fēng)險因素,實現(xiàn)可疑交易分析報告的自動生成,包括潛在的風(fēng)險客戶、可疑交易和必要的合規(guī)信息,提高銀行反洗錢工作的質(zhì)效。用例13:合規(guī)審查定義:理財宣傳材料、招股募集書、債券募集書等需要依據(jù)相關(guān)法律合規(guī)要求進(jìn)行表述,大模型可以用于推斷審核相關(guān)文件,確保合規(guī)性和準(zhǔn)確性。18|2023中國銀行業(yè)大模型用例分析用例14:虛擬數(shù)字客服定義:基于多模態(tài)大模型生成的虛擬數(shù)字客服智能化程度更高,可以直接替代人工客服,為用戶提供更加智能化、人性化的對話體驗,識別客戶真實需求,使銀行提供更有溫度的用例15:機(jī)器人交易助手定義:利用大模型的語言理解能力,為產(chǎn)品咨詢、詢價報價等場景提供服務(wù),理解交易對手的意圖,及時挖掘交易需求,提高資金交易的成交效率。典型供應(yīng)商:百度典型案例7:中國郵政儲蓄銀行貨幣臺交易機(jī)器人典型案例7:中國郵政儲蓄銀行貨幣臺交易機(jī)器人在投行業(yè)務(wù)領(lǐng)域,郵儲銀行運用大模型技術(shù)輔助本外幣拆借業(yè)務(wù),構(gòu)建數(shù)字代理員工理解對手方交易意圖,從簡單的咨詢出價逐步介入交易談判、成單撮合、策略研判,實現(xiàn)自動19|2023中國銀行業(yè)大模型用例分析用例16:產(chǎn)品定價優(yōu)化定義:通過大模型強(qiáng)大的學(xué)習(xí)能力,識別并解釋客戶行為和風(fēng)險偏好的變化,發(fā)現(xiàn)潛在的關(guān)系和模式,幫助銀行設(shè)計并優(yōu)化產(chǎn)品定價策略,并可以對不同定價策略進(jìn)行測試,提高用例17:客戶流失預(yù)警定義:通過大模型分析龐大的客戶數(shù)據(jù),識別潛在的流失風(fēng)險因素和模式,提高傳統(tǒng)機(jī)器學(xué)習(xí)模型的識別精度,使銀行更準(zhǔn)確地預(yù)測客戶流失,從而制定個性化的留存策略,提供更好的客戶體驗,降低流失率。用例18:宏觀分析定義:大模型從新聞、公告等信息中獲取變量,在已有的分析框架下,分析變量對宏觀經(jīng)濟(jì)產(chǎn)生的影響,可以用于經(jīng)濟(jì)趨勢預(yù)測、資產(chǎn)配置分析、貨幣匯率分析等。20|2023中國銀行業(yè)大模型用例分析中國銀行業(yè)大模型市場圖譜列舉了各個用例下的代