金融AI發(fā)展路徑與商業(yè)落地探索

2投資要點(diǎn)核心觀點(diǎn)：金融+AI的落地形態(tài)：底層為通用大模型+行業(yè)數(shù)據(jù)集+智算中心的行業(yè)底座，中間層為經(jīng)過(guò)訓(xùn)練和微調(diào)的行業(yè)大模型，上層為基于行業(yè)大模型的各類行業(yè)應(yīng)用。金融+AI的應(yīng)用場(chǎng)景：可應(yīng)用于智能客服、投顧、營(yíng)銷、風(fēng)控、運(yùn)營(yíng)、投研、投行、量化交易、低碼研發(fā)等多個(gè)場(chǎng)景。金融信息化企業(yè)+AI的結(jié)合形式：基于大模型的深度學(xué)習(xí)框架、算力云、硬件部分由合作伙伴提供；金融信息化企業(yè)負(fù)責(zé)行業(yè)模型、標(biāo)準(zhǔn)層、插件層、應(yīng)用層等相關(guān)生態(tài)建設(shè)。海外來(lái)看，金融行業(yè)大模型已在Morgan

Stanley、Stripe、Bloomberg等多家企業(yè)應(yīng)用；國(guó)內(nèi)來(lái)看，同花順I(yè)問(wèn)財(cái)、iFind等產(chǎn)品已有相關(guān)行業(yè)模型賦能。建議關(guān)注：證券IT：恒生電子、同花順銀行IT：長(zhǎng)亮科技、宇信科技保險(xiǎn)IT：中科軟風(fēng)險(xiǎn)提示：國(guó)內(nèi)大模型及金融行業(yè)模型推進(jìn)不及預(yù)期；細(xì)分場(chǎng)景應(yīng)用研發(fā)不及預(yù)期等。3AI發(fā)展路徑的變化：小模型時(shí)期：判別式AI→大模型初期：以Transformer為代表的預(yù)訓(xùn)練生成式AI→大模型商業(yè)化時(shí)期：Chatgpt、文心一言等商業(yè)化產(chǎn)品推出。商業(yè)模式Open

AI：訂閱、生態(tài)嵌入、API調(diào)用Google：MaaS、生態(tài)嵌入文心一言：生態(tài)嵌入、API調(diào)用（文心千帆）圖表：國(guó)內(nèi)外大模型發(fā)展路徑及商業(yè)模式落地現(xiàn)狀國(guó)內(nèi)外大模型發(fā)展路徑及商業(yè)模式落地現(xiàn)狀資料來(lái)源：艾瑞咨詢，華福證券研究所金融行業(yè)大模型落地形態(tài)及IT建設(shè)方法變革通用大模型（預(yù)訓(xùn)練）+行業(yè)數(shù)據(jù)（語(yǔ)料）+智算中心（算力集群）金融行業(yè)大模型應(yīng)用D行業(yè)底座中間層應(yīng)用層開(kāi)發(fā)團(tuán)隊(duì)大模型模型1-N場(chǎng)景工程其他定制開(kāi)發(fā)

AI服務(wù)

微調(diào)資料來(lái)源：華福證券研究所整理4構(gòu)建以通用大模型+行業(yè)數(shù)據(jù)集+智算中心的行業(yè)底座，通過(guò)數(shù)據(jù)清洗、標(biāo)注等過(guò)程，對(duì)預(yù)訓(xùn)練模型進(jìn)行訓(xùn)練和微調(diào)，形成行業(yè)大模型，最終結(jié)合行業(yè)模型的能力對(duì)外輸出各類細(xì)分場(chǎng)景應(yīng)用。開(kāi)發(fā)側(cè)僅需對(duì)大模型進(jìn)行微調(diào)，由大模型進(jìn)行數(shù)據(jù)處理，模型設(shè)計(jì)、參數(shù)調(diào)優(yōu)等過(guò)程，顯著降低人力成本，相對(duì)傳統(tǒng)研發(fā)范式復(fù)用性更高。以大模型為核心，效率及效能業(yè)務(wù)不受業(yè)務(wù)增多影響。圖表：金融行業(yè)大模型落地形態(tài)及IT建設(shè)方法應(yīng)用A 應(yīng)用B 應(yīng)用C能力子能力客服投顧營(yíng)銷輿情風(fēng)控運(yùn)營(yíng)

投研

投行量化交易低碼研發(fā)問(wèn)答/助手外呼/質(zhì)檢/陪練√√√生成/撰寫(xiě)√√√√√√√打標(biāo)簽√√√√文檔處理文本抽取√√√摘要/總結(jié)√√√√√審核√√√√√√搜索√√√√√√√N(yùn)L2SQL√√√√√√N(yùn)L2XNL2API√√√√√√√N(yùn)L2大屏/駕駛艙/工作臺(tái)√√√√代碼原型圖轉(zhuǎn)前端代碼√代碼助手√√大模型在金融領(lǐng)域的核心能力與應(yīng)用場(chǎng)景（以證券為例）資料來(lái)源：華福證券研究所整理5圖表：大模型在證券領(lǐng)域的核心能力與應(yīng)用場(chǎng)景

能力構(gòu)建：?jiǎn)柎?助手（外呼/質(zhì)檢/陪練）、文檔處理（生成/撰寫(xiě)、打標(biāo)簽、文本抽取、摘要/總結(jié)、審核）、搜索、NL2X（NL2SQL、NL2API）、代碼（原型圖轉(zhuǎn)前端代碼、代碼助手）可應(yīng)用于智能客服、投顧、營(yíng)銷、風(fēng)控、運(yùn)營(yíng)、投研、投行、量化交易、低碼研發(fā)等多個(gè)場(chǎng)景。應(yīng)用層（數(shù)據(jù)安全、專業(yè)用戶）插件層行業(yè)標(biāo)準(zhǔn)層金融大模型通用大模型深度學(xué)習(xí)框架算力云供應(yīng)商硬件供應(yīng)商非數(shù)據(jù)安全應(yīng)用金融信息化企業(yè)提供合作伙伴提供資料來(lái)源：華福證券研究所整理6金融信息化企業(yè)與大模型常見(jiàn)的結(jié)合形式7OpenAI百度文心清華ChatGLMMeta-LLaMaPalmOPT是否支持中文是是是有限支持是否是否開(kāi)源否否是是否是是否支持精調(diào)是是是是是是參數(shù)規(guī)模GPT3(175B)260B130B7-65B540B125M-175BTokens規(guī)模GPT3（300B）300B400B1.4T780B180B模型結(jié)構(gòu)Multi-taskMulti-taskGLM-styleGPT-styleGPT-styleGPT-style金融行業(yè)通用大模型選型選型指標(biāo)：是否支持中文、是否開(kāi)源、支持精調(diào)、模型生態(tài)是否完善、是否支持私有化部署資料來(lái)源：互聯(lián)網(wǎng)架構(gòu)師，華福證券研究所8海外大模型在金融領(lǐng)域的應(yīng)用——Morgan

Stanley使用GPT-4技術(shù)組織龐大的知識(shí)庫(kù)，幫助其一萬(wàn)多名財(cái)務(wù)顧問(wèn)解決問(wèn)題。痛點(diǎn)：公司內(nèi)容庫(kù)包含十萬(wàn)頁(yè)的知識(shí)和見(jiàn)解，分布在許多內(nèi)部網(wǎng)站上，財(cái)務(wù)顧問(wèn)需要瀏覽大量信息才能找到特定問(wèn)題答案。GPT-4方案：使用由Chatgpt提供支持的高級(jí)聊天機(jī)器人，財(cái)務(wù)顧問(wèn)通過(guò)訪問(wèn)該機(jī)器人，就可以獲取經(jīng)過(guò)內(nèi)部知識(shí)庫(kù)訓(xùn)練過(guò)的Chatgpt回答。對(duì)于MorganStanley，大模型的價(jià)值主要體現(xiàn)在三個(gè)部分：第一部分是

GPT4

的“幾乎瞬間訪問(wèn)、處理和合成內(nèi)容的非凡能力”。它基于

Internet

上的大量文本進(jìn)行訓(xùn)練，并在單詞、句子、概念和想法之間建立關(guān)系。第二部分是摩根士丹利的智力資本。摩根士丹利創(chuàng)立有一個(gè)獨(dú)特的內(nèi)部?jī)?nèi)容存儲(chǔ)庫(kù)，后續(xù)將通過(guò)

GPT-4

進(jìn)行處理和解析，并受公司內(nèi)部控制的約束。第三部分是公司人員：摩根士丹利就

GPT-4

進(jìn)行了培訓(xùn)，每天有

200

多名員工查詢相關(guān)系統(tǒng)并提供反饋，盡可能實(shí)現(xiàn)由內(nèi)部聊天機(jī)器人完成全面搜索財(cái)富管理內(nèi)容。圖表：MorganStanley與GPT-4資料來(lái)源：

21世紀(jì)經(jīng)濟(jì)報(bào)道，AI科技評(píng)論，華福證券研究所海外大模型在金融領(lǐng)域的應(yīng)用——Stripe23年3月，Stripe與OpenAI達(dá)成戰(zhàn)略合作，Stripe

將幫助

OpenAI

將其開(kāi)創(chuàng)性的

ChatGPT

和

DALL·E

生成人工智能技術(shù)商業(yè)化，同時(shí)Stripe

還會(huì)將OpenAI的新自然語(yǔ)言技術(shù)GPT-4融入其產(chǎn)品和服務(wù)中。GPT-4賦能：基于GPT驅(qū)動(dòng)的Stripe

Docs幫助用戶簡(jiǎn)化操作，更快獲取所需信息的方法。這一改進(jìn)將允許開(kāi)發(fā)人員在

Stripe

Docs

中向

GPT-4

提出自然語(yǔ)言查詢，GPT-4

將通過(guò)總結(jié)文檔的相關(guān)部分或提取特定信息來(lái)回答。將極大降低開(kāi)發(fā)人員的學(xué)習(xí)成本，把有限的時(shí)間都花在更重要的構(gòu)建過(guò)程當(dāng)中。未來(lái)，Stripe

也將攜手

OpenAI

，持續(xù)為廣大客戶和企業(yè)提供行業(yè)領(lǐng)先的科技成果，共同應(yīng)對(duì)“新時(shí)代”下的機(jī)遇和挑戰(zhàn)，實(shí)現(xiàn)多方共贏。圖表：Stripe與GPT-4資料來(lái)源：Stripe，華福證券研究所 9自研語(yǔ)言大模型，開(kāi)創(chuàng)垂直+通用混合訓(xùn)練范式2023年3月30日，Bloomberg推出了擁有500億參數(shù)的語(yǔ)言大模型(LLM)，專門(mén)針對(duì)各種金融數(shù)據(jù)進(jìn)行了訓(xùn)練，以支持金融行業(yè)內(nèi)的各種自然語(yǔ)言處理

(NLP)任務(wù)?；?/p>

LLM

的生成式人工智能

(AIGC)已經(jīng)在許多領(lǐng)域展示了令人興奮的新應(yīng)用。然而，金融領(lǐng)域的復(fù)雜性和獨(dú)特的術(shù)語(yǔ)保證了特定領(lǐng)域的模型。BloombergGPT

代表著這項(xiàng)新技術(shù)在金融行業(yè)的開(kāi)發(fā)和應(yīng)用邁出了第一步。該模型將協(xié)助彭博改進(jìn)現(xiàn)有的金融

NLP

任務(wù)，例如情感分析、命名實(shí)體識(shí)別、新聞分類和問(wèn)答等。此外，BloombergGPT

將釋放新的機(jī)會(huì)來(lái)整理

Bloomberg

Terminal

上可用的大量數(shù)據(jù)，以更好地幫助公司的客戶，同時(shí)將

AI

的全部潛力帶入金融領(lǐng)域。十多年來(lái)，彭博一直是人工智能、機(jī)器學(xué)習(xí)和自然語(yǔ)言處理在金融領(lǐng)域應(yīng)用的開(kāi)拓者，支持大量多樣的

NLP

任務(wù)，這些任務(wù)將受益于新的金融感知語(yǔ)言模型。彭博研究人員開(kāi)創(chuàng)了垂直+通用的混合訓(xùn)練方法，將金融數(shù)據(jù)與通用數(shù)據(jù)集相結(jié)合，以訓(xùn)練一個(gè)模型，該模型在金融基準(zhǔn)上取得一流的結(jié)果，同時(shí)在通用

LLM基準(zhǔn)上保持有競(jìng)爭(zhēng)力的表現(xiàn)。圖表：彭博發(fā)布自研大模型Bloomberg

GPT海外大模型在金融領(lǐng)域的應(yīng)用——Bloomberg

GPT資料來(lái)源：彭博新聞，華福證券研究所

10構(gòu)建千億級(jí)令牌金融訓(xùn)練數(shù)據(jù)集彭博的

ML

產(chǎn)品和研究小組與公司的

AI

工程團(tuán)隊(duì)合作，利用公司現(xiàn)有的數(shù)據(jù)創(chuàng)建、收集和管理資源，構(gòu)建了迄今為止規(guī)模最大的專業(yè)領(lǐng)域數(shù)據(jù)集之一。作為一家金融數(shù)據(jù)公司，彭博的數(shù)據(jù)分析師在四十年的時(shí)間里收集和維護(hù)了金融語(yǔ)言文件。該團(tuán)隊(duì)從這個(gè)廣泛的財(cái)務(wù)數(shù)據(jù)檔案（包括金融新聞，報(bào)告和分析，公司財(cái)報(bào)，經(jīng)濟(jì)數(shù)據(jù)，交易數(shù)據(jù)）中提取數(shù)據(jù)，創(chuàng)建了一個(gè)由英文財(cái)務(wù)文件組成的

3630

億令牌的綜合數(shù)據(jù)集。該訓(xùn)練數(shù)據(jù)集使用

3450

億個(gè)令牌公共數(shù)據(jù)集進(jìn)行擴(kuò)充，以創(chuàng)建一個(gè)包含超過(guò)

7000

億個(gè)令牌的大型訓(xùn)練語(yǔ)料庫(kù)。使用該訓(xùn)練語(yǔ)料庫(kù)的一部分，訓(xùn)練了一個(gè)500

億參數(shù)的純解碼器（decoder-only）因果語(yǔ)言模型。由此產(chǎn)生的模型在現(xiàn)有的特定于金融的

NLP

基準(zhǔn)、一套彭博內(nèi)部基準(zhǔn)以及來(lái)自流行基準(zhǔn)的廣泛類別的通用

NLP

任務(wù)（例如，BIG-bench

Hard、知識(shí)評(píng)估、閱讀理解和語(yǔ)言任務(wù)）上得到驗(yàn)證。圖表：3450億令牌公共數(shù)據(jù)集來(lái)源圖表：3630億令牌綜合數(shù)據(jù)集來(lái)源資料來(lái)源：BloombergGPT:

ALarge

Language

Model

for

Finance，華福證券研究所

11海外大模型在金融領(lǐng)域的應(yīng)用——Bloomberg

GPT擅長(zhǎng)金融任務(wù)，性能遠(yuǎn)優(yōu)于同規(guī)模模型Bloomberg

GPT在金融領(lǐng)域的相關(guān)任務(wù)中表現(xiàn)出較高的性能和專業(yè)性。同時(shí)，模型在預(yù)訓(xùn)練階段就已經(jīng)學(xué)習(xí)到了大量金融知識(shí)，使得在后續(xù)的微調(diào)任務(wù)中能夠更快地適應(yīng)特定場(chǎng)景。使用內(nèi)部特定的評(píng)估標(biāo)準(zhǔn)與模板對(duì)模型進(jìn)行多個(gè)任務(wù)評(píng)估，發(fā)現(xiàn)Bloomberg

GPT在金融任務(wù)（Finance-Specific）上的表現(xiàn)明顯優(yōu)于現(xiàn)有的類似規(guī)模的開(kāi)放模型（GPT-NeoX、OPT-66B、BLOOM-176B）。此外，模型在金融任務(wù)上的表現(xiàn)遠(yuǎn)高于在一般任務(wù)（General-Purpose）上的表現(xiàn)任，但其處理一般任務(wù)的性能仍不輸于同規(guī)模模型。圖表：同規(guī)模模型性能對(duì)比圖表：用于評(píng)估金融任務(wù)模板 圖表：模型評(píng)估標(biāo)準(zhǔn)資料來(lái)源：BloombergGPT:

ALarge

Language

Model

for

Finance，華福證券研究所

12海外大模型在金融領(lǐng)域的應(yīng)用——Bloomberg

GPT結(jié)合Bloomberg自身優(yōu)勢(shì)，賦能多種金融應(yīng)用場(chǎng)景Bloomberg

需要特定的查詢語(yǔ)言從自身數(shù)據(jù)庫(kù)中調(diào)用金融數(shù)據(jù)。得益于訓(xùn)練集積累了大量歷史查詢記錄，BloombergGPT將根據(jù)用戶需求自動(dòng)生成查詢語(yǔ)言，降低Bloomberg金融數(shù)據(jù)庫(kù)的使用門(mén)檻?；谪S富的新聞文章訓(xùn)練集，BloombergGPT可以賦能新聞應(yīng)用程序，協(xié)助記者完成如撰寫(xiě)新聞標(biāo)題等日常工作，極大地提高用戶工作效率，減少內(nèi)容編輯等瑣碎工作，將更多時(shí)間聚焦于核心內(nèi)容。受益于金融垂直領(lǐng)域知識(shí)的訓(xùn)練優(yōu)化，

BloombergGPT可以更加準(zhǔn)確地理解并回答金融世界的問(wèn)題，例如在詢問(wèn)公司CEO的問(wèn)題上，相較于其他同規(guī)模模型，BloombergGPT的回答取得了最高的準(zhǔn)確率。因此，

BloombergGPT可以便利金融業(yè)的知識(shí)獲取，幫助從業(yè)人員快速獲得相對(duì)準(zhǔn)確的結(jié)果。圖表：撰寫(xiě)新聞標(biāo)題圖表：查詢語(yǔ)言自動(dòng)生成

圖表：回答各公司CEO資料來(lái)源：BloombergGPT:

ALarge

Language

Model

for

Finance，華福證券研究所

13海外大模型在金融領(lǐng)域的應(yīng)用——Bloomberg

GPT國(guó)內(nèi)大模型在金融領(lǐng)域的應(yīng)用——同花順GPT加速布局人工智能從2012上線問(wèn)答功能開(kāi)始，同花順圍繞智能金融科技以及其他人工智能服務(wù)技術(shù)，發(fā)布了多種AI產(chǎn)品。在金融科技方面，通過(guò)深度學(xué)習(xí)與自然語(yǔ)言處理等人工智能方法，對(duì)于數(shù)據(jù)、事件、結(jié)論等信息進(jìn)行自動(dòng)化處理和分析，賦能了iFind

、問(wèn)財(cái)、輿情監(jiān)控、智能投顧、智能投研等產(chǎn)品。在其他人工智能服務(wù)方面，同花順的AI開(kāi)放平臺(tái)提供數(shù)字虛擬人、智能金融問(wèn)答、智能語(yǔ)音、智能客服機(jī)器人、智能醫(yī)療輔助等40余項(xiàng)人工智能產(chǎn)品。2020-2022三年，公司研發(fā)投入占比不斷增加，主要投入方向就是人工智能技術(shù)應(yīng)用。目前同花順已在探索大模型落地應(yīng)用場(chǎng)景，未來(lái)基于龐大的金融端數(shù)據(jù)資源與C端客群優(yōu)勢(shì)，將在AI大模型、AIGC領(lǐng)域持續(xù)進(jìn)行技術(shù)攻關(guān)，有望在國(guó)內(nèi)率先落地金融GPT。35%30%25%20%15%10%5%0%024681012202020212022研發(fā)費(fèi)用（左軸，億元）研發(fā)費(fèi)用銷售百分比（右軸，

）圖表：同花順研發(fā)費(fèi)用及占銷售百分比人工智能iFindi問(wèn)財(cái)智能投顧智能投研數(shù)字虛擬人輿情監(jiān)控智能語(yǔ)音智能客服資料來(lái)源：同花順，華福證券研究所14同花順業(yè)務(wù)場(chǎng)景中的大模型1.問(wèn)答：同花順問(wèn)答業(yè)務(wù)主要是“同花順問(wèn)財(cái)”，

用戶每日問(wèn)句數(shù)量大約為1000萬(wàn)條，累計(jì)不同問(wèn)句約5億條，需求量比較高。問(wèn)財(cái)前幾年用的深度學(xué)習(xí)模型TextCNN做通用語(yǔ)義識(shí)別準(zhǔn)確率為88，應(yīng)用了預(yù)訓(xùn)練大模型后，準(zhǔn)確率顯著提升至92.96。再加上更多的數(shù)據(jù)進(jìn)行迭代，可進(jìn)一步提升效果。2.對(duì)話：同花順對(duì)話業(yè)務(wù)分為面向C端的智能投顧以及面向B端的智能客服、智能營(yíng)銷機(jī)器人。智能投顧業(yè)務(wù)要基于用戶畫(huà)像，理解用戶語(yǔ)義；智能客服與營(yíng)銷機(jī)器人也需要有多輪對(duì)話能力與意圖識(shí)別能力。公司已在使用基于BERT的預(yù)訓(xùn)練模型賦能智能對(duì)話，下一步使用基于GPT-3架構(gòu)的大模型可提升復(fù)雜意圖理解能力與準(zhǔn)確度。圖表：語(yǔ)義分類模型效果對(duì)比模型類型模型準(zhǔn)確度優(yōu)化提升常規(guī)深度模型TextCNN88-大模型Electra-small92.96-↑4.96Mengzi-base94.16-↑1.20Electra-small98.54數(shù)據(jù)迭代↑4.38智能投顧資料來(lái)源：同花順，華福證券研究所15智能營(yíng)銷對(duì)話智能客服圖表：同花順對(duì)話業(yè)務(wù)場(chǎng)景國(guó)內(nèi)大模型在金融領(lǐng)域的應(yīng)用——同花順GPT模型類型模型準(zhǔn)確度召回率F1提升常規(guī)深度模型CharEmbedding

+LSTM79.4462.3469.86大模型HexinBERT79.0876.1477.58↑7.72ROBERTa-base79.9876.6977.82↑0.24Mengzi-Fin-base81.4575.7278.48↑0.66同花順業(yè)務(wù)場(chǎng)景中的大模型3.信息抽?。盒畔⒊槿】捎糜谥R(shí)圖譜構(gòu)建和金融數(shù)據(jù)庫(kù)構(gòu)建兩個(gè)方面，這在風(fēng)控、投研、投顧、銀行理賠等場(chǎng)景都非常重要。從研報(bào)、新聞資訊中自動(dòng)提取因果關(guān)系的三元組（因-影響-果）能夠用于搭建金融知識(shí)圖譜，