中國金融大模型發(fā)展白皮書_第1頁
中國金融大模型發(fā)展白皮書_第2頁
中國金融大模型發(fā)展白皮書_第3頁
中國金融大模型發(fā)展白皮書_第4頁
中國金融大模型發(fā)展白皮書_第5頁
已閱讀5頁,還剩64頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

開啟智能金融新時代?目錄核心觀點 ??第一章百舸爭流:AI大模型發(fā)展概述 ???.?AI大模型與新質生產力 ???.?國內外AI大模型的發(fā)展現狀 ???.?AI大模型應用發(fā)展整體現狀 ??第二章聚焦行業(yè):金融行業(yè)大模型概述 ???.?金融行業(yè)大模型應用的特殊性 ???.?金融行業(yè)大模型應用落地面臨的挑戰(zhàn) ??第三章落地進展:大模型催生效率變革金融行業(yè)務實求效 ???.?大模型在金融行業(yè)的典型應用場景梳理 ???.?生成式AI在金融行業(yè)場景應用流程梳理 ??第四章金融行業(yè)大模型的應用路徑與關鍵能力 ???.?金融機構落地大模型的應用路徑 ???.?金融機構選擇或部署大模型時的關鍵能力要素 ??第五章展望未來:金融行業(yè)大模型的發(fā)展趨勢 ???.?大模型技術創(chuàng)新與發(fā)展趨勢 ???.?行業(yè)應用場景的拓展趨勢 ??第六章關于中電金信 ???.?中電金信公司介紹 ???.?中電金信人工智能產品及能力介紹 ???.?中電金信AI大模型在金融行業(yè)的服務案例 ??核心觀點AI大模型成為新質生產力的重要組成部分,國內外科技公司正加速布局AI大模型已成為新質生產力的重要組成部分,能夠大幅提高生產效率,優(yōu)化資源配置,降低生產成本,為企業(yè)高質量發(fā)展提供強大的技術支持和動力。當前,美國、中國、日本、歐盟等全球主要地區(qū)的科技公司正加大大模型技術的創(chuàng)新及應用。在未來GenAI投資分配上,中國和全球企業(yè)幾乎都會平均分配在生產力提升應用場景、跨行業(yè)水平職能應用場景、以及垂直行業(yè)專屬應用場景上。金融行業(yè)AI大模型的研發(fā)投入和應用較為顯著,且具有一定的應用特殊性和應用挑戰(zhàn)近兩年,金融行業(yè)在AI大模型的研發(fā)投入和應用方面亦走在市場前列。根據IDC數據顯示,????年,中國金融行業(yè)AIandGenerativeAI???.??億元,到????年將達到???.??億元,增幅達到???%,金融行業(yè)屬于信息密集型、風險規(guī)避及強監(jiān)管行業(yè),在推進大模型落地過程中,相比其他領域,金融行業(yè)對數據質量、推理準確性及響應速度,以及在管控、合規(guī)、安全層面的要求都更高。同時,根據IDC調研數據顯示,數據治理、模型治理、以及合規(guī)應用是金融機構落地大模型/生成式AI更需求關注的要素。AI大模型在金融行業(yè)的應用場景正從簡單到復雜加速分步推進IDC認為,生成式AI的行業(yè)應用往往都是循序漸進的過程,一般是逐漸從內部輔助運營到外部對客提效、從業(yè)務邊緣到核心,相應地AI對金融機構的價值也逐漸增大。在未來??個月內,支付清算、智能投研、內部研發(fā)(代碼生成、測試等)、數據分析(報表生成與分析、數據建模、數據決策等)、欺詐/洗錢/威脅監(jiān)測、資產管理(資產盡調、資產評估及定價等)是金融機構主要的落地場景。在應用流程方面,IDC認為,金融行業(yè)生成式AI應用場景的落地可以從場景應用評估與選擇(如技術解決方案評估、項目管理及風險評估、投資回報分析)、以及面向場景的工程化落地(如模型選擇、技術路線、數據及算力準備、模型訓練及調優(yōu)、以及系統(tǒng)集成與部署、組織協同等)等層面分步推進。金融機構應根據其資源能力選擇不同的大模型應用路徑,并需打造多樣化的能力要素當前,不同類型的金融機構在推進大模型的落地中,有著不同的路徑選擇,其可根據自身戰(zhàn)略目標、業(yè)務需求、技術能力、資源稟賦、風險偏好來決定是否自主建設、基于已有模型微調,或是采用其他方式來利用GenAI能力。同時,IDC認為,金融機構在落地大模型的過程中,需要綜合考慮打造數據價值鏈管理、模型的選擇與部署、AI平臺搭建、以及AI治理等要素能力。尤其是在數據價值鏈管理方面,IDC認為,金融機構的數據價值鏈管理是生成式AI在金融場景中有效發(fā)揮價值的基石,其核心目的是提升數據質量、數據可用性以及確保數據的合規(guī)獲取,有利于金融機構面向不同的應用場景快速構建高質量的數據集,并為后續(xù)金融大模型的規(guī)模應用奠定堅實的基礎。多模態(tài)技術、AI智能體、以及通過大小模型協同應用和構建大模型生態(tài)資源共享平臺是金融機構落地大模型的主要趨勢隨著大模型技術的發(fā)展,大模型的參數規(guī)模也將顯著增長,多模態(tài)技術及智能體亦將在金融機構中深入應用。一方面,多模態(tài)之間的融合將使得AI大模型能更深刻地捕捉復雜場景背景、細節(jié)和情感,使其更快的感知和適應場景,并能應用于更加復雜的金融場景。另一方面,AI智能體通過“感知-認知-推理-決策-組織/行動”的閉環(huán),及其在數據處理、智能決策與自然交互等方面的卓越能力,預示著它將在客戶服務、業(yè)務流程優(yōu)化及業(yè)務效率提升等多個關鍵領域發(fā)揮核心作用,為金融機構帶來前所未有的價值創(chuàng)造。此外,IDC認為,通過大小模型協同也能驅動金融機構在更加多樣復雜的場景中的應用。同時,通過構建大模型生態(tài)資源共享平臺,向金融機構提供大模型應用所需的全套資源,是金融機構大規(guī)模應用生成式AI的主要路徑之一。??第一章百舸爭流AI?.?AI大模型與新質生產力當前,人工智能正以前所未有的速度和規(guī)模滲透到我們生活工作中。人工智能是數字基礎設施建設的重要組成部分,是新一輪科技革命和產業(yè)革命的核心驅動力,在人工智能技術的加持下,全球的數字化轉型已進入倍增創(chuàng)新階段,同時以多模態(tài)大模型為代表的新型人工智能技術正高速發(fā)展。????年?月??習時,進一步強調發(fā)展新質生產力是推動高質量發(fā)展的內在要求和重要著力點。而以AI大模型為主的新技術,作為各行業(yè)的新質生產力的重要組成部分,能夠大幅提高生產效率,優(yōu)化資源配置,降低生產成本,為企業(yè)高質量發(fā)展提供強大的技術支持和動力。尤其是隨著AIAgent的潛力被不斷挖掘,以AIAgent為核心的人機協同將為業(yè)務洞察與決策提供新的能力支撐,為金融機構構建領先的新質生產力。未來推動金融業(yè)逐步走向智能化金融的演化,實現超高數據處理與實時決策的融合,推動著普惠金融、金融供給側改革、客戶體驗/個性化服務不斷深化。?.?國內外AI大模型的發(fā)展現狀當前,大模型技術加速發(fā)展,美國、中國、日本、歐盟等全球主要地區(qū)的科技公司正加大大模型技術的創(chuàng)新及應用。美國在生成式AI方面起步較早,OpenAI、GoogleDeepMind、Meta等科技公司在生成式AI領域取得了里程碑式的進展。在中國,百度、阿里、華為、騰訊、京東、科大訊飛、字節(jié)跳動等科技公司也紛紛發(fā)布了基座大模型,且加速推進其在各行各業(yè)的落地。而歐盟的科技公司也加速應用生成式AI,且其更傾向于在細分領域(如醫(yī)療、金融等)應用生成式AI,而不是開發(fā)通用的大規(guī)模生成模型。例如,英國的DeepMind是生成式AI領域的重要力量,其生成模型在文本生成、游戲AI等方面表現突出。日本在生成式AI的技術開發(fā)上相對滯后,其在機器人和自動化領域具備全球領先的技術實力,但在自然語言生成和通用圖像生成等方面,尚未推出具備國際競爭力的大規(guī)模模型。不過,日本的一些企業(yè)和科研機構也在逐漸跟進,根據日本政府發(fā)表的《信息通信白皮書》表示,未來的增長潛力不容忽視。??.?%的受訪者表示,在合適的況下,愿意嘗試使用生成式AI。表?AI發(fā)展現狀地區(qū)技術實力應用場景政策支持/監(jiān)管中國等語言生成模型快速發(fā)展廣泛應用于社交媒體、電客服等領域政府大力推動AI創(chuàng)新,出臺支持政策,關注數據保護與AI倫理美國全球領先,擁有OpenAI的GPT-?、GoogleGemini等頂尖模型廣泛應用于文案生成、圖像生成、代碼生成、音樂和視頻創(chuàng)作等政府出臺AI“權利法案藍創(chuàng)新與社會責任歐盟技術發(fā)展相對滯后,DeepMind等公司在細分領域有所進展主要用于醫(yī)療影像生成、數據合成、建筑設計、自動化報告撰寫等專業(yè)領域《人工智能法案》強調高風險AI平性和透明性日本技術進展緩慢,集中于機器人、自動化等領域,缺乏國際競爭力的生成模型主要應用于動漫創(chuàng)作、虛擬偶像、工業(yè)設計、醫(yī)療健康等領域根據日本政府發(fā)表的年度《信息通信白皮書》數據顯示,日本國內生成式AI使用率和企業(yè)使用率都相對較低來源:IDC根據公開資料整理?.?AI大模型應用發(fā)展整體現狀大模型作為帶動產業(yè)/組織服務效率及范式變革的重要技術,已經具備較高的識別準確率和較強的場景泛化性,在多模態(tài)的任務下也有明顯的突破,全球諸多企業(yè)已在金融、電商、能源等行業(yè)“試水”。圖?您的組織目前評估或使用生成式AI(GenAI)的情況如何?全球中國已經在生產環(huán)境中引入了幾個GenAI增強的應用,并專注于擴展?%??%正在大力投資GenAI,并制定了培訓和購買GenAI增強軟件的計劃??%??%正在對GenAI做POC測試,但還沒有一個固定的支出計劃??%??%我們還沒有做任何GenAI相關工作?%??%來源:IDC’sFutureEnterpriseResiliency&SpendingSurvey,Wave?,????年?n???(???,???,??????])(如圖?),全球已經有??%的企業(yè)在生產環(huán)境中引入了幾GenAI增強的應用,并專注于擴展;中國的這一比例僅為?%,做POC測試的企業(yè)達??%。在未來GenAI投資分配上,中國和全球企業(yè)幾乎都會平均分配在三類應用場景上(大約各?/?),如圖?。圖?考慮您在未來??個月GenAI的投資,這些投資將如何分配到以下類型的應用場景中?全球中國生產力提升應用場景任務生產力和運作效率??%??%跨行業(yè)水平職能應用場景情境化的體驗,改進的決策改進的功能有效性??%??%垂直行業(yè)專屬應用場景新的商業(yè)模式、產品或服務,特定于行業(yè)的護城河??%??%來源:IDC’sFutureEnterpriseResiliency&SpendingSurvey,Wave?,????年?n???(???,???,??????])目前,基礎大模型建設已經較為完整,諸多云服務商、AI技術服務商、數據服務商等均推出其基座大模型,且各具特色,未來將會進入大模型應用跑馬圈地階段,行業(yè)應用場景數量也將爆炸性地多元化增長,且會逐漸從輔助運營類的業(yè)務場景向決策管理場景深入。??第二章聚焦行業(yè)金融行業(yè)大模型概述金融業(yè)在我國經濟中舉足輕重,金融機構通過提供資金流動和管理服務,為個人、企業(yè)和政府的各種經濟活動提供必要的資金支持。近兩年,金融行業(yè)不斷地利用新興技術推進業(yè)務高質量發(fā)展,尤其是在AI大模型的研發(fā)投入和應用方面亦走在市場前列。根據IDC數據顯示,????年,中國金融行業(yè)AIand投資規(guī)模達到???.??億元,到????年將達到???.??億元,增幅達到???%。?.?金融行業(yè)大模型應用的特殊性如今,金融科技已經從“立柱架梁”邁入了“積厚成勢”新階段,越來越多的金融機構積極使用AI大模型等新技術助力其實現高質量發(fā)展。AI大模型雖在金融行業(yè)有較多的應用場景和應用價值,但是,金融行業(yè)屬于信息密集型、風險規(guī)避及強監(jiān)管行業(yè),在推進大模型落地過程中,相比其他領域,金融行業(yè)對數據質量、推理準確性及響應速度,以及在風控、合規(guī)、安全層面的要求都更高。同時,根據IDC調研數據顯示,數據治理、模型治理以及合規(guī)應用是金融機構落地大模型/生成式AI更需求關注的要素。在數據層面,金融行業(yè)處理的數據往往涉及客戶的隱私信息、交易記錄等敏感數據,數據來源多樣且數據質量參差不齊,而數據規(guī)模、數據質量和多樣性會影響大模型在具體場景應用的效果和性能。若輸入的基礎數據不準確或時效性較差或存在數據操控問題,那將直接影響模型微調效果,以及模型輸出的準確性。同時,訓練數據可能存在性別、種族及主觀因素等方面的偏見。如果這些偏見被應用到金融決策中,可能導致模型在決策和預測中產生不公平或歧視性的結果,如何解決數據的合規(guī)獲取及保護信息/內容版權,并合理設置相關的訴訟機制和監(jiān)管及罰款機制,也是金融機構落地大模型需要解決的問題。因此在數據準備階段,涉及數據獲取、數據脫敏/數據處理、數據清洗和數據標注等復雜工作,在此過程中尤其需要注重數據隱私保護,確保數據安全和符合隱私法規(guī)。在模型層面,金融行業(yè)業(yè)務復雜度更高,金融領域的決策和分析通常要求精準的回答和實時的響應,對模型推理的推理速度和精度都有較高的要求。如果金融大模型/生成式AI做出虛假的、誤導性的陳述,或推理與響應速度較慢,就會造成嚴重的決策損失和較差的用戶體驗。在應用人工智能技術時,大模型因其黑盒效應(復雜的模型結構和龐大的參數,難以線性化表達),可解釋性、透明性及安全性也有待提高,金融機構需著重解決大模型的安全性和可解釋性、透明性,以防范模型和算法風險。在安全與合規(guī)層面,金融領域對于數據安全、監(jiān)管合規(guī)和風險控制具有嚴格的要求,需要遵守各種法律法規(guī)和國家金融監(jiān)管機構的要求。大模型在應用中必須確保符合風控和合規(guī)要求,防止欺詐、洗錢等非法活動,并保護客戶利益。同時,隨著網絡攻擊手段的不斷升級,大模型在部署和運行過程中需要采取嚴格的安全措施,防止數據泄露、篡改和非法訪問。此外,在當前市場中,圍繞提升客戶體驗、增強數字化經營能力,深度服務客戶已成為推動金融機構發(fā)展的關鍵要素,金融行業(yè)大模型落地各個環(huán)節(jié)需要以客戶體驗為中心,且GenAI應用又促使金融服務模式及客戶體驗的升級。?.?金融行業(yè)大模型應用落地面臨的挑戰(zhàn)大模型在金融機構中的應用場景廣泛,且應用成本較高,所需關注的安全合規(guī)問題較多,金融機構需以謹慎的態(tài)度去推進大模型的應用落地。如何選擇合適的應用場景及如何推進其在金融場景中的有效落地,是當前金融機構在大模型應用落地中重點關注的問題。首先,在應用成本考量方面,金融機構訓練模型需要大量的算力資源,資源調度需要使用更優(yōu)化的硬件設備來提升訓練速度。尤其是在處理千億級參數的大模型時,對算力的需求更是呈指數級增長,其所投入的成本也較高。根據IDC調研顯示,算力限制及技術投入成本高是金融機構在推進大模型/生成式AI過程中的最主要的兩大阻礙因素。其次,在應用場景選擇方面,在推進大模型落地時,有哪些大模型應用場景可供選擇,如何選擇合適的大模型落地場景是諸多金融機構面臨的問題,需要重點考慮模型方案(如模型選擇、模型適配性、模型能力域及性能、模型更新速度等),并面臨很多數據難題(如數據質量、數據可用性、數據安全及合規(guī)等)和業(yè)務難題(如業(yè)務需求、應用價值評估、以及ROI等),在此過程中也需要考慮應用場景的優(yōu)先級及推進策略問題。同時,在應用路徑選擇方面,金融機構在推進大模型落地時,面向不同的應總體來說,生成式AI雖然可以提供低成本、高價值的解決方案,但在應用成本考量、應用場景選擇、應用路徑選擇等方面仍面臨諸多問題。金融機構需綜合考慮應用場景選擇、成本控制、安全合規(guī)等多方面因素,采取科學、謹慎的策略,以實現技術創(chuàng)新與業(yè)務發(fā)展的雙贏。??第三章落地進展大模型催生效率變革金融行業(yè)務實求效?.?大模型在金融行業(yè)的典型應用場景梳理金融行業(yè)生成式AI通用類應用場景梳理大模型/生成式AI在金融行業(yè)應用具有極高的潛力和價值,當前諸多金融機構正以大模型/生成式AI技術的工具輔助、信息處理、業(yè)務決策等特性,應用于內部運營類場景(文案、代碼、翻譯等通用類場景)、信息和業(yè)務處理類場景(智能化知識抽取、金融知識的理解和生成、政策研報解讀)、管理和業(yè)務決策類場景(信貸審批、理財投顧等決策類場景),從而為金融機構帶來運營效率提升、產品/服務模式創(chuàng)新、客戶體驗提升等價值。根據IDC調研數據顯示,在當前,信息和業(yè)務處理類場景及內部運營類場景是當前金融機構主要的應用方向。而在未來個月,管理和業(yè)務決策類場景的應用比例有所提升,尤其是保險機構在該類場景的應用進程較銀行及證券機構相對更快。(如圖?、圖?)圖?目前,貴公司應用落地最多的大模型/GenAI用例是什么?信息和業(yè)務助理類場景(智能化知識抽取、金融知識的理和生產、政策研報分析)內部運營類場景(文案、代碼、翻譯等通用類場景)管理和業(yè)務決策類場景(信貸審批、理財投資等決策類場景)?.?%?.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%銀行(含銀行金融科技子公司)保險 證券(含央行系機構、交易所、基金、期貨)來源:IDC,????圖?貴公司在未來??個月內應用落地最多的大模型/GenAI用例是什么?信息和業(yè)務助理類場景(智能化知識抽取、金融知識的理和生產、政策研報分析)內部運營類場景(文案、代碼、翻譯等通用類場景)管理和業(yè)務決策類場景(信貸審批、理財投資等決策類場景)?.?%?.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%銀行(含銀行金融科技子公司)保險 證券(含央行系機構、交易所、基金、期貨)來源:IDC,????同時,根據IDC調研數據顯示,目前及未來??個月內,金融機構落地大模型/式AI的場景按照調研統(tǒng)計比例如下圖所示。其中,智能客服、內部運營(搜索與問答、知識管理/內容創(chuàng)作、輿情管理、HR等)、智能投顧/財富管理、智能營銷(內容營銷、產品營銷等)以及風險管理(風險評估、風險識別、風險預警等),是金融機構當前落地較成熟的場景(按照調研比例從高到低排序)。而在未來??個月內,支付清算、智能投研、內部研發(fā)(代碼生成、測試等)析(報表生成與分析、數據建模、數據決策等)、欺詐/洗錢/威脅監(jiān)測、資產管理(資產盡調、資產評估及定價等)是金融機構主要的落地場景(按照調研比例從高到低排序)。圖?貴機構當前及未來??個月內的大模型/生成式AI應用場景情況???.?%??.?%??.?%??.?%??.?%?.?%

支付清算

智能投研

內部研發(fā)數據分析

欺詐/洗錢/威脅監(jiān)測

資產管理

監(jiān)管合規(guī)監(jiān)測

風險管理

智能營銷智能投顧

內部運營

智能客服未來??個月內落地 已經落地

來源:IDC,????圖?是IDC根據調研結果,并從復雜度/成本、部署進程維度列出了金融行業(yè)主要場景的分布圖。其中智能客服、智能辦公、智能營銷等場景落地復雜度較低、應用進程較快;而智能投研、智能投顧、智能風控等場景落地復雜度較高,應用進程也較慢。??圖?生成式AI在金融場景部署進程及應用復雜度概覽智能風控智能投顧智能運維智能投研智能營銷智能客服智能研發(fā)智能辦公???????????????????????-??.????.????.????.?????.?????.??復雜度/成本來源:IDC,????銀行業(yè)生成式AI應用場景梳理IDC認為,生成式AI的行業(yè)應用往往都是循序漸進的過程,一般是逐漸從內部輔助運營到外部對客提效、從業(yè)務邊緣到核心;相應地,AI對金融機構的價值也逐漸增大。如下圖,IDC認為,銀行業(yè)生成式AI應用可以貫穿到銀行業(yè)務鏈條的各個環(huán)節(jié),包括從面向員工的管理和支持到面向市場的數字營銷和運營自動化、從產品研發(fā)到風險合規(guī)管理等環(huán)節(jié)。第一階段(????年)的應用場景有:控、合規(guī)監(jiān)測、網絡欺詐識別、現金流動性預測、個性化營銷等。以現金流勢和評論(如監(jiān)管/決策層的評論),將其轉化為準確、可靠和可操作的領先指標,從而為銀行/客戶提供投資、信貸、流動性和風險方面的建議和決策。??第二階段(????年)的應用場景有:服、貸款專員助手、客戶關系管理、SAR報告自動化等。以貸款專員助手為例,GenAI可以通過訪問客戶賬戶歷史記錄,評估其需求/偏好,并就未來的貸款和其他銀行產品提供營銷建議。貸款專員在通過多渠道為客戶提供信貸審核或信貸產品推薦時,商業(yè)銀行可以通過相關GenAI應用為其提供培訓工具和帶有風險提示及營銷策略的信息。第三階段(????年及以后)的應用場景有:風險識別、財務合同管理/財務預測、銷售合規(guī)等。以風險模型訓練為例,商業(yè)銀行通過使用包括開放、非結構化數據源、合成數據來預訓練或優(yōu)化風險模型,以便為客戶群提供風險決策支持,最大化減少風險。例如,在智能投顧場景,借助于預訓練大模型能夠對金融文本進行整體認知和理解,消除人為的主觀因素,提供客觀的投資建議,同時也能不斷演進和創(chuàng)新,減少對人工審核的依賴,給出風險警示和解決方案。??圖?銀行業(yè)生成式AI應用路線圖銷售合規(guī)銷售合規(guī)合作伙伴實時監(jiān)控信用風險識別貸款專員輔助系統(tǒng)風險模型訓練合成數據生成支付分析客戶報告生成借貸財務合同管理監(jiān)管合規(guī)客戶關系管理第三階段????合規(guī)監(jiān)控個性化營銷異常處理消費個性化財務健康分析智能客服金融知識助手輿情監(jiān)控SAR報告自動化網絡欺詐 社交網識別 分析交叉營銷流動性現金預測????第一階段????合規(guī)與報告 客戶溝通和支持 員工管理和支持 運營自動化 風險管理與金融犯罪來源:IDC,????保險業(yè)生成式AI應用場景梳理如圖?,在保險行業(yè),生成式AI的應用主要分為數字投資產品、數字風險服務、仿生操作、智能風控以及數字運營彈性等類別。其應用主要也分為三個階段。第一階段(????年)的應用場景有:保險數據檢索&總結、保險元數據生與標記、理賠員助手、承銷商助手以及自動化智能外呼和索賠欺詐監(jiān)測等場景。以保險元數據生成與標記為例,GenAI通過解析和生成元數據層、掌握語義關系和主題標記,學習大量數據集的元數據模式,自動生成符合規(guī)范的元數據。這包括但不限于文檔標題、描述、關鍵詞、分類標簽等,有效減輕了人工標注的負擔,提高了整體數據質量。第二階段(????年)的應用場景有:風險教育&助手、捆綁式保險產品銷、網絡威脅建模與預防、會話質檢、動態(tài)按需提供服務等場景。以個性化保險業(yè)務為例,保險機構通過開發(fā)出基于機器學習和GenAI評估單個商用車風險的工具,工作人員可以分析不同的數據,如車輛類型和事故歷史,進行細致的風險評估,從而實現個性化定價和個性化保險產品推薦。第三階段(????年及以后)的應用場景有:私密數據合成&負責任的AI圖?保險行業(yè)生成式AI應用路線圖虛擬代理虛擬代理銷售賦能風險偏好建模私密數據合成負責任的AI會話質檢基于證據的損失預防風險教育&助手 合規(guī)自動化索賠欺詐監(jiān)測&欺詐預防自動化外呼營銷捆綁式保險產品營銷個性化保險業(yè)務動態(tài)按需提供服務第三階段????理賠員助手網絡威脅建模與預防保險元數據生成與標記承銷商助手保險數據檢索&總結????????

數字投資產品 數字風險服務 仿生操作 智能風控 數字運營彈性來源:IDC,????證券與投資業(yè)生成式AI應用場景梳理如圖?,生成式AI在證券與投資業(yè)的應用場景較為豐富,其主要分為合規(guī)與報告、客戶溝通和支持、員工管理和支持、運營自動化以及風險管理和金融犯罪等類別。在推進生成式AI應用過程中,也分為三個階段。在第一階段(????年)的應用場景主要有:知識查詢、金融產品適用性析、超個性化金融培訓、客戶入職培訓助手、客戶報表生成、合成數據生成、信用風險建模助手等場景。以金融投資產品適用性分析為例,生成式人工智能可以幫助金融專業(yè)人員根據模擬場景分析客戶數據,例如歷史購買金融投資產品的對象特征及風險偏好,分析潛在的投資目標,同時幫助金融機構識別并控制投資風險,根據風險狀況生成量身定制的建議,并確保符合適用性法規(guī)。第二階段(????年)的應用場景有:化和資產配置自動化、客戶情緒分析、金融知識個性化生成,以及金融數據泄露預測與防范等場景。以投資組合優(yōu)化和資產配置自動化為例,生成式AI可以根據不同的市場狀況和歷史趨勢,并根據不同客戶的風險偏好、投資期限、流動性需求等,從而生成多樣化的投資組合建議。第三階段(????年及以后)的應用場景有:價、情景化和個性化的客戶溝通、市場流動性預測建模,以及模擬談判輔導等場景。以資產智能定價為例,生成式AI通過分析市場數據、實時和歷史數據以及其他相關輸入來生成準確、動態(tài)的定價模型和高度精細的估值方法,從而實現智能資產定價。圖?證券與投資行業(yè)生成式AI應用路線圖情境化和個性化的客戶溝通情境化和個性化的客戶溝通投資組合優(yōu)化和資產配置自動化金融證券交易策略市場流動性預測建模ESG監(jiān)測與報告生成金融知識個性化生成風險模型訓練欺詐檢測和預防交易監(jiān)控市場監(jiān)控模擬談判輔導合規(guī)檢測 受監(jiān)管自動化 人員監(jiān)測金融產品適用性分析客戶細分和錨定客戶情緒分析第三階段????知識查詢增強型企業(yè)資本敞口建??蛻魣蟊矸治鰝€人財務管理支持場景測試金融數據與防范客戶入職培訓助手超個性化投資建議超個性化金融 自動異常處教育合成數據生成????信用風險建模、助手第一階段????合規(guī)與報告 客戶溝通和支持 員工管理和支持 運營自動化 風險管理與金融犯罪來源:IDC,?????.?生成式AI在金融行業(yè)場景應用流程梳理在大模型在金融行業(yè)落地中,場景選擇難是諸多金融機構的痛點,如何選擇GenAI應用場景,使AI能力與業(yè)務場景無縫融合,讓GenAI真正賦能于業(yè)務提效、成本節(jié)約、業(yè)績提升或體驗升級,充分發(fā)揮GenAI應用潛力。IDC認為,金融行業(yè)生成式AI應用場景的落地可以從場景應用評估與選擇(如技術解決方案評估、項目管理及風險評估、投資回報分析)、以及面向場景的工程化落地(如模型選擇、技術路線、數據及算力準備、模型訓練及調優(yōu)、以及系統(tǒng)集成與部署、組織協同等)分步推進。場景應用評估與選擇一般可以從技術解決方案、項目管理及風險評估、投資回報分析等角度評估與選擇GenAI的具體金融應用場景。但是從謹慎的角度,金融機構可遵循由簡單到復雜、由內而外、由點及面、逐步推進的原則選擇與推進金融大模型的應用場景。同時通過下述評估方法確定采用GenAI后在相關的金融場景能發(fā)揮哪些潛力,并明確自身的業(yè)務目標和需求,例如提升客戶體驗、提高運營效率、降低成本等。技術解決方案評估:GenAI技術在場景中的應用還面臨著一些挑戰(zhàn)(如?.?節(jié)所述),在技術解決案的評估方面,亦需重點考慮GenAI是否可以解決金融業(yè)務場景中的需求或痛點,現有技術或資源(如基礎設施資源、基礎模型資源、AI平臺資源等)可以解決哪些問題,哪些技術/模塊需要自建或外采,哪些需通過與技術合作伙伴共同構建,從而綜合考慮業(yè)務實施可行性?項目管理及風險評估:項目實施決策既要著眼于場景,也要考慮基于GenAI的實施方式,下列因素將有助于確定某個項目或項目集是否行得通:與當前戰(zhàn)略的契合度、風險管理、成本及資源、數據及基礎設施資源、市場盈利潛力及長期價值,以及監(jiān)管與合規(guī)挑戰(zhàn)等。圖??項目管理及風險評估維度風險管理財務風險?包括機會成本運營風險?競爭風險?競爭對手采用類似技術的影響成本及資源資本支出?所需的預付資本運營費用?維護/支持所需的日常支出人才資源?現有團隊、新員工、GenAI專業(yè)人才、領導總擁有成本?長期綜合成本市場價值與盈利能力盈利能力?預期回報、凈利潤、投資回收期長期價值?長期財務及ROI影響預估

戰(zhàn)略契合度戰(zhàn)略契合度?評估與公司當前戰(zhàn)略的契合度市場趨勢和客戶接受度?是否符合市場發(fā)展趨勢,以及消費者或企業(yè)對AI的看法數據、基礎設施、集成能力數據和基礎設施資源?可用的數據能力、基礎設施兼容性舊有系統(tǒng)的集成能力?與現有技術的兼容性監(jiān)管與合規(guī)監(jiān)管及合規(guī)挑戰(zhàn)?GenAI面臨的具體挑戰(zhàn),包括是否符合監(jiān)管及合規(guī)標準來源:IDC,????投資回報分析(ROI):GenAI在業(yè)務中的實際價值和ROI將取決于GenAI在實現成果方面的表現。但是,這些成果可能是有形的,即可以用特定KPI衡量的回報,也可KPI和法律相關的數據和深度知識集成到一個基于數據的GenAI應用中,形成高了首次呼叫解決率。該應用用到的數據集涵蓋數十萬份金融和法律文件,使??個國家/地區(qū)的多達??,???該解決方案還提高了員工對產品的了解,從而也提高了客服接觸點互動中的交叉銷售和追加銷售機會。面向場景的GenAI工程化落地IDC認為,GenAI的場景應用是一項系統(tǒng)工程,涉及模型選擇、技術路線選擇、數據及算力準備,以及模型訓練及調優(yōu)、系統(tǒng)集成與部署、組織協同等工作。表?面向場景的GenAI工程化落地要素及要點類別描述要點模型選擇金融機構根據自身業(yè)務需求和技術實力選擇生成式AI模型基礎大模型(如GPT系列)行業(yè)大模型特定場景下的定制化模型技術路線深度研發(fā)大模型、基于現有大模型進行工程化適配,或直接通過SaaS化模式使用大模型服務自主研發(fā):自主性強,但需高投入工程化適配:快速響應,但定制化受限SaaS化:即插即用,但數據安全與定制化需考量數據及算力準備數據準備需高質量數據、定制化采標數據、合成數據及企業(yè)內部數據;算力資源需充足且穩(wěn)定數據集多元化減少算法偏見部署與模型適配的算力基礎設施模型訓練及調優(yōu)使用訓練平臺、開發(fā)工具、調優(yōu)工具進行模型訓練,并通過微調、提示詞工程、RAG等方式優(yōu)化調整超參數優(yōu)化模型性能微調、提示詞工程等適應特定金融場景提供部署&推理工具保障模型運行系統(tǒng)集成與部署將生成式AI/模型集成到業(yè)務流程或產品中,選擇合適的部署方式自動化、智能化生成式AI功能實現同時根據業(yè)務需求和技術環(huán)境選擇本地化部署或云托管等方式組織協同扁平化組織架構、跨部門合作、靈活項目管理方法推動生成式AI應用促進快速創(chuàng)新與決策高效推動AI在各部門中的使用確保技術與業(yè)務需求緊密結合來源:IDC,????第四章金融行業(yè)大模型的當前,不同類型的金融機構在推進大模型的落地中,有著不同的路徑選擇。有金融機構自主開發(fā)和預訓練的金融大模型;基于通用大模型并通過提示詞設計、模按需接入各類金融大模型或通過標準化SaaS模式接入GenAI應用。金融機構可根據自身戰(zhàn)略目標、業(yè)務需求、技術能力、資源稟賦、風險偏好來決定是否自主建?.?、金融機構落地大模型的應用路徑路徑?:金融機構自主主導開發(fā)和訓練大模型該路徑往往需要金融機構投入較大的IT資源和人力資源,與之對應的金融應用場景也較為復雜,需要大模型在金融領域專業(yè)知識、術語及政策等方面具有專業(yè)的理解能力;這些場景對模型精度、模型安全,數據的可用性、豐富性、安全性,以及業(yè)務合規(guī)等都有較高的要求,故自主開發(fā)和專門訓練的金融垂類大模型可能會更好地滿足這些需求。根據IDC調研數據顯示(如圖??),金融機構考慮GenAI構建自有模型的主要考慮因素有成本/花費、對數據隱私及安全顧慮以及所需數據的可得性。??圖??以下哪三項是貴機構考慮為GenAI構建自有模型的主要因素?成本/所需數據的可得性模型性能/遵守負責任的AI原則是是否有專業(yè)的模型開發(fā)團隊?.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?%銀行(含銀行金融科技子公司)保險 證券(含央行系機構、交易所、基金、期貨)來源:IDC,????例如,某證券與投資服務公司,基于其海量的數據資源,如宏觀經濟數據、行業(yè)經濟數據、企業(yè)研究報告、上市公司信息披露等結構化和非結構化數據,以及交易所、政府部門、科研機構、高等院校、專業(yè)行業(yè)數據公司等機構提供的授權數據,同時為了提高模型的通用能力,該公司自主研發(fā)了大模型,從訓練語料、訓練框架到模型結構的設計,均從零開始、創(chuàng)新性地構建基礎模型及金融大模型,并且在預訓練階段就融合了金融領域的語料,而不是在微調階段。這種做法使得模型在知識學習上更為深入,能夠理解金融領域中的復雜關系和概念。此外,為了加速AI能力面向各場景的深入落地,該公司構建了AI開放平臺,目前可面向客戶提供短視頻生成、文章生成、數字虛擬人、智能金融問答、智能語音、智能客服機器人、智能質檢機器人、會議轉寫系統(tǒng)、智能醫(yī)療輔助系統(tǒng)等多項AI產品及服務。??路徑?:基于通用大模型/開源模型,疊加金融服務領域數據,通過使用參數微調、提示詞工程/檢索增強生成等方式優(yōu)化基礎模型推進金融業(yè)務場景的落地這種路徑是金融機構基于基礎模型,通過私域數據集進行模型訓練調優(yōu),以實現金融機構金融大模型的建設,該方式在特定任務上表現出來的性能和在特定領域知識的深度理解會更強。在IDC的調研中,金融機構為GenAI使用第三方現有模型的主要因素是成本/花費、模型性能/模型參數、以及數據可得性及數據隱私等(如圖??)。尤其是在數據層面,向量數據的管理和合成數據生成是金融機構著需解決的問題。其中,向量數據庫等創(chuàng)新技術現在已成為GenAI數據價值鏈的關鍵部分,包括數據管理流程的整個生命周期,已被用于檢索增強生成,因為它們可用于對存儲為高維數據的非結構化數據集執(zhí)行搜索,可以輕松地與現有數據庫集成,從而為從LLM實施GenAI解決方案提供了一種更靈活、更高效的方式,以高效用于各種應用場景,例如產品推薦、異常檢測和業(yè)務分析等。而合成數據生成涉及創(chuàng)建模擬真實數據特征的人工數據集。在分析中,它用于解決隱私問題和數據稀缺問題,或模擬各種測試場景。通過生成代表性數據,可以在不泄露敏感信息的情況下開發(fā)和完善模型。這種方法可以加速創(chuàng)新,提高模型性能,尤其是在處理有限或敏感的數據集時,該方法特別適用。??圖??以下哪三項是貴機構考慮為GenAI使用第三方現有模型的主要因素?成本/模型性能/所需數據的可得性是否有完備的工具鏈遵守負責任的AI原則?.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?%銀行(含銀行金融科技子公司)保險 證券(含央行系機構、交易所、基金、期貨)來源:IDC,????在模型訓練及調優(yōu)方面主要通過微調、提示詞設計、檢索增強生成(RAG)等方法,增強基礎模型輸出的準確性、知識實時性。微調:使用金融領域數據和人工監(jiān)督來調整預訓練的模型,以提高金融領域的模型性能。選擇該方式的考慮因素:具有特定領域性能的高復雜性用例,例如智能投顧、支付分析、風險模型訓練等。檢索增強生成(RAG):將金融領域的文檔集合與預先訓練的模型相結合,使輸出情境化,而不涉及LLM。選擇該方式的考慮因素:金融機構擁有該領域的專有數據和標簽數據。適用的應用場景包括內容搜索/金融知識問答、事實調查/欺詐識別/風險監(jiān)控、內容生成/營銷助手等用例。提示工程:使用提示技術來影響預訓練模型生成輸出的準確性。選擇該方式的考慮因素:適用于不需要特定領域的上下文的用例,同時允許用戶級控制產生特定任務輸出的場景,以便客戶可以更加精準地獲得其想要的知識。未來,隨著諸多基座模型的開源,以及一系列低成本的微調/檢索增強生成等技術的出現,將有越來越多的金融機構,會基于其需求定制專屬大模型。例如,某國有銀行從算力、數據、大模型、場景等維度推進大模型的落地:在算力層面,通過構建一體化云原生的異構算力平臺來管理和調度多元異構的AI算力資源;在數據層面,圍繞“采建管用”閉環(huán),構建大模型訓練和持續(xù)提升的基礎數據閉環(huán);在大模型方面,其基礎模型是采用第三方開源模型,包括業(yè)界主流的開源模型以及正在做共建和聯創(chuàng)的產業(yè)大模型,各個基礎模型之間可以無縫切換,具有靈活的適配性,而對于金融大模型平臺,包括NLP、CV、多模態(tài)等大模型,主要是通過組件化(例如微調組件、RAG組件等)方法快速優(yōu)化各類開源模型和商業(yè)模型,以實現各類金融場景的接入,目前已在智能客服、智慧三農、智能營銷、智能運營、智能風控等場景進行探索及應用。路徑?:按需接入各類大模型API(按需付費的SaaS訂閱模式)這種路徑主要是以SaaS模式面向金融機構提供服務,通過將生成式AI模型能力封裝為API服務接口,金融機構以外采訂閱的形式,可以通過API將GenAI模型嵌入自研應用軟件增強智能化水平,或是基于API創(chuàng)建定制化的全新智能應用,通過嵌入式AIGC應用,進行場景變革或產品升級。選擇該路徑推進GenAI應用的場景往往是那些標準化程度較高的通用類場景,金融機構通過API接口的形式將第三方生成式AI內嵌于應用之中,可以開箱即用。比如,將生成式AI內置于HRSaaS軟件,實現以智能問答的交互形式服務員工。例如,某金融機構通過使用某云廠商合作(即:金融機構外采模式),利用云廠商的全棧解決方案(從計算基礎設施到數據庫,再到金融場景服務)來幫助金融機構構建其GenAI支持的SaaS,所有這些都在云服務環(huán)境中完成。如此客戶就無需啟動大量工具和服務來開發(fā)GenAI功能。該方法在數據保護方面,主要是通過在第三方系統(tǒng)中托管數據庫以滿足金融機構對數據安全性及合規(guī)要求。路徑?:與戰(zhàn)略合作伙伴協同推進GenAI的場景落地金融機構也可以與AI基礎大模型廠商、AI大模型平臺服務商、以及AI應用開發(fā)和集成服務商、咨詢/服務商等戰(zhàn)略合作伙伴合作推進GenAI的場景落地。例如,在與基礎大模型廠商合作方面,通過選擇與業(yè)務應用場景相匹配的基礎大模型,例如如果金融機構需要將大模型應用在面向零售業(yè)務的智能客服場景,則其應優(yōu)先選擇在自然語言處理方面有較大優(yōu)勢的基礎大模型。在與大模型平臺服務商合作方面,通過與AI平臺服務商合作構建多種AI工具和能力(如自然語言處理、圖像識別等多種能力和工具),用于支持AI應用的開發(fā)與部署,并集中管理AI模型、運維和治理確保AI系統(tǒng)的穩(wěn)定運行和合規(guī)性。在AI應用開發(fā)和集成服務商方面,通過選擇利用廠商在該領域的AI應用開發(fā)與集成能力,如計算機視覺(CV)、自然語言處理(NLP)、知識圖譜(KG)和文檔智能(DocAI),為金融機構大模型的落地提供應用開發(fā)與集成服務。綜合來看,不同路徑的選擇對于金融機構內部人才、數據以及預算的要求等各不相同;同時,鑒于金融對專業(yè)性要求較高,且需要遵守各類流程和規(guī)范,每一種路徑對于戰(zhàn)略競爭優(yōu)勢、模型控制以及安全和隱私等方面的影響均有不同。上述各個路徑所需考慮/執(zhí)行的決策要點可以結合圖??示例。圖??應用路徑的決策框架生產力用例功能用例行業(yè)用例生產力用例功能用例行業(yè)用例微調現有模型內部人才?數據和預算的要求評估對開源模型的需求內部人才?數據和預算的要求購買應用程序專注于服務協議

獲取數據文本 代碼音頻 生成式AI 視基礎模型結構 圖像

構建自己的模型定制模型評估對私有/公有化部署的需求戰(zhàn)略伙伴關系與支持大模型應用的技術提供商合作低 低 戰(zhàn)略競爭優(yōu)勢、模型控制、治理、安全、隱私 高來源:IDC,???????.?金融機構選擇或部署大模型時的關鍵能力要素IDC認為,金融機構在落地大模型的過程中,需要綜合考慮數據價值鏈管理、模型的選擇與部署、AI平臺搭建、以及AI治理等要素。數據價值鏈管理:提升數據可用性和數據質量金融機構的數據價值鏈管理是生成式AI在金融場景中有效發(fā)揮價值的基石,其核心目的是提升數據質量、數據可用性以及確保數據的合規(guī)獲取,有利于金融機構面向不同的應用場景快速構建高質量的數據集,并為后續(xù)金融大模型的規(guī)模應用奠定堅實的基礎。目前市場中已存在通過構建多模數據管理平臺DMS或是通過數據管理全流程解決方案,以更好地滿足大模型時代的用數需求。生成式AI數據價值鏈負責監(jiān)督基礎模型、微調模型/金融行業(yè)模型使用的訓練數據的獲取、生成、處理和管理,以確保全面、多樣化和高質量的訓練數據的可用性。同時,生成式AI數據價值鏈管理能夠顯著提升模型輸出的準確性和安全性。通常,數據價值鏈往往包括:數據采集、數據存儲、數據標注、數據精益、訓練數據生成、數據驗證、數據保護、數據監(jiān)控、數據管理、數據分析等。??表?數據價值鏈管理要素序號數據處理階段描述?數據采集從各種內部和外部來源收集原始數據的過程,可能涉及收集大量文本、代碼、圖像或其他相關數據源。?數據存儲支持多種類型的存儲需求,包括結構化數據和非結構化數據(如圖像、音頻和視頻等)。需確??蓴U展性、性能、數據安全性和隱私保護。?數據標注對選定的數據集進行注釋或標記,以加快監(jiān)督式機器學習過程。雖然不是所有生成式AI用例的必要步驟,但有助于確保數據整合和模型推理的準確性。?數據精益確保嵌入到Prompts中的數據高質量、可靠、及時、準確、完整,并適用于其使用上下文。通過數據清洗和數據質量標準提升數據質量。?訓練數據生成準備訓練或轉換基礎模型的精選數據子集,確保數據質量和多樣性滿足訓練需求。?數據驗證采用人工審核、多渠道數據驗證和用戶反饋機制等方法,確保數據準確性,并糾正模型可能出現的準確性問題。?數據保護在推理或模型轉換過程中,保護個人或公司敏感信息不被泄露。進行數據安全和隱私分類,確保隱私和安全,促進創(chuàng)新,并保持合規(guī)性。?數據監(jiān)控使用標準、策略和指標實時監(jiān)控數據使用及流動情況,確保主要活動中的數據隱私和安全性。?數據管理提供處理和訪問大量數據的標準工具和技術,如數據管道、數據復制等。確定數據所有權,控制業(yè)務域、應用程序和分析中數據的訪問、使用和維護。??數據分析運用數據挖掘、統(tǒng)計、商業(yè)智能和預測工具來理解數據,為AI開發(fā)人員和數據科學家提供重要支持。來源:IDC,????模型層面:模型的選擇與部署的考慮因素在模型選擇方面,往往涉及如下問題,例如是否選擇開源模型、選擇何種開源模型、選擇何種模型開發(fā)及模型優(yōu)化方式、如何部署模型等,金融機構可以根據業(yè)務需求、任務類型、數據量級、以及業(yè)務場景的技術投入和其對安全合規(guī)等因素去選擇合適的模型。尤其是需要評估大型模型開發(fā)與金融業(yè)務場景之間的匹配度,了解模型在實際場景中的應用方式及應用價值,確保其符合業(yè)務需求(具體可參考?.?節(jié)中關于應用場景選擇與評估的方法)。表?模型選擇與部署考慮因素選型方案考慮因素/優(yōu)勢開源模型開源模型通常已經過驗證,可以快速部署和測試,能有效降低開發(fā)成本,提升開發(fā)速度,適用于場景驗證及成本投入不高的機構。而在開源模型選擇方面,通常需要根據具體需求選擇性能最優(yōu)、功能最符合的模型,同時確保所選模型與現有技術棧和工具鏈兼容。閉源模型開發(fā)成本較高,可滿足高定制化、安全性需求,例如金融行業(yè)部分應用場景對模型的透明度和可審計性有嚴格要求,這時可能需要閉源模型。模型部署方式金融機構可以根據業(yè)務類型,如貸款、投資、保險等,以及不同業(yè)務場景下的模型應用需求及其對數據安全與合規(guī)要求等因素,考慮具體的模型部署方式。通常,私有化部署具有數據安全性高、自主可控性強、可定制化程度高等特點。公有云部署成本最低、靈活性高,但是數據安全性相對較低。模型優(yōu)化方式金融機構在選擇提示詞設計、微調、檢索增強生成(RAG)等方法的考慮因素及場景選擇方面可以參考?.?節(jié)中相關內容的描述。來源:IDC,????AI平臺:從模型管理到應用搭建的一站式開發(fā)與服務平臺由于金融行業(yè)大模型應用場景豐富,隨著大模型與證券、保險、銀行業(yè)務的融合,將迸發(fā)出大量的GenAI應用開發(fā)需求,亟需AI平臺來提高模型構建及編排效率、應用開發(fā)部署效率。根據IDC調研數據顯示(圖??),大多數金融機構受者表示,他們已經選擇或正在評估使用GenAI平臺來幫助其開發(fā)、運營和管理GenAI模型及應用。圖??以下哪一項最能描述貴機構當前或預期使用GenAI平臺來幫助您開發(fā)運營和管理GenAI模型及應用?我們正在評估GenAl平臺,并將在未來??個月內進行選我們已經選擇了GenAl我們才剛剛開始評估GenAl平臺,并將在未來??個月內進行選擇我們沒有需求去選擇一個GenAI不知道我們已經擁有或打算自建GenAI平臺?.?%?.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%??.?%銀行(含銀行金融科技子公司)保險 證券(含央行系機構、交易所、基金、期貨)來源:IDC,????領先的云供應商應在其AI平臺中添加多種模型,以滿足客戶對數據集、參數和開放的各種需求。在算法模型庫的建設方面,組織需要將開源的算法,自研的算法等都統(tǒng)一管理。在模型訓練方面,搭建基于CPU和GPU的分布式訓練框架。在模型推理方面,統(tǒng)一實現離線批量預測和在線預測的功能,包含推理加速、資源管理等。基于這些基礎組件的能力,搭建一站式AI開發(fā)工作流,從特征篩選到特征處理、樣本構建、模型訓練調試評估、模型的部署和實驗,再到后期模型的運維監(jiān)控,貫穿算法開發(fā)的整個流程。IDC認為,未來生成式AI開發(fā)平臺將向更普惠的MaaS演進,并加速生成式AI應用的落地。因此,搭建一套大模型工具鏈(包括提示詞管理、多種PEFT微調方法的集成以及一鍵式RLHF訓練工具)以實現面向不同的應用場景實現模型優(yōu)化,也是十分必要的。這些工具包含大模型優(yōu)化及應用擴展能力,使大模型能夠更有針對性地服務特定應用。例如,某證券與投資公司,在推進大模型落地中所推出的AI開放平臺包含模型開發(fā)、模型調優(yōu)、推理加速等能力,目前可面向客戶提供短視頻生成、文章生成、數字虛擬人、智能金融問答、智能語音、智能客服機器人、智能質檢機器人、會議轉寫系統(tǒng)、智能醫(yī)療輔助系統(tǒng)等多項AI產品及服務。同時,為了提高模型在具體業(yè)務場景中的推理準確性及安全性,推理時始終需要高質量、最新的數據,以提高模型返回內容的準確性和相關性。而且,在推理過程中,所使用的信息流也存在暴露敏感信息(個人或公司)的可能,金融機構可通過AI插件來監(jiān)控模型推理過程中的數據泄露問題。此外,為了更有效的推進大模型在金融業(yè)務場景中的應用,金融機構也可以自建或通過與外部廠商合作,提供面向場景共享復用、開箱即用的組件或能力,以及模型運行管理服務(例如模型更新和監(jiān)測等),從而加速金融機構的GenAI應用。根據IDC調研數據顯示(如圖??),大多數金融機構受訪者表示,預計在來??個月內將使用模型運行管理服務(例如模型更新和監(jiān)測等)來推動大模型應用落地。圖??預計在未來??個月內您所在的組織將使用哪種專業(yè)服務來推動大模型的應用落地?模型運行管理服務(例如模型更新和監(jiān)測等)商業(yè)咨詢(大模型應用規(guī)劃、建設規(guī)劃及相關政策)IT開發(fā)服務(應用程序開發(fā)和部署)?.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?%銀行(含銀行金融科技子公司)保險 證券(含央行系機構、交易所、基金、期貨)來源:IDC,????例如工商銀行就通過打造適配金融行業(yè)的“?+X”工程化解決方案,其中“?”指智能中樞平臺,通過智能中樞的任務感知、決策、執(zhí)行、反饋等能力實現金融復雜場景的應用;沉淀“X”可共享復用的范式能力,包含多模態(tài)知識檢索、對話式數據分析、智能化文檔編寫、交互式智能搜索、陪伴式智能研發(fā)等多項金融即插即用的零代碼工程化解決方案,以高效賦能于金融業(yè)務。同時,金融機構在選擇外部服務商搭建GenAI平臺時,可以提供豐富的開箱即用的能力以支撐多樣場景的落地,GenAI平臺的可擴展性、安全性,以及在金融行業(yè)的大規(guī)模生成式AI落地經驗是其最看重的三項能力。目前,中電金信也幫助多家金融機構開發(fā)了GenAI平臺,例如其向某機構構建了企業(yè)級人工智能研發(fā)平臺和研發(fā)體系,通過沉淀AI原生應用的研發(fā)規(guī)范,打造AI場景應用的標桿,并建設基于大模型的服務管理平臺,在已有數據中臺基礎之上集成公文文檔和外部情報數據,開發(fā)了信息情報工作站、智能公文寫作兩個場景應用;在另一個典型案例中,幫助某頭部城商行構建了人工智能融合中臺,通過建設大模型平臺,實現底層資源統(tǒng)一池化管理、提供一站式的數據工程、模型訓練調優(yōu)、大模型評估、推理加速和提示詞工程等工具鏈能力,有效支撐了全行的大模型應用開發(fā)。AI治理:構建大模型在金融場景穩(wěn)定且安全的應用保障???AI和使用案例。其主要包括型治理、風險治理、以及滿足負責任的AI的要求。在模型治理方面,其需要解決模型幻覺、模型偏見以及模型的審計跟蹤及其可解釋性等問題。例如,可以通過增加數據多樣性和規(guī)模、改進模型結構、建立反饋機制等措施來應對模型幻覺;通過數據清洗和預處理、多樣化數據集、公平性評估等措施來應對模型偏見;通過記錄模型訓練過程、模型版本控制、輸出日志記錄等措施來加強審計跟蹤;通過使用基于prompting范式的模型解釋、基于分類器進行探測等模型解釋工具、以及可視化技術等方法來提高模型的可解釋性。在負責任的AI方面,IDC將負責任的人工智能(RAI)定義為以恪守嚴謹安全的監(jiān)管要求、遵循公平透明的行業(yè)規(guī)則、維護用戶為先的價值取向的方式進行大模型和GenAI的設計、開發(fā)和部署。金融機構在推進大模型落地中,秉承負責任的AI原則,有助于確保所有操作符合法律法規(guī),減少違規(guī)風險和潛在的法律訴訟,并輔助實現維護金融系統(tǒng)穩(wěn)定的社會價值。金融機構在推進負責任的AI方面,一方面,在開發(fā)AI時注重公平性,避免偏見確保AI系統(tǒng)具有透明性,決策可以被解釋,另一方面,在AI系統(tǒng)造成傷害發(fā)生時,也應有相應的納入問責和補償機制。在大模型應用鏈條中的風險治理方面,在大模型的應用前先分析預判可能存在的各項風險,金融機構可以將AI模型風險納入整體風險管理框架,并建立專門的AI監(jiān)管報送平臺、流程和規(guī)范,集成多源數據,包括模型訓練數據、運行數據、監(jiān)控數據等,實現數據的統(tǒng)一管理和分析,同時可以根據業(yè)務需求,將平臺劃分為不同的功能模塊,如數據采集模塊、風險識別模塊、報告生成模塊等,實現靈活配置和擴展,及時披露模型決策機理、運行邏輯和潛在風險。而加速GenAI加速嵌入金融業(yè)務場景。例如,通過與技術服務商(如ISV)合作,圖??在選擇技術服務商方面,目前比較看中下列哪些方面能力?數據主權和合規(guī)體系生成式AI性能和可擴展性可用性和可靠性提供豐富的開箱即用的場景?.?% ??.?% ??.?% ??.?% ??.?% ??.?% ??.?%來源:IDC,????尤其是在數據主權和合規(guī)體系建設方面,由于在金融領域,數據的敏感性極高,直接關系到客戶隱私、商業(yè)機密乃至國家安全。因此,金融機構必須確保對其數據擁有絕對的控制權,即數據主權。技術服務商需能夠提供完善的數據管理機制,確保數據在采集、存儲、處理、傳輸等各個環(huán)節(jié)中都能被金融機構有效掌法》及《個人信息保護法》等),金融機構在選擇技術服務商時,會重點考察其是否具備構建和維護符合國內外法律法規(guī)要求的合規(guī)體系的能力。這包括數據加第五章展望未來發(fā)展趨勢?.?大模型技術創(chuàng)新與發(fā)展趨勢隨著大模型技術的發(fā)展,大模型的參數規(guī)模也將顯著增長,如OpenAI的GPT系列模型、Google的PaLM,以及Meta的LLaMA。這些模型將具備更強的推理、生成和上下文理解能力。未來,這種趨勢也將繼續(xù),其不僅能極大地提高大模型在具體場景中的應用性能,也能提高大模型在具體應用場景中的體驗。多模態(tài)模型也將在金融行業(yè)普遍應用。多模態(tài)模型能夠處理文本、圖像、音頻、視頻等多種類型的輸入,并且通過多模態(tài)融合與跨模態(tài)理解,可以更有效地用于各類復雜問題的求解,從而極大地豐富其應用場景。例如,OpenAI的CLIP(將圖像和文本映射到相同的向量空間)、DALL-E(通過文本生成圖像)、Meta的ImageBind(支持六種模態(tài),包括圖像、音頻、文本等)等。這些模型能夠在圖像識別、文本生成、音頻理解等多方面表現出色。這種多模態(tài)之間的融合也將使得AI大模型能更深刻地捕捉復雜場景背景、細節(jié)和情感,使其更快的感知和適應場景,并能應用于更加復雜的金融場景。AI智能體將迸發(fā)更大的應用潛力。AIAgent是一種軟件程序或計算實體,它能夠通過傳感器或數據接口收集環(huán)境信息,運用算法處理數據,制定決策或規(guī)劃行動方案,并最終執(zhí)行這些決策以影響環(huán)境,實現預定目標。AI智能體將成為下一代平臺,從Copilot副駕走向主駕,智能體的加速進化,有望完成“感知-認知-推理-決策-組織/行動”的閉環(huán),其在數據處理、智能決策與自然交互等方面的卓越能力,預示著它將在客戶服務、業(yè)務流程優(yōu)化、市場預測等多個關鍵領域發(fā)揮核心作用,為金融機構帶來前所未有的價值創(chuàng)造。為了實現在復雜場景中的業(yè)務決策,金融機構也可以引入Agent系統(tǒng),以處理那些單靠提示詞難以實現的復雜業(yè)務場景,進而達到高效的自動化決策。尤其是在智能客服、智能質檢/陪練等產品創(chuàng)新,以及風險評估、個性化金融咨詢以及智能評估場景,為用戶提供更加精準、高效的服務。開源服務與開放生態(tài)成為主流趨勢。國內外大模型開放平臺、開源模型/工具,能有效加速大模型技術演進,金融機構可以在開源基礎上進行二次開發(fā),滿足其個性化需求,賦予中小金融機構使用前沿AI技術的能力,從而加速大模型在不同金融場景中的廣泛應用。IDC認為,未來大模型在金融領域的生態(tài)化發(fā)展,例如通過構建大模型生態(tài)資源共享平臺,向金融機構提供大模型應用所需的全套資源,包含算力等基礎設施資源、通用大模型及各類專業(yè)領域小模型等多樣化的模型資源、金融業(yè)務的各類場景應用資源,以及連接金融產品和服務終端用戶,是金融機構大規(guī)模應用生成式AI的主要路徑之一。軟硬件、工具之間協同也能優(yōu)化降低大模型開發(fā)和應用成本。金融機構可以充分利用硬件加速技術、優(yōu)化軟件架構和構建靈活的工具鏈,有效提升計算效率,減少資源消耗。NVIDIA、Google、Apple等公司都在開發(fā)專用AI加速芯片,以提高大模型訓練和推理的效率。同時,通過分布式訓練、跨平臺部署以及端到端工具鏈,使得模型能夠更加靈活地適配不同的硬件資源,并可以隨業(yè)務需求靈活擴展或縮減規(guī)模。例如,NVIDIA推出的CUDA和TensorRT配合GPU硬件,不僅加速了訓練過程,還在推理階段進一步提升了運行效率?;蛲ㄟ^硬件加速器(如TPU)和軟件框架支持的優(yōu)化算法,模型可以在推理中以較低的計算量實現較高的性能,從而推動大模型高效訓練與部署。?.?行業(yè)應用場景的拓展趨勢當前,阻礙大模型在金融行業(yè)應用的主要因素之一是高昂的算力成本。在訓練大模型或推理大模型過程中,金融機構需要消耗較大的算力。通過使用分布式計算、云計算資源及高效的硬件設施(如GPU/TPU),將大模型的訓練任務分配到多個GPU或TPU上,以并行處理的方式加快訓練速度,可以降低模型訓練的時間和成本。同時,通過優(yōu)化模型架構,精簡網絡結構、減少層數或神經元數量,降低不必要的復雜性,有助于節(jié)省資源。通過構建模型管理平臺,可以幫助金融機構以模塊化設計方式復用不同任務間的共享組件;通過構建可組合、可重用的模塊,不僅可以簡化訓練過程,還能夠方便地遷移模型到其他領域或任務場景中,進一步擴展應用場景、提升服務效能。未來,隨著大模型在預訓練及推理過程中算力成本的降低以及模型性能的提升、模型架構的優(yōu)化,其在管理和業(yè)務決策類場景(例如信貸審批、理財投顧等決策類場景)中也將發(fā)揮出更大的應用價值,將作為業(yè)務決策的輔助決策者,與人類共同完成復雜的分析任務。通過模型提供的數據洞察和決策建議,決策者可以更加客觀、數據驅動地做出判斷,提高整體決策水平。此外,通過大小模型協同也能驅動金融機構在更加多樣復雜的場景中的應用。金融機構應加強研究和推進大、小模型協同、生成式技術與傳統(tǒng)人工智能技術協同,大模型與小模型協同發(fā)展;大模型在自然語言處理、計算機視覺等領域展現出強大的能力,但同時面臨著高昂的計算資源需求;而小模型則通過精準的數據集和優(yōu)化算法,能在特定任務上展現卓越性能,甚至超越某些大模型。尤其是在金融行業(yè),大模型與小模型的結合也將為這些行業(yè)提供更全面、更高效的解決方案。大模型可以完成高維度、非結構化數據的初步處理,而小模型則在關鍵節(jié)點進行細化分析和快速決策,從而實現協同工作。例如金融機構在反欺詐過程中,既需要識別復雜的欺詐模式,也需要在交易發(fā)生時實時做出快速決策。由于大量數據的復雜性,僅依靠大模型會帶來過高的計算成本和延遲。此時,如果通過大、小模型之間的協同,大模型對交易數據進行模式分析和風險評估,識別出潛在的欺詐特征;而小模型則在交易時進行快速篩查,驗證是否符合風險特征庫中的條件,從而進行實時預警,則可進一步實現風險控制和即時響應的平衡。第六章關于中電金信?.?中電金信公司介紹金融數智化轉型的領導者成立于????化咨詢及軟件提供商,以及重點行業(yè)數智化轉型服務的專家,我們致力于利用數智科技創(chuàng)造更美好的世界。秉承中國電子“打造國家網信事業(yè)戰(zhàn)略科技力量”的使命,中電金信通過持續(xù)的技術創(chuàng)新和參與國家重大工程,依托豐富的行業(yè)場景,構建了新型數字基礎設施“源啟”。我們?yōu)榻鹑诩爸攸c行業(yè)的數智化轉型和安全發(fā)展提供全面的技術平臺、應用軟件和專業(yè)技術服務,將中國的數智化轉型最佳實踐推向全球。全球布局與專業(yè)團隊中電金信匯聚了?萬名國內外員工,在全球??個城市設立了交付中心。??展歷程中,我們始終專注于行業(yè)需求,通過保障安全、加速創(chuàng)新、升級體驗和優(yōu)化運營,為客戶持續(xù)創(chuàng)造商業(yè)價值。我們已經與???余家《財富》???建立了長期合作伙伴關系。合作共贏,聚焦成果轉化依托中國電子的核心技術優(yōu)勢和組織平臺,中電金信聯合科技領域的生態(tài)伙伴,以市場為導向,以研究院為載體,憑借強大的技術專家服務團隊,融合先進技術與創(chuàng)新基因。我們研發(fā)形成了從數字基礎設施、異構集群管理、AI智算底座到數智化應用的全方位解決方案,推動行業(yè)的可持續(xù)發(fā)展。國際化視野與服務經驗多年的國際化戰(zhàn)略布局和豐富的海外服務經驗賦予了中電金信卓越的國際視野。我們拉通海內外及行業(yè)間的技術體系和市場,引入國外的先進技術及標準流程,更好地支撐金融及重點行業(yè)的數智化轉型。同時,我們?yōu)橹袊髽I(yè)走出去提供通道,以中國數智化轉型的最佳實踐服務全球。質量與安全管理中電金信堅持嚴格執(zhí)行質量與安全管理原則,建立了符合國際標準的安全與質量管控體系。我們已通過CMMIML?、ISO?????、ISO????、認證,在軟件研發(fā)的項目管理、質量管理和工程管理等方面均保持行業(yè)一流水平。行業(yè)領導者地位憑借出色的行業(yè)服務能力,中電金信在行業(yè)中確立了領先地位。自????IDC中國銀行業(yè)解決方案市場第一名,連續(xù)??年入選IDC全球金科技百強(IDCFinTechRankingsTop???),連續(xù)??.?中電金信人工智能產品及能力介紹中電金信面向金融、能源等重點行業(yè),可提供智能平臺、智能模型和智能應用的整體解決方案,幫助企業(yè)智能化轉型升級。下圖是中電金信AI領域的整體能力全景圖,公司在人工智能領域重點圍繞人工智能平臺、金融大模型、計算機視覺、知識圖譜等幾大領域進行布局,通過多年的研發(fā)和沉淀,相關AI產品和能力已在一大批銀行、保險、能源等行業(yè)客戶中應用落地?!皟纱笃脚_+三大模型+N應用領域”,提供智能平臺+智能模型+智能應用的整體解決方案能力特色一專注金融行業(yè)場景的AI技術與產品特色二擁有完整的智能中臺解決方案特色三專屬大模型更懂行業(yè)智能營銷特色一專注金融行業(yè)場景的AI技術與產品特色二擁有完整的智能中臺解決方案特色三專屬大模型更懂行業(yè)智能營銷營銷文案生成智能風控監(jiān)管合規(guī)問答智能服務監(jiān)管合規(guī)智能填報智慧辦公合同智能審核智能運營智能視覺分析企微智能回復盡調報告生成客服智能助手企業(yè)知識問答OCR識別系統(tǒng)客戶畫像生成信貸經理助手智能陪練智能公文寫作渠道身份鑒偽源啟金融大模型工業(yè)視覺大模型多模態(tài)智能鑒偽大模型行業(yè)人工智能平臺知識圖譜平臺金融級數字底座“源啟”決策智能化 運營智能化 管理智能化 渠道數智化來源:中電金信,????智能算力底座與基礎智算能力供給中電金信的智能算力底座是支撐人工智能應用和服務的基礎設施,提供高性能、高可靠性和高可擴展性的計算資源。它集成了多種硬件和軟件能力,并優(yōu)化算力資源的接入、管理、調度和編排,形成了一個統(tǒng)一的計算平臺。該智算底座能夠為各種數據處理任務、訓練框架、推理服務、智能應用提供所需的計算資源和軟件能力,并顯著提升AI工作負載的運行效率。統(tǒng)一賬號統(tǒng)一認證統(tǒng)一權限安全審計靈活擴展基礎框架 組件管統(tǒng)一賬號統(tǒng)一認證統(tǒng)一權限安全審計靈活擴展基礎框架 組件管租戶管理 項目管理 多集群管理 接入標準 部署適配服務與集成能力控制臺SDK/APICLI與其他異構平臺集成算力市場容器實例虛擬機實例算力集群鏡像管理 ServerlessGPU算力管理與調度服務編排與部署 資源池化動態(tài)調度GPU虛擬化 分區(qū)管理 優(yōu)先級/隊列管理裸金屬管理 異構算力接入彈性伸縮云邊協同存儲對接配額管理監(jiān)控分析云服務適配、集成優(yōu)化云適配器資源抽象資源編排動態(tài)調度插件管理內置運行時容器虛擬化 硬件虛擬化云資源/服務能力Kubernetes容器引擎異構硬件 異構硬件 NVIDIA華為AMD 中科海光 寒武紀 天數智芯沐曦其他算力資源數據中心算力數據中心算力云服務算力第三方加盟算力邊緣算力運維與管理用戶管理運維與管理用戶管理規(guī)格定義計量計費統(tǒng)計報表算力概覽網絡管理資源管理監(jiān)控告警安全管理低延時、高吞吐網絡(NVLink、IB、RoCE等)源啟行業(yè)AI平臺(含大模型平臺)模型服務管理平臺機器學習建模平臺深度學習建模平臺模型服務管理平臺機器學習建模平臺深度學習建模平臺大模型開發(fā)平臺智能算力管理平臺融入大模型行業(yè)AI平臺融入了大模型的先進功加強底層能力包括數據工程工具鏈和大模型的訓能,確保模型能夠高效運行。能力升級練微調,提高大模型的準確性。優(yōu)化應用性能通過推理加速和資源消耗的優(yōu)化,實現了大模型更快的運行速度和更低的資源占用,提升整體性能。來源:中電金信,????該產品的核心亮點是:大模型應用場景大模型應用場景監(jiān)管制度智能問答監(jiān)督報送報告生成信貸盡調報告生成多模態(tài)智能鑒偽營銷內容生成公文寫作反洗錢報告生成貸后催收話術生成提示工程知識庫管理組件Prompt模板 Prompt廣場 提示工程知識庫管理組件Prompt模板 Prompt廣場 知識導入 文檔解析 預置組件 組件接入 應用構建應用開發(fā)開發(fā)模式管理 工作流串聯大模型應用開發(fā)平臺Prompt管理Prompt優(yōu)化 知識切片 知識更新 組件規(guī)范 組件服務 體驗配置記憶配置 應用調試Prompt評估 Prompt服務 版本管理 召回測試 組件元信息組件市場 應用發(fā)布效果評估 應用市場模型管理服務發(fā)布與管理推理加速大模型服務平臺模型納管外部模型導入模型元信息 服務上下線 資源監(jiān)控APIKey緩存優(yōu)化 調度優(yōu)化 采樣優(yōu)化版本管理 模型資產管理模型業(yè)務管理 服務測試 白名單管理 高并發(fā) 模型優(yōu)化 算力優(yōu)化 國產算力適配全流程數據工程大模型訓練大模型評估數據接入 數據去重 數據清洗 數據脫敏 問答對抽取 Lora微調QLora微調RLHF微調 語義評估裁判員評估大模型開發(fā)平臺數據標注數據増強 數據分析 數據標簽 數據版本 斷點續(xù)訓 增量訓練過程可視化 評估配置可視化報表學習框架 推理框架Transformer Tensor?ow Pytorch 中電加速推理框架 DeepSpeed VLLMAI算力管理異構計算資源管理任務調度彈性擴縮容AI算力平臺英偉達GPU華為昇騰沐曦天數飛騰能用上 能用起 廣泛用來源:中電金信,????平臺支持兩種大模型訓練方式:SFT訓練和RLHF訓練。除常規(guī)訓練方式外,還提供斷點續(xù)訓和增量訓練功能,支持容災與模型能力的持續(xù)提升。智能營銷智能營銷智能風控智能運營智能服務智能影音客戶細分客戶細分貸前風控貢獻度細分模型 客戶價值細分模型申請評分模型 授信、定價模型RPA頁面元素識別智能客服語音識別ASR工業(yè)視覺視頻檢測資產偏好細分模型 活躍度細分模型風險評級模型 風險指數預測模型文本內容識別意圖識別安全管控渠道偏好細分模型 時間偏好細分模型 申請欺詐模型(個人)黑名單目標檢測文本內容生成智能巡檢營銷響應基金響應模型客戶提升貴賓客戶提升模型貸中風控OCR圖像質量檢測智能外呼ASR缺陷檢測行為評分模型重新定價模型理財響應模型 理財客戶提升模型提前還款模型 交易欺詐模型(個人)文字檢測文本比對施工安全監(jiān)管貸款產品響應模型 代發(fā)客戶提升模型文本識別文本內容生成貸后風控 反欺詐/洗錢風產品推薦模型 非貴賓客戶提升模型催收模型 申請網絡欺詐模型客戶流失貴賓客戶流失模型非貴賓客戶流失模型催收響應模型交易網絡欺詐模型運營優(yōu)化財務預測智能質檢語義分析智能影音多語言翻譯人機對練培訓損失預估模型反洗錢(關聯賬號)經營優(yōu)化決策語音識別互聯網內容審核客戶價值關聯風險運營管控智能寫稿系統(tǒng)多模態(tài)理解中收潛力模型是否有車模型借貸行為關聯識別 擔保關系關聯識別員工異常檢測模型智能寫作是否有房模型 客戶綜合價值模型 企業(yè)法人關聯識別交易關系關聯識別智能雙錄客戶價值等級模型 是否有孩模型經營關系關聯識別投資關系關聯識別賬務異常波動模型智能翻譯虛擬數字人來源:中電金信,????源啟金融行業(yè)大模型窗口長度:???K源啟金融行業(yè)大模型是中電金信自主研發(fā)的L?級金融大語言模型,采用主流的Decoder-only模型架構,并在自有金融數據集上進行多輪訓練迭代后得到。該模窗口長度:???K參數規(guī)模:??B盡調報告生成信貸業(yè)務知識問答監(jiān)管合規(guī)查詢監(jiān)管數據智能報送金融產品營銷助手網點運營助手參數規(guī)模:??B盡調報告生成信貸業(yè)務知識問答監(jiān)管合規(guī)查詢監(jiān)管數據智能報送金融產品營銷助手網點運營助手賦能信貸業(yè)務賦能監(jiān)管合規(guī)賦能業(yè)務營銷賦能信貸業(yè)務賦能監(jiān)管合規(guī)賦能業(yè)務營銷源啟金融大模型新型架構搜索增強知識庫專注金融行業(yè)安全增強模型結構:GQA行業(yè)大模型,領域問答更專精察能力,在信貸、監(jiān)管合規(guī)、貿易金融領域更專精。特色高效便捷部署多版本滿足不同部署需求,適配多款國產算力,支持私有化部署。

定向能力增強金融的核心需求如摘要、邏輯推理和計算能力,進行了定向增強;通過多路召回、文檔高效解析等技術,有效增強大模型知識回答實效性。大模型高效推理模型優(yōu)化,推理引擎加速,有效提升了模型的響應速度。來源:中電金信,????源啟工業(yè)視覺場景大模型源啟工業(yè)視覺大模型任務頭能力場景分類與識別 目標檢測與定位源啟工業(yè)視覺大模型任務頭能力場景分類與識別 目標檢測與定位語義分割與實例分割

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論