共享善治AI 智繪未來金融 -大模型在金融領域的價值、治理和生態(tài)進階之路 2024

隨著生成式AI技術的崛起,人工智能正以前所未有的力度和速度,推進技術創(chuàng)新,重塑產業(yè)未來。金融業(yè)一直以來都是技術應用的先行者,過去,移動互聯(lián)網、云計算、大數(shù)據(jù)等技術,推動了金融業(yè)從信息化走向數(shù)字化,當下,人工智能技術的蓬勃發(fā)展將在金融行業(yè)引領新一輪變革。置身于AI技術浪潮中,每個參與者需要重新審視公司戰(zhàn)略、業(yè)務形態(tài)、技術路徑和治理機制,推動人工智能技術深度融入業(yè)務、重構業(yè)務,駛向智能化的星辰大海。同時,伴隨著生成式AI技術在金融行業(yè)的探索應用,我們也面臨著諸多挑戰(zhàn),包括如何更好的釋放A在金融場景的價值,如何確保技術可靠可控,而不是放大風險,以及如何緩解技術應用的資源約束等,需要我們深入探討和解決。在此背景下,我們與合作伙伴一起提出大模型在金融領域的應用和發(fā)展框架,發(fā)布《共享善治Al,智繪未來金融》白皮書,展望AI與金融場景融合的發(fā)展趨勢,探討負責任A實現(xiàn)層次和技術生態(tài)演化路徑。我們希望通過這份白皮書,與業(yè)界同仁共同探索生成式AI技術在金融領域應用的進階之路,共繪智能化金融的未來藍圖。未來已來,將至已至。螞蟻集團秉持科技驅動和普惠初心,愿與各方攜手,以AI新質生產力為筆,以金融五篇大文章為卷,共同書寫金融行業(yè)數(shù)智化新篇章,為社會創(chuàng)造更大的價值。 李振華螞蟻集團研究院院長金融行業(yè)天然具備數(shù)據(jù)和信息密集型的特點,在數(shù)字化成熟度方面處于領先地位。此外,金融行業(yè)的數(shù)字化投入持續(xù)穩(wěn)步增長,匯集了大量具備數(shù)字化技能的人才。這些優(yōu)勢使得金融行業(yè)在AI技術的應用和創(chuàng)新方面具備獨特的條件,能夠在推動技術革新和提升行業(yè)效率方面起到示范作用。盡管大模型在金融業(yè)務領域展現(xiàn)了巨大的潛力,但其在金融行業(yè)的全面應用仍面臨諸多挑戰(zhàn)。目前通用大模型與行業(yè)相結合整體仍處于初級階段,此外金融行業(yè)因其嚴監(jiān)管和強合規(guī)要求,使得大模型的落地應用需要更加謹慎,周期會更長?？傮w來看大模型的行業(yè)生態(tài)系統(tǒng)尚未完全成熟,其在行業(yè)內的廣泛應用需要克服技術、行業(yè)演變、監(jiān)管和科技倫理等多方面的挑戰(zhàn)。因此,如何實現(xiàn)大模型在金融業(yè)務場景的價值最大化,并推動金融行業(yè)的數(shù)智化升級,仍將是未來的重要課題。本白皮書是DC中國首次聯(lián)合合作伙伴針對大模型在金融領域的應用發(fā)布的白皮書。內容詳細闡述了金融行業(yè)在大模型應用中的現(xiàn)狀和挑戰(zhàn),并提出了推動大模型技術在金融領域廣泛應用的路徑和策略。通過對AI價值實現(xiàn)、負責任Al、大模型生態(tài)演化的深入分析,旨在為金融機構提供理論和實踐的雙重支持,助力金融機構順利邁入未來金融的大模型時代,推薦每一位關注金融行業(yè)未來發(fā)展的讀者深入閱讀本白皮書。 武連峰IDC中國副總裁兼首席分析師隨著大模型的迅猛發(fā)展,金融行業(yè)正處于深刻變革的關鍵節(jié)點。大模型不僅是技術創(chuàng)新的產物,更是新質生產力的代表,通過其卓越的數(shù)據(jù)處理和分析能力,極大地提升了金融分析的深度和精度。大模型技術的引入和應用,正在對傳統(tǒng)的金融業(yè)務模式產生深遠而持久的影響,正在成為推動整個行業(yè)向更高效、更智能的方向發(fā)展的重要力量。白皮書系統(tǒng)地提出了大模型在金融領域的應用和發(fā)展框架,探討了大模型在金融領域的應用價值及其衡量方法;厘清了負責任AI的框架,為金融機構的大模型應用劃出清晰的安全底線,并推動科技倫理共識;最后聚焦行業(yè)的生態(tài)演進,既深刻分析了金融行業(yè)生態(tài)現(xiàn)狀,又科學嚴謹?shù)奶岢隽宋磥硇袠I(yè)平臺化生態(tài)的趨勢判斷。這一應用與發(fā)展框架的提出,為翹首以盼大模型帶來變革的金融行業(yè)注入了新的科學理念,也為大模型在金融領域的應用提供了全面且實用的參考。通過本白皮書,希望能鼓勵金融學界、金融機構、科技企業(yè)共同探索新技術所帶來的廣闊前景,推動技術與行業(yè)應用的深度融合,助力中國金融行業(yè)更高效地順應新質生產力發(fā)展的潮流,朝著更加智能化、普惠化的新時代邁進。 劉莉亞上海財經大學黨委常委、副校長目錄前言01AI價值實現(xiàn)1.1金融行業(yè)Al價值評估方法1.2Al價值層次和場景價值1.3金融機構AI應用現(xiàn)狀1.4四大能力幫助金融機構實現(xiàn)Al價值進階0708141702負責任Al2.1什么是負責任A2.2負責任AI的三大層次2.3負責任AI的現(xiàn)狀洞察2.4負責任A落地四大關鍵242525323503AI應用生態(tài)演化3.1大模型生態(tài)的界定3.2行業(yè)生態(tài)模式演進洞察3.3目前行業(yè)生態(tài)的基本情況3.4推動生態(tài)演化的建議41424357結語和未來展望66前言自2023年A大模型元年至今,大模型領域迎來持續(xù)的技術突破和早期產品技術落地。例如openA在2023年3月、9月和11月,相繼推了出GPT-4、GPT-4V、GPT-4Turbo,分別在多模態(tài)輸入能力、生成內容的質量和準確性、長文本處理能力和推理速度等技術層面取得明顯突破,在基礎大模型表現(xiàn)方面被公認為遙遙領先。同時商業(yè)接口的開放與開源模型的推出,推動著大模型技術的加速落地。例如隨著GPT-4Turbo的推出,openAI降低了API調用費用,使得企業(yè)和開發(fā)者能夠以更低的成本使用大模型技術。除了國外基礎大模型取得持續(xù)突破之外,國內的基礎大模型發(fā)展也格外繁榮。國內的基礎大模型參數(shù)規(guī)模2023年以來呈現(xiàn)快速增長趨勢,在自然語言處理任務及多模態(tài)處理任務上取得了顯著的性能提升。自chatGPT發(fā)布以來,國內各類型廠商陸續(xù)發(fā)布多款參數(shù)規(guī)模在十億量級以上的基礎大模型,其中以阿里、百度、華為等廠商為代表的部分本土廠商發(fā)布了大于千億級別參數(shù)規(guī)模的模型。同時國內的跨模態(tài)大模型也取得深入發(fā)展和突破,實現(xiàn)多模態(tài)信息的融合和交互,如阿里云、百度,分別在cogview2、ERINE4.0模型上實現(xiàn)了特定任務的突破性進展,展現(xiàn)了在文本與圖像生成方面的創(chuàng)新潛力。由于特定行業(yè)知識和專業(yè)術語的獨特性,需要特定的行業(yè)大模型以更好地滿足行業(yè)需求,行業(yè)大模型成為基礎大模型發(fā)展的重要方向。在大模型的垂直行業(yè)應用層面,大模型技術在金融、醫(yī)療、汽車、制造、零售等行業(yè)開始探索落地應用,例如在金融行業(yè),螞蟻集團發(fā)布了agentuniverse的開源智能體框架,提供多智能體的協(xié)作模式,旨在幫助金融機構及開發(fā)者加快大模型在金融場景的研發(fā)落地。02隨著市場對大模型的行業(yè)應用以及相關價值創(chuàng)造的關注與日俱增,企業(yè)、投資者、技術開發(fā)者都在積極探索大模型技術在更多垂直行業(yè)的結合與應用,以期在市場中獲得先機。大模型的深入應用不僅關乎技術的進步,產業(yè)生態(tài)的構建,還關系到各類行業(yè)業(yè)務模式的創(chuàng)新。生成式Al在幫助企業(yè)降本增效、改善體驗和產品創(chuàng)新方面的能力逐漸得到落地印證生成式A為企業(yè)產帶來的改變已經發(fā)生,尤其在降本增效、改善體驗和產品創(chuàng)新方面,其潛力和效果正在逐漸得到印證。在降本增效方面,生成式Al能夠自動化和智能化處理大量數(shù)據(jù)和信息,企業(yè)能夠降低運營成本,提高決策效率。例如大模型技術在物流行業(yè)的智能航線規(guī)劃、貨運裝載優(yōu)化、船舶調度等方面的應用,可以提高物流效率,降低運營風險。在改善用戶體驗方面,生成式A帶來全新的人機交互體驗,能夠提供更有溫度、更有深度、智能化的服務。螞蟻集團推動AI技術落地"三個管家",覆蓋金融理財、生活服務、醫(yī)療健康這三個大眾焦點場景。其中,Al金融管家"螞小財",專注理財和保險專業(yè)知識問答,提供行情解讀、持倉分析、保險配置和投教科普等個性化服務,讓每個投資者都有一個私人金融助理。截至2024年6月末,月活用戶已經超5908萬人,用戶日均使用559萬次,當月平均每位用戶使用約2.8次。在推動產品創(chuàng)新方面,借助生成式A可為用戶提供更加個性化和高效的產品服務。如大模型技術對WPS產品創(chuàng)新的推動,WPSAl錨定AIGC內容創(chuàng)作、copilot智慧助理、Insight知識洞察三個戰(zhàn)略發(fā)展方向,得益于WpsA的發(fā)布,WPS為用戶提供了更加絲滑、高效的辦公體驗。大模型的發(fā)展或需更長的新技術周期,但各參與方對其商業(yè)化仍持樂觀態(tài)度對于大模型技術發(fā)展開啟的新一輪技術周期,商業(yè)化前景被普遍看好。一方面,2023年以來我國大模型數(shù)量井噴,各類技術廠商紛涌入局。自2023年3月openAI發(fā)布GPT-4以來,國內迅速響應,大型科技企業(yè)、初創(chuàng)企業(yè)、高校和研究機構等紛紛加入大模型研發(fā),"百模大戰(zhàn)"由此開啟。截至2024年3月,中國10億參數(shù)規(guī)模以上的大模型數(shù)量已超100個,形成上百種應用模式。另一方面,大模型的類型也在不斷豐富。從最初的語言模型如GPT系列,到后來的多模態(tài)模型,如DALL-E和CLIP,再到專門為特定行業(yè)定制的垂直領域模型,大模型技術呈現(xiàn)出多樣化的發(fā)展趨勢。這些模型在參數(shù)規(guī)模、訓練數(shù)據(jù)、應用場景等方面各具特色,滿足不同行業(yè)和領域的個性化需求。例如,一些模型專注于醫(yī)療健康領域,能夠輔助醫(yī)生進行疾病診斷和研究;另一些專注于金融行業(yè),提供風險評估和市場分析等。資本市場對大模型企業(yè)的投資熱情高漲,展現(xiàn)出對大模型技術未來前景和商業(yè)潛力的樂觀態(tài)度。盡管2023年投融資整體行業(yè)遇冷,但Al行業(yè)融資的形勢相對仍處于比較熱門的狀態(tài),如阿里巴巴、騰訊、螞蟻等科技公司參與大模型領域創(chuàng)業(yè)公司投資,反映出市場對大模型前景的看好。進入2024年,大模型廠商之間開始出現(xiàn)明顯的價格競爭與市場份額搶占,競爭加劇,體現(xiàn)對大模型未來商業(yè)價值的看好。各家大模型廠商的競爭點已不再局限于技術,而是擴展到了價格以及具體的落地場景。大型科技企業(yè)開始加大開源力度,以擴大自身大模型生態(tài)影響力,扶持更多AI原生應用創(chuàng)新?？偟膩砜?雖然大模型技術和商業(yè)模式還有待進一步的發(fā)展與完善,但是從行業(yè)層面來看,各參與方對大模型的持續(xù)發(fā)展和未來的商業(yè)化應用前景呈現(xiàn)出明顯的樂觀態(tài)度。IDC預測,到2027年,中國的AI技術用戶對AI相關的軟件、03硬件、服務總投入將達到約407億元,2023-2027年的CAGR達到20%,約占2027年整體IT支出(軟件、硬件、服務總支出)的11%。金融機構有望用大模型繪制未來金融藍圖金融業(yè)在我國經濟中舉足輕重,金融機構通過提供資金流動和管理服務,為個人、企業(yè)和政府的各種經濟活動提供必要的資金支持。金融行業(yè)的數(shù)智化建設對于提升金融服務效率、促進金融資源的有效配置有重大作用。大模型技術的引入,被視為推動金融行業(yè)智能化進程的關鍵力量?！贰芬环矫?金融行業(yè)產生和依賴大量數(shù)據(jù),其決策過程高度依賴于數(shù)據(jù)的獲取和高效利用,對科技與業(yè)務的深度融合、跨領域知識的整合與分析等綜合能力具備高要求?！贰妨硪环矫?不同于一般行業(yè),我國金融行業(yè)具有強監(jiān)管的特殊性。金融風險涉及面廣且具備傳染性,需要快速識別并響應,充分防范系統(tǒng)性金融風險。因此金融行業(yè)的數(shù)智化建設需要滿足強監(jiān)管的要求,不僅要實現(xiàn)業(yè)務經營管理智能化,還要達成關鍵技術自主可控、防范金融風險等目標。大模型技術的引入,有望助力金融機構突破瓶頸,在多個層面推進智能化的建設進程。通過大模型提供深度學習和自然語言處理的強大能力,可持續(xù)推動金融基礎設施的重塑、金融科技創(chuàng)新、服務效率提升、安全與風險防范增強,并助力金融機構實現(xiàn)可持續(xù)發(fā)展,重塑金融服務的面貌。例如人工智能在信貸風險管理領域的運用可提升銀行的資產轉化能力,突破傳統(tǒng)風險管理措施的局限。大模型在金融行業(yè)的應用前景廣闊,圍繞A價值實現(xiàn)、A大模型在金融行業(yè)應用生態(tài)演化以及確保AI的負責任應用,構成了金融行業(yè)智能化的重要研究課題,也是實現(xiàn)A在金融行業(yè)價值實現(xiàn)的關鍵。04Al大模型在金融領域應用及發(fā)展框架解析AI技術在金融機構中的廣泛和深入應用對提升整體金融行業(yè)的運行效率、服務范圍和質量具有重要意義。螞蟻集團研究院認為,生成式A金融行業(yè)價值目標的實現(xiàn)應從負責任Al(RAl)、A價值、A生態(tài)三個角度來實現(xiàn)。以負責任AI作為基石和底線,遵守監(jiān)管要求與商業(yè)道德,防范A在金融行業(yè)中應用的風險,維護金融行業(yè)穩(wěn)定性,是實現(xiàn)A在金融行業(yè)價值釋放的前提,讓每個金融機構都能在A價值發(fā)揮方面實現(xiàn)進階。在此基礎上,通過大模型在金融領域的應用中各類參與方的協(xié)同,形成逐漸完善健康的大模型在金融領域的應用生態(tài),為不同的資金實力、技術基礎的金融機構提供適合的A服務,助力A在金融行業(yè)的普惠性應用,發(fā)揮A對金融機構業(yè)務的分場景、分程度的賦能,實現(xiàn)Al應用價值的指數(shù)化提升。生成式A生成式A金融行業(yè)應用價值負責任AlAl價值生態(tài)來源:螞蟻集團研究院繪制05使用大模型的金融機構數(shù)量隨著大模型應用生態(tài)從私有化到云化再到平臺化演變,金融機構的AI使用成本降低,生態(tài)的開放共享程度提升,且各類資源愈發(fā)得到充分整合與利用。Al價值與在不同場景中所實現(xiàn)的功能密切相關。越靠近業(yè)務決策,Al產生的業(yè)務收益、使用大模型的金融機構數(shù)量隨著大模型應用生態(tài)從私有化到云化再到平臺化演變,金融機構的AI使用成本降低,生態(tài)的開放共享程度提升,且各類資源愈發(fā)得到充分整合與利用。Al價值與在不同場景中所實現(xiàn)的功能密切相關。越靠近業(yè)務決策,Al產生的業(yè)務收益、成本節(jié)約、效率提升的價值賦能不斷加強。A\長尾金融機構中型金融機構頭部金融機構私有化生態(tài)云化生態(tài)平臺化生態(tài)隨著金融機構對負責任Al三大層次的推進,對用戶信任度的提升作用也會逐漸增強。用戶信任度提升來源:螞蟻集團研究院繪制》》A價值三層次:A價值隨著工具輔助、信息處理、業(yè)務決策功能進階,越靠近決策功能,任務引領層次越高,所產生的業(yè)務收益、成本節(jié)約、效率提升的價值賦能也不斷加強?！贰坟撠熑蜛l三層次:RA分為嚴謹安全、公平透明、用戶為先三層次,隨著負責任AI逐層推進,對用戶信任度的提升作用逐漸增強?！贰飞鷳B(tài)演進三階段:生態(tài)演進分為私有化生態(tài)、云化生態(tài)和平臺化生態(tài)三階段,隨著應用生態(tài)衍化,大模型易用性和金融機構的可得性提升,生態(tài)開放共享程度提高。1.1金融行業(yè)Al價值評估方法目前金融機構通過使用生成式Al,在單點的業(yè)務場景上降低成本、提高人效等價值已經逐漸得到驗證,但是要系統(tǒng)性的評估和反映AI對金融行業(yè)的價值提升,需要建立在更加全面、深入地將A嵌入金融行業(yè)場景和服務環(huán)節(jié)的基礎上。Al價值的體現(xiàn)與不同的場景所對應的業(yè)務特性強弱有關。不同的場景所具備的金融業(yè)務屬性強弱有差異,通常而言,業(yè)務屬性越強的場景,A的成本收益改善價值的潛力越大。因此,A對金融機構的價值體現(xiàn)在業(yè)務運營、風險管理、用戶服務和決策制定等多個方面,而具體的價值大小與作用根據(jù)應用場景的不同而不同。例如在用戶服務層面,智能客服和聊天機器人可以提供7*24服務,不再受限于工作時間和人員能力,快速響應用戶需求,提升服務體驗;在風險管理場景中,A可以實時監(jiān)控市場動態(tài),預測多種風險因素,提供更準確的風險評估和預警,從而突破基于歷史數(shù)據(jù)和有限的變量帶來的對風險因素捕捉不全面的限制。在此二類場景中,風險管理作為金融機構業(yè)務開展的核心,具備更強的金融業(yè)務屬性,A所能賦予的成本收益改善的價值潛力更大。除了應用場景對A總價值的影響之外,Al價值還與AI應用的深度有關,不同的應用深度對應著不同的AI增強系數(shù)。即使在同一場景中,AI應用的深度不同,所發(fā)揮的價值大小也不同。在應用場景不變的情況下,AI總價值隨著AI應用深度的加深而增加。因此衡量大模型的使用為金融機構帶來的價值提升,需要考慮與原有業(yè)務規(guī)模對比,AI應用的不同場景、不同的業(yè)務環(huán)節(jié)的特性以及與AI應用深度相關的增強系數(shù),才能更加科學的衡量A所帶來的總價值變化。我們采用如下公式表達:08121.2.2AI場景價值進階在應用程度足夠深、各層面功能充分實現(xiàn)的前提下,A對金融機構的價值與不同的應用場景相關。A在金融機構中應用的場景具備業(yè)務屬性的強弱之分,隨著應用場景從業(yè)務邊緣到核心,A對金融機構的價值逐漸增大。同時金融業(yè)務具備較高的復雜性和不確定性,決策難度越高的場景,AI決策功能的價值體現(xiàn)越明顯和關鍵,對金融機構的價值賦能也越大。場景規(guī)模大小任務的復雜度低高(注:氣泡大小代表各場景在充分實現(xiàn)Al各功能的前提下,對金融機構的價值賦能空間)來源:螞蟻集團研究院&IDC,2024年基于調研和專家深訪研究繪制當前金融機構的A價值實現(xiàn)任重道遠。根據(jù)IDC對金融機構在不同場景AI應用情況的調研,當前已經應用AI技術的金融機構大多在通用運營類場景和邊緣業(yè)務類場景進行探索與應用,對于核心業(yè)務類場景的應用相對較少。同時針對每個場景的AI功能實現(xiàn)層面,即從任務執(zhí)行屬性的工具輔助功能到信息處理功能再到業(yè)務決策功能的不同層面,當前金融機構除了在智能客服場景中AI應用較為深入且功能實現(xiàn)較為成熟之外,在其他場景的應用還有望持續(xù)加深。尤其在核心業(yè)務場景中的應用主要集中在較為淺層的工具功能層面,需要更長時間去實現(xiàn)更復雜的決策功能,因此對應的A價值潛力還需要更長時間的深入應用才能充分發(fā)揮。智能投顧定期報告輔助生成市場趨勢分析、用戶資產配置建議、投資策略優(yōu)化自動化投資建議和資產管理智能投研交互式投研工具信息聚合與摘要、自動化報告生成市場趨勢預測、投資建議生成智能風控法律文本智能合規(guī)審查知識庫問答/風險管理報告生成/客戶行為分析/客戶信用評分自動化信貸審批、交易授權等決策智能客服坐席助手、客服話術生成產品知識與服務信息提取自動化客服接待智能營銷產品/營銷話術、營銷材料生成客戶畫像、潛客識別產品策略推薦/自動化營銷智能研發(fā)代碼生成與補全、代碼審查與問題定位修復個性化研發(fā)助手金融產品創(chuàng)新與金融產品模型驗證智能運維自動化測試與監(jiān)控多模態(tài)數(shù)據(jù)分析、自動化告警處理自動化報告生成與運維決策支持智能辦公智能文檔處理(專業(yè)知識、法律法規(guī)、競品信息)自動化決策和流程執(zhí)行(注:陰影長度代表本調研中金融機構在相應時間階段內的對應AI應用落地的累計樣本比例)來源:IDC中國2024,基于調研和專家深訪研究繪制13營收增長成本節(jié)約工作效率提升客戶體驗提升風控合規(guī)優(yōu)化在當前金融機構的AI投入產出比方面,根據(jù)IDC的調研,目前除了營收增長方面的成果尚未看到明顯的量化收益之外,在成本節(jié)約、效率提升、用戶體驗、風控合規(guī)方面都取得了小幅提升,其他層面的收益預計在未來逐步實現(xiàn)。出于對大模型在金融領域商業(yè)化進程的判斷,金融機構預計營收增長的成果需要2-3年后實現(xiàn)。營收增長成本節(jié)約工作效率提升客戶體驗提升風控合規(guī)優(yōu)化0.0%20.0%40.0%60.0%80.0%100.0%時間不夠/無法量化小幅提升(<10%)顯著提升(10%-50%).革新提升(>50%)來源:IDC中國2024,金融行業(yè)調研,N=60從預算投入趨勢看,金融機構未來對大模型相關的投入較為積極。調研顯示,過半樣本(51.7%)的受訪機構表示在未來18個月內用于生成式AI項目的IT預算將占總預算的10%-19%內。相比于前文IDC最新的ITSpending數(shù)據(jù)測算中整體AI技術用戶的大模型/生成式AI預算占IT總預算的11%,金融行業(yè)用戶的投入呈現(xiàn)較為積極的態(tài)度。151.4四大能力幫助金融機構實現(xiàn)AI價值進階數(shù)據(jù)能力(數(shù)據(jù)收集、清洗、標注等數(shù)據(jù)治理能力)金融場景中的多智能體應用探索RAG(檢索增強生成)的探索以增強生成內容的準確性多模型、大小模型的協(xié)同和能力結合工程化工具的使用與探索隨著金融機構對AI的使用程度從淺到深、從邊緣到核心的不同層次的遞進,A發(fā)揮的價值也隨著使用應用場景的拓展與應用程度的深入而逐漸提升。金融機構需要建設多個層面的能力支撐AI應用的廣度與深度拓展,提升Al價值層級。本白皮書研究認為,數(shù)據(jù)基礎能力、RAG和A工程化工具、大小模型融合能力、多智能體協(xié)同應用的探索能力構成了實現(xiàn)Al價值進階所需具備的能力圖譜。這也和本次調研結果,金融機構的認知基本一致。數(shù)據(jù)能力(數(shù)據(jù)收集、清洗、標注等數(shù)據(jù)治理能力)金融場景中的多智能體應用探索RAG(檢索增強生成)的探索以增強生成內容的準確性多模型、大小模型的協(xié)同和能力結合工程化工具的使用與探索367%6560.0%60.0%71.7%0%0.0%10.0%20.0%30.0%40.0%50.0%60.0%70.0%80.0%來源:IDC中國2024,金融行業(yè)調研,N=60AI價值實現(xiàn)進階之路增強復雜場景決策支持能力多智能體協(xié)同支持復雜專業(yè)決策提升金融場景適配能力生成式與判別式模型協(xié)同提升金融場景適配能力生成式與判別式模型協(xié)同,提升金融場景應用的專業(yè)性和準確性推動Al在資產配置等金融核心業(yè)打通模型到應用落地打通模型到應用落地模型工程:按需適配模型,促進成本效益平衡夯實大模型基石數(shù)據(jù)收集、清洗、夯實大模型基石數(shù)據(jù)收集、清洗、標注、整合與提升信息精度和實時性治理,提升模型性能和輸出質量來源:螞蟻集團研究院&IDC繪制17(—)夯實大模型基石-打造堅實的數(shù)據(jù)基礎能力金融機構的數(shù)據(jù)基礎能力是實現(xiàn)A價值的基石。數(shù)據(jù)是AI應用的原材料,數(shù)據(jù)質量和處理方式直接影響AI模型的性能和輸出結果。沒有準確、安全、可靠的數(shù)據(jù),AI模型和系統(tǒng)就無法發(fā)揮其潛力,甚至可能產生誤導性的結果。大模型在金融領域的應用需要具備金融行業(yè)的領域知識與業(yè)務邏輯理解能力,因此在指令微調、增量預訓練等多個階段,都需要加入大量高質量的金融數(shù)據(jù),以提升大模型的金融理解能力。建設目標建設方法數(shù)據(jù)收集能夠從內部和外部來源收集各種類型的數(shù)據(jù),包括交易數(shù)據(jù)、用戶互動數(shù)據(jù)、市場數(shù)據(jù)等建立數(shù)據(jù)收集渠道,如自有數(shù)據(jù)、合作伙伴和公共數(shù)據(jù)源數(shù)據(jù)清洗清洗數(shù)據(jù)以提高數(shù)據(jù)質量,包括處理缺失值、異常值和重復記錄開發(fā)自動化的數(shù)據(jù)清洗流程,使用數(shù)據(jù)清洗工具,建立數(shù)據(jù)質量標準數(shù)據(jù)標注為非結構化數(shù)據(jù)(如文本、圖像)提供標簽,以便于機器學習模型的訓練建立標注團隊,開發(fā)或采用標注工具,制定標注指南和標準數(shù)據(jù)整合整合來自不同源和格式的數(shù)據(jù),形成統(tǒng)一的數(shù)據(jù)視圖使用ETL(提取、轉換、加載)工具,設計數(shù)據(jù)倉庫和數(shù)據(jù)湖架構數(shù)據(jù)治理制定數(shù)據(jù)管理政策和流程,確保數(shù)據(jù)的合規(guī)性、安全性和可訪問性建立數(shù)據(jù)治理框架,包括數(shù)據(jù)管理角色、策略、流程和指標來源:螞蟻集團研究院&IDC繪制(二)打通模型到應用落地-應用RAG檢索增強和AI工程化工具》》RAG增強生成內容的準確性RAG可降低傳統(tǒng)大型模型在特定領域知識更新和精確度方面的局限性。RAG可通過檢索組件實時訪問最新的數(shù)據(jù)和信息,實現(xiàn)知識的動態(tài)更新,確保模型能利用最新的領域知識進行回答;還可檢索領域特定的信息,提高模型在金融領域的專業(yè)性和精確度。通過RAG檢索到的專業(yè)可靠的信息補充到大模型中,增強對金融場景特定領域情境的理解,提高回答的相關性和準確性。18金融知識挖掘金融知識挖掘資產/市場/行業(yè)分析新聞/政策/事件解讀公告1+4+11+4+1 專家分析框架金融知識庫PEER范式鳳凰大模型鳳凰大模型2.1什么是負責任Al本白皮書將負責任的人工智能(RAI)定義為以恪守嚴謹安全的監(jiān)管要求、遵循公平透明的行業(yè)規(guī)則、維護用戶為先的價值取向的方式進行大模型和生成式AI的設計、開發(fā)和部署。RA專注于以符合用戶期望、組織價值觀和社會法律規(guī)范的方式開發(fā)和使用人工智能解決方案,它還包含了正確的計劃、監(jiān)督和治理。RAI的設計旨在確保企業(yè)中的AI使用以人為中心、符合科技倫理、安全可控。RAI要求金融機構及其生態(tài)系統(tǒng)以有效、可擴展和可適應的方式負責任地使用Al。RAl不僅關乎技術的成功實施,還關系到金融機構的監(jiān)管合規(guī),以及對用戶、對行業(yè)和對社會的責任。通過負責任地開發(fā)和部署Al,金融機構可以確保技術進步與商業(yè)目標和社會價值相協(xié)調。RAI有助于金融機構遵守監(jiān)管合規(guī)要求,減少違規(guī)風險和潛在的法律訴訟,并輔助實現(xiàn)維護金融系統(tǒng)穩(wěn)定的社會價值。螞蟻和IDC研究認為,實施RAI將幫助金融機構提升用戶信任度。用戶信任是金融機構成功的關鍵。若金融機構確保用戶的隱私安全、做到公平可信并遵守商業(yè)道德、以用戶價值為中心,則用戶會更容易信任該機構從而成為長期忠誠用戶,進而提升金融機構的市場競爭力,推動金融行業(yè)高質量發(fā)展。2.2負責任AI的三大層次根據(jù)RAI的定義和設計宗旨,負責任AI涵蓋了技術手段、監(jiān)管法規(guī)、道德倫理、利益取舍等多個方面。結合RAI提倡的價值觀,我們認為RA分為"嚴謹安全、公平透明、用戶為先"三大遞進的層次。隨著負責任Al三大層次的推進,對用戶信任度的提升作用也會逐漸增強。2527數(shù)據(jù)安全,保證每一個環(huán)節(jié)的數(shù)據(jù)合規(guī)應用生成式A在金融領域應用需要大量的數(shù)據(jù)來進行訓練和優(yōu)化,如果數(shù)據(jù)泄露或被惡意利用,不僅會損害用戶的利益,也會對金融機構的聲譽和業(yè)務造成嚴重影響,甚至面臨法律責任。數(shù)據(jù)安全涉及到金融機構的數(shù)據(jù)與模型治理水平是否到位、與數(shù)據(jù)相關的流程是否規(guī)范與完備、數(shù)據(jù)安全相關的技術手段是否充足等因素。除了大模型開發(fā)中的數(shù)據(jù)訓練過程中存在數(shù)據(jù)安全隱患之外,在大模型使用中也存在潛在的數(shù)據(jù)安全風險,因此數(shù)據(jù)安全的要求體現(xiàn)在與大模型相關的數(shù)據(jù)采集、傳輸、存儲、加工及處理信息的全流程環(huán)節(jié)。若流程、技術和治理措施層面存在明顯欠缺,則無法確保數(shù)據(jù)安全,易導致數(shù)據(jù)泄露、濫用。數(shù)據(jù)安全表現(xiàn)在金融機構從數(shù)據(jù)的存儲和處理等多個環(huán)節(jié)被安全和適當?shù)厥褂谩０殡S著全面的數(shù)據(jù)安全政策,數(shù)據(jù)保護的明確目標、原則和操作流程,從基座大模型到業(yè)務適配的全過程中相關數(shù)據(jù)都經過嚴密的清洗、審查;設立嚴格的訪問控制機制,確保只有授權人員能夠訪問敏感數(shù)據(jù);記錄和監(jiān)控所有數(shù)據(jù)訪問和操作行為,以便于事后審計和責任追蹤。內容嚴謹,降低"幻覺"結果大模型幻覺問題是金融行業(yè)應用大模型的一大挑戰(zhàn)。金融行業(yè)容錯率非常低,無論是知識問答,還是內容提取,都對大模型提出了非常高的要求。模型的準確性成為金融行業(yè)采用生成式AI的重要堵點。因為模型結構、解碼算法、暴露偏差等原因,大模型可能出現(xiàn)幻覺現(xiàn)象,即AI模型生成的內容雖然流暢但與事實不符,或者與提供的源內容不一致,生成看似合理卻無法應用于實際情境的非事實性內容。降低模型的幻覺問題,需要提高模型的透明度,對人工智能的機制和過程進行檢查,以便更好地理解模型的決策過程和輸出的依據(jù)。通過技術對抗,用AI識別與檢測Al,實現(xiàn)以技治技的效果,是降低模型幻覺、提高大模型產出內容嚴謹性的有效措施。28以螞蟻的"蟻天鑒"為例,2023年,螞蟻集團發(fā)布"蟻天鑒"大模型安全一體化解決方案,其中"蟻鑒2.0"(大模型安全檢測平臺)是全球首發(fā)多類型工業(yè)級可信AI檢測平臺,通過誘導式對抗生成技術,持續(xù)不斷攻擊和訓練模型,在模型上線前對其進行全方位的安全掃描,提前識別和挖掘風險漏洞;"天鑒"(大模型風險防御平臺)基于智能風控技術,通過圍欄防御、極速防御以及情景式防御等多層護欄方案,可以實現(xiàn)內容安全、數(shù)據(jù)隱私、科技倫理、合規(guī)風險等四大類風險的識別和攔截,不僅能幫助大模型擋住惡意提問,同時對生成的回答內容進行風險過濾,從而保障大模型上線后從用戶輸入到生成輸出的整體安全防御。2024年7月,螞蟻集團聯(lián)合清華大學發(fā)布"蟻天鑒2.0"版本,新版本增加了AI鑒真功能,它支持圖像、視頻等多模態(tài)內容的真實性及深度偽造檢測;同時在測評功能上持續(xù)升級,打造大模型安全評測"智能體",并新增大模型X光、大模型基礎設施檢測兩大評測功能。"蟻天鑒2.0"形成了一套包括大模型基礎設施測評、大模型X光測評、應用安全測評、圍欄防御、AIGC濫用檢測、證件偽造檢測等在內的完整技術鏈條,面向行業(yè)提供全方位智能化的大模型安全評測和防御解決方案。大模型安全一體化解決方案系統(tǒng)安全框架安全三方庫安全插件安全因果溯源科技倫理流量排白圖像檢測特征歸因數(shù)據(jù)安全深度識別文本檢測知識歸因內容安全prompt改寫音頻檢測神經元編輯幻覺檢測安全代答視頻檢測個人卡證企業(yè)資質交易憑證通用憑證安全測評技術安全防御技術來源:螞蟻集團,202431標。利用機器學習算法結合市場趨勢,系統(tǒng)分析用戶的財務狀況,在合規(guī)前提下優(yōu)先推薦符合用戶利益的方案。》》提供可得易懂金融信息。生成式A以豐富的內容形式、"擬人化"交互、精準的用戶識別,能夠直觀、多樣地展示金融產品和服務內容,避免利用信息差獲利。如保險做好風險披露,保持費用和條款透明,清晰地向用戶披露保險產品覆蓋的風險范圍和不覆蓋的風險;明確列出所有費用、條款和細則,包括保費、免賠額、賠付條件等,確保沒有隱藏費用,確保用戶在充分了解情況的基礎上做出知情決策?！贰范嗲辣憬莸腁I服務。用戶可以通過移動應用、網頁或用戶服務中心、線下網點等多種渠道獲得AI顧問服務,確保隨時隨地的服務可用性與便捷性,提升用戶使用服務的便捷程度。以用戶長期價值為導向,促進金融健康》》促進用戶金融健康。通過智能投顧具備的金融知識教育和風險提示模塊,幫助投資者提高金融素養(yǎng)和采取相應的風險管理措施,不僅能促進理性決策,減少沖動投資和投機行為,維護自身的金融健康,同時也有助于減少投資者的市場恐慌和非理性行為,維護市場秩序,有助于整個金融市場的穩(wěn)定和健康發(fā)展?！贰酚脩糸L期價值優(yōu)先。如果同時與多個投資產品有關聯(lián),選擇從用戶利益角度出發(fā)而非從金融機構利益最大化出發(fā),向用戶客觀推薦適合的產品組合與投資建議,立足于用戶長期價值優(yōu)先。通過將負責任的實踐嵌入金融機構的Al實踐中,RAI有助于在用戶和金融機構之間培養(yǎng)出更深層次的信任,長期來看,實現(xiàn)用戶價值增值與金融行業(yè)行穩(wěn)致遠共贏。近年來,螞蟻集團在財富管理、保險等領域助推用戶金融健康發(fā)展。螞蟻財富研發(fā)了"三筆錢"工具,分別對應靈活取用、未來保障和投資增值三部分。用智能化、個性化的配置工具和方法,基于投資者的個人目標和風險偏好,定制包當前金融機構對負責任AI的認知與推行深度基本處于初級層面目前金融機構對負責任AI的認知和關注點主要集中在嚴謹安全的初級層次。對大模型在金融行業(yè)的落地,金融機構有著多重顧慮。調研顯示:金融機構當前對數(shù)據(jù)隱私和安全問題、模型幻覺問題關注度最高;對生成內容的準確和可解釋性的關注位于中間水平;而有關模型和算法偏見、科技倫理目前的顧慮的關注度最低。從不同的重視程度總結,當前金融機構更多的關注點在嚴謹安全的層面。數(shù)據(jù)的隱私和安全問題模型問題(模型幻覺68.3%81.7%成本問題(算力成本63.3%生成內容的準確性和可解釋性50.0%法律與合規(guī)問題450%模型和算法偏見科技倫理問題33.330.0.%%0.0%10.0%20.0%30.0%40.0%50.0%60.0%70.0%80.0%90.0%來源:IDC中國2024,金融行業(yè)調研,N=60對金融機構而言,通常是出于對潛在的負面影響的擔憂而執(zhí)行負責任A的舉措。從下圖IDC的調研結果可知,金融機構對于若不落實負責任AI而最可能產生的潛在負面影響具備不同的擔憂程度,反映了金融機構對下列事項重視程度的優(yōu)先級從高到低依次為:不違法的底線、保護公司的數(shù)據(jù)和隱私安全、降低經濟風險、提升用戶體驗/用戶信任。33引發(fā)法律層面的追責和監(jiān)管問題公司數(shù)據(jù)和隱私泄露,產生系統(tǒng)性的安全問題產生經濟風險(如供公司收入受損)引發(fā)法律層面的追責和監(jiān)管問題公司數(shù)據(jù)和隱私泄露,產生系統(tǒng)性的安全問題產生經濟風險(如供公司收入受損)降低客戶體驗、產生客戶信任危機引發(fā)倫理和道德問題公司內技術濫用和決策依賴影響ESG評級和投資者行為2.7%8.69.8%%18.022.0%19.9%.1%%0.0%5.0%10.0%15.0%20.0%25.0%來源:IDC中國2024,金融行業(yè)調研,N-60除了關注點層次有待持續(xù)加深之外,負責任A在金融機構中推行的廣度也有待持續(xù)拓展。根據(jù)IDC的調研結果,約18.3%的金融機構在推進落實負責任Al,約58.3%的機構暫時沒有推進,但是在一年內有對應的出臺計劃。其余約23.3%尚無相關計劃的金融機構中,絕大部分認為還需要更多的時間才能夠作負責任Al的相關規(guī)劃。尚無計劃的絕大部分是認為需要更多時間是的是的,已經在推進暫時沒有,但計劃在一年內出臺暫時沒有,需要12-18個月暫時沒有,需要更多時間21.6%18.3%1.7%58.3%廠來源:IDC中國2024,金融行業(yè)調研,N-6034利益相關者不清楚負責任A1的定義所有利益相關者對負責任Al有不同的定義不同的利益相關者各自為政,需要彌合人工智能治理鴻溝很難證明投資的合理性并衡量回報率工具很多,沒有端到端解決方案機構內各相關方缺乏對RA的明確統(tǒng)一認知且權責不明確是當前推動RAI施行的主要痛點。根據(jù)IDC對金融機構的調研,"利益相關者不清楚負責任AI的定義,所有利益相關者對負責任AI有不同的定義"、利益相關者不清楚負責任A1的定義所有利益相關者對負責任Al有不同的定義不同的利益相關者各自為政,需要彌合人工智能治理鴻溝很難證明投資的合理性并衡量回報率工具很多,沒有端到端解決方案4.2%10.6%228%8.9%0.0%5.0%10.0%15.0%20.0%25.0%30.0%35.0%來源:IDC中國2024,金融行業(yè)調研,N=602.4負責任AI落地四大關鍵螞蟻和IDC認為,負責任AI需要體系化建設,自上而下需要頂層戰(zhàn)略愿景和基本原則引領,組織層面RAI治理結構支持,管控層面具體機制落地,以及技術實踐層面持續(xù)監(jiān)測及評估等套"組合拳",共同助推負責任AI愿景實現(xiàn)?！贰窇?zhàn)略層面:制定機構層面整體的RAI的戰(zhàn)略愿景和基本原則RAI戰(zhàn)略愿景以及RAI的實施層次是金融機構能否在大模型時代穩(wěn)步發(fā)展,贏得用戶信任的關鍵。制定戰(zhàn)略愿景和計劃是確保負責任A落實的重要步驟,從而在金融機構內明確RAI相關的目標、標準規(guī)范與指導方針。根據(jù)IDC的調研,大多數(shù)金融機構認為要確保負責任AI成功,最重要的舉措為:創(chuàng)建內部生成式A卓越中心(如A治理委員會),以加快采用并建立企業(yè)范圍的標準;為評估和跟蹤開源生成式A代碼、數(shù)據(jù)和訓練模型的使用制定全公司范圍的指導方針;從模型、產品及管理等角度針對負責任AI的進行全面的流程梳理和建設。35創(chuàng)建內部生成式Al卓越中心(COE),以加快采用并建立企業(yè)范圍的標準為評估和跟蹤開源生成式A代碼、數(shù)據(jù)和訓練模型的使用制定全公司范圍的指導方針從模型、產品及管理等角度針對負責任A1的進行全面的流程理和建設實施數(shù)據(jù)共享與運營實踐,確保內部或與第三方共同開發(fā)的任何大語言模型的數(shù)據(jù)完整性為相關的員工群體創(chuàng)立強制性的負責任A意識和合法使用培訓計劃建立(或擴大現(xiàn)有的)正式的人工智能治理/道德風險委員會,引入負責任A人才7%81.7%66.7%3%73.3%0%450%33.3%30.0%0.0%10.0%20.0%30.0%40.0%50.0%60.0%70.0%80.0%90.0%來源:IDC中國2024,金融行業(yè)調研,N=60》》組織層面:從組織層面設計RA治理結構在金融機構內設置統(tǒng)一的RAI治理結構,明確RA在不同相關方中的權責和定義,鏈接不同部門不同職能的相關人員共同貫徹相關標準,是確保RA能夠得以在整個機構內落實的重要組織保障。金融機構需要針對RAI設計一個有效的治理結構,通過有效的治理結構落實RAI相關的能力建設,確保權責明確與匹配,并協(xié)調各個部門促進團隊合作,實現(xiàn)RAI的共同目標。這一治理結構的設計,需要金融機構對內系統(tǒng)性地梳理RA的相關方及其責任,此外還需要組織人工智能專家與業(yè)務、合規(guī)以及內部和外部顧問合作,實施負責任AI的監(jiān)督。36》》管控層面:對RAI進行全機構、全方位的評估、準備和管控對于金融機構的CI0等技術領導者來說,實施RAI需要從治理、流程、人才、技術和數(shù)據(jù)的多個方位對機構進行全面評估、準備和管控,以促進整個機構對人工智能負責任維度的共同理解。治理:RA治理是為了確保負責任A的實踐,強調可信度、公平性、隱私性和問責性。治理主要涉及到跨數(shù)據(jù)和模型相關的權責明確,從而解決RAI需要面對的關鍵權衡問題,如在算法設計中需要對準確性和可解釋性進行平衡,在努力提高透明度的同時,還須考慮安全風險,并減輕模型過擬合和漂移等問題,最終使業(yè)務負責人能夠做出與組織的風險承受能力相一致的戰(zhàn)略性、價值驅動的決策。流程:RAI鼓勵從盡量全面的用戶類型和訴求出發(fā)來減少偏見,從而設計公平的系統(tǒng),使A解決方案能夠適應最新的規(guī)范和社會需求。在設計RAl流程時,須理解和仔細選擇以數(shù)據(jù)為中心的方法、以模型為中心的方法和產品管理方面的事項,從而提高人工智能決策的透明度和可解釋性,促進信任度的提升。人才:RA人才方面強調了在構建和管理人工智能系統(tǒng)的專業(yè)人員之間對不同技能、科技倫理的理解和不斷學習的需求。需要建立由數(shù)據(jù)科學家、合規(guī)人員和其他專家組成的多學科團隊,以確保人工智能解決方案是公平、包容和健全的。RA人才的關鍵能力包括人工智能和機器學習的深度技術知識、對行為準則和法律標準的理解、有效的溝通技能以及對用戶為先的強烈關注。為了實現(xiàn)RAl,組織需要持續(xù)投資相關的教育和培訓,為人才的專業(yè)成長提供途徑,從而培養(yǎng)具備專業(yè)技能且覆蓋多學科的人才庫。37.技術:RAI技術指選擇和利用多種技術手段以確保人工智能系統(tǒng)是透明的、可解釋的、有彈性的和安全的。此外,RAI技術支持將偏差檢測和調優(yōu)工具與數(shù)據(jù)隱私和治理技術集成,從而滿足GDPR和CCPA等法規(guī)的公平性和合規(guī)性要求。總的來說,技術為RA創(chuàng)建了基礎,以確保AI系統(tǒng)的完整性、性能良好并滿足道德標準。.數(shù)據(jù):RAI的數(shù)據(jù)維度側重于數(shù)據(jù)采集、準備和管理,為創(chuàng)建公平、準確和透明的人工智能系統(tǒng)奠定基礎。針對數(shù)據(jù)建設和管理層面,金融機構應強調數(shù)據(jù)的平衡、質量和完整性,防止偏見,通過培養(yǎng)不同的數(shù)據(jù)集,以限制偏見和支持公平的人工智能;將確保數(shù)據(jù)質量和多樣性的原則納入數(shù)據(jù)生命周期管理中,以減少人工智能應用的偏差和提高應用的準確性。RA具備復雜性,特定的環(huán)境、組織文化、人工智能的成熟度、業(yè)務的性質、潛在后果的嚴重性等多重因素塑造了RAl,RA能力設計的關鍵是需要使所有相關方對生成式AI的應用進行理解和管控層面全方位對齊?！贰芳夹g實踐層面:建立大模型的持續(xù)監(jiān)測和評估機制,防范潛在風險建立大模型的監(jiān)測與評估機制是防范模型風險與推進算法優(yōu)化的必要條件。金融機構需梳理可能違背負責任表現(xiàn)的風險源頭、風險類型、風險強度,思考風險產生原因、風險解決措施,防范未發(fā)生的風險,對人工智能應用的負面影響開展預見性風險評估,提前做好風險預案。在模型訓練中,需要進行多元化數(shù)據(jù)收集,確保訓練數(shù)據(jù)代表所有相關群體,避免數(shù)據(jù)偏差。在模型開發(fā)過程中,進行公平性測試,評估不同群體的模型表現(xiàn)。持續(xù)監(jiān)測模型在實際應用中的表現(xiàn),并根據(jù)反饋進行改進。目前金融機構對大模型的監(jiān)測與評估舉措重視程度高,也體現(xiàn)出其對落實負責任AI的關鍵作用。根據(jù)IDC的調研結果,在占比18.3%的已經在推進負責任AI的機構中,目前較為普遍的舉措有:持續(xù)的模型監(jiān)控和評估以確保模型持續(xù)優(yōu)化、38實施持續(xù)的監(jiān)控和評估機制,確保模型的持續(xù)優(yōu)化7%采用安全技術,增強模型和應用的安全性采用隱私保護技術,增強數(shù)據(jù)在大模型的訓練和調優(yōu)過程的安全開發(fā)可解釋的AI系統(tǒng)以增加模型的透明度和可解釋性從數(shù)據(jù)和工具技術的角度實施持續(xù)的監(jiān)控和評估機制,確保模型的持續(xù)優(yōu)化7%采用安全技術,增強模型和應用的安全性采用隱私保護技術,增強數(shù)據(jù)在大模型的訓練和調優(yōu)過程的安全開發(fā)可解釋的AI系統(tǒng)以增加模型的透明度和可解釋性從數(shù)據(jù)和工具技術的角度,確保公平性和無偏見遵循相關的倫理準則和最佳實踐,保A系統(tǒng)的負責任設計723456.4%0%6363636%6%6%0.0%10.0%20.0%30.0%40.0%50.0%60.0%70.0%80.0%來源:IDC中國2024,金融行業(yè)調研,N-60393.1大模型生態(tài)的界定大模型在金融領域的應用生態(tài)是一個多元化的系統(tǒng),涉及多個參與方,包括金融機構、云廠商、模型服務商等,每個角色都有其獨特的價值和行業(yè)貢獻。其中,金融機構是大模型技術應用的主要用戶,利用大模型優(yōu)化風險管理、用戶服務、投資決策等業(yè)務。云廠商提供必要的云計算資源和存儲能力,支持大模型的訓練、部署和運行。模型服務商專注于開發(fā)和提供預訓練大模型,為金融機構提供模型服務和技術支持。此外還有大量技術合作伙伴、行業(yè)合作伙伴等,共同構建大模型應用的生態(tài)系統(tǒng)。對于金融機構而言,算力短缺、大規(guī)模參數(shù)帶動的高IT資源消耗、人才匱乏、對大量高質量數(shù)據(jù)的需求等導致了當前應用生成式AI的高成本,形成了AI普惠應用的門檻。我國金融機構種類繁多、數(shù)量龐大,且不同金融機構之間的資產規(guī)模、業(yè)務范圍、科技實力參差不齊,存在大量長尾機構。截至2023年底,我國有4490家銀行業(yè)金融機構1;238家保險機構法人和7家外國再保險公司分公司、2566家保險專業(yè)中介機構法人2;145家證券公司3;基金管理公司145家4以及大量其他金融機構。以銀行業(yè)為例,不同類型的銀行間資產規(guī)模相差甚遠,我國6家大型商業(yè)銀行占據(jù)了銀行業(yè)總資產份額的41.90%,而3796家農村金融機構只占了13.50%,126家城商行和550家其他類農村金融機構分別占13.7%和14.3%5。1:國家金融監(jiān)督管理總局披露的銀行業(yè)金融機構法人名單(截至2023年12月31日)2:國家金融監(jiān)督管理總局披露的保險機構法人名單、外國再保險公司分公司名單、保險專業(yè)中介機構法人名單(截至2023年12月31日)3:中國證券業(yè)協(xié)會2023年度統(tǒng)計4:中基協(xié)發(fā)布的2023年12月公募基金市場數(shù)據(jù)5:機構分類采用國家金融監(jiān)管總局的劃分方式,資產份額采用國家金融監(jiān)管總局披露的2024年5月的數(shù)據(jù)413.2行業(yè)生態(tài)模式演進洞察螞蟻和IDC結合對大模型在金融行業(yè)的落地情況的觀察和趨勢判斷,隨著時間的推移,相關技術不斷成熟,各類參與方的定位逐漸明確,行業(yè)格局更加清晰,預計大模型在金融領域應用的生態(tài)將從如今的以私有化生態(tài)為主向云化生態(tài)衍化,未來預計往平臺化生態(tài)模式發(fā)展。在此演變過程中,金融機構的AI使用成本逐漸降低,生態(tài)的開放共享程度提升,且各類資源在行業(yè)層面愈發(fā)得到充分整合與利用。場景應用場景應用場景應用場景應用金融知識、金融知識、業(yè)務邏輯金融知識、業(yè)務邏輯行業(yè)數(shù)據(jù)行業(yè)數(shù)據(jù)行業(yè)數(shù)據(jù)行業(yè)數(shù)據(jù)模型工具模型工具基礎模型基礎模型算力算力完全自建基建共享開箱即用(注:淺藍色塊代表需要金融機構自建的能力,深藍色塊代表無需金融機構自建的能力)來源:螞蟻集團研究院繪制4344私有化生態(tài)私有化生態(tài)特征:頭部金融機構主導、自建,對金融機構的科技建設能力有全方位的較高要求大模型在金融行業(yè)應用中的私有化生態(tài)模式通常為頭部金融機構主導進行大模型的本地化的部署與建設,對大模型技術與部分金融業(yè)務場景結合進行戰(zhàn)略性探索。各家機構之間完全獨立投入大模型所需的算力、模型訓練、模型工具、數(shù)據(jù)以及金融知識、業(yè)務邏輯,各自建設不同的場景應用。私有化生態(tài)成因:大模型在金融行業(yè)的應用處于早期階段,各方面暫不成熟現(xiàn)階段大模型在金融行業(yè)的落地還處于早期探索階段,私有化生態(tài)的形成原因由多方面因素構成?！贰樊斍敖鹑跈C構應用大模型存在較高的門檻,實力強勁的頭部機構更有意愿和能力率先嘗試和投入。作為首批嘗試部署大模型的頭部金融機構而言,出于自身技術安全性、可控性和適配度的較高要求,因而選擇私有化部署模式。此外模型的研發(fā)需要大量的前期投入,包括算法研究、模型訓練和調優(yōu)等,這些都需要專業(yè)的技術團隊和高額的研發(fā)費用,相比于中長尾金融機構,頭部機構的資金實力、人才基礎、業(yè)務場景和數(shù)據(jù)的天然優(yōu)勢使其更具私有化部署的資源稟賦?！贰范囝愋偷募夹g服務商方能滿足金融機構私有化建設大模型的條件要求。我國通用大模型服務商選擇眾多,且一些AI公司和研究機構已經開發(fā)了支持私有化部署的通用大模型,以滿足金融機構對于數(shù)據(jù)安全、模型定制化等方面的需求。》》金融機構出于降低監(jiān)管風險和潛在業(yè)務風險的考量。當前大模型在金融行業(yè)應用的相關技術與應用處于初級階段的情況下,私有化生態(tài)能使金融機構更好地保障數(shù)據(jù)安全性,防止數(shù)據(jù)泄露和濫用,更好地控制和管理合規(guī)風險。45私有化生態(tài)運作方式:頭部金融機構主導、多類型服務商參與由于大模型在金融行業(yè)的應用還處于早期階段且建設成本高昂,頭部金融機構出于率先探索目的進行建設,在各建設參與方的合作中位于絕對主導地位,通常呈現(xiàn)以下特點:第一,金融機構作為需求方"以我為主",對大模型部署擁有較強的控制權。根據(jù)自身的業(yè)務需求和戰(zhàn)略目標,主導大模型的建設和發(fā)展方向,會根據(jù)自己的業(yè)務場景和用戶需求,定義模型的功能、性能和安全標準。第二,多類型服務商提供不同的能力廣泛參與。在大模型的建設和應用過程中,金融機構選擇多種類型的服務商參與落地建設和實施,包括但不限于:》》模型提供商:提供AI技術、算法開發(fā)、模型訓練等專業(yè)服務。》》數(shù)據(jù)服務提供商:提供數(shù)據(jù)采集、清洗、標注和分析服務?！贰酚布?提供所需的服務器、存儲設備、GPU等硬件資源?！贰钒踩仗峁┥?提供數(shù)據(jù)安全、隱私保護、合規(guī)性評估等服務?！贰窇煤拖到y(tǒng)集成商:將大模型技術與金融機構現(xiàn)有的應用系統(tǒng)和流程進行集成。私有化生態(tài)適用性與局限:可滿足金融機構的高度定制化和自主性需求,但存在一定的資金和技術門檻私有化生態(tài)下,對于頭部金融機構而言優(yōu)劣勢共存,適用性主要是適配度高和自主性強。》》技術適配性。金融機構可以根據(jù)自身技術架構和業(yè)務流程,對大模型進行適配,確保技術與現(xiàn)有系統(tǒng)的兼容性和集成性?！贰房煽匦?。私有化生態(tài)模式意味著金融機構對大模型擁有完全的控制權,可以根據(jù)自身業(yè)務需求和發(fā)展戰(zhàn)略進行定制和優(yōu)化?！贰窋?shù)據(jù)安全與隱私保護。在私有化部署模式下,頭部金融機構自身的數(shù)據(jù)不出域,可以有效保護用戶數(shù)據(jù)和隱私,增強數(shù)據(jù)安全性。相對于適用性而言,私有化生態(tài)也存在局限,主要體現(xiàn)在模型搭建初期和后續(xù)技術迭代的高投入?！贰匪懔Φ荣Y源建設和利用分散化程度高。各家機構投入大量成本自建支撐大模型的基礎設施資源,但大模型的應用僅針對單個機構,資源利用效率不充分,存在資源浪費,性價比不高?！贰纺Ｐ透屡c迭代受限于單一金融機構的投入與使用情況。私有化模式下技術迭代速度可能偏慢,因為模型的更新和迭代受限于機構內部資源和投入,模型的訓練效果可能受限于數(shù)據(jù)集和算力而導致智能化程度缺乏市場適應性。建行在2023年啟動"方舟計劃"推進大模型建設,包含基于通用大模型打造大模型的模型訓練體系、智算集群、數(shù)據(jù)體系、應用場景等,從而從算法、算力、數(shù)據(jù)等多個層面形成完備的建行大模型的支撐,同時構建大模型向量知識庫,打造了多類型工具,推進了生成式A在智能客服、市場營銷、投研報告、智慧辦公、智能運營、智能風控等多個場景的應用。根據(jù)公開研究,建行的大模型落地是通過與國內領先的大模型和云服務商進行合作。從部署方式看,出于對核心數(shù)據(jù)安全性的考慮,建行對基于通用大模型訓練和微調之后的模型進行了私有化部署。在大模型訓練過程中,前期的數(shù)據(jù)收集、轉換、確定框架模型等工作由建行完成,中后期的訓練、評估、微調由國內領先的模型服務商和云服務商按照建行的需求執(zhí)行。從未來應用場景的規(guī)劃看,基于目前在風控、產品、客服、辦公等場景的應用,下一步建行計劃將大模型引入網上金融業(yè)務部和網上銀行業(yè)務部,使生成式A大模型在業(yè)務場景發(fā)揮更大的價值。46云化生態(tài)云化生態(tài)的特征:基建共享,對金融機構自身的科技建設能力要求降低,金融機構可在云上自行開發(fā)應用云化生態(tài)中,技術服務商將模型及算力等底層技術設施能力封裝成服務提供給金融機構使用,金融機構從公有云或行業(yè)云調用大模型服務接口,在此基礎上直接開發(fā)具體場景的應用,無須開發(fā)和維護底層基礎能力,以降低技術使用門檻、控制成本、簡化系統(tǒng)運維管理,從而加速AI技術在更多金融機構中的普及應用。云化生態(tài)更適合于有一定的科技建設能力、對技術投入成本預算相對有限的中型金融機構采用的大模型建設模式,目前中國金融行業(yè)典型的實踐案例較少。云化生態(tài)成因:由大模型技術成熟度提升和金融機構技術降本需求共同推動云化生態(tài)的實現(xiàn)需要大模型在金融行業(yè)經過一定時間的應用而得以提高廠商的技術成熟度。屆時部分頭部大型金融機構對大模型的應用已經有一定的探索和經驗積累,在此過程中各類生態(tài)參與方也通過與大型金融機構的合作打磨和沉淀了更多可供對外輸出的統(tǒng)一化能力。隨著更多具備一定資金和技術實力的中型金融機構追隨大型金融機構開始正式入局大模型的廣泛應用時,在以大型機構為主導的私有化生態(tài)之外,還將開始發(fā)展出適用于中型金融機構的云化生態(tài)。云化生態(tài)產生的主要原因如下:》》技術成熟度提高,金融機構對大模型的認可度提升。技術提供商通過前期與頭部大型金融機構共同建設大模型的經驗積累與能力沉淀,產品與服務成熟度得到提升,尤其是金融行業(yè)領域大模型的智能化程度與應用效果更明顯,具備了規(guī)?；瘜ν廨敵龌A設施的能力。4748》》金融機構對成本控制的需求推動大模型應用的技術降本。在云化生態(tài)下,云廠商對大模型所需的基礎設施和模型提供云化服務,幫助金融機構控制算力投入、技術開發(fā)和運維成本,提高金融機構在大模型落地方面的投入產出性價比。云化生態(tài)運作方式:金融機構的主導性減弱,與各技術廠商開放協(xié)作云化生態(tài)下,生態(tài)運作的特點:》》金融機構的"以我為主"特性減弱,金融機構和技術服務商深入場景共同開發(fā)。云服務廠商為金融機構提供云計算資源,包括存儲、計算、網絡等;金融機構提出深入的業(yè)務場景和需求,廠商則利用其技術能力,定制開發(fā)滿足特定金融場景需求。》》生態(tài)中金融機構參與者數(shù)量增加:伴隨著技術服務商的技術降本,金融機構使用大模型的成本降低,除了大型金融機構外,中等體量的金融機構有望參與進來,對云化生態(tài)下的整體運作產生影響,如開發(fā)更多的應用場景、共享部分的數(shù)據(jù)等?！贰烽_放API和生態(tài)系統(tǒng)。云服務廠商提供開放的API和豐富的生態(tài)系統(tǒng),使金融機構能便捷集成大模型能力,并與其他系統(tǒng)和服務連接。云化生態(tài)的適用性與局限:資源利用率提高,大模型普惠性提升,但長尾機構可能仍面臨一定程度的使用門檻通過云化生態(tài)合作模式,不同金融機構將可以在算力和模型層面實現(xiàn)資源共享、優(yōu)勢互補,共同推動大模型技術的發(fā)展和應用。適用性體現(xiàn)在:》》相比于私有化生態(tài),云化生態(tài)下實現(xiàn)算力、模型等技術設施共享,降低了金融機構部署的綜合成本。云化生態(tài)模式下,參與的金融機構數(shù)量相比于私有化生態(tài)更多,具備一定開發(fā)人員和研發(fā)實力的中型金融機構能夠參與其中。在此模式下,可以不用自建大模型相關的算力、網絡、數(shù)據(jù)、存儲等基礎資源,也無需投入對應的人才和成本做基于通用大模型的精調,而是在統(tǒng)一的云服務基礎上,直接使用成熟的基礎模型進行推理部署,減少本地化自主開發(fā)建設的成本和工作量?！贰焚Y源利用和配置更加集中,減少了資源的分散建設和使用。行業(yè)層面集中算力資源、技術資源統(tǒng)一提供服務或成為大勢所趨。在各家機構自建的情況下,有限的算力資源及人才資源等各類資源處于分散狀態(tài)。云化生態(tài)模式下,通過云服務為金融行業(yè)提供算力、模型等資源,可以實現(xiàn)算力資源更加集中和統(tǒng)一的利用與配置?！贰繁阌谀Ｐ偷某掷m(xù)迭代與優(yōu)化?；谠品?金融機構基于業(yè)務需求大量調用大模型的情況下,模型本身不斷地優(yōu)化和迭代,金融機構也可以及時享受大模型的快速迭代和優(yōu)化能力成果,以適應市場變化和業(yè)務發(fā)展。但是云化生態(tài)依然存在局限,主要是應用門檻尚未大幅降低以及存在生態(tài)壁壘。》》應用門檻并沒有被大幅降低:對于長尾金融機構而言,依然需要配備對應的技術開發(fā)人員進行應用場景的開發(fā)與探索,依然存在一定的技術使用成本和門檻,需要一定的應用開發(fā)周期?！贰凡煌脑苹鷳B(tài)之間尚難實現(xiàn)互通:不同的模型對底層的算力等基礎設施的適配沒有完全打通,依然需要金融機構考慮不同模型和平臺與底層的基礎設施的適配問題,進行合理的配置。49平臺化生態(tài)平臺化生態(tài)特征:從底層算力到上層應用均通過平臺輸出,金融機構"開箱即用"未來大模型在金融領域的生態(tài)或發(fā)展為依托多個大模型服務創(chuàng)新平臺,向金融機構提供大模型應用所需的全套資源,包含算力等基礎設施資源、通用大模型及各類專業(yè)領域小模型等多樣化的模型資源、金融業(yè)務的各類場景應用資源,以及連接金融產品和服務終端用戶。這一生態(tài)模式整合金融機構、技術提供方的資源和金融用戶的需求。跟云化生態(tài)相比,這一層級的生態(tài)具備以下特點:》》大模型技術與金融業(yè)務要素共享,開放連接多個參與主體,形成全層級的產品與服務整合與沉淀,平臺化輸出能力:1)連接金融機構和技術提供方。金融機構和技術提供方可以通過平臺共享資源,如數(shù)據(jù)、算力、模型等。各類技術提供方的產品與服務通過平臺整合,實現(xiàn)技術提供方與需求方的充分鏈接匹配。2)連接應用開發(fā)者和技術提供方。為應用開發(fā)者和技術提供方(如云服務提供商、工具和平臺供應商)建立連接,構建開發(fā)者生態(tài)。平臺為應用開發(fā)者提供集成開發(fā)環(huán)境和易于使用的開發(fā)工具,使開發(fā)者能夠快速構建和部署應用程序。通過平臺化生態(tài),大模型的各類技術提供方可以與應用開發(fā)者建立緊密的聯(lián)系,形成一個互利共贏的開發(fā)者生態(tài)系統(tǒng)。從而推動技術創(chuàng)新和應用開發(fā),還能為金融機構提供更豐富、更高質量的服務和產品。3)鏈接金融用戶和金融機構。金融機構可以通過平臺集成多種金融服務和產品,提供一站式的用戶體驗,增強用戶粘性,還可以促進金融機構之間的合作,形成聯(lián)盟,共同開發(fā)新的金融產品和服務,豐富金融機構與用戶之間的服務場景。5152機構提供廠商機構技術開發(fā)者B端或C端金融用戶技術開發(fā)者金融場景金融場景大模型技術業(yè)務與技術開放融合能力沉淀業(yè)務與技術開放融合能力沉淀來源:螞蟻集團研究院&IDC繪制》》更加深入場景,提供開箱即用的AI應用。平臺具備開箱即用的針對具體場景的AI應用,金融機構按需直接調用,因此這一層級的平臺化生態(tài)能力更加原子化。金融機構通過與平臺合作,快速鏈接使用,無需自建模型和開發(fā)應用,以足夠便捷和低成本的方式解決大模型在金融機構落地的工程化問題?！贰方鹑跈C構通過專業(yè)智能體實現(xiàn)不同平臺的能力調用,打破平臺邊界。依托專業(yè)智能體的跨平臺深度連接,可以集成不同平臺的多種AI服務和工具,金融機構通過專業(yè)智能體靈活調用不同平臺的功能,實現(xiàn)跨平臺的充分協(xié)同合作與開放,帶來智能化服務的代際升級。平臺化生態(tài)成因:長尾金融機構應用需求明顯,未來大模型在金融領域應用的技術和制度環(huán)境逐漸成熟平臺化生態(tài)有可能是大模型在金融行業(yè)應用進一步發(fā)展到成熟階段之后可適用于科技力量極為薄弱的長尾金融機構的生態(tài)模式。屆時大模型在金融行業(yè)的應用經過頭部機構和中部機構的實踐,已經得到了對應的應用價值的充分證明,大量長尾部金融機構也有強烈的應用動力;同時從技術提供商角度,經過與更多金融機構的協(xié)同共建場景應用進行更細化的能力打磨和沉淀,各類技術提供參與方也具備了更多可對外規(guī)模化輸出的成熟能力?！贰贩丈探y(tǒng)一進行技術和能力整合。在私有化生態(tài)中,以金融機構為絕對主導,各類生態(tài)參與方效用有限,且各層級資源形成機構化獨立與分割,分散建設;而在云化生態(tài)中,依然存在金融機構針對機構內具體應用的獨立建設環(huán)節(jié)。平臺化生態(tài)以統(tǒng)一的行業(yè)平臺形式對相關能力統(tǒng)一整合并合理分配,進行統(tǒng)一輸出,充分實現(xiàn)大模型資源的高效利用,形成合力提升大模型的能力?！贰反罅块L尾金融機構進一步的技術降本和應用需求。對于云化生態(tài)而言,金融機構雖然可以不用自建算力基礎設施和模型,但是依然需要基于自身的場景和數(shù)據(jù)進行進一步的場景化應用開發(fā),對于開發(fā)人員和對應的成本投入依然有要求。而對于大量的長尾小型金融機構而言,開發(fā)人員配備并不齊全,并且從業(yè)務類型和規(guī)模而言也不具備獨立開發(fā)具體場景應用的性價比,因此開箱即用的端到端服務調用對于該類金融機構而言,更能解決其技術降本和應用需求的矛盾?！贰肺磥泶竽Ｐ拖嚓P的監(jiān)管和標準趨向完善,各類接口和協(xié)議有了較為統(tǒng)一的標準,從而具備進行