版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
計(jì)算機(jī)行業(yè)“智能網(wǎng)聯(lián)”系列報(bào)告26
GPT:大模型多模態(tài)應(yīng)用展望
楊澤原/丁奇/潘儒琛/李康橋
中信證券研究部計(jì)算機(jī)組
2023年3月12日
請(qǐng)務(wù)必閱讀末頁(yè)的免責(zé)條款和聲明
核心觀點(diǎn)
ChatGPT通過(guò)大模型突破AI瓶頸,GPT-4多模態(tài)應(yīng)用帶動(dòng)商業(yè)化加速。
ChatGPT憑借大算力、大規(guī)模數(shù)據(jù)訓(xùn)練、基于人類(lèi)知識(shí)的強(qiáng)化學(xué)習(xí)等方式突破AI技術(shù)瓶頸,獲得超預(yù)期的用戶體驗(yàn)效果與市場(chǎng)反響。
回顧GPT系列模型演進(jìn),GPT-1結(jié)合無(wú)監(jiān)督預(yù)訓(xùn)練與有監(jiān)督微調(diào)過(guò)程,GPT-2突出零樣本設(shè)定,GPT-3強(qiáng)調(diào)上下文學(xué)習(xí)能力,參數(shù)量、
訓(xùn)練數(shù)據(jù)量不斷提升。我們預(yù)計(jì)即將推出的GPT-4或支持多模態(tài)應(yīng)用,開(kāi)啟通往人工通用智能(AGI)之路,并有望控制訓(xùn)練成本,降
低使用門(mén)檻。目前,ChatGPT已在C端推出ChatGPTPlus訂閱計(jì)劃,B端開(kāi)放ChatGPTAPI,且成本降低為0.002美金/1000token,海
外多個(gè)應(yīng)用率先接入。我們預(yù)計(jì)在GPT-4帶動(dòng)下,未來(lái)大模型以及多模態(tài)模型的商業(yè)化應(yīng)用將進(jìn)一步加速,帶動(dòng)行業(yè)景氣度持續(xù)向上。
Transformer架構(gòu)支撐GPT走向多模態(tài),構(gòu)筑AIGC領(lǐng)域核心基石。
GPT系列模型使用Transformer架構(gòu),當(dāng)前基于Transformer的多模態(tài)研究為AI領(lǐng)域研究熱點(diǎn),Transformer已開(kāi)始打破NLP與CV領(lǐng)域壁
壘,有望支撐GPT系列模型走向多模態(tài)應(yīng)用,構(gòu)筑AIGC領(lǐng)域核心能力基石。我們梳理出GPT的潛在基礎(chǔ)能力包括文本生成(分析)、
代碼生成、對(duì)話交互、機(jī)器翻譯、圖像生成、視頻生成等。我們認(rèn)為,前述基礎(chǔ)能力將支撐GPT系列模型在通用與垂直領(lǐng)域的應(yīng)用,典
型應(yīng)用場(chǎng)景如:通用領(lǐng)域—搜索引擎/辦公軟件,垂直領(lǐng)域—教育/金融/醫(yī)療/圖像視頻等。
通用與垂直場(chǎng)景多點(diǎn)開(kāi)花,GPT變革內(nèi)容生成與交互方式。
GPT有望革新各行各業(yè)的內(nèi)容生成與交互方式?;贕PT+文本&代碼&對(duì)話&翻譯&圖像&視頻,我們看好GPT類(lèi)技術(shù)未來(lái)在通用與垂直
場(chǎng)景的應(yīng)用空間。例如,搜索引擎結(jié)合GPT將重塑搜索結(jié)果呈現(xiàn)方式,多模態(tài)的引入帶來(lái)一站式的文本、圖像、視頻匯集結(jié)果,將大為
提升用戶信息收集效率,百度文心一言有望引領(lǐng)用戶搜索體驗(yàn)的代際變革;在辦公軟件領(lǐng)域,金山WPS、福昕PDF未來(lái)若結(jié)合多模態(tài)
GPT,有望深化用戶在流程/事務(wù)/知識(shí)/創(chuàng)意/協(xié)作型等多類(lèi)工作事項(xiàng)上的智能辦公體驗(yàn),同時(shí)支撐產(chǎn)品打開(kāi)客單價(jià)提升空間;訊飛將以
AI學(xué)習(xí)機(jī)率先落地類(lèi)ChatGPT技術(shù),有望在作文輔導(dǎo)、口語(yǔ)學(xué)習(xí)方面實(shí)現(xiàn)躍升;當(dāng)虹科技具有視頻AI建模能力、落地AIGC相關(guān)技術(shù),
GPT賦能下或進(jìn)一步深化傳媒、安全領(lǐng)域應(yīng)用。
投資策略:伴隨成本下降以及多模態(tài)的持續(xù)演進(jìn),GPT等大模型有望構(gòu)筑AIGC核心基石,推動(dòng)AI商業(yè)化進(jìn)程加速和市場(chǎng)天花板打開(kāi)。
建議持續(xù)關(guān)注相關(guān)領(lǐng)域的AI公司:1)應(yīng)用層:AI+行業(yè):辦公—金山辦公、福昕軟件,教育—科大訊飛,金融—同花順、東方財(cái)富,醫(yī)
療—?jiǎng)?chuàng)業(yè)慧康、衛(wèi)寧健康,圖像視頻—商湯科技、當(dāng)虹科技、云從科技、格靈深瞳、創(chuàng)新奇智、虹軟科技、魅視科技,其他-拓爾思、漢
王科技、海天瑞聲等;2)基礎(chǔ)設(shè)施層:海光信息、景嘉微、寒武紀(jì)、浪潮信息、工業(yè)富聯(lián)、中科曙光等。
風(fēng)險(xiǎn)提示:AI核心技術(shù)發(fā)展不及預(yù)期風(fēng)險(xiǎn);科技領(lǐng)域政策監(jiān)督收緊風(fēng)險(xiǎn);企業(yè)數(shù)據(jù)安全風(fēng)險(xiǎn);信息安全風(fēng)險(xiǎn);行業(yè)競(jìng)爭(zhēng)加劇風(fēng)險(xiǎn)。2
1.ChatGPT通過(guò)大模型突破AI瓶頸,GPT-4多模態(tài)應(yīng)用帶動(dòng)商業(yè)化加速
4
1.1概述:ChatGPT為NLP下的AI大模型,性能和使用體驗(yàn)超預(yù)期
ChatGPT是自然語(yǔ)言處理(NLP)下的AI大模型,通過(guò)大算力、大規(guī)模訓(xùn)練數(shù)據(jù)突破AI瓶頸。2022年11月,OpenAI推
出ChatGPT,ChatGPT基于GPT-3.5,使用人類(lèi)反饋強(qiáng)化學(xué)習(xí)技術(shù),將人類(lèi)偏好作為獎(jiǎng)勵(lì)信號(hào)并微調(diào)模型,實(shí)現(xiàn)有邏輯
的對(duì)話能力。
ChatGPT本質(zhì)上是通過(guò)超大的統(tǒng)計(jì)語(yǔ)言模型,對(duì)詞語(yǔ)序列的概率分布進(jìn)行建模,利用上下文信息預(yù)測(cè)后續(xù)詞語(yǔ)出現(xiàn)的概
率分布,其表現(xiàn)的超預(yù)期反映了在算力水平提升的情況下大語(yǔ)言模型技術(shù)路線的成功,通過(guò)對(duì)大規(guī)模的未標(biāo)注的文本數(shù)據(jù)
進(jìn)行訓(xùn)練,突破了AI發(fā)展的技術(shù)瓶頸。根據(jù)《瞭望》新聞周刊報(bào)道,OpenAI為了讓ChatGPT的語(yǔ)言合成結(jié)果更自然流
暢,使用了45TB的數(shù)據(jù)、近1萬(wàn)億個(gè)單詞來(lái)訓(xùn)練模型,訓(xùn)練一次的成本高達(dá)千萬(wàn)美元,一個(gè)月的運(yùn)營(yíng)成本需要數(shù)百萬(wàn)美
元。
ChatGPT幫助用戶給鄰居寫(xiě)信ChatGPT幫助用戶debug
5
資料來(lái)源:OpenAI官網(wǎng)資料來(lái)源:OpenAI官網(wǎng)
1.1概述:OpenAI傾力打造ChatGPT,獲得微軟有力加持
ChatGPT出自美國(guó)AI創(chuàng)業(yè)公司OpenAI,是AI大模型領(lǐng)域的領(lǐng)軍者。OpenAI在2015年由SamAltman、PeterThiel、Reid
Hoffman、ElonMusk等人創(chuàng)辦。公司成立之初,即確定了包括制造“通用”機(jī)器人和使用自然語(yǔ)言的聊天機(jī)器人的發(fā)展
目標(biāo)。2019年,OpenAI獲得來(lái)自微軟的10億美元投資,為Azure云端平臺(tái)服務(wù)開(kāi)發(fā)AI技術(shù)。2018年起,OpenAI開(kāi)始發(fā)布
GPT(GenerativePre-trainedTransformer)模型,2020年發(fā)布GPT-3,可以完成答題、寫(xiě)論文、代碼生成等任務(wù),被視
為人工智能競(jìng)賽的里程碑事件,并直至ChatGPT的推出引起AI的熱潮。
除了NLP領(lǐng)域,OpenAI還在多模態(tài)領(lǐng)域取得成就,包括發(fā)布了AI圖像生成器DALL-E2,對(duì)音頻轉(zhuǎn)錄編輯器Descript、AI筆
記應(yīng)用Mem等進(jìn)行投資。
OpenAI發(fā)展歷程
發(fā)布Proximal研究從文本創(chuàng)建圖
OpenAI成立,馬發(fā)布GPT-2,獲微
Policy像神經(jīng)網(wǎng)絡(luò)
斯克等人參與軟10億美元投資
Optimization算法DALL·E
20152016201720182019202020212022
OpenAI宣布其發(fā)
展的主要目標(biāo),發(fā)布GPT-3,開(kāi)發(fā)布人工智能系
發(fā)布第一個(gè)項(xiàng)發(fā)布GPT-1放人工智能應(yīng)用統(tǒng)DALL·E2與
目——OpenAI程序接口ChatGPT
GymBeta
6
資料來(lái)源:OpenAI官網(wǎng),中信證券研究部
1.2演變:GPT-1—無(wú)監(jiān)督預(yù)訓(xùn)練+有監(jiān)督微調(diào)
GPT-1發(fā)布于2018年6月,參數(shù)量達(dá)1.17億,預(yù)訓(xùn)練數(shù)據(jù)量約5GB。GPT-1包含預(yù)訓(xùn)練和微調(diào)兩個(gè)階段,考慮到自然語(yǔ)言
處理任務(wù)中有標(biāo)簽的語(yǔ)料少,GPT-1先在大量的無(wú)標(biāo)簽數(shù)據(jù)上訓(xùn)練語(yǔ)言模型,然后在下游具體任務(wù)(如分類(lèi)、常識(shí)推理、
自然語(yǔ)言推理等)的有標(biāo)簽數(shù)據(jù)集上進(jìn)行微調(diào)。1)在無(wú)監(jiān)督訓(xùn)練中,GPT-1采用Transformer的架構(gòu),即標(biāo)準(zhǔn)的語(yǔ)言模型
的目標(biāo)函數(shù),通過(guò)前面的詞預(yù)測(cè)后面的詞;2)在有監(jiān)督訓(xùn)練中,采用標(biāo)準(zhǔn)的分類(lèi)目標(biāo)函數(shù),僅需對(duì)第一階段預(yù)訓(xùn)練的語(yǔ)
言模型做出很小的結(jié)構(gòu)改變,即可應(yīng)用于各種下游任務(wù)。
GPT-1使用了BooksCorpus數(shù)據(jù)集來(lái)訓(xùn)練語(yǔ)言模型,其中有7000余本未出版的書(shū)籍。具體表現(xiàn)上,在有監(jiān)督學(xué)習(xí)的12項(xiàng)
任務(wù)中,GPT-1在其中9項(xiàng)上的表現(xiàn)優(yōu)于專門(mén)訓(xùn)練的受監(jiān)督模型。
GPT-1包含預(yù)訓(xùn)練和微調(diào)兩個(gè)訓(xùn)練階段GPT-1在自然語(yǔ)言推理任務(wù)、問(wèn)答和常識(shí)推理任務(wù)中的表現(xiàn)
資料來(lái)源:《ImprovingLanguageUnderstandingbyGenerativePre-Training》(AlecRadford、資料來(lái)源:《ImprovingLanguageUnderstandingbyGenerativePre-Training》(AlecRadford、7
KarthikNarasimhan、TimSalimans等)KarthikNarasimhan、TimSalimans等)
1.2演變:GPT-2—無(wú)監(jiān)督預(yù)訓(xùn)練+多任務(wù)學(xué)習(xí)
GPT-2發(fā)布于2019年2月,參數(shù)量達(dá)15億,預(yù)訓(xùn)練數(shù)據(jù)量約40GB。GPT-1使用的概率條件模型為p(output|input),GPT-2
使用相同的無(wú)監(jiān)督模型學(xué)習(xí)多個(gè)任務(wù),將概率條件模型修改為p(output|input,task),期望模型對(duì)不同任務(wù)的相同輸入產(chǎn)
生不同的輸出。此外,GPT-2采取Zero-shot設(shè)定,不需要下游任務(wù)的標(biāo)注信息,而是根據(jù)給定的指令理解任務(wù)。因此
GPT-2的核心思想在于多任務(wù)學(xué)習(xí)。
GPT-2訓(xùn)練的數(shù)據(jù)集來(lái)自社交新聞平臺(tái)Reddit,共有約800萬(wàn)篇文章,體積超40GB。具體表現(xiàn)上,在8個(gè)語(yǔ)言模型任務(wù)
中,僅通過(guò)Zero-Shot學(xué)習(xí),GPT-2在其中7個(gè)上領(lǐng)先。GPT-2表明,隨著模型容量和數(shù)據(jù)量增大,GPT模型的潛力仍有望
進(jìn)一步顯現(xiàn)。
語(yǔ)言模型參數(shù)增加,Zero-shot在NLP任務(wù)上表現(xiàn)提升
8
資料來(lái)源:《LanguageModelsareUnsupervisedMultitaskLearners》(AlecRadford、JeffreyWu、RewonChild等)
1.2演變:GPT-3—無(wú)監(jiān)督預(yù)訓(xùn)練+海量參數(shù)
GPT-3發(fā)布于2020年5月,參數(shù)量達(dá)1750億,預(yù)訓(xùn)練數(shù)據(jù)量約45TB。GPT-3采用海量的參數(shù)來(lái)進(jìn)行訓(xùn)練和學(xué)習(xí),不追求
GPT-2中的Zero-shot設(shè)定,而是通過(guò)少量樣例(Few-shot或One-shot)理解并執(zhí)行任務(wù),對(duì)應(yīng)為模型的上下文學(xué)習(xí)能
力。GPT-3在作用到子任務(wù)時(shí),無(wú)需進(jìn)行微調(diào),以避免龐大的模型體量所帶來(lái)的高成本。具體表現(xiàn)上,在大量的語(yǔ)言模型
數(shù)據(jù)集中,Zero-shot或Few-shot設(shè)置下,GPT-3超過(guò)了LAMBADA和PennTreeBank;GPT-3也在很多復(fù)雜的NLP任務(wù)
中超過(guò)微調(diào)后的最佳方法。
Few-shot準(zhǔn)確性表現(xiàn)增速更快表明大模型在上下文學(xué)習(xí)上更強(qiáng)大Zero-shot、one-shot、few-shot與fine-tune對(duì)比
資料來(lái)源:《LanguageModelsareFew-ShotLearners》(TomB.Brown、Benjamin資料來(lái)源:《LanguageModelsareFew-ShotLearners》(TomB.Brown、9
Mann、NickRyder等)BenjaminMann、NickRyder等)
1.2演變:ChatGPT—基于GPT-3.5,引入人類(lèi)反饋強(qiáng)化學(xué)習(xí)
ChatGPT基于GPT-3.5開(kāi)發(fā),最大的變化在于引入人類(lèi)反饋強(qiáng)化學(xué)習(xí)。ChatGPT引入人類(lèi)反饋強(qiáng)化學(xué)習(xí),使用人工對(duì)模
型回復(fù)進(jìn)行打分排名,使得其更好地理解并完成指令。在表現(xiàn)上,ChatGPT能夠理解指令、提供基本令人滿意甚至是超
預(yù)期的回答、進(jìn)行多輪對(duì)話以及拒絕不合理的請(qǐng)求等。相較于GPT-3,ChatGPT的回答更有體系性、邏輯性;相較于對(duì)
話機(jī)器人,ChatGPT能夠回答假設(shè)性的問(wèn)題,并可以連續(xù)對(duì)話。
未來(lái),ChatGPT待強(qiáng)化的方向還包括:納入最新的網(wǎng)絡(luò)語(yǔ)料、避免不合理的答案輸出等。
ChatGPT訓(xùn)練包括訓(xùn)練監(jiān)督策略模型、訓(xùn)練獎(jiǎng)勵(lì)模型、PPO強(qiáng)化學(xué)習(xí)三個(gè)階段
10
資料來(lái)源:OpenAI官網(wǎng)
1.3展望:GPT-4—此前外界預(yù)期參數(shù)量變化不大、使用門(mén)檻有望降低
GPT-4備受業(yè)界期待,訓(xùn)練成本控制有望帶動(dòng)商業(yè)潛力的極大增強(qiáng)。ChatGPT的突出表現(xiàn)使得外界對(duì)GPT-4十分期待,
自2021年以來(lái)便有報(bào)道稱GPT-4“即將推出”,OpenAI公司CEOSamAltman今年受StrictlyVC采訪時(shí)表示GPT-4將在
“有信心可以安全且負(fù)責(zé)任地運(yùn)行時(shí)”推出。外界此前也曾預(yù)期,GPT-4的推出或分階段進(jìn)行,例如GPT-3也是先開(kāi)放給
合作伙伴、付費(fèi)用戶和學(xué)術(shù)機(jī)構(gòu),才在2022年底開(kāi)放給公眾。
在參數(shù)量上,針對(duì)有傳言稱GPT-4參數(shù)量將達(dá)到百萬(wàn)億,OpenAI公司CEOSamAltman予以否定。此外,AI專家Alberto
Romero預(yù)測(cè),GPT-4的重點(diǎn)在數(shù)據(jù)處理優(yōu)化上,因此其使用門(mén)檻有望降低,我們預(yù)計(jì)訓(xùn)練成本的控制將帶動(dòng)其商業(yè)潛力
的增強(qiáng)。
GPT-4參數(shù)量的傳聞遭到否定Altman談及GPT-4預(yù)計(jì)推出時(shí)間
11
資料來(lái)源:微信公眾號(hào)“機(jī)器之心”資料來(lái)源:TheVerge,中信證券研究部
1.3展望:GPT-4—最新消息稱推出在即、支持多模態(tài)
最新消息稱GPT-4將于下周推出,支持多模態(tài)應(yīng)用,開(kāi)啟通往人工通用智能之路。根據(jù)德國(guó)科技媒體“heise在線”報(bào)
道,當(dāng)?shù)貢r(shí)間3月9日,微軟德國(guó)公司首席技術(shù)官AndreasBraun在名為“AIinFocus-DigitalKickoff”的活動(dòng)中透露稱
“將在下周推出GPT-4,它將是一個(gè)多模態(tài)模型,會(huì)提供完全不同的可能性——例如視頻”。這意味著GPT-4可以管理不
同語(yǔ)言數(shù)據(jù)的輸入和輸出,也能夠做到輸出圖像甚至視頻。在活動(dòng)上,微軟AI技術(shù)專家對(duì)多模態(tài)AI的應(yīng)用案例進(jìn)行了介
紹,例如能夠?qū)㈦娫捄艚械恼Z(yǔ)音直接記錄成文本,這為微軟位于荷蘭的一家大型客戶節(jié)省500個(gè)工作小時(shí)/天。
GPT-4對(duì)多模態(tài)的支持使得外界對(duì)模型潛力的預(yù)期進(jìn)一步強(qiáng)化,原因在于多模態(tài)感知是建立人工通用智能(AGI)的重要
一步,基于此能夠執(zhí)行人類(lèi)水平的一般任務(wù)。
微軟德國(guó)公司首席技術(shù)官AndreasBraun稱GPT-4即將推出人工智能已從單模態(tài)轉(zhuǎn)向多模態(tài)
12
資料來(lái)源:heiseonline資料來(lái)源:微信公眾號(hào)“水木學(xué)堂”
1.4商業(yè)模式:C端推出訂閱制會(huì)員,B端提供調(diào)用API接口
ChatGPT迅速走紅,以訂閱制服務(wù)B端、C端客戶,成本控制下將有效加速商業(yè)化落地。ChatGPT自年初以來(lái),持續(xù)出
圈,截至2023年1月末月活突破1億,成為史上增長(zhǎng)最快的消費(fèi)者應(yīng)用??紤]到計(jì)算資源所牽涉的龐大訓(xùn)練成本、運(yùn)行成
本,ChatGPT的商業(yè)化路徑已正在探索、明確中。
商業(yè)模式—1)C端:OpenAI發(fā)布ChatGPTPlus訂閱計(jì)劃,每月收費(fèi)20美元,相較于免費(fèi)版本,即便在高峰時(shí)段用戶也
能正常訪問(wèn)ChatGPT,響應(yīng)時(shí)間更快,可以優(yōu)先使用新功能,有望引領(lǐng)AI技術(shù)變現(xiàn)新模式;2)B端:OpenAI發(fā)布
ChatGPTAPI,開(kāi)發(fā)者可以將ChatGPT集成到產(chǎn)品中,價(jià)格為$0.002/1ktoken,相較于GPT-3.5降低90%,我們預(yù)計(jì)成
本控制后有望快速帶動(dòng)GPT相關(guān)應(yīng)用爆發(fā)。根據(jù)微信公眾號(hào)“智東西”,生鮮電商Instacart、跨境電商Shopify、照片分
享應(yīng)用Snap、單詞背誦應(yīng)用Quizlet等已率先接入ChatGPTAPI。
OpenAI上線ChatGPTPlus訂閱計(jì)劃Quizlet將基于ChatGPTAPI推出Q-Chat
13
資料來(lái)源:OpenAI官網(wǎng)資料來(lái)源:OpenAI官網(wǎng)
2.Transformer架構(gòu)支撐GPT走向多模態(tài),構(gòu)筑AIGC領(lǐng)域核心基石
14
2.1GPT采用的Transformer架構(gòu)在NLP領(lǐng)域已躋身主流
GPT沿用主流Transformer模型,該模型采用自注意力機(jī)制,在NLP上表現(xiàn)優(yōu)于RNN(循環(huán)神經(jīng)網(wǎng)絡(luò))。2017年,谷歌
在《AttentionisAllYouNeed》中提出Transformer模型,可用于文本摘要、機(jī)器翻譯等NLP任務(wù)。在NLP方面,
Transformer模型的自注意力(self-attention)機(jī)制可以為輸入序列中的任意位置提供上下文,進(jìn)而模型能夠一次性處理
所有輸入數(shù)據(jù),而非RNN一次只處理一個(gè)單詞的情況,由此模型可以減少訓(xùn)練時(shí)間,能夠在更大的數(shù)據(jù)集上進(jìn)行訓(xùn)練。
目前,基于Transformer的預(yù)訓(xùn)練語(yǔ)言模型已成為NLP領(lǐng)域的主流。
Transformer在長(zhǎng)序列處理上解決了CNN的最長(zhǎng)路徑問(wèn)題,也解決了RNN的并行度和
Transformer的Encoder-Decoder示意圖遺忘問(wèn)題
前饋神經(jīng)網(wǎng)絡(luò)交互層
自注意力機(jī)制多頭自注意力機(jī)制
輸入部分
15
資料來(lái)源《AttentionisAllYouNeed》(Google),中信證券研究部資料來(lái)源:《動(dòng)手學(xué)深度學(xué)習(xí)》(李沐)
2.2Transformer也可用于CV領(lǐng)域,相較于CNN實(shí)現(xiàn)性能巨大提升
Transformer也可用于CV(計(jì)算機(jī)視覺(jué))領(lǐng)域,表現(xiàn)出巨大的性能提升。CV領(lǐng)域此前更多由CNN(卷積神經(jīng)網(wǎng)絡(luò))主
導(dǎo),而Transformer憑借著自注意力機(jī)制,表現(xiàn)出了巨大的性能提升。根據(jù)微軟亞洲研究院,Transformer在圖像分類(lèi)、物
體檢測(cè)等任務(wù)中刷新了測(cè)評(píng)記錄,例如2020年Transformer被首次應(yīng)用于圖像分類(lèi)任務(wù),結(jié)合海量的預(yù)訓(xùn)練數(shù)據(jù),ViT在
ImageNet-1K的validation評(píng)測(cè)集上取得88.55%的準(zhǔn)確率。Transformer也在視頻動(dòng)作識(shí)別、視覺(jué)自監(jiān)督學(xué)習(xí)、圖像復(fù)原、
圖像分割等視覺(jué)任務(wù)中取得優(yōu)異成績(jī)。谷歌提出的ViT-MoE模型目前在參數(shù)量上領(lǐng)先,達(dá)到了150億。
學(xué)術(shù)界挖掘出的Transformer建模的優(yōu)點(diǎn)Transformer在大模型方面展示了強(qiáng)大的可擴(kuò)展性
16
資料來(lái)源:《為何Transformer在計(jì)算機(jī)視覺(jué)中如此受歡迎?》(微軟亞洲研究院)資料來(lái)源:《為何Transformer在計(jì)算機(jī)視覺(jué)中如此受歡迎?》(微軟亞洲研究院)
2.3Transformer支撐下GPT有望走向多模態(tài),構(gòu)筑AIGC領(lǐng)域核心基石
GPT有望基于Transformer延伸至多模態(tài),構(gòu)筑AIGC核心基石,GPT-4或?qū)崿F(xiàn)領(lǐng)跑。當(dāng)前,基于Transformer的多模態(tài)學(xué)
習(xí)成為AI領(lǐng)域的研究熱點(diǎn),研究者們提出了大量的Transformer變體。鑒于Transformer具有較少的特定于模態(tài)的架構(gòu)假
設(shè),以及生成式預(yù)訓(xùn)練、大模型&大數(shù)據(jù)路線的成功,Transformer能夠聯(lián)動(dòng)CV與NLP,通過(guò)聯(lián)合建模完成,打破CV與
NLP領(lǐng)域之間的壁壘。微軟亞洲研究院2022年推出BEiT-3預(yù)訓(xùn)練模型,在目標(biāo)檢測(cè)、實(shí)例分割、語(yǔ)義分割、視覺(jué)推理、
圖片描述生成等任務(wù)上取得了SOTA的遷移性能。我們認(rèn)為,基于Transformer架構(gòu),GPT未來(lái)有望延伸至多模態(tài),助力
內(nèi)容創(chuàng)作由UGC、PGC全面走向AIGC,賦能通用領(lǐng)域以及金融、教育、醫(yī)療、傳媒等垂直行業(yè)。
BEiT-3預(yù)訓(xùn)練示意圖BEiT-3在視覺(jué)-語(yǔ)言任務(wù)上表現(xiàn)突出
17
資料來(lái)源:《通用多模態(tài)基礎(chǔ)模型BEiT-3:引領(lǐng)文本、圖像、多模態(tài)預(yù)訓(xùn)練邁向“大一統(tǒng)”》(微軟亞洲研究院)資料來(lái)源:《通用多模態(tài)基礎(chǔ)模型BEiT-3:引領(lǐng)文本、圖像、多模態(tài)預(yù)訓(xùn)練邁向“大一統(tǒng)”》(微軟亞洲研究院)
2.3Transformer支撐下GPT有望走向多模態(tài),構(gòu)筑AIGC領(lǐng)域核心基石
微軟Kosmos-1基于Transformer可完成語(yǔ)言任務(wù)和基礎(chǔ)的視覺(jué)任務(wù),反映GPT發(fā)展?jié)摿Α?023年3月初,微軟推出多模
態(tài)模型Kosmos-1,可以處理文本、音頻、圖像和視頻等內(nèi)容,并遵循指令(即零樣本學(xué)習(xí))以及在上下文中學(xué)習(xí)(即少
樣本學(xué)習(xí))。Kosmos-1能夠分析圖像內(nèi)容、解決視覺(jué)難題、執(zhí)行視覺(jué)文本識(shí)別、通過(guò)視覺(jué)智商測(cè)試(準(zhǔn)確度在22-26%之
間)以及理解自然語(yǔ)言指令等。Kosmos-1的骨干網(wǎng)絡(luò)是基于Transformer的因果語(yǔ)言模型,用于訓(xùn)練的數(shù)據(jù)來(lái)自多模態(tài)語(yǔ)
料庫(kù),包括單模態(tài)數(shù)據(jù)(如文本)、跨模態(tài)配對(duì)數(shù)據(jù)(圖像-文本對(duì))和交錯(cuò)的多模態(tài)數(shù)據(jù)。Kosmos-1的表現(xiàn)說(shuō)明了多模
態(tài)大模型的應(yīng)用潛力。
Kosmos-1能夠進(jìn)行圖像解釋、視覺(jué)應(yīng)答、數(shù)字識(shí)別Kosmos-1是第一個(gè)能完成零樣本瑞文智商測(cè)試的AI模型
18
資料來(lái)源:《LanguageIsNotAllYouNeed》(微軟亞洲研究院)資料來(lái)源:《LanguageIsNotAllYouNeed》(微軟亞洲研究院)
2.3Transformer支撐下GPT有望走向多模態(tài),構(gòu)筑AIGC領(lǐng)域核心基石
GPT基礎(chǔ)能力包括文本生成(分析)、代碼生成、對(duì)話交互、機(jī)器翻譯、圖像生成、視頻生成等,借此賦能通用與垂直
領(lǐng)域應(yīng)用,有望帶來(lái)商業(yè)模式的重塑與變革。
結(jié)合ChatGPT現(xiàn)有應(yīng)用場(chǎng)景,以及對(duì)GPT未來(lái)模型演變的展望,我們歸納出GPT的基礎(chǔ)能力,具體包括:文本生成(分析)、代碼生
成、對(duì)話交互、機(jī)器翻譯、圖像生成、視頻生成等。
我們認(rèn)為,這些基礎(chǔ)能力將支撐GPT在通用與垂直領(lǐng)域的應(yīng)用,新的應(yīng)用領(lǐng)域的出現(xiàn)也將基于這些能力的組合。例如,在辦公軟件領(lǐng)
域,主要涉及GPT的文本能力;在教育行業(yè),主要應(yīng)用到文本、對(duì)話、翻譯能力。
GPT能力與主要應(yīng)用領(lǐng)域
NLP能力拼寫(xiě)檢查信息檢索主題建模文本分類(lèi)信息提取封閉會(huì)話文本概括問(wèn)題回答機(jī)器翻譯開(kāi)放會(huì)話
多模態(tài)演進(jìn)
GPT能力文本生成代碼生成對(duì)話交互機(jī)器翻譯圖像生成視頻生成
賦能
GPT應(yīng)用搜索引擎辦公軟件教育金融醫(yī)療圖像視頻
√重塑結(jié)果呈現(xiàn)方式√打造效率生產(chǎn)工具√啟發(fā)式教學(xué)√智能客服&營(yíng)銷(xiāo)√導(dǎo)診問(wèn)診輔助√信息采集
√改變盈利模式√深化智能辦公體驗(yàn)√深入的對(duì)話探討√智能、精準(zhǔn)的投顧√臨床研究助手√信息制作
√影響競(jìng)爭(zhēng)格局√打開(kāi)客單價(jià)空間√個(gè)性化精準(zhǔn)學(xué)習(xí)√強(qiáng)大投研能力支持√電子病歷助手
19
資料來(lái)源:中信證券研究部整理
3.通用與垂直場(chǎng)景多點(diǎn)開(kāi)花,GPT變革內(nèi)容生成與交互方式
20
3.1通用場(chǎng)景:搜索引擎—GPT+文本&圖像&視頻重塑搜索結(jié)果呈現(xiàn)方式
搜索引擎接入GPT后結(jié)果呈現(xiàn)方式大為變化,或影響行業(yè)盈利模式與競(jìng)爭(zhēng)格局。用戶使用傳統(tǒng)的搜索引擎時(shí),需要手動(dòng)
翻閱搜索結(jié)果,判斷是否為所需要的信息;而當(dāng)搜索引擎接入GPT后,用戶可直接獲得答案集合。盡管受制于訓(xùn)練語(yǔ)料、
成本等因素,答案準(zhǔn)確性有待商榷,但在結(jié)果呈現(xiàn)方式上實(shí)現(xiàn)了變革,未來(lái)或與傳統(tǒng)的搜索引擎相結(jié)合。如進(jìn)一步實(shí)現(xiàn)多
模態(tài),搜索結(jié)果將更加豐富。微軟在Bing中上線ChatGPT能力并開(kāi)啟測(cè)試,以聊天方式展示搜索結(jié)果,并可在對(duì)話中推
薦廣告。微軟必應(yīng)官方博客宣布,目前Bing日活突破1億,集成搜索+聊天功能的Bing預(yù)覽版自推出以來(lái)總聊天次數(shù)已超
過(guò)4500萬(wàn)次。鑒于微軟可能掀起搜索行業(yè)的第二次變革并顛覆此前的盈利模式,谷歌在2月初展示由大型語(yǔ)言模型LaMDA
驅(qū)動(dòng)的類(lèi)ChatGPT應(yīng)用——Bard,并計(jì)劃大范圍推廣。
全球搜索引擎市場(chǎng)份額分布用戶在新版Bing對(duì)話中發(fā)現(xiàn)廣告推薦內(nèi)容
21
資料來(lái)源:Statista資料來(lái)源:上觀新聞
3.1通用場(chǎng)景:搜索引擎—百度“文心一言”有望構(gòu)筑大模型生態(tài)系統(tǒng)
百度將推出文心一言,在搜索領(lǐng)域有望引領(lǐng)體驗(yàn)的代際變革,視頻領(lǐng)域合作或率先走向多模態(tài)。百度是國(guó)內(nèi)少有的具有
超大規(guī)模語(yǔ)言訓(xùn)練能力的科技公司,2019年即推出文心大模型。百度打造的NLP大模型ERNIE3.0Zeus擁有千億級(jí)參
數(shù),ERNIE-ViLG2.0是全球首個(gè)知識(shí)增強(qiáng)的AI作畫(huà)大模型。百度計(jì)劃于3月16日召開(kāi)文心一言發(fā)布會(huì)。此前,百度創(chuàng)始人
李彥宏表示計(jì)劃將搜索、智能云、Apollo自動(dòng)駕駛、小度智能設(shè)備等多項(xiàng)業(yè)務(wù)與文心一言整合。例如在搜索引擎方面引領(lǐng)
搜索體驗(yàn)的代際變革,鑒于愛(ài)奇藝宣布與百度共同探索將AIGC技術(shù)應(yīng)用于內(nèi)容搜索、宣發(fā)等,豐富的在線視頻娛樂(lè)資源
為未來(lái)多模態(tài)應(yīng)用的構(gòu)建提供了想象空間。此外,百度還將開(kāi)放大模型支持交通、能源、制造等行業(yè)構(gòu)建自己的模型和應(yīng)
用,打造人工智能生態(tài)系統(tǒng),同時(shí)為公司帶來(lái)豐厚的商業(yè)價(jià)值,目前已有多家科技、金融、傳媒公司宣布成為合作伙伴。
ERNIE3.0Zeus提出層次化提示學(xué)習(xí)技術(shù)百度文心一言發(fā)布會(huì)將于3月16日召開(kāi)
22
資料來(lái)源:文心大模型網(wǎng)站資料來(lái)源:文心大模型網(wǎng)站
3.2通用場(chǎng)景:辦公軟件—GPT+文本&圖像打造效率型生產(chǎn)力工具
GPT有望融入辦公流程,率先推動(dòng)辦公軟件轉(zhuǎn)型為智能辦公平臺(tái)。微軟將于3月16日召開(kāi)名為“FutureofWorkwithAI”
的發(fā)布會(huì),預(yù)計(jì)將展示ChatGPT類(lèi)技術(shù)在Teams、Word、Outlook等生產(chǎn)力套件中的應(yīng)用。我們認(rèn)為,在GPT的賦能之
下,辦公軟件作為效率型生產(chǎn)力工具的屬性將更加突出,功能上將更加智能化,用戶有望享受到智能辦公平臺(tái)所帶來(lái)的便
利性與效率大幅提升。例如,在Word中,GPT將能夠幫助用戶生成文本,或?qū)⑽臋n集匯總為關(guān)鍵點(diǎn),使得用戶快速理解
和分析信息;在Outlook中,GPT可以處理收件箱文本,幫助用戶更快捷地撰寫(xiě)或回復(fù)電子郵件;在Excel中,能夠根據(jù)提
示提取數(shù)據(jù),如要求“按照利潤(rùn)列出世界前五大公司”后,生成Excel公式或制作可視化圖表。
Edge中的BingAI側(cè)邊欄可以與OfficeWeb一同使用微軟在VivaSales郵件中提供OpenAI技術(shù)
23
資料來(lái)源:TheVerge,微軟資料來(lái)源:TheVerge,微軟
3.2通用場(chǎng)景:辦公軟件—WPS若結(jié)合GPT將深化用戶智能辦公體驗(yàn)
金山辦公發(fā)布業(yè)內(nèi)首個(gè)深度學(xué)習(xí)框架KSAI-Lite,并創(chuàng)新推出智能寫(xiě)作與演示文稿智能美化功能,未來(lái)若在GPT賦能下有
望深化用戶智能辦公體驗(yàn),并打開(kāi)客單價(jià)提升空間。金山辦公AI中臺(tái)圍繞辦公領(lǐng)域的計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理相關(guān)算
法研究已開(kāi)發(fā)了近100項(xiàng)AI能力,2021年7月發(fā)布業(yè)內(nèi)首個(gè)面向辦公領(lǐng)域的深度學(xué)習(xí)推理框架——KSAI-lite,其適配國(guó)內(nèi)
外主流軟硬件平臺(tái),支持OCR、機(jī)器翻譯、智能校對(duì)等場(chǎng)景。金山辦公還基于NLP技術(shù)推出WPS智能寫(xiě)作,功能包括文
本自動(dòng)生成、智能校對(duì)、智能改寫(xiě)等,WPS智能生成的內(nèi)容占據(jù)云端整體內(nèi)容資源的33.6%。WPS演示文稿創(chuàng)新使用智
能美化功能,一鍵即可實(shí)現(xiàn)文本自動(dòng)排版并根據(jù)語(yǔ)義恰當(dāng)進(jìn)行配圖、配色,進(jìn)而得到成熟、美觀的演示文稿,大幅減少用
戶手動(dòng)調(diào)整的工作量。演示文稿還支持智能化多圖拼圖,智能美化功能月度活躍用戶數(shù)量也已超過(guò)百萬(wàn)。
WPS以“人工智能”為主題的智能寫(xiě)作輸出結(jié)果WPS演示文稿智能美化功能
24
資料來(lái)源:WPS智能寫(xiě)作截圖資料來(lái)源:WPS演示文稿截圖
3.2通用場(chǎng)景:辦公軟件—PDF結(jié)合GPT有望成為知識(shí)傳播、轉(zhuǎn)化利器
福昕軟件投入AI方向超3年并具有AIGC能力,ChatPDF的豐富功能有望為其結(jié)合GPT提供借鑒。ChatPDF可通過(guò)
ChatGPTAPI解讀專業(yè)論文,例如用戶上傳PDF后,可直接對(duì)論文進(jìn)行提問(wèn);此外,ChatPDF同樣支持合同、文書(shū)、書(shū)
籍等材料。福昕軟件作為全球PDF核心技術(shù)與應(yīng)用領(lǐng)域的領(lǐng)導(dǎo)廠商,下屬的iDox.ai團(tuán)隊(duì)開(kāi)發(fā)了合同檢查、合同比較、敏感
信息偵測(cè)等功能,相關(guān)產(chǎn)品自去年底推向市場(chǎng),標(biāo)準(zhǔn)版、高級(jí)版年單價(jià)分別為200、400美元;此外,公司下屬的前沿文
檔技術(shù)團(tuán)隊(duì)也在積極探索將AI技術(shù)與公司產(chǎn)品相結(jié)合。結(jié)合ChatPDF的先期探索,我們認(rèn)為,未來(lái)在GPT賦能之下,福昕
軟件有望打造更智能的PDF文檔處理解決方案,構(gòu)筑新型知識(shí)傳播、轉(zhuǎn)化利器,助力用戶更高效地使用文檔資源。
ChatPDF界面ChatPDF對(duì)論文進(jìn)行解讀
25
資料來(lái)源:ChatPDF資料來(lái)源:ChatPDF
3.3垂直場(chǎng)景:教育—GPT+文本&對(duì)話&翻譯催化啟發(fā)式、個(gè)性化教學(xué)
GPT有望催化“啟發(fā)式”教學(xué)模式,加快教育領(lǐng)域的個(gè)性化、多樣化變革探索。ChatGPT可以理解為一名“全能教
師”,即便是小眾、冷門(mén)的領(lǐng)域,也能夠給出相對(duì)有邏輯的回答。我們認(rèn)為,GPT技術(shù)將催化“啟發(fā)式”教學(xué)模式,引導(dǎo)
學(xué)生更加積極主動(dòng)地進(jìn)行思考、發(fā)問(wèn),并與“全能教師”進(jìn)行對(duì)話探討,這有別于傳統(tǒng)的應(yīng)試教學(xué)模式。
教育轉(zhuǎn)型向智能化教育方向發(fā)展
26
資料來(lái)源:人工智能基礎(chǔ)教育行業(yè)研究報(bào)告(36氪研究院)
3.3垂直場(chǎng)景:教育—科大訊飛AI學(xué)習(xí)機(jī)將率先落地類(lèi)ChatGPT技術(shù)
科大訊飛在認(rèn)知智能領(lǐng)域具備長(zhǎng)期深厚積累,AI學(xué)習(xí)機(jī)將率先落地類(lèi)ChatGPT技術(shù),產(chǎn)品能力有望進(jìn)一步夯實(shí)。公司以
“平臺(tái)+賽道”模式實(shí)現(xiàn)AI核心技術(shù)的轉(zhuǎn)化,在教育、醫(yī)療、智慧城市、AI辦公等賽道中驗(yàn)證技術(shù)優(yōu)勢(shì)。公司承建認(rèn)知智能
全國(guó)重點(diǎn)實(shí)驗(yàn)室,2022年獲得OpenBookQA等多項(xiàng)認(rèn)知智能領(lǐng)域評(píng)測(cè)第一,開(kāi)源6大類(lèi)、超過(guò)40個(gè)通用領(lǐng)域的系列中文預(yù)
訓(xùn)練語(yǔ)言模型。2022年12月公司啟動(dòng)生成式預(yù)訓(xùn)練大模型攻關(guān),憑借在算法、算力等方面的保障,AI學(xué)習(xí)機(jī)將率先落地類(lèi)
ChatGPT技術(shù),并計(jì)劃于今年5月6日進(jìn)行產(chǎn)品級(jí)發(fā)布,有望在中英文作文輔導(dǎo)、口語(yǔ)學(xué)習(xí)等方面實(shí)現(xiàn)能力躍升。公司2019
年推出首款A(yù)I學(xué)習(xí)機(jī)——X1Pro,作為教育2C模式的核心產(chǎn)品,聯(lián)動(dòng)B、G端解決方案,實(shí)現(xiàn)教育服務(wù)生態(tài)閉環(huán)。依托類(lèi)
ChatGPT技術(shù)對(duì)AI學(xué)習(xí)機(jī)的能力重構(gòu),我們看好公司學(xué)習(xí)機(jī)產(chǎn)品的個(gè)性化精準(zhǔn)學(xué)習(xí)能力,有望強(qiáng)化市場(chǎng)競(jìng)爭(zhēng)地位。
科大訊飛智慧教育業(yè)務(wù)全景圖科大訊飛AI學(xué)習(xí)機(jī)推出歷程
大數(shù)據(jù)精準(zhǔn)教學(xué)學(xué)校
智慧課堂智慧體育
個(gè)性化作業(yè)教學(xué)素質(zhì)人工智能創(chuàng)
區(qū)域因新教育
教育學(xué)生綜合素
教育考試服務(wù)智慧材施教
英語(yǔ)口語(yǔ)評(píng)測(cè)質(zhì)評(píng)價(jià)
智能語(yǔ)言學(xué)習(xí)考試
校內(nèi)家庭
教育智慧校園
AI學(xué)習(xí)機(jī)自主新高考綜合
個(gè)性化學(xué)習(xí)手冊(cè)學(xué)習(xí)管理解決方案
學(xué)校老師教育主管部門(mén)學(xué)生家長(zhǎng)
AI技術(shù)大數(shù)據(jù)技術(shù)教研服務(wù)教育資源
27
資料來(lái)源:科大訊飛公司年報(bào),中信證券研究部資料來(lái)源:科大訊飛公司官網(wǎng),中信證券研究部
3.4垂直場(chǎng)景:金融—GPT+文本&對(duì)話賦能客戶服務(wù)、投研支持
GPT有望對(duì)金融行業(yè)的經(jīng)營(yíng)、管理、產(chǎn)品營(yíng)銷(xiāo)及客戶服務(wù)等方面產(chǎn)生巨大影響。近年來(lái),金融機(jī)構(gòu)在合規(guī)趨嚴(yán)、人力成
本上升等因素的影響下,對(duì)于數(shù)字化建設(shè)的意愿強(qiáng)烈??紤]到ChatGPT在內(nèi)容生成等方面的突出表現(xiàn),我們認(rèn)為,GPT
有望率先落地對(duì)外的客戶服務(wù)與對(duì)內(nèi)的投研支持。以銀行業(yè)為例,電子客服仍處于AB判斷階段,引入GPT將更好地服務(wù)
于客戶需求;在證券、基金業(yè),個(gè)人投資者存在的大量疑惑將可通過(guò)GPT解決,機(jī)構(gòu)投資者在投研中也將獲得來(lái)自GPT
的協(xié)作。GPT有望重構(gòu)金融行業(yè)客戶服務(wù)端,也有望進(jìn)一步增強(qiáng)機(jī)構(gòu)內(nèi)部的投研能力,助力經(jīng)營(yíng)效率提升與成本優(yōu)化。
自然語(yǔ)言處理技術(shù)在客服、營(yíng)銷(xiāo)場(chǎng)景的應(yīng)用自然語(yǔ)言處理技術(shù)在投研、投顧場(chǎng)景的應(yīng)用
痛客服團(tuán)隊(duì)人員成本及管理費(fèi)用高痛金融資訊覆蓋的定性文本數(shù)據(jù)分析難度高且數(shù)據(jù)量大
點(diǎn)
點(diǎn)服務(wù)質(zhì)量與效率較難評(píng)價(jià)獲客成本高,潛在用戶轉(zhuǎn)化率低不同金融業(yè)務(wù)難以簡(jiǎn)單快速地定位到所需定性分析的文本型數(shù)據(jù)
場(chǎng)場(chǎng)
客服營(yíng)銷(xiāo)風(fēng)控投研投顧
景景
以NLP技術(shù)為基礎(chǔ),結(jié)合智能語(yǔ)音、知識(shí)圖譜等技術(shù),實(shí)借助NLP技術(shù),對(duì)金融資訊中文本型數(shù)據(jù)進(jìn)行拆解,定位有用信息并進(jìn)行分類(lèi)
現(xiàn)人力成本的降低及服務(wù)效率、獲客效率的提升。分析,提升金融機(jī)構(gòu)對(duì)金融資訊分析的廣度與精度。
答案
關(guān)鍵潛在客問(wèn)句問(wèn)句信息話術(shù)各類(lèi)自然語(yǔ)公司新聞產(chǎn)品資料宏觀經(jīng)濟(jì)政策文件媒體評(píng)論...
環(huán)節(jié)戶分析輸入理解檢索生成分析言金融資訊
NLP:
NLP:NLP:對(duì)客戶/潛在客戶以自然語(yǔ)言形式提出的問(wèn)事件抽?。?/p>
題/回復(fù)進(jìn)行語(yǔ)義分析,根據(jù)語(yǔ)義理解結(jié)果從知識(shí)服務(wù)結(jié)束情感分析:文本摘要:
分析資訊從海量金融資訊中抽
庫(kù)中選取輸出的內(nèi)容并構(gòu)建恰當(dāng)?shù)恼Z(yǔ)句進(jìn)行回復(fù)。后,對(duì)服通過(guò)NLP技術(shù)對(duì)金融資訊文本的傾向?qū)⒔鹑谫Y訊長(zhǎng)文本的
文本,精取特定業(yè)務(wù)相關(guān)事件
務(wù)話術(shù)進(jìn)進(jìn)行分析處性分析,從而判斷市場(chǎng)內(nèi)容提取并重組為較
技術(shù)準(zhǔn)定位潛知識(shí)圖譜:在問(wèn)句理解、信息檢索、答案生成環(huán)信息,并進(jìn)行結(jié)構(gòu)化
行分析,中各類(lèi)關(guān)切主題的情感短的摘要文本。
應(yīng)用在客戶。節(jié)輔助提供知識(shí)的表示、儲(chǔ)存和推理。理處理。
以把控服傾向。
智能語(yǔ)音:如有必要,在問(wèn)句輸入、答案生成過(guò)務(wù)質(zhì)量,
程對(duì)語(yǔ)音信息與文本信息進(jìn)行轉(zhuǎn)化。智能投研:
優(yōu)化話術(shù)。應(yīng)用于金融智能風(fēng)控:
監(jiān)測(cè)市場(chǎng)輿情,挖掘
智能營(yíng)銷(xiāo)增加風(fēng)控模型評(píng)估因子,
覆蓋業(yè)務(wù)場(chǎng)景事件關(guān)系,改善金融
實(shí)現(xiàn)輿情監(jiān)測(cè)預(yù)警
場(chǎng)景智能客服交易預(yù)測(cè)模型。
28
資料來(lái)源:《2022年中國(guó)AI+金融行業(yè)發(fā)展研究報(bào)告》(艾瑞咨詢研究院),中信證券研究部資料來(lái)源:《2022年中國(guó)AI+金融行業(yè)發(fā)展研究報(bào)告》(艾瑞咨詢研究院),中信證券研究部
3.4垂直場(chǎng)景:金融—同花順i問(wèn)財(cái)?shù)仍贕PT加持下或升級(jí)智能投顧平臺(tái)
同花順在金融信息服務(wù)行業(yè)以強(qiáng)研發(fā)聞名,i問(wèn)財(cái)有望憑借GPT全面升級(jí)服務(wù)模式。公司重點(diǎn)打造的i問(wèn)財(cái)是在財(cái)經(jīng)領(lǐng)域落
地的有代表性的自然語(yǔ)言、語(yǔ)音對(duì)話交互問(wèn)答系統(tǒng)。2021年,在全球?qū)υ捪到y(tǒng)技術(shù)領(lǐng)域的頂級(jí)賽事DSTC9中,取得跨語(yǔ)
言對(duì)話狀態(tài)跟蹤任務(wù)第一名。在GPT賦能下,i問(wèn)財(cái)有望升級(jí)服務(wù)模式,在信息匯集、交互問(wèn)答等方面跨越,進(jìn)一步發(fā)展
為智能投顧平臺(tái),為個(gè)人投資者投資決策提供更全面、深入的支持。
東方財(cái)富構(gòu)建一站式互聯(lián)網(wǎng)財(cái)富管理生態(tài)圈,GPT或催生全新的智能投顧產(chǎn)品。憑借費(fèi)率優(yōu)勢(shì)以及對(duì)用戶體驗(yàn)的重視,
天天基金近年來(lái)在基金代銷(xiāo)行業(yè)躋身頭部位置。我們認(rèn)為,借助于GPT賦能,天天基金之類(lèi)的財(cái)富管理機(jī)構(gòu)在基金投顧方
面有望更加智能。例如,結(jié)合用戶對(duì)投資回報(bào)、風(fēng)險(xiǎn)偏好的描述,更加精準(zhǔn)地推薦基金產(chǎn)品;當(dāng)用戶對(duì)基金投資標(biāo)的、投
資風(fēng)格等產(chǎn)生問(wèn)題時(shí),也能快速地進(jìn)行信息生成,助力財(cái)富管理機(jī)構(gòu)在拉長(zhǎng)客戶接觸時(shí)間的同時(shí)控制運(yùn)營(yíng)成本;此外,通
過(guò)迭代學(xué)習(xí),投顧質(zhì)量也有望不斷夯實(shí)。綜合而言,GPT將助力客戶粘性提升與流量?jī)?yōu)勢(shì)強(qiáng)化。
同花順i問(wèn)財(cái)股票欄目天天基金網(wǎng)基金導(dǎo)購(gòu)欄目提供基金篩選功能
29
資料來(lái)源:同花順i問(wèn)財(cái)網(wǎng)站資料來(lái)源:天天基金網(wǎng)
3.4垂直場(chǎng)景:金融—GPT或提升萬(wàn)得等數(shù)據(jù)產(chǎn)品輸出的體系化&多元化
萬(wàn)得、恒生聚源等專注金融與產(chǎn)業(yè)數(shù)據(jù)資訊服務(wù)提供,GPT或變革產(chǎn)品輸出形態(tài)。萬(wàn)得是國(guó)內(nèi)B端金融信息服務(wù)行業(yè)的領(lǐng)
跑者之一,構(gòu)建了以金融證券數(shù)據(jù)為核心的大型金融工程和財(cái)經(jīng)數(shù)據(jù)倉(cāng)庫(kù)。恒生聚源作為恒生電子旗下的創(chuàng)新子公司,擁
有金融數(shù)據(jù)庫(kù)、金融終端、智眸系列等豐富的產(chǎn)品線,積累了股票、債券、理財(cái)、宏觀等多大類(lèi)、全歷史年限、多維度的
結(jié)構(gòu)化數(shù)據(jù)內(nèi)容。在GPT的賦能之下,我們認(rèn)為金融數(shù)據(jù)產(chǎn)品的提供有望更加體系化,交互方式有望更加多元化,例如對(duì)
券商研報(bào)進(jìn)行元素提取、對(duì)機(jī)構(gòu)調(diào)研信息進(jìn)行整合,協(xié)助投研人員搜集資料數(shù)據(jù),減少了大量繁瑣的案頭工作。盡管目前
在用戶測(cè)試中,ChatGPT對(duì)投研領(lǐng)域的回答尚不盡如人意,但伴隨著相關(guān)材料納入訓(xùn)練集,我們認(rèn)為回答的專業(yè)性有望
提升。
恒生聚源基礎(chǔ)數(shù)據(jù)庫(kù)產(chǎn)品GPT+投研應(yīng)用展望
主動(dòng)式搜索自動(dòng)推送
?提出圖表中的高價(jià)值數(shù)據(jù)?消息訂閱
?搜索報(bào)告中的指標(biāo)并實(shí)現(xiàn)訂閱?精準(zhǔn)推送
關(guān)聯(lián)指標(biāo)的對(duì)比分析推送?智能匹配
?獲取研究靈感
研報(bào)定量式分析
深度回測(cè)?報(bào)告預(yù)測(cè)的準(zhǔn)確度
?分析師擅長(zhǎng)的行業(yè)
搜索分析?擇時(shí)能力分析
?風(fēng)格分析
30
資料來(lái)源:恒生聚源公司官網(wǎng)資料來(lái)源:微信公眾號(hào)文因互聯(lián),中信證券研究部
3.5垂直場(chǎng)景:醫(yī)療—GPT+文本&對(duì)話&圖像扮演醫(yī)生助手角色
GPT有望在醫(yī)療領(lǐng)域中發(fā)揮醫(yī)生助手的作用,協(xié)助進(jìn)行問(wèn)診導(dǎo)診、科研輔助等工作??紤]到醫(yī)療領(lǐng)域的專業(yè)性、敏感性
以及潛在風(fēng)險(xiǎn)因素,我們認(rèn)為,GPT的定位更多在于醫(yī)生助手,幫助醫(yī)生完成事務(wù)性工作以及一些基礎(chǔ)科研工作,而非取
代醫(yī)生。此前,AI+醫(yī)療的應(yīng)用主要體現(xiàn)在圖像分割、影像分析、機(jī)器翻譯、病理細(xì)胞分析等領(lǐng)域,側(cè)重于輔助。根據(jù)美
國(guó)《科學(xué)公共圖書(shū)館·數(shù)字健康》報(bào)道,ChatGPT在沒(méi)有經(jīng)過(guò)專門(mén)訓(xùn)練或加強(qiáng)學(xué)習(xí)的情況下就能通過(guò)或接近通過(guò)美國(guó)執(zhí)業(yè)
醫(yī)師資格考試(USMLE)。結(jié)合ChatGPT的試用效果,我們認(rèn)為,GPT的潛在應(yīng)用場(chǎng)景包括導(dǎo)診、輕問(wèn)診、輔助診斷、
病歷書(shū)寫(xiě)等,根據(jù)第一財(cái)經(jīng)報(bào)道,一些醫(yī)院正在利用類(lèi)ChatGPT技術(shù)搭建模型,以支持院內(nèi)的醫(yī)療、教育和科研工作。
伴隨醫(yī)療健康語(yǔ)料納入訓(xùn)練,GPT發(fā)揮的效果值得期待。
AI+醫(yī)療應(yīng)用場(chǎng)景
31
資料來(lái)源:《2021年中國(guó)人工智能+醫(yī)療與生命科學(xué)行業(yè)研究報(bào)告》(艾瑞研究院)
3.5垂直場(chǎng)景:醫(yī)療—醫(yī)療信息化廠商卡位核心系統(tǒng),助力構(gòu)建GPT能力
醫(yī)療信息化公司作為醫(yī)療機(jī)構(gòu)信息化底座提供者,有望助力構(gòu)建GPT能力。根據(jù)復(fù)旦大學(xué)附屬華山醫(yī)院信息中心主任黃
虹在接受第一財(cái)經(jīng)采訪時(shí)透露的情況,醫(yī)院內(nèi)部落地GPT的場(chǎng)景包括:就醫(yī)導(dǎo)診,以提升醫(yī)療效率;構(gòu)建內(nèi)部知識(shí)庫(kù),以
提升臨床研究效率;匯集歷史病歷,輔助醫(yī)生提升電子病歷書(shū)寫(xiě)效率??紤]到醫(yī)院本身在信息化能力上的相對(duì)薄弱,我們
認(rèn)為以創(chuàng)業(yè)慧康、衛(wèi)寧健康、醫(yī)渡等為代表的醫(yī)療信息化公司作為醫(yī)院內(nèi)部系統(tǒng)的供應(yīng)商,有望幫助醫(yī)院構(gòu)建GPT能力。
互聯(lián)網(wǎng)醫(yī)療平臺(tái)卡位線上問(wèn)診,GPT有望助力問(wèn)診效率大幅提升。2020年疫情爆發(fā)以來(lái),互聯(lián)網(wǎng)醫(yī)院憑借著突破時(shí)空限
制、免接觸等優(yōu)勢(shì),迎來(lái)快速發(fā)展。平安好醫(yī)生、阿里健康、京東健康等平臺(tái)搭建了輕問(wèn)診模式,主要通過(guò)自有醫(yī)生、外
部簽約醫(yī)生提供問(wèn)診服務(wù)。我們認(rèn)為,GPT可以用于在線問(wèn)診支持,為用戶提供基本的、常規(guī)化的問(wèn)診服務(wù)。這將助力互
聯(lián)網(wǎng)醫(yī)療平臺(tái)實(shí)現(xiàn)問(wèn)診效率的大幅提升,問(wèn)診服務(wù)的供給能力將不再受制于鏈接的醫(yī)生數(shù)量。
創(chuàng)業(yè)慧康大數(shù)據(jù)和人工智能產(chǎn)品體系京東健康互聯(lián)網(wǎng)醫(yī)院
32
資料來(lái)源:創(chuàng)業(yè)慧康官方微信公眾號(hào)資料來(lái)源:京東APP
3.5垂直場(chǎng)景:醫(yī)療—醫(yī)渡基于AI能力/數(shù)據(jù)積累有望更優(yōu)服務(wù)科研、監(jiān)管
醫(yī)渡科技擁有豐厚的AI能力積累,未來(lái)在GPT賦能下有望更優(yōu)服務(wù)于臨床科研、醫(yī)療監(jiān)管等。醫(yī)渡科技通過(guò)智能醫(yī)療大腦
YiduCore服務(wù)于客戶,截至2022年9月30日,已處理和分析
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 農(nóng)場(chǎng)直供新鮮食品方案
- 線上下午茶分享會(huì)策劃方案
- 科技公司辦公空間裝修方案
- 承德事業(yè)單位見(jiàn)習(xí)崗合同(2篇)
- 汽車(chē)儀表實(shí)時(shí)監(jiān)控系統(tǒng)方案
- 河道清淤與生態(tài)旅游開(kāi)發(fā)方案
- 出租房屋電梯服務(wù)及維護(hù)方案
- 智能園林設(shè)施施工合同
- 家庭護(hù)理對(duì)孕產(chǎn)婦的管理制度
- 寧波2024年統(tǒng)編版小學(xué)五年級(jí)英語(yǔ)第1單元測(cè)驗(yàn)卷
- 職業(yè)道德與商業(yè)道德培訓(xùn)
- 學(xué)科教研基地匯報(bào)材料
- 剪刀式升降車(chē)的安全管理試題及答案
- 神經(jīng)性頭痛的護(hù)理查房
- 鋰電池應(yīng)急預(yù)案
- 高考說(shuō)題英語(yǔ)說(shuō)題比賽課件
- 個(gè)人借款開(kāi)結(jié)清證明范本
- 第二章生活計(jì)劃與理財(cái) 第三節(jié)家庭理財(cái)技巧 課件 云教版勞動(dòng)與技術(shù)課
- 《醫(yī)學(xué):心理疾病的預(yù)防與治療》
- 2024屆高考語(yǔ)文復(fù)習(xí):詩(shī)歌鑒賞寄江州白司馬
- 退化林修復(fù)投標(biāo)方案
評(píng)論
0/150
提交評(píng)論