計(jì)算機(jī)行業(yè)AIGC分析報(bào)告：ChatGPT懂人類(lèi)的敘事

2023年2月14日證券研究報(bào)告|行業(yè)專(zhuān)題AIGC專(zhuān)題二：ChatGPT更懂人類(lèi)的敘事投資要點(diǎn)：ChatGPT加速商業(yè)化，AI將帶來(lái)泛娛樂(lè)的革新

ChatGPT是OpenAI推出的聊天機(jī)器人模型，月度用戶(hù)已破億，正在逐步探索商業(yè)化途徑。ChatGPT能夠通過(guò)學(xué)習(xí)和理解人類(lèi)的語(yǔ)言來(lái)進(jìn)行對(duì)話(huà)，還能根據(jù)聊天的上下文進(jìn)行互動(dòng)，真正像人類(lèi)一樣來(lái)聊天交流，甚至能完成撰寫(xiě)郵件、視頻腳本、文案、翻譯、代碼等任務(wù)。根據(jù)UBS統(tǒng)計(jì)數(shù)據(jù)顯示，ChatGPT上線(xiàn)2個(gè)月后月度用戶(hù)數(shù)量破1億。

OpenAI的商業(yè)模式為，會(huì)員收費(fèi)、開(kāi)放API以及與微軟的戰(zhàn)略合作。會(huì)員服務(wù)：2023年2月1日，OpenAI推出付費(fèi)訂閱項(xiàng)目ChatGPTPlus，價(jià)格為$20/月，目前面向美國(guó)用戶(hù)。API服務(wù)：ChatGPT將在未來(lái)加入OpenAI的API，目前已在包括游戲虛擬人等泛娛樂(lè)內(nèi)容產(chǎn)業(yè)和互聯(lián)網(wǎng)的多方面進(jìn)行應(yīng)用。1）辦公軟件：微軟計(jì)劃將包括ChatGPT等AI工具整合進(jìn)旗下的所有產(chǎn)品中。ChatGPT已加入瀏覽器擴(kuò)展程序，集成了ChatGPT-4的BING短暫上線(xiàn)。2）泛娛樂(lè)：AI或?qū)⒉粩嘹吔祟?lèi)思維敘事，AIGC是踏入元宇宙的重要一步，且已有公司在直播場(chǎng)景、游戲場(chǎng)景等泛娛樂(lè)中應(yīng)用ChatGPT。

谷歌、百度等眾多公司推出自有AI產(chǎn)品，百度文心一言（ERNIEBot）預(yù)計(jì)三月份完成內(nèi)測(cè)。百度擁有飛槳（深度學(xué)習(xí)開(kāi)源框架）、百度AI大底座（全棧AI基礎(chǔ)設(shè)施）和文心大模型（AI應(yīng)用場(chǎng)景全覆蓋）。ERNIE是百度開(kāi)創(chuàng)性提出的基于知識(shí)增強(qiáng)的持續(xù)學(xué)習(xí)語(yǔ)義理解框架。ERNIE3.0參數(shù)量增大到了10B，訓(xùn)練數(shù)據(jù)集為4TB。產(chǎn)品應(yīng)用或可期待。

投資建議：把握AIGC技術(shù)催化和商業(yè)落地的投資機(jī)會(huì)。技術(shù)發(fā)展有望促進(jìn)生產(chǎn)效率提升，并進(jìn)一步創(chuàng)造新的消費(fèi)和需求，有利于文娛內(nèi)容和互聯(lián)網(wǎng)行業(yè)。在AIGC和ChatGPT方面，我們建議持續(xù)關(guān)注技術(shù)發(fā)展和應(yīng)用情況，把握技術(shù)催化和商業(yè)化落地帶來(lái)的投資機(jī)會(huì)：1）具備AIGC和ChatGPT的技術(shù)探索和應(yīng)用的公司：百度、商湯、萬(wàn)興科技、拓爾思等；2）具有海量?jī)?nèi)容素材且具有AIGC探索布局的，圖片/文字/音樂(lè)/視頻等內(nèi)容及平臺(tái)公司騰訊控股，閱文集團(tuán)、美圖公司、視覺(jué)中國(guó)、昆侖萬(wàn)維、藍(lán)色光標(biāo)、中文在線(xiàn)、漢儀股份、天娛數(shù)科、風(fēng)語(yǔ)筑等。

風(fēng)險(xiǎn)提示：技術(shù)發(fā)展不及預(yù)期、監(jiān)管政策變化、知識(shí)產(chǎn)權(quán)問(wèn)題等。1。目

錄CONTENTS0102030405ChatGPT概述核心優(yōu)勢(shì)技術(shù)應(yīng)用場(chǎng)景其他類(lèi)似產(chǎn)品投資建議&風(fēng)險(xiǎn)提示2。01ChatGPT概述SEPARATOR

PAGE31.1OpenAI：人工智能研究領(lǐng)域最前沿的公司之一

OpenAI深耕AI領(lǐng)域研究，特色產(chǎn)品包括ChatGPT、DALL·E2、Whisper等。

OpenAI是于2015年12月在美國(guó)成立的人工智能研究公司，由馬斯克、美國(guó)創(chuàng)業(yè)孵化器Y

Combinator總裁阿爾特曼、全球在線(xiàn)支付平臺(tái)PayPal聯(lián)合創(chuàng)始人彼得·蒂爾等硅谷科技大亨創(chuàng)立。

研究方向可以分為三類(lèi)：訓(xùn)練生成模型算法，即深度學(xué)習(xí)生成模型；從數(shù)據(jù)中推斷算法的算法，即神經(jīng)圖靈機(jī)；強(qiáng)化學(xué)習(xí)方法，可以理解為深度增強(qiáng)學(xué)習(xí)。表1：OpenAI部分重點(diǎn)研究領(lǐng)域及成果表2：OpenAI的特色產(chǎn)品重要技術(shù)

發(fā)布時(shí)間研究領(lǐng)域模型/成果用途語(yǔ)言：ChatGPT、InstructGPT代碼：CodexChatGPT

2022年11月30日人工智能聊天機(jī)器人GPT系列圖像：Image

GPT、DALL·E、DALL·E2音樂(lè)：Jukebox、MuseNet深度學(xué)習(xí)生成模型文本到圖像生成模型,它基于擴(kuò)散模型原理，可DALL·E2

2022年4月6日

以通過(guò)自然語(yǔ)言對(duì)現(xiàn)有圖像進(jìn)行逼真的編輯，它可以添加和刪除元素等。CLIPWhisper自動(dòng)語(yǔ)音識(shí)別(ASR)系統(tǒng)，經(jīng)過(guò)68萬(wàn)小時(shí)的多Whisper

2022年9月21日

語(yǔ)言和多任務(wù)監(jiān)督數(shù)據(jù)訓(xùn)練，支持多種語(yǔ)言的轉(zhuǎn)錄，以及從這些語(yǔ)言翻譯成英語(yǔ)。人工神經(jīng)網(wǎng)絡(luò)中的多模態(tài)神經(jīng)元神經(jīng)圖靈機(jī)無(wú)監(jiān)督情緒神經(jīng)元近端優(yōu)化策略進(jìn)化策略專(zhuān)注于訓(xùn)練人工智能系統(tǒng)，使其變得有用、真實(shí)和安全，與人類(lèi)意圖保持一致強(qiáng)化學(xué)習(xí)方法Alignment

2022年8月24日資料：OpenAI，德邦研究所資料：OpenAI，德邦研究所4。1.1OpenAI：人工智能研究領(lǐng)域最前沿的公司之一2019年7月22日2023年1月23日公司大事件2015年12月OpenAI成立微軟投資OpenAI

10億美元，雙方將攜手合作替Azure云端平臺(tái)服務(wù)開(kāi)發(fā)人工智能技術(shù)。微軟將向OpenAI進(jìn)行一項(xiàng)為期多年、價(jià)值數(shù)十億美元的投資，以加速其在人工智能（AI）領(lǐng)域的技術(shù)突破。2018年2月20日馬斯克辭去董事會(huì)席位2023年1月17日微軟計(jì)劃將包括ChatGPT、DALL-E等人工智能工具整合進(jìn)微軟旗下的所有產(chǎn)品中。2016年4月27日2020年5月2022年4月6日重點(diǎn)研發(fā)活動(dòng)發(fā)布了其強(qiáng)化學(xué)習(xí)研究平臺(tái)“OpenAIOpenAI發(fā)布了

GPT-3；OpenAI發(fā)布了DALL·E2可以視作是CLIP+

DALL·EGym”的公測(cè)版。微軟于2020年9月22日取得GPT-3的授權(quán)。2016年12月5日2021年1月5日OpenAI推出了

DALL-E和CLIP。2022年11月30日OpenAI發(fā)布了“Universe”，用于測(cè)量和訓(xùn)練人工智能在全球游戲、網(wǎng)站等應(yīng)用程序中的通用智能。OpenAI發(fā)布了ChatGPT資料：OpenAI等，德邦研究所5。1.2ChatGPT月度用戶(hù)已破億，正在逐步探索商業(yè)化途徑

ChatGPT是OpenAI在2022年11月30日發(fā)布的全新聊天機(jī)器人模型。

它能夠通過(guò)學(xué)習(xí)和理解人類(lèi)的語(yǔ)言來(lái)進(jìn)行對(duì)話(huà)，還能根據(jù)聊天的上下文進(jìn)行互動(dòng)，真正像人類(lèi)一樣來(lái)聊天交流，甚至能完成撰寫(xiě)郵件、視頻腳本、文案、翻譯、代碼等任務(wù)。

ChatGPT月度用戶(hù)已破億，正在逐步探索商業(yè)化途徑。

根據(jù)UBS統(tǒng)計(jì)數(shù)據(jù)顯示，ChatGPT上線(xiàn)2個(gè)月后月度用戶(hù)數(shù)量破1億。

2023年2月1日，OpenAI推出付費(fèi)訂閱項(xiàng)目ChatGPT

Plus，價(jià)格為$20/月，目前面向美國(guó)用戶(hù)。2023年1月2022年11月30日根據(jù)UBS統(tǒng)計(jì)數(shù)據(jù)顯示，ChatGPT上線(xiàn)2個(gè)月后月度用戶(hù)數(shù)量破1億。OpenAI發(fā)布了ChatGPT2023年1月17日2023年2月1日微軟CEO納德拉在世界經(jīng)濟(jì)論壇上表示，微軟正在迅速推進(jìn)OpenAI的工具商業(yè)化，計(jì)劃將包括ChatGPT、DALL-E等人工智能工具整合進(jìn)微軟旗下的所有產(chǎn)品中，并將其作為平臺(tái)供其他企業(yè)使用.OpenAI公司宣布，新的訂閱服務(wù)名為ChatGPT

Plus，價(jià)格為$20/月。資料：OpenAI等，德邦研究所6。1.3ChatGPT基于GPT3.5模型進(jìn)化微調(diào)，從人類(lèi)反饋中學(xué)習(xí)

OpenAI

基于GPT模型，使用監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)的組合來(lái)調(diào)優(yōu)

ChatGPT，其中人類(lèi)反饋強(qiáng)化學(xué)習(xí)（RLHF）使

ChatGPT趨近人類(lèi)價(jià)值觀及意圖。

ChatGPT的訓(xùn)練分為三步：一是訓(xùn)練及微調(diào)GPT模型，獲得語(yǔ)言及代碼的生成能力；二是根據(jù)人類(lèi)意圖訓(xùn)練，人為標(biāo)記生成內(nèi)容的排序，訓(xùn)練出獎(jiǎng)勵(lì)模型（RewardModel）；三是通過(guò)獎(jiǎng)勵(lì)模型為生成內(nèi)容打分，通過(guò)近端策略?xún)?yōu)化（PPO）來(lái)優(yōu)化生成模型，使其趨近人類(lèi)的意圖。圖1：GPT-3.5的進(jìn)化樹(shù)圖2：ChatGPT

技術(shù)邏輯資料：符堯等《拆解追溯

GPT-3.5

各項(xiàng)能力的起源》，德邦研究所資料：符堯等《拆解追溯

GPT-3.5

各項(xiàng)能力的起源》，德邦研究所7。1.3.1第一步：收集數(shù)據(jù)微調(diào)GPT3.5模型

預(yù)訓(xùn)練的GPT3.5在少量已標(biāo)注的數(shù)據(jù)上進(jìn)行調(diào)優(yōu)，以學(xué)習(xí)從給定的提示詞（prompt）列表生成輸出的有監(jiān)督的策略圖3：ChatGPT訓(xùn)練Step1

模型選擇：選擇了

GPT-3.5系列中的預(yù)訓(xùn)練模型，參考InstructGPT，參數(shù)量最高達(dá)175B。

例如，輸入“你好”，通過(guò)GPT后輸出“美”。GPT每一次的輸出可能都是不同的，因?yàn)樵诰W(wǎng)絡(luò)上的語(yǔ)句中，“你好”后面有多種接法，例如“你好高”、“你好嗎”，而輸出結(jié)果是遵循概率分布的，高頻組合出現(xiàn)的概率較高。

數(shù)據(jù)收集：使用了兩種不同的提示詞。一些是直接使用標(biāo)注人員或研究人員準(zhǔn)備的，另一些是從

OpenAI

的

API請(qǐng)求（即從

GPT-3

用戶(hù)那里）獲取的。

策略生成：選擇一個(gè)提示列表，標(biāo)注人員按要求寫(xiě)下預(yù)期的輸出。最終得到的結(jié)果是一個(gè)相對(duì)較小、高質(zhì)量的數(shù)據(jù)集，可用于調(diào)優(yōu)預(yù)訓(xùn)練的語(yǔ)言模型。資料：OpenAI，德邦研究所8。1.3.2第二步：模擬人類(lèi)偏好，訓(xùn)練獎(jiǎng)勵(lì)模型

對(duì)大量的模型輸出進(jìn)行排序，創(chuàng)建了一個(gè)由比較數(shù)據(jù)組成的新數(shù)據(jù)集。在此數(shù)據(jù)集上訓(xùn)練新模型，被稱(chēng)為訓(xùn)練獎(jiǎng)勵(lì)模型（Reward

Model，RM）。圖4：ChatGPT訓(xùn)練Step2

輸出排序：標(biāo)注者根據(jù)人類(lèi)偏好將輸出從最佳到最差排序。結(jié)果是一個(gè)新的標(biāo)簽數(shù)據(jù)集。

獎(jiǎng)勵(lì)模型：將有標(biāo)簽的數(shù)據(jù)集用于訓(xùn)練

RM模型

，并將生成模型的輸出，按優(yōu)先順序?qū)λ鼈冞M(jìn)行排序。

例如，輸入“臺(tái)灣最高的山是哪座？”

，輸出可能有兩個(gè)結(jié)果，輸出一是“玉山”，輸出二是“誰(shuí)來(lái)告訴我呀”。兩個(gè)回答都可以與問(wèn)題銜接，但是人類(lèi)的偏好是輸出一，因此RM給兩個(gè)輸出排序時(shí)，輸出一是高于輸出二。資料：OpenAI，德邦研究所9。1.3.3第三步：使用獎(jiǎng)勵(lì)模型，基于PPO進(jìn)行最優(yōu)化強(qiáng)化學(xué)習(xí)被應(yīng)用于通過(guò)優(yōu)化

RM模型來(lái)調(diào)優(yōu)模型，所使用的特定算法稱(chēng)為近端策略?xún)?yōu)化（PPO）。圖5：ChatGPT訓(xùn)練Step3

PPO：強(qiáng)化學(xué)習(xí)中的一種方式，通過(guò)學(xué)習(xí)策略以達(dá)成回報(bào)最大化或?qū)崿F(xiàn)特定目標(biāo)的問(wèn)題。PPO在實(shí)現(xiàn)的便利性、樣本復(fù)雜性和調(diào)優(yōu)的便利性之間取得了平衡，試圖在每一步計(jì)算一個(gè)更新，使代價(jià)函數(shù)最小化，同時(shí)確保與前一個(gè)策略的偏差相對(duì)較小。

調(diào)整目標(biāo)：使用RM作為獎(jiǎng)勵(lì)函數(shù)，通過(guò)PPO算法微調(diào)策略，調(diào)整參數(shù)獲得最大的獎(jiǎng)勵(lì)。資料：OpenAI，德邦研究所10。02核心優(yōu)勢(shì)SEPARATOR

PAGE112.1優(yōu)勢(shì)一：公司與微軟合作，提供上下游支持

微軟作為OpenAI的LP投資者，為公司提供研發(fā)底層支撐及應(yīng)用的大力支持。

資金支持：2019年7月22日，微軟投資OpenAI

10億美元；2023年1月23日，微軟宣布與OpenAI建立長(zhǎng)期合作伙伴關(guān)系進(jìn)入第三階段，通過(guò)一項(xiàng)為期多年、數(shù)十億美元的投資來(lái)加速AI的突破。

服務(wù)支持：1）大規(guī)模超級(jí)計(jì)算——

微軟將增加對(duì)開(kāi)發(fā)和部署專(zhuān)用超級(jí)計(jì)算系統(tǒng)的投資，以加速OpenAI的研究；繼續(xù)構(gòu)建

Azure領(lǐng)先的

AI基礎(chǔ)結(jié)構(gòu)。2）獨(dú)家云提供商

-

Azure將為研究、產(chǎn)品和API服務(wù)中的所有OpenAI工作提供支持。

應(yīng)用支持：1月17日微軟表示，計(jì)劃將包括ChatGPT、DALL-E等人工智能工具整合進(jìn)微軟旗下的所有產(chǎn)品中，并將其作為平臺(tái)供其他企業(yè)使用，包括且不限于Bing搜索引擎、Microsoft

Office、Azure云服務(wù)、Teams聊天程序等。圖6：OpenAI組織架構(gòu)圖7：OpenAI與微軟的合作關(guān)系資料：

FourWeekMBA，德邦研究所資料：

FourWeekMBA，德邦研究所2.2優(yōu)勢(shì)二：管理層均為行業(yè)精英，引領(lǐng)公司發(fā)展表3：OpenAI

LP管理層均為精英姓名職位上任時(shí)間履歷畢業(yè)于哈佛大學(xué)和麻省理工大學(xué)；是OpenAI的創(chuàng)始人之一GregBrockman董事長(zhǎng)；聯(lián)合創(chuàng)始人2019.032011年開(kāi)始擔(dān)任Y

Combinator的兼職合伙人；2014年

2月，被任命為Y

Combinator總裁；2015年成為OpenAI聯(lián)合創(chuàng)始人之一；Sam

AltmanCEO；聯(lián)合創(chuàng)始人2019.032019.3轉(zhuǎn)任Y

Combinator董事長(zhǎng)，未來(lái)專(zhuān)注OpenAI的工作2012年畢業(yè)于多倫多大學(xué)，獲得計(jì)算機(jī)博士學(xué)位；2013年加入谷歌；2015年成為OpenAI聯(lián)合創(chuàng)始人之一IlyaSutskeverBrad

LightcapMiraMurati首席科學(xué)家；聯(lián)合創(chuàng)始人2019.032022.052022.052008年畢業(yè)于杜克大學(xué)；先后就職于摩根大通、DropBox、Y

Combinator等;2018.08入職OpenAI擔(dān)任CFOCOOCTO畢業(yè)于達(dá)特茅斯商學(xué)院；先后就職于高盛、特斯拉等；2018.6加入OpenAI2005年畢業(yè)于斯坦福大學(xué)；2016.3-2022.5Open

AI

COO;2016.3-至今，OpenResearch（前身為Y

CombinatorResearch）COOChris

Clark非營(yíng)利和戰(zhàn)略計(jì)劃主管2022.0513資料：OpenAI，領(lǐng)英等，德邦研究所03應(yīng)用場(chǎng)景SEPARATOR

PAGE143.1ChatGPT以采取會(huì)員收費(fèi)，未來(lái)或拓展商業(yè)模式

OpenAI的商業(yè)模式為，會(huì)員收費(fèi)、開(kāi)放API以及與微軟的戰(zhàn)略合作

會(huì)員服務(wù)：2023年2月1日，OpenAI推出付費(fèi)訂閱項(xiàng)目ChatGPT

Plus，價(jià)格為$20/月，目前面向美國(guó)用戶(hù)。付費(fèi)服務(wù)包括，在高峰時(shí)段也可常規(guī)訪(fǎng)問(wèn)ChatGPT、更快的響應(yīng)、以及優(yōu)先訪(fǎng)問(wèn)新功能和改進(jìn)。ChatGPT將繼續(xù)提供免費(fèi)訪(fǎng)問(wèn)。

API服務(wù)：ChatGPT或?qū)⒓尤隣penAIAPI，從下游用戶(hù)的使用中收取費(fèi)用。目前OpenAI的API以Token對(duì)于NLP的文字進(jìn)行收費(fèi)，例如莎士比亞作品集需要1.2M的Token。

與微軟合作：使用

AzureOpenAI

服務(wù)，采用即用即付的消費(fèi)模式，以Token或托管時(shí)長(zhǎng)進(jìn)行收費(fèi)。圖8：OpenAI商業(yè)模式表4：OpenAI的API收費(fèi)，Davinci是同系列中最強(qiáng)大的模型模型價(jià)格AdaBabbageCurie$0.0020/?1K

tokens

$0.0200/?1K

tokensCurie

DavinciDavinci基礎(chǔ)模型$0.0004/?1K

tokensAda$0.0005/?1K

tokensBabbage微調(diào)模型訓(xùn)練$0.0004/

1Ktokens$0.0016/

1Ktokens$0.0006/

1Ktokens$0.0024/

1Ktokens參考最大請(qǐng)求text-babbage-0012,048

tokens-$0.0030/

1Ktokens

$0.0300/

1Ktokens$0.0120/

1Ktokens

$0.1200/

1Ktokens使用text-ada-001text-curie-0012,048

tokenstext-davinci-0034,000

tokensGPT-3Codex2,048

tokens預(yù)訓(xùn)練模型--code-cushman-001最多2,048

tokenscode-davinci-0028,000

tokens-資料：

FourWeekMBA，德邦研究所資料：OpenAI，德邦研究所15。3.2GPT系列API可為下游應(yīng)用提供語(yǔ)言和代碼處理

ChatGPT尚未開(kāi)放API，因此參考已開(kāi)放API的Text-davinci-003和Code-davinci-002來(lái)解讀其功能。

ChatGPT與Text-davinci-003的能力相似，均屬于GPT3.5系列模型。

實(shí)現(xiàn)功能包括：回答問(wèn)題、分類(lèi)、編寫(xiě)代碼、對(duì)話(huà)、生成、翻譯和轉(zhuǎn)換。表5：Text-davinci-003與Code-davinci-002的部分應(yīng)用舉例Text-davinci-003Code-davinci-002轉(zhuǎn)換+生成編寫(xiě)代碼+轉(zhuǎn)換

文本到命令（創(chuàng)建電子表格和SQL語(yǔ)句）

自然語(yǔ)言轉(zhuǎn)StripeAPI

自然語(yǔ)言到OpenAIAPI

SQL翻譯

英語(yǔ)到其他語(yǔ)言（語(yǔ)法更正）

電影到表情符號(hào)翻譯+轉(zhuǎn)換+生成轉(zhuǎn)換+生成編寫(xiě)代碼+轉(zhuǎn)換編寫(xiě)代碼+轉(zhuǎn)換編寫(xiě)代碼+翻譯編寫(xiě)代碼+轉(zhuǎn)換分類(lèi)

計(jì)算時(shí)間復(fù)雜度

從Python到自然語(yǔ)言

從編程語(yǔ)言到指定編程語(yǔ)言

解釋代碼

分類(lèi)：包括高級(jí)推文情緒分類(lèi)器

解析非結(jié)構(gòu)化數(shù)據(jù)、取關(guān)鍵詞、分段總結(jié)

事實(shí)回答編寫(xiě)代碼+翻譯編寫(xiě)代碼+翻譯分類(lèi)+轉(zhuǎn)換+生成回答+分類(lèi)+對(duì)話(huà)+生成生成編寫(xiě)代碼+生成

Python錯(cuò)誤修復(fù)器

JavaScript助手聊天機(jī)器人

從JavaScript

到

Python

編寫(xiě)Python

文檔字符串

JavaScript

轉(zhuǎn)單行代碼回答問(wèn)題+編寫(xiě)代碼+對(duì)話(huà)編寫(xiě)代碼+翻譯+轉(zhuǎn)換編寫(xiě)代碼+生成

從程序語(yǔ)言生成摘要注釋

生成比喻、VR食譜、餐廳評(píng)論、恐怖故事

根據(jù)產(chǎn)品描述生成廣告、產(chǎn)品名稱(chēng)

諷刺聊天機(jī)器人生成+翻譯+轉(zhuǎn)換生成對(duì)話(huà)+生成編寫(xiě)代碼+翻譯+轉(zhuǎn)換資料：OpenAI，德邦研究所16。3.3ToB：GPT系列已應(yīng)用到辦公應(yīng)用、智能客服等

辦公應(yīng)用：1）AI輔助編程

：GitHub

Copilot

可輔助程序員編程，通過(guò)Codex在代碼編輯器中為整行或某個(gè)函數(shù)提供建議。2）市場(chǎng)調(diào)研工具：Viable使用

GPT-3

從客戶(hù)反饋中提供有用的見(jiàn)解，可以從調(diào)查、票證、實(shí)時(shí)聊天日志、評(píng)論等中識(shí)別和提取主題內(nèi)容和情緒，并在幾秒鐘內(nèi)提供內(nèi)容總結(jié)。

智能客服：Algolia和ActiveChat

使用了

GPT-3

來(lái)更好地理解客戶(hù)的問(wèn)題，并將他們連接到回答他們問(wèn)題的內(nèi)容的特定部分。圖9：GPT系列的CodeX應(yīng)用于輔助編程圖10：GPT-3應(yīng)用于客服團(tuán)隊(duì)資料：

OpenAI，德邦研究所資料：

AchieveChat

AI，德邦研究所17。3.3ToC：GPT系列已應(yīng)用到學(xué)習(xí)類(lèi)于創(chuàng)作類(lèi)生成

學(xué)習(xí)類(lèi)：1）論文檢索：GithubElicit是一個(gè)人工智能研究助手，通過(guò)檢索已發(fā)表的論文，從大量研究論文中查找最相關(guān)的摘要，并應(yīng)用

GPT-3

的自定義功能來(lái)生成答案。2）語(yǔ)言學(xué)習(xí)：Duolingo作為一個(gè)語(yǔ)言學(xué)習(xí)平臺(tái)，已經(jīng)使用

GPT-3進(jìn)行法語(yǔ)語(yǔ)法更正。Duolingo

的一項(xiàng)內(nèi)部研究表明，使用此功能可以顯著提高用戶(hù)的第二語(yǔ)言寫(xiě)作技巧。

創(chuàng)作類(lèi)：1）Blog創(chuàng)意生成：Blog

Idea

Generator通過(guò)采用搜索關(guān)鍵字來(lái)分析該主題在Google里最受歡迎的內(nèi)容?；讷@取的數(shù)據(jù)，軟件通過(guò)GPT-3生成內(nèi)容來(lái)獲得更高的閱讀量。2）寫(xiě)作造句工具：Compose.ai

是一個(gè)免費(fèi)的Chrome擴(kuò)展程序，可使用AI自動(dòng)進(jìn)行寫(xiě)作。只需要輸入關(guān)鍵字詞和主要內(nèi)容，GPT-3可協(xié)助生成完整語(yǔ)句，構(gòu)成全文。圖11：GPT-3應(yīng)用于Duolingo圖12：GPT-3應(yīng)用于博客創(chuàng)意生成資料：

OpenAI，德邦研究所資料：

Usetopic，德邦研究所18。3.3ToC：GPT系列還應(yīng)用于娛樂(lè)及生活類(lèi)APP

娛樂(lè)類(lèi)：1）AI驅(qū)動(dòng)游戲：AI

Dungeon是一款由AI驅(qū)動(dòng)的基于文本的角色扮演游戲，AI會(huì)自動(dòng)生成故事，玩家可以在其中輸入對(duì)話(huà)，人工智能將以新的事件和對(duì)話(huà)作出回應(yīng)，創(chuàng)造獨(dú)特且不可預(yù)測(cè)的游戲體驗(yàn)。2）AI聊天伙伴：WhatsApp上的AI

Buddy是由GPT-3.5驅(qū)動(dòng)的軟件，可以和用戶(hù)進(jìn)行對(duì)話(huà)，就像發(fā)消息給朋友一樣。例如，“給我講個(gè)笑話(huà)”、“給我一個(gè)博客構(gòu)思”等。

生活類(lèi)：稅務(wù)助手：Keeper

Tax可幫助個(gè)人記錄稅務(wù)情況。在關(guān)聯(lián)到個(gè)人財(cái)務(wù)賬號(hào)后，Keeper

Tax用不同模型提取文本信息并分類(lèi)交易類(lèi)型。圖13：GPT系列應(yīng)用于AI驅(qū)動(dòng)游戲圖14

GPT系列用于：Keeper

Tax資料：

AIDungeon，德邦研究所：

OpenAI，德邦研究所資料19。3.3.1應(yīng)用一：ChatGPT已與搜索引擎相結(jié)合

ChatGPT已加入瀏覽器擴(kuò)展程序，集成了ChatGPT-4的BING短暫上線(xiàn)

ChatGPT已作為擴(kuò)展程序加入到Chrome、Firefox、Edge等瀏覽器的應(yīng)用中;Bing、谷歌等搜索引擎中將接入ChatGPT，得到自然語(yǔ)言回答。

集成了

ChatGPT-4

的新版

Bing

曾于2月4日短暫上線(xiàn)。據(jù)設(shè)計(jì)師

Owen

Yin分享的截圖，新版

Bing

的搜索框變?yōu)榱奶炜?，?huì)在聊天氣泡中回復(fù)用戶(hù)的問(wèn)題。新版

Bing

鼓勵(lì)用戶(hù)使用自然語(yǔ)言而不是關(guān)鍵字進(jìn)行搜索，還能夠根據(jù)用戶(hù)的要求調(diào)整搜索結(jié)果。圖15：ChatGPT作為免費(fèi)插件加入到各大瀏覽器中圖16：微軟Bing短暫上線(xiàn)ChatGPT功能資料：Chatonai，德邦研究所資料：IT之家，德邦研究所20。3.3.2應(yīng)用二：泛娛樂(lè)行業(yè)應(yīng)用，包括游戲、直播等方面

元境科技率先接入ChatGPT，結(jié)合自研多模態(tài)智能算法，完成了行業(yè)首個(gè)AIGC互動(dòng)直播功能的落地。

元境科技虛擬數(shù)字人已經(jīng)接入ChatGPT等模型，并已在Tik

Tok跨境電商直播、虛擬主播直播互動(dòng)等場(chǎng)景實(shí)現(xiàn)應(yīng)用，并形成產(chǎn)品化解決方案。未來(lái)，將更加關(guān)注數(shù)字人與ChatGPT等模型的整合應(yīng)用，快速擴(kuò)展到不同行業(yè)、不同場(chǎng)景。

行業(yè)首個(gè)應(yīng)用此項(xiàng)技術(shù)的虛擬主播是虛擬二次元網(wǎng)紅CiCi。在最近的一大段時(shí)間里CiCi的直播早已替換為了AIGC互動(dòng)直播，在測(cè)試應(yīng)用期間一眾粉絲均未看出任何異樣，同時(shí)在使用測(cè)試期間粉絲量也持續(xù)穩(wěn)步提升。圖17：虛擬數(shù)字人已經(jīng)接入ChatGPT等模型資料：元境科技公眾號(hào)，德邦研究所。213.3.2應(yīng)用二：泛娛樂(lè)行業(yè)應(yīng)用，包括游戲、直播等方面

RPG游戲的未來(lái)：游戲《騎馬與砍殺2》與ChatGPT的結(jié)合

《騎馬與砍殺2》是一款設(shè)定在歐洲中世紀(jì)風(fēng)格架空世界的游戲，除了戰(zhàn)斗外還可與游戲世界中的各種角色交互。游戲提供接口和Mod制作工具方便玩家按自己喜好修改、擴(kuò)展游戲內(nèi)容。

Youtube博主Bloc使用ChatGPT算法作為基礎(chǔ)，并在此基礎(chǔ)上創(chuàng)建了一個(gè)“敘事引擎”，其中包含有關(guān)游戲內(nèi)世界的數(shù)據(jù)：地點(diǎn)，聚會(huì)，職業(yè)等。玩家可自由輸入問(wèn)題，NPC基于ChatGPT等算法作出游戲背景下的合理回應(yīng)。

Galgame與ChatGPT的結(jié)合，可打造定制化AI角色。圖18：《騎馬與砍殺2》游戲中玩家自由輸入文字與NPC溝通圖19：B站Up主將ChatGPT接入Galgame，打造AI角色22資料：Gamepressure，德邦研究所資料：Bilibili

Up主

addone123，德邦研究所04類(lèi)似產(chǎn)品SEPARATOR

PAGE234.1眾多公司推出類(lèi)似產(chǎn)品，行業(yè)競(jìng)爭(zhēng)激烈表6：ChatGPT部分海外競(jìng)品梳理模型公司底層模型編程能力

合并歷史記錄價(jià)格類(lèi)別免費(fèi)預(yù)覽；付費(fèi)訂閱20美元/月ChatGPTOpenAIGPT-3.5√√√√聊天機(jī)器人模型ClaudeAnthropicneuroflashWritesonicConstitutionalAlGPT-3.5內(nèi)測(cè)階段聊天機(jī)器人模型；采用RLAIF2000字/月免費(fèi)；199€./月無(wú)限字NeuroflashChatsonicYouChat√√主要服務(wù)于德語(yǔ)內(nèi)容的生成器免費(fèi)試用；多種付費(fèi)訂閱模式提供了訪(fǎng)問(wèn)當(dāng)前谷歌數(shù)據(jù)的選項(xiàng)，而

ChatGPT

的答案有時(shí)GPT-3.X×××√√是幾年前的。將聊天助手集成到其搜索結(jié)果中的搜索引擎，它在答案中包含自己的搜索索引，同時(shí)也將源網(wǎng)頁(yè)包含在答案中，并且有腳注編號(hào)。RichardSocherPerplexity

AIGitHub-√免費(fèi)免費(fèi)Perplexity是基于OpenAIAPI的搜索引擎，或者說(shuō)是答案引擎。與

ChatGPT

不同的是它的答案中不僅包括訓(xùn)練數(shù)據(jù)，還包括來(lái)自互聯(lián)網(wǎng)的內(nèi)容。PerplexityGitHubCopilotLaMDA基于OpenAI的APIGPT-3.5×√$10/月及以上免費(fèi)預(yù)覽基于

OpenAI

API，側(cè)重代碼生成與

ChatGPT不同，LaMDa更積極地參與對(duì)話(huà)、提出問(wèn)題、講述自己，并且不僅根據(jù)事實(shí)而且還“情感地”回答問(wèn)題。GoogleLaMDA×-√Sparrow

使用

Google

搜索來(lái)尋找合適的ChatGPT

類(lèi)似，使用強(qiáng)化學(xué)習(xí)

(RL)進(jìn)行訓(xùn)練；與SparrowDeepMindSparrow

Model√私人Beta版即將推出資料：Daniel

Peric《Top

8ChatGPT

Alternatives

for2023:

Discoverthe

BestOptions

forYourNeeds》，Source

Forge，德邦研究所244.2Claude：谷歌旗下ChatGPT有力競(jìng)品

Claude是Anthropic新推出的一款類(lèi)似于ChatGPT的AI助手，谷歌已經(jīng)向Anthropic投資約3億美元。

Anthropic是由前OpenAI的一支研發(fā)團(tuán)隊(duì)出走成立的人工智能初創(chuàng)公司，大多為

OpenAI

的早期及核心員工，深度參與過(guò)OpenAI的多項(xiàng)課題，比如GPT-3、神經(jīng)網(wǎng)絡(luò)里的多模態(tài)神經(jīng)元、引入人類(lèi)偏好的強(qiáng)化學(xué)習(xí)等。

根據(jù)Financial

Times報(bào)道，谷歌已經(jīng)向Anthropic投資約3億美元。通過(guò)這筆交易，谷歌將獲得Anthropic約10%的股份，后者要用這筆錢(qián)從前者的云計(jì)算部門(mén)購(gòu)買(mǎi)大量計(jì)算資源。

Claude目前還處于實(shí)驗(yàn)階段，開(kāi)創(chuàng)性引入了“憲法人工智能”（Constitutional

AI，CAI）的概念。

與RLHF不同，憲法AI的過(guò)程使用模型而不是人類(lèi)來(lái)生成微調(diào)輸出的初始排名,根據(jù)一系列基本原則選擇最佳回復(fù)，即RLAIF。圖20：CAI的過(guò)程圖21：Claude通過(guò)RLAIF無(wú)害化輸出結(jié)果，并取得一定成效資料：Yuntao

Bai

etal.《Constitutional

AI:

Harmlessness

fromAIFeedback》，德邦研究所資料：Scale官網(wǎng)，德邦研究所254.2.1Claude與ChatGPT邏輯推理能力均有提升空間圖22：Claude與ChatGPT的生成能力對(duì)比ClaudeChatGPT對(duì)比正確答案約為

1555.80。ChatGPT

的答案非常接近，但

ChatGPT和Claude

都沒(méi)有給出正確的答案。計(jì)算題ChatGPT：回答正確但自相矛盾事實(shí)知識(shí)Claude：回答不正確。資料：Scale官網(wǎng)，德邦研究所264.2.2Claude較ChatGPT，代碼能力較弱圖22：Claude與ChatGPT的生成能力對(duì)比（續(xù)前）ClaudeChatGPT對(duì)比代碼生成均回答正確ChatGPT：通常會(huì)正確處理這個(gè)問(wèn)題，在5次試驗(yàn)中4次取得成功；代碼理解Claude：在所有5次嘗試中都失敗了。資料：Scale官網(wǎng)，德邦研究所274.2.3Claude比ChatGPT更懂人類(lèi)幽默圖22：Claude與ChatGPT的生成能力對(duì)比（續(xù)前）ClaudeChatGPT對(duì)比Claude：可以在經(jīng)過(guò)多輪嘗試后生成接近人類(lèi)的笑話(huà)。笑話(huà)撰寫(xiě)ChatGPT：無(wú)法生成笑話(huà)，即使在調(diào)整問(wèn)題，以適應(yīng)其的謹(jǐn)慎態(tài)度之后，也無(wú)法獲得理想答案。資料：Scale官網(wǎng)，德邦研究所284.3百度：擁有打造國(guó)產(chǎn)ChatGPT能力的公司

百度擁有飛槳（深度學(xué)習(xí)開(kāi)源框架）、百度AI大底座（全棧AI基礎(chǔ)設(shè)施）和文心大模型（AI應(yīng)用場(chǎng)景全覆蓋）。

PaddlePaddle飛槳是中國(guó)自主研發(fā)的第一個(gè)深度學(xué)習(xí)框架。深度學(xué)習(xí)框架是在完成深度學(xué)習(xí)時(shí)一套可以復(fù)用的代碼，使得使用者在開(kāi)發(fā)深度學(xué)習(xí)程序時(shí)可以不用從復(fù)雜的神經(jīng)網(wǎng)絡(luò)搭建開(kāi)始編代碼，而是在已有的模型上進(jìn)行個(gè)性化改進(jìn)。

百度AI大底座：國(guó)內(nèi)首個(gè)全棧自研的Al基礎(chǔ)設(shè)施，面向企業(yè)Al開(kāi)發(fā)和應(yīng)用，提供端到端自主可控、自我進(jìn)化的解決方案讓企業(yè)可以快捷、低成本地實(shí)現(xiàn)“Al能力隨用隨取”

文心大模型：源于產(chǎn)業(yè)、服務(wù)于產(chǎn)業(yè)，是產(chǎn)業(yè)級(jí)知識(shí)增強(qiáng)大模型。百度通過(guò)大模型與國(guó)產(chǎn)深度學(xué)習(xí)框架融合發(fā)展，打造了自主創(chuàng)新的AI底座，大幅降低了AI開(kāi)發(fā)和應(yīng)用的門(mén)檻，滿(mǎn)足真實(shí)場(chǎng)景中的應(yīng)用需求，真正發(fā)揮大模型驅(qū)動(dòng)AI規(guī)?；瘧?yīng)用的產(chǎn)業(yè)價(jià)值。圖23：飛槳在深度學(xué)習(xí)開(kāi)源框架中的份額較高圖24：文心大模型發(fā)揮了大模型驅(qū)動(dòng)AI規(guī)?；瘧?yīng)用的產(chǎn)業(yè)價(jià)值資料：IDC中國(guó)，德邦研究所資料：公司官網(wǎng)，德邦研究所294.3.1ERNIE：百度基于BERT打造的NLP模型

2月7日，百度官宣其新的大模型項(xiàng)目“文心一言”，英文名ERNIE

Bot。

ERNIE是百度開(kāi)創(chuàng)性提出的基于知識(shí)增強(qiáng)的持續(xù)學(xué)習(xí)語(yǔ)義理解框架。

ERNIE在情感分析、文本匹配、自然語(yǔ)言推理、詞法分析、閱讀理解、智能問(wèn)答等16個(gè)公開(kāi)數(shù)據(jù)集上全面顯著超越世界領(lǐng)先技術(shù)，在國(guó)際權(quán)威的通用語(yǔ)言理解評(píng)估基準(zhǔn)GLUE上，得分首次突破90分，獲得全球第一。

ERNIE在工業(yè)界得到了大規(guī)模應(yīng)用，如搜索引擎、新聞推薦、廣告系統(tǒng)、語(yǔ)音交互、智能客服等。圖25：ERNIE3.0的架構(gòu)圖圖26：ERNIE3.0的生成效果資料：Yu

Sunet

al.《ERNIE

3.0:

LARGE-SCALE

KNOWLEDGE

ENHANCED

PRE-資料：Yu

Sunet

al.《ERNIE

3.0:

LARGE-SCALE

KNOWLEDGE

ENHANCED

PRE-TRAINING

FORLANGUAGE

UNDERSTANDING

ANDGENERATION》，德邦研究所TRAINING

FORLANGUAGE

UNDERSTANDING

ANDGENERATION》，德邦研究所30。4.3.1ERNIE：百度基于BERT打造的NLP模型

ERNIE由BERT進(jìn)化而來(lái)，經(jīng)過(guò)一系列的升級(jí)，目前已推出3.0版本。

在

ERNIE3.0中，自回歸和自編碼網(wǎng)絡(luò)被創(chuàng)新型地融合在一起進(jìn)行預(yù)訓(xùn)練。

自編碼網(wǎng)絡(luò)采用

ERNIE2.0的多任務(wù)學(xué)習(xí)增量式構(gòu)建預(yù)訓(xùn)練任務(wù)，持續(xù)的進(jìn)行語(yǔ)義理解學(xué)習(xí)。

通過(guò)新增的實(shí)體預(yù)測(cè)、句子因果關(guān)系判斷、文章句子結(jié)構(gòu)重建等語(yǔ)義任務(wù)進(jìn)行預(yù)訓(xùn)練；同時(shí)，創(chuàng)新性地增加了知識(shí)增強(qiáng)的預(yù)訓(xùn)練任務(wù)。

自回歸網(wǎng)絡(luò)基于

Tranformer-XL

結(jié)構(gòu)，支持長(zhǎng)文本語(yǔ)言模型建模。多范式的統(tǒng)一預(yù)訓(xùn)練模式使得

ERNIE3.0能夠在理解任務(wù)、生成任務(wù)和零樣本學(xué)習(xí)任務(wù)上獲取

SOTA

的表現(xiàn)。表7：ERNIE3.0與GPT-3的對(duì)比ERNIE3.0百度GPT-3OpenAI2020年5月GPT公司基本信息模型發(fā)布時(shí)間底層模型參數(shù)量2021年7月BERT10B175B學(xué)習(xí)量4TB45TB資料：各公司官網(wǎng)，Tom

B.Brownet

al.《Language

Models

areFew-Shot

Learners》，YuSunet

al.《ERNIE

3.0:

LARGE-SCALEKNOWLEDGE

ENHANCEDPRE-TRAINING

FOR

LANGUAGE

UNDERSTANDING

ANDGENERATION》，德邦研究所314.4科技公司申請(qǐng)人機(jī)對(duì)話(huà)相關(guān)專(zhuān)利表8：騰訊、阿里、申請(qǐng)的人機(jī)對(duì)話(huà)相關(guān)專(zhuān)利專(zhuān)利名稱(chēng)人機(jī)對(duì)話(huà)方法以及對(duì)話(huà)系統(tǒng)人機(jī)對(duì)話(huà)方法、裝置、設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)騰訊科技（深圳）有限公司人機(jī)對(duì)話(huà)及預(yù)訓(xùn)練語(yǔ)言模型訓(xùn)練方法、系統(tǒng)及電子設(shè)備阿里巴巴達(dá)摩院（杭州）科技有限公司公司（專(zhuān)利權(quán)人）授權(quán)公告時(shí)間技術(shù)有限公司2023/2/32023/2/32023/01/31

實(shí)質(zhì)審查的生效內(nèi)容簡(jiǎn)介資料：國(guó)家知識(shí)產(chǎn)權(quán)局，企查查，德邦研究所3205投資建議&風(fēng)險(xiǎn)提示SEPARATOR

PAGE335.投資建議：把握AIGC技術(shù)催化和商業(yè)落地的投資機(jī)會(huì)

ChatGPT月度用戶(hù)已破億，加速商業(yè)化布局；國(guó)內(nèi)外科技龍頭布局AICG，行業(yè)有望迎來(lái)爆發(fā)式增長(zhǎng)。

技術(shù)發(fā)展有望促進(jìn)生產(chǎn)效率提升，并進(jìn)一步創(chuàng)造新的消費(fèi)和需求，有利于文娛內(nèi)容和互聯(lián)網(wǎng)行業(yè)。

在AIGC和ChatGPT方面，我們建議持續(xù)關(guān)注技術(shù)發(fā)展和應(yīng)用情況，把握技術(shù)催化和商業(yè)化落地帶來(lái)的投資機(jī)會(huì)：1）具備AIGC和ChatGPT的技術(shù)探索和應(yīng)用的公司：百度、商湯、萬(wàn)興科技、拓爾思等；2）具有海量?jī)?nèi)容素材且具有AIGC探索布局的，圖片/文字/音樂(lè)/視頻內(nèi)容及平臺(tái)公司騰訊控股，閱文集團(tuán)、美圖公司、視覺(jué)中國(guó)、中文在線(xiàn)、漢儀股份、昆侖萬(wàn)維、天娛數(shù)科、風(fēng)語(yǔ)筑等。圖18：ChatGPT上線(xiàn)2個(gè)月后月度用戶(hù)數(shù)量破1億圖19：OpenAI推出付費(fèi)訂閱項(xiàng)目ChatGPTPlus，價(jià)格為$20/月34資料：yahoo

finance，UBS，德邦研究所資料：OpenAI，德邦研究所5.