2023年騰訊控股研究報(bào)告 騰訊AI戰(zhàn)略、布局、大模型及應(yīng)用跟蹤

2023年騰訊控股研究報(bào)告騰訊AI戰(zhàn)略、布局、大模型及應(yīng)用跟蹤1.騰訊AI整體戰(zhàn)略跟蹤：2016年開始投入基礎(chǔ)研究，2018年研發(fā)矩陣成型，2022年公布混元大模型進(jìn)展，未來有望成為重要增長乘數(shù)回顧騰訊AI戰(zhàn)略演變：公司擁有開發(fā)和應(yīng)用AI技術(shù)的長期歷史，早期以各事業(yè)群AI團(tuán)隊(duì)為主，2016年騰訊開始從公司層級(jí)投入AI基礎(chǔ)研究，2017年提出“基礎(chǔ)研究—場(chǎng)景共建—能力開放”的三層戰(zhàn)略架構(gòu)。2018/2019年騰訊人工智能和前沿科技兩大實(shí)驗(yàn)室矩陣成型，并將AI研究聚焦更高層級(jí)的多模態(tài)研究和通用人工智能。2022年騰訊首次披露混元大模型研發(fā)進(jìn)展，并在年末推出混元NLP萬億大模型。2023年3月管理層在業(yè)績會(huì)上將AI技術(shù)看作未來重要的增長乘數(shù)，表示正在快速推進(jìn)混元AI大模型。未來前端應(yīng)用可以與現(xiàn)有業(yè)務(wù)結(jié)合提升商業(yè)化效率，推進(jìn)人機(jī)交互業(yè)務(wù)也可帶來新增長機(jī)遇。公司擁有開發(fā)和應(yīng)用AI技術(shù)的長期歷史，早期主要由各事業(yè)群的AI團(tuán)隊(duì)推動(dòng)，比如社交網(wǎng)絡(luò)事業(yè)群（原）旗下的優(yōu)圖實(shí)驗(yàn)室、微信事業(yè)群旗下的微信AI團(tuán)隊(duì)，圖像識(shí)別、語音識(shí)別等AI技術(shù)已廣泛應(yīng)用于騰訊多個(gè)產(chǎn)品。2016年起，騰訊開始從公司層級(jí)投入AI基礎(chǔ)研究。2016年4月成立了第一個(gè)公司層級(jí)的AI研究機(jī)構(gòu)，騰訊AILab，全球招募頂尖科學(xué)家，專注于包括計(jì)算機(jī)視覺、語音識(shí)別、自然語言處理和機(jī)器學(xué)習(xí)方向的基礎(chǔ)研究，和內(nèi)容、社交、游戲等方向的應(yīng)用探索。2017年公司提出了“MakeAIEverywhere”的戰(zhàn)略愿景，和“基礎(chǔ)研究—場(chǎng)景共建—能力開放”的三層AI戰(zhàn)略架構(gòu)。在2017年二季度業(yè)績會(huì)時(shí)，騰訊總裁劉熾平將人工智能定位為基礎(chǔ)能力。2018年3月，騰訊宣布將成立機(jī)器人實(shí)驗(yàn)室“RoboticsX”，與AILab成為騰訊AI產(chǎn)業(yè)的雙基礎(chǔ)部門，打造虛擬世界到真實(shí)世界的載體與連接器。同時(shí)騰訊AILab宣布將致力于發(fā)展通用人工智能的研究，而“AI+游戲”仿真真實(shí)世界或?qū)⑹亲罴褜?shí)現(xiàn)方向。2019年5月在騰訊數(shù)字生態(tài)大會(huì)上，公司前副總裁姚星表示騰訊已建立人工智能與前沿科技為基礎(chǔ)的兩大實(shí)驗(yàn)室矩陣。2016年以來，騰訊諸多AI技術(shù)在消費(fèi)互聯(lián)網(wǎng)領(lǐng)域（如微信的語音識(shí)別、照片濾鏡、物體識(shí)別、翻譯等）和產(chǎn)業(yè)互聯(lián)網(wǎng)領(lǐng)域（如機(jī)器自動(dòng)識(shí)別檢測(cè)在智能工業(yè)領(lǐng)域、為無人商場(chǎng)提供底層基礎(chǔ)能力等）落地。未來騰訊AI基礎(chǔ)研究將聚焦長期核心問題，即多模態(tài)研究和通用人工智能。此后，騰訊AI發(fā)展在技術(shù)積累、商業(yè)應(yīng)用、能力開放三方面不斷進(jìn)步。2022年4月，騰訊首次對(duì)外披露“混元”AI大模型的研發(fā)進(jìn)展。2022年12月，混元推出國內(nèi)首個(gè)低成本、可落地的NLP萬億大模型。2023年2月末，據(jù)36氪旗下的職場(chǎng)Bonus報(bào)道，騰訊針對(duì)類ChatGPT對(duì)話式產(chǎn)品已成立【混元助手（HunyuanAide）】項(xiàng)目組。2023年3月，騰訊管理層在2022年第四季度業(yè)績會(huì)上對(duì)于騰訊的AI布局作出進(jìn)一步闡釋：公司認(rèn)為AI技術(shù)將有望成為公司中長期重要增長乘數(shù)之一。正在快速推進(jìn)自有的混元AI模型，未來將在后端逐步推出/優(yōu)化基礎(chǔ)模型的同時(shí)，加強(qiáng)前段場(chǎng)景的應(yīng)用，利用AI技術(shù)促進(jìn)產(chǎn)品創(chuàng)新、商業(yè)化和運(yùn)營效率。騰訊豐富的場(chǎng)景和數(shù)據(jù)、非常強(qiáng)大的云計(jì)算基礎(chǔ)設(shè)施、應(yīng)用AI技術(shù)輔助業(yè)務(wù)的長期歷史，將為訓(xùn)練模型提供支持。在商業(yè)化前景方面，一方面AI技術(shù)應(yīng)用將在現(xiàn)有廣泛的業(yè)務(wù)方向上提升商業(yè)化。另一方面，AI技術(shù)發(fā)展也將隨時(shí)間推移催生更多新的商業(yè)機(jī)會(huì)。2017年3月初，公司董事會(huì)主席馬化騰在記者溝通會(huì)中闡釋了騰訊在人工智能上的布局，既有做基礎(chǔ)性AI研究的Lab，各個(gè)事業(yè)群也有AI團(tuán)隊(duì)。過去幾年AI技術(shù)應(yīng)用一直在做，比如優(yōu)圖實(shí)驗(yàn)室的人臉識(shí)別技術(shù)、微信AI團(tuán)隊(duì)的語音識(shí)別。2017年3月，騰訊發(fā)布2016年財(cái)報(bào)，其中提及“正在投資前沿科技（如人工智能及機(jī)器學(xué)習(xí)）以布局未來的【連接】策略。”“利用機(jī)器學(xué)習(xí)在數(shù)字內(nèi)容服務(wù)中進(jìn)行個(gè)性化推薦，提升廣告定向能力，豐富社交互動(dòng)（如動(dòng)態(tài)面具功能），以及節(jié)省成本（如優(yōu)化客服需求）?！?017年6月，騰訊云發(fā)布“AI即服務(wù)”戰(zhàn)略新品【智能云】，開放騰訊在計(jì)算機(jī)視覺、智能語音識(shí)別、自然語言處理的三大核心能力。2017年8月，公司總裁劉熾平在第二季度財(cái)報(bào)公布后的分析師會(huì)議上表示：1）AI是一項(xiàng)基礎(chǔ)能力，具有戰(zhàn)略意義，騰訊將持續(xù)、長期而有耐心的投資，不急于短期回報(bào)。另一方面，AI也將在多個(gè)方面助力于現(xiàn)有的產(chǎn)品、服務(wù)與業(yè)務(wù)發(fā)展。2）在騰訊的戰(zhàn)略優(yōu)勢(shì)方面，劉熾平強(qiáng)調(diào)了騰訊在計(jì)算能力、大數(shù)據(jù)、應(yīng)用工程、技術(shù)及應(yīng)用場(chǎng)景的優(yōu)勢(shì)，以及核心人才方面的主動(dòng)布局。公司廣泛多元的業(yè)務(wù)內(nèi)容，為機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺、語音識(shí)別及自然語言處理等領(lǐng)域的AI基礎(chǔ)研究提供了豐富應(yīng)用場(chǎng)景。3）關(guān)于AI在騰訊各類產(chǎn)品中的運(yùn)用，劉熾平指出，在面向消費(fèi)者的產(chǎn)品中，AI讓騰訊更了解用戶，從而提升其產(chǎn)品體驗(yàn)；在企業(yè)服務(wù)方面，AI可以優(yōu)化算法，從而加強(qiáng)精準(zhǔn)定向技術(shù)；在騰訊的生態(tài)系統(tǒng)中，強(qiáng)大的AI能力可賦能騰訊的投資公司和合作伙伴，讓大家能互惠互利。2018年3月，騰訊宣布將成立機(jī)器人實(shí)驗(yàn)室“RoboticsX”，機(jī)器人實(shí)驗(yàn)室和AILab一樣隸屬騰訊技術(shù)工程事業(yè)群（TEG），兩個(gè)實(shí)驗(yàn)室將協(xié)力合作成為騰訊AI產(chǎn)業(yè)的雙基礎(chǔ)部門，打造虛擬世界到真實(shí)世界的載體與連接器。同時(shí)騰訊AILab宣布戰(zhàn)略：目前行業(yè)在人工智能上專注于具體應(yīng)用的開發(fā)，而在通用人工智能方面相對(duì)欠缺。騰訊AILab將致力于發(fā)展通用人工智能的研究，通過“AI+游戲”來仿真真實(shí)世界，構(gòu)建虛擬世界，探索通用人工智能的發(fā)展。2018年9月，世界人工智能大會(huì)上，馬化騰表示人工智能的發(fā)展將讓人與物、人與服務(wù)實(shí)現(xiàn)更好的連接，通向“大社交”時(shí)代，騰訊要發(fā)揮好“連接器”和“生態(tài)共建者”的角色。在騰訊分論壇中，騰訊發(fā)布AI開放平臺(tái)AI.QQ.COM，該平臺(tái)依托騰訊AILab、騰訊優(yōu)圖、WeChatAI等實(shí)驗(yàn)室，匯聚騰訊AI技術(shù)能力，開放100余項(xiàng)AI能力接口，供行業(yè)使用。大會(huì)時(shí)公布騰訊AI開放平臺(tái)已開放的AI技術(shù)能力，日均調(diào)用已過億次，累計(jì)調(diào)用百億次。2019年5月，騰訊數(shù)字生態(tài)大會(huì)上公司前副總裁姚星表示，騰訊已建立人工智能與前沿科技為基礎(chǔ)的兩大實(shí)驗(yàn)室矩陣。其中人工智能實(shí)驗(yàn)室矩陣包括：致力于基礎(chǔ)研究與應(yīng)用的騰訊AILab、聚焦視覺研究的優(yōu)圖實(shí)驗(yàn)室、聚焦語音與自然語言理解WeChatAI團(tuán)隊(duì)。2016年以來，騰訊諸多AI技術(shù)在消費(fèi)互聯(lián)網(wǎng)領(lǐng)域和產(chǎn)業(yè)互聯(lián)網(wǎng)領(lǐng)域落地。姚星表示，過往行業(yè)AI研究是沿著感知、認(rèn)知、決策三個(gè)方向進(jìn)行“單一”優(yōu)化，未來騰訊AI研究將更加聚焦兩大問題：多模態(tài)研究、通用人工智能。2020年7月在世界人工智能大會(huì)云端會(huì)議上，騰訊COO任宇昕表示，AI技術(shù)正在深深“嵌入”各行各業(yè)，變得無所不在。日益完善的新基建和產(chǎn)業(yè)互聯(lián)網(wǎng)，將為各行各業(yè)帶來新增量，為經(jīng)濟(jì)發(fā)展帶來新增長。騰訊研究院發(fā)布《2020騰訊人工智能白皮書：泛在智能》，判斷下一階段的人工智能將呈現(xiàn)“泛在智能”，即1）人工智能將逐漸轉(zhuǎn)變?yōu)橄窬W(wǎng)絡(luò)、電力一樣的基建，向全行業(yè)全領(lǐng)域提供通用AI能力；2）人工智能將應(yīng)用于更加多元的場(chǎng)景和更大規(guī)模的受眾，未來將催生出更多新業(yè)態(tài)、新模式。騰訊人工智能實(shí)驗(yàn)室矩陣?yán)^續(xù)在機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺、語音技術(shù)、自然語音處理四大方向上進(jìn)行技術(shù)積累，并不斷探索相關(guān)技術(shù)在數(shù)字內(nèi)容（游戲、影視、短視頻、社交分享等）、城市治理、醫(yī)療、智能制造、智慧服務(wù)、農(nóng)業(yè)等多個(gè)場(chǎng)景的應(yīng)用。2021年7月，世界人工智能大會(huì)騰訊分論壇上，宣布推出騰訊云TIONE、TIMatrix、TIDataTruth三大AI底層平臺(tái)，可以提供包括算法開發(fā)、模型訓(xùn)練、數(shù)據(jù)標(biāo)注和數(shù)據(jù)處理等一系列開發(fā)能力。2021年11月，騰訊數(shù)字生態(tài)大會(huì)上騰訊研究院發(fā)布《上云賦智：2021云上智能白皮書》，提出綜合人工智能、大數(shù)據(jù)、云計(jì)算、物聯(lián)網(wǎng)的“ABCI云智融合新架構(gòu)”，人工智能與云計(jì)算的融合不僅有助于AI技術(shù)落地，也會(huì)激發(fā)更多新模式、新業(yè)態(tài)。2022年4月，騰訊首次對(duì)外披露“混元”AI大模型的研發(fā)進(jìn)展?！盎煸盇I大模型包含但不限于：計(jì)算機(jī)視覺、自然語言處理、多模態(tài)內(nèi)容理解、文案生成、文生視頻等多個(gè)方向的超大規(guī)模AI智能模型?！盎煸盇I大模型基于騰訊太極機(jī)器學(xué)習(xí)平臺(tái)進(jìn)行研發(fā)，借助GPU算力，實(shí)現(xiàn)快速的算法迭代和模型訓(xùn)練。在全球最具權(quán)威的MSR-VTT，MSVD，LSMDC，DiDeMo和ActivityNet五大跨模態(tài)視頻檢索數(shù)據(jù)集榜單中，“混元”AI大模型先后拿下第一名的成績，實(shí)現(xiàn)了該領(lǐng)域的大滿貫。2022年12月，混元推出國內(nèi)首個(gè)低成本、可落地的NLP萬億大模型。2023年2月末，據(jù)36氪旗下的職場(chǎng)Bonus報(bào)道，騰訊針對(duì)類ChatGPT對(duì)話式產(chǎn)品已成立【混元助手（HunyuanAide）】項(xiàng)目組。2023年3月，騰訊管理層在2022年第四季度業(yè)績會(huì)上對(duì)于騰訊的AI布局作出進(jìn)一步闡釋：公司認(rèn)為AI技術(shù)將有望成為公司未來一個(gè)重要的增長乘數(shù)。公司核心業(yè)務(wù)聚焦社交、通訊和游戲等領(lǐng)域，這些業(yè)務(wù)是基于用戶對(duì)用戶的網(wǎng)絡(luò)、以及非常高質(zhì)量的內(nèi)容，由此不會(huì)像用戶對(duì)機(jī)器類服務(wù)（如搜索）一樣輕易地被AI技術(shù)顛覆，反而基礎(chǔ)模型的發(fā)展將有助于公司推進(jìn)如數(shù)字助理、搜索等的人機(jī)交互服務(wù)，提供新的增長點(diǎn)。對(duì)于公司而言，AI技術(shù)發(fā)展是一個(gè)機(jī)會(huì)，而非風(fēng)險(xiǎn)。騰訊一直在發(fā)展自己的基礎(chǔ)模型，目前正在快速推進(jìn)自有的混元AI模型，未來將在后端逐步推出、優(yōu)化基礎(chǔ)模型的同時(shí)，加強(qiáng)前段場(chǎng)景的應(yīng)用，利用AI技術(shù)促進(jìn)產(chǎn)品創(chuàng)新、商業(yè)化和運(yùn)營效率。在基礎(chǔ)模型研發(fā)優(yōu)勢(shì)方面，公司管理層表示，騰訊擁有廣泛的應(yīng)用場(chǎng)景（微信、游戲、SaaS、娛樂服務(wù)等）、在自然語言處理和計(jì)算機(jī)視覺等方向的技術(shù)團(tuán)隊(duì)和知識(shí)積累、廣度和深度優(yōu)勢(shì)都很明顯的數(shù)據(jù)積累、非常強(qiáng)大的云計(jì)算基礎(chǔ)設(shè)施，可以支持訓(xùn)練模型。在商業(yè)化前景方面，一方面AI技術(shù)應(yīng)用將在現(xiàn)有業(yè)務(wù)方向上提升商業(yè)化。比如高度匹配用戶的內(nèi)容生成將有助于提升廣告轉(zhuǎn)化率；比如內(nèi)容業(yè)務(wù)可以利用AI技術(shù)提升效率和用戶體驗(yàn)；比如將生成式AI技術(shù)納入微信和QQ（如提供客服助理、聊天機(jī)器人、輔助小程序開發(fā)），可以提高效率和用戶體驗(yàn)。另一方面，AI技術(shù)發(fā)展也將隨時(shí)間推移催生更多新的商業(yè)機(jī)會(huì)。2.騰訊AI實(shí)驗(yàn)室矩陣：實(shí)力雄厚，各有側(cè)重根據(jù)我們整理，目前騰訊人工智能研發(fā)矩陣主要包括：1）隸屬于技術(shù)工程事業(yè)群、作為雙基礎(chǔ)研究部門的騰訊AILab和RoboticsX實(shí)驗(yàn)室；2）隸屬于云與智慧產(chǎn)業(yè)事業(yè)群的騰訊優(yōu)圖實(shí)驗(yàn)室；3）隸屬于微信事業(yè)群的微信AI團(tuán)隊(duì)。其中，騰訊AILab研發(fā)團(tuán)隊(duì)實(shí)力雄厚，專注于機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺、語音技術(shù)及自然語言處理方向的基礎(chǔ)研究和應(yīng)用探索。騰訊優(yōu)圖實(shí)驗(yàn)室和微信AI團(tuán)隊(duì)成立較早，在各自擅長的圖像技術(shù)、語音/語言技術(shù)方面擁有長期的技術(shù)積累和應(yīng)用實(shí)踐。2022年9月，在世界人工智能大會(huì)騰訊論壇上，騰訊副總裁、華東總部總經(jīng)理張立軍表示騰訊人工智能中國專利申請(qǐng)超過5600件，AI領(lǐng)域?qū)＠暾?qǐng)總量位于國內(nèi)互聯(lián)網(wǎng)公司第一。騰訊AILab：成立于2016年，專注于人工智能基礎(chǔ)研究，科研團(tuán)隊(duì)實(shí)力雄厚。騰訊AILab成立于2016年4月，總部位于深圳，2017年4月成立西雅圖實(shí)驗(yàn)室。2018年12月張正友博士接替張潼博士成為騰訊AILab負(fù)責(zé)人。西雅圖實(shí)驗(yàn)室負(fù)責(zé)人為俞棟博士。張正友博士目前擔(dān)任騰訊AILab及騰訊RoboticsX實(shí)驗(yàn)室主任，騰訊首席科學(xué)家。他是ACMFellow（國際計(jì)算機(jī)學(xué)會(huì)院士）和IEEEFellow（國際電氣電子工程師學(xué)會(huì)院士）。在立體視覺、三維重建、運(yùn)動(dòng)分析、圖像配準(zhǔn)、攝像機(jī)自標(biāo)定、人臉表情識(shí)別，機(jī)器人導(dǎo)航，語音增強(qiáng)與識(shí)別，沉浸式遠(yuǎn)程交互，視頻會(huì)議系統(tǒng)等方面都有開創(chuàng)性的貢獻(xiàn)，參與了多項(xiàng)歐洲及微軟的計(jì)算機(jī)視覺、多媒體和機(jī)器人重大項(xiàng)目。俞棟博士是IEEEFellow（國際電氣電子工程師學(xué)會(huì)院士）、ISCAFellow，語音識(shí)別與深度學(xué)習(xí)領(lǐng)域的專家，100項(xiàng)專利的發(fā)明人，多次獲得最佳論文獎(jiǎng)，深度學(xué)習(xí)開源軟件CNTK的發(fā)起人和主要作者之一，引領(lǐng)了語音技術(shù)領(lǐng)域多項(xiàng)突破性工作，是首次將深度學(xué)習(xí)技術(shù)應(yīng)用在語音識(shí)別領(lǐng)域的研究領(lǐng)頭人之一，該成果極大推動(dòng)了語音識(shí)別的技術(shù)發(fā)展。騰訊AILab目前有100多位頂尖研究科學(xué)家及300多位應(yīng)用工程師。在斯坦福大學(xué)發(fā)布的2022年度“全球前2%頂尖科學(xué)家榜單”（World'sTop2%Scientists2022）中，騰訊AILab共有5人入選，其中張正友博士排名全球“終身科學(xué)影響力排行榜”第1002名，中國排名Top10。在信息與通信技術(shù)、人工智能與圖像處理、網(wǎng)絡(luò)與通訊等子領(lǐng)域，世界排名分別為第36名，第30名，第30名，中國排名Top3。騰訊AILab在基礎(chǔ)研究方面，關(guān)注機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺、語音技術(shù)及自然語言處理等四大方向，780多篇研究論文已覆蓋國際頂級(jí)學(xué)術(shù)會(huì)議。在技術(shù)應(yīng)用方面，聚焦在游戲、數(shù)字人、內(nèi)容、社交四大領(lǐng)域，在微信、QQ等100多個(gè)產(chǎn)品中落地；行業(yè)應(yīng)用不斷取得突破，研發(fā)出屢獲國際大獎(jiǎng)的棋牌類AI【絕藝】，攻克MOBA、FPS、RTS、3D開放世界等多類游戲的決策智能AI【絕悟】，推進(jìn)多模態(tài)虛擬人前沿技術(shù)，支持國家級(jí)AI醫(yī)療標(biāo)桿產(chǎn)品【騰訊覓影】與【騰訊醫(yī)典】，自研智能顯微鏡及AI藥物發(fā)現(xiàn)平臺(tái)【云深】，并初步探索AI在工業(yè)、農(nóng)業(yè)、生命科學(xué)等領(lǐng)域的研究應(yīng)用。騰訊AILab在游戲、內(nèi)容、數(shù)字人方向上的應(yīng)用探索包括：1）在“AI+游戲”領(lǐng)域：棋牌類AI【絕藝】、決策智能AI【絕悟】、AI智能體【TStarBot】、AI+游戲開放平臺(tái)【開悟】、3D虛擬場(chǎng)景自動(dòng)生成解決方案等。2）在“AI+內(nèi)容”領(lǐng)域：文本理解系統(tǒng)【TexSmart】、交互翻譯系統(tǒng)【TranSmart】、智能寫作助手【文涌（Effidit）】、AI驅(qū)動(dòng)的游戲解說服務(wù)。3）在“AI+數(shù)字人”領(lǐng)域：2020年5月推出AI虛擬人【艾靈】，截止2022年騰訊AILab數(shù)字人技術(shù)已驅(qū)動(dòng)超過70個(gè)角色，落地于廣告、游戲、教育、金融等不同場(chǎng)景，虛擬角色生成效率提升8倍。騰訊優(yōu)圖實(shí)驗(yàn)室：成立于2012年，2018年升級(jí)為計(jì)算機(jī)視覺研發(fā)中心，現(xiàn)歸屬CSIG騰訊優(yōu)圖實(shí)驗(yàn)室成立于2012年，重點(diǎn)專注于圖像技術(shù)的深入研究及應(yīng)用探索，同時(shí)提升在人臉、音頻上的技術(shù)能力。圖像技術(shù)包含圖像識(shí)別、智能鑒黃、OCR技術(shù)、圖像分割以及超分辨率技術(shù)等。人臉識(shí)別包含人臉配準(zhǔn)追蹤技術(shù)、人臉核身技術(shù)、活體檢測(cè)技術(shù)、海量人臉檢索技術(shù)等。音頻技術(shù)包含原音識(shí)別與哼唱識(shí)別技術(shù)、原音消除技術(shù)、語音合成技術(shù)和聲紋識(shí)別技術(shù)等。截止2017年，優(yōu)圖AI技術(shù)已經(jīng)廣泛應(yīng)用在金融、鑒黃、安防、醫(yī)療、尋親等領(lǐng)域，在手機(jī)QQ、QQ空間、QQ音樂、微信、廣點(diǎn)通、全民K歌、騰訊覓影等眾多明星產(chǎn)品中落地，并成功打造了滴滴、福建公安廳、蘇州公安，順豐、中國聯(lián)通、成都國稅等眾多政企客戶合作案例。2018年9月優(yōu)圖實(shí)驗(yàn)室升級(jí)為騰訊計(jì)算機(jī)視覺研發(fā)中心，同一時(shí)間段，騰訊組織架構(gòu)調(diào)整，優(yōu)圖實(shí)驗(yàn)室分屬事業(yè)群由SNG調(diào)整為CSIG，向湯道生匯報(bào)。升級(jí)后的優(yōu)圖實(shí)驗(yàn)室核心戰(zhàn)略為以計(jì)算機(jī)視覺為核心，圍繞社交娛樂、工業(yè)生產(chǎn)、社會(huì)進(jìn)步、前沿探索四大方向，深入到包括醫(yī)療、自動(dòng)駕駛、工業(yè)、零售、辦公、文化、社會(huì)公益等十大領(lǐng)域的具體應(yīng)用，加速研究成果的轉(zhuǎn)化。微信AI團(tuán)隊(duì)：微信內(nèi)部孵化，語音識(shí)別、NLP等技術(shù)廣泛應(yīng)用于微信產(chǎn)品各項(xiàng)功能。微信AI團(tuán)隊(duì)由微信團(tuán)隊(duì)內(nèi)部孵化，研究方向包括語音識(shí)別、自然語言處理、計(jì)算機(jī)視覺、數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)等人工智能技術(shù)。微信AI團(tuán)隊(duì)已將人工智能研究成果應(yīng)用于微信產(chǎn)品的語音輸入、語音轉(zhuǎn)文字、聲紋鎖、對(duì)話機(jī)器人、搖一搖歌曲/電視、掃一掃封面、掃一掃翻譯和微信廣告等功能，同時(shí)為騰訊各業(yè)務(wù)產(chǎn)品線提供語音識(shí)別和語義分析等核心技術(shù)能力支撐。微信AI團(tuán)隊(duì)主要包含專攻語音的微信智聆團(tuán)隊(duì)（成立于2011年）和專攻智能對(duì)話/NLP的微信智言團(tuán)隊(duì)（2017年12月開始籌備，2019年1月亮相微信公開課）。2019年1月微信公開課上，張小龍?zhí)峒皩?duì)AI的看法，微信投入了很多精力來做AI，比如語音識(shí)別，他強(qiáng)調(diào)AI要落地實(shí)際功能或場(chǎng)景，技術(shù)為產(chǎn)品服務(wù)。同時(shí)，微信智言團(tuán)隊(duì)攜其建立的智能對(duì)話系統(tǒng)【小微】亮相微信公開課。2020年1月微信公開課上，微信AI團(tuán)隊(duì)發(fā)布了微信對(duì)話開放平臺(tái)（提供接口搭建客服機(jī)器人）、騰訊小微硬件開放平臺(tái)（定位偏向于語音助手的智能對(duì)話系統(tǒng)）和NLP基礎(chǔ)技術(shù)平臺(tái)（開放NLP技術(shù)棧）。3.混元大模型跟蹤：歷史測(cè)評(píng)中文語義理解能力領(lǐng)先；混元項(xiàng)目或?yàn)榭缡聵I(yè)群聯(lián)合開發(fā)；全套技術(shù)體系助力訓(xùn)練成本下降2021年以來，騰訊多條業(yè)務(wù)線技術(shù)團(tuán)隊(duì)推出了自己的預(yù)訓(xùn)練模型，在反哺業(yè)務(wù)的同時(shí)，也在不斷積累Knowhow。除了混元系列大模型，騰訊各業(yè)務(wù)團(tuán)隊(duì)2021年末以來推出/測(cè)試的NLP方向預(yù)訓(xùn)練模型包括：2021/6/25，騰訊QQ瀏覽器搜索語義團(tuán)隊(duì)推出的摩天（Motian）預(yù)訓(xùn)練模型登頂CLUE總排行榜單，登頂下游4個(gè)分榜（分類、閱讀理解、自然語言推理和NER）。該模型為十億級(jí)別參數(shù)量。2021/9/19，騰訊QQ瀏覽器實(shí)驗(yàn)室研發(fā)的預(yù)訓(xùn)練模型【神舟】（Shenzhou）在CLUE榜單中登頂，成為首個(gè)在中文自然語言理解綜合評(píng)測(cè)數(shù)據(jù)上超過人類水平的預(yù)訓(xùn)練模型。該模型為百億參數(shù)量級(jí)。2021年10月【神舟】模型已逐步應(yīng)用于QQ瀏覽器的搜索、看點(diǎn)資訊、小說等多個(gè)場(chǎng)景。2021/10/13，騰訊云小微與騰訊AILab聯(lián)合團(tuán)隊(duì)提出了基于知識(shí)的中文預(yù)訓(xùn)練模型【神農(nóng)】，該模型僅包含十億級(jí)參數(shù)量，一舉登頂CLUE總排行榜、1.1分類任務(wù)、閱讀理解任務(wù)和命名實(shí)體任務(wù)四個(gè)榜單。2021/10/19，騰訊云和優(yōu)圖實(shí)驗(yàn)室的加速團(tuán)隊(duì)推出的TI-NLP模型在在CLUE語言分類任務(wù)上進(jìn)行試驗(yàn)，在CLUE分類任務(wù)1.0和1.1中獲得第一。2022年10月，微信AI團(tuán)推出百億級(jí)參數(shù)規(guī)模的自研NLP大規(guī)模語言模型WeLM，能在零樣本及少樣本的情境下完成對(duì)話-采訪、閱讀理解、翻譯、改寫、續(xù)寫、多語言閱讀理解等NLP任務(wù)，具備記憶能力、自我糾正和檢查能力?；煸竽Ｐ停和暾采wNLP、CV、多模態(tài)、文生圖等基礎(chǔ)模型和眾多行業(yè)模型；跨模態(tài)視頻檢索、中文語義理解能力領(lǐng)先；已推出NLP萬億大模型，據(jù)職場(chǎng)Bonus報(bào)道成立混元項(xiàng)目組，多團(tuán)隊(duì)聯(lián)合打造騰訊智能大助手2022年4月騰訊首次披露混元大模型研發(fā)進(jìn)展。在全球最具權(quán)威的MSR-VTT等五大跨模態(tài)視頻檢索數(shù)據(jù)集榜單中，混元大模型先后拿下第一名的成績，實(shí)現(xiàn)了該領(lǐng)域的大滿貫。2022年4月，混元大模型在CLUE榜單（中文語言理解評(píng)測(cè)集合）中，以80.888分的成績?nèi)〉玫谝幻?，刷新分類榜單歷史紀(jì)錄。一方面，驗(yàn)證混元大模型在中文NLP領(lǐng)域的領(lǐng)先實(shí)力，另一方面也預(yù)示著大模型正在通過技術(shù)創(chuàng)新實(shí)現(xiàn)更為全面的能力。從2022年4月披露的信息來看，混元大模型是騰訊TEG數(shù)據(jù)平臺(tái)部和機(jī)器學(xué)習(xí)平臺(tái)部聯(lián)合主導(dǎo)，通過開源協(xié)同訊廣告技術(shù)力量所研發(fā)的超大規(guī)模預(yù)訓(xùn)練模型，具備自然語言理解、計(jì)算機(jī)視覺、多模態(tài)內(nèi)容理解、文案生成、視覺生成等能力。2022年四季度，混元推出國內(nèi)首個(gè)低成本、可落地的NLP萬億大模型，在CLUE總榜、分類榜和閱讀理解榜登頂。當(dāng)前混元大模型完整覆蓋NLP、CV、多模態(tài)、文生圖等基礎(chǔ)模型及眾多行業(yè)/領(lǐng)域/任務(wù)模型。2023年2月末，據(jù)36氪旗下的職場(chǎng)Bonus報(bào)道，騰訊針對(duì)類ChatGPT對(duì)話式產(chǎn)品已成立【混元助手（HunyuanAide）】項(xiàng)目組。該項(xiàng)目組將聯(lián)合騰訊內(nèi)部多方團(tuán)隊(duì)構(gòu)建大參數(shù)語言模型。目標(biāo)是“通過性能穩(wěn)定的強(qiáng)化學(xué)習(xí)算法訓(xùn)練，完善騰訊智能助手工具，打造騰訊智能大助手，并能成為國內(nèi)的業(yè)界標(biāo)桿。”據(jù)職場(chǎng)Bonus報(bào)道，【混元助手】項(xiàng)目組由騰訊AILab及RoboticsX實(shí)驗(yàn)室主任、首席科學(xué)家張正友為第一負(fù)責(zé)人，此外集合了來自TEG和戰(zhàn)略發(fā)展總部的3位PM，來自PCG、TEG、騰訊云等部門的7位組長，以及來自TEG、CSIG、CDG、騰訊云AI、PCG、WXG、IEG的7位Sponsor（見附錄）。項(xiàng)目組的豪華陣容側(cè)面反映了管理層對(duì)大模型的重視。我們推測(cè)，盡管此前騰訊各業(yè)務(wù)線擁有多個(gè)AI大模型技術(shù)品牌，未來或以混元系列為主。全套研發(fā)體系實(shí)力顯現(xiàn)，大模型訓(xùn)練進(jìn)一步降本提速。根據(jù)量子位，混元團(tuán)隊(duì)集合騰訊計(jì)算集群、超算網(wǎng)絡(luò)、機(jī)器學(xué)習(xí)平臺(tái)的技術(shù)實(shí)力，并在MoE模型結(jié)構(gòu)、熱啟動(dòng)和課程學(xué)習(xí)、注意力權(quán)重復(fù)制、詞向量路由機(jī)制等方面研究優(yōu)化，大幅降低萬億大模型的訓(xùn)練成本，彰顯全套技術(shù)體系的實(shí)力。1）模型結(jié)構(gòu)選擇和算法的研究優(yōu)化。混元NLP萬億大模型采用了MoE稀疏模型。對(duì)比Dense稠密模型，相同規(guī)模的大模型，MoE模型的訓(xùn)練和推理效率更高，對(duì)資源的消耗更小。混元NLP萬億大模型采用熱啟動(dòng)+模型規(guī)模課程學(xué)習(xí)的策略，首先在小規(guī)模的模型上訓(xùn)練收斂，然后將小模型的知識(shí)遷移到大模型，逐步增加模型的規(guī)模。具體來說，先訓(xùn)練只有一個(gè)專家的Dense模型，然后通過擴(kuò)展專家數(shù)量把模型規(guī)模提升到千億規(guī)模并訓(xùn)練收斂，最后繼續(xù)通過增加專家數(shù)量把模型規(guī)模提升到萬億直至收斂。在此方法下，在千億模型的基礎(chǔ)上擴(kuò)展萬億模型，只需256卡訓(xùn)練1天，即可在下游任務(wù)效果上超過千億模型約10%?；煸狽LP萬億大模型通過改進(jìn)注意力權(quán)重復(fù)用方法，使得注意力權(quán)重總的時(shí)間復(fù)雜度降低50%，大模型預(yù)訓(xùn)練提速~20%，下游任務(wù)指標(biāo)略正。混元NLP萬億大模型引入了額外的詞向量用于專家的路由，把路由和Attention層輸出解耦。使得相同的詞的路由向量相同，從始至終分配到相同的專家提取特征，不僅保證了路由穩(wěn)定性而且加速了收斂。2）計(jì)算平臺(tái)：太極機(jī)器學(xué)習(xí)平臺(tái)能力領(lǐng)先，太極AngelPTM訓(xùn)練框架僅需要192張卡就可以訓(xùn)練萬億模型太極機(jī)器學(xué)習(xí)平臺(tái)1.0誕生于2015年。2018年太極平臺(tái)深度學(xué)習(xí)訓(xùn)練加速上線。2019年太極平臺(tái)聯(lián)合騰訊云，打造了“TI-ONE機(jī)器學(xué)習(xí)平臺(tái)”，將機(jī)器學(xué)習(xí)平臺(tái)能力輸出給公網(wǎng)和私有云用戶，太極平臺(tái)服務(wù)騰訊內(nèi)部業(yè)務(wù)。2020年，太極平臺(tái)機(jī)器學(xué)習(xí)研發(fā)能力再度升級(jí)為統(tǒng)一的云原生架構(gòu)，平臺(tái)服務(wù)騰訊廣告、游戲、信安、金融等多個(gè)核心AI業(yè)務(wù)場(chǎng)景。2022年，太極廣告一站式平臺(tái)上線，目標(biāo)將廣告模型迭代業(yè)務(wù)流程通過“上太極”產(chǎn)品化，為廣告業(yè)務(wù)提供端到端的一站式模型研發(fā)體驗(yàn)。整合后的廣告多媒體AI技術(shù)矩陣已成為騰訊廣告的AI基礎(chǔ)設(shè)施，騰訊2022財(cái)年年報(bào)中專門提及了“提升后的機(jī)器學(xué)習(xí)基礎(chǔ)設(shè)施提升了廣告主的廣告轉(zhuǎn)化效率及投資回報(bào)率，同時(shí)實(shí)現(xiàn)更高的訓(xùn)練效率”。隨著預(yù)訓(xùn)練模型的參數(shù)不斷增大，模型訓(xùn)練需要的存儲(chǔ)空間顯著增加，僅依靠顯存嚴(yán)重束縛著模型參數(shù)的擴(kuò)大。為了降低顯存的壓力同時(shí)擴(kuò)大模型參數(shù)，騰訊基于Zero-Infinity的理念開發(fā)了太極AngelPTM訓(xùn)練框架。根據(jù)量子位公眾號(hào)，在太極機(jī)器學(xué)習(xí)平臺(tái)1T內(nèi)存+單卡40G顯存硬件環(huán)境下，Zero-Infinity單機(jī)最大可容納30B模型，需要至少320張卡訓(xùn)練萬億模型，太極AngelPTM單機(jī)最大可容納55B模型，需要192張卡就可以訓(xùn)練萬億模型。相比Zero-Infinity，太極AngelPTM訓(xùn)練速度有2倍提升，節(jié)省40%訓(xùn)練資源。2023年3月16日，騰訊宣布內(nèi)部成熟落地的太極AngelPTM訓(xùn)練框架上線公有云，對(duì)外輸出能力。此外，騰訊研發(fā)了業(yè)界首個(gè)支持萬億級(jí)MoE預(yù)訓(xùn)練模型應(yīng)用的分布式推理和模型壓縮套件“太極-HCFToolKit”，實(shí)現(xiàn)了無需事先從大模型蒸餾為中小模型進(jìn)而推理，即可使用低成本的分布式推理組件/服務(wù)直接進(jìn)行原始大模型推理部署，充分發(fā)揮了超大預(yù)訓(xùn)練模型帶來的模型理解和生成能力的躍升。3）算力底座：新一代HCC高性能計(jì)算集群為大模型訓(xùn)練“修路”4月14日，騰訊云面向大模型訓(xùn)練場(chǎng)景，發(fā)布新一代HCC高性能計(jì)算集群，采用最新一代騰訊云星星海自研服務(wù)器，搭載英偉達(dá)最新代次H800GPU，服務(wù)器接入帶寬從1.6T提升到3.2T，算力性能和上一代相比提升3倍，是目前國內(nèi)性能最強(qiáng)的大模型計(jì)算集群。2022年四季度，騰訊完成混元NLP萬億大模型訓(xùn)練的時(shí)間為11天，如果基于新一代集群，訓(xùn)練時(shí)間將縮短至4天。4.前端應(yīng)用場(chǎng)景廣泛，微信提供“絕佳”的ToC交互入口我們認(rèn)為騰訊擁有廣泛的前端應(yīng)用場(chǎng)景，覆蓋游戲、社交、內(nèi)容、廣告、搜索、企業(yè)服務(wù)等多領(lǐng)域，其中多個(gè)方向已有AI技術(shù)應(yīng)用的長期歷史。目前混元大模型先后支持了包括微信、QQ、游戲、騰訊廣告、騰訊云等眾多產(chǎn)品和業(yè)務(wù)，未來大模型的迭代升級(jí)以及相關(guān)工具/產(chǎn)品落地，有望進(jìn)一步創(chuàng)造增量價(jià)值、降低成本。國內(nèi)大模型相對(duì)成熟后，絕大多數(shù)互聯(lián)網(wǎng)產(chǎn)品或都將進(jìn)行AI能力改造（如阿里巴巴宣布所有產(chǎn)品將接入“通義千問”大模型）。我們認(rèn)為，如在國內(nèi)廠商大模型能力未明顯分化的情況下，交互入口、場(chǎng)景匹配性或是影響未來技術(shù)應(yīng)用的核心因素。對(duì)于騰訊而言，ToC方向具備天然的交互入口優(yōu)勢(shì)。微信是目前國內(nèi)用戶規(guī)模最大的應(yīng)用，且足夠高頻。類ChatGPT產(chǎn)品落地后，微信有機(jī)會(huì)從當(dāng)前“人人交互”核心入口升級(jí)為“人人+人機(jī)交互”的核心入口，并通過小程序等組件完成生態(tài)內(nèi)服務(wù)閉環(huán)。在ToB辦公場(chǎng)景方面，騰訊三大效率辦公SaaS產(chǎn)品（騰訊會(huì)議、企業(yè)微信、騰訊文檔）也為AI工具應(yīng)用提供了良好基礎(chǔ)。4.1.AI+游戲的探索：AI技術(shù)應(yīng)用可覆蓋制作、運(yùn)營及周邊生態(tài)的全鏈路，未來將聚焦AIGC和AIBot兩大方向游戲是真實(shí)世界的模擬和仿真，由于游戲本身的數(shù)字性質(zhì)，數(shù)據(jù)較實(shí)體產(chǎn)業(yè)更易采集，模型鍛煉效率更快，成為了理想的虛擬測(cè)試場(chǎng)，騰訊亦長期深耕游戲AI開發(fā)，探索邁向通用人工智能的道路。AI技術(shù)在游戲中得到不斷磨煉的同時(shí)，又反哺游戲產(chǎn)業(yè)。騰訊游戲AI探索不斷進(jìn)步，典型代表包括：屢獲國際大獎(jiǎng)的棋牌類AI【絕藝】、攻克MOBA、FPS、RTS、3D開放世界等多類游戲的決策智能AI【絕悟】。2021年【絕悟】團(tuán)隊(duì)初步嘗試將AI能力應(yīng)用于游戲開發(fā)和運(yùn)營流程中。2021、2022、2023年GDC大會(huì)上，騰訊AILab展示了以【絕悟】為代表的AI技術(shù)在游戲產(chǎn)業(yè)全鏈路中的研究應(yīng)用能力。一方面，橫向來看AI技術(shù)可應(yīng)用在游戲制作、運(yùn)營及周邊生態(tài)的全鏈路上；另一方面，縱向上，AI技術(shù)也正在拓展到更多元的游戲品類上，如棋牌類、體育競(jìng)技類、及MOBA、FPS等復(fù)雜策略類游戲。在游戲制作環(huán)節(jié)，騰訊AILab的重點(diǎn)探索包括：1）NPC動(dòng)作生成：傳統(tǒng)方法生成NPC成本很高，制作一分鐘的人物動(dòng)畫需要耗費(fèi)數(shù)天，AI技術(shù)應(yīng)用具備較大潛力。騰訊AILab持續(xù)探索低成本、大規(guī)模地生產(chǎn)NPC（包括面部、表情、動(dòng)作等）相關(guān)技術(shù)。在視覺上，騰訊AILab通過AI對(duì)抗生成網(wǎng)絡(luò)實(shí)現(xiàn)“千人千面”，快速生成高保真AINPC。再整合文字轉(zhuǎn)語音技術(shù)，生成自然語音，同步驅(qū)動(dòng)嘴型、表情等面部變化，達(dá)到高度逼真。最后利用相位神經(jīng)網(wǎng)絡(luò)技術(shù)控制人物運(yùn)動(dòng)，將原本數(shù)周工作量減少到幾小時(shí)。AI在大量的運(yùn)動(dòng)數(shù)據(jù)集上學(xué)習(xí)人體動(dòng)作，將捕獲的運(yùn)動(dòng)數(shù)據(jù)與場(chǎng)景地形數(shù)據(jù)相匹配，完成準(zhǔn)確、流暢的動(dòng)作反應(yīng)，如行走、跑步、跳躍等。2）平衡性測(cè)試：AI技術(shù)有助于提高性能、縮短時(shí)間。以王者榮耀為例，傳統(tǒng)的平衡性測(cè)試是調(diào)整數(shù)值后在測(cè)試服上驗(yàn)證，周期較長，每個(gè)英雄測(cè)試大約需要1-2個(gè)月。此外，由于正式服和測(cè)試服玩家的真實(shí)能力和游戲心態(tài)不一致，會(huì)導(dǎo)致測(cè)試結(jié)果不準(zhǔn)確?！窘^悟】AI通過強(qiáng)化學(xué)習(xí)的方法來模仿真實(shí)玩家，將測(cè)試的總體準(zhǔn)確性提升到95%。同時(shí)，【絕悟】AI通過分布式平臺(tái)和推理優(yōu)化節(jié)省了大量的時(shí)間。分布式平臺(tái)支持大規(guī)模并發(fā)測(cè)試，開發(fā)者只需要輸入英雄的修改數(shù)值，平臺(tái)就會(huì)在短時(shí)間內(nèi)自動(dòng)輸出測(cè)試報(bào)告。推理優(yōu)化則通過模型剪裁、量化、自研推理框架來減少模型的計(jì)算量和加快推理速度，實(shí)現(xiàn)3小時(shí)完成20萬場(chǎng)對(duì)局。3）關(guān)卡設(shè)計(jì)：由于消耗速度快于生產(chǎn)，程序化生成游戲關(guān)卡需求突出。利用AIbot技術(shù)自動(dòng)生成游戲關(guān)卡的優(yōu)勢(shì)明顯，AIbot可以代替人類進(jìn)行大規(guī)模地關(guān)卡評(píng)估和測(cè)試，降低人力成本；還能提供更多語義信息，減少對(duì)訓(xùn)練數(shù)據(jù)的依賴；以及根據(jù)語義信息提升生成關(guān)卡的游戲體驗(yàn)。騰訊AILab正探索將AI自動(dòng)生成關(guān)卡技術(shù)應(yīng)用于2D、3D等類型的游戲之中。以一款自研的2D小游戲作為案例，只需要不到一百個(gè)訓(xùn)練關(guān)卡作為輸入，AI即可在幾個(gè)小時(shí)內(nèi)生成一千多個(gè)可玩的、高質(zhì)量、多樣化的關(guān)卡。4）3D場(chǎng)景生成：在3A游戲中，高擬真的3D場(chǎng)景是玩家沉浸感的核心來源之一。傳統(tǒng)的3D制作需要耗費(fèi)大量時(shí)間和人力成本。2023年GDC大會(huì)上，騰訊AILab提出自研的3D虛擬場(chǎng)景自動(dòng)生成解決方案，其中包括城市布局生成、建筑外觀生成、室內(nèi)映射生成三大核心能力，可以幫助游戲開發(fā)者以更低成本創(chuàng)造風(fēng)格多樣、貼近現(xiàn)實(shí)的虛擬城市，大幅提升3D虛擬場(chǎng)景的生產(chǎn)效率。4.2.AI+廣告的探索：2022年騰訊廣告系統(tǒng)全面升級(jí)成效明顯，大模型商業(yè)化潛力顯露“冰山一角”2022年騰訊廣告系統(tǒng)全面升級(jí)，在太極機(jī)器學(xué)習(xí)平臺(tái)提供計(jì)算基建支持的基礎(chǔ)上，通過騰訊廣告混元AI大模型和廣告精排大模型，完善廣告理解、用戶理解、需求匹配的全流程，提升廣告主的推薦精準(zhǔn)度和轉(zhuǎn)化率。騰訊廣告混元AI大模型包括多模態(tài)內(nèi)容理解大模型、多模態(tài)文案生產(chǎn)大模型、跨模態(tài)檢索大模型。以此為底座，支持廣告內(nèi)容理解、廣告智能創(chuàng)作、廣告智能審核、廣告指紋系統(tǒng)等四大技術(shù)平臺(tái)。其中：1）廣告內(nèi)容理解技術(shù)目的在于建設(shè)多維度多粒度的廣告語義理解系統(tǒng)，提高廣告?zhèn)忍卣魃a(chǎn)與應(yīng)用效率，目前已完成60+項(xiàng)特征理解能力建設(shè)，覆蓋商品、創(chuàng)意、落地頁等多個(gè)維度。2）廣告智能創(chuàng)作技術(shù)實(shí)現(xiàn)多項(xiàng)自動(dòng)化視頻創(chuàng)作能力，支撐多大項(xiàng)產(chǎn)品形態(tài)，日均生產(chǎn)數(shù)十萬條量級(jí)視頻廣告。3）廣告智能審核涵蓋超100項(xiàng)AI審核能力，將以往的"人工審核"方式，進(jìn)化到“機(jī)器主導(dǎo)+人工配合”的高效方式，為騰訊廣告節(jié)約人力超千人，有效提升了廣告主投放效率，把控了平臺(tái)的廣告風(fēng)險(xiǎn)，也為用戶帶來良好的廣告體驗(yàn)。4）廣告指紋系統(tǒng)服務(wù)騰訊廣告投放、廣告召回、廣告推薦模型及廣告效果分析等全鏈路環(huán)節(jié)，有效解決相似廣告重復(fù)曝光、廣告推薦不穩(wěn)定等問題，改善廣告生態(tài)，并為廣告鏈路降本增效作出一定貢獻(xiàn)。對(duì)于廣告系統(tǒng)，除精準(zhǔn)理解廣告內(nèi)容外，下游推薦任務(wù)同樣重要。騰訊廣告精排大模型單模型推理參數(shù)達(dá)到千億級(jí)別，序列化后大小可達(dá)數(shù)百GB，浮點(diǎn)數(shù)計(jì)算量最高每秒超過10億次，在行業(yè)位于先進(jìn)水平。