中國移動研究院-互聯(lián)網(wǎng)行業(yè)通算融合共生：關(guān)鍵技術(shù)和系統(tǒng)設(shè)計思考

中國移動研究院李男業(yè)務(wù)和技術(shù)雙重驅(qū)動無線接入網(wǎng)演進業(yè)務(wù)和技術(shù)雙重驅(qū)動無線接入網(wǎng)絡(luò)架構(gòu)不斷演進業(yè)務(wù)需求技術(shù)趨勢架構(gòu)演進2G3G4G 無線接入網(wǎng)基站和終端設(shè)備向算力化演進基站設(shè)備向異構(gòu)算力方向演進方式1方式2方式1基站算力資源池化可提升硬件基礎(chǔ)設(shè)施利用效率，節(jié)約建設(shè)投資、復(fù)用運維資源，已成為無線產(chǎn)品演進方向終端呈現(xiàn)海量、多樣化、輕量化特點終端呈現(xiàn)海量、多樣化、輕量化特點，部分終端算力快速增強網(wǎng)絡(luò)智能增強網(wǎng)絡(luò)智能增強服務(wù)能力拓展網(wǎng)絡(luò)智能化是通算融合的重要場景，產(chǎn)業(yè)鏈條較短，較容易實現(xiàn)運營商內(nèi)部閉環(huán)，可作為通算融合應(yīng)用突破口基于基站的2C/2B算網(wǎng)業(yè)一體服務(wù)也是重要的拓展場景基站/網(wǎng)絡(luò)協(xié)作AI（如：分布式推理、協(xié)同推理、聯(lián)邦學(xué)習(xí)等）、空新型服務(wù)模式：云手機、云游戲、手勢/動作識別、軌AI原生可穿戴形態(tài)產(chǎn)品涌現(xiàn)吊墜Y無線網(wǎng)絡(luò)與智能終端的通信和計算協(xié)同將助力打開新型信息無線網(wǎng)絡(luò)與智能終端的通信和計算協(xié)同將助力打開新型信息服務(wù)產(chǎn)業(yè)價值空間多模態(tài)內(nèi)容生成生成式AI涌現(xiàn)，逐步向個性化服務(wù)演進個人專屬AI代理終端能力快速增強，形態(tài)多樣化聯(lián)發(fā)科天璣9300AI處理器APU790聯(lián)發(fā)科天璣9300AI處理器APU790AIGC端側(cè)LoRA融合AI處理器HexagonNPUAI算力超過73TOPS。生成式生成式AI大規(guī)模應(yīng)用帶來的業(yè)務(wù)需求LLAMA2-13B模型文件13GB，StableDiffusion模型幾GB到十幾GB不等核心技術(shù)難點和系統(tǒng)設(shè)計問題?通算資源角度：如何發(fā)揮泛在無線接入網(wǎng)基礎(chǔ)設(shè)施價值，以有效滿足技術(shù)發(fā)展需求？?網(wǎng)絡(luò)功能角度：面向無線網(wǎng)絡(luò)高動態(tài)環(huán)境、計算能力的空時波動和碎片化等特性，及通算資源受限約束，如何實現(xiàn)通算智一體服務(wù)和保障？?計算感知的無線協(xié)議功能和接口流程設(shè)計?無線封閉數(shù)據(jù)的實時/按需/跨域采集、關(guān)聯(lián)挖掘和安全開放?服務(wù)能力角度：如何實現(xiàn)無線通信、計算和智能資源/功能/服務(wù)協(xié)同動態(tài)按需編排和開放？?RANdomain的通算智服務(wù)編排、開放機制及與中心編排系統(tǒng)的協(xié)同Communication-AwareOrchestrationofComputeAIaaSXaaS2TASKSERVICExAppRICvCUvDUXaaS2DesignFrameworkCloudManager4SERVICEFunctionFunctionFunctionFunctionFunctionSXaaS3XaaSSERVICESDNControllerwithSRv6VMCoroutine/ThreadCoroutine/......Thread...VM2VirtualInfrastructureManagerContainerRuntimeCommunication-AwareOrchestrationofComputeAIaaSXaaS2TASKSERVICExAppRICvCUvDUXaaS2DesignFrameworkCloudManager4SERVICEFunctionFunctionFunctionFunctionFunctionSXaaS3XaaSSERVICESDNControllerwithSRv6VMCoroutine/ThreadCoroutine/......Thread...VM2VirtualInfrastructureManagerContainerRuntimeHypervisorOthersvDriversAgentsVIRTUALIZATIONLAYERPluginsOPERATINGSYSTEM&DRIVERLINUXKERNELPhyiscalInfrastructureManagerSmartNICDriverDriverFPGADriverGPUDriverOtherDriver1FunctionDPUDriver①硬件抽象和虛擬化：針對CPU、GPU和DPU等異構(gòu)硬件的資源管理和調(diào)度③數(shù)據(jù)平面增強：基于算力路由和微服Others:Switch/Router,Others:Switch/Router,RU,etcHARDWARESmartNICRISC-VFPGAARMGPUDPUX86多種AI模型在不同硬件的推理處理能力測試多種AI模型在不同硬件的模型訓(xùn)練處理能力測試AI服務(wù)請求 任務(wù)生成計算性能映射模型通算聯(lián)合調(diào)度渲染、定位...服務(wù)拆解計算任務(wù)實時控制與調(diào)度InceptionV3InferenceSSDResNet-34training無線網(wǎng)絡(luò)功能GPU3VendorCGPU2VendorBGPU1VendorA多種AI模型在不同硬件的推理處理能力測試多種AI模型在不同硬件的模型訓(xùn)練處理能力測試AI服務(wù)請求 任務(wù)生成計算性能映射模型通算聯(lián)合調(diào)度渲染、定位...服務(wù)拆解計算任務(wù)實時控制與調(diào)度InceptionV3InferenceSSDResNet-34training無線網(wǎng)絡(luò)功能GPU3VendorCGPU2VendorBGPU1VendorAGPUnVendorN不同業(yè)務(wù)應(yīng)用在不同計算硬件的計算能力有較大差異，算力資源調(diào)度需考慮業(yè)務(wù)模型與計算硬件的適配能力?度量方式2：業(yè)務(wù)模型或原子功能驅(qū)動的計算能力度量無線通算聯(lián)合編排與服務(wù)開放無線通算聯(lián)合編排與服務(wù)開放虛機/容器編排管理虛機/容器編排管理Hypervisor/ContainerHypervisor/ContainerRuntime操作系統(tǒng)操作系統(tǒng)連接切計算也切成任務(wù)遷移計算不切通算聯(lián)合的移動性管理連接切計算也切成任務(wù)遷移計算不切通算聯(lián)合的移動性管理?通信和計算聯(lián)合決策?連接和計算任務(wù)按需解耦遷移，保障業(yè)務(wù)端到端體驗CN控制任務(wù)在CCF1控制無線算力池1243?算力類型多樣?網(wǎng)絡(luò)高動態(tài)變化CCF1和CCF2遷移核心網(wǎng)無線接入網(wǎng)擴展對終端和基站的計算能力和任務(wù)實時感知，通信計算資源聯(lián)合控制保障用戶體驗Loop3：終端/基站/核心網(wǎng)計算感知Loop2：站間計算感知Loop1：終端基站計算感知Opt1：SRB*承載算力和計算任務(wù)信息SRB*DRB通算實時感知任務(wù)實時控制Opt2：CRB承載算力和計算任務(wù)信息通算資源聯(lián)合調(diào)度用戶面控制面計算控制功能CCFSRB0~4SRB0~4核心網(wǎng)CRBDRB目標：最大化滿足端到端延遲要求的VR目標：最大化滿足端到端延遲要求的VR用戶數(shù)量設(shè)置業(yè)務(wù)幀率60、90、120FPS&背景用戶數(shù)50幀壓縮后2Mb，無線環(huán)境設(shè)置UMa場景時，無線算網(wǎng)聯(lián)合編排算法相比于VR用戶就近接入方式提升60FPS接入VR用戶數(shù)10%IoV場景下的通算聯(lián)合調(diào)度目標：最大化工作完成率IoV場景下的通算聯(lián)合調(diào)度目標：最大化工作完成率，最小化總體低時延和成本變量：子任務(wù)與計算節(jié)點的適配關(guān)系約束：傳輸速率和計算資源約束以隨機任務(wù)依賴關(guān)系模型為例，當(dāng)?shù)竭_8個工作（每個工作中包含5個子任務(wù)）時，所提方法的工作完成率可以提高7%，但時延和成本至少分別降低19%和14%面向VR場景的無線通算一體編排目標：最大化系統(tǒng)AI推理精度通信：基站時頻資源分配比例因子通信：基站時頻資源分配比例因子模型切分：模型切分點和退出點推理：模型退出點以20個AI推理任務(wù)為例，覆蓋較好場景下（SNR20dB到30dB相比基準算法至少可以提升0.4%系統(tǒng)推理精度，系統(tǒng)可以提升11%的AI推理任務(wù)數(shù)，至少提高28%的譜效率N.Li,Q.Sun,X.Li,etal.,“TowardstheDeepConvergenceofCommunicationandComputinginRAN:Scenarios,Architecture,KeyTechnologies,ChallengesandFutureTrends,ChinaCommunications,2023.從點到點靜態(tài)轉(zhuǎn)發(fā)到全連接動態(tài)跨站路由從點到點靜態(tài)轉(zhuǎn)發(fā)到全連接動態(tài)跨站路由?增強方向：增強RAN對計算數(shù)據(jù)實時路由決策能力縱向封閉管道式的用戶面機制已無法滿足計算數(shù)據(jù)需求，用戶面泛在開放、動態(tài)路由、一體服務(wù)能力將成為演進方向?典型場景：大規(guī)模無線數(shù)據(jù)本地處理、超低時延工業(yè)控制從單一數(shù)據(jù)轉(zhuǎn)發(fā)功能到數(shù)據(jù)采集/存儲/處理轉(zhuǎn)發(fā)一體服務(wù)能力?增強方向：終端、基站數(shù)據(jù)和業(yè)務(wù)體驗等數(shù)據(jù)按需采集、存多維數(shù)據(jù)統(tǒng)一管理 RAN功能LCM RANFCAPSAIAIAI通算聯(lián)合編排AI/ML管理RAN異構(gòu)計算資源管理通算能力開放計算拓撲管理AI/ML模型管理業(yè)務(wù)/服務(wù)編排計算資源性能故障管理AI/ML模型訓(xùn)練AI/ML模型性能監(jiān)測多維數(shù)據(jù)統(tǒng)一管理 RAN功能LCM RANFCAPSAIAIAI通算聯(lián)合編排AI/ML管理RAN異構(gòu)計算資源管理通算能力開放計算拓撲管理AI/ML模型管理業(yè)務(wù)/服務(wù)編排計算資源性能故障管理AI/ML模型訓(xùn)練AI/ML模型性能監(jiān)測通算功能與資源聯(lián)合編排算力度量從傳統(tǒng)網(wǎng)絡(luò)管理向通算資源/功能/服務(wù)協(xié)同編排演進，助力面向業(yè)務(wù)意圖/需求的閉環(huán)保障和智能自治SLA SLA 模板/意圖產(chǎn)學(xué)研協(xié)同推進無