2023通算融合共生的關(guān)鍵技術(shù)和系統(tǒng)設(shè)計思考

通算融合共生：關(guān)鍵技術(shù)和系統(tǒng)設(shè)計思考業(yè)務(wù)和技術(shù)雙重驅(qū)動無線接入網(wǎng)演進業(yè)務(wù)和技術(shù)雙重驅(qū)動無線接入網(wǎng)演進業(yè)務(wù)和技術(shù)雙重驅(qū)動無線接入網(wǎng)絡(luò)架構(gòu)不斷演進2G語音3G移動互聯(lián)網(wǎng)2G語音3G移動互聯(lián)網(wǎng)4G視頻直播5GeMBB：XR定位 URLLC:車聯(lián)網(wǎng)mMTC：工業(yè)互聯(lián)網(wǎng)5G-A/6G智慧泛在通感一體數(shù)字孿生IP化服務(wù)化（SBA）、智能化（AI/ML)、通算融合共生云化（SDN,NFV,MEC)架構(gòu)演進無線接入網(wǎng)基站和終端設(shè)備向算力化演進無線接入網(wǎng)基站和終端設(shè)備向算力化演進 基站設(shè)備向異構(gòu)算力方向演進 方式1方式21.方式1：專用硬件擴展通用算力板卡，算力卡+軟件包形式提供通算融合服務(wù)方式2：通用服務(wù)器擴展5G加速卡，服務(wù)器+軟件包形式提供通算融合服務(wù)通用算力加速板2.基站算力資源池化可提升硬件基礎(chǔ)設(shè)施利用效率，節(jié)約建設(shè)投資、復(fù)用運維資源，已成為無線產(chǎn)品演進方向業(yè)務(wù)池化CT+IT+OT融合部署運維形成邊緣云網(wǎng)一體服務(wù)時間池化基站服務(wù)能力軟件快速重構(gòu)硬件資源時分復(fù)用空間池化1：N算力資源插花組網(wǎng)多站復(fù)用算力資源終端呈現(xiàn)海量、多樣化、輕量化特點，部分終端算力快速增強個人終端（1Tops~1000+Tops）(十億級：手機，億級：PC/平板，千萬級：智能車）

家庭終端（<10Tops）（億級：網(wǎng)關(guān)，千萬級：攝像頭、路由器）

行業(yè)終端（1Tops~1000+Tops）（百萬級：工業(yè)網(wǎng)關(guān)、邊緣設(shè)）備通算融合潛在應(yīng)用場景通算融合潛在應(yīng)用場景基站算力池化組網(wǎng)，運維優(yōu)化AI下沉，業(yè)務(wù)體驗保障，增強感知能力基站算力池化組網(wǎng)，運維優(yōu)化AI下沉，業(yè)務(wù)體驗保障，增強感知能力關(guān)鍵業(yè)務(wù)體驗保障（如：醫(yī)院場景中的支付應(yīng)用、醫(yī)院自由應(yīng)用app的業(yè)務(wù)體驗保障）基站AI優(yōu)化：基于信道的基站定位計算，實現(xiàn)精細化網(wǎng)絡(luò)覆蓋感知和優(yōu)化網(wǎng)絡(luò)AI運維下沉：智能故障與隱患識別、高負荷小區(qū)優(yōu)化基站/網(wǎng)絡(luò)協(xié)作AI（如：分布式推理、協(xié)同推理、聯(lián)邦學(xué)習(xí)等）、空口協(xié)作AI網(wǎng)絡(luò)智能增強 2C 2B 基站邊緣云服務(wù)可復(fù)用大網(wǎng)運維資源，通過大網(wǎng)服務(wù)體系降低邊緣云運維成本，實現(xiàn)云網(wǎng)一體運維，基站算力池化共享組網(wǎng)滿足極低時延/大帶寬應(yīng)用本地計算需求基于大模型的內(nèi)容生成和個人AI代理虛擬環(huán)境構(gòu)建：基站邊緣云服務(wù)可復(fù)用大網(wǎng)運維資源，通過大網(wǎng)服務(wù)體系降低邊緣云運維成本，實現(xiàn)云網(wǎng)一體運維，基站算力池化共享組網(wǎng)滿足極低時延/大帶寬應(yīng)用本地計算需求基于大模型的內(nèi)容生成和個人AI代理虛擬環(huán)境構(gòu)建：XR本地業(yè)務(wù)渲染、元宇宙等新型服務(wù)模式：云手機、云游戲、手勢/動作識別、軌跡追蹤等面向2B本地化場景的通信計算業(yè)務(wù)一體服務(wù)，靈活敏捷，降低綜合成本園區(qū)：工業(yè)視覺AI檢測（智能終端協(xié)作的分布式學(xué)習(xí)）、能安防、智能巡檢等車聯(lián)網(wǎng)：智能碰撞預(yù)測、路口視覺融合、自動駕駛仿真等無人機：路徑管理、入侵檢測等生成式人工智能成為下一代通信服務(wù)的核心場景生成式人工智能成為下一代通信服務(wù)的核心場景 無線網(wǎng)絡(luò)與智能終端的通信和計算協(xié)同將助力打開新型信息服務(wù)產(chǎn)業(yè)價值空間 生成式AI涌現(xiàn)，逐步向個性化服務(wù)演進多模態(tài)內(nèi)容生成成本趨近于0的生成內(nèi)容在網(wǎng)絡(luò)中爆發(fā)

歷史對話信息環(huán)境/場景信息

用戶習(xí)慣信息位置信息

個人專屬AI代理用戶場景化數(shù)據(jù)和AI大模型在網(wǎng)絡(luò)中頻繁交互手機大模型推理能力加速增強

終端能力快速增強，形態(tài)多樣化智能體間協(xié)作控制需求擴大*NvidiaDriveOrin自動駕駛芯片，單片254TOPS

聯(lián)發(fā)科天璣9300AI處理器APU790運行330億參數(shù)模型內(nèi)存硬件壓縮技術(shù)AIGC端側(cè)LoRA融合秒級文生圖**TeslaFSDHW4.0,單片約200TOPS

高通驍龍8Gen3AI處理器AI算力超過73TOPS。運行100億參數(shù)大模型每秒處理20Tokens0.6秒生成StableDiffusion圖片

端側(cè)推理需要網(wǎng)絡(luò)提供穩(wěn)定大模型文件傳輸端側(cè)可支撐分布式模型學(xué)習(xí)或端/邊/云協(xié)同學(xué)習(xí)將涌現(xiàn)大量的低時延的多智能體間協(xié)作性的端到端時延保障智能汽車* 人形機器人** 家庭終端AI原生可穿戴形態(tài)產(chǎn)品涌現(xiàn)

智能可穿戴設(shè)備作為AI云端實時計算推理胸針 吊

眼鏡 ?具有多模態(tài)數(shù)輸、低延遲、個性化、低功的需求從內(nèi)容數(shù)據(jù)傳輸?shù)襟w量大模型的傳輸LLAMA2-13B模型文件13GB，StableDiffusion模型幾GB到十幾GB不等

生成式AI大規(guī)模應(yīng)用帶來的業(yè)務(wù)需求低延時和個性化的AI代理服務(wù)帶來跨應(yīng)用、場景化的信息收集和頻繁大模型微調(diào)

多智能體協(xié)作和AI原生可穿戴設(shè)備要求靠近用戶的AI計算和低時延高可靠通信核心技術(shù)難點和系統(tǒng)設(shè)計問題核心技術(shù)難點和系統(tǒng)設(shè)計問題通算融合性能指標體系面向通信計算融合的無線系統(tǒng)，除了網(wǎng)絡(luò)通信指標外，如何考量系統(tǒng)的計算性能？通算融合的系統(tǒng)架構(gòu)如何在連接的基礎(chǔ)上，基于統(tǒng)一系統(tǒng)架構(gòu)彈性高效實現(xiàn)對多種計算業(yè)務(wù)（如AI訓(xùn)練/推理業(yè)務(wù)、感知類業(yè)務(wù)的支持？通算融合性能指標體系面向通信計算融合的無線系統(tǒng)，除了網(wǎng)絡(luò)通信指標外，如何考量系統(tǒng)的計算性能？通算融合的系統(tǒng)架構(gòu)如何在連接的基礎(chǔ)上，基于統(tǒng)一系統(tǒng)架構(gòu)彈性高效實現(xiàn)對多種計算業(yè)務(wù)（如AI訓(xùn)練/推理業(yè)務(wù)、感知類業(yè)務(wù)的支持？高動態(tài)多設(shè)備協(xié)作組網(wǎng)針對無線系統(tǒng)通信環(huán)境變化和計算資源的不同狀態(tài)，如何設(shè)計合理的計算協(xié)同模式，高效執(zhí)行計算任務(wù)？效滿足技術(shù)發(fā)展需求？無線通算融合異構(gòu)平臺體服務(wù)和保障？計算感知的無線協(xié)議功能和接口流程設(shè)計通感算智多維資源一體調(diào)度和控制無線用戶面動態(tài)虛數(shù)據(jù)擬錨點和轉(zhuǎn)發(fā)無線封閉數(shù)據(jù)的實時/按需/跨域采集、關(guān)聯(lián)挖掘和安全開放服務(wù)能力角度：如何實現(xiàn)無線通信、計算和智能資源/功能/務(wù)協(xié)同動態(tài)按需編排和開放？RANdomain的通算智服務(wù)編排、開放機制及與中心編排系統(tǒng)的協(xié)同

系統(tǒng)設(shè)計問題技術(shù)探索1-1：無線通算融合異構(gòu)基礎(chǔ)設(shè)施平臺技術(shù)探索1-1：無線通算融合異構(gòu)基礎(chǔ)設(shè)施平臺22SERVICETaaSTASKTASKTASKXaaSAIaaSRICvDUxAppvCUCommunication-AwareOrchestrationofComputeSERVICEFunctionFunctionFunctionFunctionFunctionFunction4CloudFaaSManagerXaaSSERVICEVM ...VMContainer...ContainerCoroutine/Thread...Coroutine/ThreadCode/ImageRepoServiceMesh3XaaSXaaSObservibilityTools22DesignFrameworkVIRTUALIZATIONLAYERHypervisorContainerRuntimecoroutine/threadmanagementPluginsAgentsvDriversOthersSDNControllerwithVirtualInfrastructureManagerOPERATINGSYSTEM&DRIVERLINUXKERNEL1GPUDriverDPUDriverIPUDriverFPGADriverSmartNICDriverOtherDriverPhyiscalInfrastructureManagerHARDWAREX86ARMRISC-VGPUDPUIPUFPGASmartNICOthers:Switch/Router,RU,etcPaaSRANaaS構(gòu)建適配無線網(wǎng)絡(luò)和多樣化業(yè)務(wù)需求的高效異構(gòu)平臺，對無線算力資源實時共享、分配和管理① 硬件抽象和虛擬化① 硬件抽象和虛擬化：針對CPU、GPU和DPU等異構(gòu)硬件的資源管理和調(diào)度② 服務(wù)擴展：從物理和虛擬資源到構(gòu)建無線領(lǐng)域的③ 數(shù)據(jù)平面增強：基于算力路由和微服務(wù)，通過軟硬件卸載來加速service-mesh性能④ 云管和調(diào)度：利用分布式/混合/邊緣設(shè)備云管系統(tǒng)和插件，支撐通信和計算聯(lián)合調(diào)度技術(shù)探索1-2：基于業(yè)務(wù)模型的無線算力度量技術(shù)探索1-2：基于業(yè)務(wù)模型的無線算力度量度量方式1：基于硬件資源模型的度量，可增加擴展考慮能耗因素示例1：2CPU度量方式1：基于硬件資源模型的度量，可增加擴展考慮能耗因素示例1：2CPUcores，4Gmemory，128GStorage,2*10GE@Serverconfiguration:Skylake-D2177etc.示例2：GPUTF32120TFLOPS,CPU795GFLOPS度量方式2：業(yè)務(wù)模型或原子功能驅(qū)動的計算能力度量示例1：AI4830Samplespersecond示例2：LDPCdecodingcapability20GbpsGPU2VendorB無線基礎(chǔ)設(shè)施操作系統(tǒng)Hypervisor/ContainerRuntime虛機/容器編排管理通算聯(lián)合調(diào)度 渲染、定位... InceptionV3InferenceSSDResNet-34training 無線網(wǎng)絡(luò)功能 計算性能映射模型任務(wù)生成服務(wù)拆解計算任務(wù)實時控制與調(diào)度無線通算融合網(wǎng)絡(luò)功能層AI服務(wù)請求無線通算聯(lián)合編排與服務(wù)開放GPUnVendorNGPU3VendorCGPU1VendorA多種AI模型在不同硬件的推理處理能力測試多種AI模型在不同硬件的模型訓(xùn)練處理能力測試技術(shù)探索2-1：計算能力/任務(wù)的實時感知及控制技術(shù)探索2-1：計算能力/任務(wù)的實時感知及控制問題：AI、感知等新服務(wù)能力，需要本地化的網(wǎng)絡(luò)計算功能支持技術(shù)方向：基站擴展計算控制功能（CCF問題：AI、感知等新服務(wù)能力，需要本地化的網(wǎng)絡(luò)計算功能支持技術(shù)方向：基站擴展計算控制功能（CCF知，同時支持計算執(zhí)行可接入核心網(wǎng)總線，使能核心網(wǎng)感知無線基站和終端算力信息計算控制CCF計算執(zhí)行核心網(wǎng)Loop2：站間計算感知Loop3：終端/基站/知Loop1：終端基站計算感知Opt1：SRB*承載息SRB0~4SRB*DRBOpt2：CRB承載算力和計算任務(wù)信息 SRB0~4 CRBDRB控制面用戶面計算控制功能CCF通算實 任務(wù)實時 通算資時感知 控制 聯(lián)合調(diào)問題：算任務(wù)的連續(xù)性和任務(wù)多維度質(zhì)量要求技術(shù)方向：多維要素考量：相鄰小區(qū)通信狀態(tài)，例如，用戶數(shù)，信道環(huán)境，業(yè)務(wù)負載；算力資源狀態(tài)，例如任務(wù)所需算力資源，基站/決策錨點選擇：分布式站間協(xié)商、集中式如無線算力池內(nèi)核心網(wǎng)決策核心網(wǎng)CN控制任務(wù)在CCF1和CCF2遷移CCF1控制無線算力池1243通信和計算聯(lián)合決策連接和計算任務(wù)按需解耦遷移，保障業(yè)務(wù)端到端體驗算力類型多樣網(wǎng)絡(luò)高動態(tài)變化技術(shù)探索2-2：通算資源一體調(diào)度典型用例技術(shù)探索2-2：通算資源一體調(diào)度典型用例目標：最大化工作完成率，最小化總體低時延和成本變量：子任務(wù)與計算節(jié)點的適配關(guān)系約束：傳輸速率和計算資源約束以隨機任務(wù)依賴關(guān)系模型為例，當?shù)竭_8個工作（每個工作中包含5個子任務(wù)）時，所提方法的工作完成率可以提高7%，但時延和成本至少分別降低19%和14%目標：最大化滿足端到端延遲要求的VR用戶數(shù)量目標：最大化工作完成率，最小化總體低時延和成本變量：子任務(wù)與計算節(jié)點的適配關(guān)系約束：傳輸速率和計算資源約束以隨機任務(wù)依賴關(guān)系模型為例，當?shù)竭_8個工作（每個工作中包含5個子任務(wù)）時，所提方法的工作完成率可以提高7%，但時延和成本至少分別降低19%和14%目標：最大化滿足端到端延遲要求的VR用戶數(shù)量通信需求 計算需求通信和計算約束設(shè)置業(yè)務(wù)幀率60、90、120FPS&背景用戶數(shù)50，，幀壓縮后2Mb，無線環(huán)境設(shè)置UMa場景時，無線算網(wǎng)聯(lián)合編排算法相比于VR用戶就近接入方式提升60FPS接入VR用戶數(shù)10%目標：最大化系統(tǒng)AI推理精度通信：比例因子通信：比例因子模型切分：模型切分點和退出點推理：模型退出點基站的算力和帶寬約束以20個AI推理任務(wù)為例，覆蓋較好場景下（SNR20dB到30dB），相比基準算法至少可以提升0.4%系統(tǒng)推理精度，系統(tǒng)可以提升11%的AI推理任務(wù)數(shù)，至少提高28%的譜效率N.Li,Q.Sun,X.Li,etal.,“TowardstheDeepConvergenceofCommunicationandComputinginRAN:Scenarios,Architecture,KeyTechnologies,ChallengesandFutureTrends,ChinaCommunications,2023.技術(shù)探索2-3：無線計算數(shù)據(jù)轉(zhuǎn)發(fā)和路由技術(shù)探索2-3：無線計算數(shù)據(jù)轉(zhuǎn)發(fā)和路由縱向封閉管道式的用戶面機制已無法滿足計算數(shù)據(jù)需求，用戶面泛在開放、動態(tài)路由、一體服務(wù)能力將成為演進方向BearerandDataFlowDataOffloadingAnchorPointComputeDataBusComputeDataTunnel典型場景：典型場景：云/邊/端協(xié)同計算，如XR、AI等的數(shù)據(jù)服務(wù)機制，如數(shù)據(jù)服務(wù)總線技術(shù)探索3：通算智資源/功能/服務(wù)協(xié)同編排和開放技術(shù)探索3：通算智資源/功能/服務(wù)協(xié)同編排和開放從傳統(tǒng)網(wǎng)絡(luò)管理向通算資源/功能/服務(wù)協(xié)同編排演進，助力面向業(yè)務(wù)意圖/需求的閉環(huán)保障和智能自治RANRAN通算服務(wù)按需編排場景示意通算一體,務(wù)/功能按需編排統(tǒng)一基礎(chǔ)設(shè)施RAN通算資源統(tǒng)一管理跨域設(shè)備：終端，基站多維資源：通信資源、計算資源

RAN通算服務(wù)自動化編排業(yè)務(wù)驅(qū)動：面向業(yè)務(wù)意圖閉環(huán)保障：面向連接+計算綜合服務(wù)智能自治：基于AI/ML的意圖轉(zhuǎn)譯、故障/性能預(yù)測、智能決策

RAN通算服務(wù)能力開放編排編排本地應(yīng)用跨域編排器通算服務(wù)需求SLA模板/意圖通算能力開放本地應(yīng)用跨域編排器通算服務(wù)需求SLA模板/意圖通算能力開放通算管理與編排RAN異構(gòu)計算資源管理 通算聯(lián)合編排 AI/ML管理通算策略/配置通算資源上報AIAIDeviceRANAIEdgeCloudAI/ML模型性能監(jiān)測AI/ML模型訓(xùn)練AI/ML模型管理通算功能與資源聯(lián)合編排業(yè)務(wù)/服務(wù)編排通算能力開放算力度量計算資源性能故障管理計算拓撲管理多維數(shù)據(jù)統(tǒng)一管理RANFCAPSRAN功能LCM開放方式：管理編排層、協(xié)同核心網(wǎng)/RAN能力開放無線通算融合技術(shù)探索與實踐無線通算融合技術(shù)探索與實踐面向無線AI應(yīng)用，建立無線基站算力池實現(xiàn)跨站算力協(xié)同基于宏站的無線算力編排智能AMC應(yīng)用獲得穩(wěn)定的增益效果，面向無線AI應(yīng)用，建立無線基站算力池實現(xiàn)跨站算力協(xié)同基于宏站的無線算力編排智能AMC應(yīng)用獲得穩(wěn)定的增益效果，下行中遠點吞吐量提升10%，頻譜效率提升4%持續(xù)深挖無線通算融合高價值場景，2C精確保障業(yè)務(wù)體驗，2B助力行業(yè)數(shù)智化轉(zhuǎn)型聯(lián)合產(chǎn)業(yè)界開展外場實驗，初步驗證無線通算融合的技術(shù)可行性和價值大容量場景下業(yè)務(wù)體驗保障痛點：高負載和智能化需求下，受限解決方案：自適應(yīng)算力調(diào)