2023混合AI是AI的未來白皮書（第二部分）-高通

2023年5月 3 3 4 43我們在終端側(cè)生成式AI領(lǐng)域的領(lǐng)導(dǎo)力 4 5 5 6 7 7 9 9 5無與倫比的全球邊緣側(cè)布局和規(guī)模 3高通正在助力實現(xiàn)隨時隨地的智能計算。高合AI規(guī)?；瘮U(kuò)展獨具優(yōu)勢。高通的硬件解決方案一次編寫即能實現(xiàn)跨我們芯片組解決方案的不同產(chǎn)品和2高通技術(shù)公司是終端側(cè)AI的領(lǐng)導(dǎo)者展的技術(shù)架構(gòu)讓我們能夠采用一個高度優(yōu)化的AI1/products/mobile/snapdragon/smartphones/mobile-ai驍龍和高通品牌產(chǎn)品是高通技術(shù)公司和/或其子公司的產(chǎn)品。進(jìn)連接、語音指令、安全和隱私等關(guān)鍵用例領(lǐng)域，持行業(yè)和用例的規(guī)?；瘮U(kuò)展。高通正在推動AI進(jìn)步，讓感圖1：高通持續(xù)的AI研發(fā)投入是產(chǎn)品領(lǐng)導(dǎo)力的基礎(chǔ)。3我們在終端側(cè)生成式AI領(lǐng)域的領(lǐng)導(dǎo)力痕跡（Artifact）的感知效果。我們利用VAE技術(shù)創(chuàng)建更好的視頻和語音編解碼器，將模型規(guī)模2高通AI研究是高通技術(shù)公司的機(jī)構(gòu)。未來在終端側(cè)支持參數(shù)高達(dá)數(shù)百億的模型。我們不僅在構(gòu)建計算架構(gòu)并使用語言來描述相關(guān)任務(wù)和行為，同時也正在研究如何），3.1突破終端側(cè)和混合AI邊界能，例如大語言模型（LLM）等。若要讓生成式AI得到廣3.2負(fù)責(zé)任的AI管理環(huán)境影響和以人為本等原則，我們的工作將產(chǎn)生廣泛深遠(yuǎn)的影響高通密切關(guān)注并配合參與全球各地政府的監(jiān)管框架、指導(dǎo)方針制定的《人工智能法》和美國國家標(biāo)準(zhǔn)與技術(shù)研究所發(fā)布的《人工智能法規(guī)和最佳實踐是高通致力打造道德、負(fù)責(zé)的AI數(shù)據(jù)與隱私保護(hù)和穩(wěn)健的網(wǎng)絡(luò)安全。一直以來，高通深知擁有穩(wěn)健的綜合性標(biāo)準(zhǔn)4卓越的終端側(cè)AI技術(shù)和全棧優(yōu)化高通為應(yīng)用、神經(jīng)網(wǎng)絡(luò)模型、算法、軟件和圖2：高通全棧AI研究和優(yōu)化賦能技術(shù)持續(xù)改進(jìn)并引領(lǐng)高能效解決方案發(fā)展。上圖展示的循環(huán)創(chuàng)新方式讓我們能夠基于最新神經(jīng)網(wǎng)絡(luò)架構(gòu)，針高通演示的全球首個在Android智能手機(jī)上運行的Stabl軟件棧，并將助力提升未來硬件設(shè)計。此外，讓StableDiffusion能夠在手機(jī)上高效運行的優(yōu)化面向動作識別設(shè)計的傳統(tǒng)深度學(xué)習(xí)模型會逐幀、逐層地處理視結(jié)果，但它是計算密集型的、時延高，并且能效低。高通現(xiàn)已推出的FrameExit模型能夠自主學(xué)結(jié)構(gòu)創(chuàng)新之外，高通全棧AI優(yōu)化還包括最先進(jìn)的量化技術(shù)和量化的軟件，以及支持INT4加速的第二代4.2軟件和模型效率Lite、TensorFlowLiteMicro和ONNXRuntime等在內(nèi)的runtime。此外，它還集成了推理軟件），Windows的不同版本。高通開發(fā)者庫和服務(wù)支持最新的操作系統(tǒng)（包括Android、Windows、Linux和QNX），以及用于部署和8流。它將高通提供的全部工具集成到一個圖形用戶界面，并利用可視效工具包模型庫、模型分析器和神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索（NA圖3：高通AI軟件棧旨在幫助開發(fā)者一次編寫、隨處運行，實現(xiàn)規(guī)?；渴?。運行。即使是那些已經(jīng)面向移動終端優(yōu)化過的模型我們9圖4：高通AI研究采用整體AI模型效率研究方法。面向高效整數(shù)推理的量化是我們的重點關(guān)注領(lǐng)域之一。過去幾年，我們通過論文和演示分享了高通領(lǐng)先的AI量化研究，包括訓(xùn)練后量化（PTQ）技術(shù)，比如無數(shù)據(jù)量化和自適應(yīng)舍入高通AI模型增效工具包提供基于高通AI研究技術(shù)成果開發(fā)的量化工具，目前已納入AIStudio。借助量化感知訓(xùn)練和/或更加深入的量化研究，許多生成式AI模型可以量化至INT4模的性能提升和60%的能效提升，能夠運行至關(guān)重要。譯器將輸入的神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)化為可以在目標(biāo)硬件上運行的代碼，同時針對時延、性能和功耗進(jìn)行優(yōu)化。編譯包括計算圖的切分、映射、排序和調(diào)度等以提高性能并最大程度減少內(nèi)存溢出。我們的優(yōu)化有助于減少DRAM存取量，并顯著降低4.3硬件加速圖5：與移動領(lǐng)域競品相比，第二代驍龍8提供領(lǐng)先的AI能效。全部面向在終端側(cè)快速高效地運行AI應(yīng)用而打造。通過異2022年，第二代驍龍8為整個系統(tǒng)提供了開創(chuàng)性的AI技術(shù)，搭載了迄今為止最快、最先模式視頻拍攝所帶來的樂趣。最新的Hexagon處理器采用專用供電系功率。特殊硬件提升了分組卷積、激活函數(shù)加速和Hexagon張量加速和INT4硬件加速能夠在提供更高性能的同時，降低能耗和內(nèi)存占用。Transformer加速大5無與倫比的全球邊緣側(cè)布局和規(guī)模高通技術(shù)公司部署的邊緣側(cè)終端規(guī)模十分龐大，搭載驍龍和到數(shù)十億臺，而且每年有數(shù)億臺的新終端還在進(jìn)入市場。4圖6：搭載驍龍平臺的終端能夠推動混合AI擴(kuò)展至跨不同細(xì)分領(lǐng)域和層級的數(shù)十億產(chǎn)品。4CounterpointResearch，2023年5月占據(jù)前20位。5司。65.2汽車高通技術(shù)公司是座艙和車載信息娛樂解決方案的領(lǐng)導(dǎo)者，全球Stellantis、寶馬、通用汽車/凱迪拉克、長城汽車、Mahindra、Togg、豐田、小鵬汽車、廣汽集5.3PC和平板電腦5基于分?jǐn)?shù)，截至2023年5月6TechInsights，2023年4月5.4物聯(lián)網(wǎng)），迄今為止，已有超過65款采用驍龍平臺的X6總結(jié)戶體驗。終端側(cè)AI領(lǐng)導(dǎo)力賦予高通面向混合架構(gòu)轉(zhuǎn)轉(zhuǎn)向邊緣終端，因此需要邊緣側(cè)處理的高性能和出色能效。憑借具備前瞻性高通擁有無與倫比的邊緣側(cè)布局，全球搭載驍龍和高通平臺的推動生成式AI規(guī)?；瘮U(kuò)展，為無數(shù)人的生活帶來積極影歡迎訂閱《未來移動計算技術(shù)》簡訊請關(guān)注我們：fyin欲了解更多信息，請訪問本資料內(nèi)容不是銷售本文所提及任何組件或終端的