智猩猩-FPGA加速超低延遲大并發(fā)實時智能語音識別-Achronix資深現(xiàn)場應(yīng)用工程師黃侖

-TTS/SS語音合成，用于將輸出文本再次翻譯成語音2?將提取的特征轉(zhuǎn)化為統(tǒng)計參數(shù)語音模型，并與其他模型進行比較?使用語法規(guī)則和某些聲音同時出現(xiàn)的概率來幫助確定哪些單詞序列是可能的FilteringFilteringExtractingAnalyzing3-文本預(yù)測器作為語言模型（通常是LSTM）-Joiner結(jié)合了編碼器和預(yù)測器的輸出-Linearlayer線性層和SoftmaxSoftmaxJoinerAudioEncoder4-編碼器將輸入序列映射到連續(xù)表示序列-解碼器接收編碼器和上一步的解碼器輸出，生成輸出序列-處理長序列困難-難以并行化-對比實時流處理僅適用于離線模型?2023AchronixSemiconductorCorporation.ConfidentialInformatio6Achronix和Achronix和Myrtle.ai的ASR-1UCPU服務(wù)器加上Speedster7t1500PCI-Myrtle.AI提供的CPU和FPGA應(yīng)用程序7AudioDecodePre-ProcessingRNN-TInferenceServerWebSocketServerASRDecoderASREncoder9?2023AchronixSemiconduct-與A100GPU相比減少了90%（<60毫秒端到端-可針對其他語言和自定義數(shù)據(jù)集重新訓(xùn)練?2023AchronixSemiconduct-非離線或者事后處理-非單個用戶，嵌入式產(chǎn)品-低延時對于服務(wù)提供商來說是一個關(guān)鍵的指標?2023AchronixSemiconduct-它可以比其它的方案轉(zhuǎn)錄更多的實時語音流-流模式只能看到句子已經(jīng)說出來的部分-流模式實時轉(zhuǎn)錄說出來的每個詞，而不是播客-呼叫聯(lián)絡(luò)中心，自動填寫表格-視頻會議：實時字幕+翻譯-語音個人助手-實時字幕?2023AchronixSemiconduct-一組轉(zhuǎn)錄中的錯誤百分比-正確率，我們通常用100-WER%表示-人也不能做到100%的正確率-一般來說ASR系統(tǒng)的錯誤率WER在-大部分的ASRAPI提供商出售的產(chǎn)品?2023AchronixSemiconduct-比如在Earnings-22這個數(shù)據(jù)集WER為17.6?2023AchronixSemiconduct-使用他們自己的數(shù)據(jù)集-加上我們開源的代碼庫?2023AchronixSemiconduct?2023AchronixSemiconduct-延遲降低到1/8-當前的吞吐量提高-完整產(chǎn)品的吞吐量?2023AchronixSemiconduct低延時語音流的性能低延時語音流的性能 -資本支出CAPEX-運營支出OPEXASR云