Mind Studio鏈路編排解決方案

1、華為Mind Studio鏈路編排解決方案目錄01 AI編程帶來的挑戰(zhàn)02 華為AI算法開發(fā)鏈路編排的整體思考03 華為Mind-Studio鏈路編排的技術優(yōu)勢04 鏈路編排的基本概念05 如何使用Mind-Studio進行鏈路編排06 如何執(zhí)行鏈路編排07 如何查看引擎運行結果及性能分析結果08 鏈路編排樣例展示平安城市算法流程09 總 結AI編程帶來的挑戰(zhàn)門檻高專業(yè)技能要求高重復勞動且容易出錯平臺搭建耗時復雜度高AI應用算法邏輯復雜高性能并行計算代碼實現難度大新框架學習成本高開發(fā)量大AI應用涉及算法多開發(fā)算法代碼量大系統分析難度大算法復雜分析難并行計算調試難性能分析調優(yōu)難3AI算法開發(fā)鏈路

2、編排的整體思考思考1“零編碼”通過拖拽的方式編排工程 流程代碼通過DSL自動生成 用戶“零編碼”開發(fā)AI應用思考2 可視化提供豐富的可視化視圖 包括數據流、模型、結果 信息系統分析全部可視化從用戶角度出發(fā)提供一站式AI應用開發(fā)平臺通過鏈路編排的方式給用戶提供簡單、易用、高效的開發(fā)方式構筑開發(fā)生態(tài)思考3 化繁為簡以前需花費幾天才能完成的 開發(fā)工作現在幾分鐘就可 以完成圖形拖拽很方便思考4 不讓客戶重復造“輪子”通過系統預置各種圖元組件 最大限度復用底層代碼塊減 少代碼冗余4Mind-Studio鏈路編排的技術優(yōu)勢關鍵技術一基于業(yè)務節(jié)點的拖拽式編排基于節(jié)點拖 拽編程業(yè)務節(jié)點的 操作支持自 定義業(yè)務

3、節(jié)點屬 性支持自定 義配置流程編排輸 入輸出連線 支持在線校 驗關鍵價值提供基于業(yè)務節(jié)點的拖拽式編程功能，在IDE上拖拽業(yè)務節(jié)點并連線，可實現業(yè)務編排“0”編碼編碼后的編譯、運行、結果顯示等一站式服務讓流程開發(fā)更加智能化對外接口靈活，支持用戶自定義操作、自定義節(jié)點屬性，可擴展性極強5Mind-Studio鏈路編排的技術優(yōu)勢關鍵技術二基于LanguageWorkbench的源碼自動生成引擎基于DSL語法和Xtend語言實現源 到源編譯的代碼自 動生成器，實現從 前端的json語言轉 換成C+語言的 流程編排源碼文件根據業(yè)務節(jié)點的proto格式基于Xtext定義DSL語 法規(guī)約，前端流程 編排的結

4、果文件滿 足此語法規(guī)約關鍵價值內置代碼自動生成器，所有編排的業(yè)務代碼都能一鍵式生成自動生成的源碼充分利用底層CCE算子的性能，不懂底層算子調優(yōu)的人也能通過它生成高性能的業(yè)務代碼6鏈路編排的基本概念DataSetsModelPreProcessDeep Learning Execute EnginePostPrecessHiAI Engine節(jié)點數據集節(jié)點：用于指定網絡輸入數據模型節(jié)點：用于指定神經網絡模型數據預處理節(jié)點：用于對數據集中的數據進行預處理神經網絡執(zhí)行節(jié)點：用于對網絡進行運行后處理節(jié)點：用于對網絡執(zhí)行結果進行后處理HiAI Engine節(jié)點：系統預置節(jié)點，該節(jié)點 封裝了數據集、模型與

5、神經網絡執(zhí)行節(jié)點屬性配置樣例數據集配置：包含數據 集類型、來源、參數8節(jié)點屬性配置節(jié)點：表示一個AI引擎算法的業(yè)務處理節(jié)點屬性配置：表示業(yè)務處理的屬性配置節(jié)點連接：AI 引擎算法的控制流節(jié)點連接節(jié)點連接= “數據”流動節(jié)點分類如何使用Mind-Studio進行鏈路編排一鍵式自動編譯一鍵式運行Load target到硬件設備運行結果可視化分析配置運行參數（IP、username、pwd）編譯運行HiAI Studio鏈路編程流程代碼自動生成算法抽象&編排系統預置Engine根據算法抽象Engine拖拽Engine到畫布根據輸入輸出關系連線自定義Engine開發(fā)鏈路編排流程示意圖根據不同的Targ

6、et調用不同的編譯器進行混合編譯 運行結果可視化展示，包括常用的分類網絡、檢測網絡8如何執(zhí)行鏈路編排9鏈路編排完成后，單擊Save保存，單擊Generate 生成流程源碼和Makefile單擊Run啟動仿真運行（性能分析）單擊Profiling采集性能數據鏈路編排完成后，單擊Save保存，單擊Generate生成流程源碼和 Makefile單擊Run在Run Configuration對話框配置硬件環(huán)境的IP用戶名和密碼單擊run加載二進制程序到硬件環(huán)境運行（性能分析）單擊Profiling采集性能數據Emulator仿真場景 ASIC EVB板場景如何查看引擎運行結果及性能分析結果鏈路編排運

7、行結束后，在結果處理節(jié)點的右鍵可以單擊image result按鈕查看推理結果，如上圖所示： 圖1是多張圖片的分類推理結果，圖2是多張圖片的檢測結果單擊statistical result查看多張圖片的推理精度統計結果，如圖3運行結果分析10如何查看引擎運行結果及性能分析結果鏈路編排運行結束后，在結果處理節(jié)點的右鍵可以單擊profiling result按鈕查看推理結果，如上圖所示：圖四圖五是模型 分層結果性能數據，包括內存、時間、Mac利用率等執(zhí)行硬件Profiling，還可以得到基于硬件pmu的性能分析結果，包括熱點函數、指令執(zhí)行分析、timeline執(zhí)行流水分析等性能結果分析11車型+車顏色識別ResNet34車牌檢測 FCN車牌識別 ResNet17車/人？人體特征向量（分布式lab）人體屬性識別（諾亞）視頻解碼NV12 to BGR目標檢測FasterRCNN目標跟蹤關鍵幀提取結果融合特征信息入庫&檢索濃縮視頻生成鏈路編排樣例展示平安城市算法流程13總結解決方案先進大幅降低AI開發(fā)門檻讓更多 人體會到AI編程的魅力開發(fā)流程簡單對復雜的AI應用開發(fā)提供 簡單的一站式開發(fā)流程可視化分析體系強大 與可視化、性能分析相結 合讓AI調試調優(yōu)更簡單13愿景和使命把數字世界帶入每個人、每個家庭、每個