TensorFlow +OpenVINO 整合開發(fā)CR-A03-TF+OpenVINO-以NLP建模為例

1.模擬人們(如兒童)的學(xué)習(xí)2.介紹機器學(xué)習(xí)3.ML基礎(chǔ)技能：計算相似度4.體驗NLP:判斷同義詞5.ML派上用場6.優(yōu)化模型：使用OpenVINO優(yōu)化器7.測試模型：使用OpenVINO推論引擎建立模型，以及訓(xùn)練模型。Almodelingframework,可以幫助我們快速開發(fā)及·TensorFlow是于2015年，由Google團隊所推出的。讓開發(fā)者的操作量降至最低，并且提供極清晰和可操作的反饋。和結(jié)果。媽媽常說的話兒童來學(xué)習(xí)這樣的學(xué)習(xí)，大數(shù)據(jù)中學(xué)習(xí)..介紹機器學(xué)習(xí)大數(shù)據(jù)間的矢聯(lián)性。代表身體的可能病癥，而Y代表可用的藥物。人們矢聯(lián)性。規(guī)律)了。Y空間X空間Y空間Y空間X空間Y空間(代表自然空間的實物)投影到Y(jié)空間。機上投影到白板(Y空間)上。人們可以設(shè)定投射的角度、亮度等參數(shù)；還可以加上過慮鏡片等等。X空間HX空間HX2權(quán)重權(quán)重權(quán)重·典型的機器學(xué)習(xí)機制是：透過Wh權(quán)重將X對映到H潛藏空間，然后透過Wo權(quán)重將H對映到Y(jié)空間。[第1回合]富，其心中領(lǐng)悟、沉淀之道就愈精致。·人們學(xué)習(xí)過程就是：博觀而約取、厚積而薄發(fā)、學(xué)而時習(xí)嘆文嘆文修正yn[第2回合]·基于新的Wh和Wo權(quán)重，再進行第2回合的映射?！ぎ?dāng)ML從X映射到Y(jié)時(第2回合),如果與歷史數(shù)據(jù)Y仍有誤差時，就再度返回來修正Wo和Wh值?！ぞ偷玫礁碌腤o和Wh值了。WhWo時(第3回合),如果與歷史數(shù)據(jù)Y仍有誤差時，就再度返回來修正Wo和Wh值。導(dǎo)回9類]導(dǎo)回9巽]誤差很小了誤差—yo—y1y2已經(jīng)足夠小了，就結(jié)束學(xué)習(xí)過程(畢業(yè))了。HWh、Wo和應(yīng)用于新數(shù)據(jù)(資料)simi01.py-C:\Users\Tom\AppData\Local\Programs\Python\Python36\si.importxlwingsasxwwb=xw.Book(path+'simiwb01.xtm')ABCDEFGH1評分表，紀(jì)録4位客人對3種水果的偏好度。23XOrange4Mike750相似度56306056705889分·而他卻最不喜歡這里的Orange,評級最低：0分。之間的相似度。請您按下<相似度>:ABCDEFGH1這是一個評分表，紀(jì)録4位客人對3種水果的偏好23X4750相似度56306056705889相似度輿P1:輿P2:輿P3:相似度輿P3:-1表示最大的反相矢性(即相似度最低)。的相似度很高：0.979相似度輿P1:輿P2:輿P3:相似度輿P3:-1表示最大的反相矢性(即相似度最低)。9這是正相矣而且接近于1,表示很相似相似度輿P1:輿P2:輿P3:相似度輿P3:ABCDEFGH1這是一個評分表，紀(jì)録4位客人對323XOrange4Mike750相似度相似度56306056705889表示很不相似相似度輿P1:輿P2:輿P3:相似度輿P3:ABCDEFGH1這是一個評分表，紀(jì)録4位客人對3種水果的偏好度。23X4Mike750相似度56306056705889而且接近于1,表示很相似相似度輿P1:輿P2:輿P3:相似度輿P3:向量表示法·首先來看看如何計算向量的相似度?；谙蛄康南嗨贫扔嬎?維向量·把這3個向量的坐標(biāo)呈現(xiàn)于Excel表格里：ABCDEFG12X3相似度4輿V5輿V267相似度8Cosine相似度輿V29123456789ABCDEF相似度是比較向量之間的夾角大小。·兩個向量之間的夾角愈小，表示其相似度愈高。以相似度最高。相似度最高·因為夾角最小123456789ABCDEF相似度相似度最低相似度最低，因為夾角最大只有一位是“1",其它位皆為"0”。編碼。例如：<男>和<女>。就可以使用向量[1,0]代表<男>,并且使用向量[0,1]代表<女>?！だ?，在一個向量空間里，這兩個向量表示為：1代表<女>夾角是90°(0,1)代表<男>例如：<公雞>、<母雞>和<小雞>。·就可以使用向量[1,0,0]代表<公雞>,并且使用向量[0,1,0]代表<母雞>,以及使用向量[0,0,1]代表<小雞>。3個夾角都是90°<母雅><小雅>Ilikebanana.Ilovebanana.以此類推，得到下表：ABCDEFGHI12I100003010004001005love000106banana0017·于是，在一個向量空間里，這5個向量表示為：5個夾角"apple"apple"ABCDEFGHIJK12I100003010004001005love000106001789XIlikeapplelovebanana相似度輿S1輿S2輿S3相似度Vector相似度輿S3S3的相似度較小。其中值得注意的是：我知道了：媽媽的含意很相似。媽心中幾乎是<同義詞>。--普通相似度的句子：s0與s1,以及s2與s3。，Al機器學(xué)習(xí)就可以來幫忙了。--潛藏空間的神奇--修正單詞的向量--潛藏空間的神奇--修正單詞的向量判斷句子涵意相似度Al來學(xué)習(xí)TlikeappleIlikebananaII權(quán)重權(quán)重X2Wh[]X1潛藏空間H潛藏空間HX空間simi04.py-C:\Users\Tom\AppData\Local\Programs\Python\Pythonwb=xw.Book(path+'simiwb04.xtm)ABCDEFGHI12I100003010004001005love000106banana0017ABCDEFGHI12I1003401000apple00005000106banana00176789EX空間x0x1x2學(xué)習(xí)(1回合)F00001111G0G00000000WH權(quán)重H潛藏空間N0Y空間學(xué)習(xí)學(xué)習(xí)(100回合)(1000回合)輸入值都是OHE編碼123456789ABC00000000000000000000001111G00000000WH權(quán)重H潛藏空間(1回合)(1000回合)(100回合)為0123456789AB00000000000000000000001111G00000000HH潛藏空間ZPRN0PR"banana"(1000回合)(1000回合)(1回合)(100回合)X空間Y空間X空間H潛藏空間嘆文嘆文修正hoh1誤差Y空間UWO權(quán)重0.508Z0KJK00權(quán)重I學(xué)習(xí)00000000HGHX空間987654321·請按下<學(xué)習(xí)1回合>,如下：KMNH潛藏空間Z開 I(號回000I)最毒(導(dǎo)回001)昆南(號回I)最南0000000000IIII0000000000000000IIII00000000LL'O-608LCS'O-L9LaSLIεZX乙晶豆入昆平樊暴H重翻晶XIAnLS0d0NWIXfIHDHCDAV變了潛藏空間里的向量，如下：·請您按下<學(xué)習(xí)(100回合),此時修正了Wh和Wo權(quán)重，也改·于是，繼續(xù)努力，學(xué)而時習(xí)之?！た梢钥闯鰜恚@兩個向量的夾角很大，表示相似度很低。的向量是[0.596,-0.91]KLMNH潛藏空間Z-1.18-1.18-1.18-1.18·可以看出來，這兩個向量的夾角已經(jīng)縮小了。表示Al已經(jīng)有一些領(lǐng)悟到媽媽的心意："like"與"love"含意有些相似?！裼谑?，繼續(xù)努力，學(xué)而時習(xí)之?！ふ埬聪?lt;學(xué)習(xí)(1000回合)·此時修正了Wh和Wo權(quán)重，也改變了潛藏空間里的向量，如下：123456789AB學(xué)習(xí)學(xué)習(xí)(1000回合)ZY空間ZH·可以看出來，這兩個向量的夾角已經(jīng)很小了。表示Al已經(jīng)充·接下來，就取出Wh權(quán)重，來進行句子的涵意相似度分析。XHH取出h,用來評估句子的相似度123456789ABF0000111Gx400000000JJU""I"123456789AI映射到H空間F00001BHH潛藏空間向量0·于是就可以利用這個Wh來將X空間里的5個單詞向量，映射到H潛藏空間，得出5個H潛藏空間的向量。123456789映射到H空間轉(zhuǎn)換為潛藏空間向量·于是得到了5個新向量。就可以取代X空間里的原本向量。KLMNH潛藏空間向量Ibanana-0.13小，表示其含義非常接近于同義詞了。·接下來，就拿這H空間里的新向量，來評估句子的相似度。123456789AI取出，用來評估句子的相似度ABEFGHI1量2I3句子的相似度456banana-0.13789XIlovebanana·于是就可以利用這個H空間里的5個單詞向量，來計算出這4個句子的相似度了。·請按下<句子的相似度>:ABCDEFGHI1H向量2I3句子的相似度456banana-0.13789XIbanana相似度相似度朗S1輿S3輿S2輿S3向量非常相似，因而涵義非常接近于89很相似相似度輿S3相似度句子"Ilovebanana"。所以s1與s3的相似度極高。89輿S1輿S1輿S2很相似相似度1相似度相似度句子"Ilovebanana"。所以s1與s3的相似度極高。89相似度不很相似輿S3相似度1優(yōu)化模型：行優(yōu)化動作。RunOptimizerEngine.xml.binOpenVINO"操作范例：延續(xù)剛才的NLP范例，并且擴大如下：ABCDEFGH1JKLMN1XH(潛藏空間)T20100003010000400100050010006000100700010081000009000010000001(500回習(xí)·其中共含有6個單詞。將它們?nèi)磕脕碛?xùn)練ML模型?！がF(xiàn)在就來看看Python+TensorFlow的范例程式：fromkeras,optimizersimportSGDfromkeras.modelsimportModelfromkerasimportbackendasKimporttensorflowastfdx=np,array([[0,1,0,0,0,0],[0,1,0,0,0,0],[0,0,1,0,0,0],[0,0,1,0,0,0],[0,0,0,1,0,0j,[1,0,0,0,0,0],[0,0,0,0,1,0],dt=np.array([[1,0,0,0,0,0],[0,0,0,0,1,0],[1,0,0,0,0,0],[0,0,0,0,1,0],[1,0,0,0,0,0],[0,0,0,0,0,1],[1,0,0,0,0,0],[0,0,0,0,1,0],[0,0,0,0,0,1j],#------------continued------importnumpyasnpimportkerasimporttensorflowastfABCDEFGHKLMN1XH(潛藏空間)T20100003010000400100050010006000100700010081000009000010000001學(xué)習(xí)(500回合)[[1,0,0,0,0,0],[0,0,0,0,0,1j],#------------continued------importnumpyasnpimportkerasbackendastfasKdx=np,array([[0,1,0,0,0,0],[[1,0,0,0,0,0],wh=[np,array([[0.5,0.0]20.1-0.50.0,0.1],np.array([0.5,0.5],dtype=np.float32)]wo=[np,array([[0.5,0.1,-0.1,0.0,0.5,-0.1],np,array([0,0,0,0,0,0],dtype=np.float32)]N=6S=9H=2Hlayer=Dense(H,activation='linear'0layer=Dense(O,activation='softmaxencoder=Nonedecoder=None#--------------continued----------)modelcompilelosskeraslossescatHlayer.setweights(wh)Olayer.setweights(wo)model.fit(dx,dt,3,Epoch,0)sess=K.sess=K.getsession()sess,run(tf.localvariablesinitializer())"C:/pb/","nlpmodel.pb",astext=False)tf.io.writegraph(frozengraph,#.#.Olayer.setweights(model.fit(dx,dt,3,Epoch,0)的W&B初期值modelcompilelosskeraslossescaHlayer.setweights(wh)0layer.setweights(wo)model.fit(dx,dt,3,Epoch,0)sess=sess=K.getsession()invert_variables_to_constants("C:/pb/","nlpmodel.pb",astext=False)tf.io.writegraph(frozengraph,OptimizerPytorch→ONNXtraining(500)操作流程：起步·剛才已經(jīng)從TensorFlow匯出*pb檔案了，其路徑和檔步驟-1:進入優(yōu)化器的工作區(qū)的命令列窗口出發(fā)：1.3從上述畫面上，點選<以系統(tǒng)管理員身分執(zhí)行>,就會出現(xiàn)命令列視窗：MicrosoftWindows[版本10.0.16299.2166]1.4輸入命令：cd"C:\ProgramFiles(x86)\IntelSWTools\openvino\deploymenttools\modeloptimizer"并且按<Enter>。1.5就進入到模型優(yōu)化器(ModelOptimizer)的工作區(qū)了：管理員：命令提示符MicrosoftWindows[版本10.0.16299.2166]WindowssystemcdPrograProgramFilesIntelSWToolsopenvinodep步驟-2:展開優(yōu)化2.1輸入命令：C:\ProgramFiles(x86)\IntelSWTools\openvino\deploymenttools\modeloptimizer>pythonmotf.py-inputmodel"C:\\pb\\nlpmodel.pb"--outputdir"C:\\pb\\"--inputshape[9,6]●這指示它：剛才從TensorFlow所產(chǎn)生的*.pb檔案是--“C:\\pb\\nlpmode.pb”。●也告訴它：轉(zhuǎn)換出來的IR檔案的儲存路徑(文件夾),例如指定放在”C:\\pb\”里。輸入資料的格式是：[9,6]。2.2優(yōu)化完成了●完成時，會出現(xiàn)畫面：SUCCESS]Totalexecutiontime:2.69seconds.It'sbeenawhile,checkforanewversionofIntel(R)Discom/en-us/openvino-toolkit/choose-download?cid=&source=ups●此時優(yōu)化器將PB模型檔·成功地轉(zhuǎn)換出IR檔案了?！襁@里所謂的IR檔案·就包括了這3個檔案：步驟-3:圓滿成功推論引擎推論引擎使用推論引擎(IR)Optimizer使用推論引擎(IR)使用推論引擎(IR)使用推論引擎(IR)撰寫App檢測模型使用推論引擎(IR)ABCDEFGH1JKLMN1XH(潛藏空間)T20100003010000400100050010006"hate"0001007"hate"000100"banana"81000009000010000001學(xué)習(xí)(500回合)使用推論引擎(IR)·在上一階段里，已經(jīng)從Optimizer匯出IR檔案了，其路步驟-1:開始撰寫Python代碼net=ie.readnetwork(model=modelxml,weights=modelbin)supportedlayers=ie.querynetwork(network=net,devicename="CPU")net=ie.readnetwork(model=modelxml,weights=modelbin)supportedlayers=ie.querynetwork(network=net,devicename="CPU")步驟-1:開始撰寫Python代碼InputInfoPtr=net.inputinfoInputLayer=next(iter(InputInfoPtr))0,0,0,0,1,0],[0,0,0,0,0,1]],dtype=np.float32)步驟-2:安排IE<推理>的輸入和輸出print("\n----H(latentvector)----")results=OpenVinoExecutable.infer(inputs={InputLayer:dx})v=results['result/BiasAdd/Add']print("\n檢測結(jié)果：\n")print(np.round(v,2))步驟-3:實際運行這App步驟-4:輸出推理(預(yù)測)結(jié)果檢測結(jié)果：擴大App計算句子相似度使用推論引擎(IR)檢測結(jié)果：ABEFABEFGH1J12(“I”向量)34相似度5-0.6-3.3輿V16輿V278ate"向量).相似度9-0.7-1.6相似度-0.6-1.6步驟-5:擴大Appimportargparsefromopenvino.inferenceengineimportIENetwork,IECoredefgo():globalhvnet=ie.readnetwork(model=modelxml,weights=modelbin)supportedlayers=ie.querynetwork(network=net,devicename="CPU")ie.loadnetwork(net,"CPU")print("IRsuccessfullyloadedintoInferenceEngine.")步驟-5:擴大AppInputInfoPtr=InputLayer=next(iter(InputInfoPtr))[0,1,0,0,0,0],[0,0,1,0,0,0],[0,0,1,0,0,0],[0,0,0,1,0,0],[0,0,0,1,0,0],[1,0,0,0,0,0],[0,0,0,0,1,0][0,0,0,0,0,1]],dtype=np.flo