TensorFlow +OpenVINO 整合開(kāi)發(fā)CR-A05-基礎(chǔ)AI模型：分類(lèi)器(Classifier)

1.認(rèn)識(shí)分類(lèi)器(Classifier)2.分類(lèi)器的基礎(chǔ)：回歸(Regression)分析3.回歸與分類(lèi)的重要視角：空間對(duì)應(yīng)4.范例實(shí)現(xiàn)：使用TensorFlow5.優(yōu)化模型：使用OpenVINO優(yōu)化器6.測(cè)試模型：使用OpenVINO推論引擎如何分類(lèi)呢?·玩具兔與玩具熊之間，有著明顯不相同的特征。BCD12耳朵長(zhǎng)度體重3輸入特征：456我能識(shí)別：789耳長(zhǎng)單位：厘米(1cm)體重單位：百克(100g)工作表1④BCEF1玩具兔(熊)的特征2耳朵長(zhǎng)度體重3輸入特征：456我能識(shí)別：789耳長(zhǎng)單位：厘米(1cm)體重單位：百克(100g)ABCEF1玩具兔(熊)的特征2耳朵長(zhǎng)度體重體重3輸入特征：456我能識(shí)別這是玩具<熊>789耳長(zhǎng)單位：公分(1cm)體重單位：百克(100g)如何訓(xùn)練分類(lèi)器?機(jī)器學(xué)習(xí)學(xué)習(xí)強(qiáng)化學(xué)習(xí)學(xué)習(xí)強(qiáng)化學(xué)習(xí)·監(jiān)督式學(xué)習(xí)(SupervisedLearning)是電腦從標(biāo)簽化的資訊中分析模式后，做出預(yù)測(cè)的學(xué)習(xí)方式?！?biāo)注過(guò)的資料就好比標(biāo)準(zhǔn)答案，電腦在學(xué)習(xí)的過(guò)程中透過(guò)準(zhǔn)的預(yù)測(cè)。采取監(jiān)督式學(xué)習(xí)·監(jiān)督式學(xué)習(xí)是將題目與解答同時(shí)提供給AI,由AI自行比對(duì)解答，藉此學(xué)習(xí)新知。即<Q&A>·AI學(xué)習(xí)時(shí)，也是找已經(jīng)知道題目和答案的老師來(lái)教。這就是所謂的：監(jiān)督是學(xué)習(xí)?！に^老師，只會(huì)告訴AL<正確與否>。至于問(wèn)題的解決方案，還是要由AI自行從嘗試錯(cuò)誤中學(xué)習(xí)。在監(jiān)督式學(xué)習(xí)采取監(jiān)督式學(xué)習(xí)·監(jiān)督式學(xué)習(xí)是將題目與解答同時(shí)提供給AI,由AI自行比對(duì)解答，藉此學(xué)習(xí)新知。即<Q&A>·AI學(xué)習(xí)時(shí)，也是找已經(jīng)知道題目和答案的老師來(lái)教。這就是所謂的：監(jiān)督是學(xué)習(xí)?！に^老師，只會(huì)告訴AL<正確與否>。至于問(wèn)題的解決方案，還是要由AI自行從嘗試錯(cuò)誤中學(xué)習(xí)。在監(jiān)督式學(xué)習(xí)請(qǐng)老師提供分類(lèi)標(biāo)簽給我·非監(jiān)督式學(xué)習(xí)(UnsupervisedLearning)是另一種機(jī)器學(xué)習(xí)方法，和監(jiān)督式學(xué)習(xí)最大差異是訓(xùn)練資料不需要有答案(即標(biāo)簽)?！ぞ拖袷俏覀兘o了機(jī)器一堆貓的照片和一堆狗的照片，可是我們并沒(méi)有告訴機(jī)器說(shuō)哪些是貓哪些是狗，要機(jī)器自己去學(xué)習(xí)判斷出分類(lèi)出圖片的不同之處，機(jī)器會(huì)依據(jù)資料的分布、計(jì)算出資料間的相似性，相似程度越高，被歸類(lèi)至同一群組。于是就能將比較相似的資料聚集在一起，形成集分類(lèi)器(Classifier)也復(fù)習(xí)一下：非監(jiān)督式學(xué)習(xí)Ex.推薦系統(tǒng)中，把偏好接近(臭味相投)的人們分為·長(zhǎng)期輸血會(huì)導(dǎo)致過(guò)多的鐵質(zhì)累積在體內(nèi)，造成身體嚴(yán)重的傷害，尤其是心臟與肝臟，甚至可能造成生命的危倦、體重消失等?！ご藭r(shí)，可以建立監(jiān)督式學(xué)習(xí)的Al模型，這模型的輸入值代表Al可以觀察到的癥狀。型，就可由Al模型來(lái)進(jìn)行分類(lèi)了?！び^察患者，并提取癥狀特征：123456789AB關(guān)節(jié)痛222110C1211DX(癥狀組合)102100UnexplainedWeightLoss體重消失101000F腹痛210010G疲勞121111K的級(jí)別)·貼上分類(lèi)標(biāo)簽(Label)·就成為一個(gè)Al分類(lèi)模型?！び蓪?zhuān)業(yè)醫(yī)生(老師)依據(jù)其專(zhuān)業(yè)知識(shí)和經(jīng)驗(yàn)，來(lái)將<血鐵沉積程度>分為5類(lèi)(5個(gè)級(jí)別)123456789AB222110C心律不整121100開(kāi)始訓(xùn)練膚色變化102100體重消失1010000:無(wú)癥狀F210010121111T(標(biāo)簽)KABCDEFGH1JK1X(癥狀組合)23T(標(biāo)簽)4矢節(jié)痛心律不整膚色變化體重消失腹痛疲勞的級(jí)別)52111216220012721210181110019100011000001開(kāi)始訓(xùn)練0:無(wú)癥狀1:輕微學(xué)習(xí)中…2:顯著·經(jīng)過(guò)幾分鐘，就學(xué)習(xí)完成了：123456789AB矢節(jié)痛222110心律不整膚色變化體重消失開(kāi)始訓(xùn)練學(xué)習(xí)完成了!0:無(wú)癥狀1:輕微2:顯著F210010疲勞121111T(標(biāo)簽)K(血鐵沉積·此時(shí)，可以建立監(jiān)督式學(xué)習(xí)的Al模型，這模型的輸入值代表Al可以觀察到的癥狀。型，就可由Al模型來(lái)進(jìn)行分類(lèi)了。ABCDEFGH1JK12血鐵沉積程度Z(預(yù)測(cè)值)3TestingX(癥狀組合)4矣節(jié)痛心律不整體重消失腹痛疲勞500110162210127890測(cè)預(yù)·按下<預(yù)測(cè)>,就進(jìn)行推論，并輸出如下：12345623456血鐵沉積程度789分類(lèi)器的基礎(chǔ)：簡(jiǎn)介規(guī)律。探索規(guī)律的基礎(chǔ)技術(shù)。范例-1復(fù)習(xí)：回歸分析復(fù)習(xí)：回歸分析值是已知的，而W和B是未知的。如下圖：BfACDEFGH1線性回歸以X*W+22維坐標(biāo)(Point)W(weight)B(bias)34data[]1352563尋找規(guī)律74857(&繪圖)9·<回歸分析>就是找尋最棒的W和B值。就得到回歸線了?；貧w分析·按下<尋找規(guī)律>按鈕，就會(huì)進(jìn)行回歸分析，找出最適合的W和B值，并輸出如下：ABCEFGH1線性回歸以X*W+22維坐標(biāo)(Point)341352563尋找規(guī)律(&繪圖)748579012(使用規(guī)律)34?5?6·剛才的回歸分析已經(jīng)找出最棒的W和B值了，也就是找到最具代表性的回歸曲線了。于是就繪出圖形如下：(使用規(guī)律)就會(huì)對(duì)映到這回歸線上的兩個(gè)點(diǎn)，如下：復(fù)習(xí)：回歸分析·這就意味著，我們已知X值為：1.5··這是回歸分析基本觀念和方法?！⒌贸龅腨值，經(jīng)由sigmoid()函數(shù)，可以計(jì)算出條件機(jī)率P(Y/X)值。這是機(jī)器學(xué)習(xí)的二元分類(lèi)的標(biāo)準(zhǔn)做法。有7瓶水，其攝氏溫度分別是：[-5,-2,-1,2,3,4,6]。此時(shí)人們常常將之區(qū)分為兩個(gè)類(lèi)別：水與冰。就把這X值和·例如，有7瓶水，其攝氏溫度分別是：[-5,-2,-1,2,3,4,6]此時(shí)人們常常將之區(qū)分為兩個(gè)類(lèi)別：水與冰。BCDEFGH1邏輯回歸(二元分類(lèi))2分為水與冰兩類(lèi)WB3X(溫度)P(Y=水/X)4-55-26-17283Sigmoid圖尋找規(guī)律Sigmoid圖(Linear圖)946·現(xiàn)在，可以按下<尋找規(guī)律>,就進(jìn)行回歸分析，找出最棒的W和B值，如下：BCDEFGH1邏輯回歸(二元分類(lèi))2分為水與冰兩類(lèi)WB3X(溫度)P(Y=水/X)4-5-0.0716441355-26-17283尋找規(guī)律gmoid圖946(Linear圖)·這條直線就是Al機(jī)器學(xué)習(xí)里，常常聽(tīng)到的：分類(lèi)線。將直線轉(zhuǎn)換成為曲線，并繪出圖形如下：回歸分析·因?yàn)镾igmoid()函數(shù)能從線性公式計(jì)算出來(lái)Y值轉(zhuǎn)換成為P(Y/X)概率值?；貧w線)。這時(shí)候，就把7個(gè)瓶子區(qū)分為兩類(lèi)了：回歸分析·于是您就可以了解了，Al(機(jī)器學(xué)習(xí))就是，透過(guò)這樣來(lái)一堆數(shù)據(jù)進(jìn)行分門(mén)別類(lèi)，簡(jiǎn)稱(chēng)為：分類(lèi)(Classification)?！ず?jiǎn)單的回歸分析已經(jīng)找出一條回歸直線，然后經(jīng)由Sigmoid()轉(zhuǎn)換，而找到最具代表性的回歸曲線?；貧w分析(使用規(guī)律)XP(Y=水/X)-1.5繪圖P(Y=兔/X)-5.6XP(Y=水/X)-1.5-5.6下<尋找規(guī)律>來(lái)進(jìn)行訓(xùn)練(即回歸分析),找出最棒的W和B分類(lèi)了。多元分類(lèi)器：稱(chēng)為多元分類(lèi)。123456781234567809·按下<學(xué)習(xí)>,就找出最棒的W和B值，并輸出如下：ABCEFGH1JKL1Softmax回歸(二元分類(lèi))以X*WB=Y&softmax()表示2分為兔與貓兩類(lèi)WB3x0(耳朵)x1(尾巴)P(Y=兔/X)P(Y=貓/X)w10w01w11b?bl410-0.1715016107018109尋找規(guī)律(學(xué)習(xí))(測(cè)試)x0x1P(Y=兔/X)P(Y=貓/X)??????分為兔與貓兩類(lèi)分為兔與貓兩類(lèi)P(Y=貓/X)0-0.452-0.1710.7709110123456789尋找規(guī)律尋找規(guī)律火ABCEFGH1JKL1Softmax回歸(二元分類(lèi))以X*W+B=Y&softmax()表示2分為兔與貓兩類(lèi)WB3x0(耳朵)x1(尾巴)P(Y=兔/X)P(Y=貓/X)w00w10w01w11b0bl410-0.1715016107018109尋找規(guī)律(學(xué)習(xí))(測(cè)試)火P(Y=兔/X)P(Y=貓/X)????回歸分析再將Y(即[y0,y1])值，經(jīng)由Softmax()函數(shù)計(jì)算出回歸分析就先計(jì)算：1x0x1P(Y=兔/X)P(Y=貓/X)·在剛才這范例里，因?yàn)橛?jì)算出y0和y1兩個(gè)值，經(jīng)由·以此類(lèi)推，在這多元分類(lèi)的情境里，因?yàn)橛?jì)算出y0更多特征的分類(lèi)器更多特征、更多類(lèi)別的分類(lèi)器：·可以活用Softmax(),建立多元的分類(lèi)器?！み@個(gè)范例共有6個(gè)特征(癥狀)。123456789AB關(guān)節(jié)痛222110C心律不整1211開(kāi)始訓(xùn)練DX(癥狀組合)102100UnexplainedWeightLoss1010000:無(wú)癥狀F腹痛210010G疲勞121111K(血鐵沉積的級(jí)別)更多特征、更多類(lèi)別的分類(lèi)器：123456789關(guān)節(jié)痛222110C121100102100UnexplainedWeightLoss101000F腹痛210010G121111K(血鐵沉積的級(jí)別)更多特征、更多類(lèi)別的分類(lèi)器：空間對(duì)應(yīng)回歸與分類(lèi)的重要視角：空間對(duì)應(yīng)1.空間對(duì)應(yīng)的涵意回歸與分類(lèi)的重要視角：空間對(duì)應(yīng)空間對(duì)應(yīng)的涵意·于是，各筆數(shù)據(jù)的特征值成為該點(diǎn)的坐標(biāo)值。回歸與分類(lèi)的重要視角：空間對(duì)應(yīng)空間對(duì)應(yīng)的涵意·人們看到自然空間的實(shí)際事物，收集這些事物的特征，提供給Al模型?！み@些X數(shù)據(jù)則成為X空間里的坐標(biāo)，來(lái)觀察自然空間里實(shí)乙空間空間X空間乙空間空間X空間·例如，下圖里的數(shù)據(jù)將成為這些空間里的坐標(biāo)：模型會(huì)很聰明地探索出兩個(gè)空間的對(duì)映矢系：23456789E000Ww00w10w01wl1Bb0blX空間乙空間·人們會(huì)在其生活的自然(實(shí)物)空間里，對(duì)其所感興趣的各項(xiàng)事物，并收集其特征，就成為各筆原始資料(Rawdata)·各對(duì)映到X空間里的一點(diǎn)。·然后再映射(過(guò)濾)到Y(jié)空間；還可再?gòu)腨空間映射(過(guò)濾)到·而Al的魅力就是它很擅長(zhǎng)于探索出對(duì)映的規(guī)律性。下期將繼續(xù)說(shuō)明ML如何擁有其驚人的探索能力?；貧w與分類(lèi)的重要視角：空間對(duì)應(yīng)2.多維度的特征對(duì)應(yīng)回歸與分類(lèi)的重要視角：空間對(duì)應(yīng)維度的特征對(duì)映，就能輕易地繼續(xù)擴(kuò)大到更多維度的特征對(duì)映了?！な占?個(gè)人的特征數(shù)據(jù)，每個(gè)人都有3項(xiàng)特征：ABCDEFGHIJKLMN1分為女士與男士?jī)深?lèi)232維4擦口紅高跟鞋抽煙BTZ510001(女士)611001(女士)7Mike001W10(男士)800110(男士)901001(女士)分類(lèi)(尋找W&B)·已知這5個(gè)人之中，有三位是女士，另兩位是男士。也就是，人們心中已經(jīng)將它們區(qū)分為兩個(gè)類(lèi)(Class)了?；貧w與分類(lèi)的重要視角：空間對(duì)應(yīng)T=[0,1]代表<女士>類(lèi)；而T=[1,0]代表<男士>類(lèi)。空間的目標(biāo)值之間的對(duì)應(yīng)矢系是：表達(dá)和記住它。間的內(nèi)涵如下：和Sigmoid(Y)=Z和Sigmoid(Y)=Z而計(jì)算出來(lái)ABCDEFGHIJKLMN1232維坐標(biāo)&Sigmoid4擦口紅高跟鞋抽煙BTZ510001(女士)611001(女士)7001W10(男士)800110(男士)901001(女士)分類(lèi)(尋找W&B)多維度的特征對(duì)應(yīng)0b1多維度的特征對(duì)應(yīng)·將X空間里的5個(gè)點(diǎn)都對(duì)映到Z空間：TZ01(女士)01(女土)0(男士)10(男士)01(女士)男士類(lèi)女士類(lèi)0TZ01(女士)01(女士)10(男士)10(男士)01(女士)多維度的特征對(duì)應(yīng)0回歸與分類(lèi)的重要視角：空間對(duì)應(yīng)3.以三分類(lèi)(3-class回歸與分類(lèi)的重要視角：空間對(duì)應(yīng)·例如有一位即將畢業(yè)的學(xué)生，到征求人才的網(wǎng)到7個(gè)工作機(jī)會(huì)，各有3項(xiàng)特征：錢(qián)多嗎、事少嗎、以及離家近嗎?如下圖：回歸與分類(lèi)的重要視角：空間對(duì)應(yīng)ABCDEFGHIJKLMN0PQ1分為三個(gè)類(lèi)234錢(qián)多事少離家近BTZ5111100(喜歡)6101100(喜歡)7110W010(普通)8100010(普通)9010001(不喜歡)001001(不喜歡)000001(不喜歡)分類(lèi)(尋找W&B)·此時(shí)，這位學(xué)生對(duì)這些工作機(jī)會(huì)區(qū)分為3類(lèi)。100(喜歡)1100(喜歡)100(喜歡)010(普通)010(普通)001(不喜歡)001(不喜歡)001(不喜歡)T=[1,0,0]代表<喜歡>類(lèi)。T=[0,1,0]代表<普通>類(lèi)。T=[0,0,1]代表<不喜歡>類(lèi)。·按下<分類(lèi))>,ML就尋找出來(lái)W和B值。此時(shí)，X與Z空間的內(nèi)涵如下：和Sigmoid(Y)=Z而計(jì)算出來(lái)ABCDEFGHIJKLMN0PQ1分為233維坐標(biāo)4錢(qián)多事少離家近BTZ5111100(喜歡)6101100(喜歡)7110W010(普通)8100010(普通)9010001(不喜歡)001001(不喜歡)0000001(不喜歡)分類(lèi)(尋找W&B)而計(jì)算出預(yù)測(cè)值Z[0.02,0.12,0.9]。其計(jì)算過(guò)程是：Sigmoid(2.16)=·同樣地，將X空間里的7個(gè)點(diǎn)都對(duì)映到Z空間，如下圖T10000000110000000111(不喜歡)0回歸與分類(lèi)的重要視角：空間對(duì)應(yīng)·其中，可以看到了，將Job5、Job6和Job7所對(duì)應(yīng)的預(yù)測(cè)值都非常接近于目標(biāo)值T=[0,0,1],就歸于<不喜歡>類(lèi)。T=[0,1,0]·就歸于<普通>類(lèi)。值T=[1,0,0]·就歸于<喜歡>類(lèi)。范例實(shí)現(xiàn)操作范例：延續(xù)剛才的<血鐵沉積癥>范例：123456789AB關(guān)節(jié)痛222110心律不整膚色變化體重消失2:顯著PainFatigueT(標(biāo)簽)(血鐵沉積腹痛疲勞的級(jí)別)·長(zhǎng)期輸血會(huì)導(dǎo)致過(guò)多的鐵質(zhì)累積在體內(nèi)，造成身體嚴(yán)重的傷害，尤其是心臟與肝臟，甚至可能造成生命的危倦、體重消失等。—空間×空間空間—空間×空間空間123456789AB關(guān)節(jié)痛222110心律不整膚色變化體重消失腹痛疲勞K(血鐵沉積ZABCDEFGH1JK1X(癥狀組合)23T(標(biāo)簽)(血鐵沉積4矢節(jié)痛心律不整膚色變化體重消失腹痛疲勞的級(jí)別)52111216220012721210181110019100011000001空間對(duì)映空間對(duì)映importnumpyasnpimportmathimportkerasfromkeras.modelsimportSequentialimporttensorflowastf建立一個(gè)分類(lèi)器model=Sequential()model.add(d)定義np,array([[2,1,1,1,2,1][2,2,0,0,1,2]準(zhǔn)備訓(xùn)練數(shù)據(jù)準(zhǔn)備訓(xùn)練數(shù)據(jù)(0,0,0,0,0,ijj)np,array([[1,0,0,0,0],optimizer=keras,optimizers.SGD(1r=0.25),metrics=['accuracy'])np,array([[2,1,1,1,2,1][2,2,0,0,1,2]2[2,1,2,1,0,12[1,0,0,0,1,1分類(lèi)標(biāo)簽np,array([[1,0,0,0,0],分類(lèi)標(biāo)簽np,array([[2,1,1,1,2[2,2,0,0,1,2[2,1,2,1,0,1[1,1,1,0,0,1]][1,0,0,0,1,1][0,0,0,0,0,1]])np,array([[1,0,0,0,0],2[1,0,0,0,0],[0,1,0,0,0],[0,0,1,0,0],[0,0,0,1,0],[0,0,0,0,111)22展開(kāi)訓(xùn)練optimizer=keras,optimjGD(1r=0.25),metrics=['accuracy']"C:/pb/","classifiermodel.pb",astext=False)tf.io.writegraph(frozengraph,"C:/pb/","classifiermodel.pbtxt",astext=True)TX=np,array([[0,0,1,1,0,1]·剛才已經(jīng)從TensorFlow匯出*pb檔案了，其路徑和檔名稱(chēng)sess=['result/BiasAdd'])tf.io.writegraph(frozengraph,"C:/pb/","classifiermodel.pb"tf.io.writegraph(frozengraph,"C:/pb/","classifiermodel.pbtxt"TX=np,array([[0,0,1,1,[2,2,.1,0,1,2]])z=model.predictproba(TX)print("(nPredicted:")_·輸出預(yù)測(cè)值(分類(lèi)):Predicted:[0.0.]]Predicted:[0.70.0.30.0.j]空間對(duì)映OptimizerPytorch→ONNX優(yōu)化模型：行優(yōu)化動(dòng)作。操作流程：起步名稱(chēng)步驟-1:進(jìn)入優(yōu)化器的工作區(qū)1.1首先從Windows的命令行窗口出發(fā)：MicrosoftWindows[版本10.0.16299.2166]1.2輸入命令：cd"C:\ProgramFiles(x86)\IntelSWTools\openvino\deploymenttools\modeloptimizer"并且按<Enter>。1.3就進(jìn)入到模型優(yōu)化器(ModelOptimizer)的工作區(qū)了：管理員：命令提示符MicrosoftWindows[版本10.0.16299.2166]ProgramFilesIntelSWToolsopenvinode步驟-2:展開(kāi)優(yōu)化2.1輸入命令：ProgramFilesInteISWToolslopenvinodep●這指示它：剛才從TensorFlow所產(chǎn)生的*.pb檔案是--“C:\\pb\\classifiermode.pb”?！褚哺嬖V它：轉(zhuǎn)換出來(lái)的IR檔案的儲(chǔ)存路徑(文件夾),例如指定放在”C:\\pb\”里。輸入資料的格式是：[1,6]。2.2優(yōu)化完成了●完成時(shí)，會(huì)出現(xiàn)畫(huà)面：