人機(jī)混合增強(qiáng)智能 課件 Lec4-基礎(chǔ)篇

人機(jī)混合增強(qiáng)智能

-歷史與基礎(chǔ)人機(jī)混合增強(qiáng)智能的基礎(chǔ)理論特征表示面向人機(jī)協(xié)同的視覺知識(shí)理解脈沖神經(jīng)網(wǎng)絡(luò)不確定估計(jì)理論及相關(guān)知識(shí)特征表示多模態(tài)信息統(tǒng)一表征共享子空間學(xué)習(xí)解耦表示學(xué)習(xí)知識(shí)蒸餾深度特征表示學(xué)習(xí)的意義多模態(tài)信息統(tǒng)一表征：表現(xiàn)形式復(fù)雜主要原因包括：特征表述維度不同，e.g,多模態(tài)圖像、語(yǔ)音、文本數(shù)據(jù)某些維度存在缺失觀察到的維度相互糾纏大數(shù)據(jù)缺乏人工標(biāo)注因而導(dǎo)致標(biāo)記稀缺、采集數(shù)據(jù)質(zhì)量差等。另外，用于預(yù)測(cè)的深度模型架構(gòu)過大，不利于在需要考慮性價(jià)比的場(chǎng)合，布局人機(jī)協(xié)同的混合增強(qiáng)智能的應(yīng)用，需要學(xué)習(xí)一個(gè)更小型的預(yù)測(cè)模型結(jié)構(gòu)。

多模態(tài)信息統(tǒng)一表征多模態(tài)信息統(tǒng)一表征統(tǒng)計(jì)學(xué)習(xí)參見《學(xué)習(xí)理論》PPT深度學(xué)習(xí)深度學(xué)習(xí)里的統(tǒng)一表征自編碼Autoencoder共享子空間學(xué)習(xí)共享子空間(SharedSubspace)隱共同(common)個(gè)性PrivateIndividualIndependentCanonicalcorrelationanalysis

(CCA,Hotellingetal.1936)KernelCorrelationCanonicalAnalysis(ICML,2013)Idea:Findprojectionsdirectlymaximizingnon-lineardependence.Let:Twochoicesofdependencemeasures:HilbertSchmidtIndependenceCriterion

(HSIC)andKernelTargetAlignment(KTA):

HSIC:KTA:hsicCCAandktaCCAcriterionfunctions:DefinekernelfunctionsandGrammatricesfortheprojecteddata:TrainingbyGradientDescent;Furtherprojectionsbyorthogonalizingxiand

yiontoestimateduandvandrefit.其他基于任務(wù)的共享子空間方法基于度量的共享子空間方法

MetricLearning(度量學(xué)習(xí)）RestrictedBoltzmannMachines,RBMNgiametal.MultimodalDeepLearning,ICML2011GeoffreyHinton受限玻爾茲曼機(jī)（辛頓）模型參數(shù)：勢(shì)函數(shù)劃分函數(shù)劃分函數(shù):玻爾茲曼分布：兩種變形：有向圖、無向圖（相互作用力）優(yōu)化：WakeandSleep（預(yù)訓(xùn)練+微調(diào)）逐層訓(xùn)練+深度模型訓(xùn)練

首先逐層構(gòu)建單層神經(jīng)元，這樣每次都是訓(xùn)練一個(gè)單層網(wǎng)絡(luò)。當(dāng)所有層訓(xùn)練完后，Hinton使用wake-sleep算法進(jìn)行調(diào)優(yōu)。Wake:認(rèn)知過程/使用自下上升無監(jiān)督學(xué)習(xí)（從底層開始，一層一層的往頂層訓(xùn)練）：通過外界的特征和向上的權(quán)重（認(rèn)知權(quán)重）產(chǎn)生每一層的抽象表示（結(jié)點(diǎn)狀態(tài)），并且使用梯度下降修改層間的下行權(quán)重（生成權(quán)重）。也就是“如果現(xiàn)實(shí)跟我想象的不一樣，改變我的權(quán)重使得我想象的東西就是這樣的”。Sleep:生成過程/自頂向下的監(jiān)督學(xué)習(xí)（通過帶標(biāo)簽的數(shù)據(jù)去訓(xùn)練，誤差自頂向下傳輸，對(duì)網(wǎng)絡(luò)進(jìn)行微調(diào)）：通過頂層表示（醒時(shí)