2023學(xué)年完整公開課版數(shù)據(jù)標(biāo)準(zhǔn)

數(shù)據(jù)標(biāo)準(zhǔn)主講：孫靜化引入在多指標(biāo)評(píng)價(jià)體系中，由于各評(píng)價(jià)指標(biāo)的性質(zhì)不同，通常具有不同的量綱和數(shù)量級(jí)。當(dāng)各指標(biāo)間的水平相差很大時(shí)，如果直接用原始指標(biāo)值進(jìn)行分析，就會(huì)突出數(shù)值較高的指標(biāo)在綜合分析中的作用，相對(duì)削弱數(shù)值水平較低指標(biāo)的作用。因此，為了保證結(jié)果的可靠性，需要對(duì)原始指標(biāo)數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理。目前數(shù)據(jù)標(biāo)準(zhǔn)化方法有多種，歸結(jié)起來(lái)可以分為直線型方法(如極值法、標(biāo)準(zhǔn)差法)、折線型方法(如三折線法)、曲線型方法(如半正態(tài)性分布)。不同的標(biāo)準(zhǔn)化方法，對(duì)系統(tǒng)的評(píng)價(jià)結(jié)果會(huì)產(chǎn)生不同的影響，然而不幸的是，在數(shù)據(jù)標(biāo)準(zhǔn)化方法的選擇上，還沒(méi)有通用的法則可以遵循。什么是數(shù)據(jù)標(biāo)準(zhǔn)化數(shù)據(jù)的標(biāo)準(zhǔn)化(normalization)是將數(shù)據(jù)按比例縮放，使之落入一個(gè)小的特定區(qū)間。在某些比較和評(píng)價(jià)的指標(biāo)處理中經(jīng)常會(huì)用到，去除數(shù)據(jù)的單位限制，將其轉(zhuǎn)化為無(wú)量綱的純數(shù)值，便于不同單位或量級(jí)的指標(biāo)能夠進(jìn)行比較和加權(quán)。常見(jiàn)的數(shù)據(jù)標(biāo)準(zhǔn)化方法 規(guī)范化方法也叫離差標(biāo)準(zhǔn)化，是對(duì)原始數(shù)據(jù)的線性變換，使結(jié)果映射到[0,1]區(qū)間。正規(guī)化這種方法基于原始數(shù)據(jù)的均值（mean）和標(biāo)準(zhǔn)差（standarddeviation）進(jìn)行數(shù)據(jù)的標(biāo)準(zhǔn)化。將A的原始值x使用z-score標(biāo)準(zhǔn)化到x’。z-score標(biāo)準(zhǔn)化方法適用于屬性A的最大值和最小值未知的情況，或有超出取值范圍的離群數(shù)據(jù)的情況。正規(guī)化1.求出各變量（指標(biāo)）的算術(shù)平均值（數(shù)學(xué)期望）xi和標(biāo)準(zhǔn)差si；2.進(jìn)行標(biāo)準(zhǔn)化處理：zij=（xij－xi）/si其中：zij為標(biāo)準(zhǔn)化后的變量值；xij為實(shí)際變量值。3.將逆指標(biāo)前的正負(fù)號(hào)對(duì)調(diào)。標(biāo)準(zhǔn)化后的變量值圍繞0上下波動(dòng)，大于0說(shuō)明高于平均水平，小于0說(shuō)明低于平均水平。用Excel進(jìn)行z-score標(biāo)準(zhǔn)化的方法：歸一化方法歸一化益處提升模型的收斂速度：如下圖，x1的取值為0-2000，而x2的取值為1-5，假如只有這兩個(gè)特征，對(duì)其進(jìn)行優(yōu)化時(shí)，會(huì)得到一個(gè)窄長(zhǎng)的橢圓形，導(dǎo)致在梯度下降時(shí)，梯度的方向?yàn)榇怪钡雀呔€的方向而走之字形路線這樣會(huì)使迭代很慢，相比之下，右圖的迭代就會(huì)很快（理解：也就是步長(zhǎng)走多走少方向總是對(duì)的，不會(huì)走偏）歸一化益處提升模型精度：歸一化的另一好處是提高精度，這在涉及到一些距離計(jì)算的算法時(shí)效果顯著，比如算法要計(jì)算歐氏距離，上圖中x2的取值范圍比較小，涉及到距離計(jì)算時(shí)其對(duì)結(jié)果的影響遠(yuǎn)比x1帶來(lái)的小，所以這就會(huì)造成精度的損失。所以歸一化很有必要，他可以讓各個(gè)特征對(duì)結(jié)果做出的貢獻(xiàn)相同。需要?dú)w一化的機(jī)器學(xué)習(xí)算法有些模型在各個(gè)維度進(jìn)行不均勻伸縮后，最優(yōu)解與原來(lái)不等價(jià)，例如SVM。對(duì)于這樣的模型，除非本來(lái)各維數(shù)據(jù)的分布范圍就比較接近，否則必須進(jìn)行標(biāo)準(zhǔn)化，以免模型參數(shù)被分布范圍較大或較小的數(shù)據(jù)dominate。有些模型在各個(gè)維度進(jìn)行不均勻伸縮后，最優(yōu)解與原來(lái)等價(jià)，例如logisticregression。對(duì)于這樣的模型，是否標(biāo)準(zhǔn)化理論上不會(huì)改變最優(yōu)解。但是，由于實(shí)際求解往往使用迭代算法，如果目標(biāo)函數(shù)的形狀太“扁”，迭代算法可能收斂得很慢甚至不收斂。所以對(duì)于具有伸縮不變性的模型，最好也進(jìn)行