MINITAB應(yīng)用質(zhì)量管理技術(shù)系列培訓(xùn)(A階段-回歸分析).ppt

6-,質(zhì)量管理技術(shù)培訓(xùn),6-,回歸分析（Regression）,統(tǒng)計分析工具回歸分析,韓克,主講人:,某種合成纖維的強(qiáng)度與其拉伸倍數(shù)有關(guān)。下表是24個纖維樣品的強(qiáng)度與相應(yīng)的拉伸倍數(shù)的實(shí)測記錄。試求y關(guān)于x的線性回歸方程。,引例1,一元線性回歸分析（SimpleLinearRegression）,一元線性回歸分析（SimpleLinearRegression）,一元線性回歸分析（SimpleLinearRegression）,引例2,在改進(jìn)某合金強(qiáng)度的項(xiàng)目中，6西格瑪小組認(rèn)為在某合金加工過程中影響其強(qiáng)度的可能的關(guān)鍵影響因素是碳含量，為了調(diào)查碳含量對合金強(qiáng)度的影響，小組在生產(chǎn)現(xiàn)場一對一地收集了碳含量與合金強(qiáng)度的數(shù)據(jù)。數(shù)據(jù)見（引用1）,問：碳含量對合金強(qiáng)度是否有影響？其影響強(qiáng)度有多大？,6-,一元線性回歸分析（SimpleLinearRegression）,分析階段定量分析工具,6-,連續(xù),連續(xù),非連續(xù),非連續(xù),Y,X,回歸分析（Regression）,6-,回歸分析（Regression）,回歸分析是根據(jù)試驗(yàn)或觀測得到的數(shù)據(jù)結(jié)果，分析、推斷哪些因素對過程的Y有著顯著的影響，以及影響大小的常用工具,回歸分析研究的是在一項(xiàng)觀測或?qū)嶒?yàn)中，X的變化是否對Y產(chǎn)生影響及影響的大小。,一元和多元線性回歸分析中，X和Y都是連續(xù)型數(shù)據(jù)。,回歸分析的基本統(tǒng)計原理簡介,6-,回歸分析（Regression）,回歸分析可以幫助我們尋找潛在的X，以及確定它們與Y的關(guān)系。,通過回歸分析，確定X對Y是否有顯著的影響(統(tǒng)計顯著性)，以及他們對Y的影響程度實(shí)踐顯著性。,獲得X和Y的線性模型（建模），用X預(yù)測Y。,一元線性回歸分析（SimpleLinearRegression）,在回歸分析中，我們假設(shè)X對Y的影響是線性的。,當(dāng)只考慮一個X對Y的影響時，稱為一元線性回歸。（X與Y都是連續(xù)型數(shù)據(jù)）,在收集數(shù)據(jù)時，將X與Y一一對應(yīng)，即：收集到每一個X和與其對應(yīng)的Y。,一元線性回歸分析（SimpleLinearRegression）,一元線性回歸分析（SimpleLinearRegression）,例1,在改進(jìn)某合金強(qiáng)度的項(xiàng)目中，6西格瑪小組認(rèn)為在某合金加工過程中影響其強(qiáng)度的可能的關(guān)鍵影響因素是碳含量，為了調(diào)查碳含量對合金強(qiáng)度的影響，小組在生產(chǎn)現(xiàn)場一對一地收集了碳含量與合金強(qiáng)度的數(shù)據(jù)。數(shù)據(jù)見（回歸分析（引用1）,問：碳含量對合金強(qiáng)度是否有影響？其影響強(qiáng)度有多大？,6-,數(shù)據(jù)輸出結(jié)果,多元線性回歸分析（MultipleLinearRegression）,例,在某平爐煉鋼過程中，由于礦石和爐氣的氧化作用，鐵水的總含炭量在不斷降低。試分析一爐鋼的去碳量Y與所加的兩種礦石量X1、X2及融化時間X3是否有關(guān)。數(shù)據(jù)見（回歸分析（引用2）,多元回歸分析,1多元線性回歸分析基本理論2標(biāo)準(zhǔn)的多元線性回歸模型3多元線性回歸模型的估計4多元線性回歸模型的檢驗(yàn)5多元線性回歸模型預(yù)測6多元線性回歸模型的Minitab實(shí)現(xiàn)7多元非線性回歸,多元線性回歸分析（MultipleLinearRegression）,1多元線性回歸分析的基本理論,多元線性回歸是簡單線性回歸的推廣,指的是多個因變量對多個自變量的回歸(MultivariateRegression)，最常用的是一個因變量對多個自變量的回歸。,多元線性回歸分析（MultipleLinearRegression）,因變量y,返回目錄,多元線性回歸分析（MultipleLinearRegression）,計算估計多元回歸方程,多元線性回歸模型多元線性回歸方程,樣本數(shù)據(jù)：x1x2xky.,b1,b2,bk是1,2,k的估計值,2標(biāo)準(zhǔn)的多元線性回歸模型,多元線性回歸分析（MultipleLinearRegression）,多元線性回歸模型的性質(zhì),例,二元線性回歸模型：,b2：假定x2固定時x1每變動1個單位引起的y的增量。,b3：假定x1固定時x2每變動1個單位引起的y的增量。,是x1和x2共同變動引起的y的平均變動，反映一組自變量與因變量的平均變動關(guān)系。,是給定x1、x2計算得到的估計值，是y的實(shí)際值的數(shù)學(xué)期望。,多元線性回歸分析（MultipleLinearRegression）,（實(shí)際值),一組自變量對y的線性影響而形成的系統(tǒng)部分，反映x與y變動關(guān)系的本質(zhì)特征。,隨機(jī)干擾：各種偶然因素觀察誤差和其他被忽視因素的影響。,多元線性回歸分析（MultipleLinearRegression）,3多元線性回歸模型的估計,（一）回歸系數(shù)的估計（二）隨機(jī)誤差方差的估計（三）最小二乘估計量的性質(zhì)標(biāo)準(zhǔn)的多元線性回歸模型中，高斯.馬爾可夫定理同樣成立。,多元線性回歸分析（MultipleLinearRegression）,一.擬合程度的評價調(diào)整可決系數(shù)式中，n是樣本容量；k是模型中回歸系數(shù)的個數(shù)。調(diào)整可決系數(shù)的特點(diǎn)。,4多元線性回歸模型的檢驗(yàn),多元線性回歸分析（MultipleLinearRegression）,多元線性回歸模型的顯著性檢驗(yàn),回歸系數(shù)b的檢驗(yàn)1提出假設(shè)。H0：j=0；H1：j02.確定顯著水平。3.計算回歸系數(shù)的t值。式中,是的標(biāo)準(zhǔn)差的估計值。按下式計算：式中，是(XX)-1的第j個對角線元素，S2是隨機(jī)誤差項(xiàng)方差的估計值。,多元線性回歸分析（MultipleLinearRegression）,多元線性回歸模型的顯著性檢驗(yàn)(續(xù)一),4.確定臨界值。雙側(cè)檢驗(yàn)查t分布表所確定的臨界值是(-t/2)和(t/2)；單側(cè)檢驗(yàn)所確定的臨界值是（t）。5.做出判斷。,拒絕域,拒絕域,接受域,雙側(cè)檢驗(yàn)圖示:,多元線性回歸分析（MultipleLinearRegression）,回歸方程的顯著性檢驗(yàn)具體的方法步驟回歸模型方差分析表F統(tǒng)計量,多元線性回歸模型的顯著性檢驗(yàn)(續(xù)二),多元線性回歸分析（MultipleLinearRegression）,5多元線性回歸模型預(yù)測,基本公式：式中，xjf(j=2,3,k)是給定的xj在預(yù)測期的具體數(shù)值；是已估計出的樣本回歸系數(shù)；是xj給定時y的預(yù)測值。,返回目錄,多元線性回歸分析（MultipleLinearRegression）,6多元線性回歸模型的Minitab實(shí)現(xiàn),在研究多元回歸問題時可能感到比較復(fù)雜，下面我們用統(tǒng)計軟件幫助大家實(shí)現(xiàn)多元線性回歸模型的建立、估計、檢驗(yàn)以及預(yù)測問題。多元回歸模型在建立過程中可采用兩種不同的方法，分別為：,實(shí)現(xiàn)方法,多元線性回歸分析（MultipleLinearRegression）,例1：在研究某超市顧客人數(shù)y與該超市促銷費(fèi)用x1、超市面積x2、超市位置x3之間關(guān)系時，選取變量如下：Y-某超市某一周六顧客人數(shù)（千人）X1-該超市上周促銷所花的費(fèi)用（萬元)X2該超市的面積（百平方米）X3超市所處位置(0表示市區(qū)、1表示郊區(qū))按照y變量排序后的原始數(shù)據(jù)是：,多元回歸案例分析:,多元線性回歸分析（MultipleLinearRegression）,定性分析過程：,數(shù)據(jù)分析之前，我們要先考慮各個自變量與因變量之間是否存在相關(guān)關(guān)系。分別繪制顧客人數(shù)y與促銷費(fèi)用x1、超市面積x2的散點(diǎn)圖，直觀上測定其是否存在線性關(guān)系。通過散點(diǎn)圖可以看出，因變量y與自變量x1、x2之間確實(shí)存在較明顯的線性相關(guān)關(guān)系，而x3超市位置是虛擬二元變量，我們無法從散點(diǎn)圖中看出其中的線性關(guān)系，但經(jīng)驗(yàn)所知其一定影響著因變量y，所以我們同時將其納入分析模型。模型建立過程如下：,多元線性回歸分析（MultipleLinearRegression）,數(shù)據(jù)見多變量回歸(例1),1、直接回歸法:,多元線性回歸分析（MultipleLinearRegression）,2、最優(yōu)回歸實(shí)現(xiàn)：,若我們上面的預(yù)測方程不顯著，但確實(shí)知道其中幾個變量存在著一定的線性關(guān)系，我們也可以運(yùn)用逐步回歸的方法對變量進(jìn)行分析處理。,多元線性回歸分析（MultipleLinearRegression）,例1,在某平爐煉鋼過程中，由于礦石和爐氣的氧化作用，鐵水的總含炭量在不斷降低。試分析一爐鋼的去碳量Y與所加的兩種礦石量X1、X2及融化時間X3是否有關(guān)。數(shù)據(jù)見（回歸分析（引用2）,多元線性回歸分析（MultipleLinearRegression）,練習(xí),六西格瑪項(xiàng)目小組為了調(diào)查影響熊的重量因素，他們收集到了這樣一組數(shù)據(jù)。數(shù)據(jù)見:試分析:熊的重量Y與這些因素是否有關(guān)及其影響程度有多大?,7多元非線性回歸,多元非線性回歸是一元非線性回歸的多元擴(kuò)展，其理論基礎(chǔ)建立在多元回歸與非線性回歸的基礎(chǔ)上。在實(shí)際工作中，多元非線性回歸的應(yīng)用非常廣泛，大多數(shù)生產(chǎn)函數(shù)和需求函數(shù)都需要用到多元非線性擬合。常用的有C-D生產(chǎn)函數(shù)、產(chǎn)品的需求彈性分析。下面我們用需求彈性分析實(shí)例介紹此類模型的估計方法及結(jié)果處理解釋。,例2：廠商想研究其產(chǎn)品銷售量與居民月平均收入、商品價格之間的變化關(guān)系，現(xiàn)調(diào)查某城市有關(guān)此商品需求的數(shù)據(jù)如下：,試根據(jù)數(shù)據(jù)建立銷售量y與居民人均收入x2及商品單價x3之間的關(guān)系。,數(shù)據(jù)變換分析：,1.根據(jù)我們對經(jīng)濟(jì)規(guī)律的分析可知：產(chǎn)品銷售量與居民人均收入、商品單價呈現(xiàn)冪函數(shù)形式的關(guān)系，即：,2.利用雙對數(shù)變換法，同時加入隨機(jī)誤差項(xiàng)，可得以下線性回歸函數(shù)：,3.這樣我們就得到一般的多元線性回歸模型，可以利用軟件對其進(jìn)行參數(shù)估計、檢驗(yàn)，然后通過兩個方程之間的關(guān)系，寫出原方程的形式。數(shù)據(jù)見(多元非線性回歸例1),數(shù)據(jù)的初步變換：,原數(shù)據(jù)與新產(chǎn)生數(shù)據(jù)列:,對變換后的數(shù)據(jù)進(jìn)行建模:,對變換后的數(shù)據(jù)進(jìn)行建模:,計算結(jié)果：,根據(jù)兩個方程間的變換關(guān)系，對產(chǎn)生的回歸方程進(jìn)行反對數(shù)變換，得變量間的回歸方程如下：,結(jié)果解釋及預(yù)測分析：,由上式可知：居民收入的需求彈性約為1.16，而價格的需求彈性約為-0.4。也就是說，在其他情況不變的條件下，居民人均收入每增加1%會使此商品的需求增加1.16%，價格每提高1%會使此商品的需求減少0.4%。若此時我們要預(yù)測居民人均收入為2200元，商品單價為50元時該商品的需求量y，只需將x2=22，x3=5代入方程即得：,一般線性模型（GeneralLinearModel）,例,某化工產(chǎn)品的不純度可能受到多種因素的影響。現(xiàn)收集到數(shù)據(jù)見（GLM（練習(xí)3）,1、不純度Y是連續(xù)型數(shù)據(jù)；2、有多個X為可能的影響因素這些X中既有連續(xù)型的又有非連續(xù)型的；3、故此它們適用于GLM分析方法。,一般線性模型（GeneralLinearModel）,在回歸分析中，我們假設(shè)X對Y的影響是線性的。,當(dāng)考慮多個X（此時X可以是連續(xù)型數(shù)據(jù)也可以是非連續(xù)型數(shù)據(jù)的）對Y的影響但Y都是連續(xù)型數(shù)據(jù)時，可以采用一般線性模型分析法。,在收集數(shù)據(jù)時，將X與Y一一對應(yīng)，即：收集到每一個X和與其對應(yīng)的Y。,一般線性模型（GeneralLinearModel）,一般線性模型（GeneralLinearModel）,例1,某化工產(chǎn)品的不純度可能受到多種因素的影響。現(xiàn)收集到數(shù)據(jù)見（GLM（練習(xí)3）,1、不純度Y是連續(xù)型數(shù)據(jù)；2、有多個X為可能的影響因素這些X中既有連續(xù)型的