GPS接收機(jī)工作原理

第二部分多元線回歸multiplelinearregression第二部分多元線回歸multiplelinearregress第一節(jié)相關(guān)和回歸一、相關(guān)統(tǒng)計(jì)量用一個(gè)數(shù)值表示兩個(gè)變量間的相關(guān)程度（無(wú)單位度量）（-1~+1）第一節(jié)相關(guān)和回歸一、相關(guān)統(tǒng)計(jì)量GPS接收機(jī)工作原理GPS接收機(jī)工作原理二、計(jì)算相關(guān)的思路定距：數(shù)量上的“共變”定類(lèi)、定序：“連同發(fā)生”——隱含根據(jù)一個(gè)變量去預(yù)測(cè)或估計(jì)另一個(gè)變量的意思人們正是根據(jù)預(yù)測(cè)的準(zhǔn)確程度來(lái)界定定類(lèi)或定序變量之間的關(guān)系的——消減誤差比例二、計(jì)算相關(guān)的思路三、相關(guān)測(cè)量邏輯展示（一）Lambda相關(guān)測(cè)量法基本邏輯：以一個(gè)定類(lèi)變項(xiàng)的值來(lái)預(yù)測(cè)另一個(gè)定類(lèi)變項(xiàng)的值時(shí)，如果以眾值作為預(yù)測(cè)準(zhǔn)則，可以減少多少誤差公式：三、相關(guān)測(cè)量邏輯展示練習(xí)：根據(jù)下表數(shù)據(jù)計(jì)算lambda志愿性別男女總數(shù)快樂(lè)家庭103040理想工作401050增廣見(jiàn)聞10010總數(shù)6040100練習(xí)：根據(jù)下表數(shù)據(jù)計(jì)算lambda志愿性別男女總數(shù)快樂(lè)家庭1GPS接收機(jī)工作原理思考并運(yùn)算：如果數(shù)據(jù)有如下變化，lambda值會(huì)發(fā)生什么變化呢？志愿性別男女總數(shù)快樂(lè)家庭101020理想工作403070增廣見(jiàn)聞10010總數(shù)6040100思考并運(yùn)算：如果數(shù)據(jù)有如下變化，lambda值會(huì)發(fā)生什么變化存在的問(wèn)題：1、Lambda系數(shù)以眾值為預(yù)測(cè)準(zhǔn)則，不理會(huì)眾值以外的次數(shù)分布，對(duì)數(shù)據(jù)利用率低。2、因?yàn)樯鲜鲇?jì)算方式，如果全部眾值集中在條件次數(shù)表的同一列或同一行中，則Lambda系數(shù)會(huì)等于0，相關(guān)失去意義存在的問(wèn)題：（二）相關(guān)系數(shù)r1、協(xié)方差的思想2、r系數(shù)計(jì)算3、PRE計(jì)算思路（二）相關(guān)系數(shù)r四、回歸回歸是相關(guān)分析的深入回歸分析的結(jié)果是建立一個(gè)數(shù)學(xué)模型以表達(dá)變量之間的關(guān)系——在分析觀測(cè)數(shù)據(jù)的基礎(chǔ)上，確定一個(gè)能反映變量之間關(guān)系的近似函數(shù)表達(dá)式四、回歸回歸是相關(guān)分析的深入線性關(guān)聯(lián)整體研究方案1（多）個(gè)定距（類(lèi)）變量1個(gè)定距變量理論思路經(jīng)驗(yàn)支撐方法論指導(dǎo)線性關(guān)聯(lián)整體研究方案1（多）個(gè)1個(gè)理論思路經(jīng)驗(yàn)支撐方法論指導(dǎo)注意回歸模型只是整個(gè)研究方案中的一環(huán)，它必須依賴(lài)?yán)碚摵徒?jīng)驗(yàn)的支撐，服從研究設(shè)計(jì)的需要，在研究方法論的指導(dǎo)下展開(kāi)注意回歸模型只是整個(gè)研究方案中的一環(huán)，它必須依賴(lài)?yán)碚摵徒?jīng)驗(yàn)的研究變量間的因果關(guān)系預(yù)測(cè)是否吻合預(yù)先構(gòu)想評(píng)價(jià)模型擬合度求解模型參數(shù)估計(jì)研究變量間的因果關(guān)系預(yù)測(cè)是否吻合預(yù)先構(gòu)想評(píng)價(jià)模型擬合度求解模第二節(jié)一元線性回歸參見(jiàn)：盧叔華《社會(huì)統(tǒng)計(jì)學(xué)》，北京大學(xué)出版社1997第十二章回歸與相關(guān)一、回歸方程與線性回歸方程二、回歸方程的建立與最小二乘法三、回歸方程的假定與檢驗(yàn)第二節(jié)一元線性回歸參見(jiàn)：盧叔華《社會(huì)統(tǒng)計(jì)學(xué)》，北京大學(xué)出版一、回歸方程與線性回歸方程兩變量x與y對(duì)于確定的xi，yi是隨機(jī)變量，可計(jì)算其均值——回歸方程是研究自變量不同取值時(shí)，y的均值的變化當(dāng)因變量y的均值與自變量x呈線性規(guī)律時(shí)，稱(chēng)線性回歸方程根據(jù)x個(gè)數(shù)不同，分為一元線性回歸、多元線性回歸一、回歸方程與線性回歸方程兩變量x與y關(guān)于模型現(xiàn)實(shí)數(shù)據(jù)=模型+誤差沒(méi)有誤差的不是模型，是復(fù)制復(fù)制很精確，但是往往太不簡(jiǎn)潔設(shè)置模型一般而言是希望用簡(jiǎn)潔的方式表述復(fù)雜信息，達(dá)到較好的精確度關(guān)于模型現(xiàn)實(shí)數(shù)據(jù)=模型+誤差二、回歸方程的建立與最小二乘法回歸分析的目的：找出錯(cuò)誤最小的方法來(lái)預(yù)測(cè)因變量的數(shù)值擬合思路：各點(diǎn)到待估直線鉛直距離之和為最小——最小二乘二、回歸方程的建立與最小二乘法回歸分析的目的：找出錯(cuò)誤最小的原理：（1）散點(diǎn)圖（2）每個(gè)x值對(duì)應(yīng)的y的均值，構(gòu)成回歸線（曲折）（3）用最小平方法繪制回歸直線（各個(gè)樣本個(gè)案的估計(jì)誤差和為誤差總數(shù)。為避免正負(fù)抵消，改為將誤差的平方值相加。如果回歸直線位置能夠使此平方和最小，即為最佳擬和直線）原理：線性回歸方程式不但有簡(jiǎn)化資料的作用，而且可以推廣應(yīng)用于預(yù)測(cè)或估計(jì)樣本以外之個(gè)案的數(shù)值線性回歸方程式不但有簡(jiǎn)化資料的作用，而且可以推廣應(yīng)用于預(yù)測(cè)或回歸系數(shù)的意義：b值的大小表示每增加一個(gè)單位的x值，y值的變化有多大回歸系數(shù)的意義：三、回歸方程的假定與檢驗(yàn)（一）基本假定1、自變量x可以是隨機(jī)變量，也可以是非隨機(jī)變量，其誤差忽略不計(jì)2、對(duì)于每一個(gè)x值，yi都是隨機(jī)變量。Y的所有子總體y1，y2…yn，方差相等3、y的所有子總體，其均值都在一條直線上——線性假定4、隨機(jī)變量yi是統(tǒng)計(jì)獨(dú)立的5、y的所有子總體都滿(mǎn)足正態(tài)分布三、回歸方程的假定與檢驗(yàn)（一）基本假定（二）檢驗(yàn)F檢驗(yàn)（二）檢驗(yàn)第三節(jié)多元線性回歸模型一、多元的思路二、回歸方程的建立三、回歸方程的解釋四、標(biāo)準(zhǔn)化回歸系數(shù)第三節(jié)多元線性回歸模型一、多元的思路一、多元的思路關(guān)聯(lián)性Association和因果性Causality統(tǒng)計(jì)意義上的關(guān)聯(lián)性很容易發(fā)現(xiàn),難的是，如何確立因果聯(lián)系。然而我們?cè)谘芯恐懈雨P(guān)心的是因果性的解釋。一、多元的思路關(guān)聯(lián)性Association和因果性Cau因果關(guān)系存在的必要條件：1、變量間的關(guān)系是strongandconsistent；2、變量間有適當(dāng)?shù)臅r(shí)序性;3、變量間的關(guān)系不能夠被其他變量所解釋。因果關(guān)系存在的必要條件：對(duì)觀察數(shù)據(jù)的統(tǒng)計(jì)控制我們?nèi)绾闻懦渌麄溥x解釋?和實(shí)驗(yàn)室的實(shí)驗(yàn)不同的是，我們不能控制社會(huì)現(xiàn)象發(fā)生的環(huán)境。對(duì)于觀察數(shù)據(jù),因果性問(wèn)題可以部分地通過(guò)統(tǒng)計(jì)控制來(lái)解決即,我們可以把個(gè)體根據(jù)我們所要控制的特征分成幾個(gè)小組,來(lái)比較組內(nèi)的結(jié)果變量的差異對(duì)定量變量最常用的統(tǒng)計(jì)控制體現(xiàn)在多元回歸模型中。對(duì)觀察數(shù)據(jù)的統(tǒng)計(jì)控制我們?nèi)绾闻懦渌麄溥x解釋?二、回歸方程的建立多元回歸模型一般表達(dá)式建立的多元回歸方程：其中，稱(chēng)y對(duì)x的回歸系數(shù)或偏回歸系數(shù)可用最小二乘法求解二、回歸方程的建立多元回歸模型一般表達(dá)式建立的多元回歸方程：多元回歸系數(shù)的估計(jì)首先看只有兩個(gè)自變量的模型:我們?nèi)钥梢杂米钚《朔?，使得觀測(cè)的Y值和預(yù)測(cè)的Y值的差距的平方和最小。利用微積分，LetZ(a,b1,b2)=Σ(Y-a-b1X1-b2X2)2多元回歸系數(shù)的估計(jì)首先看只有兩個(gè)自變量的模型:LetZ(對(duì)三個(gè)未知參數(shù)a,b1,andb2求導(dǎo)：對(duì)三個(gè)未知參數(shù)a,b1,andb2求導(dǎo)：解方程：解方程：這種方法可以擴(kuò)展到任意多的自變量的模型。計(jì)算機(jī)可以直接給出估計(jì)的系數(shù)。這種方法可以擴(kuò)展到任意多的自變量的模型。三、回歸方程的解釋在任何情況下,a始終為當(dāng)所有自變量為0時(shí)的應(yīng)變量值（截距）斜率系數(shù)b1到bk表示在其他變量不變的情況下，相關(guān)的X增加一個(gè)單位，Y所對(duì)應(yīng)的變化。三、回歸方程的解釋在任何情況下,a始終為當(dāng)所有自變量為0對(duì)于方程：如果xi增加一個(gè)單位，即xi變?yōu)閤i+1，而其他自變量均保持不變，相應(yīng)有則y的變化幅度為對(duì)于方程：如果xi增加一個(gè)單位，即xi變?yōu)閤i+1，而其他自規(guī)范解讀方式（在其他變量不變的情況下，）xi平均變化一個(gè)單位，y平均相應(yīng)變化bi個(gè)單位規(guī)范解讀方式（在其他變量不變的情況下，）xi平均變化一個(gè)單位x及未包括進(jìn)方程中的其他與x有關(guān)的一切因素對(duì)y的總影響一元回歸系數(shù)多元回歸系數(shù)偏回歸系數(shù)：除去方程中其他因素對(duì)y的共同影響后，某自變量對(duì)y的邊際影響回歸系數(shù)的意義x及未包括進(jìn)方程中的其他與x有關(guān)的一切因素對(duì)y的總影響一元回四、標(biāo)準(zhǔn)化回歸系數(shù)問(wèn)題需要判別所考察的因素的重要程度解決將回歸系數(shù)標(biāo)準(zhǔn)化做法1、先將變量標(biāo)準(zhǔn)化，再計(jì)算2、利用回歸系數(shù)計(jì)算四、標(biāo)準(zhǔn)化回歸系數(shù)問(wèn)題需要判別所考察的因素的重要程度解決將回變量每平均變化一個(gè)標(biāo)準(zhǔn)分?jǐn)?shù)，y將平均變化個(gè)標(biāo)準(zhǔn)分?jǐn)?shù)變量每平均變化一個(gè)標(biāo)準(zhǔn)分?jǐn)?shù)，第四節(jié)方程的解釋能力一、確定系數(shù)二、調(diào)整的確定系數(shù)三、多元相關(guān)系數(shù)四、方差分析第四節(jié)方程的解釋能力一、確定系數(shù)一、確定系數(shù)（0～1）回歸方程解釋的差異與用y均值解釋的差異之比模型中所有變量解釋y的變化占總變化的比例受奇異值影響散點(diǎn)圖一、確定系數(shù)（0～1）回歸方程解釋的差異與用y均值解釋的差異

預(yù)測(cè)與殘差

e=(Y-)Thesumofsquarederrors

我們通過(guò)對(duì)該項(xiàng)（殘差）最小化方法求得

aandbi.預(yù)測(cè)與殘差e=(Y-)Thesumof擬合優(yōu)度whereand擬合優(yōu)度where和前面一樣,是衡量Y的所有變異中由所有自變量的差異共同解釋的比例越高,模型擬合數(shù)據(jù)的程度就越好。當(dāng)加入新的變量時(shí)，只升不降。由于常常是隨著自變量數(shù)目的增加而增加,所以直接比較沒(méi)有太大的意義。和前面一樣,是衡量Y的所有變異中由所有自變量的二、調(diào)整的確定系數(shù)自變量個(gè)數(shù)樣本規(guī)模＞(1:10)＜(1:5)自變量個(gè)數(shù)樣本規(guī)模偏高二、調(diào)整的確定系數(shù)自變量個(gè)數(shù)樣本規(guī)模＞(1:10)＜(1:5三、多元相關(guān)系數(shù)R因變量觀測(cè)值和預(yù)測(cè)值之間的相關(guān)程度三、多元相關(guān)系數(shù)R四、方差分析y的總變差平方和回歸平方和余差平方和四、方差分析y的總變差平方和回歸平方和余差平方和檢驗(yàn)統(tǒng)計(jì)推斷回歸方程回歸系數(shù)回歸系數(shù)的置信區(qū)間為什么不顯著？第五節(jié)回歸方程的檢驗(yàn)和回歸系數(shù)的推斷統(tǒng)計(jì)檢驗(yàn)統(tǒng)計(jì)推斷回回回歸系數(shù)的置信區(qū)間為什么不顯著？第五節(jié)回歸實(shí)質(zhì)假設(shè)計(jì)算H0：B1＝B2＝…＝Bk＝0＝（BSS/k）/[ESS/(n-k-1)]在總體中，X1，…，Xk的變化都不引起Y的線性變化P與a比較，決定是否拒絕H0檢驗(yàn)在a水平統(tǒng)計(jì)性顯著，并拒絕H0、接受H1我們有相當(dāng)大的把握斷定，統(tǒng)計(jì)量b1，…，bk不等于0不是由于抽樣誤差造成的。表述檢驗(yàn)樣本y與x1，…，xk的線性關(guān)系是否顯著判斷能否肯定總體回歸系數(shù)中至少有一個(gè)不等于0一、回歸方程的顯著性檢驗(yàn)實(shí)質(zhì)假設(shè)計(jì)算H0：B1＝B2＝…＝Bk＝0當(dāng)回歸方程檢驗(yàn)顯著時(shí)，可以認(rèn)為回歸方程中至少有一個(gè)回歸系數(shù)是顯著的。但并不一定所有回歸系數(shù)都顯著?；貧w模型希望：保留最重要的變量，刪除不顯著的變量對(duì)每個(gè)變量的回歸系數(shù)進(jìn)行檢驗(yàn)二、回歸系數(shù)的顯著性檢驗(yàn)當(dāng)回歸方程檢驗(yàn)顯著時(shí)，可以認(rèn)為回歸方程中至少有一個(gè)回歸系數(shù)是具體做法：TSigT

H0：Bj＝0H1：Bj≠0具體做法：TH0：Bj＝0三、回歸系數(shù)的置信區(qū)間回歸系數(shù)的統(tǒng)計(jì)檢驗(yàn)只能說(shuō)明Bj與0有顯著差別，并不能說(shuō)明Bj的具體情況。用樣本回歸系數(shù)b及其標(biāo)準(zhǔn)誤，可以推斷Bj值的置信區(qū)間P(bj-ta/2sj＜Bj回歸系數(shù)的統(tǒng)計(jì)檢驗(yàn)只能說(shuō)明Bj與0有顯著差別，并不能說(shuō)明Bj的具體情況。用樣本回歸系數(shù)b及其標(biāo)準(zhǔn)誤，可以推斷Bj值的置信區(qū)間P(bj-sj＜Bj＜bj+sj)=1-a三、回歸系數(shù)的置信區(qū)間回歸系數(shù)的統(tǒng)計(jì)檢驗(yàn)只能說(shuō)明Bj與0有顯樣本量太小變量數(shù)太多Xj標(biāo)準(zhǔn)差過(guò)小自變量線性相關(guān)確實(shí)不相關(guān)非線性關(guān)系四、回歸系數(shù)不顯著的原因樣變量數(shù)太多Xj標(biāo)準(zhǔn)差過(guò)小自變量線性相關(guān)確實(shí)不相關(guān)非線性關(guān)系第六節(jié)虛擬變量的應(yīng)用什么變量需要虛擬？分類(lèi)變量第六節(jié)虛擬變量的應(yīng)用什么變量需要虛擬？分類(lèi)變量虛擬變量一個(gè)變量只有兩個(gè)可能值1or0.對(duì)于一個(gè)兩分的變量:gender:1.male2.female我們可以重新編碼1=maleand0=female.由此,gender就變成了一個(gè)虛擬變量,表示被訪者是否男性.虛擬變量一個(gè)變量只有兩個(gè)可能值1or0.對(duì)于一個(gè)兩分如何虛擬？二分變量（是、否）把二分狀態(tài)看作連續(xù)變化的過(guò)程將某一個(gè)分類(lèi)變量（有n個(gè)選項(xiàng)）轉(zhuǎn)換成（n-1）個(gè)二分變量，以沒(méi)有進(jìn)入變量表達(dá)的那個(gè)類(lèi)別為參照進(jìn)行解釋?zhuān)f(shuō)明不同類(lèi)別間y取值的變化均值的意義是編碼為1的案例占樣本的比例如何虛擬？二分變量把二分狀態(tài)看作連續(xù)變化的過(guò)程將某一個(gè)分類(lèi)變?yōu)槭裁匆诨貧w分析中引入虛擬變量？有時(shí)我們社會(huì)研究的樣本數(shù)據(jù)中觀察的個(gè)體可以分成不同的組別。組與組、或群體與群體間的在自變量和應(yīng)變量的平均數(shù)會(huì)有差異在這種情況下,不控制組別特征的回歸模型結(jié)果會(huì)導(dǎo)致所估計(jì)的偏回歸系數(shù)偏差。特別是,系數(shù)可能低估或者高估一個(gè)自變量對(duì)應(yīng)變量的影響強(qiáng)度。為什么要在回歸分析中引入虛擬變量？有時(shí)我們社會(huì)研究的樣本數(shù)據(jù)第七節(jié)多重共線性及其解決方案多元線性回歸的解釋方式：“在其他變量不變的前提下，xi平均變化一個(gè)單位y將平均變化bi個(gè)單位”如果xi與另一自變量存在高度相關(guān)，則這種解釋不成立，因?yàn)椤霸谄渌兞坎蛔兊那疤帷辈豢赡軐?shí)現(xiàn)此即所謂的“多重共線性”第七節(jié)多重共線性及其解決方案多元線性回歸的解釋方式：“在其回歸方程整體顯著，但各個(gè)自變量都不顯著多重共線性的表現(xiàn)之一：自變量之間存在高度線性相關(guān)后果：影響回歸方程的有效性回歸預(yù)測(cè)結(jié)果將不可靠xi與y之間的關(guān)系不準(zhǔn)確回歸方程整體顯著，多重共線性的表現(xiàn)之一：自變量之間存在高度線鑒別多重共線性的思路：在自變量之間建立回歸方程，以該回歸方程的確定系數(shù)來(lái)判斷自變量之間的相關(guān)程度具體做法：假定有k個(gè)自變量，先以第一個(gè)自變量x1為因變量建立回歸方程，計(jì)算確定系數(shù)——若值較大，說(shuō)明至少有一個(gè)自變量與x1相關(guān)，也即存在共線性問(wèn)題；按此方法依次建立回歸方程，根據(jù)確定系數(shù)的變化來(lái)判斷共線性問(wèn)題鑒別多重共線性的思路：在自變量之間建立回歸方程，以該回歸方程檢查多重共線性容限度（tolerance）特征值和條件次數(shù)（eigen-valuesandconditionindexes）方差膨脹因子（varianceinflationfactor）以每個(gè)自變量作為因變量對(duì)其他自變量回歸得到的余差比例是容限度的倒數(shù)。表示所對(duì)應(yīng)的偏回歸系數(shù)的方差由于多重共線性而擴(kuò)大的倍數(shù)小于0.1，則認(rèn)為多重共線性嚴(yán)重大于10，則認(rèn)為多重共線性嚴(yán)重檢查多重共線性容限度（tolerance）特征值和條件次數(shù)（去掉與y相關(guān)較低，而與其他自變量相關(guān)高的變量去掉可以被其余自變量線性表出的變量增加樣本規(guī)模采用新的樣本數(shù)據(jù)利用先驗(yàn)信息組合變量逐步刪除（逐步回歸方法即可消除此問(wèn)題）變量變換補(bǔ)救辦法去掉與y相關(guān)較低，而與其他自變量相關(guān)高的變量去掉可以被其余自全部納入全部刪除向前回歸逐步回歸向后回歸選擇最優(yōu)回歸方程全部納入全部刪除向前回歸逐步回歸向后回歸選擇最優(yōu)回歸方程第八節(jié)計(jì)算機(jī)操作第八節(jié)計(jì)算機(jī)操作第九節(jié)研究實(shí)例社會(huì)意識(shí)的行動(dòng)邏輯――性別不平等的現(xiàn)象學(xué)社會(huì)學(xué)解釋框架《浙江學(xué)刊》2006年第5期第九節(jié)研究實(shí)例社會(huì)意識(shí)的行動(dòng)邏輯表3家務(wù)勞動(dòng)時(shí)