建立回歸模式

1、Quan_model1在建立迴歸模式時，需要先選出對因變數有影響的一些自變數作為解釋變數 (explanatory var.)，其次，要選擇一適當的數學式作為模式本章主題： 共線性現象 選擇適當的解釋變數 利用虛擬變數建立模式 第五章 建立迴歸模式Quan_model2在建立迴歸模式時，需要先選出對因變數有影響的一些自變數作為解釋變數 (explanatory var.). 如何選出適當數量的自變數建立模式？ 愈多的自變數，會得到愈高的R2值，模式的解釋度愈高，但並不代表模式愈佳 因為，若自變數間有高度相關的時候，可能產生共線性（multicollineariity) 如何發(fā)現共線性？又如何修

2、飾迴歸模式？ 5.1 共線性 (multicollinearity)Quan_model3PearsonCorrelationCoefficients,N=20X1X2X3YX1表皮厚度1.000000.923840.457780.84327X2大腿周長0.923841.000000.084670.87809X3上臂粗0.457780.084671.000000.14244Y脂肪量0.843270.878090.142441.00000例：尋求解釋人體脂肪成因之迴歸式Correlation Matrix ： 注意: X1 與 X2 高度相關 Multicollinearity當預測變數間高度相

3、關時，對迴歸式的估計可能造成誤判，則稱此現象為多元共線性現象。Quan_model4注意：1. 加入X1至 X2 模式，顯著 p值 明顯改變 2. 加入X1至 (X2 ,X3) 模式，係數與 p值有明顯改變 3. 加入X2至 (X1, X3) 模式，係數與 p值有明顯改變 4. s.e. 代表估計的誤差各模式的係數及顯著性表皮厚度 大腿周長 上臂粗Quan_model5多元共線性存在的影響 : 1. 增加或刪除一解釋變數，原係數將有明顯改變。 2. 導致各係數不顯著。 3. 單一係數對反應變數的意義不正確。 4. 係數估計之標準誤較大。選擇合適的解釋變數，才能得到合適的迴歸式Quan_mode

4、l6H0: k=0 ( 其它i0) , H1: k0.1.-p-nd.f. ,.*kkbesbt解釋變數顯著性之檢定檢定 Xk 是否可自模式中剔除的方法：當 p-值 0.05，檢定結果為不顯著，意指當模式含有其它 Xi 時，Xk對 Y 的影響不顯著 5.2 選擇自變數Quan_model7目的：假設有 P 個與Y相關的潛在自變數，希望由其中選取最少量個解釋變數，得到一足以解釋 Y 變量的迴歸式選擇預測變數 對於模式適合度，有一些如判定係數的測值可做為參考指標 我們可以將所有可能的模式得到的測值拿來做比較，選出一最適合的 如何決定那些自變數是要放在模式內的？SAS tipSAS tipSAS t

5、ipAnalysis Regression Linear Model selection method Adjusted R-square selection AIC SBCQuan_model8 AIC, SBC criterion AICp = n ln(SSEp) n ln(n) + 2p SBCp = n ln(SSEp) n ln(n) + ln(n) p AIC: Akaikes information criterion SBC: Schwarz infromation criterion AIC, SBC 常用於時間序列建模，值較低者，模式預測能力較佳評估迴歸模式常用的測值有

6、： Ra2, Cp, AIC, SBC, PRESS。 Quan_model9Number inModelAdjustedR-SquareR-SquareAICSBCVariables in Model30.76410.801439.867243.85009skin thigh midarm20.76100.786239.341742.32891skin midarm10.75830.771038.708040.69942thigh20.75190.778140.086043.07321skin thigh20.74930.775740.295743.28293thigh midarm10.6

7、9500.711143.359045.35045skin1-.03410.020367.782369.77373midarm以下為 Adjusted R-square selection AIC SBC 步驟之一範例。 Quan_model10逐步迴歸 (Stepwise regession)依據partial F-test加入潛在預測變數中對 Y 有顯著影響者，在加入的同時，以 partial F-test 剔除已加入者對 Y 影響不顯著者；直到模式中每一預測變數對 Y 的邊際影響顯著，模式外每一預測變數對 Y邊際影響不顯著為止。我們也可以讓電腦依據自變數的顯著程度自動找出最適合的迴歸式 自

8、動搜尋程序有：前進選擇法，後退選擇法，逐步迴歸法 (stepwise regression)前進選擇法由一自變數開始，只考慮增加X變數，不考慮剔除X變數。後退選擇法由所有自變數開始，只考慮剔除X變數，不考慮增加X變數。Quan_model11 Summary of Stepwise Procedure for Dependent Variable Y Variable Number Partial Model Step Entered Removed In R*2 R*2 C(p) F ProbF 1 X4 1 0.5274 0.5274 787.9471 58.0214 0.0001 2 X

9、3 2 0.1591 0.6865 507.8069 25.8888 0.0001 3 X2 3 0.1964 0.8829 161.6520 83.8313 0.0001 4 X1 4 0.0895 0.9724 5.0000 158.652 0.0001 5 X4 3 0.0000 0.9723 3.0390 0.039 0.8442以下為 stepwise regression 步驟之一範例。 SAS tipSAS tipSAS tipAnalysis Regression Linear Model selection method stepwise selectionQuan_mode

10、l12一些特殊曲線模式 多項式迴歸 ; 如: E(Y) =0+1X1+ 2 X12。 轉換變數; 如: E(log(Y) =0+1X1+2 X2 。 含交互作用項; 如: E(Y) =0+1X1+2 X2 + 3X 1 X2 。 二次完全迴歸式; 如: E(Y)=0+1X1+ 2 X12 +3 X2 + 4 X22 + 5X 1 X2 5.3 各類模式自變數為分類變數的模式 E(Y) =0+1X1+2 X2， X1 = 0 (第一類)， = 1 (第二類)。Quan_model131、Linear Trend model： Yt =0+1 t+ t時間序列模式 (以 t 為自變數)3、Expo

11、nential model： 可利用ln轉換為線性2、Quadratic Trend model： Yt =0+1 t + 2 t2 + tbttaY)(lnlnlntbaYt(將資料 Y, t 轉換為 ln(Y), ln(t)，再執(zhí)行迴歸分析)4、S-Shaped Model logistic function利用轉換可為線性模式limitupper a is L ,)( exp(11tttLYtttYL)() 1ln(1Quan_model14 y shape-S) b exp(a11x函數，Quan_model15例：The data below gives per capita con

12、sumption of malt beverages in the United States in gallons over the period 1950 - 1980. Fit a polynomial model for the data. Which one is a better fit?Year19501951.1980Consump.17.216.8.23.2Quan_model16先後執(zhí)行直線，二次，三次及四次迴歸式直線，二次，三次的殘差圖：Parameter Estimates VariableLabelDFParameterEstimateStandardErrort V

13、aluePr |t|Type I SSInterceptIntercept117.40.30856.53.00019743time時間1-0.1570.129-1.220.2339136tsq平方1-0.03380.016-2.110.044867.1tcu三次方10.003270.0007474.370.00022.40t4四次方1-0.000058820.00001159-5.07 |t|InterceptIntercept118.50.31558.67.0001time時間1-0.7350.0840-8.76.0001tsq平方10.04450.006057.36|t|Intercept

14、Intercept1-10.363893.53269-2.930.0060RMRM10.408150.082224.96|t|InterceptIntercept1-10.799002.22552-4.85.0001RMRM10.417810.055087.59|t|InterceptIntercept1-0.009490.03352-0.280.7786DD10.113700.067041.700.0981參數不顯著，第一季與其它三季無顯著差異截距項的部分為四季的平均報酬。D的參數為第一季和其他三季的差異。Quan_model26對四季報酬率(Rt) 的迴歸模式 需要三個指標變數 (或虛擬變

15、數)，定義 : S2 = 1，若為第二季，S2 = 0，非第一季 S3 = 1，若為第三季，S3 = 0，非第二季 S4 = 1，若為第四季，S4 = 0，非第四季 模式 : Rt = +1S2t +2S3t +3S4t +t 若為第二季，E(Rt )= +1 若為第三季， E(Rt )= +2 若為第四季， E(Rt )= +3 若為第一季， E(Rt )= Quan_model27 此模式是以第一季為基準，1 為第二季的效力，2 為第三季的效力，3 為第四季的效力。若的估計值為正，它的報酬率會比第一季高，若的估計值為負，它的報酬率會比第一季低。 檢定t=0，若為顯著，則第 t 季與第一季有

16、顯著差異。 檢定i=j，若為顯著，則第 i 季與第 j 季有顯著差異。Quan_model28 Parameter Estimates Parameter Standard Variable DF Estimate Error t Value Pr |t| Intercept 1 0.08249 0.07534 1.09 0.2818 s2 1 -0.12872 0.10655 -1.21 0.2359 s3 1 -0.18199 0.10655 -1.71 0.0973 s4 1 0.04419 0.10655 0.41 0.6811 Test 1 Results for Dependent

17、 Variable RETURN Mean Source DF Square F Value Pr F Numerator 3 0.10165 1.99 0.1353 Denominator 32 0.05109 四季報酬率無顯著差異參數不顯著，三季與第一季無顯著差異Quan_model29例 : 季別銷貨量 (Y)對季別廣告支出 (X1) 建立一迴歸模式。 需要三個指標變數，定義 : X2 = 1，若為第一季，X2 = 0，其他。 X3 = 1，若為第二季，X3 = 0，其他。 X4 = 1，若為第三季，X4 = 0，其他。 :443322110iiiiiiXXXXY模式含自變數的季資料迴歸

18、模式Quan_model30第三節(jié) 星期效應分析 前面我們比較四季的報酬是否有明顯的不同，除了以四季來比較之外，我們還可以檢定股市是否有星期效應 也就是檢定一週內是否有某天的報酬較高或較低 一般理論認為，通常星期一的報酬會低於其他天的報酬。造成此現象的原因，可能是因為公司或政府會選一週內最後交易日之收盤後發(fā)布利空消息。Quan_model31 虛無假說如下： 迴歸模型如下： 虛擬變數 Dt=0 當報酬為星期一時 1 當報酬為其他時 因此 011:|ttHE R tWE R tWtttRD1|tE R tW1|tE R tWQuan_model32Dependent Variable: return Analysis of Variance Sum of Mean Source DF Squares Square F Value Pr F Model 1 0