回歸分析(Regression).pdf

Copyright 2008 SAS Institute Inc All rights reserved 質(zhì)量統(tǒng)計(jì)應(yīng)用方法 回歸分析 JMP中國(guó)區(qū) Copyright 2008 SAS Institute Inc All rights reserved 內(nèi)容摘要內(nèi)容摘要 公司簡(jiǎn)介及JMP入門(mén) 略 回歸分析的基本概念 回歸模型的建立 回歸模型的診斷 回歸模型的用途 回歸分析的綜合應(yīng)用案例 交流與問(wèn)答 Copyright 2008 SAS Institute Inc All rights reserved 如何鑒定流程能力的優(yōu)劣 LSL USL Target Copyright 2008 SAS Institute Inc All rights reserved 傳統(tǒng)控制 階段 傳統(tǒng)控制 階段 QC quality control 統(tǒng)計(jì)質(zhì)量 控制階段 統(tǒng)計(jì)質(zhì)量 控制階段 SQC statistical quality control 全面質(zhì)量 管理階段 全面質(zhì)量 管理階段 TQM total quality management 六西格瑪 質(zhì)量管理 階段 六西格瑪 質(zhì)量管理 階段 Six Sigma Management 1900 1930 1950 1990 質(zhì)量管理的發(fā)展 Copyright 2008 SAS Institute Inc All rights reserved JMP是什么 SAS公司的軟件事業(yè)部 名字源于 John s Macintosh Program JMP軟件 眾多世界知名學(xué)府和企業(yè) 超過(guò) 200 000名用戶(hù)的選擇 功能強(qiáng)大 使用簡(jiǎn)單的專(zhuān)業(yè)統(tǒng)計(jì)質(zhì) 量分析軟件 Copyright 2008 SAS Institute Inc All rights reserved 2008 全球績(jī)效 30余年持續(xù)增長(zhǎng) 08年?duì)I業(yè)收入達(dá)到22 6億美金 Copyright 2008 SAS Institute Inc All rights reserved 全球最優(yōu)秀的行業(yè)領(lǐng)袖信賴(lài)JMP Copyright 2008 SAS Institute Inc All rights reserved JMP 讓數(shù)據(jù)分析更輕松 1 功能強(qiáng)大的數(shù)據(jù)分析能力 2 卓越的可視化效果 3 簡(jiǎn)單易懂的操作方式 Copyright 2008 SAS Institute Inc All rights reserved 統(tǒng)計(jì)分析能力 基本統(tǒng)計(jì)基本統(tǒng)計(jì) 描述性統(tǒng)計(jì) 單樣本 雙樣本t檢驗(yàn) 配對(duì)t檢驗(yàn) 相關(guān)和協(xié)方差 單樣本方差 等方差檢 驗(yàn) 正態(tài)分布的擬合與檢驗(yàn) 其他主要分布的擬合與 檢驗(yàn) 回歸分析回歸分析 線(xiàn)性回歸 多項(xiàng)式回歸 多元回歸 逐步和最佳子集回歸 Logistic 回歸 偏最小二乘法 非線(xiàn)性回歸 響應(yīng)面回歸 正交回歸 置信區(qū)間和預(yù)測(cè)區(qū)間 方差分析方差分析 一般方差分析 Welch 方差分析 協(xié)方差分析 廣義線(xiàn)性模型 多元方差分析 非平衡方差分析 嵌套方差分析 平均值分析 環(huán)圖多重比較 列聯(lián)表列聯(lián)表 卡方分析 對(duì)應(yīng)分析 Cochran Mantel Haenszel 檢驗(yàn) 模型擬合模型擬合 分段擬合 樣條擬合 隨機(jī)效應(yīng)模型 混合模型 統(tǒng)一尺度估計(jì) 對(duì)數(shù)方差 反向預(yù)測(cè) Box Cox 轉(zhuǎn)換 參數(shù)功效 定制檢驗(yàn) 時(shí)間序列分析時(shí)間序列分析 自相關(guān) 偏自相關(guān) 交 叉相關(guān) ARIMA 分析 季節(jié)性 ARIMA 分析 平滑模型 Winter 法 譜密度分析 預(yù)測(cè) 多元分析多元分析 主成分分析 因子分析 密度橢圓 聚類(lèi)分析 判別分析 項(xiàng)目分析 對(duì)應(yīng)分析 聯(lián)合分析 仿真仿真 隨機(jī)數(shù)據(jù)生成器 隨機(jī)噪聲 多元隨機(jī)變量 隨機(jī)抽樣 與建模密切整合 非參數(shù)分析非參數(shù)分析 Wilcoxon 檢驗(yàn) 中位數(shù)檢驗(yàn) Van Der Waerden 檢驗(yàn) Kruskal Wallis 檢驗(yàn) 統(tǒng)計(jì)量Spearman Rho 統(tǒng)計(jì)量Kendall Tau 統(tǒng)計(jì)量Hoeffding D 樣本數(shù)量和功效樣本數(shù)量和功效 單樣本 雙樣本和多樣本 的均值 單樣本的方差 單樣本 雙樣本的比例 泊松分布 注 藍(lán)色為其他統(tǒng)計(jì)軟件所不具備的功能 Copyright 2008 SAS Institute Inc All rights reserved 統(tǒng)計(jì)分析能力 統(tǒng)計(jì)過(guò)程控制統(tǒng)計(jì)過(guò)程控制 運(yùn)行圖 變量控制圖 屬性控制圖 特殊原因檢驗(yàn) 操作特性曲線(xiàn) 時(shí)間加權(quán)控制圖 多變量控制圖 Levey Jennings控制圖 實(shí)時(shí)控制圖 過(guò)程能力分析 測(cè)量系統(tǒng)分析測(cè)量系統(tǒng)分析 變異源分析 量具的重復(fù)性和再現(xiàn)性 量具的偏倚和線(xiàn)性 嵌套型量具分析 交叉嵌套混合的量具分析 屬性一致性分析 Kappa 判別比率 可區(qū)分類(lèi)別數(shù) 試驗(yàn)設(shè)計(jì)試驗(yàn)設(shè)計(jì) 完全因子設(shè)計(jì) 篩選設(shè)計(jì) 響應(yīng)面設(shè)計(jì) 混料設(shè)計(jì) 田口設(shè)計(jì) 擴(kuò)充設(shè)計(jì) 空間填充設(shè)計(jì) 非線(xiàn)性設(shè)計(jì) 定制設(shè)計(jì) 生存生存 可靠性分析可靠性分析 分布擬合 WeiBayes 分析 競(jìng)爭(zhēng)原因估計(jì) 參數(shù)生存模型 非線(xiàn)性參數(shù)生存模型 比例危險(xiǎn)模型 加速失效模型 可修復(fù)系統(tǒng)的再現(xiàn)分析 數(shù)據(jù)挖掘數(shù)據(jù)挖掘 決策樹(shù) 神經(jīng)網(wǎng)絡(luò) 注 藍(lán)色為其他統(tǒng)計(jì)軟件所不具備的功能 Copyright 2008 SAS Institute Inc All rights reserved JMP中的可視化方式 動(dòng)畫(huà)演示動(dòng)畫(huà)演示 數(shù)據(jù)與圖形的交互數(shù)據(jù)與圖形的交互 專(zhuān)業(yè)圖形專(zhuān)業(yè)圖形 拒絕枯燥 生動(dòng)演繹統(tǒng)計(jì)學(xué)原理 真正實(shí)現(xiàn)動(dòng)態(tài)鏈接 瞬間揭示事實(shí)真相 項(xiàng)目管理項(xiàng)目管理 融項(xiàng)目管理和數(shù)據(jù)分析為一體 提高工作效率 JMP提供最專(zhuān)業(yè)的統(tǒng)計(jì)分析圖形 種類(lèi) 效果 可讀性 Copyright 2008 SAS Institute Inc All rights reserved JMP中的圖形種類(lèi) 餅圖 折線(xiàn)圖 條形圖 直方圖 箱型圖 散點(diǎn)圖 3D散點(diǎn)圖 散點(diǎn)圖矩陣 運(yùn)行圖 時(shí)間序列圖 分位數(shù)圖 莖葉圖 CDF圖 Pareto 圖 魚(yú)骨圖 貝葉斯圖 立方圖 等高線(xiàn)圖 曲面圖 三元圖 刻畫(huà)器 定制刻畫(huà)器 平行圖 方格圖 樹(shù)圖 拼花圖 OC 曲線(xiàn) 泡泡圖 Seeing is believing Copyright 2008 SAS Institute Inc All rights reserved JMP 使用界面 根據(jù)用戶(hù)要求根據(jù)用戶(hù)要求 層層遞進(jìn)層層遞進(jìn) Copyright 2008 SAS Institute Inc All rights reserved JMP數(shù)據(jù)表 控制面板 數(shù)據(jù)網(wǎng)格 控制面板 數(shù)據(jù)網(wǎng)格 列列 變量變量 行行 記錄記錄 表表 數(shù)據(jù)庫(kù)數(shù)據(jù)庫(kù) 展開(kāi)列菜單 展開(kāi)行菜單 隱藏 撤消隱藏 控制面板 Copyright 2008 SAS Institute Inc All rights reserved 菜單架構(gòu) 數(shù)據(jù)處理 分析數(shù)據(jù) 協(xié)助管理 可視化數(shù)據(jù) Copyright 2008 SAS Institute Inc All rights reserved 回歸分析與假設(shè)檢驗(yàn) Response Continuous Predictor Continuous Simple Linear Regression Categorical t test ANOVA Copyright 2008 SAS Institute Inc All rights reserved 回歸 什么是回歸 根據(jù)變量間客觀(guān)存在的相關(guān)關(guān)系 建立起合適的數(shù)學(xué)模 型 分析和討論其性質(zhì)和應(yīng)用的統(tǒng)計(jì)方法 回歸有什么用 量化變量 尤其是連續(xù)變量 之間的客觀(guān)規(guī)律 排除眾多噪聲因素的干擾 找到影響流程變異 質(zhì)量性能的 關(guān)鍵因素 根據(jù)少量的樣本數(shù)據(jù)了解龐大的總體情況 根據(jù)歷史數(shù)據(jù)預(yù)測(cè)和監(jiān)控流程今后長(zhǎng)期的表現(xiàn) 加速學(xué)習(xí)進(jìn)程 高度提煉專(zhuān)業(yè)知識(shí)和經(jīng)驗(yàn) 深入 透徹地理解流程 為批量化生產(chǎn)經(jīng)營(yíng)的標(biāo)準(zhǔn)化工作 奠定基礎(chǔ) 科學(xué)客觀(guān)地總結(jié)和歸納出產(chǎn)品設(shè)計(jì) 工藝改進(jìn)的綜合解決 方案 根據(jù)客戶(hù)要求 技術(shù)標(biāo)準(zhǔn)靈活地調(diào)整現(xiàn)有的工藝 服務(wù)流程 Copyright 2008 SAS Institute Inc All rights reserved 回歸的應(yīng)用領(lǐng)域 回歸回歸 市場(chǎng)營(yíng)銷(xiāo)市場(chǎng)營(yíng)銷(xiāo) 質(zhì)量管理質(zhì)量管理 產(chǎn)品研發(fā)產(chǎn)品研發(fā) 工藝改進(jìn)工藝改進(jìn) 服務(wù)優(yōu)化服務(wù)優(yōu)化企業(yè)管理企業(yè)管理 Copyright 2008 SAS Institute Inc All rights reserved 常見(jiàn)的回歸形式 Indicator variables for discrete Xs x x x x x x x x x x x x x x x Xi Y Xa Xb Xc Multiple 2 or more Xs Polynomial 2 or more Xs Y X1 X2 Simple linear 1 X X Y Y X2 X1 Polynomial 1 X X Y Logistic for discrete Ys X 1 0 yes 1 23 45 6 Copyright 2008 SAS Institute Inc All rights reserved 回歸分析的一般過(guò)程 觀(guān)察散點(diǎn)圖 作描述性統(tǒng)計(jì) 線(xiàn)性或曲面 一元或多元 數(shù)據(jù)轉(zhuǎn)換 離散型 X 離散型Y 計(jì)算參數(shù) 判定系數(shù) 顯著性 殘差 通過(guò) 收集并了解數(shù)據(jù) 選擇回歸模型 假設(shè) 模型求解 模型檢驗(yàn) 實(shí)際應(yīng)用 控制輸出值 通過(guò)輸入值預(yù)測(cè) 未通過(guò) 變量的基礎(chǔ)分析 明確研究的對(duì)象和范圍 Copyright 2008 SAS Institute Inc All rights reserved 散點(diǎn)圖與相關(guān)系數(shù)的概念 X input Y output weak STRO NGSTRO NG Correlation Coefficient 0 1 1 NegativePositive 22 yyxx yyxx r ii ii 22 yyxx yyxx r ii ii Copyright 2008 SAS Institute Inc All rights reserved X Y X Y X Y X Y X Y X Y Strong Positive Correlation r 95 Moderate Positive Correlation r 70 No Correlation r 006 Other Pattern No Linear Correlation r 29 Moderate Negative Correlation r 73 Strong Negative Correlation r 90 散點(diǎn)圖與相關(guān)系數(shù)的組合 Copyright 2008 SAS Institute Inc All rights reserved e a 3 2 1 i 一元線(xiàn)性回歸模型 Y X e yb xe ii yab x ii e Residual Copyright 2008 SAS Institute Inc All rights reserved 理論公式 yi a bxi ei Sample Regression Equation Sample Slope Sample Intercept xbya xx yyxx b x xy S S 2n 1i 2 i n 1i ii Copyright 2008 SAS Institute Inc All rights reserved 回歸診斷 1 變差度量 判定系數(shù) R2 均方根誤差 RMSE 2 顯著性檢驗(yàn) 3 殘差分析 4 散點(diǎn)圖分析 yab x ii Copyright 2008 SAS Institute Inc All rights reserved 判定系數(shù) R2 0 R2 1 R 2 Explained Variation Total Variation SSR SST n i i n i i n i i n i i yy yy yy yy 1 2 1 2 1 2 1 2 1 n i i n i i n i i n i i yy yy yy yy 1 2 1 2 1 2 1 2 1 Copyright 2008 SAS Institute Inc All rights reserved Total Sum of Squares yi y 2 總平方和 Y X y x i 判決系數(shù)的圖示 Unexplained Sum of Squares yi yi 2 殘差平方和 yi y ab x ii Explained Sum of Squares yi y 2 回歸平方和 Copyright 2008 SAS Institute Inc All rights reserved 均方根誤差 2 2 111 2 1 2 n yxbyay S n yy S n i n i n i iiii e n i ii e 1 實(shí)際觀(guān)察值與回歸估計(jì)值離差平方和的均方根 2 反映實(shí)際觀(guān)察值在回歸直線(xiàn)周?chē)姆稚顩r 3 從另一個(gè)角度說(shuō)明了回歸直線(xiàn)的擬合程度 4 計(jì)算公式為 Copyright 2008 SAS Institute Inc All rights reserved 回歸系數(shù)的顯著性檢驗(yàn) 1 假設(shè) H0 1 0 No Linear Relationship H1 1 0 Linear Relationship 2 檢驗(yàn)統(tǒng)計(jì)量 2 1 2 x i x e S b Swhere2nt b S b n t 3 統(tǒng)計(jì)決策 If t t refuse H0 Ift t accept H0 Copyright 2008 SAS Institute Inc All rights reserved 回歸方程的顯著性檢驗(yàn) 1 假設(shè) H0 No Linear Relationship H1 Linear Relationship 2 檢驗(yàn)統(tǒng)計(jì)量 2 1 2 1 2 1 1 2 1 2 nF nyy yy nSSE SSR F n i i n i i 2 1 2 1 2 1 1 2 1 2 nF nyy yy nSSE SSR F n i i n i i 3 統(tǒng)計(jì)決策 If F F refuse H0 IfF F accept H0 Copyright 2008 SAS Institute Inc All rights reserved 殘差分析 Assumption Check Tool 3 Residuals normally distributed Normal Plot Histogram of Residuals 2 Residual distribution stable over time Run Chart of Residuals 4 Residuals not related to X Scatterplot of Residuals vs Each X 1 Residuals not related to Predicted Y Scatterplot of Residuals vs Predicted Y Fits Copyright 2008