多層線性模型.ppt

多層線性模型簡(jiǎn)介 HierarchicalLinearModel HLM 1 主要內(nèi)容 一 多層線性模型簡(jiǎn)介二 多層線性模型基本原理三 多層線性模型HLM軟件的應(yīng)用 2 多層線性模型簡(jiǎn)介 1 多層數(shù)據(jù)結(jié)構(gòu)的普遍性多層 多水平 數(shù)據(jù)指的是觀測(cè)數(shù)據(jù)在單位上具有嵌套的關(guān)系 1 教育研究領(lǐng)域EG 學(xué)生鑲嵌于班級(jí) 班級(jí)鑲嵌于學(xué)校 或者學(xué)生簡(jiǎn)單地鑲嵌于學(xué)校 這時(shí)學(xué)生代表了數(shù)據(jù)結(jié)構(gòu)的第一層 而班級(jí)或?qū)W校代表的是數(shù)據(jù)結(jié)構(gòu)的第二層 如果數(shù)據(jù)是學(xué)生鑲嵌于班級(jí) 而班級(jí)又是鑲嵌于學(xué)校 那么就是三層數(shù)據(jù)結(jié)構(gòu) 3 多層線性模型簡(jiǎn)介 2 組織心理學(xué)研究領(lǐng)域Eg 雇員鑲嵌于不同的組織 工廠 3 發(fā)展心理學(xué)領(lǐng)域Eg 縱向研究 重復(fù)研究在一段時(shí)間內(nèi)對(duì)兒童進(jìn)行多次觀察 那么不同時(shí)間的觀測(cè)數(shù)據(jù)形成了數(shù)據(jù)結(jié)構(gòu)的第一層 而兒童之間的個(gè)體差異則形成了數(shù)據(jù)結(jié)構(gòu)的第二層 這樣 就可以探索個(gè)體在其發(fā)展趨勢(shì)或發(fā)展曲線上的差異 4 兩水平層次結(jié)構(gòu)數(shù)據(jù) 水平2 水平1 層次結(jié)構(gòu)數(shù)據(jù)的普遍性 5 層次結(jié)構(gòu)數(shù)據(jù)為一種非獨(dú)立數(shù)據(jù) 即某觀察值在觀察單位間 或同一觀察單位的各次觀察間 不獨(dú)立或不完全獨(dú)立 其大小常用組內(nèi)相關(guān) intra classcorrelation ICC 度量 例如 來自同一家庭的子女 其生理和心理特征較從一般總體中隨機(jī)抽取的個(gè)體趨向于更為相似 即子女特征在家庭中具有相似性 數(shù)據(jù)是非獨(dú)立的 6 違背了傳統(tǒng)回歸 OLS 中關(guān)于殘差相互獨(dú)立的假設(shè)采用經(jīng)典方法可能失去參數(shù)估計(jì)的有效性并導(dǎo)致不合理的推斷結(jié)論 7 經(jīng)典方法框架下的分析策略經(jīng)典的線性模型只對(duì)某一層數(shù)據(jù)的問題進(jìn)行分析 而不能將涉及兩層或多層數(shù)據(jù)的問題進(jìn)行綜合分析 但有時(shí)某個(gè)現(xiàn)象既受到水平1變量的影響 又受到水平2變量的影響 還受到兩個(gè)水平變量的交互影響 cross levelinteraction 8 個(gè)體的某事件既受到其自身特征的影響 也受到其生活環(huán)境的影響 即既有個(gè)體效應(yīng) 也有環(huán)境或背景效應(yīng) contexteffect 例如 學(xué)生 個(gè)體 的學(xué)習(xí)成績(jī)與學(xué)生的勤奮程度有關(guān) 還與學(xué)校的師資配備有關(guān) 企業(yè)的創(chuàng)新能力與企業(yè)自身的創(chuàng)新投入 學(xué)習(xí)能力有關(guān) 還與企業(yè)所屬產(chǎn)業(yè)的R D強(qiáng)度有關(guān) 9 多層線性模型簡(jiǎn)介 2 多層數(shù)據(jù)的傳統(tǒng)分析方法個(gè)體的行為既受個(gè)體自身特征的影響 也受到其所處環(huán)境的影響 所以研究者一直試圖將個(gè)體效應(yīng)與組效應(yīng) 背景效應(yīng)或環(huán)境效應(yīng) 區(qū)分開來 個(gè)體效應(yīng) 由個(gè)體自身特征所造成的變異 組效應(yīng) 由個(gè)體所處環(huán)境所造成的變異 10 多層線性模型簡(jiǎn)介 1 只關(guān)注個(gè)體效應(yīng) 而忽視組效應(yīng)只在個(gè)體這一層數(shù)據(jù)上考慮變量間的關(guān)系 那么導(dǎo)致所觀測(cè)到的效應(yīng)既包含個(gè)體效應(yīng) 又包含組效應(yīng) 從而增大了犯一類錯(cuò)誤的概率 夸大了變量間的關(guān)系 2 在組水平上進(jìn)行分析把數(shù)據(jù)集中起來 使其僅在第二層的組間發(fā)揮作用 從而丟失了重要的個(gè)體信息 11 多層線性模型簡(jiǎn)介 3 組內(nèi)分析組間分析對(duì)相同的數(shù)據(jù)進(jìn)行三次計(jì)算 一是在組內(nèi)的個(gè)體層上進(jìn)行的分析 稱為組內(nèi)效應(yīng)二是通過平均或整合第一層中的個(gè)體數(shù)據(jù) 得到第二層的組間數(shù)據(jù) 稱為組間效應(yīng)三是忽視組的特性而對(duì)所有的數(shù)據(jù)進(jìn)行分析 稱為總效應(yīng) 在此基礎(chǔ)上 計(jì)算組內(nèi)效應(yīng)和組間效應(yīng)在總效應(yīng)的比例 從而確定變異來自于組間還是組內(nèi) 組內(nèi)分析組間分析的方法較前兩種方法更多地考慮到了第一層數(shù)據(jù)及第二層數(shù)據(jù)對(duì)變異產(chǎn)生的影響 但無法對(duì)組內(nèi)效應(yīng)和組間效應(yīng)做出具體的解釋 也就無法解釋為什么在不同的組變量間的關(guān)系存在差異 12 HLM數(shù)學(xué)模型 例如 對(duì)73個(gè)學(xué)校1905名學(xué)生進(jìn)行調(diào)查 目的是考慮其剛上高中時(shí)的入學(xué)成績(jī)與三年后高考成績(jī)之間的關(guān)系 考慮方法 1 如果用傳統(tǒng)的線性回歸分析 直接在學(xué)生水平上進(jìn)行分析 得出入學(xué)學(xué)業(yè)成績(jī)對(duì)高考成績(jī)之間的一條回歸直線 如下圖1所示 從圖1的結(jié)果可以看出 傳統(tǒng)回歸分析沒有區(qū)分不同的學(xué)校之間的差異 13 圖1 不考慮學(xué)校之間差異的回歸直線 14 HLM數(shù)學(xué)模型 2 如果將數(shù)據(jù)進(jìn)行簡(jiǎn)單合并 用每個(gè)學(xué)校學(xué)生的平均成績(jī)代替這個(gè)學(xué)校的成績(jī) 直接在學(xué)校水平上估計(jì)入學(xué)成績(jī)對(duì)高考成績(jī)的影響 得到一條回歸直線 如圖2所示 這種方法忽略了不同學(xué)生 個(gè)體 之間的差異 15 圖2 只考慮學(xué)校差異忽略學(xué)生差異回歸直線 16 HLM數(shù)學(xué)模型 3 如果假設(shè)不同學(xué)校入學(xué)成績(jī)對(duì)高考成績(jī)的回歸直線截距不同 斜率相同 平均學(xué)習(xí)成績(jī)之間存在差異 得到如圖3的結(jié)果 從圖中結(jié)果可以看出 不同學(xué)校學(xué)生平均高考成績(jī)之間存在差異 17 圖3 考慮不同學(xué)校平均成績(jī)差異的回歸直線 18 HLM數(shù)學(xué)模型 4 對(duì)73所學(xué)校分別做回歸分析 得到如圖4的結(jié)果 如圖4所示 從圖中結(jié)果可以看出 不同學(xué)校回歸直線的截距和斜率均不同 即 不同學(xué)校學(xué)生平均高考成績(jī)之間存在差異 入學(xué)學(xué)業(yè)成績(jī)對(duì)高考成績(jī)的影響強(qiáng)度不同 19 圖4 考慮不同學(xué)校平均成績(jī)差異和入學(xué)對(duì)畢業(yè)成績(jī)影響程度差異的回歸直線 20 在許多研究中 取樣往往來自不同層級(jí)和單位 這種數(shù)據(jù)帶來了很多跨級(jí) 多層 的研究問題 解決這些問題的一種新的數(shù)據(jù)分析方法 多層模型分析技術(shù) 這一方法的開創(chuàng)及發(fā)展的主要貢獻(xiàn)者之一是英國(guó)倫敦大學(xué)的HarveyGoldstein教授及研究者把這種方法稱作 多層分析 另一主要開拓者美國(guó)密歇根大學(xué)的StephenW Raudenbush教授和同行把它稱為 分層線性模型結(jié)構(gòu) 在此 我們按照張雷等人的叫法稱其為 多層線性模型 或 多層模型 21 多層線性模型簡(jiǎn)介 3 多層線性模型分析方法回歸的回歸方法Eg 學(xué)生成績(jī) X 學(xué)習(xí)動(dòng)機(jī) Y 班級(jí)教師教學(xué)水平 W 1 求各個(gè)班級(jí)學(xué)生成績(jī)對(duì)學(xué)習(xí)動(dòng)機(jī)的回歸 22 多層線性模型簡(jiǎn)介 2 求教師教學(xué)水平對(duì) 0j和 1j的回歸方程 23 多層線性模型簡(jiǎn)介 4 多層線性模型的優(yōu)點(diǎn) 1 使用收縮估計(jì)的參數(shù)估計(jì)方法 使得估計(jì)結(jié)果更為穩(wěn)定 精確收縮估計(jì) 使用兩個(gè)估計(jì)的加權(quán)綜合作為最后的估計(jì) 其一是來自第一層數(shù)據(jù)的OLS估計(jì) 另一個(gè)是來自第二層數(shù)據(jù)的加權(quán)最小二乘法估計(jì) 最后的估計(jì)是對(duì)以上兩個(gè)估計(jì)的加權(quán) 2 可以處理樣本不等的數(shù)據(jù)eg 當(dāng)某些第二層單位在第一層的取樣甚少時(shí) 可以借助于其他二層單位和二層預(yù)測(cè)變量 對(duì)取樣較少的一層單位進(jìn)行回歸分析 第一層單位3個(gè)及以上 24 多層線性模型簡(jiǎn)介 5 多層線性模型的應(yīng)用范圍 1 組織和管理研究 2 對(duì)個(gè)體進(jìn)行追蹤 多次觀測(cè)的發(fā)展研究 3 教育研究 4 元分析研究 25 多層線性模型基本原理 1 多層線性模型的基本形式水平1 如 學(xué)生 水平2 如 學(xué)校 Yij 第j個(gè)學(xué)校的第i個(gè)學(xué)生 指固定成分 隨機(jī)成分 26 多層線性模型基本原理 為固定成分 指第二層單位間 0j和 1j的平均值為隨機(jī)成分 指第二層單位 0j和 1j的變異 27 多層線性模型基本原理 把第一層和第二層方程整合如下 誤差項(xiàng)間是相關(guān)的 同一第二層單位的個(gè)體有相同的誤差項(xiàng)間方差不等 相同第二層單位內(nèi)的個(gè)體間相似性比不同單位內(nèi)個(gè)體相似性高誤差項(xiàng)與自變量有關(guān) 殘差項(xiàng)包含 殘差項(xiàng) 28 多層線性模型基本原理 因此 多層數(shù)據(jù)并不滿足傳統(tǒng)OLS回歸分析關(guān)于殘差項(xiàng)的諸多假設(shè) 而多層線性模型將殘差項(xiàng)進(jìn)行了分解 更符合實(shí)際情況 所以對(duì)于多層數(shù)據(jù)使用多層線性模型進(jìn)行分析更為合理 29 多層線性模型基本模型 2 多層線性模型的基本模型零模型 TheNullModel 第一層和第二層均沒有預(yù)測(cè)變量 只是將方程分解為由個(gè)體差異造成的部分及由組差異造成的部分 這種方法為方差成分分析 30 多層線性模型 零模型 第一層 第二層 合并模型 31 多層線性模型 零模型 指第j個(gè)二層單位Y的平均值指第j個(gè)二層單位Y的變異指所有二層單位的Y的總體平均數(shù)指第二層方程的殘差 隨機(jī)項(xiàng) 跨級(jí)相關(guān) 指Y的總體變異中有多大比例是由第二層的變異引起的 32 多層線性模型 完整模型 完整模型 TheFullModel 既包含了第一層的預(yù)測(cè)變量 又包含了第二層的預(yù)測(cè)變量 可通過理論建構(gòu)來說明解釋Y的總體變異是怎樣受第一層和第二層因素的影響 第一層 33 多層線性模型 完整模型 第二層 34 多層線性模型 完整模型 在第一層方程中 0代表截距 1代表斜率在第二層方程中 第一個(gè)下標(biāo)代表第一層參數(shù)的類型 第二個(gè)下標(biāo)代表第二層參數(shù)的類型 0j和 1j的預(yù)測(cè)變量可以相同 也可以不同 35 多層線性模型 協(xié)方差模型 在零模型與完整模型之間 可通過向各層方程中增加不同的變量 設(shè)定不同的隨機(jī)成分與固定成分來建構(gòu)各種分析模型 協(xié)方差模型 ANCOVAModel 第一層 第二層 36 多層線性模型 協(xié)方差模型 第一層方程中 預(yù)測(cè)變量采用總體平均數(shù)為參照的離差 與傳統(tǒng)協(xié)方差分析的區(qū)別是 0j被進(jìn)一步分解為和 1j沒有隨機(jī)項(xiàng) 反映了協(xié)方差分析的一個(gè)重要前提 協(xié)變量對(duì)因變量的回歸系數(shù)的組間一致性 檢驗(yàn)這種假設(shè)的方法是把納入到方程中 并檢驗(yàn)是否成立 37 多層線性模型 隨機(jī)效應(yīng)回歸模型 隨機(jī)效應(yīng)回歸模型 RadomEeffectRegressionModel 第一層 第二層 38 多層線性模型 隨機(jī)效應(yīng)回歸模型 此模型與完整模型的區(qū)別在于第二層沒有預(yù)測(cè)變量 與傳統(tǒng)OLS回歸區(qū)別在于第一層的 0j和 1j是隨機(jī)的而非固定的 其目的是尋找第一層的截距 斜率在第二層單位上的變異 39 多層線性模型 發(fā)展模型 發(fā)展模型發(fā)展模型是把多次觀測(cè)結(jié)果作為時(shí)間的某種數(shù)學(xué)函數(shù)來建構(gòu)模型 它多用于發(fā)展研究 縱向研究或者追蹤研究 在這種模型中 第一層數(shù)據(jù)為不同時(shí)間的觀察結(jié)果 第二層數(shù)據(jù)為個(gè)體的特征 40 多層線性模型 發(fā)展模型 第一層 線性發(fā)展模型Time 一般用編碼的形式來反映增量Eg 0 1 2 3 4 5 5 4 3 2 1 0線性發(fā)展模型的第一層方程并不一定為線性方程 也可以為非線性方程 Eg 41 多層線性模型 發(fā)展模型 確定發(fā)展變異 的第二層 時(shí)間變量編碼為0時(shí)Y的總體平均數(shù) 線性發(fā)展斜率的總體平均值 指?jìng)€(gè)體j與平均發(fā)展斜率的離差 指?jìng)€(gè)體j與平均截距的離差 42 多層線性模型 發(fā)展模型 預(yù)測(cè)發(fā)展變異 的第二層 考慮第二層的預(yù)測(cè)變量W后第一層的截距和第一層的斜率在第二層單位間的殘差方差 代表第二層的變量W對(duì)第一層截距的效應(yīng) 43 多層線性模型 三層模型 三層模型是二層模型的直接擴(kuò)展 我們也可以根據(jù)需要選擇零模型與完整模型之間的任何模型 模型1 零模型第一層 第二層 第三層 44 多層線性模型 三層模型 第一個(gè)下標(biāo)表示第一層方程中的參數(shù) 第二個(gè)下標(biāo)表示第二層方程中的參數(shù) 第三個(gè)下標(biāo)表示第三層方程中的參數(shù) 表示第二層單位之間的變異 表示第三層單位之間的變異跨級(jí)相關(guān) 第一層的方差和總方差之比 第二層的方差和總方差之比 第三層的方差和總方差之比 45 多層線性模型 三層模型 模型2 完整模型第一層 第二層 46 多層線性模型 三層模型 第三層 47 HLM應(yīng)用舉例 hsb1 sav和hsb2 sav在水平一的數(shù)據(jù)文件hsb1 sav中 有7185個(gè)觀測(cè)樣本和四個(gè)第一水平的變量 不包含第二水平指標(biāo)變量 學(xué)校編號(hào)ID 這四個(gè)變量所表示的含義如下 minority 學(xué)生的種族 1 少數(shù)民族 0 其他 female 學(xué)生性別 1 女 0 男 ses 學(xué)生的社經(jīng)地位 由學(xué)生父母受教育程度 職業(yè)和收入合成 變量已被標(biāo)準(zhǔn)化mathach 學(xué)生的數(shù)學(xué)學(xué)業(yè)成績(jī) 48 HLM應(yīng)用舉例 數(shù)據(jù)文件hsb2 sav中包含有160個(gè)學(xué)校 每個(gè)學(xué)校測(cè)量了六個(gè)學(xué)校水平的變量 不包含學(xué)校指標(biāo)變量ID size 學(xué)校招生人數(shù) sector 學(xué)校類型 1 天主教教會(huì)學(xué)校 0 公立學(xué)校 pracad 從事學(xué)術(shù)研究的學(xué)生的比例 disclim 學(xué)校紀(jì)律環(huán)境 由量表測(cè)量得到 himnty 學(xué)校招生少數(shù)民族學(xué)生比例描述 1 超過40 少數(shù)民族學(xué)生 0 其他 meanses 包含在水平1數(shù)據(jù)中 每個(gè)學(xué)校學(xué)生的平均社經(jīng)地位 49 層1數(shù)據(jù) 50 層2數(shù)據(jù) 51 HLM應(yīng)用舉例 目的 分析影響學(xué)生數(shù)學(xué)成績(jī)的學(xué)生水平變量和學(xué)校水平變量 52 53 54 55 56 57 指定層1變量 58 指定層2變量 59 保存MDM模板生成MDM文件查看MDM的統(tǒng)計(jì)量 60 MDM的描述統(tǒng)計(jì)量 61 62 選擇層1的結(jié)果變量 63 無條件模型 64 無條件模型參數(shù)估計(jì)結(jié)果 Finalestimationofvariancecomponents RandomEffectStandardVariancedfChi squareP valueDeviationComponent INTRCPT1 2 935018 614311591660 232590 000level 1 R6 2568639 14831 65 填加層1解釋變量 66 含有第一水平預(yù)測(cè)變量的HLM模型 隨機(jī)系數(shù)模型 67 隨機(jī)系數(shù)模型參數(shù)估計(jì)結(jié)果 Finalestimationoffixedeffects withrobuststandarderrors StandardApprox FixedEffectCoefficientErrorT ratiod f P value ForINTRCPT1 B0INTRCPT2 G0012 6649350 18925166 9211590 000ForSESslope B1INTRCPT2 G102 3938780 11769720 3391590 000 68 Finalestimationofvariancecomponents RandomEffectStandardVariancedfChi squareP valueDeviationComponent INTRCPT1 U02 197684 82978159905 264720 000SESslope U10 646750 41828159216 211780 002level 1 R6 0686436 82835 69 含有第二水平預(yù)測(cè)變量的模型 70 TheoutcomevariableisMATHACHFinalestimationoffixedeffects withrobuststandarderrors StandardApprox FixedEffectCoefficientErrorT ratiod f P value ForINTRCPT1 B0INTRCPT2 G0012 6584100 17326373 0591580 000DISCLIM G01 1 1285190 160735 7 0211580 000ForSESslope B1INTRCPT2 G102 4092880 11219421 4741580 000DISCLIM G110 5706150 1239064 6051580 000 71 Finalestimationofvariancecomponents RandomEffectStandardVariancedfChi squareP valueDeviationComponent INTRCPT1 U01 934673 74295158730 839400 000SESslope U10 454910 20694158189 395720 045level 1 R6 0650136 78432 72 Inthelevel 2model boththeinterceptandSESslopearetobemodeledasdependentontheschool smeansocialclass MEANSES andschoolsector SECTOR 73 填加層2的解釋變量 74 75 混合模型 76 Usinglevelsubscripts 77 指定層1系數(shù)為隨機(jī)的或非隨機(jī)的 78 結(jié)果分析 79 個(gè)體水平模型 Yij 0j 1jX1ij 2jX2ij KjXKij rij 第j組第i個(gè)個(gè)體因變量的觀測(cè)值 第j個(gè)組的截距 第j組X1對(duì)應(yīng)的斜率 第j組X2對(duì)應(yīng)的斜率 第j組XK對(duì)應(yīng)的斜率 80 背景 Contextual 模型 Yij 0j 1jX1ij 2jX2ij KjXKij rij 0j 00 1j 10 2j 20 Kj K0 在傳統(tǒng)回歸 OLS 模型中 截距和斜率都是固定的 即對(duì)不同的第二水平單元均相同 81 背景 Contextual 影響問題 第二水平不同單元 如不同學(xué)校 截距是否相同 能否用第二水平的協(xié)變量預(yù)測(cè)截距之間的差異 斜率是否存在第二水平的變異 能否用第二水平的預(yù)測(cè)變量解釋斜率之間的差異 82 截距是否存在第二水平的變異 Yij 0