多水平統(tǒng)計(jì)模型簡(jiǎn)介

1、多水平統(tǒng)計(jì)模型簡(jiǎn)介A Brief Introduction toMultilevel Statistical Models概述層次結(jié)構(gòu)數(shù)據(jù)的普遍性經(jīng)典方法及其局限性根本多水平模型多水平模型的應(yīng)用概 述 80 年代中后期，英、美等國(guó)教育統(tǒng)計(jì)學(xué)家開始探討分析層次結(jié)構(gòu)數(shù)據(jù)(hierarchically structured data)的統(tǒng)計(jì)方法，并相繼提出不同的模型理論和算法。 多水平模型(multilevel models)最先應(yīng)用于教育學(xué)領(lǐng)域，后用于心理學(xué)、社會(huì)學(xué)、經(jīng)濟(jì)學(xué)、組織行為與管理科學(xué)等領(lǐng)域，逐步應(yīng)用到醫(yī)學(xué)及公共衛(wèi)生等領(lǐng)域。Harvey Goldstein, UK, University

2、of London, Institute of Education?Multilevel Models in Educational and Social Research?1987Anthony Bryk, University of ChicagoStephen Raudenbush, Michigan State University , Department of Educational Psychology?Hierarchical Linear Models： Applications and Data Analysis Methods?1992Nicholas Longford,

3、 Princeton University, Education Testing Service?Random Coefficient Models?1993 多水平主成分分析多水平因子分析多水平判別分析多水平logistic回歸多水平Cox模型多水平Poisson回歸多水平時(shí)間序列分析多元多水平模型多水平結(jié)構(gòu)方程模型 ML3 (1994) / MLN (1996) / MLwiN (1999) HLM (Hierarchical Linear Model) SAS (Mixed) SPSS STATA 兩水平層次結(jié)構(gòu)數(shù)據(jù)水平2 水平1 層次結(jié)構(gòu)數(shù)據(jù)的普遍性“水平 (level) ：指數(shù)據(jù)層次

4、結(jié)構(gòu)中的某一層次。例如，子女為低水平即水平 1 ，家庭為高水平即水平 2 。“單位 (unit) ：指數(shù)據(jù)層次結(jié)構(gòu)中某水平上的一個(gè)實(shí)體。例如，每個(gè)子女是一個(gè)水平 1 單位，每個(gè)家庭是一個(gè)水平 2 單位。 臨床試驗(yàn)和動(dòng)物實(shí)驗(yàn)的重復(fù)測(cè)量 多中心臨床試驗(yàn)研究 縱向觀測(cè)如兒童生長(zhǎng)發(fā)育研究 流行病學(xué)現(xiàn)場(chǎng)調(diào)查如整群抽樣調(diào)查 遺傳學(xué)家系調(diào)查資料 meta 分析資料 層次結(jié)構(gòu)數(shù)據(jù)為一種非獨(dú)立數(shù)據(jù)，即某觀察值在觀察單位間或同一觀察單位的各次觀察間不獨(dú)立或不完全獨(dú)立，其大小常用組內(nèi)相關(guān)(intra-class correlation，ICC)度量。 例如，來(lái)自同一家庭的子女，其生理和心理特征較從一般總體中隨機(jī)抽取

5、的個(gè)體趨向于更為相似，即子女特征在家庭中具有相似性或聚集性(clustering)，數(shù)據(jù)是非獨(dú)立的(non independent)。 非獨(dú)立數(shù)據(jù)不滿足經(jīng)典方法的獨(dú)立性條件，采用經(jīng)典方法可能失去參數(shù)估計(jì)的有效性并導(dǎo)致不合理的推斷結(jié)論。 但非獨(dú)立數(shù)據(jù)的組內(nèi)相關(guān)結(jié)構(gòu)各異，理論上，不同的結(jié)構(gòu)應(yīng)采用相應(yīng)的統(tǒng)計(jì)方法。如縱向觀測(cè)數(shù)據(jù)常用廣義估計(jì)方程(GEE)，但有兩個(gè)局限性：一是對(duì)誤差方差的分解僅局限于2水平的情形，二是沒有考慮解釋變量對(duì)誤差方差的影響。當(dāng)應(yīng)變量的協(xié)差陣為分塊對(duì)角陣時(shí)，一般采用多水平模型。經(jīng)典方法框架下的分析策略 經(jīng)典的線性模型只對(duì)某一層數(shù)據(jù)的問(wèn)題進(jìn)行分析，而不能將涉及兩層或多層數(shù)據(jù)的問(wèn)題

6、進(jìn)行綜合分析。 但有時(shí)某個(gè)現(xiàn)象既受到水平1變量的影響，又受到水平2變量的影響，還受到兩個(gè)水平變量的交互影響(cross-level interaction)。 個(gè)體的某事件既受到其自身特征的影響，也受到其生活環(huán)境的影響，即既有個(gè)體效應(yīng)，也有環(huán)境或背景效應(yīng)(context effect)。 例如，個(gè)體發(fā)生某種牙病的危險(xiǎn)可能與個(gè)體的遺傳傾向、個(gè)體所屬的社會(huì)階層(如飲食文化和口腔衛(wèi)生習(xí)慣)、環(huán)境因素(如飲水中氟濃度)等有關(guān)。分解(disaggregation)聚合(aggregation) 分解：不滿足模型獨(dú)立性假定，回歸系數(shù)及其標(biāo)準(zhǔn)誤的估計(jì)無(wú)效，且未能有效區(qū)分個(gè)體效應(yīng)與背景效應(yīng)。另一種分析策略是用

7、啞變量擬合高水平單位的固定效應(yīng)。 聚合：損失大量水平1單位的信息，更嚴(yán)重的是可能導(dǎo)致“生態(tài)學(xué)謬誤(ecological fallacy)。 多水平分析的概念為人們提供了這樣一個(gè)框架，即可將個(gè)體的結(jié)局聯(lián)系到個(gè)體特征以及個(gè)體所在環(huán)境或背景特征進(jìn)行分析，從而實(shí)現(xiàn)研究的事物與其所在背景的統(tǒng)一。經(jīng)典模型的根本假定是單一水平和單一的隨機(jī)誤差項(xiàng)，并假定隨機(jī)誤差項(xiàng)獨(dú)立、服從方差為常量的正態(tài)分布，代表不能用模型解釋的殘留的隨機(jī)成份。 根本的多水平模型 當(dāng)數(shù)據(jù)存在層次結(jié)構(gòu)時(shí)，隨機(jī)誤差項(xiàng)那么不滿足獨(dú)立常方差的假定。模型的誤差項(xiàng)不僅包含了模型不能解釋的應(yīng)變量的殘差成份，也包含了高水平單位自身對(duì)應(yīng)變量的效應(yīng)成份。 多水

8、平模型將單一的隨機(jī)誤差項(xiàng)分解到與數(shù)據(jù)層次結(jié)構(gòu)相應(yīng)的各水平上，具有多個(gè)隨機(jī)誤差項(xiàng)并估計(jì)相應(yīng)的殘差方差及協(xié)方差。構(gòu)建與數(shù)據(jù)層次結(jié)構(gòu)相適應(yīng)的復(fù)雜誤差結(jié)構(gòu)，這是多水平模型區(qū)別于經(jīng)典模型的根本特征。 多水平模型由固定與隨機(jī)兩局部構(gòu)成，與一般的混合效應(yīng)模型的不同之處在于，其隨機(jī)局部可以包含解釋變量，故又稱為隨機(jī)系數(shù)模型(random coefficient model)，其組內(nèi)相關(guān)也可為解釋變量的函數(shù)。換言之，多水平模型可對(duì)不同水平上的誤差方差進(jìn)行深入和精細(xì)的分析。1. 方差成份模型 (Variance Component Model) 假定一個(gè)兩水平的層次結(jié)構(gòu)數(shù)據(jù)，醫(yī)院為水平 2 單位，患者為水平 1

9、單位，醫(yī)院為相應(yīng)總體的隨機(jī)樣本，模型中僅有一個(gè)解釋變量 x 。 和 分別為第 j 個(gè)醫(yī)院中第 i 個(gè)患者應(yīng)變量觀測(cè)值和解釋變量觀測(cè)值， 和 為參數(shù)估計(jì), 為通常的隨機(jī)誤差項(xiàng)。示水平 2 單位示水平 1 單位與經(jīng)典模型的區(qū)別在于 。經(jīng)典模型中的估計(jì)為 ，僅一個(gè)估計(jì)值，表示固定的截距，而在方差成份模型中 表示 j 個(gè)截距值，即當(dāng) x 取 0 時(shí)，第 j 個(gè)醫(yī)院在基線水平時(shí) y 的平均估計(jì)值。為平均截距，反映 與 的平均關(guān)系，即當(dāng) x 取 0 時(shí)，所有 y 的總平均估計(jì)值。 為隨機(jī)變量，表示第 j 個(gè)醫(yī)院 y 之平均估計(jì)值與總均數(shù)的離差值，反映了第 j 個(gè)醫(yī)院對(duì) y 的隨機(jī)效應(yīng)。 表示協(xié)變量 x 的

10、固定效應(yīng)估計(jì)值。即 y 與協(xié)變量 x 的關(guān)系在各醫(yī)院間是相同的，換言之，醫(yī)院間 y 的變異與協(xié)變量 x 的變化無(wú)關(guān)。 方差成份模型擬合 j 條平行的回歸線，截距不同( )，斜率相同( )。 對(duì)醫(yī)院水平殘差的假定對(duì)患者水平殘差的假定與傳統(tǒng)模型一致 水平 1 上的殘差與水平 2 上的殘差相互獨(dú)立， 反響變量可表達(dá)為固定局部 與隨機(jī)局部 之和。模型具有兩個(gè)殘差項(xiàng)，這是多水平模型區(qū)別于經(jīng)典模型的關(guān)鍵局部。 即水平2殘差，隨機(jī)效應(yīng)、又稱潛變量(latent variable)此模型需估計(jì)4個(gè)參數(shù)，除兩個(gè)固定系數(shù) 和 ，還需估計(jì)兩個(gè)隨機(jī)參數(shù) 和 。其中 即為醫(yī)院水平的方差成份， 為患者水平的方差成份。組內(nèi)

11、相關(guān)的度量方差成份模型中，應(yīng)變量方差為 此即水平 2 和水平 1 方差之和。 同一醫(yī)院中兩個(gè)患者(用i1，i2 表示)間的協(xié)方差為：組內(nèi)相關(guān)(intra-class correlation, ICC) 測(cè)量了醫(yī)院間方差占總方差的比例，實(shí)際上它反映了醫(yī)院內(nèi)個(gè)體間相關(guān)，即水平 1 單位(患者)在水平 2 單位(醫(yī)院)中的聚集性或相似性。 由于模型不止一個(gè)殘差項(xiàng)，就產(chǎn)生了非零的組內(nèi)相關(guān)。假設(shè) 為 0，說(shuō)明數(shù)據(jù)不具層次結(jié)構(gòu)，可忽略醫(yī)院的存在，即簡(jiǎn)化為傳統(tǒng)的單水平模型；反之，假設(shè)存在非零的 ，那么不能忽略醫(yī)院的存在。 水平 2 單位中的水平 1 單位間存在相關(guān)，通常的“普通最小二乘法(Ordinary

12、Least Squares OLS)進(jìn)行參數(shù)估計(jì)是不適宜的。 進(jìn)一步，如數(shù)據(jù)具有三個(gè)水平的層次結(jié)構(gòu)，如醫(yī)院、醫(yī)生和患者三個(gè)水平，那么將有兩個(gè)這樣的相關(guān)系數(shù)，即醫(yī)院內(nèi)相關(guān)和醫(yī)生內(nèi)相關(guān)。隨機(jī)系數(shù)模型是指協(xié)變量的系數(shù)估計(jì)不是固定的而是隨機(jī)的，即協(xié)變量對(duì)反響變量的效應(yīng)在不同的水平 2 單位間是不同的。仍以醫(yī)院與患者兩水平數(shù)據(jù)結(jié)構(gòu)說(shuō)明隨機(jī)系數(shù)模型根本結(jié)構(gòu)與假設(shè)。隨機(jī)系數(shù)模型(Random Coefficient Model)與方差成份模型的區(qū)別在于 。 方差成份模型中協(xié)變量 的系數(shù)估計(jì)為固定的 ，示協(xié)變量 對(duì)反響變量的效應(yīng)是固定不變的。在隨機(jī)系數(shù)模型中協(xié)變量 的系數(shù)估計(jì)為 ，示每個(gè)醫(yī)院都有其自身的斜率估

13、計(jì)，說(shuō)明協(xié)變量 對(duì)反響變量的效應(yīng)在各個(gè)醫(yī)院間是不同的。 的假定及其含義與方差成份模型一致?，F(xiàn) 為隨機(jī)變量，假定： 表示第 j 個(gè)醫(yī)院的 y 隨 x 變化的斜率； 表示全部醫(yī)院的 y 隨 x 變化的斜率的平均值(平均斜率)。 是指各醫(yī)院的 y 隨 x 變化的斜率 的方差。 示第 j 個(gè)醫(yī)院的斜率與平均斜率的離差值， 指上述截距離差值與斜率離差值的協(xié)方差，反映了它們之間的相關(guān)關(guān)系。 即表達(dá)為固定局部與隨機(jī)局部之和。其中，固定效應(yīng)用均數(shù)描述，它決定了全部醫(yī)院的平均回歸線，這條直線的截距即平均截距 ，直線的斜率即平均斜率 。 為隨機(jī)系數(shù)。將模型改記為： 隨機(jī)效應(yīng)用方差描述，它反映了各醫(yī)院之間 y 的變

14、異與協(xié)變量 x 的關(guān)系。模型隨機(jī)局部具多個(gè)殘差項(xiàng)，需估計(jì)4個(gè)隨機(jī)參數(shù)，即方差 、 和 以及協(xié)方差 。模型的反響變量方差為： 說(shuō)明各醫(yī)院間 y 的變異與協(xié)變量 x 有關(guān)，即每條回歸線不僅截距不同，且斜率也不同。當(dāng) x 取 0 時(shí)每個(gè)醫(yī)院 y 的平均估計(jì)值 不同，且每個(gè)醫(yī)院 y 隨 x 變化的斜率 不同。組內(nèi)相關(guān)與解釋變量有關(guān) 值得指出，模型隨機(jī)局部的解釋變量常為其固定局部的一個(gè)子集，但亦可以不是。換言之，可以在模型的固定局部或隨機(jī)局部納入任何水平上測(cè)量的解釋變量。 反響變量向量的協(xié)方差結(jié)構(gòu) 從最根本的兩水平數(shù)據(jù)結(jié)構(gòu)來(lái)考察反響變量向量的協(xié)方差結(jié)構(gòu)，即只包括隨機(jī)參數(shù) 和 。對(duì)應(yīng)于方差成份模型，反響變

15、量方差為水平 1 和水平 2 方差之和： 同一個(gè)醫(yī)院所診療的兩個(gè)患者(用 ， 表示)間的協(xié)方差為：因此，同一醫(yī)院所診療的三名患者的協(xié)差陣為 對(duì)兩個(gè)醫(yī)院而言，假設(shè)一個(gè)醫(yī)院診療了三名患者，另一個(gè)醫(yī)院診療了兩個(gè)患者，那么具有 2 個(gè)水平 2 單位的反響變量向量 Y 總的協(xié)差陣可表達(dá)為： 矩陣的這種分塊對(duì)角結(jié)構(gòu)表達(dá)了不同醫(yī)院所診療的患者間的協(xié)方差為 0 ，它可進(jìn)一步擴(kuò)展到任意多的醫(yī)院數(shù)。將上述矩陣表達(dá)為另一種更簡(jiǎn)略的形式： 為 維的 1 矩陣， 為 維的單位陣， 的下標(biāo) 2 說(shuō)明為兩水平模型， 的維數(shù)即水平2單位數(shù)，主對(duì)角線塊的維數(shù)即水平1單位數(shù)，它們均為方陣。在傳統(tǒng) OLS 估計(jì)中， 為 0 ，那么

16、該協(xié)差陣退化為標(biāo)準(zhǔn)形式的 ， 即殘差方差。考察包括隨機(jī)系數(shù)的一般形式的兩水平模型或簡(jiǎn)記為 對(duì)于具有隨機(jī)截距與斜率的兩水平模型，其反響變量協(xié)差陣具有以下典型的分塊結(jié)構(gòu)： 矩陣 為水平 2 的隨機(jī)截距與斜率的協(xié)差陣，即隨機(jī)系數(shù)協(xié)差陣，矩陣 為水平 1 的隨機(jī)系數(shù)協(xié)差陣。 這里，水平 1 只有一個(gè)單一的方差項(xiàng)，可進(jìn)一步采用 表示這些協(xié)差陣集。 將上述矩陣展開得到： 這是具有分塊結(jié)構(gòu)的一個(gè)具有 2 個(gè)水平 1 單位的水平 2 單位的反響變量協(xié)差陣。此即構(gòu)造反響變量協(xié)差陣的一般模式，它同時(shí)也概括了擬合水平 1 復(fù)雜變異的可能性。固定與隨機(jī)參數(shù)估計(jì) 固定和隨機(jī)參數(shù)的估計(jì)方法一般采用“迭代廣義最小二乘算法(

17、Iterative Generalized Least Squares，IGLS) (Goldstein，1986)或“限制性迭代廣義最小二乘法(Restricted Iterative Generalized Least Squares，RIGLS) (Goldstein，1989)。現(xiàn)以最根本的兩水平方差成份模型來(lái)說(shuō)明固定與隨機(jī)參數(shù)估計(jì)的根本思想和步驟。 假定方差 的值，那么可直接構(gòu)造分塊對(duì)角陣 ，簡(jiǎn)記為 。直接采用通常的廣義最小二乘法(Generalized Least Squares GLS)可獲得固定系數(shù)的估計(jì)： 在初始階段，假定 為 0 ，即假定數(shù)據(jù)不具有系統(tǒng)結(jié)構(gòu)，那么給出固定系數(shù)

18、通常的 OLS 估計(jì) ，得到粗殘差： 將粗殘差向量記為：將粗殘差向量形成交叉乘積矩陣 ，然后再形成交叉乘積矩陣 的向量化算子，記為 。相應(yīng)的，也可以形成反響變量協(xié)方差陣 向量化算子，記為 。對(duì)應(yīng)于 2 個(gè)醫(yī)院，一個(gè)診療 3 名患者，另一個(gè)診療 2 名患者，那么 和 均具有 32+22=13 個(gè)元素。因?yàn)?的期望為 可將這些向量間關(guān)系表達(dá)為以下線性模型=+R=+R這里， 為一個(gè)殘差向量。將粗殘差作為模型的反響變量向量，模型右邊包含兩個(gè)的解釋變量，其系數(shù)即待估計(jì)的隨機(jī)參數(shù) 和 。通過(guò) GLS 方法獲得 和 的估計(jì)，回到初始模型那么獲得固定系數(shù)新的估計(jì)，在隨機(jī)與固定參數(shù)估計(jì)間反復(fù)迭代直至收斂，此即

19、IGLS 算法的根底。1. 重復(fù)測(cè)量數(shù)據(jù)的多水平模型當(dāng)同一研究對(duì)象被重復(fù)測(cè)量屢次時(shí)，測(cè)量點(diǎn)即為水平 1 單位，測(cè)量點(diǎn)又嵌套(nested)進(jìn)作為水平 2 單位的個(gè)體，這種數(shù)據(jù)結(jié)構(gòu)具有典型的層次結(jié)構(gòu)特征。 多水平模型的應(yīng)用在臨床試驗(yàn)和動(dòng)物實(shí)驗(yàn)中，常需對(duì)患者或動(dòng)物的某些指標(biāo)進(jìn)行重復(fù)測(cè)量，以了解不同時(shí)間觀測(cè)指標(biāo)的變化以及處理因素與觀測(cè)指標(biāo)的關(guān)系隨時(shí)間的變化；在生長(zhǎng)發(fā)育研究中，也需對(duì)個(gè)體生長(zhǎng)或發(fā)育指標(biāo)作多時(shí)點(diǎn)的重復(fù)測(cè)量。常規(guī)使用的重復(fù)測(cè)量數(shù)據(jù)統(tǒng)計(jì)方法，一般要求資料是平衡的，即每一個(gè)體有相同次數(shù)的重復(fù)測(cè)量值，這對(duì)于實(shí)驗(yàn)研究是可行的，但在生長(zhǎng)發(fā)育研究中，測(cè)量常常是不規(guī)那么的，這就出現(xiàn)了個(gè)體測(cè)量時(shí)點(diǎn)多少不一

20、、時(shí)間間隔不等以及觀測(cè)值缺失等問(wèn)題，它增加了傳統(tǒng)統(tǒng)計(jì)方法擬合個(gè)體生長(zhǎng)曲線的難度，并引起估計(jì)結(jié)果不同程度的偏差。 多水平模型技術(shù)可有效和方便地處理此類測(cè)量模式的數(shù)據(jù)，提供統(tǒng)計(jì)上有效的參數(shù)估計(jì)，并具有如下幾個(gè)特點(diǎn)：(1) 考慮了分布于不同層次的測(cè)量誤差，并給出相應(yīng)的誤差估計(jì)值；(2) 擬合個(gè)體生長(zhǎng)曲線時(shí)不要求相等的時(shí)間間隔，在擬合個(gè)體生長(zhǎng)曲線的同時(shí)也估計(jì)全部樣本的平均曲線；(3) 不要求每個(gè)個(gè)體都有同樣多的測(cè)量點(diǎn)，即缺失測(cè)量點(diǎn)并不增加擬合生長(zhǎng)曲線的難度；(4) 便于在生長(zhǎng)曲線中引入其它解釋變量，如性別、營(yíng)養(yǎng)狀況等，分析其對(duì)生長(zhǎng)過(guò)程的影響。2. Meta分析是指對(duì)具有相同研究假設(shè)的多項(xiàng)獨(dú)立研究結(jié)果所

21、進(jìn)行的合并分析，在合并不同來(lái)源的研究資料時(shí)可能引入異雜方差(heterogeneous variance)，因此，其數(shù)據(jù)可看成具有兩個(gè)水平的層次結(jié)構(gòu)，即研究水平與個(gè)體水平。Meta分析的主要目的是為了得到比單一研究更精確的結(jié)果估計(jì)，進(jìn)一步的目的那么是分析影響研究結(jié)果間差異的因素。目前，Meta分析主要根據(jù)“效應(yīng)尺度的同質(zhì)性檢驗(yàn)結(jié)果，而決定采用固定效應(yīng)模型或隨機(jī)效應(yīng)模型來(lái)合并每項(xiàng)研究的“效應(yīng)尺度。采用多水平模型可較為方便地分析影響研究結(jié)果間差異的因素如研究水平上的有關(guān)協(xié)變量包括樣本含量、設(shè)計(jì)類型等。 3. 離散數(shù)據(jù)的多水平模型 在流行病學(xué)現(xiàn)場(chǎng)調(diào)查研究中，常對(duì)發(fā)病率、患病率或死亡率以及它們?cè)诘貐^(qū)之間的變異感興趣。這里的兩水平結(jié)構(gòu)是，個(gè)體為水平 1，地區(qū)為水平 2。此類研究常常擁有假設(shè)干地區(qū)某時(shí)期的死亡記錄和死者個(gè)人特征以及地區(qū)特征如人口構(gòu)成或社會(huì)經(jīng)濟(jì)特征等。研究者可以分析這些解釋變量是否能夠解釋死亡率在地區(qū)之間的變異，也可以分析死亡率的差異(比方男性和女性之間)是否在地區(qū)之間不同等。4. 多變量多水平模型：在醫(yī)學(xué)研究中，研究者常對(duì)個(gè)體作幾種測(cè)量(即測(cè)量幾個(gè)指標(biāo))，如收縮壓、舒張壓和心率，如果將它們作為反響變量一起進(jìn)行分析，就可以設(shè)置