調(diào)查問卷的信度與效度

1、調(diào)查技術是國際上通行的科學研究的 主要方法之一； 在我國采用調(diào)查技術進行科學研究， 都是十分普遍的現(xiàn)象； ，調(diào)查設計的資料相對容易得到， 樣本量相對較大，從中可 以得到非?？茖W、有意的 結論,效度,信度,whats reliability,whats validity,調(diào)查問卷的效度、信度,2008年5月24日,Research Center of Epidemiology and Health Statistics, Capital University of Medical Science 郭秀花 教授,題 目,一、 Questionnaire Validity 二、 Example of

2、 Validity 三、 Questionnaire Reliability 四、 Example of Reliability 五、 The correlation between Reliability and Validity,Main Content,Preparative Knowledge,1.誤差公理,誤差(error)是指對事物某一特征的度量值偏離真實值的部分，即測定值與真實值之差，樣本統(tǒng)計量與總體參數(shù)之差。 沒有一項研究推論能夠達到百分之百的真實。 No study is free of errors, the inferences are never perfectly v

3、alid. 誤差公理：實驗結果都會有誤差，誤差自始至終存在于一切科學實驗的過程之中,2.誤差的種類(types of error,1）隨機誤差（random error） 隨機誤差是由不確定原因引起的，不可避免和消除。 其偏離總體的方向不能確定。包括隨機測量誤差和抽樣誤差,隨機測量誤差（random measurement error） ：沒有固定的傾向，可使多次觀測結果有大有小。 抽樣誤差（sample error） ：由于抽樣造成的樣本指標與總體指標之間的差別,2）系統(tǒng)誤差（systematic error,是由于偏倚（使研究結果按照一個方向偏離總體， bias）產(chǎn)生的錯誤結果，可校正和消

4、除,3) 過失誤差（gross error)是由于科研設計錯誤，或實驗者的主觀片面、粗心大意引起的誤差。必須避免和剔除,問卷測驗中測量誤差通常來源于兩個方面： 一是產(chǎn)生于問卷測驗過程中的誤差，稱為測量誤差（measurement Error），也稱為隨機誤差（random error）； 二是由問卷的結構質(zhì)量造成的誤差，稱為系統(tǒng)誤差（system Error）。 measurement Error reliability system Error validity,一、調(diào)查問卷的效度,The validity of a questionnaire,The validity of measure

5、s,The question of validity is how far can we be sure that a measure really does reflect the concept to which it is supposed to be referring,效度（validity）通常是指問卷的有效性和正確性，亦即問卷能夠測量出其所欲測量特性的程度。 對于一個標準測驗來說，效度比信度更為重要,1.效度分析的意義,效度是問卷調(diào)查研究中最重要的特征，問卷調(diào)查的目的就是要獲得高效度的測量與結論，效度越高表示該問卷測驗的結果所能代表要測驗的行為的真實度越高，越能夠達到問卷測驗目的

6、，該問卷才正確而有效。 問卷的準確性或稱為有效性是用問卷的效度加以刻劃的，它反映了對問卷的系統(tǒng)誤差的控制程度,2、效度的定義,效度是指問卷測驗的準確性，即測驗能夠反映所要測量特性的程度. 其包括兩個方面的含義：一是問卷測驗的目的；二是問卷對測量目標的測量精確度和真實性。效度是一個具有相對性、連續(xù)性、間接性的概念,在測量理論中，效度被定義為在一系列測量中，與測量目的有關的真變異數(shù) ( 即有效變異 ) 與總變異數(shù)之比,r2xy 表示測量的效度系數(shù)，Sv2 代表有效變異數(shù)，Sx2 代表總變異數(shù),3.常用的效度指標,確定一個問卷效度的方法，通常是以答卷者的問卷得分和另一個效度標準求相關，以其相關系數(shù)的

7、大小來表示效度。如果相關系數(shù)高，則該問卷的效度就高。 一般常用的效度指標有內(nèi)容效度、結構效度,1)內(nèi)容效度 (content validity,內(nèi)容效度是指問卷內(nèi)容的貼切性（relevance）和代表性（representativeness）,即問卷內(nèi)容能否反應所要測量的特質(zhì)，能否達到測驗目的，較好地代表所欲測量的內(nèi)容和引起預期反應的程度。內(nèi)容效度常以題目分布的合理性來判斷，屬于命題的邏輯分析，所以，內(nèi)容效度也稱為“邏輯效度” (logical validity)、“內(nèi)在效度（intrinsic Validity）”、“循環(huán)效度（circular validity,內(nèi)容效度的評價主要通過經(jīng)驗判

8、斷進行，通常考慮3方面的問題： 其一是項目所測量的是否真屬于應測量的領域； 其二是測驗所包含的項目是否覆蓋了應測領域的各個方面； 其三是測驗題目的構成比例是否恰當,常用的內(nèi)容效度的評價方法有兩種： 一是專家法，即請有關專家對問卷題目與原來的內(nèi)容范圍是否符合進行分析,作出判斷，看問卷題目是否較好地代表了原來的內(nèi)容。 二是統(tǒng)計分析法，即從同一內(nèi)容總體中抽取兩套問卷，分別對同一組答卷者進行測驗, 兩種問卷的相關系數(shù)就可用來估計問卷的內(nèi)容效度。 計算某個問題與去掉此問題后總得分的相關性情況，分析是否需要被剔除（敏感性分析,2)結構效度(ConstructValidity,結構效度又稱構想效度，是指問卷

9、對某一理論概念或特質(zhì)測量的程度，即某問卷測驗的實際得分能解釋某一特質(zhì)的程度。如果我們根據(jù)理論的假設結構，通過問卷測驗得到答卷者實際分數(shù)，經(jīng)統(tǒng)計檢驗，結果表明問卷能有效解釋答卷者該項特質(zhì)，則說此問卷具有良好的結構效度,常用的確定結構效度的方法有,1)根據(jù)文獻、前人研究結果、實際經(jīng)驗等建 立假設性理論建構； (2)對問卷題目進行分析。主要是分析問卷的 內(nèi)容，答卷者對題目所作的反應，問卷題 目的同質(zhì)性以及分項目之間的關系來判斷 問卷的結構效度； (3)根據(jù)建構的假設性理論編制適當?shù)膯柧恚?(4)計算與同類權威問卷的相關; (5)以統(tǒng)計檢驗的實證方法去考查問卷是否能 有效解釋所欲建構的特質(zhì),3效標效度

10、（Criterion Validity,效標效度也稱為準則關聯(lián)效度（Criterion-Related Validity）、經(jīng)驗效度（Empirical Validity）、統(tǒng)計效度（Statistical Validity）。效標效度是說明問卷得分與某種外部準則（效標）間的關聯(lián)程度，用問卷測量得分與效度準則之間的相關系數(shù)表示,一般估計效標效度的主要方法有,1）相關法，即求某問卷分數(shù)與效標間的相關，所得結果即效標效度。 （2）區(qū)分法，即看問卷分數(shù)是否可以區(qū)分由效標所劃分的團體。 可以運用t檢驗對先后兩次問卷結果平均分數(shù)進行差異性檢驗。若差異有統(tǒng)計學意義，說明問卷是有效的；若差異無統(tǒng)計學意義，說

11、明問卷是無效的,4)判別效度（Discriminant Validity,判別效標也稱為辨別效標，是指運用相同的問卷測定不同特質(zhì)和內(nèi)涵，測量結果之間不應有太大的相關性,5)聚合效度（Convergent Validity,聚合效度也稱為收斂效度，是指運用不同測量方法測定同一特質(zhì)所得結果的相似程度，即對同一特質(zhì)的兩種或多種測定方法間應有較高的相關性,6.效度的評價,Spitzer認為如果滿足以下5個條件就可以認為問卷由效：. （1）問卷有內(nèi)容效度和結構效度； （2）在問卷制定階段應當請有關人員提出意見，供修正和提高內(nèi)容效度； （3）問卷經(jīng)過反復使用證明了其可靠性；（4）如果有金標準存在，應以金標

12、準為準；（5）無金標準時可由判別效度代替,7.提高問卷效度的方法,1）理論正確，解釋清楚。問卷內(nèi)容要適合問卷測驗的目的，題目要清楚明了，易于理解，問卷的排列要由易到難，題目的難度和區(qū)分度要合適； （2）操作規(guī)范以減少誤差； （3）控制系統(tǒng)誤差。它主要包括儀器不準，題目和指導語有暗示性，答案安排不當(被試可以猜測)等, 控制這些因素可以降低系統(tǒng)誤差, 提高效度,4）樣本適宜且要預防流失。重視問卷調(diào)查的回收率。樣本容量一般不應低于30； （5）適當增加問卷的長度。增加問卷的長度既可提高問卷的信度，也可以提高問卷的效度，但增加問卷的長度對信度的影響大于對效度的影響； （6）排除無關因素干擾。認清并排

13、除足以混淆或威脅結論的無關干擾變量,二、效度分析實例(example,例2 對例1中的問卷測驗結果進行效度分析,1問卷的敏感性（可靠性）分析,1）操作過程 從菜單選擇Analyze Scale Reliability Analysis Item（輸入問卷的各條目或各因子包含的條目） 單擊“Statistics”按鈕，彈出信度分析統(tǒng)計量對話框 Descriptives for: Scale if item deleted OK,Scale if item deleted:去掉當前題目整個問卷的描述統(tǒng)計量，即敏感性分析，包括以下內(nèi)容：Scale Mean if Item Deleted:去掉當前題

14、目問卷合計分的均數(shù)； Scale Variance if Item Deleted: 去掉當前題目問卷合計分的方差； Corrected Item-Total Correlation: 當前題目得分與去掉當前題目問卷合計分的Pearson相關系數(shù)； Squared Multiple Correlation:以當前題目為因變量，其它所有題目為自變量求得的決定系數(shù)R2；Alpha if Item Deleted: 去掉當前題目后問卷的Cronbach 系數(shù),2）輸出結果,SCL90各條目的敏感性分析結果: Item Scale Scale Corrected Mean Variance Item-

15、 Alpha if Item if Item Total if Item Deleted Deleted Correlation Deleted A1 31.7250 1272.7173 0.6397 0.9736 E2 31.7500 1253.6282 0.8027 0.9732 B3 31.8250 1261.0712 0.7408 0.9734 A4 31.7500 1259.7821 0.7557 0.9733 D5 31.7000 1278.2667 0.3872 0.9740 C6 31.8250 1300.0455 0.0596 0.9745 I7 31.9000 1279.0

16、667 0.5320 0.9737 H8 31.5750 1255.1224 0.7590 0.9733 B9 31.2750 1259.2301 0.6572 0.9735 . E86 31.1750 1272.8147 0.3764 0.9742 I87 31.9250 1277.1481 0.6231 0.9736 I88 32.0500 1282.9718 0.6057 0.9737 J89 32.2000 1304.1641 0.0000 0.9741 I90 32.1750 1302.7122 0.1250 0.9741,一般地，在做問卷的敏感性分析時，可以將“Alpha if I

17、tem Deleted”值，作為調(diào)整題目的一個重要參考依據(jù)。 如果“Alpha if Item Deleted”值越大，其相對應的題目越應是首先考慮調(diào)整的題目。從本次問卷結果敏感性分析可以看出，量表的各個題目的“Alpha if Item Deleted”值均在0.97左右變化，且變化的幅度很小。所以，就 “Alpha if Item Deleted”值這項指標看量表各題目均可以保留，無需調(diào)整。這個結果可能與研究者所采用的SCL-90輛標是一個經(jīng)典量表有關,摘 要 目的：探討調(diào)查問卷的可靠性。方法：對武警十五支隊201名戰(zhàn)士，作心理衛(wèi)生自評90項調(diào)查問卷資料，利用SAS軟件編程，計算Alpha

18、可靠性系數(shù)，進行可靠性分析。結果：有6項被剔除達到要求后，=0.973569，當使用標準化數(shù)據(jù)時，=0.974102。結論：利用可靠性分析，可以從調(diào)查問卷表的數(shù)據(jù)中，提取真實的、可靠性的成分,2問卷的結構效度的分析,問卷的結構效度的評價較為復雜，可用各個題目與量表各銀子的相關分析和因子分析方法來反映。 （1）利用相關分析評價問卷的結構效度,從菜單選擇Analyze Scale Reliability AnalysisItem(輸入問卷的各條目或各因子包含的條目) Statistics彈出信度分析統(tǒng)計量對話框 Inter-Item Correlations OK,2）利用因子分析評價問卷的結構效

19、度,因子分析不僅能夠評價量表結構的相合性，還可以用共性變異（共性方差）與總變異之比作為結構效度的衡量指標。結構效度的分析最好使用證實性因子分析，它較探索性因子分析更能說明問題,執(zhí)行Analyze Data Reduction Factor ,彈出“Factor Analysis”對話框: 單擊Descriptives Statistics Initial Solution Correlation Matrix KMO and Bartletts test of sphericity Continue,三、調(diào)查問卷的信度 Questionnaire Reliability,1.信度分析的意義,信

20、度主要是指問卷是否精準(precision)。信度分析涉及了問卷測驗結果的一致性和穩(wěn)定性，其目的是如何控制和減少隨機誤差,The reliability of measures,The question of reliability is to what extent does an indicator measure the same thing consistently: i.e. will people answer the same question in the same way on different occasion,調(diào)查問卷的信度包含兩層含義,一是相同的個體在不同時間，以相同

21、的問卷測驗，或以復本測驗，或在不同的情景下測驗，是否能得到相同的結果，即問卷測驗結果是否隨時間和地點等因素而變化； 二是能否減少隨機誤差對問卷測驗結果的影響，從而能夠反映問卷所要測量的真實情況，即問卷測驗結果是否具有穩(wěn)定性、可靠性和可預測性。一個好的問卷必須是穩(wěn)定可靠的，且多次問卷測驗結果應前后一致,2.信度的定義,信度是用估計測量誤差大小的尺度，來說明問卷測驗結果中測量誤差所占的比率。 信度可定義為真實分數(shù)(true score)的方差與測驗實得分數(shù)(observed score) 的方差之比，當實得分數(shù)變異可以全部由真實分數(shù)的變異解釋時，測驗誤差就是0，這時問卷測驗的信度為1,若用表示問卷

22、測驗的信度，理論應有 或 式中 表示真實分數(shù)的方差； 表示實得分數(shù)的方差； 表示誤差的方差,3.信度的分類,信度研究的是問卷測驗結果的可靠性與穩(wěn)定性，可以從不同的角度來評價： （1）在相同條件下所得問卷測驗結果的一致程度； （2）不同研究者用同一種問卷同時測驗所得結果的一致程度； （3）同一研究者用同一種問卷在不同時間內(nèi)測驗所得結果的一致程度,4.常用的信度系數(shù),1）重測信度(test-retest reliability) 假定短時間內(nèi)一批對象的狀況并沒有改變，對每個對象用同一個問卷先后測驗兩次，兩次測驗得分的相關系數(shù)就稱為重測信度。重測信度是用皮爾遜積差相關系數(shù)r公式計算的,重測信度也存在

23、著局限性,間隔時間長，環(huán)境影響； 如果間隔時間短，記憶影響,2)復本信度（alternate form reliability,復本通常是根據(jù)相同的設計說明分別獨立編制的兩個平行問卷，即題目不同但是內(nèi)容相似的兩份問卷。復本信度也叫等值性系數(shù)（coefficient of equivalence）。兩個復本間隔一定時間或同時施于同一答卷者所得分數(shù)的相關系數(shù)就是復本信度,缺點： 如復本編制不容易，易出現(xiàn)順序效應，受練習的影響； 復本信度只能反應問卷內(nèi)容所造成的誤差，無法反應答卷者本身所造成的誤差等,3)分半信度(split-half reliability,當測驗沒有復本且測驗不可避免地受到時間的

24、影響，只適合用于一次測驗時，可用分半信度。 分半的方法很多，一般是將奇數(shù)題和偶數(shù)題各作為一半，而非前后分半，目的是避免順序效應。分半信度也叫折半信度，其計算方法是將問卷的題目分成對等的兩半，分別求出兩半題目的總分，再計算兩部分總分的相關系數(shù),使用分半信度時要注意兩個問題： 一是問卷題目所測的應是同一種特質(zhì)； 二是兩半題目應是等值的。對問卷題目進行分半會造成了對整個問卷信度的低估，為此需要對分半信度進行校正，其校正公式為斯皮爾曼-布朗(Spearman Brown)公式,為分半信度,表示兩半題目各自得分和之相關系數(shù)，n為原問卷相對于變化后問卷長度的倍數(shù)，計算分半信度時n=2,Spearman B

25、rown公式要求兩個分半表的信度和方差均滿足齊性； Guttman: Guttman分半信度，可不滿 足上述要求,4)庫得理查森信度 (Kuder Richardson,庫德-理查森信度適用于計算“對或錯”的是非題的同質(zhì)性信度，其是計算所有可能的分半信度的平均數(shù)。 最有代表性的計算公式是庫德-理查森公式,式中n為問卷包含的題目數(shù),為問卷測驗總得分的方差，pi表示答對該題的人數(shù)占總答卷人數(shù)的比例，pi可視為該題的難度，qi=1-pi,5)克隆巴赫信度系數(shù) (cronbachs,Cronbachs 系數(shù)是Cronbach于1951年創(chuàng)立的，用于評價問卷的內(nèi)部一致性。系數(shù)取值在0到1之間，系數(shù)越高，

26、信度越高，問卷的內(nèi)部一致性越好。Cronbachs 系數(shù)不僅適用于兩級記分的問卷，還適用于多級計分的問卷,Cronbachs 信度,Cronbach, L. J. (1951). Coefficient alpha and the internal structure of tests. Psychometrika. 16, 297-334. It is a measure of squared correlation between observed scores and true scores. Put another way, reliability is measured in ter

27、ms of the ratio of true score variance to observed score variance,其計算公式為,式中n為問卷包含的題目數(shù),為答卷者在第i題得分的方差,為答卷者問卷測驗總得分的方差,系數(shù)有以下性質(zhì)： （1）系數(shù)是所有可能的分半信度的平均值； （2）系數(shù)是估計信度的最低限度； （3）當問卷計分為二分名義變量時，即答案為0或1，系數(shù)與KR20值相同，即庫德-理查森信度公式是克隆巴赫的系數(shù)的一個特例,低信度：0.35, 中信度： 0.350.70,高信度： 0.70 一般地，問卷的系數(shù)在0.8以上該問卷才具有使用價值。 Cronbachs 值皆達0.8

28、5以上，表明問卷信度良好,6)評分者信度（inter-scorer reliability,考察評分者信度的方法為，隨機抽取相當份數(shù)的問卷，由兩位評分者按記分規(guī)則分別給分；然后根據(jù)每份問卷的分數(shù)計算相關系數(shù)，就得到評分者信度。評分者信度也可以是一位評分者兩次評分的相關系數(shù)。如果是多個評分者或一位評分者兩次以上的評分，可采用肯德爾和諧系數(shù)和Kappa系數(shù)?？系聽柡椭C系數(shù)用于等級資料，Kappa系數(shù)用于定性資料,信度系數(shù)類型 ： 重測信度 復本信度 分半信度（Spearman Brown； Guttman） 庫德-理查森系數(shù) 克隆巴赫系數(shù) 評分者信度,5.提高信度的方法,問卷的信度越高，受到人、時

29、、地、物的干擾就越低，其所能反應事實或讓人相信的程度越高，因此在問卷實施前如何有效提高信度是問卷測驗成敗的關鍵。通常提高問卷信度的方法為,1）適當延長問卷的長度,問卷題目較多，其在一定程度上排除了偶然因素的影響，從而提高了問卷的信度。 但是問卷長度的增加與問卷的信度的增加并不總是成正比的，當信度系數(shù)較小時，延長問卷長度，問卷的信度系數(shù)增加較大；而當信度系數(shù)較大時，延長問卷長度對信度系數(shù)的影響就較小,2）問卷的難度適中,當問卷題目難度太大時，問卷得分普遍過低；當問卷題目難度太小時，問卷得分普遍較高。問卷題目太難或太易都會使問卷得分差異減小，使實得分數(shù)方差減小，從而降低了問卷的信度,3）問卷的內(nèi)容

30、盡量同質(zhì),內(nèi)容同質(zhì)的問卷，要求答卷者具有相同的能力、知識和技能。因而為了提高問卷的信度，問卷的內(nèi)容應盡量保持同質(zhì),4）測驗的時間要充分,一份問卷應保證絕大多數(shù)答卷者在規(guī)定的時間內(nèi)能完成測驗。當答卷者不能從容地回答所有題目時，問卷的得分就不能反映答卷者的真實情況,5）測驗的程序要統(tǒng)一,問卷題目要統(tǒng)一，指導語、回答問題的方式、分收試卷的方法和問卷測驗的時間等都要統(tǒng)一，這些是問卷有較高信度的基本保證,四、信度分析實例 （example,例1 某人在新入學的大學生中隨機抽取40人，組織癥狀自評量表（SCL-90）測驗，以了解新生心理健康的水平，及有針對性地進行心理教育和疏導，避免意外事件的發(fā)生。試就量

31、表測驗結果，對此次測驗的可靠性進行分析,SCL-90量表，包含90個題目，由受試者根據(jù)自己在最近一周以內(nèi)的實際感受，在：沒有、很輕、中等、偏重、嚴重各選項中選擇一個答案，每個選項分別計為0，1，2，3，4分。 SCL-90分為9個因子，分別為軀體化、強迫癥狀、人際關系敏感、憂郁、焦慮、敵對性、恐怖、偏執(zhí)和精神病性。分析對象為答卷者所選的五項答案得分，計算各因子得分和問卷總分。求各因子的各種信度系數(shù)和問卷總的信度系數(shù),表11-2 各因子描述統(tǒng)計量,在“Model:”選項中，SPSS提供5種信度分析模型: Alpha: Cronbach 系數(shù) Split-half: 分半信度，又稱 Spearma

32、n-Brown系數(shù),其應用的前提 條件是兩個分半表的信度和方差均滿 足齊性。 Guttman: Guttman分半信度，可不滿 足上述要求 Parallel:平行模型 Strict Parallel:嚴格平行模型,量表的cronbach 系數(shù),從菜單選擇Analyze Scale Reliability AnalysisItem:a1/b2/c3/a4/j89/i90(共90個變量) Model: Alpha List item labels OK,Reliability Coefficients N of Cases = 40.0 N of Items = 90 Alpha = 0.9740

33、 量表有90個題目，量表總的Cronbach 系數(shù)為0.9740，信度較高,各因子的Cronbach 系數(shù),操作過程 從菜單選擇Analyze Scale Reliability AnalysisItem: 輸入各因子的條目數(shù)a1/a4/a12/a27/a40/a42/a48/a49/a52/a53/a56/a58 (軀體化因子，共12個變量) Model: Alpha OK,量表的9個因子的Cronbach 系數(shù)分別為：軀體化0.8740；強迫0.8600；人際關系敏感0.7483；憂郁0.9445；焦慮0.8517；敵對性0.6009；恐怖0.9218；偏執(zhí)0.7210；精神病性0.6461。憂郁、恐怖、軀體化、強迫、焦慮因子的信度較高；人際關系敏感和偏執(zhí)因子的信度尚可；但是敵對性和精神病性的信度偏低。從結果中我們還可以看出各項因子的Cronbach 系數(shù)小于問卷總的Cronbach 系數(shù),分半信度,操作過程： 從菜單選擇Analyze Scale Reliability AnalysisModel：Split-halfok,總量表的分半信度,總量表分半信度計算結果: Reliability Coefficients 90 items Correlation between forms = 0.9147 Equal-length Spearma