實驗數(shù)據(jù)處理和分析-沈向紅

實驗數(shù)據(jù)處理和分析浙江省疾病預(yù)防控制中心沈向紅2006.3一.誤差及表示方法誤差：在分析過程中，由于不可避免地存在一些影響因素，使測定值與真值之間存在一定的差值，這個差值就是誤差誤差的分類：隨機誤差系統(tǒng)誤差過失誤差1.隨機誤差來源于分析過程中一系列微小的隨機波動，主要有儀器示值的波動，讀數(shù)誤差；實驗室環(huán)境中氣溫、氣流、光線、和濕度的變化，檢驗者的取樣和視覺誤差等。特點：1)對稱性（絕對值相等的正誤差于負誤差相等）

2)單峰性（絕對值小的誤差比絕對值大的誤差次數(shù)要多）

3)有界性（一定測量條件誤差絕對值不超過一定范圍）

4)抵償性（測量次數(shù)增加，算術(shù)平均值趨向0）減小該誤差方法可對同一樣品進行重復(fù)測定取平均值的方法2.系統(tǒng)誤差系統(tǒng)誤差由某些確定因素引起：方法的不完善，試劑不純，儀器不準，操作不熟練等。系統(tǒng)誤差的種類：方法誤差儀器試劑誤差操作誤差減小此種誤差的方法：1.找原因，并在分析過程中加以改正。2.對原因明確的的定值系統(tǒng)誤差測定其大小，在處理結(jié)果時加以校正3.過失誤差過失誤差是由測量、過程出現(xiàn)的錯誤造成的：如器皿不潔凈，加錯試劑，濺失樣品或試劑，讀數(shù)錯誤，數(shù)據(jù)記錄及計算錯誤等。加強責(zé)任心，認真仔細作好記錄，認真進行復(fù)核。二準確度和精密度（1）準確度的定義分析結(jié)果(單次測定值或均值:x)與假定的或公認的真值(A)之間符合程度的度量。準確度是反映測定方法系統(tǒng)誤差和隨機誤差的綜合指標，它決定測定方法的可靠性。準確度表示方法：用絕對誤差和相對誤差、回收率表示絕對誤差=測定值－真值絕對誤差相對誤差＝×100%真值X1:測定值X1-X0X0:本底值回收率（％）=×100m:標準加入值

m當測量值大小相近時，絕對誤差來比較反映測量準確度；但一般分析結(jié)果的準確度多用相對誤差表示。如：標準值10.2mg/kg實測值為10.0mg/kg，其絕對誤差0.2mg/kg；相對誤差2%標準值100.2mg/kg實測值為100.0mg/kg，其絕對誤差0.2mg/kg；相對誤差0.2%。

評價準確度常用的方法1)用標準物質(zhì)評價：根據(jù)待測樣品選擇基體相同或相近、化學(xué)組成與物理形態(tài)、濃度水平、準確度水平合適的標準物質(zhì)與樣品在相同條件下進行測定，如果標準物質(zhì)的測定結(jié)果與證書上的標準值一致，表明分析方法與測定過程的準確度令人滿意，樣品分析結(jié)果準確可靠。方法可行。（灌木葉粉）2)加標回收率評價：向樣品中加入一定量待測物質(zhì)，用選定的分析方法進行測定，計算加標回收率。加標回收率有三種：A.絕對回收率：提取物中加標樣后的測定值與標樣未經(jīng)任何處理的測定值的百分比。（用于考察基質(zhì)的影響）。B.相對回收率：標樣加入到樣品中處理后的測定值與空白樣品提取物中加入標樣后測定值的百分比。C.提取回收率：標樣加入樣品中提取后的測定值與標樣未經(jīng)任何處理的測定值的百分比。2)加標回收率評價：通常我們用提取回收率考察方法回收率，也有人建議用相對回收率，同時用絕對回收率考察基底的影響。加標回收率的要求一般為85~120％。含量在mg/kg時，收率在90~110%；含量在ug/kg回收率在80%~120；繁瑣的方法其回收率最低不能小于50%。注意事項：a）加標量應(yīng)于樣品中的含量接近。b）當含量低于檢出限時，按檢出限加標。c）加標量不得比試樣中被測物的含量大3倍。d）用高、中、低三個濃度。加標后的在測定值不能超過方法的線性范圍的上限。

e）加入標準物的形態(tài)應(yīng)盡量與樣品一致。若不一致，會影響加標回收率的準確性；特別提醒：樣品中某些共存物對待測物質(zhì)測定的干擾，有時在加標回收率試驗中不能發(fā)現(xiàn)。

3)與標準方法對照評價：用待評價的方法與標準方法同時測定相同的樣品，（最好是用高、中、低三種不同的濃度樣品）進行對照，測定結(jié)果經(jīng)顯著性檢驗，若兩種方法測定結(jié)果差異無顯著性，則該方法的準確度是滿意的。（2)精密度定義：在一定測量條件下，對同一被測量對象進行連續(xù)多次測量所得結(jié)果的一致性或分散程度，反映分析方法的隨機誤差的大小。主要有

a）重復(fù)性:相同測量條件在短期內(nèi)重復(fù)測定。相同測量條件是指相同的測量程序、觀察人、使用條件、儀器、地點，b)重現(xiàn)性：在改變了測量條件下，對同一被測量對象的測量結(jié)果的一致性。改變的條件：原理、方法、觀察人、儀器、參考測量標準、地點、使用條件等。精密度的表示方法有

a偏差和相對偏差

b平均偏差和相對平均偏差

c標準偏差和相對標準偏差等。方法：通常在測定方法的線性范圍內(nèi)，選取低、中、高三個不同濃度的待測樣品（或加標樣品），每類濃度取六個平行樣，在相同條件下連續(xù)重復(fù)測定六天，分別計算各種濃度的日內(nèi)和日間測定的相對標準偏差。一般要求測定方法的相對標準偏差≤10%（ng級為50%）實驗室編碼5758606265mgkg18.9519.2020.0020.8721.05平均值：19.9357號絕對偏差：18.95-19.93=-0.98mg/kg相對偏差：-0.98÷19.93×100=-4.92%mg/kg平均偏差：0.688mg/kg相對平均偏差：0.688÷19.93×100=3.45%標準偏差：S=0.87mg/kg相對標準偏差：RSD=0.87÷19.93×100=4.37%準確度與精密度的關(guān)系準確度是反映分析方法或測量系統(tǒng)總系統(tǒng)誤差和隨機誤差大小的綜合指標，精密度則反映隨機誤差大小的指標。關(guān)系：精密度不好，準確度不高，精密度是保證準確度的先決條件。精密度好，準確度不一定高。因有系統(tǒng)誤差消除系統(tǒng)誤差后，高精密度才能得到高準確度。分析數(shù)據(jù)的處理1.有效數(shù)字(1).有效數(shù)字：指在測量中能測到的實際意義的數(shù)字由可靠數(shù)與估計數(shù)組成。（天平）0.1mg“0”有雙重意義：1）定位時不是有效數(shù)字0.45;0.0045

2）表示測量準確度時為有效數(shù)2.0022；2.023;56.9002.有效數(shù)的修約規(guī)則實驗數(shù)據(jù)進行計算前應(yīng)根據(jù)有效數(shù)字的運算規(guī)則，正確保留有效數(shù)字的位數(shù)，按照“四舍六入五單雙”進行修約?！拔鍐坞p”：擬舍去部分大于五時進一，等于五時則保留末位成偶數(shù)。3.241596.3785013.216505.26353.2426.3793.2165.2643.有效數(shù)字的運算規(guī)則1.加減運算幾個數(shù)相加減時，結(jié)果保留的位數(shù)應(yīng)與數(shù)據(jù)中小數(shù)點后位數(shù)最少者相同。先將各數(shù)據(jù)修約至比數(shù)據(jù)中小數(shù)點后位數(shù)最少者多保留一位小數(shù)。結(jié)果按幾個數(shù)相加減時，結(jié)果保留的位數(shù)應(yīng)與數(shù)據(jù)中小數(shù)點后位數(shù)最少者相同。乘除運算：幾個數(shù)相乘除時，所有的積和商的有效數(shù)字位數(shù)與數(shù)據(jù)中有效數(shù)字位數(shù)最少者相同。計算時先將各數(shù)據(jù)修約至比數(shù)據(jù)中有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字計算結(jié)果按以上處理。乘除運算中第一位是“8”，“9”的數(shù)據(jù)有效數(shù)字可多計一位，如0.956可看成四位有效數(shù)字3.乘方與開方原數(shù)據(jù)有幾位有效數(shù)字，計算結(jié)果就保留幾位有效數(shù)字。

2.532=6.4009=6.40

4.對數(shù)對數(shù)計算時，對數(shù)尾數(shù)有效數(shù)字應(yīng)與真數(shù)有效數(shù)字相同。如透光率T=63.8%，吸光度A=-

lg(1/T)=lg(1/0.638)=0.1954.可疑數(shù)據(jù)的取舍對同一樣品進行多次重復(fù)測定時，有時會發(fā)現(xiàn)某個測量值比其他值大或小，也就是說有離群值或可疑數(shù)據(jù)。發(fā)現(xiàn)離群值或可疑數(shù)據(jù)不能隨意舍取，因找原因，如已查明是由實驗技術(shù)失誤，實驗條件改變，系統(tǒng)誤差引起，則將該異常數(shù)據(jù)舍去。若無法判定由上述原因引起，則需進行統(tǒng)計檢驗。方法常用的有：Q檢驗法Q檢驗法適用于3-10個數(shù)據(jù)的檢驗檢驗步驟：1）將n個測定值按從小到大的順序排列

x1,x2,x3…..xn2）計算極值xn－x13）計算可疑值與其相鄰數(shù)值之差x可疑－x臨近4）計算Q計值｜x可疑－x臨近｜/（xn－x1）5）根據(jù)測定次數(shù)n和置信水平查Q值表（90%）6）Q計與Q表比較，若Q計＞Q表該可疑值舍去。Q值表測定次數(shù)345678910Q0.900.940.760.640.560.510.470.440.41Q0.951.531.050.860.760.690.640.600.58Grubbs檢驗法Grubbs檢驗法適用于檢驗一組或多組測量值的一致性和舍取其中的可疑數(shù)據(jù)。方法：1）計算n個測定值的平均值x和標準差S。2）當可疑值x1＜平均值x時，

T計=（平均值x-可疑值x1）/標準差S3）當可疑值x1＞平均值x時，

T計=（可疑值x1-平均值x）/標準差S4）根據(jù)置信水平和測定值的個數(shù)n查表得T表5）當T計＞T表可疑值舍去，否則應(yīng)保留。Grubbs檢驗臨界值T表表

顯著性水平α顯著性水平αn0.050..01n0.050.0131.1531.155102.1762.41041.4631.492112.2342.48551.6721.749122.2852.55061.8221.944132.3312.60771.9382.097142.3712.65982.0322.221152.4092.70592.1102.323162.4432.747分析數(shù)據(jù)得顯著性檢驗分析工作中通常對其數(shù)據(jù)進行比較，分析和判斷分析結(jié)果。如一組測定平均值與標準值得比較；不同分析方法測定同中樣品時二組測定平均值得比較；不同實驗室或不同檢測人員對同一樣品測定結(jié)果的比較等?？磾?shù)據(jù)間是否存在差異，這需要用統(tǒng)計的方法加以檢驗。常用的方法有F檢驗和t檢驗法F檢驗F檢驗法適用于兩組測定數(shù)據(jù)的精密度差異是否有顯著性的檢驗。先計算各自的方差(S2)1(S2)2計算F計=(S2)1/(S2)2根據(jù)n