第二章-環(huán)境數(shù)據(jù)統(tǒng)計與分析

第二章環(huán)境數(shù)據(jù)

統(tǒng)計與分析2環(huán)境數(shù)據(jù)統(tǒng)計與分析2.1數(shù)據(jù)統(tǒng)計與分析的基本范疇2.2常用的統(tǒng)計指標(biāo)2.3環(huán)境樣本特征推斷2.4參數(shù)估計2.5顯著性檢驗2.6直線相關(guān)與直線回歸2.7環(huán)境數(shù)據(jù)統(tǒng)計與分析的計算機處理2.8可疑值的取舍2.1數(shù)據(jù)統(tǒng)計與分析的基本范疇

統(tǒng)計學(xué)中，把性質(zhì)相同的研究對象的所有觀測結(jié)果的集合稱為總體(population)?？傮w又分為無限總體和有限總體。 在實際工作中，常常是從被研究的總體中隨機抽取部分觀測結(jié)果進行研究。每個部分觀測結(jié)果的集合稱為樣本。 從總體中隨機抽取樣本用以推斷總體的方法稱為抽樣研究。

統(tǒng)計指標(biāo) 統(tǒng)計學(xué)中，把根據(jù)規(guī)定的函數(shù)關(guān)系計算出的描述總體或樣本特征的函數(shù)值稱為統(tǒng)計指標(biāo)（index）。參數(shù) 由總體資料計算出的統(tǒng)計指標(biāo)稱為參數(shù)（parameter），用于描述總體特征。統(tǒng)計量 由樣本資料計算出的統(tǒng)計指標(biāo)稱為統(tǒng)計量（statistic），用于描述樣本特征。變異（variation） 變異指觀測結(jié)果之間實際存在的差異。誤差（error） 誤差指觀測結(jié)果與真實值之差及統(tǒng)計量與參數(shù)之差。過失誤差（grosserror）——過失誤差可以避免；系統(tǒng)誤差（systematicerror）——系統(tǒng)誤差可以減少；隨機誤差（randomerror）——隨機誤差無法消除。2.2常用的統(tǒng)計指標(biāo)定義 平均數(shù)（average）是表示觀測值的平均水平的統(tǒng)計指標(biāo)，常用的有算術(shù)平均數(shù)、幾何均數(shù)及中位數(shù)。定義 算術(shù)均數(shù)（arithmeticmean），簡稱均數(shù)，常用、希臘字母μ表示，表示樣本均數(shù)，μ表示總體均數(shù)。均數(shù)適用于正態(tài)分布資料統(tǒng)計。計算方法直接計算法頻數(shù)-加權(quán)計算法直接計算法 當(dāng)觀察值的個數(shù)不多時，將所有觀察值x1，x2，x3，…，xn直接相加，其和除以觀察值的個數(shù)n，即為均數(shù)。 計算公式： 式中， 算術(shù)平均數(shù) x1，…，xn 各觀察值 ∑ 求和符號 ∑x 觀察值總和 n 觀察值的個數(shù)頻數(shù)-加權(quán)計算法

對一個隨機事件作重復(fù)觀察，其中某觀察值出現(xiàn)的次數(shù)稱頻數(shù)； 各觀察值對應(yīng)的頻數(shù)稱為頻數(shù)分布；顯示各觀察值對應(yīng)的頻數(shù)的表格稱為頻數(shù)分布表，簡稱頻數(shù)表。

頻數(shù)-加權(quán)計算法計算步驟

①計算全距 找出觀察值中的最大值、最小值，并計算全距（range），全距＝最大值－最小值。 ②定組段數(shù) 一般取8～15個為宜，多取10個，組段數(shù)太多，計算較繁，組段數(shù)過少則誤差較大。 ③定組距（classinterval） 相鄰兩組段下限值之差為組距（classinterval）。各組段的組距可以相等，也可以不等。若擬定為相等組距，則組距＝全距/組段數(shù)，為便于觀察值歸組，組距常取整數(shù)。

④定組段（classrange） 即定各組數(shù)據(jù)的上下限，俗稱“封口”。通常，某組段的最小值為下限(lowerlimit)，相鄰較大組段的下限即本組段的上限(upperlimit)。第一組段應(yīng)包括最小值，最末組段應(yīng)包括最大值。

⑤計數(shù)（fi） 劃分組段后，將原始數(shù)據(jù)以適當(dāng)方式劃記計數(shù)（常用“正”字法）歸組。得頻數(shù)分布表。

⑥計算組中值(Classmid-value)（xi） 組中值＝ ⑦計算均數(shù)

將各組段的頻數(shù)與組中值之積相加求和，再除以總頻數(shù)即得均數(shù)。

定義

幾何均數(shù)（geometricmean，G），也叫倍數(shù)均數(shù)，當(dāng)觀察值相差較大甚至成倍數(shù)關(guān)系時，如用算術(shù)均數(shù)表示其平均水平時受少數(shù)特大或特小值影響較大，則用幾何均數(shù)來表示其平均水平。計算步驟

先對觀察值取數(shù)值，計算對數(shù)值的均數(shù)后，再查反對數(shù)，即得幾何均數(shù)。計算方法直接計算法頻數(shù)表法直接計算法頻數(shù)表法 當(dāng)觀察值較多時，可先編頻數(shù)表，再按頻數(shù)表計算幾何均數(shù)。定義

中位數(shù)（median，M，Md）指全部觀察值按大小順序排列，居于中間位置的數(shù)值。 偏態(tài)分布資料，一端或兩端有不確定數(shù)值分布的資料，分布情況不清的資料，適宜用中位數(shù)統(tǒng)計。計算方法直接計算法頻數(shù)表法直接計算法

樣本含量n較少時，先將觀察值按大小順序排列，再進行計算。

頻數(shù)表法 中位數(shù)是一個特定的百分位數(shù)，在全部觀察值中有一半比它大，一半比它小。當(dāng)例數(shù)較多時，先將觀察值編制頻數(shù)表，再按公式計算。

定義

變異數(shù)是表示觀察值變異水平的統(tǒng)計指標(biāo)，常用指標(biāo)有極差、方差、標(biāo)準(zhǔn)差和變異系數(shù)等。

定義

亦稱全距（rangc，R），即一組觀察值中最大值與最小值之差。R＝Xmax－Xmin特點

全距反映了變異的范圍，極差大，變異度大；極差小，變異度小。缺點

用極差表示變異程度的大小簡單明了，但它僅考慮了觀察值的最大值和最小值，而沒有考慮其他數(shù)值，因此是不夠全面的。

要克服全距的缺點，必須全面考慮到每個觀察值。 首先考慮用每一個觀察值與均數(shù)之差的和即離均差總和Σ（x－）來描述。 再考慮用離均差平方和∑（x－）2來描述。 最終考慮用離均差平方和的均數(shù)即方差S2來描述。

定義

為了保持與原觀察值及其均數(shù)的單位一致，將方差開平方，即得標(biāo)準(zhǔn)差，以S表示。特點

標(biāo)準(zhǔn)差直接表示觀察值分布的離散程度，間接反映樣本的代表性。 在觀察單位數(shù)相同，均數(shù)相近條件下，標(biāo)準(zhǔn)差較大，表明觀察值的變異程度較大，即觀察值圍繞均數(shù)的分布較離散，因而樣本的代表性較差；反之，標(biāo)準(zhǔn)差較小，表明觀察值的變異程度較小，觀察值圍繞均數(shù)的分布較密集，樣本的代表性好。定義 對均數(shù)相差較大或性質(zhì)不同的資料，不能直接用標(biāo)準(zhǔn)差比較變異程度的大小，要用變異系數(shù)作比較。特點

與標(biāo)準(zhǔn)差一樣，變異系數(shù)愈大，表明觀察值的變異程度愈大，變異系數(shù)愈小，表明變異程度愈小。

定義

環(huán)境研究直接觀測到的數(shù)據(jù)稱為絕對數(shù)，絕對數(shù)雖然能反映調(diào)查中所發(fā)現(xiàn)的某種現(xiàn)象的絕對水平，但作深入分析時，僅看絕對數(shù)是不夠的，必須考慮使用相對數(shù)（relativenumber），即兩個有聯(lián)系的指標(biāo)之比。 常用相對數(shù)有率、比等。

定義

率（rate）是某一現(xiàn)象發(fā)生的頻度（頻繁程度）或強度，通常指在一定條件下某種現(xiàn)象實際發(fā)生的次數(shù)與可能發(fā)生該現(xiàn)象的總次數(shù)之比。率=

率的比例基數(shù)可用100、1000、10,000、100,000等分別稱為百分率，千分率，萬分率，或十萬分率。環(huán)境監(jiān)測常用的率有：

檢出率＝ 回收率＝ 最高濃度出現(xiàn)率＝ 殘留率＝ 超標(biāo)率＝

定義

構(gòu)成比（constitutionratio）是事物內(nèi)部某種構(gòu)成部分對總體之比。說明部分在總體中所占的比重，是一種用來表示事物內(nèi)部各構(gòu)成情況的指標(biāo)。 構(gòu)成比＝

定義

相對比（relativeratio）指兩個有關(guān)聯(lián)的同類指標(biāo)的比。以倍數(shù)或百分?jǐn)?shù)(％)來表示，其計算式： 相對比=常用的相對比有倍數(shù)、指數(shù)、系數(shù)等。

倍數(shù) 在大氣監(jiān)測中，經(jīng)常用測定值與國家衛(wèi)生標(biāo)準(zhǔn)值的比較來評價車間、工廠或大氣的污染程度。指數(shù)（index） 環(huán)境保護研究中，指數(shù)是環(huán)境污染物的實測濃度對該污染物在環(huán)境中的容許濃度的比值，是環(huán)境質(zhì)量評價的常用手段。

I＝

I：環(huán)境質(zhì)量指數(shù) C：污染物實測平均濃度 S：污染物容許標(biāo)準(zhǔn)。系數(shù) 如排毒系數(shù)，環(huán)境污染物的排放濃度對該污染物的排放標(biāo)準(zhǔn)的比值，用于表示各種污染物和污染源對環(huán)境的毒害的潛在能力。2.3環(huán)境樣本特征推斷環(huán)境樣本特征 主要指環(huán)境樣本的分布形式和環(huán)境樣本的正常值范圍等，可以利用獲得的統(tǒng)計量進行統(tǒng)計處理，完成上述推斷工作。定義 正態(tài)分布（normaldistribution）又稱高斯分布(GaussianDistribution)，是以均數(shù)為中心的對稱鐘型分布。 正態(tài)曲線是一條高峰位于中央，兩側(cè)完全對稱并逐漸下降但永遠(yuǎn)不與橫軸相交的鐘形曲線 正態(tài)曲線由和兩個參數(shù)決定，為總體均數(shù)，為總體標(biāo)準(zhǔn)差。決定正態(tài)曲線的位置，決定正態(tài)曲線形狀。樣本分布形式的判定確定正常值范圍確定樣本所代表總體的理論頻數(shù)分布2.4參數(shù)估計定義 探知研究對象的總體特征是環(huán)境研究的主要目標(biāo)，由于總體龐大的原因，直接計算參數(shù)是極其困難的，因此，往往用樣本統(tǒng)計量來估計總體參數(shù)，這個過程稱為參數(shù)估計（estimationofparameter）。 本節(jié)主要討論總體均數(shù)估計的基本問題。總體均數(shù)估計分為點估計和區(qū)間估計。 點估計（pointestimation）是根據(jù)一個樣本求出總體參數(shù)的具體數(shù)值，常用根據(jù)極大似然法原理導(dǎo)出的公式計算極大似然估計量。 由于存在變異和抽樣的隨機性，用不同的樣本推斷總體時，可能得到不同的參數(shù)估計值。因此更穩(wěn)妥的辦法是采用區(qū)間估計。

定義 對樣本的統(tǒng)計結(jié)果與總體的“真實”之間必然存在差異，這種由于抽樣而引起的樣本與總體之間的差異稱為抽樣誤差。標(biāo)準(zhǔn)誤差

樣本均數(shù)的標(biāo)準(zhǔn)差稱為標(biāo)準(zhǔn)誤差，。計算公式為：

在實際工作中，總體標(biāo)準(zhǔn)差常屬未知，只能用樣本標(biāo)準(zhǔn)差S代替作為最佳的無偏估計，于是標(biāo)準(zhǔn)誤的計算公式變?yōu)椋?/p>

從一個均數(shù)為，標(biāo)準(zhǔn)差為的正態(tài)總體中，隨機抽取含量為n的樣本，可計算樣本均數(shù)，樣本標(biāo)準(zhǔn)誤，則將樣本均數(shù)與總體均數(shù)的離差以樣本標(biāo)準(zhǔn)誤為單位，得正態(tài)（離）差t＝，若干樣本的t值就構(gòu)成統(tǒng)計上著名的t分布。 實際工作中總體標(biāo)準(zhǔn)差往往是不知道的，只能用樣本標(biāo)準(zhǔn)差S來代替，于是得 t＝＝

區(qū)間估計（intervalestimation） 按預(yù)先給定的概率，由一個樣本均數(shù)及其標(biāo)準(zhǔn)誤求出總體均數(shù)數(shù)值范圍的過程?！邦A(yù)先給定的概率”“總體均數(shù)數(shù)值范圍”

可仿照總體均數(shù)的可信區(qū)間估計的方法來估計總體率的所在范圍，即求總體率的可信區(qū)間，我們介紹兩種方法。正態(tài)近似法

當(dāng)n足夠大，且p和（1-p）不接近零，有np和n（1-p）均大于5時，總體率的可信區(qū)間為： 式中uα為可信度1-α?xí)r的標(biāo)準(zhǔn)正態(tài)離差，由u界值得知，如99％可信區(qū)間時，α＝0.01，uα＝2.58，95％可信區(qū)間時，α＝0.05，uα＝1.96。

查表法

當(dāng)n≤1000，p≥l％時，可查附表3（百分率的可信限表），得到總體率的可信區(qū)間。

2.5顯著性檢驗兩均數(shù)差異顯著性檢驗樣本均數(shù)與總體均數(shù)的差異顯著性檢驗兩樣本均數(shù)的差異顯著性檢驗兩個幾何級數(shù)樣本均數(shù)的差異顯著性檢驗配對資料的差異顯著性檢驗兩個大樣本均數(shù)的顯著性檢驗——u檢驗方差不齊的兩樣本均數(shù)差異的顯著性檢驗——tˊ檢驗含義 在回答樣本與總體是否有本質(zhì)差異或差異是否有顯著時，必須考慮：樣本與總體差異無顯著性和樣本與總體差異有顯著性2種情況。究竟屬于那種情況，需通過差異顯著性檢驗來回答。顯著性檢驗的步驟建立“檢驗假設(shè)”確定檢驗水準(zhǔn)選擇檢驗方法和計算統(tǒng)計量確定概率做出推斷結(jié)論 t檢驗是檢驗兩均數(shù)間差異顯著性的基本方法。 按式（2.20）計算統(tǒng)計量t值后，與根據(jù)相應(yīng)自由度查附表2（t值表）所得的t界值進行比較，判斷均數(shù)間差異的顯著性。 ∣t∣﹤t0.05（v）P﹥0.05差異無顯著性 若t0.05（v）≤∣t∣﹤t0.01（v）則0.05≥P﹥0.01即差異有顯著性 ∣t∣≥t0.01（v）P≤0.01差異有極顯著性【例2.17】解題步驟：建立檢驗假設(shè)計算t值確定p值結(jié)果判斷

兩樣本均數(shù)比較是最常見的統(tǒng)計比較研究，又稱成組比較，其目的是推斷兩樣本分別代表的總體均數(shù)μ1與μ2是否相等。

采用下面的公式來檢驗兩均數(shù)的差異是否有顯著性。 檢驗兩個幾何均數(shù)的差別是否有顯著性，所采用的方法，仍然是t檢驗法，只是將所有數(shù)值全部轉(zhuǎn)換為對數(shù)值進行計算。 在實驗研究中，常采用配對比較的方法。配對研究的目的是比較兩種處理方法或?qū)嶒炃昂蟮慕Y(jié)果有無差異。 配對資料的實驗設(shè)計有兩種：①同體配對，實驗對象自身對比；②非同體配對。

當(dāng)兩個樣本的觀察單位數(shù)較多時（每組n﹥50），資料分布基本近似于正態(tài)分布，可以用u檢驗。 計算出u值后，直接根據(jù)表2.13u檢驗的檢驗水準(zhǔn)表作出結(jié)果判斷。ˊ檢驗 使用t檢驗的前提條件是兩個總體的方差相等，。 事實上，即使兩個總體方差相等，樣本方差也會因為抽樣而出現(xiàn)波動，因此必需對兩組樣本進行方差齊性檢驗。如果方差齊性檢驗顯示方差不齊時，則不能直接采用t檢驗，需要用校正t檢驗法（tˊ檢驗）。方差齊性檢驗計算F統(tǒng)計量查附表4（方差齊性F界值表）做出兩總體方差是否相等的推斷tˊ檢驗

計算均數(shù)標(biāo)準(zhǔn)誤平方計算兩樣本均數(shù)差數(shù)的標(biāo)準(zhǔn)誤計算tˊ值求tˊ顯著性界限的近似值

在環(huán)境研究工作中，經(jīng)常有兩個以上的均數(shù)需要同時進行比較，這時，若應(yīng)用上述的t檢驗法，則必須對每兩個均數(shù)進行t檢驗，比較繁瑣。而應(yīng)用F檢驗法（即方差分析法）可使顯著性檢驗大為簡化。 方差分析又稱變異數(shù)分析，其基本思想是把全部觀察值之間總變異，按設(shè)計和需要分為二個或多個組成部分進行分析?？傋儺惖姆诸愒趩我蛩氐耐耆S機設(shè)計的實驗資料中，總變異可分為組內(nèi)變異和組間變異。在配伍組設(shè)計的資料中，總變異可分為處理組間變異、配伍組間變異及誤差三部分。在2×2析因設(shè)計資料中，總變異可分為兩個因素的兩個組間變異、兩因素交互作用及誤差四部分。比較步驟檢驗假設(shè)計算校正數(shù)確定P值結(jié)果判斷比較步驟列計算表計算校正數(shù)（C）計算離均差平方和（SS）計算自由度計算均方（MS）計算F值確定P值并判斷結(jié)果 資料經(jīng)F檢驗后，各組均數(shù)間的差異為無顯著性，則不須作進一步的統(tǒng)計處理；如果各組均數(shù)間的差異有顯著意義，則須作進一步的分析，以檢驗兩兩均數(shù)間的差異哪些是有顯著性的。比較步驟檢驗假設(shè)計算q值求處理數(shù)（a）根據(jù)誤差的自由度及處理數(shù)（a）查附表6（q值表），得q的顯著界值。確定P值與判斷結(jié)果定義 樣本率與總體率間的差異情況是由于抽樣造成的，稱為率的抽樣誤差。公式 率的抽樣誤差可用率的標(biāo)準(zhǔn)誤來表示。 通常，樣本率與總體率之間進行比較時，如樣本含量較大（一般大于50），可采用u檢驗。 再依據(jù)表作判斷。公式 檢驗兩個樣本率的差異是否顯著時，可用公式：檢驗范圍 檢驗（卡方檢驗）常用以檢驗兩個率或多個率之間的差別，兩組或多組資料內(nèi)部構(gòu)成之間的差別，理論分布數(shù)列與實際觀察分布數(shù)列之間的差別，兩個觀察數(shù)列之間的差別是否有顯著性等。公式 檢驗的基本公式：X2＝ 式中A實際數(shù) T理論數(shù)

檢驗步驟：（1）檢驗假設(shè)（2）計算值（3）確定概率，做出判斷

四格表專用公式法 四格表專用公式是從基本公式推導(dǎo)出來的，故兩者計算的結(jié)果是相同的。四格表的形式：四格表專用公式：n＞40且有一個理論數(shù)小于5的兩率差異顯著性檢驗——四格表校正值檢驗

公式

= =

四格表中有實際值為零時，計算概率的公式為： P＝ 式中！階乘，規(guī)定0！＝1。四格表中無實際值為零時 【例2.31】定義 當(dāng)資料的組數(shù)或處理方法超過兩組（即行數(shù)或列數(shù)超過兩組）時，通稱為行×列表或稱R×C表，其檢驗方法，可用的基本公式法，也可采用行×列表專用公式法。公式 行×列表專用公式為：通過配對的方法進行實驗，如每一對實驗對象分別給予不同的處理，或同一實驗對象，先后給予不同的處理，既可獲得計量資料，也可獲得計數(shù)資料，這類計數(shù)資料的率的差別顯著性檢驗，采用配對的檢驗法。公式 計算公式： = 當(dāng)b+c<40時，則改用校正公式： =2.6直線相關(guān)與直線回歸相關(guān)（correlation）

相關(guān)指兩事物或兩變量之間呈現(xiàn)某種相依變動關(guān)系。 相關(guān)有直線相關(guān)、曲線相關(guān)、多元線性相關(guān)，直線相關(guān)是最簡單的相關(guān)?；貧w（regression）

回歸原指樣本統(tǒng)計量向總體參數(shù)靠攏或回歸的現(xiàn)象，現(xiàn)指利用方程描述變量變化的數(shù)量關(guān)系。 回歸有直線回歸、曲線擬合、多元線性回歸，直線回歸是最簡單的回歸。

定義

如果相關(guān)散點圖顯示一個變量X由小到大變化，另一個變量Y亦相應(yīng)地呈直線由小到大（或由大到?。┳兓瑒t這兩個變量間有直線關(guān)系；散點圖顯示的相關(guān)性質(zhì)和密切程度，由直線相關(guān)系數(shù)描述。這種直線關(guān)系以及分析這種直線關(guān)系的理論和方法，統(tǒng)稱直線相關(guān)（linearcorrelation）。

相關(guān) 以橫軸(X)代表汽車輛數(shù)，以縱軸(Y)代表NO2濃度，繪制相關(guān)散點圖，見下圖。

從圖中可見，隨著汽車輛數(shù)的增加，大氣中NO2的濃度也隨之增高，呈現(xiàn)從左下到右上的變化趨勢。我們稱這種“從左下到右上的變化趨勢”為正相關(guān)。

事實上，除正相關(guān)外，相關(guān)散點圖的散點分布還有多種情形，見下圖。

相關(guān)系數(shù)定量地表示變量間的線性相關(guān)程度及相關(guān)方向。相關(guān)系數(shù)沒有單位，其值在－1至+1之間。正相關(guān)： 散點的Y值隨X值增加而上升，0<r≤1，如圖2.7(a)；如果散點完全在一條直線上，則為完全正相關(guān)，r＝1，如上圖(b)。負(fù)相關(guān)： 散點的Y值隨X值增加而減少，－l≤r<0，如上圖(c)；如果散點完全在一條直線上，則為完全負(fù)相關(guān)，r＝－1，如上圖(d)。零相關(guān)： 散點的X與Y的數(shù)值增減無一定規(guī)律，或Y值的變化不受X變化的影響，r＝0，如上圖(e、f、g)。無線性相關(guān)： 散點的X與Y的數(shù)值增減服從非直線規(guī)律，r＝0，如上圖(h)。計算公式

r==定義

由于抽樣誤差的影響，從相關(guān)系數(shù)為零的總體中隨機抽取的樣本的相關(guān)系數(shù)不一定為零，檢驗樣本相關(guān)系數(shù)不等于零的可能性，即稱為相關(guān)系數(shù)的差異顯著性檢驗。常用方法為檢驗。計算步驟（1）檢驗假設(shè)

X與Y沒有相關(guān)關(guān)系，即總體相關(guān)系數(shù)＝0，樣本相關(guān)系數(shù)r是從中抽取，r與的差別是由于抽樣誤差而引起。

（2）計算

（3）確定P值與判斷結(jié)果椐自由度n′＝n－2查附表8(相關(guān)系數(shù)r界值表)，據(jù)界值與計算相關(guān)系數(shù)的比較結(jié)果判定。 環(huán)境研究中，常需由一個變量（自變量，X）推算另一個變量（因變量，Y）的估計值，稱為回歸分析。 直線回歸（linearregression）分析的任務(wù)是，按照各點到直線的距離的平方和最小的要求，確定一條最接近于各點的直線（回歸直線），并建立這條直線的方程（回歸