數(shù)據(jù)修約規(guī)則_PPT

1、數(shù)據(jù)修約規(guī)則及極限數(shù)值的表示和判定在數(shù)據(jù)修約規(guī)則及極限數(shù)值的表示和判定在環(huán)境監(jiān)測(cè)中的應(yīng)用環(huán)境監(jiān)測(cè)中的應(yīng)用l1、數(shù)字修約l2、極限數(shù)值的表示和判定l3、環(huán)境監(jiān)測(cè)中的應(yīng)用 GB/T8170-2008 數(shù)據(jù)修約規(guī)則數(shù)據(jù)修約規(guī)則 與與 極限數(shù)值的標(biāo)示和判定極限數(shù)值的標(biāo)示和判定術(shù)語(yǔ)術(shù)語(yǔ)l修約間隔：修約間隔：修約值的最小數(shù)值單位，系確定修約值的最小數(shù)值單位，系確定修約保留位數(shù)的一種方式。修約間隔的數(shù)值修約保留位數(shù)的一種方式。修約間隔的數(shù)值一經(jīng)確定，修約值即應(yīng)為該數(shù)值的整數(shù)倍。一經(jīng)確定，修約值即應(yīng)為該數(shù)值的整數(shù)倍。 例1：如指定修約間隔為0.1，修約值即應(yīng)在0.1的整數(shù)倍中選取，相當(dāng)于將數(shù)值修約到一位小數(shù)。

2、例2：如指定修約間隔為100，修約值即應(yīng)在100的整數(shù)倍中選取，相當(dāng)于將數(shù)值修約到“百”數(shù)位。 l 有效位數(shù)：有效位數(shù)：對(duì)沒(méi)有小數(shù)位且以若干個(gè)零結(jié)尾的數(shù)對(duì)沒(méi)有小數(shù)位且以若干個(gè)零結(jié)尾的數(shù)值，從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去值，從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無(wú)效零（即僅為定位用的零）的個(gè)數(shù)；對(duì)其他十無(wú)效零（即僅為定位用的零）的個(gè)數(shù)；對(duì)其他十進(jìn)位數(shù)，從非零數(shù)字最左一位向右數(shù)而得到的位進(jìn)位數(shù)，從非零數(shù)字最左一位向右數(shù)而得到的位數(shù)，就是有效位數(shù)。數(shù)，就是有效位數(shù)。例1：35000，若有兩個(gè)無(wú)效零，則為三位有效位數(shù)，應(yīng)寫(xiě)為350102；若有三個(gè)無(wú)效零，則為兩位有效位數(shù)，應(yīng)寫(xiě)為35103。例2

3、：3.2，0.32，0.032，0.0032均為兩位有效位數(shù)；0.0320為三位有效位數(shù)。例3：12.490為五位有效位數(shù)；10.00為四位有效位數(shù)。l0.5單位修約（半個(gè)單位修約）：?jiǎn)挝恍藜s（半個(gè)單位修約）：指修約間指修約間隔為指定數(shù)位的隔為指定數(shù)位的0.5單位，即修約到指定數(shù)單位，即修約到指定數(shù)位的位的0.5單位。單位。l 修約方法：修約方法：將擬修約數(shù)值將擬修約數(shù)值乘以乘以2，按指定數(shù)位依數(shù)字修約，按指定數(shù)位依數(shù)字修約規(guī)則修約，所得數(shù)值規(guī)則修約，所得數(shù)值再除以再除以2。 例1：將60.28修約到個(gè)數(shù)位的0.5單位（或修約間隔為0.5），得60.5。 例2：將60.25修約到個(gè)數(shù)位的0.5

4、單位（或修約間隔為0.5），得60.0。擬修約數(shù)值 乘22A修約值（修約間隔為1）A修約值（修約間隔為0.5）60.25120.5012060.060.38120.7612160.5將下列數(shù)字修約到個(gè)數(shù)位的將下列數(shù)字修約到個(gè)數(shù)位的0.5單位（或修約間單位（或修約間隔為隔為0.5） l0.2單位修約：?jiǎn)挝恍藜s：指修約間隔為指定數(shù)位指修約間隔為指定數(shù)位的的0.2單位，即修約到指定數(shù)位的單位，即修約到指定數(shù)位的0.2單位。單位。l 將擬修約數(shù)值將擬修約數(shù)值乘以乘以5，按指定數(shù)位依數(shù)字修約規(guī)，按指定數(shù)位依數(shù)字修約規(guī)則修約，所得數(shù)值則修約，所得數(shù)值再除以再除以5。 例1：將830修約到“百”數(shù)位的0.2

5、單位（或修約間隔為20） ，得840。 例:2：將842修約到“百”數(shù)位的0.2單位（或修約間隔為20） ，得840。 擬修約數(shù)值 乘55A修約值（修約間隔為100）A修約值（修約間隔為20 ）8304150420084084242104200840將下列數(shù)字修約到將下列數(shù)字修約到 “百百”數(shù)位的數(shù)位的0.2單位（或修單位（或修約間隔為約間隔為20） 確定修約位數(shù)的表達(dá)方式確定修約位數(shù)的表達(dá)方式l指定數(shù)位(指定修約間隔)；l指定將數(shù)值修約成n位有效位數(shù)。四舍六入五考慮，四舍六入五考慮，五后非零則進(jìn)一，五后非零則進(jìn)一， 五后皆零視奇偶，五后皆零視奇偶，五前為偶應(yīng)舍去，五前為偶應(yīng)舍去， 五前為奇則

6、進(jìn)一，五前為奇則進(jìn)一，不論數(shù)字多少位，不論數(shù)字多少位，都要一次修約成。都要一次修約成。 進(jìn)舍規(guī)則進(jìn)舍規(guī)則l擬舍棄數(shù)字的最左一位數(shù)字?jǐn)M舍棄數(shù)字的最左一位數(shù)字小于小于5時(shí)時(shí)，則則舍去舍去，即保留的各位數(shù)字不變。，即保留的各位數(shù)字不變。例1：將12.1498修約到一位小數(shù)，得12.1。例2：將12.1498修約成兩位有效位數(shù)，得12。l擬舍棄數(shù)字的最左一位數(shù)字?jǐn)M舍棄數(shù)字的最左一位數(shù)字大于大于5；或者是；或者是5，而其，而其后跟有后跟有并非全部為并非全部為0的數(shù)字時(shí)的數(shù)字時(shí)，則，則進(jìn)一進(jìn)一，即保留的末位數(shù)字，即保留的末位數(shù)字加加1。例1：將1268修約到“百”數(shù)位，得13102（特定時(shí)可寫(xiě)為1300）

7、。例2：將1268修約成三位有效位數(shù)，得12710（特定時(shí)可寫(xiě)為1270）。例3：將10.502修約到個(gè)數(shù)位，得11。 l擬舍棄數(shù)字的最左一位數(shù)字?jǐn)M舍棄數(shù)字的最左一位數(shù)字為為5，而右面無(wú)而右面無(wú)數(shù)字或皆為數(shù)字或皆為0時(shí)，時(shí)，l若所保留的末位數(shù)字為若所保留的末位數(shù)字為奇數(shù)奇數(shù)（1，3，5，7，9）則）則進(jìn)一進(jìn)一，l若所保留的末位數(shù)字為若所保留的末位數(shù)字為偶數(shù)偶數(shù)（2，4，6，8，0）則）則舍棄舍棄。例1：修約間隔為0.1 擬修約數(shù)值 1.050修約值結(jié)果 1.0 l負(fù)數(shù)負(fù)數(shù)修約時(shí)，修約時(shí)，先將它先將它的絕對(duì)值按數(shù)字修約的絕對(duì)值按數(shù)字修約規(guī)定進(jìn)行規(guī)定進(jìn)行修約修約，然后在修約值前面，然后在修約值前面

8、加上負(fù)加上負(fù)號(hào)號(hào)。 例1：將下列數(shù)字修約到“十”數(shù)位 擬修約數(shù)值 修約值 -355-3610l不許連續(xù)修約不許連續(xù)修約 擬修約數(shù)字應(yīng)在確定修約位數(shù)后擬修約數(shù)字應(yīng)在確定修約位數(shù)后一次修約一次修約獲得結(jié)果獲得結(jié)果，而不得多次按進(jìn)舍規(guī)則連續(xù)修，而不得多次按進(jìn)舍規(guī)則連續(xù)修約。約。例如：修約15.4546，修約間隔為1 正確的做法： 15.454615 不正確的做法： 15.454615.45515.4615.516l在具體實(shí)施中，有時(shí)測(cè)試與計(jì)算部門(mén)先將在具體實(shí)施中，有時(shí)測(cè)試與計(jì)算部門(mén)先將獲得數(shù)值按指定的修約位數(shù)多一位或幾位報(bào)獲得數(shù)值按指定的修約位數(shù)多一位或幾位報(bào)出，而后由其他部門(mén)判定。為避免產(chǎn)生連續(xù)出

9、，而后由其他部門(mén)判定。為避免產(chǎn)生連續(xù)修約的錯(cuò)誤，應(yīng)按下述步驟進(jìn)行。修約的錯(cuò)誤，應(yīng)按下述步驟進(jìn)行。1. 報(bào)出數(shù)值最右的非零數(shù)字為報(bào)出數(shù)值最右的非零數(shù)字為5時(shí)，應(yīng)在數(shù)時(shí)，應(yīng)在數(shù)值后面加值后面加“（）（）”或或“（）（）”或不或不加符號(hào)，加符號(hào)，以分別表明已進(jìn)行過(guò)舍、進(jìn)或以分別表明已進(jìn)行過(guò)舍、進(jìn)或未舍未進(jìn)。未舍未進(jìn)。 例：16.50（）表示實(shí)際值大于16.50，經(jīng)修約舍棄成為16.50； 16.50（）表示實(shí)際值小于16.50，經(jīng)修約進(jìn)一成為16.50。2. 如果判定報(bào)出值需要進(jìn)行修約，當(dāng)擬舍棄數(shù)字的如果判定報(bào)出值需要進(jìn)行修約，當(dāng)擬舍棄數(shù)字的最左一位數(shù)字為最左一位數(shù)字為5而后面無(wú)數(shù)字或皆為零時(shí)，而后

10、面無(wú)數(shù)字或皆為零時(shí)，數(shù)數(shù)值后面有值后面有(+)號(hào)者進(jìn)一，數(shù)值后面有號(hào)者進(jìn)一，數(shù)值后面有(-)號(hào)者舍去號(hào)者舍去，其他仍按數(shù)字修約規(guī)則進(jìn)行。其他仍按數(shù)字修約規(guī)則進(jìn)行。 例：將下列數(shù)字修約到個(gè)數(shù)位后進(jìn)行判定（報(bào)出值多留一 位到一位小數(shù)）。 實(shí)測(cè)值 報(bào)出值修約值 15.4546 15.5（一） 15 16.5203 16.5（） 17 -17.5000 -17.5 -18 -15.4546-(15.5(一) -15 計(jì)算法則加減運(yùn)算l應(yīng)以各數(shù)中有效數(shù)字末位數(shù)的應(yīng)以各數(shù)中有效數(shù)字末位數(shù)的數(shù)位最高者數(shù)位最高者為準(zhǔn)為準(zhǔn)（小數(shù)即以小數(shù)部分位數(shù)最少者為（小數(shù)即以小數(shù)部分位數(shù)最少者為準(zhǔn)），其余數(shù)均比該數(shù)準(zhǔn)），其余

11、數(shù)均比該數(shù)向右多保留一位有向右多保留一位有效數(shù)字。效數(shù)字。 例如： 5.89+15.2551=5.89+15.255=21.145 乘除運(yùn)算 應(yīng)以各數(shù)中有效數(shù)字位數(shù)應(yīng)以各數(shù)中有效數(shù)字位數(shù)最少者為準(zhǔn)最少者為準(zhǔn)，其，其余數(shù)均多取一位有效數(shù)字，所得積或商也余數(shù)均多取一位有效數(shù)字，所得積或商也多取一位有效數(shù)字多取一位有效數(shù)字。 例如： 2.13.1242.13.126.55 平方或開(kāi)方運(yùn)算l其結(jié)果可比原數(shù)其結(jié)果可比原數(shù)多保留一位有效數(shù)字多保留一位有效數(shù)字。 例如： 1.421.96 1.233=1.861 對(duì)數(shù)運(yùn)算 l所取對(duì)數(shù)位數(shù)應(yīng)所取對(duì)數(shù)位數(shù)應(yīng)與真數(shù)有效數(shù)字位數(shù)與真數(shù)有效數(shù)字位數(shù)相等相等。 例如：

12、lg12.3=1.09 特殊實(shí)例特殊實(shí)例非連續(xù)型數(shù)值 個(gè)數(shù)、分?jǐn)?shù)、倍數(shù)、名義濃度或標(biāo)示量等個(gè)數(shù)、分?jǐn)?shù)、倍數(shù)、名義濃度或標(biāo)示量等是沒(méi)有欠準(zhǔn)數(shù)字的，是沒(méi)有欠準(zhǔn)數(shù)字的，其有效位數(shù)可視為無(wú)其有效位數(shù)可視為無(wú)限多位；限多位； 常數(shù)常數(shù)、e和系數(shù)和系數(shù)2，1/2 等數(shù)值的有效位等數(shù)值的有效位數(shù)也數(shù)也可視為是無(wú)限多位可視為是無(wú)限多位。例如： 1. 分子式“H2S04”中的“2”和“4”是個(gè)數(shù)； 2. 含量測(cè)定項(xiàng)下“每1ml的滴定液（0.1mol/L）”中的“0.1”為名義濃度，其有效位數(shù)均為無(wú)限多位； 3. 規(guī)格項(xiàng)下的“0.3g”或“1ml ”，“25mg”中的“0.3”、“1”和“25”的有效位數(shù)也均為無(wú)

13、限多位。結(jié)論： 在計(jì)算中，其有效位數(shù)應(yīng)根據(jù)其他數(shù)值的最少有效位數(shù)而定。兩種方法的使用和比較l 1、當(dāng)標(biāo)準(zhǔn)或文件中對(duì)極限數(shù)值無(wú)特殊規(guī)定時(shí)，均應(yīng)采用全數(shù)值比較法。如規(guī)定采用修約值比較法，應(yīng)在標(biāo)準(zhǔn)中加以說(shuō)明。l 2、對(duì)同樣的極限數(shù)值，若本身符合要求，則全數(shù)值比較法相對(duì)較嚴(yán)格。 數(shù)字修約規(guī)則 在環(huán)境監(jiān)測(cè)中的應(yīng)用 地表水與污水分析結(jié)果的表達(dá)（一）摘自HJ/T92地表水與污水分析結(jié)果的表達(dá)（二）HJ/T 91-2002 地表水和污水監(jiān)測(cè)技術(shù)規(guī)范地表水和污水監(jiān)測(cè)技術(shù)規(guī)范室內(nèi)空氣監(jiān)測(cè)技術(shù)規(guī)范（HJ/T167-2004）1、原始記錄有效數(shù)字保留位數(shù)、原始記錄有效數(shù)字保留位數(shù)1.1用空氣流量校準(zhǔn)器校準(zhǔn)流量時(shí)，二氧

14、化硫、甲醛、氨等采樣器流量記錄至小數(shù)點(diǎn)后兩位，單位：L/min。PM10、菌落總數(shù)等采樣泵流量記錄到整數(shù)，單位：L/min。1.2在現(xiàn)場(chǎng)采樣記錄中，氣溫記錄到小數(shù)點(diǎn)后一位，單位：；氣壓記錄到小數(shù)點(diǎn)后一位，單位：kPa；濕度記錄到整數(shù)，單位：；風(fēng)速記錄到小數(shù)點(diǎn)后一位，單位：ms；采樣流量記錄同校準(zhǔn)流量一致，單位：L/min；采樣時(shí)間到整數(shù)，單位：min；采樣體積及換算標(biāo)準(zhǔn)狀態(tài)體積記錄到小數(shù)點(diǎn)后一位，二氧化硫、甲醛、氨等，單位：L；PM10等，單位：m3。PM10（重量法）稱(chēng)重記錄到小數(shù)點(diǎn)后四位，單位：g。分光光度法測(cè)定吸光度值記錄到小數(shù)點(diǎn)后三位。2、校準(zhǔn)曲線回歸處理與有效數(shù)字、校準(zhǔn)曲線回歸處理與有效數(shù)字2.l用具有回歸統(tǒng)計(jì)功能的計(jì)算器進(jìn)行計(jì)算時(shí)，把原始數(shù)據(jù)輸入則可直接顯示r、a、b，從而求得一元回歸方程： y=axb，回歸時(shí)應(yīng)扣除空白值。不扣除空白值，直接回歸的曲線，可用來(lái)計(jì)算空白值的濃度。2.2r取小數(shù)點(diǎn)后全部9（但最多取小數(shù)點(diǎn)后四位）與第一位非9的修約數(shù)字。2.3a的有效數(shù)字位數(shù)，應(yīng)與自變量x的有效數(shù)字位數(shù)相等，或最多比x多保留一位。b的最后一位數(shù)，則和因變量y的最后一位數(shù)取齊，或最多比y 多一位。土壤樣品分析結(jié)果表達(dá)l 1、低于方法檢出限按照“未檢出”報(bào)出，參加統(tǒng)計(jì)是按照1