檢測數(shù)據(jù)修約處理

1、GB/T8170-20082015.04.14術(shù)語術(shù)語確定修約位數(shù)的表達(dá)方式確定修約位數(shù)的表達(dá)方式進(jìn)舍進(jìn)舍規(guī)則規(guī)則不連續(xù)修約不連續(xù)修約0.50.5單位修約及單位修約及0.20.2單位修約單位修約計(jì)算法則計(jì)算法則( (參考上海市計(jì)量檢定人員計(jì)量基礎(chǔ)知識培訓(xùn)教材參考上海市計(jì)量檢定人員計(jì)量基礎(chǔ)知識培訓(xùn)教材) )數(shù)值修約數(shù)值修約 通過省略原數(shù)值的最后若干位數(shù)字，調(diào)整所保留的通過省略原數(shù)值的最后若干位數(shù)字，調(diào)整所保留的末位數(shù)字，使最后所得到的值末位數(shù)字，使最后所得到的值最接近原數(shù)值最接近原數(shù)值的過程。的過程。注：經(jīng)數(shù)值修約后的數(shù)值稱為注：經(jīng)數(shù)值修約后的數(shù)值稱為修約值修約值。10.4110.4數(shù)值修約原始

2、數(shù)值 修約值10.5有效有效數(shù)字?jǐn)?shù)字 該數(shù)值從其第一個不是零的數(shù)字起到最末一位數(shù)的該數(shù)值從其第一個不是零的數(shù)字起到最末一位數(shù)的全部數(shù)字即為有效數(shù)字。全部數(shù)字即為有效數(shù)字。例1：3.2，0.32，0.032，0.0032均為兩位有效位數(shù)；0.0320為三位有效位數(shù)。例2：12.490為五位有效位數(shù)；10.00為四位有效位數(shù)。 例3：1.35cm =13.5 mm =0.0135m ，這三種表示法完全等效，均為三位有效數(shù)字。2200 2203 2210 58600 58611 58670 指定數(shù)位指定數(shù)位( (指定修約間隔指定修約間隔) )；指定將數(shù)值修約成指定將數(shù)值修約成n n位有效位數(shù)。位有效

3、位數(shù)。四舍六入四舍六入 逢五取偶逢五取偶 擬舍棄擬舍棄數(shù)字?jǐn)?shù)字最左一位最左一位數(shù)字小于數(shù)字小于5 5，則，則舍去舍去，保留其余各位，保留其余各位數(shù)字不變數(shù)字不變例1：將12.1498修約到個位數(shù)（即 修約間隔為1），得12；將12.1498修約到1位小數(shù)（即 修約間隔為0.1），得12.1 。 擬舍棄擬舍棄數(shù)字?jǐn)?shù)字最左一位最左一位數(shù)字大于數(shù)字大于5 5 ，或者是或者是5 5，而其后跟有，而其后跟有并非全部為并非全部為0 0的數(shù)字時，則進(jìn)一，即保留的末位數(shù)字加的數(shù)字時，則進(jìn)一，即保留的末位數(shù)字加1 1。例2：將1268修約到“百”數(shù)位，得1300。例3：將10.502修約到個數(shù)位，得11。擬舍棄

4、數(shù)字的最左一位數(shù)字為擬舍棄數(shù)字的最左一位數(shù)字為5 5，而右面無數(shù)字或皆為，而右面無數(shù)字或皆為0 0時，時， 若所保留的末位數(shù)字為奇數(shù)（若所保留的末位數(shù)字為奇數(shù)（1 1，3 3，5 5，7 7，9 9）則進(jìn)一，）則進(jìn)一， 若所保留的末位數(shù)字為偶數(shù)（若所保留的末位數(shù)字為偶數(shù)（2 2，4 4，6 6，8 8，0 0）則舍棄。）則舍棄。（逢五取偶）逢五取偶）例1：1.050修約到1位小數(shù)，得1.0 。例2：0.35 修約到1為小數(shù)，得0.4 。負(fù)數(shù)修約時，先將它的負(fù)數(shù)修約時，先將它的絕對值絕對值按數(shù)字進(jìn)舍規(guī)則（按數(shù)字進(jìn)舍規(guī)則（四舍六入四舍六入 逢五取偶逢五取偶）進(jìn)行修約，然后在修約值前面加上負(fù)號。）進(jìn)

5、行修約，然后在修約值前面加上負(fù)號。例：將下列數(shù)字修約到三位小數(shù) 擬修約數(shù)值 修約值 -0.0365-0.0360.0365絕對值1 1、擬修約數(shù)字應(yīng)在確定修約位數(shù)后、擬修約數(shù)字應(yīng)在確定修約位數(shù)后一次一次修約獲得結(jié)果，而修約獲得結(jié)果，而不得多次按進(jìn)舍規(guī)則連續(xù)修約。不得多次按進(jìn)舍規(guī)則連續(xù)修約。例如：修約15.4546，修約間隔為1 正確的做法： 15.454615 不正確的做法： 15.454615.45515.4615.5162 2、在具體實(shí)施中，有時測試與計(jì)算部門先將獲得數(shù)值按在具體實(shí)施中，有時測試與計(jì)算部門先將獲得數(shù)值按指定的修約位數(shù)多一位或幾位報出，而后由其他部門判指定的修約位數(shù)多一位或幾

6、位報出，而后由其他部門判定。為避免產(chǎn)生連續(xù)修約的錯誤，應(yīng)按下述步驟進(jìn)行。定。為避免產(chǎn)生連續(xù)修約的錯誤，應(yīng)按下述步驟進(jìn)行。l報出數(shù)值最右的非零數(shù)字為報出數(shù)值最右的非零數(shù)字為5 5時，應(yīng)在數(shù)值后面加時，應(yīng)在數(shù)值后面加“（）（）”或或“（）（）”或不加符號，以分別表明已進(jìn)行或不加符號，以分別表明已進(jìn)行過舍、進(jìn)或未舍未進(jìn)。過舍、進(jìn)或未舍未進(jìn)。 例：16.50（）表示實(shí)際值大于16.50，經(jīng)修約舍棄成為16.50； 16.50（）表示實(shí)際值小于16.50，經(jīng)修約進(jìn)一成為16.50。l如果報出值需要進(jìn)行修約，當(dāng)擬舍棄數(shù)字的最左一位數(shù)字如果報出值需要進(jìn)行修約，當(dāng)擬舍棄數(shù)字的最左一位數(shù)字為為5 5而后面無數(shù)字

7、或皆為零時，數(shù)值后面有而后面無數(shù)字或皆為零時，數(shù)值后面有(+)(+)號者進(jìn)一，號者進(jìn)一，數(shù)值后面有數(shù)值后面有( (- -) )號者舍去，其他仍按數(shù)字修約規(guī)則進(jìn)行。號者舍去，其他仍按數(shù)字修約規(guī)則進(jìn)行。 例：將下列數(shù)字修約到個數(shù)位（報出值多留一位到一位小數(shù)）。 實(shí)測值 報出值修約值 15.4546 15.5（一） 15 -15.4546-15.5(一) -15 16.5203 16.5（） 17 -17.5000 -17.5 -18 0.50.5單位修約（半個單位修約）單位修約（半個單位修約）指修約間隔為指定數(shù)位的指修約間隔為指定數(shù)位的0.50.5單位，即修約到指定數(shù)單位，即修約到指定數(shù)位的位的0

8、.50.5單位。單位。修約方法：將擬修約數(shù)值乘以修約方法：將擬修約數(shù)值乘以2 2，按指定數(shù)位依數(shù)字修約規(guī)則修約，所得，按指定數(shù)位依數(shù)字修約規(guī)則修約，所得數(shù)值再除以數(shù)值再除以2 2。例：將下列數(shù)字修約到個數(shù)位的0.5單位擬修約數(shù)值X 2X 2X修約值 X修約值60.25 120.50 120 60.060.38 120.76 121 60.560.28 120.56 121 60.5-60.75 -121.50 -122 -61.00.20.2單位單位修約修約指指修約間隔為指定數(shù)位的修約間隔為指定數(shù)位的0.20.2單位，即修約到指定數(shù)單位，即修約到指定數(shù)位的位的0.20.2單位。單位。修約方法：

9、修約方法：將擬修約數(shù)值乘以將擬修約數(shù)值乘以5 5，按指定數(shù)位依數(shù)字修約規(guī)則修約，所得，按指定數(shù)位依數(shù)字修約規(guī)則修約，所得數(shù)值再除以數(shù)值再除以5 5。 例：將下列數(shù)字修約到 “百”數(shù)位的0.2單位（或修約間隔為20） 擬修約數(shù)值X5X5X修約值（修約間隔為100）X修約值（修約間隔為20 ）830415042008408424210420084083241604200840-930-4650-4600-920參考上海市計(jì)量檢定人員 計(jì)量基礎(chǔ)知識培訓(xùn)教材計(jì)算結(jié)果的末位計(jì)算結(jié)果的末位數(shù)位，數(shù)位，應(yīng)與參加運(yùn)算數(shù)據(jù)中的末位數(shù)位最大應(yīng)與參加運(yùn)算數(shù)據(jù)中的末位數(shù)位最大的位數(shù)相同的位數(shù)相同。對帶小數(shù)點(diǎn)的運(yùn)算，計(jì)

10、算結(jié)果小數(shù)點(diǎn)后保留的位數(shù)應(yīng)與參加對帶小數(shù)點(diǎn)的運(yùn)算，計(jì)算結(jié)果小數(shù)點(diǎn)后保留的位數(shù)應(yīng)與參加運(yùn)算數(shù)據(jù)里小數(shù)點(diǎn)后末位最左的位數(shù)相同運(yùn)算數(shù)據(jù)里小數(shù)點(diǎn)后末位最左的位數(shù)相同。 例：1.5+0.42=1.92=1.9 計(jì)算結(jié)果計(jì)算結(jié)果的位數(shù)，的位數(shù)，應(yīng)與參加運(yùn)算應(yīng)與參加運(yùn)算數(shù)據(jù)里有效數(shù)字最小的位數(shù)數(shù)據(jù)里有效數(shù)字最小的位數(shù)相同。相同。 例：0.160*2.6=0.4160=0.42 運(yùn)算結(jié)果與原來數(shù)據(jù)里有效位數(shù)相同。運(yùn)算結(jié)果與原來數(shù)據(jù)里有效位數(shù)相同。 例：1.42=1.96 =2.0 1.233=1.5129=1.51 所取對數(shù)位數(shù)應(yīng)與真數(shù)有效數(shù)字位數(shù)相等。所取對數(shù)位數(shù)應(yīng)與真數(shù)有效數(shù)字位數(shù)相等。 例：lg12.3=1.09 先開方或乘方，并修約，再乘除，進(jìn)行修約，最后進(jìn)行先開方或乘方，并修約，再乘除，進(jìn)行修約，最后進(jìn)行加減，并對結(jié)果進(jìn)行修約。加減，并對結(jié)果進(jìn)行修約。乘除乘除注：以有效數(shù)位數(shù)最少的數(shù)據(jù)為準(zhǔn)，注：以有效數(shù)位數(shù)最少的數(shù)據(jù)為準(zhǔn)，其他的數(shù)據(jù)比他多保留一位其他的數(shù)