檢測(cè)數(shù)據(jù)修約處理ppt課件

.,檢測(cè)數(shù)據(jù)修約處理,GB/T8170-20082015.04.14,.,目錄,術(shù)語(yǔ)確定修約位數(shù)的表達(dá)方式進(jìn)舍規(guī)則不連續(xù)修約0.5單位修約及0.2單位修約計(jì)算法則(參考上海市計(jì)量檢定人員計(jì)量基礎(chǔ)知識(shí)培訓(xùn)教材),.,術(shù)語(yǔ),.,數(shù)值修約通過(guò)省略原數(shù)值的最后若干位數(shù)字，調(diào)整所保留的末位數(shù)字，使最后所得到的值最接近原數(shù)值的過(guò)程。注：經(jīng)數(shù)值修約后的數(shù)值稱為修約值。,10.41,10.4,數(shù)值修約,原始數(shù)值,修約值,10.5,.,有效數(shù)字該數(shù)值從其第一個(gè)不是零的數(shù)字起到最末一位數(shù)的全部數(shù)字即為有效數(shù)字。例1：3.2，0.32，0.032，0.0032均為兩位有效位數(shù)；0.0320為三位有效位數(shù)。例2：12.490為五位有效位數(shù)；10.00為四位有效位數(shù)。例3：1.35cm=13.5mm=0.0135m，這三種表示法完全等效，均為三位有效數(shù)字。,.,.,220022032210,586005861158670,.,確定修約位數(shù)的表達(dá)方式,.,確定修約位數(shù)的表達(dá)方式,指定數(shù)位(指定修約間隔)；指定將數(shù)值修約成n位有效位數(shù)。,.,進(jìn)舍規(guī)則,.,四舍六入逢五取偶,擬舍棄數(shù)字最左一位數(shù)字小于5，則舍去，保留其余各位數(shù)字不變例1：將12.1498修約到個(gè)位數(shù)（即修約間隔為1），得12；將12.1498修約到1位小數(shù)（即修約間隔為0.1），得12.1。擬舍棄數(shù)字最左一位數(shù)字大于5，或者是5，而其后跟有并非全部為0的數(shù)字時(shí)，則進(jìn)一，即保留的末位數(shù)字加1。例2：將1268修約到“百”數(shù)位，得1300。例3：將10.502修約到個(gè)數(shù)位，得11。,.,擬舍棄數(shù)字的最左一位數(shù)字為5，而右面無(wú)數(shù)字或皆為0時(shí)，若所保留的末位數(shù)字為奇數(shù)（1，3，5，7，9）則進(jìn)一，若所保留的末位數(shù)字為偶數(shù)（2，4，6，8，0）則舍棄。（逢五取偶）例1：1.050修約到1位小數(shù)，得1.0。例2：0.35修約到1為小數(shù)，得0.4。,.,負(fù)數(shù)修約時(shí)，先將它的絕對(duì)值按數(shù)字進(jìn)舍規(guī)則（四舍六入逢五取偶）進(jìn)行修約，然后在修約值前面加上負(fù)號(hào)。例：將下列數(shù)字修約到三位小數(shù)擬修約數(shù)值修約值-0.0365-0.036,0.0365,絕對(duì)值,.,不連續(xù)修約,.,1、擬修約數(shù)字應(yīng)在確定修約位數(shù)后一次修約獲得結(jié)果，而不得多次按進(jìn)舍規(guī)則連續(xù)修約。例如：修約15.4546，修約間隔為1正確的做法：15.454615不正確的做法：15.454615.45515.4615.516,.,2、在具體實(shí)施中，有時(shí)測(cè)試與計(jì)算部門(mén)先將獲得數(shù)值按指定的修約位數(shù)多一位或幾位報(bào)出，而后由其他部門(mén)判定。為避免產(chǎn)生連續(xù)修約的錯(cuò)誤，應(yīng)按下述步驟進(jìn)行。,報(bào)出數(shù)值最右的非零數(shù)字為5時(shí)，應(yīng)在數(shù)值后面加“（）”或“（）”或不加符號(hào)，以分別表明已進(jìn)行過(guò)舍、進(jìn)或未舍未進(jìn)。例：16.50（）表示實(shí)際值大于16.50，經(jīng)修約舍棄成為16.50；16.50（）表示實(shí)際值小于16.50，經(jīng)修約進(jìn)一成為16.50。,.,如果報(bào)出值需要進(jìn)行修約，當(dāng)擬舍棄數(shù)字的最左一位數(shù)字為5而后面無(wú)數(shù)字或皆為零時(shí)，數(shù)值后面有(+)號(hào)者進(jìn)一，數(shù)值后面有(-)號(hào)者舍去，其他仍按數(shù)字修約規(guī)則進(jìn)行。例：將下列數(shù)字修約到個(gè)數(shù)位（報(bào)出值多留一位到一位小數(shù)）。實(shí)測(cè)值報(bào)出值修約值15.454615.5（一）15-15.4546-15.5(一)-1516.520316.5（）17-17.5000-17.5-18,.,0.5單位修約及0.2單位修約,.,0.5單位修約（半個(gè)單位修約）指修約間隔為指定數(shù)位的0.5單位，即修約到指定數(shù)位的0.5單位。修約方法：將擬修約數(shù)值乘以2，按指定數(shù)位依數(shù)字修約規(guī)則修約，所得數(shù)值再除以2。例：將下列數(shù)字修約到個(gè)數(shù)位的0.5單位,擬修約數(shù)值X2X2X修約值X修約值60.25120.5012060.060.38120.7612160.560.28120.5612160.5-60.75-121.50-122-61.0,.,0.2單位修約指修約間隔為指定數(shù)位的0.2單位，即修約到指定數(shù)位的0.2單位。修約方法：將擬修約數(shù)值乘以5，按指定數(shù)位依數(shù)字修約規(guī)則修約，所得數(shù)值再除以5。例：將下列數(shù)字修約到“百”數(shù)位的0.2單位（或修約間隔為20）,.,計(jì)算法則,參考上海市計(jì)量檢定人員計(jì)量基礎(chǔ)知識(shí)培訓(xùn)教材,.,加減運(yùn)算,計(jì)算結(jié)果的末位數(shù)位，應(yīng)與參加運(yùn)算數(shù)據(jù)中的末位數(shù)位最大的位數(shù)相同。對(duì)帶小數(shù)點(diǎn)的運(yùn)算，計(jì)算結(jié)果小數(shù)點(diǎn)后保留的位數(shù)應(yīng)與參加運(yùn)算數(shù)據(jù)里小數(shù)點(diǎn)后末位最左的位數(shù)相同。例：1.5+0.42=1.92=1.9,.,乘除運(yùn)算,計(jì)算結(jié)果的位數(shù)，應(yīng)與參加運(yùn)算數(shù)據(jù)里有效數(shù)字最小的位數(shù)相同。例：0.160*2.6=0.4160=0.42,.,平方或開(kāi)方運(yùn)算,運(yùn)算結(jié)果與原來(lái)數(shù)據(jù)里有效位數(shù)相同。例：1.42=1.96=2.01.233=1.5129=1.51,.,對(duì)數(shù)運(yùn)算,所取對(duì)數(shù)位數(shù)應(yīng)與真數(shù)有效數(shù)字位數(shù)相等。例：lg12.3=1.09,.,混合運(yùn)算,先開(kāi)方或乘方，并修約，再乘除，進(jìn)行修約，最后進(jìn)行加減，并對(duì)結(jié)果進(jìn)行修約。乘除注：以有效數(shù)位數(shù)最少的數(shù)據(jù)為準(zhǔn)，