有效數(shù)字與數(shù)字修約

1、有效數(shù)字與數(shù)字修約目錄 TOC o 1-2 h z u HYPERLINK l _Toc292375011 1.目的 PAGEREF _Toc292375011 h 3 HYPERLINK l _Toc292375012 2.范圍 PAGEREF _Toc292375012 h 3 HYPERLINK l _Toc292375013 3.引言、定義和縮略語 PAGEREF _Toc292375013 h 3 HYPERLINK l _Toc292375014 4.程序 PAGEREF _Toc292375014 h 3 HYPERLINK l _Toc292375015 4.1原始數(shù)據(jù)的讀取和

2、修約 PAGEREF _Toc292375015 h 3 HYPERLINK l _Toc292375016 4.2有效數(shù)字的運(yùn)算規(guī)則 PAGEREF _Toc292375016 h 4 HYPERLINK l _Toc292375017 4.3數(shù)據(jù)修約規(guī)則 PAGEREF _Toc292375017 h 4 HYPERLINK l _Toc292375018 4.4注意事項(xiàng) PAGEREF _Toc292375018 h 5 HYPERLINK l _Toc292375019 4.5實(shí)例 PAGEREF _Toc292375019 h 5 HYPERLINK l _Toc292375020

3、5.登記和歸檔 PAGEREF _Toc292375020 h 6 HYPERLINK l _Toc292375021 6.職責(zé) PAGEREF _Toc292375021 h 6 HYPERLINK l _Toc292375022 7.培訓(xùn) PAGEREF _Toc292375022 h 6目的 本條SOP的目的是保證正確記錄和處理原始數(shù)據(jù)。范圍 本條SOP適用于本公司所有進(jìn)行數(shù)據(jù)讀取、數(shù)據(jù)記錄和數(shù)據(jù)處理的員工。引言、定義和縮略語有效數(shù)字是指實(shí)際能夠測量到的數(shù)字，它由可靠的數(shù)字加上一位估計(jì)的、不確定的數(shù)字組成。有效數(shù)字的位數(shù)是指從該數(shù)左方第一個(gè)非零數(shù)字算起到最末一個(gè)數(shù)字（包括零）的個(gè)數(shù)，不取

4、決于小數(shù)點(diǎn)的位置。即第一個(gè)非零數(shù)字前的零不是有效數(shù)字；第一個(gè)非零數(shù)字后開始的所有數(shù)字（包括零）都是有效數(shù)字。例如，0.568和0.0568都有三位有效數(shù)字；2.70有三位有效數(shù)字，而2.700則有四位有效數(shù)字。有效數(shù)字位數(shù)的多少，表明了測量所能達(dá)到的準(zhǔn)確程度，這與所被測物和測量工具的精度有關(guān)，即當(dāng)被測物和測量工具被選定后，測量值的有效數(shù)字位數(shù)就已經(jīng)確定了。例如，測得物體的長度為3.36cm，有三位有效數(shù)字，若使用千分尺測量，應(yīng)為3.3600cm，有五位有效數(shù)字。程序 原始數(shù)據(jù)的讀取4.1.1 讀取至測量工具的最小單位。如有必要或需要進(jìn)一步計(jì)算，可再向下估讀一位。即讀取測量值時(shí)應(yīng)確定測量工具的精

5、確度。例如，50ml和250ml容量瓶的精度分別為0.01ml和0.1ml，所配溶液體積應(yīng)分別為50.00ml和250.0ml。4.1.2 對于帶數(shù)字顯示或打印機(jī)的儀器設(shè)備，有效數(shù)字直接為顯示值或打印值，并與儀器設(shè)備和試驗(yàn)方法保持一致。 有效數(shù)字的運(yùn)算規(guī)則 在計(jì)算過程中，有效數(shù)字的確定遵循以下標(biāo)準(zhǔn)：4.2.1 加減法：按小數(shù)點(diǎn)后位數(shù)最少的那個(gè)數(shù)確定。4.2.2 乘除法：按有效數(shù)字最少的那個(gè)數(shù)確定。4.2.3 對于一些常數(shù)，如水的密度、折光系數(shù)和法拉第常數(shù)等，應(yīng)根據(jù)具體要求確定其有效數(shù)字。4.2.4 計(jì)算結(jié)果的有效數(shù)字位數(shù)不由數(shù)學(xué)或物理常數(shù)來確定，數(shù)學(xué)或物理常數(shù)的有效數(shù)字位數(shù)可任意選取。一般選取

6、的位數(shù)應(yīng)比測量數(shù)據(jù)有效數(shù)字位數(shù)最少的多一位。例如：2.5=2.53.14 1.023=1.0233.1415 2.51.023=2.51.03.144.2.5 如果使用計(jì)算機(jī)軟件（Excel等）等進(jìn)行計(jì)算，可先計(jì)算后修約，即計(jì)算過程中保留所有原數(shù)據(jù)的有效數(shù)字，計(jì)算完畢后將結(jié)果一次性修約至需要的有效數(shù)字位數(shù)，也可采用軟件的數(shù)據(jù)修約規(guī)則代替上述修約規(guī)則。 數(shù)據(jù)修約規(guī)則按照中華人民共和國國家標(biāo)準(zhǔn)數(shù)字修約規(guī)則與極限數(shù)值的表示和判斷（GB 8170-2008）規(guī)定，數(shù)據(jù)修約依照“一次到位，四舍六入五成雙”規(guī)則。具體如下：當(dāng)保留N位有效數(shù)字，若第N+1位數(shù)字4，舍去。當(dāng)保留N位有效數(shù)字，若第N+1位數(shù)字6

7、，則第N位數(shù)字進(jìn)1。當(dāng)保留N位有效數(shù)字，若第N+1位數(shù)字=5，且后面的數(shù)字0，則第N位數(shù)字進(jìn)1；若后面的數(shù)字=0，則第N位數(shù)字若為偶數(shù)時(shí)就舍去后面的數(shù)字，若為奇數(shù)時(shí)就進(jìn)1。例如，2.541修約為2.5，2.462修約為2.5，2.453修約為2.5，2.450修約為2.4，2.550修約為2.6。 注意事項(xiàng)4.4.1 測定的數(shù)據(jù)經(jīng)過計(jì)算后其有效數(shù)字位數(shù)應(yīng)與輸入值一致或多一位，盡管最后一位數(shù)字是可疑的。4.4.2 數(shù)據(jù)處理時(shí)，一旦有效數(shù)字位數(shù)確定，最后一位有效數(shù)字后的數(shù)字應(yīng)被修約，修約僅需考慮最后一位有效數(shù)字后一位的數(shù)字。例如：2.154546保留三位有效數(shù)字正確修約：2.1545462.15錯(cuò)

8、誤修約：2.1545462.154552.15462.1552.16。4.4.3 單位轉(zhuǎn)換時(shí)，為了使有效數(shù)字的位數(shù)不變，盡量使用科學(xué)計(jì)數(shù)法。例如，70cm可記為700mm，有效數(shù)字的位數(shù)改變了，可用7.010cm和7.0102mm表示，不改變有效數(shù)字的位數(shù)。此外，數(shù)字過大或過小時(shí)，也應(yīng)盡量使用科學(xué)計(jì)數(shù)法表示。實(shí)例4.5.1 經(jīng)計(jì)算得到某物重量為4.3415mg，不確定度為2.0478mg。首先，將不確定度修約為兩位有效數(shù)字2.0mg（注意，非零數(shù)字后的零為有效數(shù)字），則重量值修約為4.3mg。注意修約后該值及不確定度的小數(shù)點(diǎn)后位數(shù)應(yīng)一致。故修約結(jié)果為4.3mg2.0mg。4.5.2 經(jīng)計(jì)算得到

9、某容量瓶容積為2000.714431ml，不確定度為0.084024ml。首先，將不確定度修約為兩位有效數(shù)字即0.084ml，則容積值修約為2000.714ml。注意修約后該值及不確定度的小數(shù)點(diǎn)后位數(shù)應(yīng)一致。故修約結(jié)果為2000.714ml0.084ml。4.5.3 經(jīng)計(jì)算得到某物重量為285.41mg，不確定度為102.98mg。由于其不確定度大，首先，將該值及不確定度轉(zhuǎn)換為較大的常用單位，即0.28541g和0.10298g，然后將不確定度修約為兩位有效數(shù)字0.10g（注意，非零數(shù)字后的零為有效數(shù)字），則重量值修約為0.29g。注意修約后該值及不確定度的小數(shù)點(diǎn)后位數(shù)應(yīng)一致。故修約結(jié)果為0.29g0.10g。4.5.4 經(jīng)計(jì)算得到某物重量為285.41mg，不確定度為33.4875mg。首先，將不確