有效數(shù)字與數(shù)字修約

有效數(shù)字與數(shù)字修約目錄TOC\o"1-2"\h\z\u1. 目的 22. 范圍 23. 引言、定義和縮略語 24. 程序 24.1 原始數(shù)據(jù)的讀取和修約 24.2 有效數(shù)字的運算規(guī)則 24.3 數(shù)據(jù)修約規(guī)則 34.4 注意事項 34.5 實例 45. 登記和歸檔 46. 職責 57. 培訓 5目的本條SOP的目的是保證正確記錄和處理原始數(shù)據(jù)。范圍引言、定義和縮略語有效數(shù)字是指實際能夠測量到的數(shù)字，它由可靠的數(shù)字加上一位估計的、不確定的數(shù)字組成。有效數(shù)字的位數(shù)是指從該數(shù)左方第一個非零數(shù)字算起到最末一個數(shù)字（包括零）的個數(shù)，不取決于小數(shù)點的位置。即第一個非零數(shù)字前的零不是有效數(shù)字；第一個非零數(shù)字后開始的所有數(shù)字（包括零）都是有效數(shù)字。例如，0.568和0.0568都有三位有效數(shù)字；2.70有三位有效數(shù)字，而2.700則有四位有效數(shù)字。有效數(shù)字位數(shù)的多少，表明了測量所能達到的準確程度，這與所被測物和測量工具的精度有關(guān)，即當被測物和測量工具被選定后，測量值的有效數(shù)字位數(shù)就已經(jīng)確定了。例如，測得物體的長度為3.36cm，有三位有效數(shù)字，若使用千分尺測量，應為3.3600cm，有五位有效數(shù)字。程序原始數(shù)據(jù)的讀取4.1.1讀取至測量工具的最小單位。如有必要或需要進一步計算，可再向下估讀一位。即讀取測量值時應確定測量工具的精確度。例如，50ml和250ml容量瓶的精度分別為0.01ml和0.1ml，所配溶液體積應分別為50.00ml和250.0ml。4.1.2對于帶數(shù)字顯示或打印機的儀器設備，有效數(shù)字直接為顯示值或打印值，并與儀器設備和試驗方法保持一致。有效數(shù)字的運算規(guī)則在計算過程中，有效數(shù)字的確定遵循以下標準：修約，修約僅需考慮最后一位有效數(shù)字后一位的數(shù)字。例如：2.154546保留三位有效數(shù)字正確修約：2.154546→2.15錯誤修約：2.154546→2.15455→2.1546→2.155→2.16。4.4.3單位轉(zhuǎn)換時，為了使有效數(shù)字的位數(shù)不變，盡量使用科學計數(shù)法。例如，70cm可記為700mm，有效數(shù)字的位數(shù)改變了，可用7.0×10cm和7.0×102mm表示，不改變有效數(shù)字的位數(shù)。此外，數(shù)字過大或過小時，也應盡量使用科學計數(shù)法表示。實例4.5.1經(jīng)計算得到某物重量為4.3415mg，不確定度為2.0478mg。首先，將不確定度修約為兩位有效數(shù)字2.0mg（注意，非零數(shù)字后的零為有效數(shù)字），則重量值修約為4.3mg。注意修約后該值及不確定度的小數(shù)點后位數(shù)應一致。故修約結(jié)果為4.3mg±2.0mg。4.5.2經(jīng)計算得到某容量瓶容積為2000.714431ml，不確定度為0.084024ml。首先，將不確定度修約為兩位有效數(shù)字即0.084ml，則容積值修約為2000.714ml。注意修約后該值及不確定度的小數(shù)點后位數(shù)應一致。故修約結(jié)果為2000.714ml±0.084ml。4.5.3經(jīng)計算得到某物重量為285.41mg，不確定度為102.98mg。由于其不確定度大，首先，將該值及不確定度轉(zhuǎn)換為較大的常用單位，即0.28541g和0.10298g，然后將不確定度修約為兩位有效數(shù)字0.10g（注意，非零數(shù)字后的零為有效數(shù)字），則重量值修約為0.29g。注意修約后該值及不確定度的小數(shù)點后位數(shù)應一致。故修約結(jié)果為0.29g±0.10g。4.5.4經(jīng)計算得到某物重量為285.41mg，不確定度為33.4875mg。首先，將不確定度修約為兩位有效數(shù)字33mg，則重量值修約為285mg