有效數(shù)字和數(shù)值的修約及其運算

1、請下載支持!必酬聯(lián)箍有效數(shù)字和數(shù)值的修約及其運算肄薄薇蔗蛔荽果編制部門：質(zhì)量管理部索蝕神蒙贛斷膀編號：HYJT/SMP01-08-2011譽筮前曹藏奠蠢頁數(shù)：1/5袂菜妨薄建肆蔓起草人童眠唐蔽襖肇勘審核人蝸芾肅螃薇邕希批準(zhǔn)人慕小詢技凌膂起草原因：新i口修i腿嵋芍芾聿芍膽說明：蒲帔展奠艘蝸芳黃腿霜芽肇膈冗肇蒂滕蒞勞螂蒂褻黃踴慕童膈膀年月日蟆屋蟹節(jié)藻聿膀年月日量蓬蒞裊袈蟻螞年月日箱充莆蟆賺嵋羋頒發(fā)部門肅神衿螞童趣®質(zhì)量管王里吾力分發(fā)部門執(zhí)行日期年月日目的：規(guī)范標(biāo)準(zhǔn)溶液（滴定液）管理規(guī)程范圍：適用于公司檢驗用標(biāo)準(zhǔn)溶液職責(zé)：質(zhì)量管理部對本規(guī)程實施負責(zé)內(nèi)容：本規(guī)程系根據(jù)國家標(biāo)準(zhǔn)GB817087

2、數(shù)值修約規(guī)程制訂，適用于檢驗工作中除生物檢定統(tǒng)計法以外的各種測量或計算而得的數(shù)值。1.有效數(shù)字的基本概念1.1.有效數(shù)字系指在檢驗工作中所能得到有實際意義的數(shù)值。其最后一位數(shù)字欠準(zhǔn)是允許的，這種由可靠數(shù)字和最后一位不確定數(shù)字組成的數(shù)值，即為有效數(shù)字。1.2.有效數(shù)字的定位（數(shù)位），是指確定欠準(zhǔn)數(shù)字的位置。這個位置確定后，其后面的數(shù)字均為無效數(shù)字。欠準(zhǔn)數(shù)字的位置可以是十進位的任何位數(shù)，用10n來表示：n可以是正整數(shù)，如n=1、101=10（十?dāng)?shù)位），n=2、102=100（百數(shù)位）；n也可以是負數(shù)，如n=-1、10-l=0.1（十分位），n=-2、10-2=0.01（百分位）。1.3.有效位數(shù)在

3、沒有小數(shù)位且以若干個零結(jié)尾的數(shù)值中，有效位數(shù)系指從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無效零（即僅為定位用的零）的個數(shù)。例如35000中若有兩個無效零，則為三位有效位數(shù)，應(yīng)寫作350X102或3.50X104；若有三個無效零，則為兩位有效數(shù)，應(yīng)寫作35X103或3.5X04。在其它十進位數(shù)中，有效數(shù)字系指從非零數(shù)字最左一位向右數(shù)而得到的位數(shù)。例如3.2、0.32、0.032和0.0032均為兩位有效位數(shù)，0.320為三位有效位數(shù)、10.00為四位有效位數(shù)，12.490為五位有效位數(shù)。非連續(xù)型數(shù)值（如個數(shù)、分?jǐn)?shù)、倍數(shù)、名義濃度或標(biāo)示量）是沒有欠準(zhǔn)數(shù)字的，&T效位數(shù)可視為無限多位。例如分子

4、式“黔04”中的“2ffi”潞個數(shù)；常數(shù)冗、e和系數(shù)萬等數(shù)值的有效位數(shù)也可視為是無限多位；含量測定項下每1ml的XXXX滴定液（0.1mol/L）”中的“0.1為名義濃度，規(guī)格項下的“0.3酸fml”、“25m升的“0.3”1”和“2叨標(biāo)示量，其有效位數(shù)也均為無限多位。即在計算中，其有效位數(shù)應(yīng)根據(jù)其他數(shù)值的最少有效位數(shù)而定。有效數(shù)字和數(shù)值的修約及其運算編制部門：質(zhì)量管理部編號：HYJT/SMP01-08-2011頁數(shù):1/5pH值等對數(shù)值，具有效位數(shù)是由其小數(shù)點后的位數(shù)決定的，其整數(shù)部分只表明其真數(shù)的乘方次數(shù)。如pH=11.26（H+=5.510-12mol/L）,其有效位數(shù)只有兩位。有效數(shù)字

5、的首位數(shù)字為8或9時，其有效位數(shù)可以多計一位。例如：85%與115%,都可以看成是三位有效位數(shù)；99.0%與101.0%都可以看成是四位有效數(shù)字。2 .數(shù)值修約及其進舍規(guī)則2.1. 數(shù)值修約是指對擬修約數(shù)值中超出需要保留位數(shù)時的舍棄，根據(jù)舍棄數(shù)來保留最后一位數(shù)或最后幾位數(shù)。2.2. 修約間隔是確定修約保留位數(shù)的一種方式。修約間隔的數(shù)值一經(jīng)確定，修約值即應(yīng)為該數(shù)值的整數(shù)倍。例如：指定修約間隔為0.1,修約值即應(yīng)在0.1的整數(shù)倍中選取，也就是說，將數(shù)值修約到小數(shù)點后一位。2.3. 確定修約位數(shù)的表達方式指定數(shù)位指定修約間隔為10-n（n為正整數(shù)），或指明將數(shù)值修約到小數(shù)點后n位。指定修約間隔為1,

6、或指明將數(shù)值修約到個數(shù)位。指定修約間隔為10n（n為正整數(shù)），或指明將數(shù)值修約到10n數(shù)位，或指明將數(shù)值修約到千“、百“、干”數(shù)位。指定將數(shù)值修約成n位有效位數(shù)（n為正整數(shù)）。在相對標(biāo)準(zhǔn)偏差（RSD）的求算中,其有效數(shù)位應(yīng)為其1/3值的首位（非零數(shù)字）,故通常為百分位或千分位。2.4. 進舍規(guī)則擬舍棄數(shù)字的最左一位數(shù)字小于5時，則舍去，即保留的各位數(shù)字不變。例1將12.1498修約到一位小數(shù)（十分位），得12.1。例2將12.1498修約成兩位有效位數(shù)，得12。擬舍棄數(shù)字的最左一位數(shù)字大于5,或者是5,而其后跟有并非全部為0的數(shù)字時，則進一，即在保留的末位數(shù)字加1。例1將1268修約到百數(shù)位，

7、得13X1020例2將1268修約到三位有效位數(shù)，得127X10o例3將10.502修約到個數(shù)位，得11。擬舍棄數(shù)字的最左一位數(shù)字為5,而右面無數(shù)字或皆為0時，若所保留末位數(shù)為奇數(shù)（1,3,5,7,9）則進一,為偶數(shù)（2,4,6,8,0）則舍棄。例1修約間隔為0.1（10）有效數(shù)字和數(shù)值的修約及其運算編制部門：質(zhì)量管理部編號：HYJT/SMP01-08-2011頁數(shù):3/5擬修約數(shù)值修約值1.0501.00.3500.4例2修約間隔為1000（或103）擬修約數(shù)值修約值25002X10335004X103例3將下列數(shù)字修約成兩位有效位數(shù)擬修約數(shù)值修約值0.03250.0323250032X10

8、3在相對標(biāo)準(zhǔn)偏差（RSD）中，采用只進不舍”的原則，如0.163%、0.52%宜修約為0.17%、0.6%。不許連續(xù)修約擬修約數(shù)字應(yīng)在確定修約位數(shù)后一次修約獲得結(jié)果，而不得多次按前面規(guī)則（例修約15.4546,修約間隔為1正確的做法為：15.454615;不正確的做法為：15.454615.45515.4615.516。為便于記憶，上述進舍規(guī)則可歸納成下列口訣：四舍六入五考慮，五后非零則進一，五后全零看五前，五前偶舍奇進一，不論數(shù)字多少位，都要一次修約成。但在按英、美、日藥典方法修約時，按四舍五入進舍即可。3 .運算規(guī)則在進行數(shù)學(xué)運算時，對加減法和乘除法中有效數(shù)字的處理是不同的。3.1.許多數(shù)

9、值相加減時，所得和或差的絕對誤差必較任何一個數(shù)值的絕對誤差大，因此相加減時應(yīng)以諸數(shù)值中絕對誤差最大（即欠準(zhǔn)數(shù)字的數(shù)位最大）的數(shù)值為準(zhǔn)，以確定其它數(shù)值在運算中保留的位數(shù)和決定計算結(jié)果的有效位數(shù)。3.1. 許多數(shù)值相乘除時，所得積或商的相對誤差必較任何一個數(shù)值的相對誤差大。因此相乘除時應(yīng)以諸數(shù)值中相對誤差最大（即有效位數(shù)最少）的數(shù)值為準(zhǔn)，確定其它數(shù)值在運算中保留的位數(shù)和決定計算結(jié)果的有效位數(shù)。3.2. 在運算過程中，為減少舍入誤差，其它數(shù)值的修約可以暫時多保留一位，等運算得到結(jié)果時，再根據(jù)有效位數(shù)棄去多余的數(shù)字。有效數(shù)字和數(shù)值的修約及其運算編制部門：質(zhì)量管理部編號：HYJT/SMP01-08-20

10、11頁數(shù):4/5例113.65+0.00823+1.633=?本例是數(shù)值相加減，在三個數(shù)值中13.65的絕對誤差最大，其最末一位數(shù)為百分位（小數(shù)點后二位），因此將其它各數(shù)均暫先保留至千分位，即把0.00823修約成0.008,1.633不變，進行運算：13.65+0.008+1.633=15.291最后對計算結(jié)果進行修約，15.291應(yīng)只保留至百分位，而修約成15.29。例214.131X0.07654W.78=?本例是數(shù)值相乘除，在三個數(shù)值中，0.78的有效位數(shù)最少，僅為兩位有效位數(shù)，因此各數(shù)值均應(yīng)暫保留三位有效位數(shù)進行運算，最后結(jié)果再修約為兩位有效位數(shù)。既，14.131X0.07654刊.

11、78=14.1>0.07650.78=1.08論78=1.38=1.4例3計算氧氟沙星（Cl8H20FN304）的分子量。在諸元素的乘積中，原子數(shù)的有效位數(shù)可視作無限多位，因此可根據(jù)各原子量的有效位數(shù)對乘積進行定位，而在各乘積的相加中，由于中國藥典規(guī)定分子量的數(shù)值保留到小數(shù)點后二位（百分位），因此應(yīng)將各元素的乘積修約到千分位（小數(shù)點后三位）后進行相加，再將計算結(jié)果修約到百分位，即得。12.011X8+1.00794X20+18.9984032+14.006747X3+15.9994X4=216.20+20.1588+18.9984032+42.020241+63.9976=216.20+

12、20.159+18.998+42.020+63.998=361.375=361.384.注意事項4.1. 正確記錄檢測所得的數(shù)值。應(yīng)根據(jù)取樣量、量具的精度、檢測方法的允許誤差和標(biāo)準(zhǔn)中的限度規(guī)定，確定數(shù)字的有效位數(shù)（或數(shù)位），檢測值必須與測量的準(zhǔn)確度相符合，記錄全部準(zhǔn)確數(shù)字和一位欠準(zhǔn)數(shù)字。4.2.正確掌握和運用規(guī)則。不論是何種辦法進行計算，都必須執(zhí)行進舍規(guī)則和運算規(guī)則，如用計算器進行計算，也應(yīng)將計算結(jié)果經(jīng)修約后再記錄下來。如由工作站出的數(shù)據(jù)，可按有效數(shù)字修約原則修約后判定。有效數(shù)字和數(shù)值的修約及其運算編制部門：質(zhì)量管理部編號：HYJT/SMP01-08-2011頁數(shù):5/54.3.要根據(jù)取樣的要求，選擇相應(yīng)的量具。精密稱定”系指稱取重量應(yīng)準(zhǔn)確到所取重量的0.1%,可根據(jù)稱量選用分析天平或半微量分析天平。精密量取”應(yīng)選用符合國家標(biāo)