有效數(shù)字運(yùn)算及修約

1、數(shù)值修約規(guī)則及極限數(shù)值的表示和判定 Significant figure,情景導(dǎo)入,進(jìn)行化學(xué)滴定分析時(shí)，當(dāng)凹液面在兩刻度線之間時(shí)，需要對(duì)兩刻度線之間的體積進(jìn)行估讀，梅仁耀讀取到23.44mL、梅仁愛讀取到23.46mL、梅仁姓讀取到23.45mL； 梅聞畫看到一試劑柜中的NaOH標(biāo)準(zhǔn)滴定溶液的濃度寫著：0.1065(+)mol/L。,有效數(shù)字的定義,數(shù)學(xué)定義：從左邊第一個(gè)不是0的數(shù)字算起，到精確到的位數(shù)為止，所有的數(shù)字都叫做這個(gè)數(shù)的有效數(shù)字。 分析化學(xué)定義：在分析工作中實(shí)際能夠測(cè)量到的數(shù)字。能夠測(cè)量到的是包括最后一位估讀的，不確定的數(shù)字。我們把通過直讀獲得的準(zhǔn)確數(shù)字叫做可靠數(shù)字，把通過估讀得到

2、的那部分?jǐn)?shù)字叫做存疑數(shù)字，把測(cè)量結(jié)果中能夠反映被測(cè)量大小的帶有一位存疑數(shù)字的全部數(shù)字叫有效數(shù)字。,有效數(shù)字位數(shù)判定,1.0008 43.181 五位 0.1000 10.98% 四位 0.0382 1.9810-10 三位 54 0.0040 兩位 3600 100 位數(shù)模糊 注意： 1、以上數(shù)據(jù)中0的左右的差異； 2、對(duì)于3600之類的數(shù)字，一般看成4位有效數(shù)字，但它也可能是2位(3.6103)或3位(3.60102),有效數(shù)字位數(shù)判定,1、在分析化學(xué)計(jì)算中，常遇到倍數(shù)、分?jǐn)?shù)關(guān)系，這些數(shù)據(jù)不是測(cè)量直接得到的，可視為無限多位有效數(shù)字； 2、對(duì)于pH、pM、lgc、lgK等對(duì)數(shù)值，其有效數(shù)字取決

3、于小數(shù)部分的位數(shù)，因?yàn)檎麛?shù)部分只代表該數(shù)字的方次。 e.g. pH=11.20，換算為H+濃度時(shí)，應(yīng)為c(H+)=6.310-12mol/L，有效數(shù)字是兩位。,數(shù)值修約規(guī)則,數(shù)值修約：通過省略原數(shù)值的最后若干位數(shù)字，調(diào)整所保留的若干位數(shù)字，使最后得到的值最接近原數(shù)值的過程。 修約間隔：修約值的最小數(shù)值單位。修約間隔的數(shù)值一經(jīng)確定，修約值一定是該數(shù)值的整數(shù)倍。 e.g.1：修約間隔為0.1(或10-1)，表示將數(shù)值修約至一位小數(shù)； e.g.2：修約間隔為100(或102)，表示將數(shù)值修約至百位數(shù)。 極限數(shù)值：標(biāo)準(zhǔn)(或技術(shù)規(guī)范)中規(guī)定考核的以數(shù)量形式給出且符合該標(biāo)準(zhǔn)(或技術(shù)規(guī)范)要求的指標(biāo)數(shù)值范圍

4、的界限值，即指標(biāo)的上限或者下限。,數(shù)值修約規(guī)則,數(shù)值修約的步驟大體分兩步： 1、確定修約間隔； 2、根據(jù)修約的進(jìn)舍規(guī)則對(duì)數(shù)值進(jìn)行修約。 數(shù)值修約的規(guī)則： 1、進(jìn)舍規(guī)則； 2、不允許連續(xù)修約； 3、0.5單位修約； 4、0.2單位修約。,進(jìn)舍規(guī)則,大規(guī)則：四舍六入五成雙 擬舍棄數(shù)字的最左一位數(shù)字小于5，則舍去，保留其余各位數(shù)字不變； e.g. 將12.1498修約至個(gè)位數(shù)，得到12，修約至小數(shù)點(diǎn)后一位，得到12.1. 擬舍棄數(shù)字的最左一位數(shù)字大于5，則進(jìn)一，即保留位數(shù)的末位數(shù)字加一； e.g. 將13.1634修約至小數(shù)點(diǎn)后一位，得到13.2。,進(jìn)舍規(guī)則, 擬舍棄數(shù)字的最左一位數(shù)字是5，且其后有

5、非0數(shù)字時(shí)進(jìn)一，即保留數(shù)字的末位數(shù)字加1。 e.g. 將11.5002修約至個(gè)位數(shù)，得12。 擬舍棄數(shù)字的最左一位數(shù)字是5，且其后無數(shù)字或皆為0時(shí)，若所保留數(shù)字的末位數(shù)字為奇數(shù)時(shí)則進(jìn)一，若所保留數(shù)字的末位數(shù)字為偶數(shù)時(shí)則舍去。 e.g. 將1.050修約至小數(shù)點(diǎn)后一位得1.0，將0.35修約至小數(shù)點(diǎn)后一位得0.4。 負(fù)數(shù)修約時(shí)先取絕對(duì)值，按照 中的規(guī)則進(jìn)行修約，然后在其前面加上負(fù)號(hào)。,不允許連續(xù)修約規(guī)則,(1) 擬修約數(shù)字應(yīng)在確定修約間隔或指定修約數(shù)位后一次修約獲得結(jié)果，不得按照進(jìn)舍規(guī)則多次進(jìn)行多次修約。 e.g. 將97.46修約至個(gè)位數(shù) 正確做法：97.4697 錯(cuò)誤做法：97.4697.5

6、98,不允許連續(xù)修約規(guī)則,(2) 在具體實(shí)施中，有時(shí)測(cè)試與計(jì)算部門先將獲得的數(shù)值按照指定的修約數(shù)位多一位或幾位報(bào)出，而后再由其它部門判定。為了避免產(chǎn)生連續(xù)修約的錯(cuò)誤，應(yīng)按以下兩個(gè)步驟進(jìn)行操作。,不允許連續(xù)修約規(guī)則,.報(bào)出數(shù)值最右的非零數(shù)字為5時(shí)，應(yīng)在數(shù)值的右上角加上“+”或“-”或不加符號(hào)，分別表明進(jìn)行過舍、進(jìn)或未舍未進(jìn)。 e.g. 16.50+，表示實(shí)際值大于16.50，16.50-表示實(shí)際值小于16.50。 .如對(duì)報(bào)出值需進(jìn)行修約，當(dāng)擬舍棄的最后一位數(shù)值為5，且其后無數(shù)字或皆為0時(shí)，數(shù)值右上角有“+”者進(jìn)一，有“-”者舍去，其余按照 中的規(guī)則進(jìn)行修約。,0.5單位修約和0.2單位修約,定義

7、：0.5單位修約是指按指定修約單位間隔對(duì)擬修約的數(shù)值的0.5單位進(jìn)行的修約。 步驟：將擬修約數(shù)值X乘以2，按指定修約間隔對(duì)2X根據(jù)上述進(jìn)舍規(guī)則進(jìn)行修約，得到的數(shù)值(2X修約值)再除以2。 0.2單位修約的定義和步驟跟0.5單位修約類似，將倍數(shù)“2”變?yōu)椤?”。,有效數(shù)字的,在實(shí)際的分析工作中，經(jīng)常會(huì)遇到計(jì)算公式，而計(jì)算公式中的不同項(xiàng)目所保留的有效數(shù)字的位數(shù)是不同的，最終的計(jì)算結(jié)果到底保留多少個(gè)有效數(shù)字值得關(guān)注。,有效數(shù)字的運(yùn)算,在幾個(gè)數(shù)據(jù)相加或相減時(shí)，有效數(shù)字的保留，應(yīng)該以小數(shù)點(diǎn)后位數(shù)最少的數(shù)字為根據(jù)。 e.g. 0.0121+25.64+1.05782=？ 每個(gè)數(shù)據(jù)最后一位都有1的絕對(duì)誤差，

8、即0.012 10.0001；25.64 0.01；0.10572 0.00001；以上數(shù)據(jù)中以25.64的絕對(duì)誤差最大，在加減運(yùn)算中最終結(jié)果的絕對(duì)誤差決定于該數(shù)據(jù)，故最終結(jié)果的有效數(shù)字位數(shù)決定于25.64這個(gè)數(shù)據(jù)。 So 上式變換為：0.01+25.64+1.06=26.71,有效數(shù)字的運(yùn)算,在幾個(gè)數(shù)據(jù)相乘或相除時(shí)，有效數(shù)字的保留，應(yīng)與幾個(gè)數(shù)據(jù)中相對(duì)誤差最大的數(shù)相對(duì)應(yīng)，通常根據(jù)有效數(shù)字最少的數(shù)據(jù)來進(jìn)行修約。 e.g. 0.012125.641.05782=？ 每個(gè)數(shù)據(jù)最后一位都有1的絕對(duì)誤差，三個(gè)數(shù)據(jù)的相對(duì)誤差分別是： 0.0121的相對(duì)誤差最大，故運(yùn)算時(shí)以它為標(biāo)準(zhǔn)將另外兩個(gè)數(shù)據(jù)修約為三位有

9、效數(shù)字的，再相乘。 即0.012125.61.06=0.328,極限數(shù)值的表示和判定,書寫極限數(shù)值的一般原則 一、標(biāo)準(zhǔn)(或其它技術(shù)規(guī)范)中規(guī)定考核的以數(shù)量形式給出的指標(biāo)或參數(shù)等，應(yīng)當(dāng)規(guī)定極限數(shù)值。極限數(shù)值表示符合該標(biāo)準(zhǔn)要求的數(shù)值范圍的界限值，它通過給出最小極限值和(或)最大極限值，或給出基本數(shù)值與極限偏差值等方式表達(dá)。 二、標(biāo)準(zhǔn)中的極限數(shù)值的表示方式及書寫位數(shù)應(yīng)適當(dāng)，其有效數(shù)字應(yīng)該全部寫出。書寫位數(shù)表示的精確程度，應(yīng)能保證產(chǎn)品或其它標(biāo)準(zhǔn)化對(duì)象的性能和質(zhì)量。,表示極限數(shù)值的基本用語及其組合,帶有極限偏差值的數(shù)值,測(cè)定值或其計(jì)算值與標(biāo)準(zhǔn)規(guī)定的極限數(shù)值的作比較方法,1）全數(shù)值比較法 2）修約值比較法 當(dāng)標(biāo)準(zhǔn)或有關(guān)文件中，若對(duì)極限數(shù)值(包括帶有極限偏差的數(shù)值)無特殊規(guī)定時(shí)，均應(yīng)使用全數(shù)值比較法。如規(guī)定修約值比較法，應(yīng)在標(biāo)準(zhǔn)中加以說明。 若標(biāo)準(zhǔn)或有關(guān)文件規(guī)定了使用其中一種比較方法時(shí)，一經(jīng)確定，不得改動(dòng)。,全數(shù)值比較法,將測(cè)試所得的測(cè)定值或計(jì)算值不經(jīng)修約處理(或雖經(jīng)修約處理，但應(yīng)標(biāo)明它是經(jīng)舍、進(jìn)貨未舍未進(jìn)而得)，用該數(shù)值與規(guī)定的極限數(shù)值作比較，只要超出極限數(shù)值規(guī)定的范圍(不論超出程度大小)，都判定為不符合要求。,修約值比較法,將測(cè)定值或其計(jì)算值進(jìn)行修約，修約位數(shù)應(yīng)與規(guī)定的極限數(shù)值位數(shù)一