有效數(shù)字和數(shù)值的修約運(yùn)算及極限數(shù)值判定

有效數(shù)字和數(shù)值的修約運(yùn)算及極限數(shù)值判定第1頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月習(xí)題請(qǐng)判斷有效數(shù)位①35×103

②鹽酸氨溴索口服溶液規(guī)格100毫升︰0.6克③稱定12g，應(yīng)選用精度為多少的天平，稱量范圍多少？④RSD=1.42%，規(guī)定應(yīng)<2.0%，修約完是多少？第2頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月解決兩問(wèn)題有效數(shù)位判斷、數(shù)值結(jié)果修約、運(yùn)算及判定當(dāng)標(biāo)準(zhǔn)提出“…稱…g”時(shí)，應(yīng)選用什么精度的天平，稱樣量是否符合規(guī)定（稱量范圍）第3頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月有效位數(shù)的判斷數(shù)值修約規(guī)則運(yùn)算規(guī)則極限數(shù)值的判定注意事項(xiàng)第4頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月基本概念有效數(shù)字系指在檢驗(yàn)工作中所能得到有實(shí)際意義的數(shù)值。其最后一位數(shù)字欠準(zhǔn)是允許的，這種由可靠數(shù)字和最后一位不確定數(shù)字組成的數(shù)值，即為有效數(shù)字。最后一位數(shù)字的欠準(zhǔn)程度通常只能是上下差1單位。有效數(shù)字的定位（數(shù)位），是指確定欠準(zhǔn)數(shù)字的位置。這個(gè)位置確定后，其后面的數(shù)字均為無(wú)效數(shù)字。欠準(zhǔn)數(shù)字的位置可以是十進(jìn)位的任何數(shù)位，用10n來(lái)表示：n可以是正整數(shù)，如n=1、101=10（十?dāng)?shù)位），n=2、102=100（百數(shù)位），……；n也可以是負(fù)數(shù)，如n=-1、10-1=0.1（十分位），n=-2、

10-2=0.01（百分位），……。

第5頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月基本概念在沒(méi)有小數(shù)位且以若干個(gè)零結(jié)尾的數(shù)值中，有效位數(shù)系指從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無(wú)效零（即僅為定位用的零）的個(gè)數(shù)。例：35000中若有兩個(gè)無(wú)效零，則為三位有效位數(shù)，應(yīng)寫(xiě)作350×102或3.50×104；若有三個(gè)無(wú)效零，則為兩位有效位數(shù)，應(yīng)寫(xiě)作35×103或3.5×104。在其它十進(jìn)位數(shù)中，有效數(shù)字系指從非零數(shù)字最左一位向右數(shù)而得到的位數(shù)。例：3.2、0.32、0.032和0.0032均為兩位有效位數(shù)

0.320為三位有效位數(shù)

10.00為四位有效位數(shù)

12.490為五位有效位數(shù)第6頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月有效位數(shù)可視為無(wú)限多位的幾種情況：一、非連續(xù)型數(shù)值(如個(gè)數(shù)、分?jǐn)?shù)、倍數(shù))是沒(méi)有欠準(zhǔn)數(shù)字的，其有效位數(shù)可視為無(wú)限多位。例如分子式“H2SO4”中的“2”和“4”是個(gè)數(shù)。二、常數(shù)π，e和系數(shù)√2等數(shù)值。

三、含量測(cè)定項(xiàng)下“每lml的×××××滴定液(0.1mol／L)”中的“0.1”為名義濃度。四、規(guī)格項(xiàng)下的“0.3g”或“1ml︰25mg”中的“0.3”、“1”和“25”為標(biāo)示量，其有效位數(shù)也均為無(wú)限多位。

在計(jì)算中，其有效位數(shù)應(yīng)根據(jù)其他數(shù)值的最少有效位數(shù)而定。第7頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月pH值等對(duì)數(shù)值，其有效位數(shù)是由其小數(shù)點(diǎn)后的位數(shù)決定的，其整數(shù)部分只表明其真數(shù)的乘方次數(shù)。pH=-lg[濃度值]pH=11.26([H+]=5.5×10－12mol／L)。其有效位數(shù)只有兩位。第8頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月有效數(shù)字的首位數(shù)字為8或9時(shí)，其有效位數(shù)可以多計(jì)一位。例：85％三位有效位數(shù)

115%三位有效位數(shù)

99.0%四位有效數(shù)字

101.0%四位有效數(shù)字第9頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月基本定義

一、數(shù)值修約：通過(guò)省略原數(shù)值的最后若干位數(shù)字，調(diào)整所保留的末位數(shù)字，使最后所得到的值最接近原數(shù)值的過(guò)程。經(jīng)數(shù)值修約后的數(shù)值稱為（原數(shù)值的）修約值。二、修約間隔：指修約值的最小數(shù)值單位。修約間隔的數(shù)值一經(jīng)確定，修約值即為該數(shù)值的整數(shù)倍。例1：如指定修約間隔為0.1，修約值應(yīng)在0.1的整數(shù)倍中選取，相當(dāng)于將數(shù)值修約到一位小數(shù)。例2：如指定修約間隔為100，修約值應(yīng)在100的整數(shù)倍中選取，相當(dāng)于將數(shù)值修約到“百”數(shù)位。第10頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月確定修約間隔一、指定修約間隔為10－n(n為正整數(shù))，或指明將數(shù)值修約到n位小數(shù)。二、指定修約間隔為1，或指明將數(shù)值修約到“個(gè)”數(shù)位。三、指定修約間隔為10n(n為正整數(shù))，或指明將數(shù)值修約到10n數(shù)位，或指明將數(shù)值修約到‘十”、“百”、“千”……數(shù)位。四、在相對(duì)標(biāo)準(zhǔn)偏差（RSD）的求算中，其有效數(shù)位應(yīng)為其1/3值的首位（非零數(shù)字），故通常為百分位或千分位。

第11頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月進(jìn)舍規(guī)則1、擬舍棄數(shù)字的最左一位數(shù)字小于5，則舍去，保留其余各位數(shù)字不變。2、擬舍棄數(shù)字的最左一位數(shù)字大于5，則進(jìn)一，即保留數(shù)字的末位數(shù)字加1。3、擬舍棄數(shù)字的最左一位數(shù)字是5，且其后有非0數(shù)字時(shí)進(jìn)一，即保留數(shù)字的末位數(shù)字加1。4、擬舍棄數(shù)字的最左一位數(shù)字為5，且其后無(wú)數(shù)字或皆為0時(shí)，若所保留的末位數(shù)字為奇數(shù)（1，3，5，7，9）則進(jìn)一，即保留數(shù)字的末位數(shù)字加1；若所保留的末位數(shù)字為偶數(shù)（0，2，4，6，8），則舍去。

第12頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月口訣：四舍六入五考慮，五后非零則進(jìn)一，五后全零看五前，五前偶舍奇進(jìn)一，不論數(shù)字多少位，都要一次修約成。第13頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月習(xí)題12.1498修約到一位小數(shù)→12.112.1498修約成兩位有效位數(shù)→12將1268修約到百數(shù)位→13×102

第14頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月習(xí)題將1268修約到三位有效位數(shù)→127×10

將10.502修約到個(gè)數(shù)位→111.050修約間隔為0.1(或10－1)

→1.0第15頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月習(xí)題按照修約間隔為1000(或103)

2500→2×103

3500

→4×103

第16頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月習(xí)題修約成兩位有效位數(shù)

0.0325

→0.03232500

→32×103

第17頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月RSD修約只進(jìn)不舍（只要后面有任何數(shù)值都往前進(jìn)1位，除了0）0.163%修約成2位有效數(shù)位→0.17%0.52%修約成十分位→0.6%第18頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月不允許連續(xù)修約

擬修約數(shù)字應(yīng)在確定修約間隔或指定修約數(shù)位后一次修約獲得結(jié)果，而不得多次連續(xù)修約。

例1：修約97.46，修約間隔為l

正確的做法：97.46→97

不正確的做法：97.46→97.5→98

例2：修約15.4546，修約間隔為l

正確的做法：15.4546→15

不正確的做法：15.4546→15.455→15.46→15.5→16第19頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月報(bào)出數(shù)值最右的非零數(shù)字為5時(shí)，應(yīng)在數(shù)值右上角加“＋”或加“－”或不加符號(hào)，分別表明已進(jìn)行過(guò)舍，進(jìn)或未舍未進(jìn)。如：16.50＋表示實(shí)際值大于16.50，經(jīng)修約舍棄為16.50；16.50－表示實(shí)際值小于16.50，經(jīng)修約進(jìn)一為16.50。第20頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月如對(duì)報(bào)出值需進(jìn)行修約，當(dāng)擬舍棄數(shù)字的最左一位數(shù)字為5，且其后無(wú)數(shù)字或皆為零時(shí)，數(shù)值右上角有“＋”者進(jìn)一，有“－”者舍去，其他仍按修約規(guī)則進(jìn)行。如：將下列數(shù)字修約到個(gè)數(shù)位（報(bào)出值多留一位至一位小數(shù)）。實(shí)測(cè)值報(bào)出值修約值

15.4546

15.5－

15-11.4563

-11.5－-11

16.5203

16.5＋

17

17.5000

17.5

18第21頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月0.5單位修約與0.2單位修約0.5單位修約（半個(gè)單位修約）0.5單位修約是指按指定修約間隔對(duì)擬修約的數(shù)值0.5單位進(jìn)行的修約。將擬修約數(shù)值X乘以2，按指定修約間隔對(duì)2X依修約規(guī)則修約，所得數(shù)值（2X修約值）再除以2。如：將下列數(shù)字修約到“個(gè)”數(shù)位的0.5單位修約擬修約數(shù)值X

2X

2X修約值X修約值

60.25

120.50

120

60.0

60.38

120.76

121

60.5

-60.75

-121.50

-122

-61.0第22頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月0.5單位修約與0.2單位修約0.2單位修約0.2單位修約是指按指定修約間隔對(duì)擬修約的數(shù)值0.2單位進(jìn)行的修約。將擬修約數(shù)值X乘以5，按指定修約間隔對(duì)5X依修約規(guī)則修約，所得數(shù)值（5X修約值）再除以5。如：將下列數(shù)字修約到“百”數(shù)位的0.2單位修約擬修約數(shù)值X

5X

5X修約值X修約值

830

4150

4200

840

842

4210

4200

840

-930

-4650

-4600

-920第23頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月熔點(diǎn)兩種修約方式：按修約間隔1修約按修約間隔0.5修約第24頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月熔點(diǎn)

一、按修約間隔1修約當(dāng)指標(biāo)定位為個(gè)位數(shù)時(shí)，如薄荷腦熔點(diǎn)“42℃～44℃”四舍六入五成雙例：標(biāo)準(zhǔn)規(guī)定應(yīng)為42℃～44℃實(shí)測(cè)數(shù)值42.5℃～43.2℃結(jié)果修約42℃～43℃第25頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月熔點(diǎn)二、按修約間隔0.5修約當(dāng)指標(biāo)定位為個(gè)位數(shù)時(shí)，如苯甲酸熔點(diǎn)“121℃～124.5℃”0.1～0.2舍去，0.8～0.9進(jìn)位；0.3～0.7修約為0.5；例：標(biāo)準(zhǔn)規(guī)定應(yīng)為121℃～124.5℃實(shí)測(cè)數(shù)值121.6℃～123.2℃結(jié)果修約121.5℃～123℃第26頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月相加減時(shí)

以諸數(shù)值中絕對(duì)誤差最大(即欠準(zhǔn)數(shù)字的數(shù)位最大)的數(shù)值為準(zhǔn)相乘除時(shí)以諸數(shù)值中相對(duì)誤差最大(即有效位數(shù)最少)的數(shù)值為準(zhǔn)第27頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月在運(yùn)算過(guò)程中，為減少舍入誤差，其它數(shù)值的修約可以暫時(shí)多保留一位，等運(yùn)算得到結(jié)果時(shí)，再根據(jù)有效位數(shù)棄去多余的數(shù)字?！?步走：一、判定有效數(shù)位二、過(guò)程多保留１位三、結(jié)果修約第28頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月13.65+0.00823+1.633=?

一、判定有效數(shù)位：絕對(duì)誤差最大13.65百分位二、其它各數(shù)均暫先保留至千分位三、結(jié)果修約至有效數(shù)位第29頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月13.65+0.00823+1.633＝13.65+0.008+1.633＝15.291＝15.29第30頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月14.131×0.07654÷0.78=?

一、判定有效數(shù)位：相對(duì)誤差最大/有效位數(shù)最少0.78兩位有效位數(shù)二、其它各數(shù)均暫先保留三位有效位數(shù)三、結(jié)果修約至有效數(shù)位第31頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月14.131×0.07654÷0.78=14.1×0.0765÷0.78=1.38=1.4第32頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月計(jì)算氧氟沙星(C18H20FN3O4)的分子量12.011×18+1.00794×20+18.9984032+14.006747×3+15.9994×4

=216.20+20.1588+18.9984032+42.020241+63.9976=216.20+20.159+18.998+42.020+63.998

=361.375

=361.38

單種運(yùn)算時(shí)才能直接判斷結(jié)果有效位或位數(shù)。乘法后：各自保留相應(yīng)位數(shù)加法前：保留至千分位結(jié)果修約：百分位第33頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月定義極限數(shù)值：標(biāo)準(zhǔn)（或技術(shù)規(guī)范）中規(guī)定考核的以數(shù)量形式給出且符合該標(biāo)準(zhǔn)（或技術(shù)規(guī)范）要求的指標(biāo)數(shù)值范圍的界限值。

第34頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月在判定測(cè)定值或其計(jì)算值是否符合標(biāo)準(zhǔn)要求時(shí)，應(yīng)將測(cè)試所得的測(cè)定值或其計(jì)算值與標(biāo)準(zhǔn)規(guī)定的極限數(shù)值作比較，比較方法有：

1、全數(shù)值比較法2、修約值比較法

a、當(dāng)標(biāo)準(zhǔn)或有關(guān)文件中，若對(duì)極限數(shù)值（包括帶有極限偏差值的數(shù)值）無(wú)特殊規(guī)定時(shí)，均應(yīng)使用全數(shù)值比較法。如規(guī)定采用修約值比較法，應(yīng)在標(biāo)準(zhǔn)中加以說(shuō)明。

b、比較方法一經(jīng)確定，不得改動(dòng)。

c、對(duì)同樣的極限數(shù)值，若它本身符合要求，則全數(shù)值比較法比修約值比較法相對(duì)較嚴(yán)格。第35頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月全數(shù)值比較法：將測(cè)試所得的測(cè)定值或計(jì)算值不經(jīng)修約處理（或雖經(jīng)修約處理，但應(yīng)標(biāo)明它是經(jīng)舍、進(jìn)或未進(jìn)未舍而得），用該數(shù)值與規(guī)定的極限數(shù)值作比較，只要超出極限數(shù)值規(guī)定的范圍（不論超出程度大?。寂卸椴环弦?。第36頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月修約值比較法：將測(cè)定值或其計(jì)算值進(jìn)行修約，修約數(shù)位應(yīng)與規(guī)定的極限數(shù)值數(shù)位一致。當(dāng)測(cè)試或計(jì)算精度允許時(shí)，應(yīng)先將獲得的數(shù)值按規(guī)定的修約數(shù)位多一位或幾位報(bào)出，然后按修約規(guī)則修約至規(guī)定的數(shù)位。將修約后的數(shù)值與規(guī)定的極限數(shù)值作比較，只要超出極限數(shù)值規(guī)定的范圍（不論超出程度大?。寂卸椴环弦?。詳見(jiàn)示例第37頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月一、正確記錄檢測(cè)所得的數(shù)值。應(yīng)根據(jù)取樣量、量具的精度、檢測(cè)方法的允許誤差和標(biāo)準(zhǔn)中的限度規(guī)定，確定數(shù)字的有效位數(shù)（或數(shù)位），檢測(cè)值必須與測(cè)量的準(zhǔn)確度相符合，記錄全部準(zhǔn)確數(shù)字和一位欠準(zhǔn)數(shù)字。第38頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月二、正確掌握和運(yùn)用規(guī)則進(jìn)行計(jì)算時(shí)，應(yīng)執(zhí)行進(jìn)舍規(guī)則和運(yùn)算規(guī)則，如用計(jì)算器進(jìn)行計(jì)算，也應(yīng)將計(jì)算結(jié)果經(jīng)修約后再記錄下來(lái)。如由工作站出的數(shù)據(jù)，可按有效數(shù)字修約原則修約后判定。第39頁(yè)，課件共45頁(yè)，創(chuàng)作于2023年2月三、要根據(jù)取樣的要求，選擇相應(yīng)的量具1“精密稱定”系指稱取重量應(yīng)準(zhǔn)確至所取重量的0.1%2、“稱定”系指稱取重量應(yīng)準(zhǔn)確至所取重量1％3、“稱重”“稱取”：一般準(zhǔn)確到規(guī)定重量下一位4、取“約XX”時(shí)，指取用量不超過(guò)規(guī)定量的(100±10)%。5、若無(wú)“約”，則按照修約原則來(lái)確定稱量范圍修約