數(shù)字運(yùn)算、修約、極限數(shù)值表示方法講義.

1、數(shù)字運(yùn)算、修約、極限數(shù)值判定與表示方法一、數(shù)字運(yùn)算二、數(shù)值修約規(guī)則三、極限數(shù)值的表示方法和判定方法一、數(shù)字運(yùn)算在檢驗(yàn)過程中， 對(duì)檢驗(yàn)所得的數(shù)據(jù)如何進(jìn)行計(jì)算、 整理， 如何按照技術(shù)標(biāo)準(zhǔn)要求作出判定，是檢驗(yàn)人員必須掌握的基 礎(chǔ)知識(shí)。1、有效位數(shù) 在檢驗(yàn)過程中，記錄數(shù)據(jù)和計(jì)算結(jié)果究竟應(yīng)該保留幾位數(shù)字？有的檢驗(yàn)人員認(rèn)為記錄和計(jì)算保留的位數(shù)越多越準(zhǔn) 確，其實(shí)不然。由于檢驗(yàn)方法、儀器設(shè)備和人們感官分析能 力的限制， 測(cè)量中只能讀取一定位數(shù)的數(shù)字。 讀取位數(shù)過多， 不但不能提高檢驗(yàn)結(jié)果的準(zhǔn)確度，反而使計(jì)算工作量大大增 加，而且還常常容易出錯(cuò)；讀取位數(shù)過少，則表達(dá)不出測(cè)量 的準(zhǔn)確度。為了確切表達(dá)測(cè)量結(jié)果的位數(shù)

2、，我們給出有效位 數(shù)的概念。若截取得到的近似數(shù)， 其絕對(duì)誤差是末位上的半個(gè)單位， 那么這個(gè)近似數(shù)，從第一個(gè)不是零的數(shù)字起到這個(gè)數(shù)位止， 所有數(shù)字均稱為有效數(shù)字。一個(gè)進(jìn)似數(shù)有n 個(gè)有效數(shù)字，也 叫這個(gè)進(jìn)似數(shù)有 n 個(gè)有效位數(shù)。 如 3.1416 、2.1173 、180.00 ， 均為五位有效數(shù)； 而 0.00274 、274、27.4 ，均為三位有效數(shù)。在判斷有效數(shù)字時(shí)，要特別注意 0 這個(gè)數(shù)字，它可以是 有效數(shù)字，也可以不是有效數(shù)字，例如：0.00274，前面三個(gè)0 都不是有效數(shù)字， 而 180.00，后面三個(gè) 0 卻都是有效數(shù)字。 因?yàn)榍罢吲c測(cè)量的精確度無(wú)關(guān)，而后者卻有關(guān)。為了說(shuō)明這 個(gè)問

3、題，我們不妨各都去掉兩個(gè)0，即0.00274=0.274 X 10-2表示其真值為：(0.2735 0.2745) X 10-2其絕對(duì)誤差為：-20.0005X 10-2=0.000005而 0.00274 的絕對(duì)誤差也是 0.000005，故去掉前面兩個(gè) 0后， 其絕對(duì)誤差不變；而對(duì)于 1 80 . 00，若去掉后面兩個(gè) 0，成為：180.00=180則其真值所在區(qū)間為：(180.5 179.5)其絕對(duì)誤差為 0.5；但對(duì)于 180.00 來(lái)說(shuō)，其真值所在區(qū)間應(yīng)為：(180.005 179.995)其絕對(duì)誤差為 0.005，顯然，由于去掉右邊兩個(gè)0，而使絕對(duì)誤差由 0.005 變成了 0.5

4、，這樣就不對(duì)了。因此，絕對(duì)不可象 對(duì)待準(zhǔn)確數(shù)那樣，隨隨便便去掉小數(shù)部分右邊的0，或在小 數(shù)部分右邊加上 0，因?yàn)檫@樣做的結(jié)果，雖不會(huì)改變這個(gè)數(shù) 的大小，卻改變了這個(gè)近似數(shù)的精確度。對(duì)任一數(shù)值，其有效位數(shù)按下述原則確定：對(duì)沒有小數(shù)位且以若干個(gè)零結(jié)尾的數(shù)值，從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無(wú)效零（即僅為定位用的零） 的個(gè)數(shù)；對(duì)其他十進(jìn)位數(shù)，從非零數(shù)字最左一位向右數(shù)而得 到的位數(shù)，就是有效位數(shù)。例 1：3.2、0.32、0.0032 均為兩位有效位數(shù)；0.320 為三數(shù)有效位數(shù)；10.00 為四位有效位數(shù)；12.490 為五位有效位數(shù)。例 2： 35000，若有兩個(gè)無(wú)效零，則為三位有效位數(shù)，應(yīng)

5、寫為2350 X 102；若有三個(gè)無(wú)效零，則為兩位有效位數(shù)，應(yīng)寫為35X 103。例 3：12.490 為五位 有效位數(shù)；10.00 為四位有效位數(shù)。2、有效位數(shù)的選擇(1) 記錄數(shù)值時(shí)有效位數(shù)的選擇讀取或記錄測(cè)量數(shù)據(jù)時(shí)，一般按儀器最小分度值來(lái)讀數(shù)。 對(duì)于那些需要做進(jìn)一步運(yùn)算的數(shù)值，則應(yīng)在按最小分度值讀 取后再估讀一位。讀數(shù)時(shí)，小數(shù)末尾的零不能隨意取舍。(2) 計(jì)算過程中有效位數(shù)的選擇 加減。幾個(gè)數(shù)相加或相減時(shí)，以小數(shù)部分位數(shù)最少 的一數(shù)為準(zhǔn)，其余各數(shù)均修約或比該數(shù)多一位， 然 后運(yùn)算。例 1:求 1648.0，13.65，0.0082，1.632，86.82，5.135, 316.34，0.

6、545 的和。解 1648.0+13.65+0.0082+1.632+86.82+5.135+316.34+0.5451648.0+13.65+0.01+1.63+86.82+5.14+316.34+0.54=2071.93 2071.9 乘除。幾個(gè)數(shù)相乘或相除時(shí)，以有效位數(shù)最少的一數(shù)為準(zhǔn)，其余各數(shù)均修約成比該數(shù)多一位，然后運(yùn)算。例 2: 0.0121 X 1.36872 的積解：0.0121 X 1.368720.0121 X 1.369=0.0165649 0.0166 乘方或開方。原數(shù)有幾位有效位數(shù)，計(jì)算結(jié)果就可保 留幾位。若還參加運(yùn)算，則應(yīng)多保留一位。 常數(shù)。對(duì)于某些常數(shù)，如n、e及某

7、些倍數(shù)或分?jǐn)?shù)可視為無(wú)限有效。計(jì)算過程中可根據(jù)需要確定有效位數(shù)。以上都是一些最簡(jiǎn)單的，通常所說(shuō)的“一步運(yùn)算”的問 題，但在實(shí)際問題中遇到的計(jì)算，并不都這樣簡(jiǎn)單，往往在 一個(gè)式子里會(huì)包括幾種不同的運(yùn)算，即所謂“多步運(yùn)算”的 問題，在多步運(yùn)算的問題中，中間步驟計(jì)算的結(jié)果所保留的 數(shù)字要比加減、乘除、乘方和開方的數(shù)字計(jì)算法則的規(guī)定多 出一位。此外，在計(jì)算算術(shù)平均值時(shí)，若四個(gè)以上的數(shù)相平均， 則平均值的有效位數(shù)可增加一位，這是因?yàn)槠骄档恼`差要 比其它任何一個(gè)數(shù)的誤差小。二、數(shù)值修約規(guī)則在數(shù)據(jù)處理中，當(dāng)有效位數(shù)確定后，對(duì)有效位數(shù)之后的 數(shù)字要進(jìn)行修約處理。 修約按照國(guó)家標(biāo)準(zhǔn) GB8/T8170-87數(shù)

8、值修約規(guī)則進(jìn)行。（一）修約間隔 修約間隔是確定修約保留位數(shù)的一種方式。修約間隔的數(shù)值一經(jīng)給出，修約位數(shù)為該數(shù)值的整數(shù)倍。例如：指定修 約間隔為 0.1 ，修約值總在 0.1 的整數(shù)倍中選取，即修約值 保留一位小數(shù)。（二）半個(gè)單位修約和 0.2 單位修約1 、 0.5 單位修約（半個(gè)單位修約）指修約間隔為指定數(shù)位的 0.5 單位，即修約到指定數(shù)位的 0.5 個(gè)單位。具體辦法是：對(duì)擬修約值乘以 2，按指定數(shù)位依照一般 進(jìn)舍規(guī)則修約，將所得值除以 2 即得修約值。例如 ，將下列數(shù)值修約到個(gè)數(shù)位的半個(gè)單位（或修約間隔為 0.5 ）擬修約值乘以 2 2A 修約值修約值（A）（2A）（修約間隔 :1 ）（

9、修約間隔 :0.5 ）60.25120.5012060.060.38120.7612160.5-60.75-121.50-122-61.02、 0.2 單位修約 指修約間隔為指定數(shù)位的 0.2 單位，即修約到指定數(shù)位 的 0.2 個(gè)單位。具體辦法是，對(duì)擬修約值乘以 5，按指定數(shù)值依照一般 進(jìn)舍規(guī)則修約，將所得值除以 5 即得修約值。 例如 ：將下列數(shù)值修約到百數(shù)位的 0.2 單位（或修約間隔為20)擬修約值乘以 55A 修約值修約值（A）（2A）（修約間隔 :100 ）（修約間隔 :20 ）8304150420084084242504200840-930-4650-4600-920（三）進(jìn)舍規(guī)

10、則進(jìn)舍規(guī)則可概括為如下口訣： “四舍六入五考慮， 五后非 零則進(jìn)一，五后皆零視奇偶，五前為偶應(yīng)舍去，五前為奇則 進(jìn)一?！?、擬舍棄數(shù)字的最左一位數(shù)字小于 5 時(shí)，則舍去即保留的各位數(shù)字不變。例 1 ：將 12.1498 修約到一位小數(shù)，得12.1 。例 2：將 12.1498修約到兩位有效位數(shù)，得12。2、將某一數(shù)值修約為有效位數(shù)N 位，當(dāng)?shù)?N+1 位的數(shù)字小于 5時(shí)，舍去；當(dāng)?shù)?N+1 位的數(shù)字大于 5，或者是 5且 其后并非全部為零時(shí)，則進(jìn)一。例如 ，下例左邊的數(shù)值修約為三位有效位數(shù)得右邊結(jié)果：2.3241>2.32, 2.3263>2.33, 2.32501>2.33

11、3、將某些數(shù)修約為有效位數(shù)N 位，當(dāng)?shù)?N+1 位數(shù)字為5,而右邊無(wú)數(shù)字或皆為零時(shí),看保留數(shù)字是奇數(shù)還是偶數(shù)。 若保留數(shù)字的最末一位為偶數(shù)時(shí)（2、 4、6、 8）,舍去；保留數(shù)字的最末一位為奇數(shù)時(shí)（1 、3、 5、7、9）,進(jìn)一。例 1：間隔為 0.1 （或 10-1）擬修約數(shù)值 修約值1.0501.00.3500.4例 2：修約間隔為 1000 （或 103）擬修約數(shù)值修約值25002X 103 （特定時(shí)可寫為 2000）35004X 103 （特定時(shí)可寫為 4000）例 3 ：將下列數(shù)字修約成兩位有效位數(shù)擬修約數(shù)值修約值0.0325 0.0323250032X 103 （特定時(shí)可寫為320

12、00）（四）負(fù)數(shù)修約 先將負(fù)數(shù)的絕對(duì)值按上述方式進(jìn)行修約，然后在修約值 前面加上負(fù)號(hào)。例 1 ： 將下列數(shù)字修約到“十”數(shù)位擬修約數(shù)值修約值-355-36X 10 （特定時(shí)可寫為 -360 ）-325-32X 10 （特定時(shí)可寫為 -320）例 2 ：將下列數(shù)字修約成兩位有效位數(shù)擬修約數(shù)修約值-365-36 X 10（特定時(shí)可寫為 -360）-0.0365-0.036（五）不許連續(xù)修約1、擬修約數(shù)值應(yīng)在確定修約位數(shù)后一次修約獲得結(jié)果， 而不得多次按上述規(guī)定連續(xù)修約。例 1：7.35456 要求三位有效位數(shù)時(shí)為 7.35 。 不正確的做法：7.354546 7.35455 7.3546 7.35

13、5 7.36。例 2：修約 15.4546 ，修約間隔為 1正確的做法：15.4546 15不正確的做法：15.454615.45515.4615.5162、在具體實(shí)施中， 有時(shí)測(cè)試部門先將獲得數(shù)值按指定的 修約位數(shù)多一位或幾位報(bào)出，而后由其他部門判定。為避免 產(chǎn)生連續(xù)修約的錯(cuò)誤，要求在報(bào)出數(shù)值最右的非零數(shù)字為5時(shí)，應(yīng)在數(shù)值后面加“ （+）”或“（- ）”或不加號(hào)，以分別表 明已進(jìn)行過舍、進(jìn)或未舍未進(jìn)。例如：16.50 （+）表式實(shí)際數(shù)大于 16.50 ，經(jīng)修約舍棄 成為 16.50 ；16.50 （ - ）表示實(shí)際值小于 16.50 ，經(jīng)修約進(jìn) 一成為 16.50 。三、極限數(shù)值判定與表示方

14、法（一）書寫極限數(shù)值的一般原則1、標(biāo)準(zhǔn)中規(guī)定考核的以數(shù)量形式給出的指標(biāo)或參數(shù)等，應(yīng)當(dāng)規(guī)定極限數(shù)值， 它表示符合標(biāo)準(zhǔn)要求的數(shù)值范圍的界限。通過給出最小極限值和（或）最大極限值，或給出基本數(shù)值和極限偏差值等方式表達(dá)。2、標(biāo)準(zhǔn)中極限數(shù)值的形式及書寫位數(shù)應(yīng)該適當(dāng)。它的有效位數(shù)應(yīng)全部寫出。 書寫位數(shù)表示的精確程度， 應(yīng) 能保證產(chǎn)品或其它標(biāo)準(zhǔn)化對(duì)象的應(yīng)有性能和質(zhì)量， 從而它 也規(guī)定了為檢驗(yàn)實(shí)際產(chǎn)品或其它標(biāo)準(zhǔn)化對(duì)象而得到的測(cè) 定值或其計(jì)算值應(yīng)具有的相應(yīng)精確程度。（二）表達(dá)極限數(shù)值的基本用語(yǔ)及其涵義1、 基本用語(yǔ)及其涵義基本用語(yǔ)符號(hào)特定情形下的基本用語(yǔ)涵義大于 A> A多于 A 高于 AA 值不符合要求

15、小于 Av A少于 A 低于 AA 值不符合要求大于或等于 A> A不小于 A 不少于 A 不低于 AA 值符合要求小于或等于 A< A不大于 A 不多于 A 不高于 A A 值符合要求 基本用語(yǔ)也可組合使用，表明極限數(shù)值范圍不小于不大于例： C（%）0.120.19Si（%）0.170.37 不多于、不少于、多于、少于等用語(yǔ)宜用于敘述時(shí)間、距 離指標(biāo)，以及僅取整數(shù)值的計(jì)算指標(biāo)等場(chǎng)合。如：使用壽 命不少于 3000h。 不高于、不低于、高于、低于等用語(yǔ)宜用于敘述溫度、高 度(以向上作為正方向)指標(biāo)等場(chǎng)合。如：所用柴油閃點(diǎn) 不低于60 C。2、 允許的習(xí)慣用語(yǔ)及其涵義必要時(shí)，允許采用

16、下列用語(yǔ) “ A及以上”，指數(shù)值大于或等于 A (> A); “A及以下”，指數(shù)值小于或等于 A (< A)。 “超過A ”，指數(shù)值大于A (> A);“不足A”，指數(shù)值小于A (v A);“至多A”，指數(shù)值小于或等于 A (< A );“至少A ” ,指數(shù)值大于或等于 A (> A )。3、帶有極限偏差的數(shù)值及其涵義 某基本數(shù)值 A 帶有絕對(duì)極限上偏差值 +b1 和絕對(duì)極限偏 差值-b2即A+b1-b2，指從(A- b2)到(A+ b1)符合標(biāo)準(zhǔn)要 求。例：80+2-1mm，指從79mm到82mm符合標(biāo)準(zhǔn)要求。 某基本數(shù)值 A帶有相對(duì)極限上偏差值+b1%和相對(duì)極

17、限 下偏差七2%，即A+b1-b2%，指實(shí)測(cè)值或其計(jì)算值 R對(duì)于A 的相對(duì)偏差值(R-A) /A丨從-b2%到+b1%符合標(biāo)準(zhǔn)要求。 若某個(gè)極限偏差值或B 已超出標(biāo)準(zhǔn)要求，則應(yīng)附加括號(hào)，寫成“ B （不含B）”。例：80+2-imm （不含2）,指從79mm到接近但不足 82mm 符合標(biāo)準(zhǔn)要求。（三）檢測(cè)結(jié)果的判定方法根據(jù) GB/T1250-89 極限數(shù)值的表示方法和判定方法 ， 在判定檢測(cè)數(shù)據(jù)是否符合標(biāo)準(zhǔn)要求時(shí)，應(yīng)將檢驗(yàn)所得的測(cè)定 值或其計(jì)算值與標(biāo)準(zhǔn)規(guī)定的極限數(shù)值作比較。比較的方法有 全數(shù)值比較法和修約值比較法 兩種。1、全數(shù)值比較法 標(biāo)準(zhǔn)中各種極限數(shù)值（包括帶有極限偏差值的數(shù)值）未 加說(shuō)明

18、時(shí)，均指采用全數(shù)值比較法。該方法是：將檢驗(yàn)所得的測(cè)定值或其計(jì)算值不經(jīng)修約處 理（或按 GB/T8170 作修約處理，但應(yīng)表明它是經(jīng)舍、進(jìn)或 未舍未進(jìn)而得） ，而用數(shù)值的全部數(shù)字與標(biāo)準(zhǔn)規(guī)定的極限數(shù) 值作比較，只要越出規(guī)定的極限數(shù)值（不論越出程度大?。?，都判定為不符合標(biāo)準(zhǔn)要求。示例見下表。極限數(shù)值測(cè)定值或其計(jì)算值修約值是否符合標(biāo)準(zhǔn)要求> 56 X1055556 X 10(-)不符55956 X 10(-)不符56056 X 10符合56556 X 10(+)符合> 97.097.0197.0(+)符合97.0097.0符合96.9897.0（-）不符96.9496.9（+）不符0.300.600.2990.30（-）不符0.3000.30符合0.6000.60符合0.6010.60（+）不符0.300.600.6050.60（+）不符2、修約值比較法凡標(biāo)準(zhǔn)中說(shuō)采用修約值比較法的，應(yīng)采用修約值比較 法。 將測(cè)定值或其計(jì)算值按 GB/T8170 進(jìn)行修約，修 約位數(shù)與標(biāo)準(zhǔn)規(guī)定的極限數(shù)值書寫位數(shù)一致。 將修約