有效數(shù)字修約規(guī)則_第1頁
有效數(shù)字修約規(guī)則_第2頁
有效數(shù)字修約規(guī)則_第3頁
有效數(shù)字修約規(guī)則_第4頁
有效數(shù)字修約規(guī)則_第5頁
已閱讀5頁,還剩39頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領

文檔簡介

有效數(shù)字修約規(guī)則第1頁,課件共44頁,創(chuàng)作于2023年2月數(shù)值修約一、數(shù)值修約的概念及意義二、數(shù)值修約的基礎知識三、數(shù)值修約規(guī)則及注意事項四、數(shù)值運算規(guī)則第2頁,課件共44頁,創(chuàng)作于2023年2月一、數(shù)值修約的概念及意義測量及測量結(jié)果數(shù)值修約的概念及意義第3頁,課件共44頁,創(chuàng)作于2023年2月1.測量、測量結(jié)果(1)測量、測量結(jié)果測量是以確定量值為目的的一組操作。量值是由一個數(shù)(值)乘以測量單位所表示的特定量的大小。測量有間接和直接之分:直接測量的結(jié)果可直接測到而不必通過函數(shù)計算;而間接測量的結(jié)果需將直接測量的結(jié)果代入函數(shù)計算才能得到。第4頁,課件共44頁,創(chuàng)作于2023年2月由測量所得的賦予被測量的值稱為測量結(jié)果。例如,用分析天平稱得一個試樣的質(zhì)量為1.1080g,1.1080g就是一個測量結(jié)果。由測量與測量結(jié)果的概念可看出,測量結(jié)果可表示如下:測量結(jié)果=數(shù)(值)×單位量值根據(jù)誤差公理,測量總是存在誤差的,測量結(jié)果只能是接近于測量真值的估計值,因而表示測量結(jié)果的數(shù)(值)是含有誤差的數(shù)(值),就是說,表示測量結(jié)果的的數(shù)值是一個近似值。第5頁,課件共44頁,創(chuàng)作于2023年2月(1)數(shù)值修約的概念對某一表示測量結(jié)果的數(shù)值(擬修約數(shù)),根據(jù)保留位數(shù)的要求,將多余的數(shù)字進行取舍,按照一定的規(guī)則,選取一個近似數(shù)(修約數(shù))來代替原來的數(shù),這一過程稱為數(shù)值修約。2.數(shù)值修約的概念及意義第6頁,課件共44頁,創(chuàng)作于2023年2月(2)數(shù)值修約的意義a.出于準確表達測量結(jié)果的需要。測量結(jié)果大都是通過間接測量得到的,間接測量的結(jié)果通常是通過計算得出的,其組成數(shù)字往往較多,但具體測量的精度是確定的,就是說表示合理表征測量結(jié)果的數(shù)字個數(shù)應是確定的,最終提供的測量結(jié)果應合理反映這一點,故此,通過對計算方法和直接測量得到的數(shù)據(jù)的分析,得到合理的保留位數(shù),將多余的數(shù)字進行取舍以得到合理反映測量精度的測量結(jié)果,即進行數(shù)值修約就非常必要。另外,即使采用直接測量,有時在提供測量程序要求的但高于實際測量精度的測量結(jié)果時也需要進行合理的數(shù)值修約。第7頁,課件共44頁,創(chuàng)作于2023年2月b.在進行具體的數(shù)值計算前,對參加計算的數(shù)值進行修約,可簡化計算,降低計算出錯的機會。如:4.78961×2.13×102.4387926=?若不先進行數(shù)值修約就直接計算,繁瑣且容易出錯。若在計算前先按數(shù)值修約規(guī)則進行修約,舍去多余參與計算的數(shù)值之中沒有意義的數(shù)字,則計算會簡單得多,計算也就不容易出錯。第8頁,課件共44頁,創(chuàng)作于2023年2月二、數(shù)值修約的基礎知識1.有效數(shù)字2修約間隔3.修約數(shù)位及確定修約位數(shù)的表達方式

第9頁,課件共44頁,創(chuàng)作于2023年2月1.有效數(shù)字1.1有效數(shù)字有效數(shù)字是指在分析和測量中所能得到的有實際意義的數(shù)字。測量結(jié)果是由有效數(shù)字組成的(前后定位用的“0”除外)。我們來看前面的測量結(jié)果1.1080g,組成數(shù)字1、1、0、8、0都是實際測讀到的,它們是表示試樣質(zhì)量大小的,因而都是有實際意義的。有效數(shù)字的前幾位都是準確數(shù)字,只有最后一位是可疑數(shù)字。如前述的1.1080,前幾位數(shù)字1、1、0、8都是稱量讀到的準確數(shù)字,而最后一位數(shù)字0則是在沒有刻度的情況下估讀出來的,是不準確的或者說可疑的。第10頁,課件共44頁,創(chuàng)作于2023年2月有效數(shù)字是處于表示測量結(jié)果的數(shù)值的不同數(shù)位上。所有有效數(shù)字所占有的數(shù)位個數(shù)稱為有效數(shù)字位數(shù)。例1:數(shù)值3.5,有兩個有效數(shù)字,占有個位、十分位兩個數(shù)位,因而有效數(shù)字位數(shù)為兩位;3.501有四個有效數(shù)字,占有個位、十分位、百分位等四個數(shù)位,因而是四位有效數(shù)字。測量結(jié)果的數(shù)字,其有效位數(shù)反映了測量結(jié)果的精確度,它直接與測量的精密度有關。這也是有效數(shù)字實際意義的體現(xiàn),是非常重要的體現(xiàn)。例如前述例子中,若測量結(jié)果為1.1080g,則表示測量值的誤差在10-4量級上,天平的精度為萬分之一;若測量結(jié)果為1.108g,則表示測量值的誤差在10-3量級上,天平的精度為千分之一。第11頁,課件共44頁,創(chuàng)作于2023年2月

2.2有效數(shù)字位數(shù)的確定原則由于有效數(shù)字的位數(shù)反映了測量結(jié)果的精確度,它直接與測量的精密度有關。因此,在科學實驗和生產(chǎn)活動中正確記錄有效數(shù)字,不能多寫或少寫,多寫了不能正確反映測量精度,則該數(shù)據(jù)不真實,因而也就不可靠;少寫損失測量精度度。另外,能夠正確判定表示測量結(jié)果的數(shù)中那些數(shù)字是有效數(shù)字,確定有效數(shù)字位數(shù)就顯得非常重要。這也是在計量認證過程中,有效數(shù)字位數(shù)的確定往往成為考核內(nèi)容之一的原因。第12頁,課件共44頁,創(chuàng)作于2023年2月在確定有效數(shù)字位數(shù)時應遵循下列原則:(1)數(shù)值中數(shù)字1~9都是有效數(shù)字。(2)數(shù)字“0”在數(shù)值中所處的位置不同,起的作用也不同,可能是有效數(shù)字,也可能不是有效數(shù)字。判定如下:1)“0”在數(shù)字前,僅起定位作用,不是有效數(shù)字。如,0.0257中,“2”前面的兩個“0”均非有效數(shù)字。0.123、0.0123、0.00123中“1”前面的“0”也均非有效數(shù)字。第13頁,課件共44頁,創(chuàng)作于2023年2月2)數(shù)值末尾的“0”屬于有效數(shù)字。如0.5000中,“5”后面的三個“0”均為有效數(shù)字;0.5000中,“5”后面的一個“0”也是有效數(shù)字。

特例:見第4)條。3)數(shù)值中夾在數(shù)字中間的“0”是有效數(shù)字。如數(shù)值1.008中的兩個“0”是均是有效數(shù)字;數(shù)值8.01中間的“0”也是有效數(shù)字。

第14頁,課件共44頁,創(chuàng)作于2023年2月4)以“0”結(jié)尾的正整數(shù),“0”是不是有效數(shù)字不確定,應根據(jù)測試結(jié)果的準確度確定。如3600,后面的兩個“0”如果不指明測量準確度就不能確定是不是有效數(shù)字。測量中遇到這種情況,最好根據(jù)實際測試結(jié)果的精確度確定有效數(shù)字的位數(shù),有效數(shù)字用小數(shù)表示,把“0”用10的乘方表示。如將3600寫成3.6×103表示此數(shù)有兩位有效數(shù)字;寫成3.60×103表示此數(shù)有三位有效數(shù)字;寫成3.600×103表示此數(shù)有四位有效數(shù)字。第15頁,課件共44頁,創(chuàng)作于2023年2月試看下面各數(shù)據(jù)的有效數(shù)字位數(shù):1.000843383五位有效數(shù)字0.500020.76%四位有效數(shù)字0.0257154×10-10三位有效數(shù)字530.0070二位有效數(shù)字0.022×10-10一位有效數(shù)字3600100有效數(shù)字位數(shù)不定第16頁,課件共44頁,創(chuàng)作于2023年2月2.修約間隔修約間隔又稱修約區(qū)間或化整間隔,系確定修約保留位數(shù)的一種方式。修約間隔一般以k×10n(k=1,2,5;n為整數(shù))的形式表示,將同一k值的修約間隔,簡稱為“k”間隔。修約間隔的數(shù)值一經(jīng)確定,修約值即應為該數(shù)值的整數(shù)倍。例1:如指定修約間隔為0.1,修約值即應在0.1的整數(shù)倍中選取,相當于將數(shù)值修約到一位小數(shù)。例2:如指定修約間隔為100,修約值即應在100的整數(shù)倍中選取,相當于將數(shù)值修約到“百”數(shù)位。第17頁,課件共44頁,創(chuàng)作于2023年2月3.修約數(shù)位及確定修約位數(shù)的表達方式修約時擬將擬修約數(shù)的哪一位數(shù)位后部分按修約規(guī)則舍去,則該數(shù)位就是修約數(shù)位。數(shù)值修約時需要先明確修約數(shù)位,確定修約位數(shù)的表達方式如下:(1)指明具體的修約間隔。如指明將某數(shù)按0.2(2×10-1)修約間隔修約、100(1×102)修約間隔修約等。(2)指定將擬修約數(shù)修約至某數(shù)位的0.1、0.2或0.5個單位。(3)指明按“k”間隔將擬修約數(shù)修約為幾位有效數(shù)字,或修約至某數(shù)位。這時“1”間隔可不必指明,但“2”間隔和“5”間隔必須指明。第18頁,課件共44頁,創(chuàng)作于2023年2月三、數(shù)值修約規(guī)則1.GB8170-87《數(shù)值修約規(guī)則》2.通用修約方法第19頁,課件共44頁,創(chuàng)作于2023年2月1.GB8170-87《數(shù)值修約規(guī)則》測量結(jié)果的數(shù)據(jù)處理是測量過程的最后環(huán)節(jié),由于測量結(jié)果含有測量誤差,測量結(jié)果的有效位數(shù)應保留適宜,太多會使人誤認為測量精度很高,同時也會帶來計算上的繁瑣;太少則會損失測量準確度。測量、計算結(jié)果的數(shù)值應按《數(shù)值修約規(guī)則》(GB8170-87)規(guī)定進行修約。第20頁,課件共44頁,創(chuàng)作于2023年2月GB8170-87《數(shù)值修約規(guī)則》規(guī)定的修約規(guī)則如下:3.1擬舍棄數(shù)字的最左一位數(shù)字小于5時,則舍去,即保留的各位數(shù)字不變。例1:將12.1498修約到一位小數(shù),得12.1。例2:將12.1498修約成兩位有效位數(shù),得12。第21頁,課件共44頁,創(chuàng)作于2023年2月3.2擬舍棄數(shù)字的最左一位數(shù)字大于5;或者是5,而其后跟有并非全部為0的數(shù)字時,則進一,即保留的末位數(shù)字加1。例1:將1268修約到“百”數(shù)位,得13×102(特定時可寫為1300)。例2:將1268修約成三位有效位數(shù),得127×10(特定時可寫為1270)。例3:將10.502修約到個數(shù)位,得11。注:“特定時”的涵義系指修約間隔或有效位數(shù)明確時。第22頁,課件共44頁,創(chuàng)作于2023年2月3.3擬舍棄數(shù)字的最左一位數(shù)字為5,而右面無數(shù)字或皆為0時,若所保留的末位數(shù)字為奇數(shù)(1,3,5,7,9)則進一,為偶數(shù)(2,4,6,8,0)則舍棄。例1:修約間隔為0.1(或10-1)擬修約數(shù)修約值1.0501.00.3500.4第23頁,課件共44頁,創(chuàng)作于2023年2月例2:修約間隔為1000(或103)

擬修約數(shù)修約值

2500

2×103

(特定時可寫為2000)3500

4×103

(特定時可寫為4000)

例3:將下列數(shù)字修約成兩位有效位數(shù)擬修約數(shù)修約值0.03250.0323250032×103(特定時可寫為32000)第24頁,課件共44頁,創(chuàng)作于2023年2月3.4負數(shù)修約時,先將它的絕對值按上述3.1-3.3規(guī)定進行修約,然后在修約值前面加上負號。例1:將下列數(shù)修約到“十”數(shù)位擬修約數(shù)修約值-355-36×10(特定時可寫為-360)-325-32×10(特定時可寫為-320)例2:將下列數(shù)修約成兩位有效位數(shù)擬修約數(shù)修約值-365-36×10(特定時可寫為-360)-0.0365-0.036注:以上4條為修約間隔為“1”時的修約規(guī)則。第25頁,課件共44頁,創(chuàng)作于2023年2月50.5單位修約與0.2單位修約必要時,可采用0.5單位修約和0.2單位修約。5.10.5單位修約將擬修約數(shù)乘以2,按指定數(shù)位依3.1-3.4規(guī)則修約,所得數(shù)再除以2。例如:將下列數(shù)修約到個數(shù)位的0.5單位(或修約間隔為0.5)

擬修約數(shù)乘22A修約值A修約值(A)(2A)(修約間隔為1)(修約間隔為0.5)60.25120.5012060.060.38120.7612160.5-60.75-121.50-122-61.0第26頁,課件共44頁,創(chuàng)作于2023年2月5.20.2單位修約將擬修約數(shù)乘以5,按指定數(shù)位依3.1-3.4規(guī)則修約,所得數(shù)值再除以5。例如:將下列數(shù)修約到“百”數(shù)位的0.2單位(或修約間隔為20)

擬修約數(shù)乘55A修約值A修約值(A)(5A)(修約間隔為100)(修約間隔為20)8304150420084084242104200840-930-4650-4600-920第27頁,課件共44頁,創(chuàng)作于2023年2月2.通用數(shù)值修約方法GB8710-87《數(shù)值修約規(guī)則》分別規(guī)定了“1”、“2”和“5”間隔的修約規(guī)則。但計算比較繁瑣,對“2”和“5”間隔的的修約還需進行計算。這里介紹一種適用于所有修約間隔的修約方法,只需直觀判斷簡單易行。第28頁,課件共44頁,創(chuàng)作于2023年2月該方法如下所述:①如果為修約間隔整數(shù)培的一系列數(shù)中,只有一個數(shù)最接近于擬修約數(shù),則該數(shù)就是修約數(shù)。例如,將1.150001按0.1修約間隔進行修約。此時,與擬修約數(shù)1.150001鄰近的為修約間隔整數(shù)倍的數(shù)有1.1和1.2(分別為修約間隔的11倍和12倍),然而只有1.2最接近于擬修約數(shù),因此1.2就是修約數(shù)。第29頁,課件共44頁,創(chuàng)作于2023年2月將1.015修約至十分位的0.2單位。修約間隔為0.02。1.00和1.02中,1.2最接近于擬修約數(shù),因此1.02是修約數(shù)(為修約間隔的51培)。將1.2505按“5”間隔修約至十分位。修約間隔為0.5。1.0和1.5中,1.5是修約數(shù)(為修約間隔的3培)。第30頁,課件共44頁,創(chuàng)作于2023年2月②如果為修約間隔整數(shù)培的一系列數(shù)中,有連續(xù)兩個數(shù)同等接近于擬修約數(shù),則這兩個數(shù)中,為修約間隔偶數(shù)培的數(shù)就是修約數(shù)。例如,將1150按100修約間隔行修約。此時,與擬修約數(shù)1150鄰近的為修約間隔整數(shù)倍的數(shù)有1100和1200(分別為修約間隔的11倍和12倍),這兩個數(shù)同等接近于擬修約數(shù),然而1200為修約間隔的偶數(shù)培(12倍),因此1200就是修約數(shù)。第31頁,課件共44頁,創(chuàng)作于2023年2月又如:將1.500按0.2修約間隔修約。結(jié)果為1.6。再如:將1.025按“5”間隔修約三位有效數(shù)字。結(jié)果為1.00。第32頁,課件共44頁,創(chuàng)作于2023年2月需要指出的是:一個數(shù)據(jù)的修約只能進行一次,不能分次修約。例如:修約15.4546,修約間隔為1。正確的做法:15.4546→15不正確的做法:15.4546→15.455→15.46→15.5→16第33頁,課件共44頁,創(chuàng)作于2023年2月四、數(shù)值運算規(guī)則第34頁,課件共44頁,創(chuàng)作于2023年2月在一個具體的測量過程中,一般都要經(jīng)過多個測量的環(huán)節(jié),而每個測量的環(huán)節(jié)都有具體的測量數(shù)據(jù),如砂子表觀密度測定時稱量比重瓶與水、試樣的總質(zhì)量,傾出試樣后稱量瓶與水的質(zhì)量;滴定試驗時滴定前滴定管的初始讀數(shù)與滴定至終點時,溶液體積的讀數(shù)等。

這些測量所得的數(shù)據(jù),在參與測量結(jié)果計算的過程中,若要修約應怎么修約,計算得到的結(jié)果怎么修約就是運算法則所要解決的問題。第35頁,課件共44頁,創(chuàng)作于2023年2月1.加減運算2.乘除運算3.乘方和開方4.對數(shù)和反對數(shù)5.平均值6.方差和標準偏差第36頁,課件共44頁,創(chuàng)作于2023年2月1.加減運算幾個數(shù)相加減的結(jié)果,經(jīng)修約后保留有效數(shù)字的位數(shù),取決于絕對誤差最大的數(shù)值,計算結(jié)果應以絕對誤差最大(即小數(shù)點后位數(shù)最少)的數(shù)據(jù)為基準,來決定計算結(jié)果數(shù)據(jù)的位數(shù)。在實際運算過程中,各數(shù)值保留的位數(shù)比各數(shù)值中小數(shù)點后位數(shù)最少者多保留一位小數(shù),而計算結(jié)果有效數(shù)字的位數(shù)應與效數(shù)最少的一數(shù)相同。例如29.2+36.582-3.0281=?按上述規(guī)測計算如下:29.2+36.582-3.0281≈29.2+36.58-3.03=62.75最后計算結(jié)果保留一位小數(shù),為62.8。第37頁,課件共44頁,創(chuàng)作于2023年2月2.乘除運算幾個數(shù)據(jù)的乘除運算以相對誤差最大(即有效數(shù)字位數(shù)最少)的數(shù)值為基準來決定結(jié)果數(shù)據(jù)的位數(shù),。在實際運算中,先將各數(shù)值修約至比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字運算,計算結(jié)果的有效數(shù)字的位數(shù)與有效數(shù)字位數(shù)最少的數(shù)值相同。(與小數(shù)點位置無關)第38頁,課件共44頁,創(chuàng)作于2023年2月例如,0.235438×28.6×61.8911≈0.2354×28.6×61.89=414.6707116三個參與運算的數(shù)值的有效數(shù)字位數(shù)分別為六位、三位、六位,所以最終計算結(jié)果用三位有效數(shù)字表示,為415或4.15×102。第39頁,課件共44頁,創(chuàng)作于2023

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論