數(shù)值修約規(guī)則與判定_第1頁
數(shù)值修約規(guī)則與判定_第2頁
數(shù)值修約規(guī)則與判定_第3頁
數(shù)值修約規(guī)則與判定_第4頁
數(shù)值修約規(guī)則與判定_第5頁
已閱讀5頁,還剩22頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)

文檔簡介

數(shù)值修約規(guī)則與判定第1頁,課件共27頁,創(chuàng)作于2023年2月1、本標(biāo)準(zhǔn)于2009年01月01日起實(shí)施。2、本標(biāo)準(zhǔn)替代:GB/T8170-1987數(shù)值修約規(guī)則GB/T1250-1989極限數(shù)值的表示和判定由2個標(biāo)準(zhǔn)整合修訂而成。3、標(biāo)準(zhǔn)文本的內(nèi)容包括:→范圍;→術(shù)語和定義;→數(shù)值修約規(guī)則;→極限數(shù)值的表示和判定。GB/T8170-2008數(shù)值修約規(guī)則與極限數(shù)值的表示和判定第2頁,課件共27頁,創(chuàng)作于2023年2月

范圍※標(biāo)準(zhǔn)規(guī)定了:→規(guī)定了對數(shù)值進(jìn)行修約的規(guī)則;→規(guī)定了極限數(shù)值的表示和判定方法;→規(guī)定了將測量值或其計算值與標(biāo)準(zhǔn)規(guī)定的極限數(shù)值作比較的方法?!鶚?biāo)準(zhǔn)適用于:→適用于科學(xué)技術(shù)與生產(chǎn)活動中測試和計算得出的各種數(shù)據(jù)。當(dāng)所得數(shù)據(jù)需要修約時,應(yīng)按本標(biāo)準(zhǔn)的規(guī)則;→適用于各種標(biāo)準(zhǔn)或其他技術(shù)規(guī)范的編寫和對測試結(jié)果的判定。第3頁,課件共27頁,創(chuàng)作于2023年2月術(shù)語修約間隔:修約值的最小數(shù)值單位,系確定修約保留位數(shù)的一種方式。修約間隔的數(shù)值一經(jīng)確定,修約值即應(yīng)為該數(shù)值的整數(shù)倍。

例1:如指定修約間隔為0.1,修約值即應(yīng)在0.1的整數(shù)倍中選取,相當(dāng)于將數(shù)值修約到一位小數(shù)。

例2:如指定修約間隔為100,修約值即應(yīng)在100的整數(shù)倍中選取,相當(dāng)于將數(shù)值修約到“百”數(shù)位。第4頁,課件共27頁,創(chuàng)作于2023年2月有效位數(shù):對沒有小數(shù)位且以若干個零結(jié)尾的數(shù)值,從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無效零(即僅為定位用的零)的個數(shù);對其他十進(jìn)位數(shù),從非零數(shù)字最左一位向右數(shù)而得到的位數(shù),就是有效位數(shù)。

例1:35000,若有兩個無效零,則為三位有效位數(shù),應(yīng)寫為350×102;若有三個無效零,則為兩位有效位數(shù),應(yīng)寫為35×103。

例2:3.2,0.32,0.032,0.0032均為兩位有效位數(shù);0.0320為三位有效位數(shù)。

例3:12.490為五位有效位數(shù);10.00為四位有效位數(shù)。

第5頁,課件共27頁,創(chuàng)作于2023年2月0.5單位修約(半個單位修約):指修約間隔為指定數(shù)位的0.5單位,即修約到指定數(shù)位的0.5單位。修約方法:將擬修約數(shù)值乘以2,按指定數(shù)位依數(shù)字修約規(guī)則修約,所得數(shù)值再除以2。

例1:將60.28修約到個數(shù)位的0.5單位(或修約間隔為0.5),得60.5。

例2:將60.25修約到個數(shù)位的0.5單位(或修約間隔為0.5),得60.0。第6頁,課件共27頁,創(chuàng)作于2023年2月

擬修約數(shù)值乘22A修約值(修約間隔為1)A修約值(修約間隔為0.5)60.25120.5012060.060.38120.7612160.5將下列數(shù)字修約到個數(shù)位的0.5單位(或修約間隔為0.5)

第7頁,課件共27頁,創(chuàng)作于2023年2月0.2單位修約:指修約間隔為指定數(shù)位的0.2單位,即修約到指定數(shù)位的0.2單位。將擬修約數(shù)值乘以5,按指定數(shù)位依數(shù)字修約規(guī)則修約,所得數(shù)值再除以5。

例1:將830修約到“百”數(shù)位的0.2單位(或修約間隔為20),得840。

例:2:將842修約到“百”數(shù)位的0.2單位(或修約間隔為20),得840。第8頁,課件共27頁,創(chuàng)作于2023年2月

擬修約數(shù)值乘55A修約值(修約間隔為100)A修約值(修約間隔為20)8304150420084084242104200840將下列數(shù)字修約到“百”數(shù)位的0.2單位(或修約間隔為20)

第9頁,課件共27頁,創(chuàng)作于2023年2月確定修約位數(shù)的表達(dá)方式指定數(shù)位(指定修約間隔);指定將數(shù)值修約成n位有效位數(shù)。第10頁,課件共27頁,創(chuàng)作于2023年2月四舍六入五考慮,五后非零則進(jìn)一,五后皆零視奇偶,五前為偶應(yīng)舍去,五前為奇則進(jìn)一,不論數(shù)字多少位,都要一次修約成。進(jìn)舍規(guī)則第11頁,課件共27頁,創(chuàng)作于2023年2月擬舍棄數(shù)字的最左一位數(shù)字小于5時,則舍去,即保留的各位數(shù)字不變。例1:將12.1498修約到一位小數(shù),得12.1。

例2:將12.1498修約成兩位有效位數(shù),得12。第12頁,課件共27頁,創(chuàng)作于2023年2月擬舍棄數(shù)字的最左一位數(shù)字大于5;或者是5,而其后跟有并非全部為0的數(shù)字時,則進(jìn)一,即保留的末位數(shù)字加1。例1:將1268修約到“百”數(shù)位,得13×102(特定時可寫為1300)。例2:將1268修約成三位有效位數(shù),得127×10(特定時可寫為1270)。例3:將10.502修約到個數(shù)位,得11。第13頁,課件共27頁,創(chuàng)作于2023年2月擬舍棄數(shù)字的最左一位數(shù)字為5,而右面無數(shù)字或皆為0時,若所保留的末位數(shù)字為奇數(shù)(1,3,5,7,9)則進(jìn)一,若所保留的末位數(shù)字為偶數(shù)(2,4,6,8,0)則舍棄。例1:修約間隔為0.1擬修約數(shù)值1.050修約值結(jié)果1.0

第14頁,課件共27頁,創(chuàng)作于2023年2月負(fù)數(shù)修約時,先將它的絕對值按數(shù)字修約規(guī)定進(jìn)行修約,然后在修約值前面加上負(fù)號。例1:將下列數(shù)字修約到“十”數(shù)位擬修約數(shù)值修約值-355-36×10第15頁,課件共27頁,創(chuàng)作于2023年2月不許連續(xù)修約擬修約數(shù)字應(yīng)在確定修約位數(shù)后一次修約獲得結(jié)果,而不得多次按進(jìn)舍規(guī)則連續(xù)修約。例如:修約15.4546,修約間隔為1

正確的做法:15.4546→15不正確的做法:15.4546→15.455→15.46→15.5→16

第16頁,課件共27頁,創(chuàng)作于2023年2月在具體實(shí)施中,有時測試與計算部門先將獲得數(shù)值按指定的修約位數(shù)多一位或幾位報出,而后由其他部門判定。為避免產(chǎn)生連續(xù)修約的錯誤,應(yīng)按下述步驟進(jìn)行。第17頁,課件共27頁,創(chuàng)作于2023年2月1.報出數(shù)值最右的非零數(shù)字為5時,應(yīng)在數(shù)值后面加“(+)”或“(-)”或不加符號,以分別表明已進(jìn)行過舍、進(jìn)或未舍未進(jìn)。

例:16.50(+)表示實(shí)際值大于16.50,經(jīng)修約舍棄成為16.50;16.50(-)表示實(shí)際值小于16.50,經(jīng)修約進(jìn)一成為16.50。第18頁,課件共27頁,創(chuàng)作于2023年2月2.如果判定報出值需要進(jìn)行修約,當(dāng)擬舍棄數(shù)字的最左一位數(shù)字為5而后面無數(shù)字或皆為零時,數(shù)值后面有(+)號者進(jìn)一,數(shù)值后面有(-)號者舍去,其他仍按數(shù)字修約規(guī)則進(jìn)行。

例:將下列數(shù)字修約到個數(shù)位后進(jìn)行判定(報出值多留一位到一位小數(shù))。實(shí)測值報出值修約值15.454615.5(一)1516.520316.5(+)17-17.5000-17.5-18-15.4546-(15.5(一))-15第19頁,課件共27頁,創(chuàng)作于2023年2月

計算法則第20頁,課件共27頁,創(chuàng)作于2023年2月加減運(yùn)算應(yīng)以各數(shù)中有效數(shù)字末位數(shù)的數(shù)位最高者為準(zhǔn)(小數(shù)即以小數(shù)部分位數(shù)最少者為準(zhǔn)),其余數(shù)均比該數(shù)向右多保留一位有效數(shù)字。

例如:5.89+15.2551=5.89+15.255=21.145第21頁,課件共27頁,創(chuàng)作于2023年2月乘除運(yùn)算應(yīng)以各數(shù)中有效數(shù)字位數(shù)最少者為準(zhǔn),其余數(shù)均多取一位有效數(shù)字,所得積或商也多取一位有效數(shù)字。

例如:2.1×3.124=2.1×3.12=6.55第22頁,課件共27頁,創(chuàng)作于2023年2月平方或開方運(yùn)算其結(jié)果可比原數(shù)多保留一位有效數(shù)字。

例如:1.42=1.961.233=1.861第23頁,課件共27頁,創(chuàng)作于2023年2月對數(shù)運(yùn)算所取對數(shù)位數(shù)應(yīng)與真數(shù)有效數(shù)字位數(shù)相等。

例如:lg12.3=1.09第24頁,課件共27頁,創(chuàng)作于2023年2月特殊實(shí)例第25頁,課件共27頁,創(chuàng)作于2023年2月非連續(xù)型數(shù)值個數(shù)、分?jǐn)?shù)、倍數(shù)、名義濃度或標(biāo)示量等是沒有欠準(zhǔn)數(shù)字的,其有效位數(shù)可視為無限多位;常數(shù)π、e和系數(shù)2,1/2等數(shù)值的有效位數(shù)也可視為是無限多位。第26頁

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論