品質(zhì)化驗(yàn)中心分析數(shù)據(jù)處理培訓(xùn)_第1頁(yè)
品質(zhì)化驗(yàn)中心分析數(shù)據(jù)處理培訓(xùn)_第2頁(yè)
品質(zhì)化驗(yàn)中心分析數(shù)據(jù)處理培訓(xùn)_第3頁(yè)
品質(zhì)化驗(yàn)中心分析數(shù)據(jù)處理培訓(xùn)_第4頁(yè)
品質(zhì)化驗(yàn)中心分析數(shù)據(jù)處理培訓(xùn)_第5頁(yè)
已閱讀5頁(yè),還剩28頁(yè)未讀 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

1、分析數(shù)據(jù)處理數(shù)值修約規(guī)則與極限數(shù)值的表示和數(shù)值修約規(guī)則與極限數(shù)值的表示和判定判定分析數(shù)據(jù)處理了解有效數(shù)字有效數(shù)字修約規(guī)則學(xué)習(xí)GB/T8170-2008分析數(shù)據(jù)處理 一.有效數(shù)字的定義及位數(shù)表示 1.定義 數(shù)字是分析結(jié)果進(jìn)行記錄、計(jì)算與交流的形式,它不僅表示結(jié)果的大小,而且反映檢測(cè)的準(zhǔn)確程度。我們把具有上述雙功能的數(shù)字稱為有效數(shù)字。 2.有效數(shù)字的位數(shù) 由有效數(shù)字構(gòu)成的數(shù)值與通常數(shù)學(xué)上的數(shù)值在概念上是不同的。例如,在托盤天平和分析天平上分別稱同一砝碼,其測(cè)值為1.00和1.0000。這樣兩個(gè)數(shù)值,從數(shù)學(xué)上看它們是相同的。但從分析測(cè)量的角度來看,二者代表的意義卻有所不同。它們不僅反映了砝碼本身質(zhì)量

2、的大小,而且反映了測(cè)量時(shí)砝碼質(zhì)量的準(zhǔn)確程度。1.00表示測(cè)量的準(zhǔn)確程度為0.01g,相對(duì)誤差為0.01/1.00100=1%;而1.0000表示測(cè)量的準(zhǔn)確程度為0.0001 g,相對(duì)誤差為0.0001/1.0000100=0.01%;兩個(gè)數(shù)值的區(qū)別就是有效數(shù)字的位數(shù)不同,1.00是三位有效數(shù)字,而1.0000是五位有效數(shù)字。例如滴定分析中,某一次滴定管的讀數(shù)為12.34ml。其中“12.3”是根據(jù)刻度準(zhǔn)確讀出的,而最后一位“4”是化驗(yàn)員根據(jù)經(jīng)驗(yàn)估讀出來的,是可疑的。12.34是一個(gè)有四位有效數(shù)字的測(cè)定值。在分析工作中能實(shí)際測(cè)量到的數(shù)字如1,2,9為有效數(shù)字。而數(shù)字“0”在數(shù)據(jù)中具有雙重意義。若

3、作為普通數(shù)字使用,它就是有效數(shù)字;若它只起定位作用,就不是有效數(shù)字。一般來說,非零數(shù)字中間的“0”和數(shù)值末尾的“0”都是有效數(shù)字;而非零數(shù)字之前的“0”只起定位作用。如101340(6位);2.1045(5位);0.2104(4位);0.0120(3位)。以“0”結(jié)尾的正整數(shù),有效數(shù)字位數(shù)不確定,應(yīng)根據(jù)實(shí)際測(cè)量的讀數(shù)用10n形式表示。如質(zhì)量為1.50g,若以mg為單位,則可表示為1.50103mg,而不能表示為1500mg。二、數(shù)字修約規(guī)則二、數(shù)字修約規(guī)則 一個(gè)分析結(jié)果常由許多原始數(shù)據(jù)經(jīng)過多步數(shù)學(xué)運(yùn)算才能得出來,而分析結(jié)果的有效數(shù)字位數(shù)只能最后一位是可疑數(shù)字,所以數(shù)據(jù)記錄、數(shù)據(jù)的運(yùn)算及最后的分

4、析結(jié)果都不能任意增加或減少有效數(shù)字位數(shù),要做到這一點(diǎn),必須掌握數(shù)字修約規(guī)則和有效數(shù)字運(yùn)算規(guī)則。如何進(jìn)行數(shù)字修約,國(guó)家標(biāo)準(zhǔn)GB8170-2008數(shù)字修約規(guī)則已有明確規(guī)定,通常把該規(guī)則稱為“四舍六六入五成雙”規(guī)則,規(guī)則為“四要舍;六要入;五后有數(shù)則進(jìn)一;五后無數(shù)看前位;前為奇數(shù)則進(jìn)一;前為偶數(shù)要舍去;不論舍去多少位;必須一次修約成”。三、GB/T8170-2008關(guān)于數(shù)字的修約,國(guó)家標(biāo)準(zhǔn)GB/T8170-2008有明確的規(guī)定,今天我們共同來學(xué)習(xí)數(shù)字修約規(guī)則與極限數(shù)值的表示和判定1.范圍本標(biāo)準(zhǔn)規(guī)定了對(duì)數(shù)值進(jìn)行修約的規(guī)則、數(shù)值、極限數(shù)值的表示和判定方法,有關(guān)用語(yǔ)及其符號(hào),以及將測(cè)定值或其計(jì)算值 與標(biāo)準(zhǔn)

5、規(guī)定的極限數(shù)值作比較的方法。本標(biāo)準(zhǔn)適用于科學(xué)技術(shù)與生產(chǎn)活動(dòng)中測(cè)試和計(jì)算得出的各種數(shù)值。當(dāng)所得數(shù)值需要修約時(shí),應(yīng)按本標(biāo)準(zhǔn)給出的規(guī)則進(jìn)行。本標(biāo)準(zhǔn)適用于各種標(biāo)準(zhǔn)或其他技術(shù)規(guī)范的編寫和對(duì)測(cè)試結(jié)果的判定。2.術(shù)語(yǔ)和定義下列術(shù)語(yǔ)和定義適用于本標(biāo)準(zhǔn)。2.1數(shù)值修約通過省略原數(shù)值的最后若干位數(shù)字,調(diào)整所保留的末位數(shù)字,使最后得到的值最接近原數(shù)值的過程。注:經(jīng)數(shù)值修約后的數(shù)值稱為(原數(shù)值的)修約值2.2修約間隔修約值的最小數(shù)值單位。注:修約間隔的數(shù)值一經(jīng)確定,修約值即為該數(shù)值的整數(shù)倍。例1:如指定修約間隔為0.1,修約值應(yīng)在0.1的整數(shù)倍中選取,相當(dāng)于將數(shù)值修約到一位小數(shù)。例2:如指定修約間隔:100,修約值應(yīng)

6、在100的整數(shù)倍中選取,相當(dāng)于將數(shù)值修約到“百”數(shù)位。2.3極限數(shù)值標(biāo)準(zhǔn)(或技術(shù)規(guī)范)中規(guī)定考核的以數(shù)量形式給出且符合該標(biāo)準(zhǔn)(或技術(shù)規(guī)范)要求的指標(biāo)數(shù)值范圍的界限值。(舉例說明1) 3.數(shù)值修約規(guī)則3.1確定修約間隔a)指定修約間隔為10-n(n為正整數(shù)),或指明將數(shù)值修約到n位小數(shù);b)指定修約間隔為1,或指明將數(shù)值修約到個(gè)數(shù)位;c)指定修約間隔為10n(n為正整數(shù)),或指明將數(shù)值修約到10n數(shù)位,或指明將數(shù)值修約到十、百、千數(shù)位。3.2進(jìn)舍規(guī)則:“四舍六入五成雙”3.2.1擬舍棄數(shù)字的最左一位小數(shù)小于5,則舍去,保留其余各位數(shù)字不變。例:將12.1468修約到個(gè)位數(shù),得12;修約到一位小數(shù)

7、,得12.1。即“四要舍”3.2.2擬舍棄數(shù)字的最左一位數(shù)字大于5,則進(jìn) 一,即保留數(shù)字的末尾數(shù)字加1。即“六要入”例:將12.1468修約到兩位小數(shù),得12.153.2.3擬舍棄數(shù)字的最左一位數(shù)字是5,且其后有非0數(shù)字時(shí)進(jìn)一,即保留數(shù)字的末位數(shù)字加1。即口訣中的“五后有數(shù)則進(jìn)一”例:將10.5002修約到個(gè)位數(shù),得11。3.2.4擬舍棄數(shù)字的最左一位數(shù)字是5,且其后無數(shù)字或皆為0時(shí),若所保留的末位數(shù)字為奇數(shù)(1,3,5,7,9)則進(jìn)一,若所保留的末位數(shù)字為偶數(shù)(0,2,4,6,8)則舍去。即“五后無數(shù)看前位,前為奇數(shù)則進(jìn)一,前為偶數(shù)則舍去”例:0.35 0.4 0.25 0.2 0.150

8、0.2 例2:修約間隔為1000擬修約數(shù)值 修約值10002500 20003500 40003.2.5負(fù)數(shù)修約時(shí),先將它的絕對(duì)值按3.2.1-3.2.4的規(guī)定進(jìn)行修約,然后在所得值前面加上負(fù)號(hào)。例1:將下列數(shù)字修約到“十”數(shù)位擬修約數(shù)值 修約值 修約值-355 -360 -36 10-325 -320 -32 10例2:將下列數(shù)字修約到三位小數(shù)或修約間隔為10-3擬修約數(shù)值 修約值 修約值-0.0365 -0.036 -3610-33.3不允許連續(xù)修約3.3.1擬修約數(shù)字應(yīng)在確定修約間隔或指定修約數(shù)位后一次修約獲得結(jié)果,不得多次按3.2規(guī)則連續(xù)修約。即前面口訣中的“不論舍去多少位;必須一次修

9、約成”例1:修約97.46,修約間隔為1,即修約到個(gè)位數(shù),正確的做法:97.46 97;不正確的做法: 97.46 97.5 98例2:修約15.4546,修約間隔為1。正確的做法:15.4546 15不正確的做法:15.4546 15.455 15.46 15.5 163.3.2在具體實(shí)施中,有時(shí)測(cè)試與計(jì)算部門先將獲得數(shù)值按指定的修約數(shù)位多一位或幾位報(bào)出,而后由其他部門判定。為避免產(chǎn)生連續(xù)修約的錯(cuò)誤,應(yīng)按下述步驟進(jìn)行。3.3.2.1報(bào)出數(shù)值最右的非零數(shù)字為5時(shí),應(yīng)在數(shù)值右上角加“”或加“-”或不加符號(hào),分別表明已進(jìn)行過舍,進(jìn)或未舍未進(jìn)。例:16.50表示實(shí)際值大于16.50,經(jīng)修約舍棄為16

10、.50;16.50-表示實(shí)際值小于16.50,經(jīng)修約進(jìn)一為16.50.3.3.2.2如對(duì)報(bào)出值需進(jìn)行修約,當(dāng)擬舍棄數(shù)字的最左一位數(shù)字為5,且其后無數(shù)字或皆為零時(shí),數(shù)值右上角有“”者進(jìn)一,有“-”者舍去,其他仍按3.2的規(guī)定進(jìn)行。例1:將下列數(shù)字修約到個(gè)數(shù)位(報(bào)出值多留一位至一位小數(shù))實(shí)測(cè)值 報(bào)出值 修約值15.4546 15.5- 15-15.4546 -15.5- -1516.52.03 16.5 17-16.5206 -16.5 -1717.5000 17.5 183.4 0.5單位修約與0.2單位修約在對(duì)數(shù)值進(jìn)行修約時(shí),若有必要,也可采用0.5單位修約或0.2單位修約。3.4.1 0.5

11、單位修約(半個(gè)單位修約)注意:在車用汽油國(guó)家標(biāo)準(zhǔn)分析項(xiàng)目中,燃料膠質(zhì)含量的測(cè)定中,報(bào)告膠質(zhì)含量的結(jié)果,要求按照GB/T8170對(duì)數(shù)值進(jìn)行0.5單位的修約。0.5單位修約是指按指定修約間隔對(duì)擬修約的數(shù)值0.5單位進(jìn)行的修約。0.5單位修約值最終只會(huì)是0.5或0.0,不會(huì)出現(xiàn)其他數(shù)字。擬修約數(shù)值X 2X 2X修約值 X修約值60.25 120.50 120 60.060.38 120.76 121 60.560.28 120.56 121 60.5-60.75 -121.50 -122 -61.00.0.單位修約方法如下:將擬修約數(shù)值X乘以,按指定修約間隔對(duì)X依3.2的規(guī)定修約,所得數(shù)值(X修約值

12、)再除以。例:將下列數(shù)字修約到“個(gè)”數(shù)位的0.單位修約。0.20.2單位修約方法如下:將擬修約數(shù)值X乘以5,按指定修約間隔對(duì)5X依3.2的規(guī)定修約,所得數(shù)值(5X修約值)再除以5.例:將下列數(shù)字修約到“百”數(shù)位的0.2單位修約3.4.2 0.2單位修約0.2單位修約是指按指定修約間隔對(duì)擬修約的數(shù)值0.2單位進(jìn)行的修約。擬修約數(shù)值X 5X 5X修約值 X修約值830 4150 4200 840842 4210 4200 840832 4160 4200 840-930 -4650 -4600 -920、極限數(shù)值的表示和判定4.1書寫極限數(shù)值的一般原則4.1.1標(biāo)準(zhǔn)(或其他技術(shù)規(guī)范)中規(guī)定考核的以數(shù)量形式給出的指標(biāo)或參數(shù)等,應(yīng)當(dāng)規(guī)定極限數(shù)值。例:車用汽油(國(guó))GB/T17930-2013中規(guī)定93號(hào)汽油研究法辛烷值不小于93,93中,93就是極限數(shù)值。極限數(shù)值表示符合該標(biāo)準(zhǔn)要求的數(shù)值范圍

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論