數(shù)值修約規(guī)則與極限數(shù)值的表示和判定1ppt課件

1、誤差概念、有效數(shù)字概念及運算數(shù)值修約及極限數(shù)值表示與判定幾個問題n1、誤差與偏差、絕對誤差與相對誤差、精密度與準(zhǔn)確度分別有何區(qū)別？n2、用感量萬分之一的天平稱取物品的質(zhì)量為0.0236g，該測量結(jié)果的有效數(shù)字位數(shù)為多少？表示的測量結(jié)果有效范圍為多少？n3、計算12.365+5.1+8.73.4525=？（結(jié)果不參與后續(xù)運算）n4、在鋼材物理性能拉伸試驗中，測得的斷后伸長為74.37mm，則該斷后伸長的報出值為 ？幾個問題n5、將825修約到“百數(shù)位的0.5單位，其修約值為 ？ n6、一組普硅32.5水泥的28d抗壓強(qiáng)度平均值為32.48MPa，則該組水泥是否合格？結(jié)果報出形式為 ？ （不考慮測

2、量不確定度）n7、某HRB335 16的鋼材試件，抗拉強(qiáng)度計算值為453.2MPa，該試件抗拉強(qiáng)度是否符合標(biāo)準(zhǔn)要求？（不考慮測量不確定度）主要內(nèi)容n一、誤差理論的相關(guān)概念；n二、有效數(shù)字的概念及運算規(guī)則；n三、數(shù)值修約的規(guī)則及技巧；n四、極限數(shù)值的表示與判定；一、誤差理論的相關(guān)概念1、測量誤差的定義：、測量誤差的定義：客觀真實值未知）客觀真實值未知）測量誤差測量誤差 = 測得值測得值 - 真值真值-測量所得數(shù)據(jù)與其相應(yīng)的真值之差測量所得數(shù)據(jù)與其相應(yīng)的真值之差1誤差絕對誤差）誤差絕對誤差） x = x x02相對誤差相對誤差-測量的絕對誤差與被測量的真值之比測量的絕對誤差與被測量的真值之比絕對誤

3、差很小絕對誤差很小相對誤差相對誤差 = 100%絕對誤差絕對誤差真值真值 = 100% xx0相對誤差相對誤差 = 100%絕對誤差絕對誤差測得值測得值 = 100% xx例：兩組不同的測量，那組測量效果好？例：兩組不同的測量，那組測量效果好？質(zhì)量質(zhì)量G1=50g，誤差，誤差1=2g；質(zhì)量質(zhì)量G2=2kg，誤差，誤差2=50g1、測量誤差的定義：、測量誤差的定義：表示：百分?jǐn)?shù)（表示：百分?jǐn)?shù)（%）- 分子分母量綱相同分子分母量綱相同 1= 100% = 100% = 4% 1G1G1的相對誤差為的相對誤差為250 2= 100% = 100% = 2.5% G2G2的相對誤差為的相對誤差為502

4、000 2- G2的測量效果較好的測量效果較好確切反映測量效果：被測量的大小不同確切反映測量效果：被測量的大小不同 - 允許的測量誤差不同允許的測量誤差不同被測量的量值小被測量的量值小 - 允許的測量絕對誤差也越小允許的測量絕對誤差也越小1、測量誤差的定義：、測量誤差的定義：1、測量誤差的定義：、測量誤差的定義：例例1 1：分析天平的稱量誤差在：分析天平的稱量誤差在0.0001 0.0001 克，如克，如使測量時的相對誤差在使測量時的相對誤差在0.1%0.1%以下，試樣至少應(yīng)以下，試樣至少應(yīng)該稱多少克？該稱多少克？ 解：解： 絕對誤差絕對誤差(E)(E)相對誤差相對誤差(RE) = (RE)

5、= 100% 100% 試樣重試樣重 E 0.0001g E 0.0001g試樣重試樣重 = = = 0.1g = = = 0.1g E% 0.1% E% 0.1%2、誤差的分類：、誤差的分類：按誤差來源：裝置誤差、環(huán)境誤差、方法誤差、人員誤差按誤差來源：裝置誤差、環(huán)境誤差、方法誤差、人員誤差 系統(tǒng)誤差系統(tǒng)誤差System errorSystem error）由特定原因引起、具有一定因果關(guān)系并按確定規(guī)律產(chǎn)生由特定原因引起、具有一定因果關(guān)系并按確定規(guī)律產(chǎn)生按掌握程度：已知誤差、未知誤差按掌握程度：已知誤差、未知誤差按特性規(guī)律：系統(tǒng)誤差、隨機(jī)誤差、粗大誤差按特性規(guī)律：系統(tǒng)誤差、隨機(jī)誤差、粗大誤差

6、- 有規(guī)律可循有規(guī)律可循裝置、環(huán)境、動力源變化、人為因素裝置、環(huán)境、動力源變化、人為因素理論分析理論分析/實驗驗證實驗驗證 - 原因和規(guī)律原因和規(guī)律 - 減少減少/消除消除 隨機(jī)誤差隨機(jī)誤差Random errorRandom error）因許多不確定性因素而隨機(jī)發(fā)生因許多不確定性因素而隨機(jī)發(fā)生偶然性不明確、無規(guī)律）偶然性不明確、無規(guī)律）概率和統(tǒng)計性處理無法消除概率和統(tǒng)計性處理無法消除/修正）修正） 粗大誤差粗大誤差A(yù)bnormal errorAbnormal error）檢測系統(tǒng)各組成環(huán)節(jié)發(fā)生異常和故障等引起檢測系統(tǒng)各組成環(huán)節(jié)發(fā)生異常和故障等引起按變化速度：靜態(tài)誤差、動態(tài)誤差按變化速度：靜態(tài)

7、誤差、動態(tài)誤差2、誤差的分類：、誤差的分類：請判斷下列情況屬于哪種誤差？請判斷下列情況屬于哪種誤差？q天平砝碼生銹致使樣品稱量不準(zhǔn)。q滴定分析中不慎將藥品滴到錐形瓶外。q由于空氣溫度和濕度的不穩(wěn)定導(dǎo)致稱量結(jié)果有差異。q化學(xué)試劑不純造成分析結(jié)果不準(zhǔn)。q重量分析中由于沉淀不完全使分析結(jié)果偏低。3、精密度與準(zhǔn)確度的區(qū)別與聯(lián)系：、精密度與準(zhǔn)確度的區(qū)別與聯(lián)系：1精密度精密度 指多次重復(fù)測定同一量值時各測定值之間彼此相符合的程度指多次重復(fù)測定同一量值時各測定值之間彼此相符合的程度精密度是指量具能區(qū)分出微量的程度，亦即量具能區(qū)分之最小距離，精密度是指量具能區(qū)分出微量的程度，亦即量具能區(qū)分之最小距離，此精密度

8、在量具制造時已決定。此精密度在量具制造時已決定。表征測定過程中隨機(jī)誤差的大小。表征測定過程中隨機(jī)誤差的大小。3、精密度與準(zhǔn)確度的區(qū)別與聯(lián)系：、精密度與準(zhǔn)確度的區(qū)別與聯(lián)系：2準(zhǔn)確度準(zhǔn)確度 指在一定實驗條件下多次測定的平均值與真值相符合的程度，指在一定實驗條件下多次測定的平均值與真值相符合的程度，以誤差來表示。它用來表示系統(tǒng)誤差的大小。以誤差來表示。它用來表示系統(tǒng)誤差的大小。 測量儀器的準(zhǔn)確度指測量儀器給出接近于真值的響應(yīng)能力。準(zhǔn)測量儀器的準(zhǔn)確度指測量儀器給出接近于真值的響應(yīng)能力。準(zhǔn)確度只是一個定性概念而無定量表達(dá)。測量誤差的絕對值越大，其確度只是一個定性概念而無定量表達(dá)。測量誤差的絕對值越大，其

9、準(zhǔn)確度越低。準(zhǔn)確度越低。3二者聯(lián)系二者聯(lián)系 任何測量都要求精確。精確性是評價觀測成果優(yōu)劣的準(zhǔn)確度與精任何測量都要求精確。精確性是評價觀測成果優(yōu)劣的準(zhǔn)確度與精密度的總稱。準(zhǔn)確度是指在對某一個量的多次觀測中，觀測值對該量密度的總稱。準(zhǔn)確度是指在對某一個量的多次觀測中，觀測值對該量真值的偏離程度，觀測值偏離真值愈小，則準(zhǔn)確度愈高。精密度簡稱真值的偏離程度，觀測值偏離真值愈小，則準(zhǔn)確度愈高。精密度簡稱精度，指在某一個量的多次觀測中，各觀測值之間的離散程度，若觀精度，指在某一個量的多次觀測中，各觀測值之間的離散程度，若觀測值非常集中則精度高；反之則低。一個觀測列可能精度高而準(zhǔn)確度測值非常集中則精度高；反

10、之則低。一個觀測列可能精度高而準(zhǔn)確度低，也可能精度低而準(zhǔn)確度高。低，也可能精度低而準(zhǔn)確度高。 3、精密度與準(zhǔn)確度的區(qū)別與聯(lián)系：、精密度與準(zhǔn)確度的區(qū)別與聯(lián)系：測測量量精精度度舉舉例例不精密隨機(jī)誤差大）不精密隨機(jī)誤差大） 準(zhǔn)確系統(tǒng)誤差小）準(zhǔn)確系統(tǒng)誤差?。?精細(xì)隨機(jī)誤差?。┚?xì)隨機(jī)誤差?。┎粶?zhǔn)確系統(tǒng)誤差大）不準(zhǔn)確系統(tǒng)誤差大）不精密隨機(jī)誤差大）不精密隨機(jī)誤差大）不準(zhǔn)確系統(tǒng)誤差大）不準(zhǔn)確系統(tǒng)誤差大）精細(xì)隨機(jī)誤差?。┚?xì)隨機(jī)誤差?。?zhǔn)確系統(tǒng)誤差?。?zhǔn)確系統(tǒng)誤差?。?、偏向：、偏向： 一個值減去其參考值，稱為偏差。一個值減去其參考值，稱為偏差。 這里的一個值是指測量得到的值，參考值是指設(shè)定值、應(yīng)有值這里的一

11、個值是指測量得到的值，參考值是指設(shè)定值、應(yīng)有值或標(biāo)稱值?；驑?biāo)稱值。 偏向偏向=實際值標(biāo)稱值實際值標(biāo)稱值 尺寸偏差尺寸偏差=實際尺寸應(yīng)有參考尺寸實際尺寸應(yīng)有參考尺寸 加工一個準(zhǔn)確值為加工一個準(zhǔn)確值為1kg的砝碼，實際加工的為的砝碼，實際加工的為1.002kg，此時，此時偏差為偏差為+0.002kg；如果砝碼按；如果砝碼按1kg使用，則有使用，則有-0.002kg的示值誤的示值誤差。差。 偏差與誤差等值相反。偏差與誤差等值相反。 解決偏差問題，需要對砝碼進(jìn)行修正，修正值為解決偏差問題，需要對砝碼進(jìn)行修正，修正值為+0.002kg，修正值對測量值而言，而偏差是對標(biāo)稱值而言。修正值對測量值而言，而偏差

12、是對標(biāo)稱值而言。4、偏向：、偏向：標(biāo)準(zhǔn)偏差：標(biāo)準(zhǔn)偏差：s 相對標(biāo)準(zhǔn)偏差：相對標(biāo)準(zhǔn)偏差：RSD 112nxxsnii%100 xsRSD二、有效數(shù)字的概念及運算規(guī)律1、有效數(shù)字：、有效數(shù)字：把準(zhǔn)確數(shù)字加上最后一位有實際意義的估計數(shù)字總稱為把準(zhǔn)確數(shù)字加上最后一位有實際意義的估計數(shù)字總稱為有效數(shù)字。有效數(shù)字。2、有效位數(shù)：、有效位數(shù)：測量結(jié)果用且只用它的有效數(shù)字表示，有效數(shù)字的個數(shù)測量結(jié)果用且只用它的有效數(shù)字表示，有效數(shù)字的個數(shù)叫作有效位數(shù)。叫作有效位數(shù)。3、儀器讀數(shù)規(guī)則、儀器讀數(shù)規(guī)則(1) 刻度式儀表，在最小分度值后要估讀一位刻度式儀表，在最小分度值后要估讀一位(2) 數(shù)字顯示儀表，直接讀取儀表的

13、示值。數(shù)字顯示儀表，直接讀取儀表的示值。(3) 游標(biāo)類量具，讀到游標(biāo)分度值的整數(shù)倍。游標(biāo)類量具，讀到游標(biāo)分度值的整數(shù)倍?？潭仁絻x表刻度式儀表游標(biāo)類量具游標(biāo)類量具0.2187體重體重0.2132克，則其百分含量為：克，則其百分含量為：TVOC%=(0.0055/0.2187)100%2.1514860539% 例如：例如： 坩堝重坩堝重18.5734克克 標(biāo)準(zhǔn)溶液體積標(biāo)準(zhǔn)溶液體積24.41毫升毫升 由于萬分之一的分析天平能稱準(zhǔn)至由于萬分之一的分析天平能稱準(zhǔn)至0.0001克，克，滴定管的讀數(shù)能讀準(zhǔn)至滴定管的讀數(shù)能讀準(zhǔn)至0.01毫升，故上述坩堝重毫升，故上述坩堝重應(yīng)是應(yīng)是18.57340.0001克

14、，標(biāo)準(zhǔn)溶液的體積應(yīng)是克，標(biāo)準(zhǔn)溶液的體積應(yīng)是24.410.01毫升，因此這些數(shù)值的最后一位都是可毫升，因此這些數(shù)值的最后一位都是可疑的，這一位數(shù)字稱為疑的，這一位數(shù)字稱為“不定數(shù)字不定數(shù)字”。在分析工作中。在分析工作中應(yīng)當(dāng)使測定的數(shù)值，只有最后一位是可疑的。應(yīng)當(dāng)使測定的數(shù)值，只有最后一位是可疑的。有效數(shù)字的位數(shù)，直接與測定的相對誤差有關(guān)。例有效數(shù)字的位數(shù)，直接與測定的相對誤差有關(guān)。例如稱得某物重為如稱得某物重為0.5180克，它表示該物實際重量是克，它表示該物實際重量是0.51800.0001克，其相對誤差為：克，其相對誤差為： (0.0001/0.5180)100%0.02%如果少取一位有效數(shù)

15、字，稱得物體的質(zhì)量為如果少取一位有效數(shù)字，稱得物體的質(zhì)量為0.518g，其相對誤差為？，其相對誤差為？“0的有效數(shù)字規(guī)則的有效數(shù)字規(guī)則例如例如: 1.0005 0.5000；31.05% ；6.023102 0.0540；1.8610-5 0.0054；0.40% 0.5 ； 0.002% 例如例如0.0121+25.64+1.05782=? 5.2727+0.075+3.7+2.12=? 0.01+25.64+1.0626.71 5.27+0.08+3.7+2.1211.17 當(dāng)幾個數(shù)據(jù)相加或相減時、它們的和或差的有效數(shù)字的當(dāng)幾個數(shù)據(jù)相加或相減時、它們的和或差的有效數(shù)字的保留，應(yīng)以小數(shù)點后位

16、數(shù)最少，即絕對誤差最大的數(shù)據(jù)為依保留，應(yīng)以小數(shù)點后位數(shù)最少，即絕對誤差最大的數(shù)據(jù)為依據(jù)。據(jù)。求求0.012125.641.05782=? 0.345117.92.0786=?0.012125.61.06=0.328 0.34517.92.08=12.8 幾個數(shù)據(jù)相乘除時，積或商的有效數(shù)字的保留，應(yīng)以其幾個數(shù)據(jù)相乘除時，積或商的有效數(shù)字的保留，應(yīng)以其中相對誤差最大的那個數(shù)，即有效數(shù)字位數(shù)最少的那個數(shù)為中相對誤差最大的那個數(shù)，即有效數(shù)字位數(shù)最少的那個數(shù)為依據(jù)。依據(jù)。 例如例如, 6.54 =?進(jìn)行數(shù)值乘方或開方時進(jìn)行數(shù)值乘方或開方時, 結(jié)果有效數(shù)字位數(shù)不變。結(jié)果有效數(shù)字位數(shù)不變。6.54 =42.

17、8220.038659.41.327=？0.399.41.3=4.8 1、計算公式中的常數(shù)如、計算公式中的常數(shù)如 、 等都是正確等都是正確數(shù)，在運算中可以根據(jù)需要截取其有效位數(shù)數(shù)，在運算中可以根據(jù)需要截取其有效位數(shù) 2 2、首位數(shù)字為、首位數(shù)字為8、9的數(shù)字，其有效數(shù)字可比實的數(shù)字，其有效數(shù)字可比實際的位數(shù)多一位，如際的位數(shù)多一位，如8749可認(rèn)為其為可認(rèn)為其為5為有效數(shù)字，為有效數(shù)字，923可認(rèn)為其為可認(rèn)為其為4位有效數(shù)字位有效數(shù)字 3、為減少數(shù)字的舍入誤差，對參與運算的各有、為減少數(shù)字的舍入誤差，對參與運算的各有效數(shù)字進(jìn)行修約時，可比實際需要多保留一位效數(shù)字進(jìn)行修約時，可比實際需要多保留一

18、位 三、數(shù)值修約的規(guī)則及技巧 （1） 四舍六入五湊雙四舍六入五湊雙 具體的做法是，具體的做法是， 1、擬舍棄數(shù)字最左一位數(shù)字、擬舍棄數(shù)字最左一位數(shù)字4時將其舍去；時將其舍去； 2、擬舍棄數(shù)字最左一位數(shù)字、擬舍棄數(shù)字最左一位數(shù)字6時就進(jìn)一位；時就進(jìn)一位； 3、如果擬舍棄數(shù)字最左一位數(shù)字為、如果擬舍棄數(shù)字最左一位數(shù)字為5而后面的數(shù)而后面的數(shù)為為0時，如所保留的數(shù)字的末位數(shù)字為奇數(shù)則進(jìn)一，時，如所保留的數(shù)字的末位數(shù)字為奇數(shù)則進(jìn)一，如所保留的數(shù)字的末位數(shù)字為偶數(shù)則舍去；如所保留的數(shù)字的末位數(shù)字為偶數(shù)則舍去； 4、當(dāng)、當(dāng)“5后面還有不是后面還有不是0的任何數(shù)時，都須向前的任何數(shù)時，都須向前進(jìn)一位，無論前

19、方是奇還是偶數(shù)，進(jìn)一位，無論前方是奇還是偶數(shù)，“0則以偶數(shù)論。則以偶數(shù)論。0.536640.5366 0.583460.5835 10.275010.28 16.405016.40 27.185027.18 18.0650118.07（2修約間隔修約間隔 0.2 、0.50.5單位修約，將擬修約數(shù)值乘以單位修約，將擬修約數(shù)值乘以2后正常修約，得后正常修約，得到的數(shù)再除以到的數(shù)再除以2。 例：修約到個數(shù)位的例：修約到個數(shù)位的0.5單位：單位：60.25、60.38、60.75 0.2單位修約，將擬修約數(shù)值乘以單位修約，將擬修約數(shù)值乘以5后正常修約，后正常修約，得到的數(shù)再除以得到的數(shù)再除以5。 例

20、：例： 修約到百位數(shù)的修約到百位數(shù)的0.2單位單位830、842、930 （3不可連續(xù)修約不可連續(xù)修約必須注意：進(jìn)行數(shù)字修約時只能一次修約到指定的必須注意：進(jìn)行數(shù)字修約時只能一次修約到指定的位數(shù)，不能數(shù)次修約，否則會得錯誤的結(jié)果。位數(shù)，不能數(shù)次修約，否則會得錯誤的結(jié)果。 如：如：97.46修約到修約到1為為97 (4)、 特殊數(shù)值的表示特殊數(shù)值的表示 報出的數(shù)值最右的非零數(shù)字為報出的數(shù)值最右的非零數(shù)字為5時，應(yīng)在數(shù)值右時，應(yīng)在數(shù)值右上角加上角加“+”或或“-” 或不加符號，以分別表明已進(jìn)行過或不加符號，以分別表明已進(jìn)行過舍，進(jìn)或未舍未進(jìn)。舍，進(jìn)或未舍未進(jìn)。 例：實測值例：實測值 報出值報出值

21、修約值修約值 -15.4546 -15.5 -15 16.5203 16.5 17 （1如果為修約間隔整數(shù)倍的一系列數(shù)中，只有一個數(shù)如果為修約間隔整數(shù)倍的一系列數(shù)中，只有一個數(shù)最接近擬修約數(shù)，則該數(shù)就是修約數(shù)。最接近擬修約數(shù)，則該數(shù)就是修約數(shù)。 例：將例：將1.150001按按0.1間隔進(jìn)行修約。間隔進(jìn)行修約。 例：將例：將1.0151修約至十分位的修約至十分位的0.2個單位。個單位。 例：將例：將1.2505按按“5間隔修約至十分位。間隔修約至十分位。 （2如果在修約間隔整數(shù)倍的一系列數(shù)中，有連續(xù)的如果在修約間隔整數(shù)倍的一系列數(shù)中，有連續(xù)的兩個數(shù)同等地接近擬修約數(shù)，只有為修約間隔偶數(shù)倍的那個兩個數(shù)同等地接近擬修約數(shù)，只有為修約間隔偶數(shù)倍的那個數(shù)才是修約數(shù)。數(shù)才是修約數(shù)