有效數(shù)字運算及修約課件

數(shù)值修約規(guī)則及極限數(shù)值的表示和判定

Significantfigure數(shù)值修約規(guī)則及極限數(shù)值的表示和判定

Significant1情景導(dǎo)入進行化學(xué)滴定分析時，當凹液面在兩刻度線之間時，需要對兩刻度線之間的體積進行估讀，梅仁耀讀取到23.44mL、梅仁愛讀取到23.46mL、梅仁姓讀取到23.45mL；梅聞畫看到一試劑柜中的NaOH標準滴定溶液的濃度寫著：0.1065(+)mol/L。情景導(dǎo)入進行化學(xué)滴定分析時，當凹液面在兩刻度線之間時，需要對2有效數(shù)字的定義數(shù)學(xué)定義：從左邊第一個不是0的數(shù)字算起，到精確到的位數(shù)為止，所有的數(shù)字都叫做這個數(shù)的有效數(shù)字。分析化學(xué)定義：在分析工作中實際能夠測量到的數(shù)字。能夠測量到的是包括最后一位估讀的，不確定的數(shù)字。我們把通過直讀獲得的準確數(shù)字叫做可靠數(shù)字，把通過估讀得到的那部分數(shù)字叫做存疑數(shù)字，把測量結(jié)果中能夠反映被測量大小的帶有一位存疑數(shù)字的全部數(shù)字叫有效數(shù)字。有效數(shù)字的定義數(shù)學(xué)定義：從左邊第一個不是0的數(shù)字算起，到精確3有效數(shù)字位數(shù)判定1.000843.181五位0.100010.98%四位0.03821.98×10-10三位540.0040兩位3600100位數(shù)模糊注意：1、以上數(shù)據(jù)中0的左右的差異；2、對于3600之類的數(shù)字，一般看成4位有效數(shù)字，但它也可能是2位(3.6×103)或3位(3.60×102)有效數(shù)字位數(shù)判定1.000843.1814有效數(shù)字位數(shù)判定1、在分析化學(xué)計算中，常遇到倍數(shù)、分數(shù)關(guān)系，這些數(shù)據(jù)不是測量直接得到的，可視為無限多位有效數(shù)字；2、對于pH、pM、lgc、lgK等對數(shù)值，其有效數(shù)字取決于小數(shù)部分的位數(shù)，因為整數(shù)部分只代表該數(shù)字的方次。e.g.pH=11.20，換算為H+濃度時，應(yīng)為c(H+)=6.3×10-12mol/L，有效數(shù)字是兩位。有效數(shù)字位數(shù)判定1、在分析化學(xué)計算中，常遇到倍數(shù)、分數(shù)關(guān)系，5數(shù)值修約規(guī)則數(shù)值修約：通過省略原數(shù)值的最后若干位數(shù)字，調(diào)整所保留的若干位數(shù)字，使最后得到的值最接近原數(shù)值的過程。修約間隔：修約值的最小數(shù)值單位。修約間隔的數(shù)值一經(jīng)確定，修約值一定是該數(shù)值的整數(shù)倍。e.g.1：修約間隔為0.1(或10-1)，表示將數(shù)值修約至一位小數(shù)；e.g.2：修約間隔為100(或102)，表示將數(shù)值修約至百位數(shù)。極限數(shù)值：標準(或技術(shù)規(guī)范)中規(guī)定考核的以數(shù)量形式給出且符合該標準(或技術(shù)規(guī)范)要求的指標數(shù)值范圍的界限值，即指標的上限或者下限。數(shù)值修約規(guī)則數(shù)值修約：通過省略原數(shù)值的最后若干位數(shù)字，調(diào)整所6數(shù)值修約規(guī)則數(shù)值修約的步驟大體分兩步：1、確定修約間隔；2、根據(jù)修約的進舍規(guī)則對數(shù)值進行修約。數(shù)值修約的規(guī)則：1、進舍規(guī)則；2、不允許連續(xù)修約；3、0.5單位修約；4、0.2單位修約。數(shù)值修約規(guī)則數(shù)值修約的步驟大體分兩步：7進舍規(guī)則大規(guī)則：四舍六入五成雙①擬舍棄數(shù)字的最左一位數(shù)字小于5，則舍去，保留其余各位數(shù)字不變；e.g.將12.1498修約至個位數(shù)，得到12，修約至小數(shù)點后一位，得到12.1.②擬舍棄數(shù)字的最左一位數(shù)字大于5，則進一，即保留位數(shù)的末位數(shù)字加一；e.g.將13.1634修約至小數(shù)點后一位，得到13.2。進舍規(guī)則大規(guī)則：四舍六入五成雙8進舍規(guī)則③擬舍棄數(shù)字的最左一位數(shù)字是5，且其后有非0數(shù)字時進一，即保留數(shù)字的末位數(shù)字加1。e.g.將11.5002修約至個位數(shù)，得12。④擬舍棄數(shù)字的最左一位數(shù)字是5，且其后無數(shù)字或皆為0時，若所保留數(shù)字的末位數(shù)字為奇數(shù)時則進一，若所保留數(shù)字的末位數(shù)字為偶數(shù)時則舍去。e.g.將1.050修約至小數(shù)點后一位得1.0，將0.35修約至小數(shù)點后一位得0.4。⑤負數(shù)修約時先取絕對值，按照①②③④中的規(guī)則進行修約，然后在其前面加上負號。進舍規(guī)則③擬舍棄數(shù)字的最左一位數(shù)字是5，且其后有非0數(shù)字時9不允許連續(xù)修約規(guī)則(1)擬修約數(shù)字應(yīng)在確定修約間隔或指定修約數(shù)位后一次修約獲得結(jié)果，不得按照進舍規(guī)則多次進行多次修約。e.g.將97.46修約至個位數(shù)正確做法：97.46→97錯誤做法：97.46→97.5→98不允許連續(xù)修約規(guī)則(1)擬修約數(shù)字應(yīng)在確定修約間隔或指定修10不允許連續(xù)修約規(guī)則(2)在具體實施中，有時測試與計算部門先將獲得的數(shù)值按照指定的修約數(shù)位多一位或幾位報出，而后再由其它部門判定。為了避免產(chǎn)生連續(xù)修約的錯誤，應(yīng)按以下兩個步驟進行操作。不允許連續(xù)修約規(guī)則11不允許連續(xù)修約規(guī)則Ⅰ.報出數(shù)值最右的非零數(shù)字為5時，應(yīng)在數(shù)值的右上角加上“+”或“-”或不加符號，分別表明進行過舍、進或未舍未進。e.g.16.50+，表示實際值大于16.50，16.50-表示實際值小于16.50。Ⅱ.如對報出值需進行修約，當擬舍棄的最后一位數(shù)值為5，且其后無數(shù)字或皆為0時，數(shù)值右上角有“+”者進一，有“-”者舍去，其余按照①②③④中的規(guī)則進行修約。不允許連續(xù)修約規(guī)則Ⅰ.報出數(shù)值最右的非零數(shù)字為5時，應(yīng)在數(shù)值120.5單位修約和0.2單位修約定義：0.5單位修約是指按指定修約單位間隔對擬修約的數(shù)值的0.5單位進行的修約。步驟：將擬修約數(shù)值X乘以2，按指定修約間隔對2X根據(jù)上述進舍規(guī)則進行修約，得到的數(shù)值(2X修約值)再除以2。0.2單位修約的定義和步驟跟0.5單位修約類似，將倍數(shù)“2”變?yōu)椤?”。0.5單位修約和0.2單位修約定義：0.5單位修約是指按指定13有效數(shù)字運算及修約課件14有效數(shù)字的＋－×÷在實際的分析工作中，經(jīng)常會遇到計算公式，而計算公式中的不同項目所保留的有效數(shù)字的位數(shù)是不同的，最終的計算結(jié)果到底保留多少個有效數(shù)字值得關(guān)注。有效數(shù)字的＋－×÷在實際的分析工作中，經(jīng)常會遇到計算公式，而15有效數(shù)字的＋－運算在幾個數(shù)據(jù)相加或相減時，有效數(shù)字的保留，應(yīng)該以小數(shù)點后位數(shù)最少的數(shù)字為根據(jù)。e.g.0.0121+25.64+1.05782=？每個數(shù)據(jù)最后一位都有±1的絕對誤差，即0.0121±0.0001；25.64±0.01；0.10572±0.00001；以上數(shù)據(jù)中以25.64的絕對誤差最大，在加減運算中最終結(jié)果的絕對誤差決定于該數(shù)據(jù)，故最終結(jié)果的有效數(shù)字位數(shù)決定于25.64這個數(shù)據(jù)。So上式變換為：0.01+25.64+1.06=26.71有效數(shù)字的＋－運算在幾個數(shù)據(jù)相加或相減時，有效數(shù)字的保留，應(yīng)16有效數(shù)字的×÷運算在幾個數(shù)據(jù)相乘或相除時，有效數(shù)字的保留，應(yīng)與幾個數(shù)據(jù)中相對誤差最大的數(shù)相對應(yīng)，通常根據(jù)有效數(shù)字最少的數(shù)據(jù)來進行修約。e.g.0.0121×25.64×1.05782=？每個數(shù)據(jù)最后一位都有±1的絕對誤差，三個數(shù)據(jù)的相對誤差分別是：0.0121的相對誤差最大，故運算時以它為標準將另外兩個數(shù)據(jù)修約為三位有效數(shù)字的，再相乘。即0.0121×25.6×1.06=0.328有效數(shù)字的×÷運算在幾個數(shù)據(jù)相乘或相除時，有效數(shù)字的保留，應(yīng)17極限數(shù)值的表示和判定書寫極限數(shù)值的一般原則一、標準(或其它技術(shù)規(guī)范)中規(guī)定考核的以數(shù)量形式給出的指標或參數(shù)等，應(yīng)當規(guī)定極限數(shù)值。極限數(shù)值表示符合該標準要求的數(shù)值范圍的界限值，它通過給出最小極限值和(或)最大極限值，或給出基本數(shù)值與極限偏差值等方式表達。二、標準中的極限數(shù)值的表示方式及書寫位數(shù)應(yīng)適當，其有效數(shù)字應(yīng)該全部寫出。書寫位數(shù)表示的精確程度，應(yīng)能保證產(chǎn)品或其它標準化對象的性能和質(zhì)量。極限數(shù)值的表示和判定書寫極限數(shù)值的一般原則18表示極限數(shù)值的基本用語及其組合表示極限數(shù)值的基本用語及其組合19帶有極限偏差值的數(shù)值帶有極限偏差值的數(shù)值20測定值或其計算值與標準規(guī)定的極限數(shù)值的作比較方法1）全數(shù)值比較法2）修約值比較法當標準或有關(guān)文件中，若對極限數(shù)值(包括帶有極限偏差的數(shù)值)無特殊規(guī)定時，均應(yīng)使用全數(shù)值比較法。如規(guī)定修約值比較法，應(yīng)在標準中加以說明。若標準或有關(guān)文件規(guī)定了使用其中一種比較方法時，一經(jīng)確定，不得改動。測定值或其計算值與標準規(guī)定的極限數(shù)值的作比較方法1）全數(shù)值比21全數(shù)值比較法將測試所得的測定值或計算值不經(jīng)修約處理(或雖經(jīng)修約處理，但應(yīng)標明它是經(jīng)舍、進貨未舍未進而得)，用該數(shù)值與規(guī)定的極限數(shù)值作比較，只要超出極限數(shù)值規(guī)定的范圍(不論超出程度大小)，都判定為不符合要求。修約值比較法將測定值或其計算值進行修約，修約位數(shù)應(yīng)與規(guī)定的極限數(shù)值位數(shù)一致。當測試或計算精度允許時，先將獲得的數(shù)值按指定的修約數(shù)位多一位或幾位報出，再按進舍規(guī)則修約值規(guī)定的位數(shù)。用該數(shù)值與規(guī)定的極限數(shù)值作比較，只要超出極限數(shù)值規(guī)定的范圍(不論超出程度大小)，都判定為不符合要求。全數(shù)值比較法將測試所得的測定值或計算值不經(jīng)修約處理(或雖經(jīng)修22兩種判定方法的比較對于同樣的極限數(shù)值，若它本身符合要求，則全數(shù)值比較法比修約值比較法更加嚴格。兩種判定方法的比較對于同樣的極限數(shù)值，若它本身符合要求，則全23有效數(shù)字運算及修約課件24數(shù)值修約規(guī)則及極限數(shù)值的表示和判定

Significantfigure數(shù)值修約規(guī)則及極限數(shù)值的表示和判定

Significant25情景導(dǎo)入進行化學(xué)滴定分析時，當凹液面在兩刻度線之間時，需要對兩刻度線之間的體積進行估讀，梅仁耀讀取到23.44mL、梅仁愛讀取到23.46mL、梅仁姓讀取到23.45mL；梅聞畫看到一試劑柜中的NaOH標準滴定溶液的濃度寫著：0.1065(+)mol/L。情景導(dǎo)入進行化學(xué)滴定分析時，當凹液面在兩刻度線之間時，需要對26有效數(shù)字的定義數(shù)學(xué)定義：從左邊第一個不是0的數(shù)字算起，到精確到的位數(shù)為止，所有的數(shù)字都叫做這個數(shù)的有效數(shù)字。分析化學(xué)定義：在分析工作中實際能夠測量到的數(shù)字。能夠測量到的是包括最后一位估讀的，不確定的數(shù)字。我們把通過直讀獲得的準確數(shù)字叫做可靠數(shù)字，把通過估讀得到的那部分數(shù)字叫做存疑數(shù)字，把測量結(jié)果中能夠反映被測量大小的帶有一位存疑數(shù)字的全部數(shù)字叫有效數(shù)字。有效數(shù)字的定義數(shù)學(xué)定義：從左邊第一個不是0的數(shù)字算起，到精確27有效數(shù)字位數(shù)判定1.000843.181五位0.100010.98%四位0.03821.98×10-10三位540.0040兩位3600100位數(shù)模糊注意：1、以上數(shù)據(jù)中0的左右的差異；2、對于3600之類的數(shù)字，一般看成4位有效數(shù)字，但它也可能是2位(3.6×103)或3位(3.60×102)有效數(shù)字位數(shù)判定1.000843.18128有效數(shù)字位數(shù)判定1、在分析化學(xué)計算中，常遇到倍數(shù)、分數(shù)關(guān)系，這些數(shù)據(jù)不是測量直接得到的，可視為無限多位有效數(shù)字；2、對于pH、pM、lgc、lgK等對數(shù)值，其有效數(shù)字取決于小數(shù)部分的位數(shù)，因為整數(shù)部分只代表該數(shù)字的方次。e.g.pH=11.20，換算為H+濃度時，應(yīng)為c(H+)=6.3×10-12mol/L，有效數(shù)字是兩位。有效數(shù)字位數(shù)判定1、在分析化學(xué)計算中，常遇到倍數(shù)、分數(shù)關(guān)系，29數(shù)值修約規(guī)則數(shù)值修約：通過省略原數(shù)值的最后若干位數(shù)字，調(diào)整所保留的若干位數(shù)字，使最后得到的值最接近原數(shù)值的過程。修約間隔：修約值的最小數(shù)值單位。修約間隔的數(shù)值一經(jīng)確定，修約值一定是該數(shù)值的整數(shù)倍。e.g.1：修約間隔為0.1(或10-1)，表示將數(shù)值修約至一位小數(shù)；e.g.2：修約間隔為100(或102)，表示將數(shù)值修約至百位數(shù)。極限數(shù)值：標準(或技術(shù)規(guī)范)中規(guī)定考核的以數(shù)量形式給出且符合該標準(或技術(shù)規(guī)范)要求的指標數(shù)值范圍的界限值，即指標的上限或者下限。數(shù)值修約規(guī)則數(shù)值修約：通過省略原數(shù)值的最后若干位數(shù)字，調(diào)整所30數(shù)值修約規(guī)則數(shù)值修約的步驟大體分兩步：1、確定修約間隔；2、根據(jù)修約的進舍規(guī)則對數(shù)值進行修約。數(shù)值修約的規(guī)則：1、進舍規(guī)則；2、不允許連續(xù)修約；3、0.5單位修約；4、0.2單位修約。數(shù)值修約規(guī)則數(shù)值修約的步驟大體分兩步：31進舍規(guī)則大規(guī)則：四舍六入五成雙①擬舍棄數(shù)字的最左一位數(shù)字小于5，則舍去，保留其余各位數(shù)字不變；e.g.將12.1498修約至個位數(shù)，得到12，修約至小數(shù)點后一位，得到12.1.②擬舍棄數(shù)字的最左一位數(shù)字大于5，則進一，即保留位數(shù)的末位數(shù)字加一；e.g.將13.1634修約至小數(shù)點后一位，得到13.2。進舍規(guī)則大規(guī)則：四舍六入五成雙32進舍規(guī)則③擬舍棄數(shù)字的最左一位數(shù)字是5，且其后有非0數(shù)字時進一，即保留數(shù)字的末位數(shù)字加1。e.g.將11.5002修約至個位數(shù)，得12。④擬舍棄數(shù)字的最左一位數(shù)字是5，且其后無數(shù)字或皆為0時，若所保留數(shù)字的末位數(shù)字為奇數(shù)時則進一，若所保留數(shù)字的末位數(shù)字為偶數(shù)時則舍去。e.g.將1.050修約至小數(shù)點后一位得1.0，將0.35修約至小數(shù)點后一位得0.4。⑤負數(shù)修約時先取絕對值，按照①②③④中的規(guī)則進行修約，然后在其前面加上負號。進舍規(guī)則③擬舍棄數(shù)字的最左一位數(shù)字是5，且其后有非0數(shù)字時33不允許連續(xù)修約規(guī)則(1)擬修約數(shù)字應(yīng)在確定修約間隔或指定修約數(shù)位后一次修約獲得結(jié)果，不得按照進舍規(guī)則多次進行多次修約。e.g.將97.46修約至個位數(shù)正確做法：97.46→97錯誤做法：97.46→97.5→98不允許連續(xù)修約規(guī)則(1)擬修約數(shù)字應(yīng)在確定修約間隔或指定修34不允許連續(xù)修約規(guī)則(2)在具體實施中，有時測試與計算部門先將獲得的數(shù)值按照指定的修約數(shù)位多一位或幾位報出，而后再由其它部門判定。為了避免產(chǎn)生連續(xù)修約的錯誤，應(yīng)按以下兩個步驟進行操作。不允許連續(xù)修約規(guī)則35不允許連續(xù)修約規(guī)則Ⅰ.報出數(shù)值最右的非零數(shù)字為5時，應(yīng)在數(shù)值的右上角加上“+”或“-”或不加符號，分別表明進行過舍、進或未舍未進。e.g.16.50+，表示實際值大于16.50，16.50-表示實際值小于16.50。Ⅱ.如對報出值需進行修約，當擬舍棄的最后一位數(shù)值為5，且其后無數(shù)字或皆為0時，數(shù)值右上角有“+”者進一，有“-”者舍去，其余按照①②③④中的規(guī)則進行修約。不允許連續(xù)修約規(guī)則Ⅰ.報出數(shù)值最右的非零數(shù)字為5時，應(yīng)在數(shù)值360.5單位修約和0.2單位修約定義：0.5單位修約是指按指定修約單位間隔對擬修約的數(shù)值的0.5單位進行的修約。步驟：將擬修約數(shù)值X乘以2，按指定修約間隔對2X根據(jù)上述進舍規(guī)則進行修約，得到的數(shù)值(2X修約值)再除以2。0.2單位修約的定義和步驟跟0.5單位修約類似，將倍數(shù)“2”變?yōu)椤?”。0.5單位修約和0.2單位修約定義：0.5單位修約是指按指定37有效數(shù)字運算及修約課件38有效數(shù)字的＋－×÷在實際的分析工作中，經(jīng)常會遇到計算公式，而計算公式中的不同項目所保留的有效數(shù)字的位數(shù)是不同的，最終的計算結(jié)果到底保留多少個有效數(shù)字值得關(guān)注。有效數(shù)字的＋－×÷在實際的分析工作中，經(jīng)常會遇到計算公式，而39有效數(shù)字的＋－運算在幾個數(shù)據(jù)相加或相減時，有效數(shù)字的保留，應(yīng)該以小數(shù)點后位數(shù)最少的數(shù)字為根據(jù)。e.g.0.0121+25.64+1.05782=？每個數(shù)據(jù)最后一位都有±1的絕對誤差，即0.0121±0.0001；25.64±0.01；0.10572±0.00001；以上數(shù)據(jù)中以25.64的絕對誤差最大，在加減運算中最終結(jié)果的絕對誤差決定于該數(shù)據(jù)，故最終結(jié)果的有效數(shù)字位數(shù)決定于25.64這個數(shù)據(jù)。So上式變換為：0.01+25.64+1.06=26.71有效數(shù)字的＋－運算在幾個數(shù)據(jù)相加或相減時，有效數(shù)字的保留，應(yīng)40有效數(shù)字的×÷運算在幾個數(shù)據(jù)相乘或相除時，有效數(shù)字的保留，應(yīng)與幾個數(shù)據(jù)中相對誤差最大的數(shù)相對應(yīng)，通常根據(jù)有效數(shù)字最少的數(shù)據(jù)來進行修約。e.g.0.0121×25.64×1.05782=？每個數(shù)據(jù)最后一位都有±1的絕對誤差，三個數(shù)據(jù)的相對誤差分別是：0.0121的相對誤差最大，故運算時以它為標準將另外兩個數(shù)據(jù)修約為三位有效數(shù)字的，再相乘。即0.0121×25.6×1.06=0.328有效數(shù)字的×÷運算在幾個數(shù)據(jù)相乘或相除時，有效數(shù)字的保留，應(yīng)41極限數(shù)值的表示和判定書寫極限數(shù)值的一般原則一、標準(或其它技術(shù)規(guī)范)中規(guī)定考核的以數(shù)量形式給出的指