OA-ERP小數(shù)位計算精度問題

1、OA-ERP小數(shù)位計算精度問題目錄§1問題提出§2問題出現(xiàn)原因§3解決方案§4保留小數(shù)位選項說明§5 其它精度計算解決方案§6 浮點數(shù)的IEEE標(biāo)準(zhǔn)，以及計算機(jī)的小數(shù)的本質(zhì)特征133456§1問題提出在一個運(yùn)行OA-ERP的企業(yè)，庫存綜合統(tǒng)計表出現(xiàn)如下情況即，一些物料，數(shù)量已經(jīng)出完，金額還剩下一些計算誤差。雖然大多數(shù)人對此不屑一顧，例如所有實施人員，都會寫代碼，判斷數(shù)量出完后，金額自動歸結(jié)為零。但是這給其它分別統(tǒng)計入庫、出庫金額時，帶來的誤差，令財務(wù)人員反感。這個例子中，單項最高誤差累計到了0.30?？偤屠塾嬍?.09。下面

2、就是實際出現(xiàn)的不同方式統(tǒng)計報表的結(jié)果：雖然數(shù)據(jù)僅僅相差0.11，但是財務(wù)人員覺得這個誤差是不能夠接受的。§2 問題出現(xiàn)原因這個問題出現(xiàn)原因有兩個（1）系統(tǒng)保存數(shù)據(jù)的精度不夠（2）計算過程中誤差的累計下面例子就是這兩個原因最簡單的說明這里例子中，物品單價是0.0036，入庫10個物品，總金額是0.036，由于系統(tǒng)保留2位小數(shù)，結(jié)果近似為0.04；出庫的時候，每次出庫一個物品，金額=數(shù)量*單價，結(jié)果是0.0036，在保留2位小數(shù)的情況下，出庫金額是0。每次都這樣出庫，10個物品全部出完后，庫存金額無法出庫，結(jié)果剩下0.04，而數(shù)量則為零。§3 解決方案根據(jù)上面的分析，我們調(diào)整出

3、庫單明細(xì)中出庫金額字段的保留小數(shù)位為6（也許單價也要調(diào)整），調(diào)整后重新查詢結(jié)果如下： 雖然計算機(jī)誤差仍然存在，但是累計起來也遠(yuǎn)遠(yuǎn)在低于0.01，完全可以忽略，財務(wù)人員也覺得這個結(jié)果可以接受。系統(tǒng)本身會對這些結(jié)果最后檢查，將數(shù)量為0，金額小于0.01的數(shù)據(jù)消除掉，近似后的結(jié)果就在用戶的期望以內(nèi)。（上述圖片是在調(diào)試狀態(tài)下截取的，正常情況下，系統(tǒng)已近將小于0.01的數(shù)據(jù)消除掉了）。§4 保留小數(shù)位選項說明（1）設(shè)置相關(guān)金額字段的保留小數(shù)位，可以分別為設(shè)置每個字段設(shè)置，在特殊情況下，出庫單明細(xì)表單（tblOutstockItems，Summoney，Refercost）單價字段可能也需要設(shè)置

4、，默認(rèn)是6位，需要更高精度時，請自行設(shè)置。設(shè)置完畢需要重新啟動服務(wù)器。（2）對報表的每個字段（或顯示列）、工資項目的設(shè)置，請在系統(tǒng)幫助F1 中查找，或者參看本手冊“打印”部分。§5 其它精度計算問題大新公司ERP系統(tǒng)物料精度計算方案-秋葵軟件（a）基本要求大新精密部品公司，在物料轉(zhuǎn)換中存在數(shù)據(jù)精度丟失，造成物料失控問題，屬于OA-ERP工程項目的主要解決目標(biāo)。從噸、千克、克等單位轉(zhuǎn)換為粒，互算、反算、不同時候計算，例如報價、采購、出庫、生產(chǎn)等時候，需要使用不同單位，但是由于單位換算存在小數(shù)精度丟失問題。OA-ERP軟件要完全解決這個不同需求的時候，采用不同單位換算，同時要保持最終數(shù)據(jù)

5、的準(zhǔn)確性，要求達(dá)到9095以上。（b）問題難點一些軟件銷售公司在了解到大新精密部品公司的特殊需求后，表示不再有興趣，問題無法解決，咎其原因，基本上有下述幾點（1） 一些公司僅僅是代理性質(zhì)，無法對用戶的特殊需求做特殊處理。（2） 軟件開發(fā)所使用的工具（例如VB、PB）無法達(dá)到解決這類問題的水準(zhǔn)。（3） 該問題是硬件問題和邏輯問題，問題的解決方案本身存在技巧性，以及需要與用戶交流，逐部門、逐報表解決。（4） 成本因素。由于該問題屬于較為少見的企業(yè)需求，因此一般軟件并未從根本上支持。如果要重新修改軟件支持高精度的數(shù)據(jù)處理，整個軟件系統(tǒng)需要大幅改動，因此造成嚴(yán)重的成本問題。秋葵軟件的優(yōu)勢就是在于，選擇

6、了基礎(chǔ)性語言C/C+做為開發(fā)工具，因此從根本上支持高精度的計算；并且能夠開放、靈活地根據(jù)用戶的需求，擴(kuò)充軟件的功能。秋葵軟件公司追求完美的精神，真正幫助用戶解決實際的理念是我們雙方合作、解決大新公司實際需求的基礎(chǔ)。（c）解決方案數(shù)據(jù)精度丟失來自兩個方面（1） 計算機(jī)硬件限制，例如大多硬件采用浮點數(shù)表示小數(shù)，由于精度有限，每次運(yùn)算會產(chǎn)生誤差，誤差積累到一定程度會造成嚴(yán)重錯誤。（2） 計算邏輯需求，例如100克10008粒，1克100粒（而不是100.08粒）。 由于這兩個問題屬于根本性的，因此解決起來具有一定困難性。 OA-ERP將采用以下方案來解決該問題，期望最終將物料準(zhǔn)確率提高到9095以上

7、：（1） 增加小數(shù)位，提高精度，輸出（打印、報表）的時候，則根據(jù)需求僅僅保留期望的精度（例如整數(shù)）。（2） 補(bǔ)償法，增加字段，同時保存多個單位的結(jié)果，在不同使用場合使用不同數(shù)據(jù)。 由于該問題的需要在相互交流、各類、各個部門、各個環(huán)節(jié)的使用中調(diào)整、處理，屬于專門開發(fā)、定制開發(fā)的范疇，因此秋葵軟件公司期望該問題在OA-ERP實施過程中解決。§6 浮點數(shù)的IEEE標(biāo)準(zhǔn)，以及計算機(jī)的小數(shù)的本質(zhì)特征C/C+依據(jù) IEEE 754 標(biāo)準(zhǔn)，float為 32 位浮點，double為 64 位雙精度浮點二進(jìn)制小數(shù)。 對于科學(xué)記數(shù)法，IEEE 754 標(biāo)準(zhǔn)是用以底數(shù)為 2 的小數(shù)來表示浮點數(shù)。IEEE

8、 浮點數(shù)用 1 位表示數(shù)字的符號，用 8 位來表示指數(shù)，用 23 位來表示尾數(shù)，即小數(shù)部分。作為有符號整數(shù)的指數(shù)可以有正負(fù)之分。小數(shù)部分用二進(jìn)制（底數(shù) 2）小數(shù)來表示，這意味著最高位對應(yīng)著值 ?(2 -1)，第二位對應(yīng)著 ?(2 -2)，依此類推。對于雙精度浮點數(shù)，用 11 位表示指數(shù)，52 位表示尾數(shù)。 因為用科學(xué)記數(shù)法可以有 多種方式來表示給定數(shù)字，所以要規(guī)范化浮點數(shù)，以便用底數(shù)為 2 并且小數(shù)點左邊為 1 的小數(shù)來表示，按照需要調(diào)節(jié)指數(shù)就可以得到所需的數(shù)字。所以，例如，數(shù) 1.25 可以表示為尾數(shù)為 1.01，指數(shù)為 0： (-1) 0*1.01 2*2 0 數(shù) 10.0 可以表示為尾數(shù)

9、為 1.01，指數(shù)為 3： (-1) 0*1.01 2*2 3 除了編碼所允許的值的標(biāo)準(zhǔn)范圍（對于 float ，從 1.4e-45 到 3.4028235e+38），還有一些表示無窮大、負(fù)無窮大、 -0 和 NaN（它代表“不是一個數(shù)字”）的特殊值。這些值的存在是為了在出現(xiàn)錯誤條件（譬如算術(shù)溢出，給負(fù)數(shù)開平方根，除以 0 等）下，可以用浮點值集合中的數(shù)字來表示所產(chǎn)生的結(jié)果。 舍入誤差 浮點運(yùn)算很少是精確的。雖然一些數(shù)字（譬如 0.5 ）可以精確地表示為二進(jìn)制（底數(shù) 2）小數(shù)（因為 0.5 等于 2 -1），但其它一些數(shù)字（譬如 0.1 ）就不能精確的表示。因此，浮點運(yùn)算可能導(dǎo)致舍入誤差，產(chǎn)生

10、的結(jié)果接近 但不等于 您可能希望的結(jié)果。例如，下面這個簡單的計算將得到 2.600000000000001 ，而不是 2.6 ：double s=0;for (int i=0; i<26; i+)s += 0.1;printf("%.15f",s); 類似的， .1*26 相乘所產(chǎn)生的結(jié)果不等于 .1 自身加 26 次所得到的結(jié)果。當(dāng)將浮點數(shù)強(qiáng)制轉(zhuǎn)換成整數(shù)時，產(chǎn)生的舍入誤差甚至更嚴(yán)重，因為強(qiáng)制轉(zhuǎn)換成整數(shù)類型會舍棄非整數(shù)部分，甚至對于那些“看上去似乎”應(yīng)該得到 整數(shù)值的計算，也存在此類問題。例如，下面這些語句：double d = 29.0 * 0.01;printf(

11、“%f”,d);printf(“%d”, (int) (d * 100);將得到以下輸出：0.2928這可能不是您起初所期望的。 浮點數(shù)的比較由于存在 NaN 的不尋常比較行為和在幾乎所有浮點計算中都不可避免地會出現(xiàn)舍入誤差，解釋浮點值的比較運(yùn)算符的結(jié)果比較麻煩。 最好完全避免使用浮點數(shù)比較。當(dāng)然，這并不總是可能的，但您應(yīng)該意識到要限制浮點數(shù)比較。如果必須比較浮點數(shù)來看它們是否相等，則應(yīng)該將它們差的絕對值同一 些預(yù)先選定的小正數(shù)進(jìn)行比較，這樣您所做的就是測試它們是否“足夠接近”。（如果不知道基本的計算范圍，可以使用測試“fabs(a/b - 1) < epsilon”，這種方法比簡單地比較兩者之差要更準(zhǔn)確）。甚至測試看一個值是比零大還是比零小也存在危險 “以為”會生成比零略大值的計算事實上可