OA-ERP小數(shù)位計(jì)算精度問題

1、OA-ERP小數(shù)位計(jì)算精度問題目錄§1問題提出§2問題出現(xiàn)原因§3解決方案§4保留小數(shù)位選項(xiàng)說明§5 其它精度計(jì)算解決方案§6 浮點(diǎn)數(shù)的IEEE標(biāo)準(zhǔn)，以及計(jì)算機(jī)的小數(shù)的本質(zhì)特征133456§1問題提出在一個(gè)運(yùn)行OA-ERP的企業(yè)，庫存綜合統(tǒng)計(jì)表出現(xiàn)如下情況即，一些物料，數(shù)量已經(jīng)出完，金額還剩下一些計(jì)算誤差。雖然大多數(shù)人對(duì)此不屑一顧，例如所有實(shí)施人員，都會(huì)寫代碼，判斷數(shù)量出完后，金額自動(dòng)歸結(jié)為零。但是這給其它分別統(tǒng)計(jì)入庫、出庫金額時(shí)，帶來的誤差，令財(cái)務(wù)人員反感。這個(gè)例子中，單項(xiàng)最高誤差累計(jì)到了0.30?？偤屠塾?jì)是0.09。下面

2、就是實(shí)際出現(xiàn)的不同方式統(tǒng)計(jì)報(bào)表的結(jié)果：雖然數(shù)據(jù)僅僅相差0.11，但是財(cái)務(wù)人員覺得這個(gè)誤差是不能夠接受的。§2 問題出現(xiàn)原因這個(gè)問題出現(xiàn)原因有兩個(gè)（1）系統(tǒng)保存數(shù)據(jù)的精度不夠（2）計(jì)算過程中誤差的累計(jì)下面例子就是這兩個(gè)原因最簡單的說明這里例子中，物品單價(jià)是0.0036，入庫10個(gè)物品，總金額是0.036，由于系統(tǒng)保留2位小數(shù)，結(jié)果近似為0.04；出庫的時(shí)候，每次出庫一個(gè)物品，金額=數(shù)量*單價(jià)，結(jié)果是0.0036，在保留2位小數(shù)的情況下，出庫金額是0。每次都這樣出庫，10個(gè)物品全部出完后，庫存金額無法出庫，結(jié)果剩下0.04，而數(shù)量則為零。§3 解決方案根據(jù)上面的分析，我們調(diào)整出

3、庫單明細(xì)中出庫金額字段的保留小數(shù)位為6（也許單價(jià)也要調(diào)整），調(diào)整后重新查詢結(jié)果如下： 雖然計(jì)算機(jī)誤差仍然存在，但是累計(jì)起來也遠(yuǎn)遠(yuǎn)在低于0.01，完全可以忽略，財(cái)務(wù)人員也覺得這個(gè)結(jié)果可以接受。系統(tǒng)本身會(huì)對(duì)這些結(jié)果最后檢查，將數(shù)量為0，金額小于0.01的數(shù)據(jù)消除掉，近似后的結(jié)果就在用戶的期望以內(nèi)。（上述圖片是在調(diào)試狀態(tài)下截取的，正常情況下，系統(tǒng)已近將小于0.01的數(shù)據(jù)消除掉了）。§4 保留小數(shù)位選項(xiàng)說明（1）設(shè)置相關(guān)金額字段的保留小數(shù)位，可以分別為設(shè)置每個(gè)字段設(shè)置，在特殊情況下，出庫單明細(xì)表單（tblOutstockItems，Summoney，Refercost）單價(jià)字段可能也需要設(shè)置

4、，默認(rèn)是6位，需要更高精度時(shí)，請(qǐng)自行設(shè)置。設(shè)置完畢需要重新啟動(dòng)服務(wù)器。（2）對(duì)報(bào)表的每個(gè)字段（或顯示列）、工資項(xiàng)目的設(shè)置，請(qǐng)?jiān)谙到y(tǒng)幫助F1 中查找，或者參看本手冊(cè)“打印”部分。§5 其它精度計(jì)算問題大新公司ERP系統(tǒng)物料精度計(jì)算方案-秋葵軟件（a）基本要求大新精密部品公司，在物料轉(zhuǎn)換中存在數(shù)據(jù)精度丟失，造成物料失控問題，屬于OA-ERP工程項(xiàng)目的主要解決目標(biāo)。從噸、千克、克等單位轉(zhuǎn)換為粒，互算、反算、不同時(shí)候計(jì)算，例如報(bào)價(jià)、采購、出庫、生產(chǎn)等時(shí)候，需要使用不同單位，但是由于單位換算存在小數(shù)精度丟失問題。OA-ERP軟件要完全解決這個(gè)不同需求的時(shí)候，采用不同單位換算，同時(shí)要保持最終數(shù)據(jù)

5、的準(zhǔn)確性，要求達(dá)到9095以上。（b）問題難點(diǎn)一些軟件銷售公司在了解到大新精密部品公司的特殊需求后，表示不再有興趣，問題無法解決，咎其原因，基本上有下述幾點(diǎn)（1） 一些公司僅僅是代理性質(zhì)，無法對(duì)用戶的特殊需求做特殊處理。（2） 軟件開發(fā)所使用的工具（例如VB、PB）無法達(dá)到解決這類問題的水準(zhǔn)。（3） 該問題是硬件問題和邏輯問題，問題的解決方案本身存在技巧性，以及需要與用戶交流，逐部門、逐報(bào)表解決。（4） 成本因素。由于該問題屬于較為少見的企業(yè)需求，因此一般軟件并未從根本上支持。如果要重新修改軟件支持高精度的數(shù)據(jù)處理，整個(gè)軟件系統(tǒng)需要大幅改動(dòng)，因此造成嚴(yán)重的成本問題。秋葵軟件的優(yōu)勢就是在于，選擇

6、了基礎(chǔ)性語言C/C+做為開發(fā)工具，因此從根本上支持高精度的計(jì)算；并且能夠開放、靈活地根據(jù)用戶的需求，擴(kuò)充軟件的功能。秋葵軟件公司追求完美的精神，真正幫助用戶解決實(shí)際的理念是我們雙方合作、解決大新公司實(shí)際需求的基礎(chǔ)。（c）解決方案數(shù)據(jù)精度丟失來自兩個(gè)方面（1） 計(jì)算機(jī)硬件限制，例如大多硬件采用浮點(diǎn)數(shù)表示小數(shù)，由于精度有限，每次運(yùn)算會(huì)產(chǎn)生誤差，誤差積累到一定程度會(huì)造成嚴(yán)重錯(cuò)誤。（2） 計(jì)算邏輯需求，例如100克10008粒，1克100粒（而不是100.08粒）。 由于這兩個(gè)問題屬于根本性的，因此解決起來具有一定困難性。 OA-ERP將采用以下方案來解決該問題，期望最終將物料準(zhǔn)確率提高到9095以上

7、：（1） 增加小數(shù)位，提高精度，輸出（打印、報(bào)表）的時(shí)候，則根據(jù)需求僅僅保留期望的精度（例如整數(shù)）。（2） 補(bǔ)償法，增加字段，同時(shí)保存多個(gè)單位的結(jié)果，在不同使用場合使用不同數(shù)據(jù)。 由于該問題的需要在相互交流、各類、各個(gè)部門、各個(gè)環(huán)節(jié)的使用中調(diào)整、處理，屬于專門開發(fā)、定制開發(fā)的范疇，因此秋葵軟件公司期望該問題在OA-ERP實(shí)施過程中解決。§6 浮點(diǎn)數(shù)的IEEE標(biāo)準(zhǔn)，以及計(jì)算機(jī)的小數(shù)的本質(zhì)特征C/C+依據(jù) IEEE 754 標(biāo)準(zhǔn)，float為 32 位浮點(diǎn)，double為 64 位雙精度浮點(diǎn)二進(jìn)制小數(shù)。 對(duì)于科學(xué)記數(shù)法，IEEE 754 標(biāo)準(zhǔn)是用以底數(shù)為 2 的小數(shù)來表示浮點(diǎn)數(shù)。IEEE

8、 浮點(diǎn)數(shù)用 1 位表示數(shù)字的符號(hào)，用 8 位來表示指數(shù)，用 23 位來表示尾數(shù)，即小數(shù)部分。作為有符號(hào)整數(shù)的指數(shù)可以有正負(fù)之分。小數(shù)部分用二進(jìn)制（底數(shù) 2）小數(shù)來表示，這意味著最高位對(duì)應(yīng)著值 ?(2 -1)，第二位對(duì)應(yīng)著 ?(2 -2)，依此類推。對(duì)于雙精度浮點(diǎn)數(shù)，用 11 位表示指數(shù)，52 位表示尾數(shù)。 因?yàn)橛每茖W(xué)記數(shù)法可以有 多種方式來表示給定數(shù)字，所以要規(guī)范化浮點(diǎn)數(shù)，以便用底數(shù)為 2 并且小數(shù)點(diǎn)左邊為 1 的小數(shù)來表示，按照需要調(diào)節(jié)指數(shù)就可以得到所需的數(shù)字。所以，例如，數(shù) 1.25 可以表示為尾數(shù)為 1.01，指數(shù)為 0： (-1) 0*1.01 2*2 0 數(shù) 10.0 可以表示為尾數(shù)

9、為 1.01，指數(shù)為 3： (-1) 0*1.01 2*2 3 除了編碼所允許的值的標(biāo)準(zhǔn)范圍（對(duì)于 float ，從 1.4e-45 到 3.4028235e+38），還有一些表示無窮大、負(fù)無窮大、 -0 和 NaN（它代表“不是一個(gè)數(shù)字”）的特殊值。這些值的存在是為了在出現(xiàn)錯(cuò)誤條件（譬如算術(shù)溢出，給負(fù)數(shù)開平方根，除以 0 等）下，可以用浮點(diǎn)值集合中的數(shù)字來表示所產(chǎn)生的結(jié)果。 舍入誤差 浮點(diǎn)運(yùn)算很少是精確的。雖然一些數(shù)字（譬如 0.5 ）可以精確地表示為二進(jìn)制（底數(shù) 2）小數(shù)（因?yàn)?0.5 等于 2 -1），但其它一些數(shù)字（譬如 0.1 ）就不能精確的表示。因此，浮點(diǎn)運(yùn)算可能導(dǎo)致舍入誤差，產(chǎn)生

10、的結(jié)果接近 但不等于 您可能希望的結(jié)果。例如，下面這個(gè)簡單的計(jì)算將得到 2.600000000000001 ，而不是 2.6 ：double s=0;for (int i=0; i<26; i+)s += 0.1;printf("%.15f",s); 類似的， .1*26 相乘所產(chǎn)生的結(jié)果不等于 .1 自身加 26 次所得到的結(jié)果。當(dāng)將浮點(diǎn)數(shù)強(qiáng)制轉(zhuǎn)換成整數(shù)時(shí)，產(chǎn)生的舍入誤差甚至更嚴(yán)重，因?yàn)閺?qiáng)制轉(zhuǎn)換成整數(shù)類型會(huì)舍棄非整數(shù)部分，甚至對(duì)于那些“看上去似乎”應(yīng)該得到 整數(shù)值的計(jì)算，也存在此類問題。例如，下面這些語句：double d = 29.0 * 0.01;printf(

11、“%f”,d);printf(“%d”, (int) (d * 100);將得到以下輸出：0.2928這可能不是您起初所期望的。 浮點(diǎn)數(shù)的比較由于存在 NaN 的不尋常比較行為和在幾乎所有浮點(diǎn)計(jì)算中都不可避免地會(huì)出現(xiàn)舍入誤差，解釋浮點(diǎn)值的比較運(yùn)算符的結(jié)果比較麻煩。 最好完全避免使用浮點(diǎn)數(shù)比較。當(dāng)然，這并不總是可能的，但您應(yīng)該意識(shí)到要限制浮點(diǎn)數(shù)比較。如果必須比較浮點(diǎn)數(shù)來看它們是否相等，則應(yīng)該將它們差的絕對(duì)值同一 些預(yù)先選定的小正數(shù)進(jìn)行比較，這樣您所做的就是測試它們是否“足夠接近”。（如果不知道基本的計(jì)算范圍，可以使用測試“fabs(a/b - 1) < epsilon”，這種方法比簡單地比較兩者之差要更準(zhǔn)確）。甚至測試看一個(gè)值是比零大還是比零小也存在危險(xiǎn) “以為”會(huì)生成比零略大值的計(jì)算事實(shí)上可