計(jì)算機(jī)原理試驗(yàn)課件_第1頁(yè)
計(jì)算機(jī)原理試驗(yàn)課件_第2頁(yè)
計(jì)算機(jī)原理試驗(yàn)課件_第3頁(yè)
計(jì)算機(jī)原理試驗(yàn)課件_第4頁(yè)
計(jì)算機(jī)原理試驗(yàn)課件_第5頁(yè)
已閱讀5頁(yè),還剩37頁(yè)未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

1、計(jì)算機(jī)科學(xué)引論浮點(diǎn)數(shù)表示與運(yùn)算1為什么講浮點(diǎn)數(shù)浮點(diǎn)數(shù)是程序中常用的數(shù)浮點(diǎn)數(shù)是計(jì)算機(jī)技術(shù)中設(shè)計(jì)非常精巧的一個(gè)例子浮點(diǎn)數(shù)的一些設(shè)計(jì)思想被應(yīng)用到計(jì)算機(jī)科學(xué)的其它領(lǐng)域2數(shù)的表示計(jì)算機(jī)是處理“數(shù)”的數(shù)必須表示成計(jì)算機(jī)認(rèn)識(shí)的格式N位整數(shù)的表示無(wú)符號(hào):原碼0(2N1)有符號(hào):補(bǔ)碼(2N1)( 2N11)3數(shù)的表示其它的數(shù)怎么辦?特別大的數(shù):一個(gè)世紀(jì)的秒數(shù)3,155,760,00010 (3.1557610 x 109)非常小的數(shù):原子的直徑0.0000000110 (1.010 x 10-8) 分?jǐn)?shù)2/3 (0.666666666. . .)無(wú)理數(shù)21/2(1.414213562373. . .),e(2.

2、718.),(3.141.)都是科學(xué)技術(shù)上常用的數(shù)4數(shù)的表示科學(xué)技術(shù)上數(shù)的表示科學(xué)記數(shù)法+/- 6.020000 x 1023基 小數(shù)點(diǎn) 尾數(shù)階位數(shù):運(yùn)算可用精度符號(hào)5數(shù)的表示科學(xué)記數(shù)法有一個(gè)定長(zhǎng)尾數(shù)小數(shù)有一個(gè)固定的基10:尾數(shù)的進(jìn)制有一個(gè)階有符號(hào)整數(shù)有一個(gè)符號(hào)+階增減1相當(dāng)于尾數(shù)小數(shù)點(diǎn)右移/左移一位同一個(gè)數(shù)有多個(gè)表示形式6數(shù)的表示科學(xué)記數(shù)法規(guī)一化要求:1尾數(shù)10規(guī)一化的:1.0 x 10-9未規(guī)一化的:0.1 x 10-8,10.0 x 10-10 規(guī)一化0 . 1 x 10-8 1 0 . 0 x 10-10-1+1進(jìn)制7數(shù)的表示科學(xué)記數(shù)法歸一化科學(xué)記數(shù)法特點(diǎn)尾數(shù)長(zhǎng)度決定了數(shù)的運(yùn)算可用精度

3、簡(jiǎn)稱(chēng)精度階增減1相當(dāng)于尾數(shù)小數(shù)點(diǎn)右移/左移一位歸一化算法簡(jiǎn)單比較大小的算法先比較符號(hào)符號(hào)相同的再比較階符號(hào)和階都相同,再比較尾數(shù)8數(shù)的表示二進(jìn)制科學(xué)記數(shù)法計(jì)算機(jī)只能使用二進(jìn)制所以計(jì)算機(jī)用二進(jìn)制科學(xué)記數(shù)法浮點(diǎn)數(shù)+/- 1.02 x 2-1基 “小數(shù)點(diǎn)”尾數(shù)階符號(hào)229數(shù)的表示二進(jìn)制科學(xué)記數(shù)法表示符號(hào)+/-:一位二進(jìn)制數(shù)表示表示階有符號(hào)整數(shù)表示基?固定為2:不需要表示表示尾數(shù)二進(jìn)制小數(shù):如何表示?10二進(jìn)制小數(shù)的表示 二進(jìn)制小數(shù)帶小數(shù)點(diǎn)的二進(jìn)制數(shù):101.012二進(jìn)制小數(shù)的值122+ 021 + 120+02-1 + 12-2-1-1-1=5.2511二進(jìn)制小數(shù)的表示十進(jìn)制小數(shù)轉(zhuǎn)換成二進(jìn)制小數(shù)5.

4、3101.?0.32=0.60.62=1.2010.22=0.400.42=0.801 1 0 0010有限十進(jìn)制小數(shù)不一定能轉(zhuǎn)換成有限二進(jìn)制小數(shù)!12二進(jìn)制小數(shù)的表示表示精度問(wèn)題計(jì)算機(jī)不可能表示真正的實(shí)數(shù)無(wú)理數(shù)21/2(1.414213562373. . .),e(2.718.),(3.141.)分?jǐn)?shù)2/3, 5/7, 某些有限十進(jìn)制數(shù)小數(shù)無(wú)法轉(zhuǎn)換成有限二進(jìn)制小數(shù)0.3實(shí)際的科學(xué)計(jì)算也不需要真正的實(shí)數(shù)解決辦法:量化13量化量化把需要表示的區(qū)間劃分成整數(shù)個(gè)格子,要表示的實(shí)數(shù)向最近的格子邊界靠-2 -1 0 1 2 -1.75+1.5量化誤差-1.112+1.102二位二進(jìn)制小數(shù)表示精度0.25

5、用更多位可以實(shí)現(xiàn)更高精度碼點(diǎn)14量化量化N位二進(jìn)制數(shù):有2N個(gè)碼點(diǎn)均勻量化:任意二個(gè)相鄰碼點(diǎn)之間的距離相等可以表示的范圍: D2NL例:如需要的精度L10-30,N32 則D4.310-21 可以表示-210-21 210-21 連一個(gè)原子的半徑都不能表示15量化實(shí)際使用情況例(單位:米)有關(guān)原子半徑的運(yùn)算需要精確到約10-20需要表示的范圍約10-5有關(guān)丈量土地的運(yùn)算需要精確到約10-1需要表示的范圍約103有關(guān)地理運(yùn)算需要精確到約102需要表示的范圍約108如何在一個(gè)格式的數(shù)中滿足所有這些要求16量化實(shí)際使用情況總結(jié)需要的精度越高時(shí),需要表示的范圍也越小越接近0,需要表示的精度越高解決方案

6、非均勻量化越接近0,量化越密;越遠(yuǎn)離0,量化越粗17量化數(shù)的表示精度與運(yùn)算可用精度表示精度:量化誤差變化的(非均勻量化)在確定了階的值后,由尾數(shù)位數(shù)確定運(yùn)算可用精度固定的:由尾數(shù)位數(shù)確定所以尾數(shù)位數(shù)被一般性地叫做“精度”18量化如何實(shí)現(xiàn)非均勻量化科學(xué)記數(shù)法無(wú)論階的值是多少,尾數(shù)的位數(shù)是固定的尾數(shù)的位數(shù)確定了在相鄰兩個(gè)階之間有幾個(gè)碼點(diǎn)例:二位十進(jìn)制科學(xué)記數(shù)法100 101 102 1031.09.9x100100個(gè)1.09.9x102100個(gè)1.09.9x101100個(gè)19浮點(diǎn)數(shù)浮點(diǎn)數(shù):二進(jìn)制科學(xué)記數(shù)法規(guī)一化要求:1尾數(shù)21038)(上)溢出如果結(jié)果太?。浚?v, 5.0/0可以給出正確的答案,

7、而不一定產(chǎn)生溢出sqrt(-5.0)? 0.0/0.0?既然5.0/0可以有正確的結(jié)果,這里也應(yīng)該有NaN:Not a Number階全1,尾數(shù)036浮點(diǎn)數(shù):IEEE75432位浮點(diǎn)數(shù)小結(jié)階尾數(shù)值00+/-00非0?1-254任意+/-浮點(diǎn)數(shù)2550+/- 255非0NaN37浮點(diǎn)數(shù):IEEE754現(xiàn)有格式存在的問(wèn)題可表示的最小正數(shù)a = 1.0 2 * 2-126 = 2-126可表示的第二小正數(shù)b = 1.0001 2 * 2-126 = 2-126 + 2-149a - 0 = 2-126 b - a = 2-149ba0+-38浮點(diǎn)數(shù):IEEE754解決辦法階0,尾數(shù)0還未使用定義此時(shí)

8、的有效值為:+/-0.xxxxxxxx22-126此時(shí)最小正數(shù):0.0.0122-126= 2-149第二小正數(shù): 0.0.1022-126= 2-1480+-39浮點(diǎn)數(shù):IEEE754舍入為何需要舍入實(shí)數(shù)的運(yùn)算結(jié)果:無(wú)限精度不可能被計(jì)算機(jī)表示計(jì)算機(jī)的浮點(diǎn)數(shù)是運(yùn)算結(jié)果的近似值必須把運(yùn)算結(jié)果映射到浮點(diǎn)數(shù)可以表示的某個(gè)碼點(diǎn)上此操作稱(chēng)為“舍入”實(shí)數(shù)到整數(shù)的變換(取整運(yùn)算)要映射到整數(shù)可以表示的某個(gè)碼點(diǎn)上舍入40舍入( round )方法恒舍(round down,round towards -inf)1.999 - 1, -1.999 - -2恒入(round up,round towards +inf)1.999 - 2, -1.999 - -1截?cái)啵╰runcate,round to

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論