版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、計(jì)算機(jī)科學(xué)引論浮點(diǎn)數(shù)表示與運(yùn)算1為什么講浮點(diǎn)數(shù)浮點(diǎn)數(shù)是程序中常用的數(shù)浮點(diǎn)數(shù)是計(jì)算機(jī)技術(shù)中設(shè)計(jì)非常精巧的一個(gè)例子浮點(diǎn)數(shù)的一些設(shè)計(jì)思想被應(yīng)用到計(jì)算機(jī)科學(xué)的其它領(lǐng)域2數(shù)的表示計(jì)算機(jī)是處理“數(shù)”的數(shù)必須表示成計(jì)算機(jī)認(rèn)識(shí)的格式N位整數(shù)的表示無(wú)符號(hào):原碼0(2N1)有符號(hào):補(bǔ)碼(2N1)( 2N11)3數(shù)的表示其它的數(shù)怎么辦?特別大的數(shù):一個(gè)世紀(jì)的秒數(shù)3,155,760,00010 (3.1557610 x 109)非常小的數(shù):原子的直徑0.0000000110 (1.010 x 10-8) 分?jǐn)?shù)2/3 (0.666666666. . .)無(wú)理數(shù)21/2(1.414213562373. . .),e(2.
2、718.),(3.141.)都是科學(xué)技術(shù)上常用的數(shù)4數(shù)的表示科學(xué)技術(shù)上數(shù)的表示科學(xué)記數(shù)法+/- 6.020000 x 1023基 小數(shù)點(diǎn) 尾數(shù)階位數(shù):運(yùn)算可用精度符號(hào)5數(shù)的表示科學(xué)記數(shù)法有一個(gè)定長(zhǎng)尾數(shù)小數(shù)有一個(gè)固定的基10:尾數(shù)的進(jìn)制有一個(gè)階有符號(hào)整數(shù)有一個(gè)符號(hào)+階增減1相當(dāng)于尾數(shù)小數(shù)點(diǎn)右移/左移一位同一個(gè)數(shù)有多個(gè)表示形式6數(shù)的表示科學(xué)記數(shù)法規(guī)一化要求:1尾數(shù)10規(guī)一化的:1.0 x 10-9未規(guī)一化的:0.1 x 10-8,10.0 x 10-10 規(guī)一化0 . 1 x 10-8 1 0 . 0 x 10-10-1+1進(jìn)制7數(shù)的表示科學(xué)記數(shù)法歸一化科學(xué)記數(shù)法特點(diǎn)尾數(shù)長(zhǎng)度決定了數(shù)的運(yùn)算可用精度
3、簡(jiǎn)稱(chēng)精度階增減1相當(dāng)于尾數(shù)小數(shù)點(diǎn)右移/左移一位歸一化算法簡(jiǎn)單比較大小的算法先比較符號(hào)符號(hào)相同的再比較階符號(hào)和階都相同,再比較尾數(shù)8數(shù)的表示二進(jìn)制科學(xué)記數(shù)法計(jì)算機(jī)只能使用二進(jìn)制所以計(jì)算機(jī)用二進(jìn)制科學(xué)記數(shù)法浮點(diǎn)數(shù)+/- 1.02 x 2-1基 “小數(shù)點(diǎn)”尾數(shù)階符號(hào)229數(shù)的表示二進(jìn)制科學(xué)記數(shù)法表示符號(hào)+/-:一位二進(jìn)制數(shù)表示表示階有符號(hào)整數(shù)表示基?固定為2:不需要表示表示尾數(shù)二進(jìn)制小數(shù):如何表示?10二進(jìn)制小數(shù)的表示 二進(jìn)制小數(shù)帶小數(shù)點(diǎn)的二進(jìn)制數(shù):101.012二進(jìn)制小數(shù)的值122+ 021 + 120+02-1 + 12-2-1-1-1=5.2511二進(jìn)制小數(shù)的表示十進(jìn)制小數(shù)轉(zhuǎn)換成二進(jìn)制小數(shù)5.
4、3101.?0.32=0.60.62=1.2010.22=0.400.42=0.801 1 0 0010有限十進(jìn)制小數(shù)不一定能轉(zhuǎn)換成有限二進(jìn)制小數(shù)!12二進(jìn)制小數(shù)的表示表示精度問(wèn)題計(jì)算機(jī)不可能表示真正的實(shí)數(shù)無(wú)理數(shù)21/2(1.414213562373. . .),e(2.718.),(3.141.)分?jǐn)?shù)2/3, 5/7, 某些有限十進(jìn)制數(shù)小數(shù)無(wú)法轉(zhuǎn)換成有限二進(jìn)制小數(shù)0.3實(shí)際的科學(xué)計(jì)算也不需要真正的實(shí)數(shù)解決辦法:量化13量化量化把需要表示的區(qū)間劃分成整數(shù)個(gè)格子,要表示的實(shí)數(shù)向最近的格子邊界靠-2 -1 0 1 2 -1.75+1.5量化誤差-1.112+1.102二位二進(jìn)制小數(shù)表示精度0.25
5、用更多位可以實(shí)現(xiàn)更高精度碼點(diǎn)14量化量化N位二進(jìn)制數(shù):有2N個(gè)碼點(diǎn)均勻量化:任意二個(gè)相鄰碼點(diǎn)之間的距離相等可以表示的范圍: D2NL例:如需要的精度L10-30,N32 則D4.310-21 可以表示-210-21 210-21 連一個(gè)原子的半徑都不能表示15量化實(shí)際使用情況例(單位:米)有關(guān)原子半徑的運(yùn)算需要精確到約10-20需要表示的范圍約10-5有關(guān)丈量土地的運(yùn)算需要精確到約10-1需要表示的范圍約103有關(guān)地理運(yùn)算需要精確到約102需要表示的范圍約108如何在一個(gè)格式的數(shù)中滿足所有這些要求16量化實(shí)際使用情況總結(jié)需要的精度越高時(shí),需要表示的范圍也越小越接近0,需要表示的精度越高解決方案
6、非均勻量化越接近0,量化越密;越遠(yuǎn)離0,量化越粗17量化數(shù)的表示精度與運(yùn)算可用精度表示精度:量化誤差變化的(非均勻量化)在確定了階的值后,由尾數(shù)位數(shù)確定運(yùn)算可用精度固定的:由尾數(shù)位數(shù)確定所以尾數(shù)位數(shù)被一般性地叫做“精度”18量化如何實(shí)現(xiàn)非均勻量化科學(xué)記數(shù)法無(wú)論階的值是多少,尾數(shù)的位數(shù)是固定的尾數(shù)的位數(shù)確定了在相鄰兩個(gè)階之間有幾個(gè)碼點(diǎn)例:二位十進(jìn)制科學(xué)記數(shù)法100 101 102 1031.09.9x100100個(gè)1.09.9x102100個(gè)1.09.9x101100個(gè)19浮點(diǎn)數(shù)浮點(diǎn)數(shù):二進(jìn)制科學(xué)記數(shù)法規(guī)一化要求:1尾數(shù)21038)(上)溢出如果結(jié)果太?。浚?v, 5.0/0可以給出正確的答案,
7、而不一定產(chǎn)生溢出sqrt(-5.0)? 0.0/0.0?既然5.0/0可以有正確的結(jié)果,這里也應(yīng)該有NaN:Not a Number階全1,尾數(shù)036浮點(diǎn)數(shù):IEEE75432位浮點(diǎn)數(shù)小結(jié)階尾數(shù)值00+/-00非0?1-254任意+/-浮點(diǎn)數(shù)2550+/- 255非0NaN37浮點(diǎn)數(shù):IEEE754現(xiàn)有格式存在的問(wèn)題可表示的最小正數(shù)a = 1.0 2 * 2-126 = 2-126可表示的第二小正數(shù)b = 1.0001 2 * 2-126 = 2-126 + 2-149a - 0 = 2-126 b - a = 2-149ba0+-38浮點(diǎn)數(shù):IEEE754解決辦法階0,尾數(shù)0還未使用定義此時(shí)
8、的有效值為:+/-0.xxxxxxxx22-126此時(shí)最小正數(shù):0.0.0122-126= 2-149第二小正數(shù): 0.0.1022-126= 2-1480+-39浮點(diǎn)數(shù):IEEE754舍入為何需要舍入實(shí)數(shù)的運(yùn)算結(jié)果:無(wú)限精度不可能被計(jì)算機(jī)表示計(jì)算機(jī)的浮點(diǎn)數(shù)是運(yùn)算結(jié)果的近似值必須把運(yùn)算結(jié)果映射到浮點(diǎn)數(shù)可以表示的某個(gè)碼點(diǎn)上此操作稱(chēng)為“舍入”實(shí)數(shù)到整數(shù)的變換(取整運(yùn)算)要映射到整數(shù)可以表示的某個(gè)碼點(diǎn)上舍入40舍入( round )方法恒舍(round down,round towards -inf)1.999 - 1, -1.999 - -2恒入(round up,round towards +inf)1.999 - 2, -1.999 - -1截?cái)啵╰runcate,round to
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 二年級(jí)數(shù)學(xué)下冊(cè)人教版 第二單元 第04課時(shí) 用2-6的乘法口訣求商(教學(xué)設(shè)計(jì))
- 語(yǔ)文園地五 教學(xué)設(shè)計(jì)-2024-2025學(xué)年語(yǔ)文一年級(jí)上冊(cè)統(tǒng)編版
- 【核心素養(yǎng)目標(biāo)】4.13《辨方向》 教案
- 蘇教版六年級(jí)上冊(cè)勞動(dòng)與技術(shù) 教學(xué)設(shè)計(jì) 做蛋糕
- 【高效備課】人教版八(上) 14.1 整式的乘法 14.1.4 整式的乘法 第2課時(shí) 多項(xiàng)式與多項(xiàng)式相乘 教案
- 粵教版八年級(jí)下冊(cè)第2單元 黃河兩岸的歌-《放風(fēng)箏》 教案
- 人教版 美術(shù)三年級(jí)上冊(cè)第6課 黑與白 教學(xué)設(shè)計(jì)
- DB6110-T 49-2024 釀酒葡萄種植技術(shù)規(guī)程
- 【素養(yǎng)目標(biāo)】人教版數(shù)學(xué)七年級(jí)下冊(cè)9.1.1 不等式及其解集 教案
- 素質(zhì)訓(xùn)練 教學(xué)設(shè)計(jì)-2023-2024學(xué)年高一上學(xué)期體育與健康人教版必修第一冊(cè)
- 北京某辦公樓裝修改造施工組織設(shè)計(jì)方案
- 新蘇教版一年級(jí)上冊(cè)數(shù)學(xué)全冊(cè)課件(2024年新版教材)
- 2024年湖北武漢市洪山區(qū)面向社會(huì)招聘社區(qū)干事235人歷年高頻500題難、易錯(cuò)點(diǎn)模擬試題附帶答案詳解
- 《科技探索創(chuàng)新實(shí)踐》主題班會(huì)
- 2024年重慶新課標(biāo)高考生物試卷(原卷版)
- 2025屆浙江省嘉興市高三9月基礎(chǔ)測(cè)試月-技術(shù)答案
- 中層干部競(jìng)聘演講評(píng)分表
- 2023-2024學(xué)年北京市西城區(qū)三帆中學(xué)八年級(jí)(上)期中數(shù)學(xué)試卷【含解析】
- 2024年秋季新人教版一年級(jí)上冊(cè)數(shù)學(xué)課件 第4單元 11~20的認(rèn)識(shí)第1課時(shí) 10的再認(rèn)識(shí)
- 中小學(xué)研學(xué)基地建設(shè)規(guī)劃方案設(shè)計(jì)
- 人教版五年級(jí)上冊(cè)音樂(lè)《留給我》說(shuō)課稿
評(píng)論
0/150
提交評(píng)論