IEEE浮點數尾數向偶捨入

2021-08-20 22:39:13 字數 780 閱讀 4408

《轉》(抱歉忘了從**copy的了)

例如有效數字超出規定數字的多餘數字是1001,它大於超出規定最低位的一半(即0.5),故最低位進1。如果多餘數字是0111,它小於最低位的一半,則捨掉多餘數字(截斷尾數、截尾)即可。對於多餘數字是1000、正好是最低位一半的特殊情況,最低位為0則捨掉多餘位,最低位為1則進製1、使得最低位仍為0(偶數)。 

注意這裡說明的數字都是指二進位制數。 

舉例:要求保留小數點後3位。 

對於1.0011001,捨入處理後為1.010(去掉多餘的4位,加0.001) 

對於1.0010111,捨入處理後為1.001(去掉多餘的4位) 

對於1.0011000,捨入處理後為1.010(去掉多餘的4位,加0.001,使得最低位為0) 

對於1.1001001,捨入處理後為1.101(去掉多餘的4位,加0.001) 

對於1.1000111,捨入處理後為1.100(去掉多餘的4位) 

對於1.1001000,捨入處理後為1.100(去掉多餘的4位,不加,因為最低位已經為0) 

對於1.01011,捨入處理後為1.011(去掉多餘的2位,加0.001) 

對於1.01001,捨入處理後為1.010(去掉多餘的2位) 

對於1.01010,捨入處理後為1.010(去掉多餘的2位,不加) 

對於1.01111,捨入處理後為1.100(去掉多餘的2位,加0.001) 

對於1.01101,捨入處理後為1.011(去掉多餘的2位) 

對於1.01110,捨入處理後為1.100(去掉多餘的2位,加0.001)

IEEE754浮點數 向偶數捨入

我們大家都知道,浮點數的標準是ieee754。關於ieee754格式這裡不講了,主要是要講一下它的預設捨入方式。因為表示方法限制了浮點數的範圍和精度,所以使用浮點數只能近似地表示實數運算。而此時就不得不考慮捨入的問題了。捨入的原則是找到最接近的匹配值。為此,ieee754定義了四種不同的捨入方式 下...

IEEE 浮點數標準

現在計算機中,浮點數一般採用 ieee 制定的國際標準,這種標準形式如下 數符s 階碼 含階符 尾數 小數點位置 按 ieee 標準,常用的浮點數有三種 符號位s 階碼 尾數 總位數 短實數 單精度 1 8 23 32 長實數 雙精度 1 11 52 64 臨時實數 擴充套件精度 1 15 64 8...

程式設計陷阱 浮點數捨入

在 演算法競賽入門經典 第二版 紫書 的第二章,最後有一道思考題 includeint main 實驗發現程式會無限迴圈執行下去,即使把10換成10.0也沒有用。這就是程式的浮點數陷阱。我們知道,計算機底層儲存資料是二進位制的。如果學過計組的同學會知道,整數計算還好,小數計算會由於精度問題出現捨入,...