一些筆試、面試寶典之類的書，經常提到浮點數與零的比較。
大概是這樣if(f - 0.0f < 0.0000001f){}，意思是對浮點數的處理，應該是有乙個精度值。
對這個問題，也會留意，但體會不深。
今天，總算讓我碰到了。
比如說，乙個在100：1下的數值a是10；轉變為1000：1的時候，a應該變成b，b是1，但是在計算機儲存的時候的數值b卻是0.999768······（大概是這樣的數）。（a、b都是float型別）
而在乙個運算中，需要對b取整，本來，我的期望值是1，結果卻是0。
另乙個運算中，令b減去1，我的期望是0，結果卻是-0.000232。
這兩個錯誤，才讓我深刻體會到浮點數的處理，應該有乙個精度限制。
浮點數比較
在數 算當中經常會涉及到判斷兩個數是否相等的情況 對於整數很好處理 a b這樣的乙個語句就可以解決全部的問題 但是對於浮點數是不同的 首先，浮點數在計算機當中的二進位制表達方式就決定了大多數浮點數都是無法精確的表達的 現在的計算機大部分都是數字計算機，不是模擬機，數字機的離散化的資料表示方法自然無法...
浮點數比較
部分 思路來自網路。fxxki整理發布。double變數以帶符號的 ieee 64 位 8 個位元組 雙精度浮點數形式儲存 它可以表示十進位制的15或16位有效數字.負值取值範圍為 1.79769313486231570e 308 到 4.94065645841246544e 324，正值取值範圍為...
浮點數比較
0 我們來看乙個程式 include int main else 1 執行結果 可以看出，我們輸入的2.3和計算出來的 4.6 2 相等，這個沒有問題。但是如果遇到下面這個問題 3 我們再來看一段程式 include include define eqs 1e 8 define equal a,b ...