關於浮點數的比較

2021-06-06 23:19:31 字數 1069 閱讀 8694

#include int main()

return 0;

}

這段**,編譯會有警告:warning c4305: 'initializing' : truncation from 'const double ' to 'float '.也就是說,初始化變數的時候,將double型截斷為float型,有精度損失.

同理,則if語句裡面的1/3.0也是double型的了,那麼,後面的f則會由float型提公升為double型,這裡,精度不一樣的問題就出來了,此**不會輸出"hello world!\n".

那麼我們再看一段**:

#include int main()

return 0;

}

這段**,編譯沒有警告,而且,能夠輸出"hello world!\n".

#include int main()

return 0;

}

這段**,編譯沒有警告,而且,也能夠輸出"hello world!\n".

但是,請注意,這裡都是沒有對資料進行運算過,下面的乙個例子

#include int main()

return 0;

}

就已經不能夠輸出"hello world!\n"了!

當然,如果編譯器將前面的加法給優化了的話,可能會輸出 "hello world!\n". 

因計算機裡面存放資料都是二進位制的(具體儲存方式請查詢別人的其它文章),所以表示的精度和十進位製所表示的精度不一樣,所以,有些我們十進位制能夠很方便表示的資料,使用二進位制卻不能夠完整的表示出來,只能夠表示個近似值,就如同使用十進位制數表示無理數一樣,我們也需要取個合理的近似值(如π我們常用3.14).

當對資料進行運算,因有些資料不能使用二進位制表示,則存在誤差,不能表示的資料越多,則誤差越大,以致不能使用"=="來比較浮點數,就是存在這方面的誤差.

最後比較浮點數,還是使用範圍比較,範圍的精度看實際情況.

(文章中如有什麼不正確的地方,歡飲指正,不甚感激!)

浮點數比較

在數 算當中經常會涉及到判斷兩個數是否相等的情況 對於整數很好處理 a b這樣的乙個語句就可以解決全部的問題 但是對於浮點數是不同的 首先,浮點數在計算機當中的二進位制表達方式就決定了大多數浮點數都是無法精確的表達的 現在的計算機大部分都是數字計算機,不是模擬機,數字機的離散化的資料表示方法自然無法...

浮點數比較

部分 思路來自網路。fxxki整理發布。double變數以帶符號的 ieee 64 位 8 個位元組 雙精度浮點數形式儲存 它可以表示十進位制的15或16位有效數字.負值取值範圍為 1.79769313486231570e 308 到 4.94065645841246544e 324,正值取值範圍為...

浮點數比較

0 我們來看乙個程式 include int main else 1 執行結果 可以看出,我們輸入的2.3和計算出來的 4.6 2 相等,這個沒有問題。但是如果遇到下面這個問題 3 我們再來看一段程式 include include define eqs 1e 8 define equal a,b ...