DX之浮點數比較

2022-09-03 04:51:07 字數 1131 閱讀 5496

我們都知道在c++數與數的比較我們都知道用==,!==等等方法,但在浮點數比較中剛可有行用這種,

首先,浮點數在計算機當中是以二進位制的方式表達的,所以無法表達其精度,其次計算機浮點數的精度float型別下,只有七位,在進行浮點運算的時候,這個精度往往會導致運算的結果和實際期望的結果之間有誤差。。。

這樣我們會自然而然想到fabs(a-b)>epsilon這個方法,但它也不穩妥,首先,epslion是乙個絕對的資料,也就是誤差分析當中說說的絕對誤差,、

既然絕對誤差不可以,那麼自然的我們就會想到了相對誤差

bool isequal(float a, float b, float relerror ) {

return ( fabs ( (a-b)/a ) < relerror ) ? true : false;

這樣寫還不完善,因為是拿固定的第乙個引數做比較的,那麼在呼叫 isequal(a, b, relerror ) 和 isequal(b, a, relerror ) 的時候,可能得到不同的結果 同時如果第乙個引數是0的話,就有可能是除0溢位 這個可以改造 把除數選取為a和b當中絕對數值較大的即可

bool isequal(float a, float b, relerror ) {

if (fabs(a)relerror ) ? true : false;

return  (fabs( (a-b)/b) > relerror ) ? true : false;

在某些特殊情況下, 相對誤差也不能代表全部 比如在判斷空間三點是否共線的時候,使用判斷點到另外兩個點形成的線段的距離的方法的時候 只用相對誤差是不夠的,應為線段距離可能很段,也可能很長,點到線段的距離,以及線段的長度做綜合比較的時候,需要相對誤差和絕對誤差結合的方式才可以 相對完整的比較演算法應該如下:

bool isequal(float a, float b, float abserror, float relerror ) {  

if (a==b) return true;

if (fabs(a-b)if (fabs(a>b) return  (fabs((a-b)/a>relerror ) ? true : false;

return  (fabs((a-b)/b>relerror ) ? true : false;

這樣才相對完整

浮點數比較

在數 算當中經常會涉及到判斷兩個數是否相等的情況 對於整數很好處理 a b這樣的乙個語句就可以解決全部的問題 但是對於浮點數是不同的 首先,浮點數在計算機當中的二進位制表達方式就決定了大多數浮點數都是無法精確的表達的 現在的計算機大部分都是數字計算機,不是模擬機,數字機的離散化的資料表示方法自然無法...

浮點數比較

部分 思路來自網路。fxxki整理發布。double變數以帶符號的 ieee 64 位 8 個位元組 雙精度浮點數形式儲存 它可以表示十進位制的15或16位有效數字.負值取值範圍為 1.79769313486231570e 308 到 4.94065645841246544e 324,正值取值範圍為...

浮點數比較

0 我們來看乙個程式 include int main else 1 執行結果 可以看出,我們輸入的2.3和計算出來的 4.6 2 相等,這個沒有問題。但是如果遇到下面這個問題 3 我們再來看一段程式 include include define eqs 1e 8 define equal a,b ...