浮點數的比較

2021-07-05 07:08:07 字數 1294 閱讀 5598

在數**算當中經常會涉及到判斷兩個數是否相等的情況

對於整數很好處理 a==b這樣的乙個語句就可以解決全部的問題

但是對於浮點數是不同的

首先,浮點數在計算機當中的二進位制表達方式就決定了大多數浮點數都是無法精確的表達的

現在的計算機大部分都是數字計算機,不是模擬機,數字機的離散化的資料表示方法自然無法精確表達大部分的資料量的。

其次計算機浮點數的精度在單精度float型別下,只有7位,在進行浮點運算的時候,這個精度往往會導致運算的結果和實際期望的結果之間有誤差

因為前兩個原因,我們很難用 a==b來判定兩個浮點數是否相同

很自然,我們可以想到 fabs(a-b) < epsilon 這樣的一種判別方法

但是這種判別方法穩妥嗎?

它也不穩妥。

首先, epsilon是乙個絕對的資料,也就是誤差分析當中說說的絕對誤差

使用乙個固定的數值,對於float型別可以表達的整個數域來說是不可以的

比如epsilon取值為0.0001,而a和b的數值大小也是0.0001附近的,那麼顯然不合適

另外對於a和b大小是10000這樣的資料的時候,它也不合適,因為10000和10001也可以認為是相等的呢

適合它的情況只是a或者b在1或者0附近的時候

既然絕對誤差不可以,那麼自然的我們就會想到了相對誤差

bool isequal(float a, float b, float relerror )
這樣寫還不完善,因為是拿固定的第乙個引數做比較的,那麼在呼叫

isequal(a, b, relerror ) 和 isequal(b, a, relerror ) 的時候,可能得到不同的結果

同時如果第乙個引數是0的話,就有可能是除0溢位

這個可以改造

把除數選取為a和b當中絕對數值較大的即可

bool isequal(float a, float b, relerror ) 

;

使用相對誤差就很完善嗎?

也不是, 在某些特殊情況下, 相對誤差也不能代表全部

比如在判斷空間三點是否共線的時候,使用判斷點到另外兩個點形成的線段的距離的方法的時候

只用相對誤差是不夠的,應為線段距離可能很段,也可能很長,點到線段的距離,以及線段的長度做綜合比較的時候,需要相對誤差和絕對誤差結合的方式才可以

相對完整的比較演算法應該如下:

bool isequal(float a, float b, float abserror, float relerror )

浮點數比較

在數 算當中經常會涉及到判斷兩個數是否相等的情況 對於整數很好處理 a b這樣的乙個語句就可以解決全部的問題 但是對於浮點數是不同的 首先,浮點數在計算機當中的二進位制表達方式就決定了大多數浮點數都是無法精確的表達的 現在的計算機大部分都是數字計算機,不是模擬機,數字機的離散化的資料表示方法自然無法...

浮點數比較

部分 思路來自網路。fxxki整理發布。double變數以帶符號的 ieee 64 位 8 個位元組 雙精度浮點數形式儲存 它可以表示十進位制的15或16位有效數字.負值取值範圍為 1.79769313486231570e 308 到 4.94065645841246544e 324,正值取值範圍為...

浮點數比較

0 我們來看乙個程式 include int main else 1 執行結果 可以看出,我們輸入的2.3和計算出來的 4.6 2 相等,這個沒有問題。但是如果遇到下面這個問題 3 我們再來看一段程式 include include define eqs 1e 8 define equal a,b ...