截斷誤差VS捨入誤差

2022-09-04 16:09:20 字數 296 閱讀 4136

截斷誤差:是指計算某個算式時沒有精確的計算結果,如積分計算,無窮級數計算等,使用極限的形式表達的,顯然我們只能擷取有限項進行計算,此時必定會有誤差存在,這就是截斷誤差。

捨入誤差:是指由於計算機表示位數的有限,很難表示位數很長的數字,這時計算機就會將其舍成一定的位數,引起捨入誤差,每一步的捨入誤差是微不足道的,但經過傳播和積累,捨入誤差可能會淹沒所要的真解。

絕對誤差:是指近似值與真實值之間的誤差,它們之間的誤差上限稱為絕對誤差限或者精度。

相對誤差:有時絕對誤差還不足刻畫近似值的精度,為此引入相對誤差,即絕對誤差與近似值的比值。

關於BigDecimal的四捨五入和截斷

關於四捨五入 round half up 遇到.5的情況時往上近似,例 1.5 2 round half down 遇到.5的情況時往下近似,例 1.5 1 bigdecimal a new bigdecimal 1.5 system.out.println down a.setscale 0,bi...

漫談機器學習 1 誤差最小VS概率最大(1)

機器學習經常做的事情是擬合和分類 其中線性回歸是最簡單的機器學習問題了,因此,從線性回歸說起了,在這裡先說兩個有意思的方法,誤差最小vs概率最大,不好意思,受騙了,這絕對不是漫談,而是開始累公式了,哈哈。現在有樣本集合 mi 1,其中 咱們的目標是求解模型引數,使得 yi tx i 有時候會考慮到建...