2 03浮點數和科學計數法

2022-09-08 10:36:10 字數 1018 閱讀 8932

浮點數

浮點數是屬於有理數中謀特定子集的數的數字表示,在計算機中用以近似表示任意某個實數。具體的說,這個實數由乙個整數或定點數(即尾數)乘以某個基數的整數次冪得到(10**4,10為基數),這種表示方法類似於基數為10的科學計數法。

有理數

在數學上,有理數是乙個整數a和乙個非零整數b的比,例如3/8,通常為a/b,又稱作分數,0也是有理數,有理數是整數和分數的集合,整數也可以看做是分母為一的分數。

有理數的小數部分是為有限或為無限迴圈的數。

無理數

無理數,也稱為無限不迴圈小數,不能寫作兩個整數之比。若將它寫成小數形式,小數點之後的數字有無限多個,並且不會迴圈。常見的無理數有非完全平方數的平方根、圓周率pi和e

實數

實數,是有理數和無理數的總和。

科學記數法(scientific notation)

科學記數法是指把乙個數表示成a*10的n次冪的形式(1<=a<10,n為正整數)。例如:19971400000000=1.99714*10^13。計算器或電腦表達10的冪一般是用e或e,也就是1.99714e13。用冪的形式,有時可以方便的表示日常生活中遇到的一些較大的數。

複數複數是指能寫成如下形式的數a+bi,這裡a和b是實數,i是虛數(即-1開根)。在複數a+bi中,a成為複數的實部,b稱為複數的虛部,i稱為虛數單位。當虛部等於零時,這個複數就是實數;當虛部不等於零時,這個複數稱為虛數。

python 中的表示:(-5+ j)    

浮點數的精確度問題

整數和浮點數在計算機內部儲存的方式是不同的,整數運算永遠是精確的而浮點數運算則可能會有四捨五入的誤差。

python預設的是17位精度,也就是小數點後16位,儘管有16位,但是這個精確度卻是越往後越不准的。這個問題不是只存在在python中,其他語言也有同樣的問題,原因與浮點數儲存結構有關。

Hive中避免科學計數法表示浮點數和長整數

在hive中進行計算的時候經常會遇到資料結果以科學計數的方式顯示出來,這並不是原本想要的結果。可以考慮用 cast 列名 as bigint decimal m,n 的方式避免科學計數法結果的出現。1 浮點數非科學計數法展示 hive select pay uid rate 90,cast pay ...

定點數和浮點數 定點數和浮點數計算

這個東西其實不是很難,但是確實足夠繞的,因為從十進位制的加減乘除轉換到二進位制的加減乘除就已經很麻煩了,然後為了選拔人才,不給你二進位制,直接給你十六進製制,當然最麻煩的還是補碼和移碼,確實足夠 但是給予足夠的練習還是可以比較熟練的,公式稍後會整理到置頂的公式大全中。可以看完了以後去嘗試一下相關計算...

整數和浮點數

python支援對整數和浮點數直接進行四則混合運算,運算規則和數學上的四則運算規則完全一致。基本的運算 1 2 3 6 4 5 6 14 7.5 8 2.1 3.0375使用括號可以提公升優先順序,這和數 算完全一致,注意只能使用小括號,但是括號可以巢狀很多層 1 2 3 9 2.2 3.3 1.5...