浮點數的儲存和整數的儲存是不一致的,整數的儲存時:
其表示的範圍 和 整數數目一一對應的,不會存在精度的問題,超出範圍的話溢位
浮點數的話:存在精度問題
例如float為6-7位浮點數,1.111 111 100, 1.111 111 123,
浮點數表達的是精度內的 1.111 111 1 (取6-7位精度, 8、9位小數捨去)
1. 範圍
float和double的範圍是由指數的位數來決定的。
float的指數字有8位,而double的指數字有11位,分布如下:
float:
1bit(符號位)8bits(指數位)23bits(尾數位)
double:
1bit(符號位)11bits(指數位)52bits(尾數位)
於是,float的指數範圍為(8bits)-127~+128,而double的指數範圍為(11bits)-1023~+1024,並且指數字是按補碼的形式來劃分的。
其中負指數決定了浮點數所能表達的絕對值最小的非零數;
而正指數決定了浮點數所能表達的絕對值最大的數,也即決定了浮點數的取值範圍。
float的範圍為-2^128 ~ +2^128,也即-3.40e+38 ~ +3.40e+38;
double的範圍為-2^1024 ~ +2^1024,也即-1.79e+308 ~ +1.79e+308。
2. 精度
float和double的精度是由尾數的位數來決定的。浮點數在記憶體中是按科學計數法來儲存的,其整數部分始終是乙個隱含著的「1」,由於它是不變的,故不能對精度造成影響。
float:
2^23= 8388608,一共七位,這意味著最多能有7位有效數字,但絕對能保證的為6位,也即float的精度為6~7位有效數字;
double:
2^52= 4503599627370496,一共16位,同理,double的精度為15~16位。
float與double的範圍和精度
floa 與 double 的範圍和精度 1.範圍 float和double的範圍是由指數的位數來決定的。float的指數字有8位,而double的指數字有11位,分布如下 float 1bit 符號位 8bits 指數字 23bits 尾數字 double 1bit 符號位 11bits 指數字 ...
float與double的範圍和精度
1 範圍 float和double的範圍是由指數的位數來決定的。float的指數字有8位,而double的指數字有11位,分布如下 float 共32位 1bit 符號位 8bits 指數字 23bits 尾數字 double 共 64位 1bit 符號位 11bits 指數字 52bits 尾數字...
float與double的範圍和精度
1.範圍 float和double的範圍是由指數的位數來決定的。float的指數字有8位,而double的指數字有11位,分布如下 float 1bit 符號位 8bits 指數字 23bits 尾數字 double 1bit 符號位 11bits 指數字 52bits 尾數字 於是,float的指...