float與double的範圍和精度

1 範圍

float和double的範圍是由指數的位數來決定的。

float的指數字有8位，而double的指數字有11位，分布如下：

float：共32位

1bit（符號位）

8bits（指數字）

23bits（尾數字）

double：共 64位

1bit（符號位）

11bits（指數字）

52bits（尾數字）

於是，float的指數範圍為-127~+128，而double的指數範圍為-1023~+1024，並且指數字是按補碼的形式來劃分的。其中負指數決定了浮點數所能表達的絕對值最小的非零數；而正指數決定了浮點數所能表達的絕對值最大的數，也即決定了浮點數的取值範圍。

float的範圍為-2^128 ~ +2^128，也即-3.40e+38 ~ +3.40e+38；double的範圍為-2^1024 ~ +2^1024，也即-1.79e+308 ~ +1.79e+308。

2 精度

float和double的精度是由尾數的位數來決定的。浮點數在記憶體中是按科學計數法來儲存的，其整數部分始終是乙個隱含著的「1」，由於它是不變的，故不能對精度造成影響。

float：2^23 = 8388608，一共七位，這意味著最多能有7位有效數字，但絕對能保證的為6位，也即float的精度為6~7位有效數字；

double：2^52 = 4503599627370496，一共16位，同理，double的精度為15~16位。

float與double的範圍和精度

floa 與 double 的範圍和精度 1.範圍 float和double的範圍是由指數的位數來決定的。float的指數字有8位，而double的指數字有11位，分布如下 float 1bit 符號位 8bits 指數字 23bits 尾數字 double 1bit 符號位 11bits 指數字 ...

float與double的範圍和精度

1.範圍 float和double的範圍是由指數的位數來決定的。float的指數字有8位，而double的指數字有11位，分布如下 float 1bit 符號位 8bits 指數字 23bits 尾數字 double 1bit 符號位 11bits 指數字 52bits 尾數字 於是，float的指...

float與double的範圍和精度

浮點數的儲存和整數的儲存是不一致的，整數的儲存時 其表示的範圍 和 整數數目一一對應的，不會存在精度的問題，超出範圍的話溢位 浮點數的話 存在精度問題 例如float為6 7位浮點數，1.111 111 100,1.111 111 123，浮點數表達的是精度內的 1.111 111 1 取6 7位精...