浮點計算學習筆記

2021-10-24 06:28:52 字數 820 閱讀 6518

問:double的精度是多少?(同事做模型設計的時候希望知道什麼時候計算認為此小數為0)

2023年,ieee推出了《ieee二進位制浮點運算標準754》

鏈結--

2023年,ieee推出了《ieee通用數制的浮點運算標準》 --ieee854標準

---要收費?

1.科學計數法

抽象描述為:

它有兩個部分組成,乙個只有1位整數的實數和相應的放大因子,即尾數和指數:

尾數:指數:n

科學計數法的實質是將實數分解為尾數和指數

2.浮點數

浮點數的編碼方式,尾數部分實際上是乙個只有1位整數的定點數,而且約定小數點位於第乙個非0數字之後,所以得到上面的轉換。所謂唯一的整數字只能恆是1,這意味著這個整數字可以不表示出來,因此在有些浮點格式中稱整數字為隱含位。

隱含位的引入的優點就是小數部分可以多使用一位,缺點就是在運算之前必須補齊這個隱含位。

表1 ieee常見浮點格式說明

格式長度

符號指數

尾數有效位數

指數偏移

說明單精度格式

32位1823

24127

乙個隱含位

雙精度格式

64位1

1152

531023

乙個隱含位

擴充套件雙精度格式

80位1

1564

6416383

沒有隱含位

二進位制和十進位制有效位數轉換關係有:

所以,單精度的格式有0.301*24=7.2,7個有效數字

雙精度格式有0.301*53=15.9,15個有效數字

雲計算學習筆記

1 通俗的理解是,雲 是儲存於網際網路伺服器集群上的資源,它包括硬體資源 伺服器 儲存器 cpu 等 和軟體資源 應用軟體 整合開發環境等 本地計算機只需要通過網際網路傳送乙個需求資訊,遠端就會有成千上萬的計算機為使用者提供需要的資源並將結果返回到 本地計算機 2 在雲計算環境下,由於使用者直接面對...

雲計算學習筆記(一)

雲計算的定義 nist 雲計算是對基於網路的 可配置的共享計算資源池能夠方便的 隨需訪問的一種模式。是一種顛覆性的交付模式,一體化的共享服務平台。雲計算由雲計算平台和雲服務應用兩個層面組成。從使用者體驗的角度來講,雲計算可分為三種服務模式 基礎設施即服務 iaas 平台即服務 paas 軟體即服務 ...

雲計算學習

雲計算的儲存和資源管理策略 雲計算是由分布式計算和網格計算發展而來,通過網際網路上的異構 自治的服務提供按需分配的計算資源。雲計算的資源特性 動態 容易擴充套件 虛擬化。服務層次 基礎設施服務iaas 平台即服務paas 軟體服務saas 虛擬化在雲計算中越來越重要,包括了伺服器 儲存 網路 pc等...