1>.number型別細講:
oracle number datatype 語法:number[(precision [, scale])]
簡稱:precision --> p
scale --> s
number(p, s)
範圍: 1 <= p <=38, -84 <= s <= 127
儲存資料範圍:-1.0e-130 <= number value < 1.0e+126
儲存在機器內部的範圍: 1 ~ 22 bytes
有效為:從左邊第乙個不為0的數算起的位數。
s的情況:
s > 0
精確到小數點右邊s位,並四捨五入。然後檢驗有效位是否 <= p。
s < 0
精確到小數點左邊s位,並四捨五入。然後檢驗有效位是否 <= p + |s|。
s = 0
此時number表示整數。
eg:actual data specified as stored as
----------------------------------------
123.89 number 123.89
123.89 number(3) 124
123.89 number(6,2) 123.89
123.89 number(6,1) 123.9
123.89 number(4,2) exceeds precision (有效位為5, 5 > 4)
123.89 number(6,-2) 100
.01234 number(4,5) .01234 (有效位為4)
.00012 number(4,5) .00012
.000127 number(4,5) .00013
.0000012 number(2,7) .0000012
.00000123 number(2,7) .0000012
1.2e-4 number(2,5) 0.00012
1.2e-5 number(2,5) 0.00001
123.2564 number 123.2564
1234.9876 number(6,2) 1234.99
12345.12345 number(6,2) error (有效位為5+2 > 6)
1234.9876 number(6) 1235 (s沒有表示s=0)
12345.345 number(5,-2) 12300
1234567 number(5,-2) 1234600
12345678 number(5,-2) error (有效位為8 > 7)
123456789 number(5,-4) 123460000
1234567890 number(5,-4) error (有效位為10 > 9)
12345.58 number(*, 1) 12345.6
0.1 number(4,5) error (0.10000, 有效位為5 > 4)
0.01234567 number(4,5) 0.01235
0.09999 number(4,5) 0.09999
定點數的精度(p)和刻度(s)遵循以下規則:
當乙個數的整數部分的長度 > p-s 時,oracle就會報錯
當乙個數的小數部分的長度 > s 時,oracle就會捨入。
當s(scale)為負數時,oracle就對小數點左邊的s個數字進行捨入。
當s > p 時, p表示小數點後第s位向左最多可以有多少位數字,如果大於p則oracle報錯,小數點後s位向右的數字被捨入
Oracle NUMBER型別細講
1 number型別細講 oracle number datatype 語法 number precision scale 簡稱 precision p scale s number p,s 範圍 1 p 38,84 s 127 儲存資料範圍 1.0e 130 number value 1.0e 1...
Bagging演算法細講
bagging演算法 讓該學習演算法訓練多輪,每輪的訓練集由從初始的訓練集中隨機取出的n個訓練樣本組成,某個初始訓練樣本在某輪訓練集中可以出現多次或根本不出現,訓練之後可得到乙個 函式序列h 1,h n 最終的 函式h對分類問題採用投票方式,對回歸問題採用簡單平均方法對新示例進行判別。思想 1 從原...
細講UIImage載入方式
原文 關於本地uiimage的載入問題,還是需要注意的。不同的載入處理方式,在效率和效能上還是有差異的。今天,我們來講講uiimage的載入應該選擇什麼樣的api來載入!這兩種api分別是 大量使用 initwithcontentsoffile 方式來載入,會增加cpu的開銷,所以我們需要根據特定場...