幾個數學函式

2021-06-03 07:50:26 字數 1230 閱讀 1734

今天在nw7裡面測試了一段**,那幾個數學函式返回結果竟然是錯的,讓我大吃一驚,且看**:

data n type p decimals 2.

data 

m type p decimals 

2 value 

'-5.55'

.n = 

abs( 

m ).   write

:   

'abs:  '

, n.

n = 

sign

( m 

).  write

: / 'sign: '

, n.

n = 

ceil

( m 

).  write

: / 'ceil: '

, n.

n = 

floor

( m 

). write

: / 'floor:'

, n.

n = 

trunc

( m 

). write

: / 'trunc:'

, n.

n = 

frac

( m 

).  write

: / 'frac: '

, n.

write 出來的結果如下:

abs:               5.55

sign:              0.01-

ceil:              5.55-

floor:             5.55-

trunc:             5.55-

frac:              0.00

這結果顯然是錯的。

然而,當我將以上**copy到另外乙個系統裡面執行時,發現結果又對了。

另乙個系統的執行結果:

abs:               5.55

sign:              1.00-

ceil:              5.00-

floor:             6.00-

trunc:             5.00-

frac:              0.55-

這個結果才是對的嘛

同樣的**在不同的sap系統裡面竟然結果不同(未涉及資料庫),這是為什麼捏?(經測試和user的個人設定無關)

PHP幾個數學計算的內部函式學習整理

round round 對浮點數進行四捨五入。round 函式語法如下 round float,precision 其中引數 precision 表示小數點後面要保持的精度位數。如果不寫引數 precision,表示四捨五入到整數字,比如 echo round 3.4 3echo round 3.5...

幾個數學知識備忘

一 階乘相關 求n的階乘的方法 public static fab int n 問 的階乘未尾有幾個 解 要產生 那麼分解後的最小因子一定要有 和 而 個數一定會多於 那麼只需要求出 的個數就可以了。那麼結果 int 1 共有200 40 8 1 249個 輸出所有水仙花數 乙個n n 3 位數,其...

MySQL幾個函式學習

今天在閱讀mysql資料的時候看到了這幾個函式,之前用的比較少,現在記錄下來備用。case語句 select name district,population,case population when population 10000 then 人口稀少 when population 10000 ...