SUM 求和時的精度問題,跟資料表字段定義有關

2021-08-22 05:14:56 字數 418 閱讀 4815

sum()求和時的精度問題,跟資料表字段定義有關

sum以最精確的 expression 資料型別返回所有表示式值的和

返回結果:

money 精確到貨幣單位的千分之十

float(n) n在1-14,精度7位,25-53,精度15位

decimal 精度38位

int 精度為整數字數

<%=conn.execute("select sum(totalprice) as list1 from orderlist where translatestatus=1")("list1")%>

語句查詢的結果居然會返回很長的數字(5700.25001144409)11位小數

查詢資料表中對應的 totalprice欄位定義.單精度.精確到2位小數.

總的資料沒有很大的差異.

關於建立資料表的問題

比如這條建立表的sql create table db goods id bigint unsigned not null auto increment comment 主鍵 goods id int 11 unsigned not null comment 商品id goods title var...

資料表自增Id獲取時IDENTITY的正確使用方式

在sqlserver中很多表主鍵會設定為自增列,有的業務需求需要知道新插入的自增id是多少,一般我們會用select identity來獲取,可由於 identity是個全域性變數作用據較大,所以在高併發的時候會返回其他表插入的id導致邏輯錯誤。在sqlserver中有三個不同作用域的自增列返回方式...

Linq語法資料表的對映問題!

最近一直被實體類 自建 的對映和轉換問題所困擾。由於沒有用vs自帶的linq to sql類去建,結果老是出問題。最近煩透了。string s system.web.configuration.webconfigurationmanager.connectionstrings marketconne...