頭一次遇到這麼奇怪的事,百思不得其解! delphi / windows sdk/api
procedure tform1.button1click(sender: tobject);
var xs,yg,z:double;
begin
xs:=0.022;
yg:=1.25;
z:=round(xs*yg*power(10,3))/power(10,3);
showmessage(floattostr(z));
end;
這個得到是0.027
\\\\\\\\\\\\\\\\\\\\\\\\\
procedure tform1.button1click(sender: tobject);
var z:double;
begin
z:=round(1.25*0.022*power(10,3))/power(10,3);
showmessage(floattostr(z));
end;
這個得到是0.028
哪位老大幫幫我?
這個問題可能是round浮點數計算精度問題,估計用常數時自動分配的變數精度比double高的緣故。可是摟住使用的變數都是double,為什麼要在運算中間作個四捨五入呢,去掉round,2個運算表示式結果是一樣的0.0275
可是我需要保留三位小數呀大俠,咋辦?
這個是由於double的精度引起的,改用extended就可以了
記一次npm的奇怪bug
近幾天npm不知怎麼了不能安裝包了,連cnpm都不能安裝了,於是開始開 ku 心 bi 的除錯。網上的方法基本上全都試過了,結果出現了這個東西 這是讓我刮獎嗎?google一下,還真有這樣的錯誤,好像是埠被占用了。好嗎,三下五除二改下埠,發現還是不行。仔細觀察發現網上貼出來的錯誤跟我的錯誤還不一樣,...
搞定一次奇怪的網路風暴
昨天乙個部門的網路公升級,將原來所有級聯的hub換成100m交換機。問題來了。事情不是我做的,但是人家急急忙忙跑來要求技術support。無語,過去。看了一下,一字排開。還是很鄙視hub的。sw1 sw2 sw3 sw4 core sw 換上的交換機sw4狂閃。大家的網路都不正常,表示無法訪問伺服器...
記一次python安裝PIL庫所遇到的事
自學python,要用到pil這個很出名的庫,那就安裝唄 大家都知道python下,用easy install命令安裝特簡單,命令如下 好吧,這樣我們安裝完了,我們再去 python home lib site packages資料夾下看看是否已經有對用的庫檔案了 好的,如上圖所示,也已經有了,對了...