作者moonshade (一隻歐拉貓)
看板NTUGIEE_EDA
標題Re: [轉錄]Re: [問題]請問如何四捨五入...
時間Sat Mar 18 00:29:27 2006
※ 引述《yellowfishie (喵喵喵喵~~~)》之銘言:
: ※ 引述《yellowfishie (喵喵喵喵~~~)》之銘言:
: : 標題: [轉錄]Re: [問題]請問如何四捨五入...
: : 時間: Fri Mar 17 22:02:32 2006
: : 推 crazying:你都取 floor 還不一樣就不會是 rounding 的問題了 = =a 03/17 23:37
: : 推 crazying:把每個變數的值都印出來看好了 03/17 23:40
: solaris:
: F = 2288000*0.576923 + 2288000*0.576923 = 3.595e+06
: ori: 3.595e+06
: (int) floor cast: 3595000
: linux:
: F = 2288000*0.576923 + 2288000*0.576923 = 3.595e+06
: ori: 3.595e+06
: (int) floor cast: 3594999
有bug吧??
F= 2639999.648 吧,你3.595e+06 怎麼算出來的???
--
這個浮點運算會被自動round 掉喔...
--
拒絕人最好的方法就是慢慢讓他失去希望,或是讓他忘了他一開始
到底想要什麼...
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 203.203.46.18
※ 編輯: moonshade 來自: 203.203.46.18 (03/18 00:31)
1F:推 yellowfishie:cout 錯了... -.- 03/18 00:36
2F:推 yellowfishie:已更正 :) 03/18 00:37
3F:推 yellowfishie:0.576923 = 45/78; 0.433333 = 39/90 03/18 00:51