作者moonshade (一只欧拉猫)
看板NTUGIEE_EDA
标题Re: [转录]Re: [问题]请问如何四舍五入...
时间Sat Mar 18 00:29:27 2006
※ 引述《yellowfishie (喵喵喵喵~~~)》之铭言:
: ※ 引述《yellowfishie (喵喵喵喵~~~)》之铭言:
: : 标题: [转录]Re: [问题]请问如何四舍五入...
: : 时间: Fri Mar 17 22:02:32 2006
: : 推 crazying:你都取 floor 还不一样就不会是 rounding 的问题了 = =a 03/17 23:37
: : 推 crazying:把每个变数的值都印出来看好了 03/17 23:40
: solaris:
: F = 2288000*0.576923 + 2288000*0.576923 = 3.595e+06
: ori: 3.595e+06
: (int) floor cast: 3595000
: linux:
: F = 2288000*0.576923 + 2288000*0.576923 = 3.595e+06
: ori: 3.595e+06
: (int) floor cast: 3594999
有bug吧??
F= 2639999.648 吧,你3.595e+06 怎麽算出来的???
--
这个浮点运算会被自动round 掉喔...
--
拒绝人最好的方法就是慢慢让他失去希望,或是让他忘了他一开始
到底想要什麽...
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 203.203.46.18
※ 编辑: moonshade 来自: 203.203.46.18 (03/18 00:31)
1F:推 yellowfishie:cout 错了... -.- 03/18 00:36
2F:推 yellowfishie:已更正 :) 03/18 00:37
3F:推 yellowfishie:0.576923 = 45/78; 0.433333 = 39/90 03/18 00:51