作者wugymcu (Michael)
看板C_Sharp
标题[问题] 乘法溢位问题
时间Fri Aug 26 22:31:10 2016
我今天把0.05*423
结果等於21.150000000000002
而不是21.15
请问各位大神为什麽会有这个问题？
另外我现在是土法炼钢的使用Math.Round()解决，
请问有更正确的做法吗？
感恩
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 36.231.235.133
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/C_Sharp/M.1472221872.A.8E3.html
1F：→ testPtt: 我试了没问题 08/26 22:47
2F：→ james732: 或许可以查一下IEEE754 08/26 23:38
3F：推 wezmag: 用decimal 08/27 00:25
4F：推 O187: 用double或float都会有误差 08/27 11:24
5F：→ bamboo82: 平台是什麽 10/15 09:11