作者ttsmarco (tts)
看板C_Sharp
标题[问题] decimal 运算结果不正确
时间Wed Jan 14 22:43:50 2015
最近遇到个很奇怪的现象
假设程式码为:
decimal int_A = decimal.Parse("1000");
decimal int_B = 10;
decimal report_num = int_A - int_B;
label1.Text = report_num.ToString();
1000与10只是举例,A与B实际上都是0~10000以内的整数
(日後数值可能有小数点下2~3位,所以用decimal)
但运算结果(leabl1)偶尔会不正确,不是多1就是少1
但这不是Double型别才会有的现象吗?
还是问题是出在str转decimal呢?
还请高手指点,3Q
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 59.127.31.198
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/C_Sharp/M.1421246632.A.02F.html
1F:→ TobyH4cker: 测试你的程式码,没遇到此问题,不过我是用 label1.Te 01/15 12:38
2F:→ TobyH4cker: xt = report_num.ToString(); 01/15 12:38
感谢,原文漏掉Orz ,已经补上
3F:推 CrazyAngel: ToString 指定位数应该可以拿到比较精确的数字 01/15 12:52
感谢,有ToString,原文漏掉了
※ 编辑: ttsmarco (59.127.31.198), 01/15/2015 15:45:57
4F:→ ttsmarco: 问题还未解决,请问还有什麽可能原因呢? 01/27 09:39