作者A1pha ([αλφα])
看板Visual_Basic
标题[VB6 ] 其实是很新手的问题....
时间Sat Nov 11 19:13:11 2006
我写了一个这样的东西...
Y = 0.05
X = 0.76 + Val(txt_percentage) / 100 + Y
Print X, 0.76, Val(txt_percentage)/100, Y
假设Val(txt_percentage)/100 = 0.03
为什麽印出来的东西会是：
0.840000000745058
0.76
0.03
0.05
那个X的值是怎麽搞的....怎麽不是0.76+0.03+0.05 ＝ 0.84 ？
--
"While I was there, it didn't always seem perfect,
but when I look back on it I just might think it was perfect."
When Eric Byrnes left Oakland
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 124.8.85.6
1F：推 LPH66:浮点数精确度 11/11 20:18
2F：推 fumizuki:所有电脑共同的精确度问题 11/11 20:51
3F：→ fumizuki:务必要限制小数点第几位...Round(X, 2) 11/11 20:52