作者A1pha ([αλφα])
看板Visual_Basic
标题Re: [VB6 ] 其实是很新手的问题....
时间Sun Nov 12 03:23:22 2006
※ 引述《A1pha ([αλφα])》之铭言:
: 标题: [VB6 ] 其实是很新手的问题....
: 时间: Sat Nov 11 19:13:11 2006
:
: 我写了一个这样的东西...
: Y = 0.05
: X = 0.76 + Val(txt_percentage) / 100 + Y
:
: Print X, 0.76, Val(txt_percentage)/100, Y
:
: 假设Val(txt_percentage)/100 = 0.03
: 为什麽印出来的东西会是:
: 0.840000000745058
: 0.76
: 0.03
: 0.05
:
: 那个X的值是怎麽搞的....怎麽不是0.76+0.03+0.05 = 0.84 ?
:
:
※ 发信站: 批踢踢实业坊(ptt.cc)
: ◆ From: 124.8.85.6
: 推 LPH66:浮点数精确度 11/11 20:18
: 推 fumizuki:所有电脑共同的精确度问题 11/11 20:51
: → fumizuki:务必要限制小数点第几位...Round(X, 2) 11/11 20:52
为什麽会有这样的问题啊?
精确度问提是指说电脑也是会有「误差」的吗?
像是人用一把尺画三公分的线,永远不会是准的3公分这样?
还有,为什麽同样是运算,
Val(txt_percentage)/100印出来就会是3/100=0.03
而不是0.03000000745058之类的?
感谢解答<(_ _)>
--
从睡梦中苏醒的少女 发现自己被一群身上长有翅膀
头上有光环的少女们围绕着
这里… 不是天国 她们… 不是天使
身上长着灰色的翅膀,却无法飞翔
这是个 被遗忘的国度...
她们是谁 她们自已也不知道…… 找寻着记忆,也找寻着自己… 《灰羽连盟》
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 124.8.85.6