作者tkcn (小安)
看板java
标题Re: [问题] 有限小数化分数?
时间Thu Jan 24 21:19:00 2008
※ 引述《etrexetrex (moonet)》之铭言:
: 对任意一个二进位无法表示的数
: 例如:2/5
: 在二进位会变成0.3999999999 (没记错的话)
: 然後使用所谓最简单的方法会得到
: 3999999999
: -----------
: 10000000000
: 发现与一开始的 2/5 不相等,意思就是会有无法还原的问题。
我的想法是,这个问题必须先简化,
因为电脑中存着的就是 0.3999999999...而不是 2/5
单看到 0.399999999..,我们也不能说他就一定是 0.4
所以只要定义个精准度,先四舍五入到那一位数即可。
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 140.114.78.239