作者iread (初夏预言)
看板Python
标题[问题] 浮点数错误
时间Mon Nov 2 15:53:21 2020
我刚才在 Spyder 的 iPython console 做简单的加法，会出现浮点数错误。
请问这个计算误差要如何避开或消除？谢谢。
In [5]: 0.86 + 3.2
Out[5]: 4.0600000000000005
In [6]: 3.86 + 0.2
Out[6]: 4.06
https://imgur.com/XpcRrka
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 36.229.98.97 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Python/M.1604303603.A.61F.html
1F：→ oToToT: 改用decimal? 11/02 16:13
2F：推 aidansky0989: 这很正常，高精度浮点计算要Decimal 11/02 19:38
3F：推 jackyhobingo: ieee754可以了解一下 11/09 13:20