作者sb710031 (sb)
看板Python
标题[问题] python 精准度问题
时间Wed Feb 11 14:31:25 2015
因为需要高精度的运算 所以我查到了 decimal 这个物件
可是我照着用 却没有效果 不知是什麽问题 @@
http://ppt.cc/sqDa
可以看的到 红色的部分就不一样了
谢谢
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 128.237.139.36
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Python/M.1423636287.A.132.html
1F：→ mikapauli: 你输入的是float，改用string就好02/11 15:58
2F：推 duncanusn: 最近也遇到高精度运算问题~~decimal(str(...))02/11 17:53
3F：推 timTan: x = decimal.Decimal('7.354823617778974389274981374')02/12 19:13
4F：→ timTan: 上面那样的形式才对02/12 19:13
谢谢
※ 编辑: sb710031 (128.237.129.64), 02/13/2015 13:16:15