作者sb710031 (sb)
看板Python
標題[問題] python 精準度問題
時間Wed Feb 11 14:31:25 2015
因為需要高精度的運算 所以我查到了 decimal 這個物件
可是我照著用 卻沒有效果 不知是什麼問題 @@
http://ppt.cc/sqDa
可以看的到 紅色的部分就不一樣了
謝謝
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 128.237.139.36
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Python/M.1423636287.A.132.html
1F：→ mikapauli: 你輸入的是float，改用string就好02/11 15:58
2F：推 duncanusn: 最近也遇到高精度運算問題~~decimal(str(...))02/11 17:53
3F：推 timTan: x = decimal.Decimal('7.354823617778974389274981374')02/12 19:13
4F：→ timTan: 上面那樣的形式才對02/12 19:13
謝謝
※ 編輯: sb710031 (128.237.129.64), 02/13/2015 13:16:15