作者LaPass (LaPass)
看板Database
标题[讨论] 转型计算问题
时间Fri Feb 13 15:44:02 2015
http://i.imgur.com/gAMcmxa.jpg
SELECT '0.940'*5000*10,0.940*10*5000,'0.940'*10*5000
为什麽只有 '0.940'*10*5000 会差那一点点？
版本： MySQL 5.6.20
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 118.163.219.211
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Database/M.1423813445.A.F98.html
2F：→ LaPass: 找到原因了，'0.940'会被转成浮点数，有浮点误差 02/15 02:45
3F：→ LaPass: 直接给0.940会被当成十进制精准的处理方式 02/15 02:46