作者lenend (END)
看板MATLAB
标题[讨论] FIX计算
时间Mon Nov 21 12:38:57 2016
各位安安
想请教我有一个值3.12
我想取小数点第二位的值
所以我用FIX计算
A = (z*10-fix((z*10)))/10; 这是我的写法
计算出来是显示A = 0.020000
但是我用0.02-A後 出来的值是 -2.8449e-16
为什麽不会是等於0 原因为何? 请各位大大赐教 谢谢
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 111.253.89.15
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/MATLAB/M.1479703140.A.075.html
1F:推 mingyan0211: format long 11/27 00:39