作者lenend (END)
看板MATLAB
標題[討論] FIX計算
時間Mon Nov 21 12:38:57 2016
各位安安
想請教我有一個值3.12
我想取小數點第二位的值
所以我用FIX計算
A = (z*10-fix((z*10)))/10; 這是我的寫法
計算出來是顯示A = 0.020000
但是我用0.02-A後 出來的值是 -2.8449e-16
為什麼不會是等於0 原因為何? 請各位大大賜教 謝謝
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.253.89.15
※ 文章網址: https://webptt.com/m.aspx?n=bbs/MATLAB/M.1479703140.A.075.html
1F:推 mingyan0211: format long 11/27 00:39