作者kekeo (wu0w u0w )
看板MATLAB
标题[心得]Matlab mod function之误差
时间Wed Dec 7 13:55:56 2005
a mod b = 0, but a/b却不整除
发生在b不是整数且b的倍数非常接近a时
ex: a=-2.3561944901923453,b=0.0087266462599716477
mod(a,b)=0, a/b=-270.00000000000006
Matlab的help里也有说了
MOD(x,y) is x - n.*y where n = floor(x./y) if y ~= 0. If y is not an
integer and the quotient x./y is within roundoff error of an integer,
then n is that integer.
也就是会有误差，希望有用到mod写程式的可以注意一下
找出这问题找了半天.....
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 140.120.14.167
1F：→ dok:Matlab很多函式都有数值计算的问题,ex:算eigenvalue 12/07 15:02
2F：推 knetlalala:之前也是知道会有错 都拆开来算 03/22 20:13
3F：→ knetlalala:原来追根究底是这个原因@@ 03/22 20:13