作者jyhchyunlu (jyhchyunlu)
看板Fortran
标题[问题] 精准度的问题
时间Thu Aug 6 21:07:45 2009
各位板友好
我碰上了一个很奇怪的问题
是这样的
有三个变数 AL ALO E0 格式都是DOUBLE
ALO=1.000000000000000
AL 0.999999600000000
E0=(AL-ALO)/ALO
答案应该是-4.000000000000000E-007
但我跑出来的结果却是 E0 =-4.000000000115023E-007
请问是哪边出错了呢
看似差一点点而已
但代入往後的计算中
这误差会影响答案
想请问板友问题出在哪
感谢板友的回答
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 118.169.76.167