作者jyhchyunlu (jyhchyunlu)
看板Fortran
标题Re: [问题] 计算的精准度问题
时间Thu Aug 6 22:29:16 2009
是这样子的
一开始有宣告这三个变数都是双精度
而ALO和AL都是由其他双精度数值算出来的
我会这麽写是因为我印在档案上看的
不是我这样给变数值
不知道板友看不看得懂我在说什麽
※ 引述《jyhchyunlu (jyhchyunlu)》之铭言：
: 各位板友好
: 我碰上了一个很奇怪的问题
: 是这样的
: 有三个变数 AL ALO E0 格式都是DOUBLE
: ALO=1.000000000000000
: AL 0.999999600000000
: E0=(AL-ALO)/ALO
: 答案应该是-4.000000000000000E-007
: 但我跑出来的结果却是 E0 =-4.000000000115023E-007
: 请问是哪边出错了呢
: 看似差一点点而已
: 但代入往後的计算中
: 这误差会影响答案
: 想请问板友问题出在哪
: 感谢板友的回答
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 118.169.76.167