作者UDP (阿猫)
看板Fortran
标题Re: [问题] 计算的精准度问题
时间Thu Aug 6 22:38:16 2009
※ 引述《jyhchyunlu (jyhchyunlu)》之铭言：
: 是这样子的
: 一开始有宣告这三个变数都是双精度
: 而ALO和AL都是由其他双精度数值算出来的
: 我会这麽写是因为我印在档案上看的
: 不是我这样给变数值
: 不知道板友看不看得懂我在说什麽
这可能你要前後语法PO出来才会知道你错在哪.....
FORTRAN运算总是有你说的这种小毛病...
: ※ 引述《jyhchyunlu (jyhchyunlu)》之铭言：
: : 各位板友好
: : 我碰上了一个很奇怪的问题
: : 是这样的
: : 有三个变数 AL ALO E0 格式都是DOUBLE
: : ALO=1.000000000000000
: : AL 0.999999600000000
: : E0=(AL-ALO)/ALO
: : 答案应该是-4.000000000000000E-007
: : 但我跑出来的结果却是 E0 =-4.000000000115023E-007
: : 请问是哪边出错了呢
: : 看似差一点点而已
: : 但代入往後的计算中
: : 这误差会影响答案
: : 想请问板友问题出在哪
: : 感谢板友的回答
--
广告=>
http://goods.ruten.com.tw/item/show?11090702529994
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 140.127.181.230
※ 编辑: UDP 来自: 219.68.231.105 (08/09 00:07)