作者lavifoxbat (花次郎)
看板Fortran
标题[问题]real*8的有效位数
时间Wed Aug 17 14:54:21 2011
请问一下
我想测试双精准数的有效位数是否如书上所说的15~16位
因此宣告了一个变数
real*8 a
a=1.234567890123456789
compile後执行
却得到a=1.23456788063049(用ifort)
a=1.2345678806304932(用gfortran)
换过其他数字後有效位数也没有比较多
请问问题出在那？
谢谢
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 140.109.105.83
1F：推 terryys:a=1.234567890123456789d0 08/17 15:47
2F：→ lavifoxbat:那之前的宣告没有效果吗？ 08/17 16:12
3F：推 hiyiyi:之前的设定值是被判断成real*4的数字再转成real*8 08/17 16:22
4F：推 YCTzeng:应该加上d0才是倍精确度。 08/17 17:47