作者lavifoxbat (花次郎)
看板Fortran
標題[問題]real*8的有效位數
時間Wed Aug 17 14:54:21 2011
請問一下
我想測試雙精準數的有效位數是否如書上所說的15~16位
因此宣告了一個變數
real*8 a
a=1.234567890123456789
compile後執行
卻得到a=1.23456788063049(用ifort)
a=1.2345678806304932(用gfortran)
換過其他數字後有效位數也沒有比較多
請問問題出在那？
謝謝
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 140.109.105.83
1F：推 terryys:a=1.234567890123456789d0 08/17 15:47
2F：→ lavifoxbat:那之前的宣告沒有效果嗎？ 08/17 16:12
3F：推 hiyiyi:之前的設定值是被判斷成real*4的數字再轉成real*8 08/17 16:22
4F：推 YCTzeng:應該加上d0才是倍精確度。 08/17 17:47