作者tonyruler (TONY)
看板Fortran
标题[问题] overflow
时间Tue Nov 1 19:17:19 2011
最近要写程式计算一些光谱的boardening
需要做10^15 ~ 10^-15 之间的数值模拟
问题很明显~就是overflow的问题
要不然就是出来的data 显示 NaN
非常的卡关~
有办法处理这方面的问题吗~
ㄒ0ㄒ
感谢
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 140.115.30.225
1F：推 zmark:你是要进行大数运算吗?也许这个站能帮你: 11/02 00:07
3F：推 terryys:10^15 single precision就够了吧，我记得可以到10^3x 11/02 00:50
4F：推 target8917:double 才是 10^3x次方 11/06 00:00
5F：推 terryys:single precision~10^38 double precision~10^308 11/06 00:26