作者tonyruler (TONY)
看板Fortran
標題[問題] overflow
時間Tue Nov 1 19:17:19 2011
最近要寫程式計算一些光譜的boardening
需要做10^15 ~ 10^-15 之間的數值模擬
問題很明顯~就是overflow的問題
要不然就是出來的data 顯示 NaN
非常的卡關~
有辦法處理這方面的問題嗎~
ㄒ0ㄒ
感謝
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 140.115.30.225
1F：推 zmark:你是要進行大數運算嗎?也許這個站能幫你: 11/02 00:07
3F：推 terryys:10^15 single precision就夠了吧，我記得可以到10^3x 11/02 00:50
4F：推 target8917:double 才是 10^3x次方 11/06 00:00
5F：推 terryys:single precision~10^38 double precision~10^308 11/06 00:26