作者Ballantine (I love Whisky)
看板Fortran
標題[問題] 處理極小數的相除
時間Wed Feb 8 00:55:27 2012
假設有一個函數關係為 A2 = C * A1
現在已經有A2與A1的數值結果，且兩者皆為一個類似sin函數的結果，
我知道A2與A1的結果極為相近，故理論上C會是一個接近1的常數，
但在數據計算上求 C = A2 / A1會遇到一個問題是...
若A2與A1很接近0時，會導致相除結果會有頗大的誤差，
例如 1.E-5 / 1.E-4
是否有適當的數據處理方式來避免？
--
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 112.104.37.136
1F：推 latinboy: 單純浮點數的乘除法不會丟失有效位數 用倍精確度會好點 02/09 01:22