作者Ballantine (I love Whisky)
看板Fortran
标题[问题] 处理极小数的相除
时间Wed Feb 8 00:55:27 2012
假设有一个函数关系为 A2 = C * A1
现在已经有A2与A1的数值结果，且两者皆为一个类似sin函数的结果，
我知道A2与A1的结果极为相近，故理论上C会是一个接近1的常数，
但在数据计算上求 C = A2 / A1会遇到一个问题是...
若A2与A1很接近0时，会导致相除结果会有颇大的误差，
例如 1.E-5 / 1.E-4
是否有适当的数据处理方式来避免？
--
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 112.104.37.136
1F：推 latinboy: 单纯浮点数的乘除法不会丢失有效位数 用倍精确度会好点 02/09 01:22