作者lovejomi (JOMI)
看板C_and_CPP
标题[问题] float 精准度观念问题
时间Tue Sep 18 18:29:12 2018
我理解为什麽float会有误差值
但是今天朋友讨论一件事情
if (float_var == 1.0f) 这样写到底有什麽错(我认知是 这样写 变数的值要完全跟1.0
四个byte的memcmp要一样)
1. 在误差范围内 (
https://en.cppreference.com/w/cpp/types/numeric_limits/epsilo
n)
如果是趋近於1的数字 我这样判断会失败 导致逻辑错误? 所以因为这样条件太严苛
对於经过运算後的float数值 很可能有一点点误差产生就不成立了?
2. 如果是要完全的相等 , 我能把一个float 一个byte一个byte判断是否相等来判断是不
是等值吗?
例如
typedef union
{
float value;
unsigned char bytes[4];
} IEEE754;
IEEE754 one;
one.value = 1.0f;
IEEE754 target;
target.value = input;
然後memcmp 两者的bytes
还是 float 的== 实作上就是byte compare?
3. 浮点数运算出现误差,可以理解成 当除不尽 或是 除完小数点超过二进位小数 23位
无法表示
就会产生误差?
4. 因为看不懂std::numeric_limits<T>::epsilon 的那个almost_equal在干嘛 所以找了
一下
https://stackoverflow.com/a/17341/588477
这篇的方法好像是有道理但是请看以下测试
https://ideone.com/MH6jJW
我看VC直接写
#define FLT_EPSILON 1.192092896e-07F // smallest such that 1.0+FLT
_EPSILON != 1.0
GCC我用gcc -E -dM 去dump (我不知道为什麽找不到定义???怎麽解释
https://tinyurl.
com/y8heekq8 )
#define __FLT_EPSILON__ 1.19209289550781250000e-7F
奇怪为什麽会是这样
a. stackoverflow的作法错了?
b. 为什麽会把差值当成相等?
c. 到底这个epsilon 最应该用在哪里呢?
d. 是不是把almost_equal当成一个正解 才是正确的浮点数比较相等呢?
我用以下tool 把 epsilon 看他hex form 反推一下
他是2^-23 = 0.00000011920928955078125f乍看之下跟gcc定义一致
https://www.h-schmidt.net/FloatConverter/IEEE754.html
观念上有些错误
请大家修正一下
谢谢
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 27.247.37.201
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/C_and_CPP/M.1537266560.A.860.html
※ 编辑: lovejomi (27.247.37.201), 09/18/2018 18:36:56
※ 编辑: lovejomi (27.247.37.201), 09/18/2018 18:44:25
1F:→ Sanvean: 可以说一下你对 ieee754 的了解吗?因为如果对 ieee75409/18 19:21
2F:→ Sanvean: 不是很熟的话,那对大多数 float 实作的讨论好像会没完没09/18 19:24
3F:→ Sanvean: 了。09/18 19:24
4F:→ lovejomi: 理解ieee754表示法的含义 但我对 float的+-*\没有什麽09/18 19:49
5F:→ lovejomi: 概念09/18 19:49
6F:→ lovejomi: 实际在作*\法的时候到底怎麽运做的没有概念09/18 19:50
※ 编辑: lovejomi (110.28.193.230), 09/18/2018 20:14:20
※ 编辑: lovejomi (110.28.193.230), 09/18/2018 20:59:20
※ 编辑: lovejomi (110.28.193.230), 09/18/2018 21:02:52
8F:→ Sanvean: 计算过程有很大的可能不断累积误差 09/18 21:06
9F:推 eye5002003: 如果一个float x非常接近1的话,那麽x-1应该要等於0的 09/18 21:08
10F:推 eye5002003: 等一下我完全讲错了 09/18 21:19
11F:推 eye5002003: 我不懂为何会觉得var==1.0很严苛,你应该尽量减少误差 09/18 21:26
12F:→ eye5002003: 例如避免一个很大的数字跟很小的数字相加,小数字会直 09/18 21:27
13F:→ eye5002003: 接蒸发,真的很怕误差就用GMP吧 09/18 21:28
14F:推 eye5002003: 还有别拿两个非常接近的数字相减可以避免出现小数字 09/18 21:39
15F:推 Sanvean: 对一个有值的浮点数而言,其 accuracy 为 exp x epsilon 09/18 22:01
16F:推 Sanvean: ^ieee754 09/18 22:41