关于float的数值比较
最近在看armfly的dsp文档,里面似乎没有讲到两个浮点数如何比较,arm的库里面似乎也没看到有类似的函数。1. 尾数是不存最高位的,因为一般是1。那如果要表示0怎么办?因为“第24位”尾数说不定就是1呀~~~
2. 例如同样是1,IEEE754标准的浮点都会有不同的表示(只要指数位是0即可),也就是实际内存的数值是不一样的。C语言在比较时会怎么处理呢?
3. 还有一种情况是精度问题,网上有些说用 if(_fabs( value ) < EPSILON) 来判断value 是否为0(EPSILON据说是float的最小步进值),我不太理解浮点数表达0为何会有精度问题?
欢迎大家拍砖!!
问题1和2
你用MDK写个0.0f看看单精度四字节的表达和0.0时双精度八字节的表达值
问题3
浮点数无法精准比较,因为本身的表达方式在保存二进制数值时就不是精确的。
eric2013 发表于 2018-11-18 10:26
问题1和2
你用MDK写个0.0f看看单精度四字节的表达和0.0时双精度八字节的表达值
float32 和 float64的0.0f 内存上面显示都是0... TAT
页:
[1]