yip_1991 发表于 2018-11-18 09:34:40

关于float的数值比较

最近在看armfly的dsp文档,里面似乎没有讲到两个浮点数如何比较,arm的库里面似乎也没看到有类似的函数。

1. 尾数是不存最高位的,因为一般是1。那如果要表示0怎么办?因为“第24位”尾数说不定就是1呀~~~
2. 例如同样是1,IEEE754标准的浮点都会有不同的表示(只要指数位是0即可),也就是实际内存的数值是不一样的。C语言在比较时会怎么处理呢?
3. 还有一种情况是精度问题,网上有些说用 if(_fabs( value ) < EPSILON) 来判断value 是否为0(EPSILON据说是float的最小步进值),我不太理解浮点数表达0为何会有精度问题?

欢迎大家拍砖!!

eric2013 发表于 2018-11-18 10:26:37

问题1和2
你用MDK写个0.0f看看单精度四字节的表达和0.0时双精度八字节的表达值

问题3
浮点数无法精准比较,因为本身的表达方式在保存二进制数值时就不是精确的。

yip_1991 发表于 2018-11-18 17:48:37

eric2013 发表于 2018-11-18 10:26
问题1和2
你用MDK写个0.0f看看单精度四字节的表达和0.0时双精度八字节的表达值



float32 和 float64的0.0f 内存上面显示都是0... TAT
页: [1]
查看完整版本: 关于float的数值比较