keil中浮点型计算问题

502398542

        float  a=6000000;
        a=a-0.2;
        a=a/10;

实际运行的结果总是不对，尝试了float换double，先扩大10倍再做减法等方法，都没能得到理想值，网上也没有找到适合的解决办法，特来求助

eric2013

502398542

我的是这样的

502398542

呃，现在换成double好像可以了，应该是float精度不够导致的

dghwjh

硬汉兄，这个 float  a=6000000 在MDK中  一个浮点变量与一个带小数的浮点常数   是否需要在  常数后加 f     如：1.23f   很疑惑 是不是不同的开发环境，不同的编译器  这个小f 不同

eric2013

dghwjh 发表于 2021-9-7 16:51
硬汉兄，这个 float  a=6000000 在MDK中  一个浮点变量与一个带小数的浮点常数   是否需要在  常数后加 f   ...

对于不支持硬件浮点和支持硬件单精度浮点的芯片，我使用IDE定义的float型都会加上f，保证全称是单精度计算。

不加的时候，很容易出现双精度运算，导致执行时间较长。

dghwjh

  浮点运算 MDK 这个设置有关吗？ 如果我默认设置成双精度    两个变量为float做运算为 单精度     如果一个float 乘以一个不带f的浮点数   是不是结果 肯定是双精度

eric2013

dghwjh 发表于 2021-9-8 17:18
浮点运算 MDK 这个设置有关吗？ 如果我默认设置成双精度    两个变量为float做运算为 单精度     如果一 ...

对，理论上是的，以H7的硬件双精度为例，也会有这种问题。单精度计算还是要比双精度快些。