stm32f767 的mdk工程关于浮点数莫名奇妙的问题。

roguebear · 发表于 2017-10-19 22:06:58

设置为double precision。

static double f1, f2, f3;
   f1 = 0.1f;
   f2 = 100.1f;
   f3 = f1 + f2; //按道理应该是100.2

f3  得不到正确的值。看watch窗口等于  0.099999999.。。。。这么简单的算式，居然都不行。。。试了好几个工程都这样。莫名其妙。。。

roguebear · 发表于 2017-10-19 22:14:50

实验了下用float是正确的用double就不行。。。莫名其妙。

之前实验exp() 老是得不到正确的结果。。。莫名其妙

eric2013 · 发表于 2017-10-20 02:12:30

回头，我搞F7和H7了，我溜溜看，现在只能等其他懂的网友给你看看了。

roguebear · 发表于 2017-10-20 10:18:16

你手上f4的溜一个exp的值对不？用软件仿真。。

liwangkm · 发表于 2017-10-20 13:16:16

我验证为：100.1999984756

roguebear · 发表于 2017-10-21 23:25:09

liwangkm:我验证为：100.1999984756 (2017-10-20 13:16) 

你是定义为float还是double。 float是对的，但是double不行。而且无论float还是double exp（）函数都是错的，因为exp（）的参数就是double，一旦强制转换成double就不行了

roguebear · 发表于 2017-10-23 11:58:41

找到原因了。。。。仿真不行，实操可以。。。看来是mdk的bug。

eric2013 · 发表于 2017-10-24 01:25:25

roguebear:找到原因了。。。。仿真不行，实操可以。。。看来是mdk的bug。 (2017-10-23 11:58) 

居然是这个原因，谢谢楼主告知[s:130]

yijinxiaoyou · 发表于 2017-11-29 15:16:33

我去原来还有这种事我也是用double仿真出问题

		自动登录	找回密码
密码			立即注册

stm32f767 的mdk工程关于浮点数莫名奇妙的问题。

回 liwangkm 的帖子

回 roguebear 的帖子

stm32f767 的mdk工程 关于浮点数莫名奇妙的问题。

回 liwangkm 的帖子

回 roguebear 的帖子

stm32f767 的mdk工程关于浮点数莫名奇妙的问题。