关于浮点数的存储和计算

薪火相传 · 发表于 2023-3-16 11:59:51

请教大家，项目用的mcu是rt1052,带的双精度浮点单元。项目采集的多个通道的数据，接收数据的是int32_t格式（分度值0.01℃），lcd显示的是带小数点的数据，期间也会做一些包括最大最小平均等的统计，也会做一些通道之间的四则运算，那我是用浮点数还是整数来存储好呢？浮点会不会有精度上的问题？感谢！

eric2013 · 发表于 2023-3-16 13:10:05

直接单精度浮点存储即可，跟你的int32一样，都是占用4个字节。

你的精度是0.01℃，单精度浮点完全没问题。

薪火相传 · 发表于 2023-3-16 13:42:56

eric2013 发表于 2023-3-16 13:10
直接单精度浮点存储即可，跟你的int32一样，都是占用4个字节。

你的精度是0.01℃，单精度浮点完全没问题 ...

好，因为我看float只有7位有效，那如果是4位小数，那整数是不是就只有3位，比如1000.0004这样子的精度是不是就有问题？

eric2013 · 发表于 2023-3-17 12:18:18

没问题

		自动登录	找回密码
密码			立即注册

[DSP] 关于浮点数的存储和计算