关于浮点数的存储和计算
请教大家，项目用的mcu是rt1052,带的双精度浮点单元。项目采集的多个通道的数据，接收数据的是int32_t格式（分度值0.01℃），lcd显示的是带小数点的数据，期间也会做一些包括最大最小平均等的统计，也会做一些通道之间的四则运算，那我是用浮点数还是整数来存储好呢？浮点会不会有精度上的问题？感谢！直接单精度浮点存储即可，跟你的int32一样，都是占用4个字节。
你的精度是0.01℃，单精度浮点完全没问题。
eric2013 发表于 2023-3-16 13:10
直接单精度浮点存储即可，跟你的int32一样，都是占用4个字节。
你的精度是0.01℃，单精度浮点完全没问题 ...
好，因为我看float只有7位有效，那如果是4位小数，那整数是不是就只有3位，比如1000.0004这样子的精度是不是就有问题？ 没问题
页:
[1]