sum double 0类型字段会出现小数点后面精度问题

【 TiDB 使用环境】生产环境
【 TiDB 版本】v6.5.1
【复现路径】sum时候出现
【遇到的问题:问题现象及影响】
【资源配置】进入到 TiDB Dashboard -集群信息 (Cluster Info) -主机(Hosts) 截图此页面
【附件:截图/日志/监控】
image

sum double 类型的时候

是的,当使用 SUM 聚合函数对 DOUBLE 类型的字段进行求和时,可能会出现小数点后面精度问题。这是由于 DOUBLE 类型的数据在计算机中以二进制形式存储,而二进制无法精确表示某些十进制小数,因此在进行计算时可能会出现精度误差。

为了避免这种问题,可以使用 DECIMAL 类型来存储小数值。DECIMAL 类型可以精确表示十进制小数,并且在进行计算时不会出现精度误差。如果您需要对小数值进行精确计算,建议使用 DECIMAL 类型而不是 DOUBLE 类型。

此话题已在最后回复的 60 天后被自动关闭。不再允许新回复。