欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  后端开发

mysql的float类型很奇怪的,2个值不相等

程序员文章站 2022-06-08 19:50:19
...
表有很多数据,可有几条很奇怪,字段是float类型,2个值相同

Payment 值=299.7
feiyong 值=299.7

查询语句:feiyong>0 and Payment>0 and Payment
这时还是能查询出来,而且只是有几条有这问题,其他的都正常


回复讨论(解决方案)

浮点数为表示很大的数,丢失了部分精度
所以在比较时应用: 两个数的差的绝对值小于某个极小数时就视为相等 的策略
或者用 round 取得有效数后在比较
如果你的应用需要有精确的小数位数(比如金融)那么应该使用 DECIMAL 类型

这个还是蛮正常的 毕竟float数据没有办法保证数据的精度呢

浮点数为表示很大的数,丢失了部分精度
所以在比较时应用: 两个数的差的绝对值小于某个极小数时就视为相等 的策略
或者用 round 取得有效数后在比较
如果你的应用需要有精确的小数位数(比如金融)那么应该使用 DECIMAL 类型



那现在查询语句要怎么改才能正常查询,谢谢

建议修改类型为DECIMAL

select ..., abs(Payment-feiyong) as aform ......where feiyong>0 and Payment>0having a > 1e-5

select ..., (Payment-feiyong) as aform ......where feiyong>0 and Payment>0having a > 1e-5