关于Mysql计算出的数值和计算器算出的不一样如何解决!
程序员文章站
2022-06-10 19:26:23
...
关于Mysql计算出的数值和计算器算出的不一样怎么解决!!!
如上图这个sql 。cjPrice是600 cjNum是5.97 这种情况下
上面的sql算出的是3581.9998741149902 而计算器算出的是3582
而我用phpmyadmin执行如下sql 得到的也是3582 到底什么问题啊
select sum(600*5.97) 这也是3582
请问到底怎么解决啊~~~
------解决思路----------------------
如果你的 cjNum 不是 DECIMAL 类型的,那么应用 round 取结果
------解决思路----------------------
字段类型用的是 float 吧
单精度不准确
对精度要求高的话,建议换成double、decimal、numeric
double双精度,效率上差一点,但准确性高
decimal和numeric几乎等价,必须指定具体精度
------解决思路----------------------
你的查询结果是跟你那相乘的两个字段类型有关的
------解决思路----------------------
cjPrice整型 cjNum Float型
在phpmysql 下执行,是与mysql计算一样的,有小数位的。
估计和版本有关系吧,
可以试试 select round(SUM(cjPrice*cjNum), 2) from ..
保留两位小数
如上图这个sql 。cjPrice是600 cjNum是5.97 这种情况下
上面的sql算出的是3581.9998741149902 而计算器算出的是3582
而我用phpmyadmin执行如下sql 得到的也是3582 到底什么问题啊
select sum(600*5.97) 这也是3582
请问到底怎么解决啊~~~
------解决思路----------------------
如果你的 cjNum 不是 DECIMAL 类型的,那么应用 round 取结果
------解决思路----------------------
字段类型用的是 float 吧
单精度不准确
对精度要求高的话,建议换成double、decimal、numeric
double双精度,效率上差一点,但准确性高
decimal和numeric几乎等价,必须指定具体精度
------解决思路----------------------
你的查询结果是跟你那相乘的两个字段类型有关的
------解决思路----------------------
cjPrice整型 cjNum Float型
在phpmysql 下执行,是与mysql计算一样的,有小数位的。
估计和版本有关系吧,
可以试试 select round(SUM(cjPrice*cjNum), 2) from ..
保留两位小数
相关文章
相关视频
上一篇: vue-cli有哪些方式缩短首屏加载时间