浅谈Java double 相乘的结果偏差小问题
程序员文章站
2022-04-16 15:15:53
...
看下面的一段代码的运行结果:
public class TestDouble { public static void main(String[] args) { double d =538.8; System.out.println(d*100); }
输出结果很意外的不是 53880 而是53879.99999999999
解决方法一:
538.8*100 用*10*10 替换,才能得到我们想要的结果
538.8*10000 用 100*100替换。
解决方法二:
public class TestDouble { public static void main(String[] args) { double d =538.8; BigDecimal a1 = new BigDecimal(Double.toString(d)); BigDecimal b1 = new BigDecimal(Double.toString(100)); BigDecimal result = a1.multiply(b1);// 相乘结果 System.out.println(result); BigDecimal one = new BigDecimal("1"); double a = result.divide(one,2,BigDecimal.ROUND_HALF_UP).doubleValue();//保留1位数 System.out.println(a); } }
以上这篇浅谈Java double 相乘的结果偏差小问题就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持PHP中文网。
更多浅谈Java double 相乘的结果偏差小问题相关文章请关注PHP中文网!
上一篇: mysql存储过程中的事务管理
下一篇: mysql编码、数据表编码查看跟修改总结