浅谈Java double 相乘的结果偏差小问题
程序员文章站
2024-03-08 16:03:04
看下面的一段代码的运行结果:
public class testdouble {
public static void main(string[] arg...
看下面的一段代码的运行结果:
public class testdouble { public static void main(string[] args) { double d =538.8; system.out.println(d*100); }
输出结果很意外的不是 53880 而是53879.99999999999
解决方法一:
538.8*100 用*10*10 替换,才能得到我们想要的结果
538.8*10000 用 100*100替换。
解决方法二:
public class testdouble { public static void main(string[] args) { double d =538.8; bigdecimal a1 = new bigdecimal(double.tostring(d)); bigdecimal b1 = new bigdecimal(double.tostring(100)); bigdecimal result = a1.multiply(b1);// 相乘结果 system.out.println(result); bigdecimal one = new bigdecimal("1"); double a = result.divide(one,2,bigdecimal.round_half_up).doublevalue();//保留1位数 system.out.println(a); } }
以上这篇浅谈java double 相乘的结果偏差小问题就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
下一篇: python 第一天基础