计算机精度问题(Double)
程序员文章站
2022-07-05 09:09:47
...
计算机精度问题(Double)
1.1.我们用计算器10-9.88应该等于0.12,但是如果在计算机里,两个Double相减为0.11999999999999922
System.out.println(10-9.88);//输出0.11999999999999922
1.2.如何解决Double相减精度问题,想法是:先乘1000 取整,然后再除1000取整(100也可以,看你的精度范围)
System.out.println((10*1000-(int)(9.88*1000))/1000d); //输出0.12,正确
2.1我们用计算器20*0.988应该等于19.76,但是如果在计算机里,两个Double相减为19.759999999999998
System.out.println(20*0.988); //输出:19.759999999999998
2.2.如何解决
System.out.println((20*(int)(0.988*1000))/1000d);//输出19.76,计算正确
###.精度问题,一般体现的除法、减法上,乘、加一般没问题
###我的应用(详细见:DoubleConvert.zip)
System.out.println(5-4.8);//double精度问题 System.out.println((5*1000-(4.8234*1000))/1000d);//不加int,不理想 System.out.println((5*1000-(int)(4.8234*1000))/1000d);//double精度解决办法
上一篇: java泛型_实用