欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

计算机精度问题(Double)

程序员文章站 2022-07-05 09:09:47
...

计算机精度问题(Double)

 

1.1.我们用计算器10-9.88应该等于0.12,但是如果在计算机里,两个Double相减为0.11999999999999922

System.out.println(10-9.88);//输出0.11999999999999922

1.2.如何解决Double相减精度问题,想法是:先乘1000 取整,然后再除1000取整(100也可以,看你的精度范围)

System.out.println((10*1000-(int)(9.88*1000))/1000d); //输出0.12,正确

 

2.1我们用计算器20*0.988应该等于19.76,但是如果在计算机里,两个Double相减为19.759999999999998

System.out.println(20*0.988); //输出:19.759999999999998

2.2.如何解决

System.out.println((20*(int)(0.988*1000))/1000d);//输出19.76,计算正确

 

###.精度问题,一般体现的除法、减法上,乘、加一般没问题

 

 

###我的应用(详细见:DoubleConvert.zip)

System.out.println(5-4.8);//double精度问题
System.out.println((5*1000-(4.8234*1000))/1000d);//不加int,不理想
System.out.println((5*1000-(int)(4.8234*1000))/1000d);//double精度解决办法
 

 

 

 

 

相关标签: Double精度问题