double精度丢失问题
程序员文章站
2022-07-15 13:18:56
...
1,调试计算器app时出现0.1+0.2=0.30000000000004
2,在网上找了一些解决方法,原来是精度丢失问题
3,可以引入import java.math.BigDecimal;
使用BigDecimal来解决
if(!s1.equals("") && !s3.equals(""))
{ //包含小数点的运算
if(s2.equals("+")){
r = BigDecimal.valueOf(d1).add(BigDecimal.valueOf(d2)).doubleValue();
}
editText2.setText(r +"");
4,关于BigDecimal的四个计算:
add() // 加法
subtract() // 减法
multiply // 乘法
divide() // 除法
abs() / /绝对值
5,其中除法,需要设置舍入的样式,不然遇到无限循环小数程序会崩溃。舍入格式有八种,其主要的形式为:
r = BigDecimal.valueOf(d1).divide(BigDecimal.valueOf(d2),3 精确小数位,BigDecimal.ROUND_UP 舍入模式).doubleValue();
ROUND_UP 舍入远离零的舍入模式。
ROUND_DOWN 接近零的舍入模式。
ROUND_CEILING 接近正无穷大的舍入模式。
ROUND_FLOOR 接近负无穷大的舍入模式。
ROUND_HALF_UP 向“最接近的”数字舍入,如果与两个相邻数字的距离相等,则为向上舍入的舍入模式。
ROUND_HALF_DOWN 向“最接近的”数字舍入,如果与两个相邻数字的距离相等,则为上舍入的舍入模式。
ROUND_HALF_EVEN 向“最接近的”数字舍入,如果与两个相邻数字的距离相等,则向相邻的偶数舍入。
ROUND_UNNECESSARY 断言请求的操作具有精确的结果,因此不需要舍入。
上一篇: 实现满足WSGI协议的Web服务