BigDecimal 精度问题
程序员文章站
2022-07-15 12:28:26
...
BigDecimal 精度问题
在使用BigDecimal过程中,暂时遇到两个问题,都是精度问题,一个是精度丢失,一个是精度显示问题。
精度丢失
BigDecimal创建对象有很多种方式:
通过double类型去声明bigdecimal对象时,就发生精度不准的问题
这个就不建议使用了,可以换种方式去解决这个问题,用string构造器构建对象:
设置好对象的精度大小也可以解决这个问题:
精度过长显示科学计数法
这种显示科学计数法的问题,主要产生原因有两个:
1、小数点位数大于6;
2、只有最后一个小数非0,其他位都位0;
这种情况不会影响计算,只会影响显示,打印日志等要用到toString方法的情况。
罪魁祸首是 Bigdecimal的ToString方法:
@Override
public String toString() {
String sc = stringCache;
if (sc == null)
stringCache = sc = layoutChars(true);
return sc;
}
只要声明BigDecimal之后就有了stringCache这个属性,debug从头跟到尾没有看到stringCache在哪里设置过。toString方法中恰恰使用了这个属性,所以导致toString显示的是科学计数法。
解决方案:
toPlainString方法就会显示完整的数值。
public String toPlainString() {
if(scale==0) {
if(intCompact!=INFLATED) {
return Long.toString(intCompact);
} else {
return intVal.toString();
}
}
if(this.scale<0) { // No decimal point
if(signum()==0) {
return "0";
}
int tailingZeros = checkScaleNonZero((-(long)scale));
StringBuilder buf;
if(intCompact!=INFLATED) {
buf = new StringBuilder(20+tailingZeros);
buf.append(intCompact);
} else {
String str = intVal.toString();
buf = new StringBuilder(str.length()+tailingZeros);
buf.append(str);
}
for (int i = 0; i < tailingZeros; i++)
buf.append('0');
return buf.toString();
}
String str ;
if(intCompact!=INFLATED) {
str = Long.toString(Math.abs(intCompact));
} else {
str = intVal.abs().toString();
}
return getValueString(signum(), str, scale);
}
推荐阅读
-
mysql4.0升级到mysql5(4.1),解决字符集问题
-
ListView的View回收引起的checkbox状态改变监听等问题解决方案
-
连接wifi提示“身份验证出现问题”解决方法
-
Android Studio卡很久(loading)的问题解决办法
-
HTML5实现简单图片上传所遇到的问题及解决办法
-
完美解决Jpush[获取sdk版本失败!]的问题
-
关于HTML5 Placeholder新标签低版本浏览器下不兼容的问题分析及解决办法
-
Android在layout xml中使用ViewStub完成动态加载问题
-
android图像绘制(二)画布上放大缩小问题
-
Android中父View和子view的点击事件处理问题探讨