180615-精度计算BigDecimal
程序员文章站
2022-03-23 14:05:46
文章链接: "https://liuyueyi.github.io/hexblog/2018/06/15/180615 精度计算BigDecimal/" 180615 精度计算BigDecimal 目前接触的业务中,对数据的精度要求比较高,因此不再使用基本的float,double,改为用BigDe ......
文章链接:
180615-精度计算BigDecimal
目前接触的业务中,对数据的精度要求比较高,因此不再使用基本的float,double,改为用BigDecimal进行存储和相关的计算,端午前的这一篇博文,则简单的介绍下BigDecimal的使用姿势,早点回家早点放假
I. 基本使用
1. 构造方法
几个常见的构造方式,将基本类型+String等,转换为BigDecimal对象
public BigDecimal(char[] in); public BigDecimal(String val); public BigDecimal(BigInteger val); public BigDecimal(int val); public BigDecimal(long val); public BigDecimal(double val)
2. 加减乘除
public BigDecimal add(BigDecimal value); //加法 public BigDecimal subtract(BigDecimal value); //减法 public BigDecimal multiply(BigDecimal value); //乘法 public BigDecimal divide(BigDecimal value); //除法
从上面的签名上,可以看出操作是属于链式结构(Builder模式),然后一个问题就是执行上面的操作之后,被调用的对象,是否会发生修改? (即下面的测试中的o值是否改变)
@Test public void testBigDecimal() { BigDecimal o = new BigDecimal(11.1); BigDecimal d = new BigDecimal(1); System.out.println(o.add(d) + "| " + o); }
输出结果
12.0999999999999996447286321199499070644378662109375| 11.0999999999999996447286321199499070644378662109375
结论: 计算后的结果需要保存,因为不会修改目标对象的值
3. 精度
前面的例子中,输出后面一长串,而这往往并不是我们希望的,所以可以设置下精度
public BigDecimal setScale(int newScale, RoundingMode roundingMode);
一个简单的case如下
@Test public void testBigDecimal() { BigDecimal o = new BigDecimal(11.1); System.out.println(o.setScale(3, RoundingMode.CEILING) + "| " + o); }
输出
11.100| 11.0999999999999996447286321199499070644378662109375
从上面的输出,特别是第二列,如果我们选择的精度方式是取下限,会不会有问题呢?
@Test public void testBigDecimal() { BigDecimal o = new BigDecimal(11.1); System.out.println(o.setScale(1, RoundingMode.FLOOR) + "| " + o); }
输出结果为:
11.0| 11.0999999999999996447286321199499070644378662109375
所以需要注意的地方就来了,对浮点数进行精度设置时,需要根据自己的业务场景,选择合适的取整方式,不然很容易出问题
取精度的几个参数说明
ROUND_CEILING //向正无穷方向舍入 ROUND_DOWN //向零方向舍入 ROUND_FLOOR //向负无穷方向舍入 ROUND_HALF_DOWN //向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,向下舍入, 例如1.55 保留一位小数结果为1.5 ROUND_HALF_EVEN //向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,如果保留位数是奇数,使用ROUND_HALF_UP,如果是偶数,使用ROUND_HALF_DOWN ROUND_HALF_UP //向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,向上舍入, 1.55保留一位小数结果为1.6 ROUND_UNNECESSARY //计算结果是精确的,不需要舍入模式 ROUND_UP //向远离0的方向舍入
II. 其他
1. :
一灰灰的个人博客,记录所有学习和工作中的博文,欢迎大家前去逛逛
2. 声明
尽信书则不如,已上内容,纯属一家之言,因个人能力有限,难免有疏漏和错误之处,如发现bug或者有更好的建议,欢迎批评指正,不吝感激
- 微博地址:
- QQ: 一灰灰/3302797840
3. 扫描关注
上一篇: 教你如何拍出漂亮的海景 海景拍摄的小技巧
下一篇: Android开发中常用的一些小技巧