【Java基础】16、小数的浮点型和定点型
程序员文章站
2022-05-13 22:53:27
一、简介 1、对于不需要任何准确计算精度的数字可以直接使用浮点型,但是如果需要精确计算的结果,则必须使用定点型(BigDecimal类) 浮点型:float,double 定点型:BigDecimal 2、BigDecimal是Java中用来表示任意精确浮点数运算的类,在BigDecimal中,使用 ......
一、简介
1、对于不需要任何准确计算精度的数字可以直接使用浮点型,但是如果需要精确计算的结果,则必须使用定点型(bigdecimal类)
浮点型:float,double
定点型:bigdecimal
2、bigdecimal是java中用来表示任意精确浮点数运算的类,在bigdecimal中,使用unscaledvalue × 10-scale来表示一个浮点数。其中,unscaledvalue是一个biginteger,scale是一个int。
二、常见问题
1、bigdecimal的精度问题
system.out.println(new bigdecimal(0.1).tostring()); // 0.1000000000000000055511151231257827021181583404541015625 system.out.println(new bigdecimal("0.1").tostring()); // 0.1 system.out.println(new bigdecimal( double.tostring(0.1000000000000000055511151231257827021181583404541015625)).tostring());// 0.1 system.out.println(new bigdecimal(double.tostring(0.1)).tostring()); // 0.1
分析一下上面代码的问题(注释的内容表示此语句的输出)
第一行:事实上,由于二进制无法精确地表示十进制小数0.1,但是编译器读到字符串"0.1"之后,必须把它转成8个字节的double值,因此,编译器只能用一个最接近的值来代替0.1了,即0.1000000000000000055511151231257827021181583404541015625。因此,在运行时,传给bigdecimal构造函数的真正的数值是0.1000000000000000055511151231257827021181583404541015625。
第二行:bigdecimal能够正确地把字符串转化成真正精确的浮点数。
第三行:问题在于double.tostring会使用一定的精度来四舍五入double,然后再输出。会。double.tostring(0.1000000000000000055511151231257827021181583404541015625)输出的事实上是"0.1",因此生成的bigdecimal表示的数也是0.1。
第四行:基于前面的分析,事实上这一行代码等价于第三行
结论:
1.如果你希望bigdecimal能够精确地表示你希望的数值,那么一定要使用字符串来表示小数,并传递给bigdecimal的构造函数。
2.如果你使用double.tostring来把double转化字符串,然后调用bigdecimal(string),这个也是不靠谱的,它不一定按你的想法工作。
3.如果你不是很在乎是否完全精确地表示,并且使用了bigdecimal(double),那么要注意double本身的特例,double的规范本身定义了几个特殊的double值(infinite,-infinite,nan),不要把这些值传给bigdecimal,否则会抛出异常。
2、把double强制转化成int,难道不是扔掉小数部分吗?
int x=(int)1023.99999999999999; // x=1024为什么?
原因还是在于二进制无法精确地表示某些十进制小数,因此1023.99999999999999在编译之后的double值变成了1024。
所以,把double强制转化成int确实是扔掉小数部分,但是你写在代码中的值,并不一定是编译器生成的真正的double值。
验证代码:
double d = 1023.99999999999999; int x = (int) d; system.out.println(new bigdecimal(d).tostring()); // 1024 system.out.println(long.tohexstring(double.doubletorawlongbits(d))); // 4090000000000000 system.out.println(x); // 1024
前面提过bigdecimal可以精确地把double表示出来还记得吧。
我们也可以直接打印出d的二进制形式,根据ieee 754的规定,我们可以算出0x4090000000000000=(1024)。
上一篇: protected(C# 参考)
下一篇: 20个你可能不知道的Google真相