欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

浮点数运算

程序员文章站 2022-03-30 17:11:02
...

   浮点数运算:

凡是小数位出现1,如:0.1 0.01 0.001等,无论是参与运算的数还是运算后的结果,都会出现误差

例1:
double a = 2.43;
double b = 1.42;
System.out.println(a-b);//结果中小数位存在1
结果是:1.0100000000000002

例2
double a = 2.0;
double b = 1.1;//参与运算的数小数位出现1
结果是:0.8999999999999999

为什么会出现误差?
要从十进制转换成二进制说起,查一下就明白了!

 

 

 

相关标签: 浮点数运算