浮点数运算
程序员文章站
2022-03-30 17:11:02
...
浮点数运算:
凡是小数位出现1,如:0.1 0.01 0.001等,无论是参与运算的数还是运算后的结果,都会出现误差
例1:
double a = 2.43;
double b = 1.42;
System.out.println(a-b);//结果中小数位存在1
结果是:1.0100000000000002
例2
double a = 2.0;
double b = 1.1;//参与运算的数小数位出现1
结果是:0.8999999999999999
为什么会出现误差?
要从十进制转换成二进制说起,查一下就明白了!
上一篇: 浮点数的二进制表示
下一篇: js笔记(一)浮点数