关于浮点数的那些事
程序员文章站
2022-04-25 16:08:03
...
关于浮点数的那些事
在进行浮点数运算或判断时,经常会出现很多“奇异”的结果,其实都是浮点数运算及表示规则造的怪
0.1 + 0.2 = 0.30000000000000004
8.88 * 100 = 888.0000000000001
1050.6 * 100 = 105059.99999999999
基本原因
- 浮点数的运算是基于 IEEE 754 标准的;
- 二进制基准;
- 对循环小数通过相对误差进行近似表示;
相关参考
What Every Computer Scientist Should Know About Floating-Point Arithmetic
总结
- 尽量少或不用浮点数进行等于判断
- 进行浮点数运算时,取整需使用
parseInt
,Math.round
等函数进行
上一篇: Android之AsynTask
下一篇: 绿色小贴士 全面解读环保标准之ROHS