欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

关于浮点数的那些事

程序员文章站 2022-04-25 16:08:03
...

关于浮点数的那些事

在进行浮点数运算或判断时,经常会出现很多“奇异”的结果,其实都是浮点数运算及表示规则造的怪

0.1 + 0.2 = 0.30000000000000004
8.88 * 100 = 888.0000000000001
1050.6 * 100 = 105059.99999999999

基本原因

  1. 浮点数的运算是基于 IEEE 754 标准的;
  2. 二进制基准;
  3. 对循环小数通过相对误差进行近似表示;

相关参考

Stack Overflow

Floating Point Math

What Every Computer Scientist Should Know About Floating-Point Arithmetic

THE FLOATING-POINT GUIDE

Wikipedia

阮一峰

总结

  1. 尽量少或不用浮点数进行等于判断
  2. 进行浮点数运算时,取整需使用parseIntMath.round等函数进行
相关标签: javascript float