JS精度丢失问题记录和解决方式
程序员文章站
2022-07-10 12:53:27
测试给我提了个bug，就是在统计总重量的时候，计算的值不对，我试了下
果然有。。。
查了下精度缺失的问题，原来对于小数，是会有这种情况，原因是计算存储的方式是二进制，这里用fixed修正一下就可以...
测试给我提了个bug，就是在统计总重量的时候，计算的值不对，我试了下
果然有。。。
查了下精度缺失的问题，原来对于小数，是会有这种情况，原因是计算存储的方式是二进制，这里用fixed修正一下就可以了
另外普及了下js的最大精度是2的53次方，16位，下面这个文章写的比较好，记录下
上一篇： 20-Spring JMX