欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

JS精度丢失问题记录和解决方式

程序员文章站 2022-07-10 12:53:27
测试给我提了个bug,就是在统计总重量的时候,计算的值不对,我试了下 果然有。。。 查了下精度缺失的问题,原来对于小数,是会有这种情况,原因是计算存储的方式是二进制,这里用fixed修正一下就可以...

测试给我提了个bug,就是在统计总重量的时候,计算的值不对,我试了下

JS精度丢失问题记录和解决方式

果然有。。。

查了下精度缺失的问题,原来对于小数,是会有这种情况,原因是计算存储的方式是二进制,这里用fixed修正一下就可以了

另外普及了下js的最大精度是2的53次方,16位,下面这个文章写的比较好,记录下