Javascript浮点数乘积运算出现多位小数的解决方法_javascript技巧
程序员文章站
2022-04-06 13:34:09
...
Javascript在进行浮点数的乘积运算，会出现多位小数的情况。
这是由于在运算的时候先把浮点数转化成二进制后进行运算，但是有的小数在二进制编码后出现无限循环，因而导致计算出现了误差，在其它变成语言中也有类似的问题。
原因解释参考自百度知道：
例如：求1038.1-1000
1038.1=10000001110.0001100110011001100110011001100110011001100.....
1000 =1111101000
1038.1转化为二进制是个无限循环小数，1100是循环节，只能取近似值，误差就是这里产生的 如果浏览器版本高，可以用toFixed() 方法可把 Number 四舍五入为指定小数位数的数字。
解决方案：根据要保留的小数位数（如4），在计算乘积的时候先乘以（10^4），然后对计算结果除以（10^4），最后对结果取近似值Math.round
var m1 = 2232.00,
percent = (10/100),
total = percent*m1;
alert(total);//223.20000000000002
total = Math.round(total*10)/10;
alert(total);//223.2
这是由于在运算的时候先把浮点数转化成二进制后进行运算，但是有的小数在二进制编码后出现无限循环，因而导致计算出现了误差，在其它变成语言中也有类似的问题。
原因解释参考自百度知道：
例如：求1038.1-1000
1038.1=10000001110.0001100110011001100110011001100110011001100.....
1000 =1111101000
1038.1转化为二进制是个无限循环小数，1100是循环节，只能取近似值，误差就是这里产生的 如果浏览器版本高，可以用toFixed() 方法可把 Number 四舍五入为指定小数位数的数字。
解决方案：根据要保留的小数位数（如4），在计算乘积的时候先乘以（10^4），然后对计算结果除以（10^4），最后对结果取近似值Math.round
复制代码 代码如下:
var m1 = 2232.00,
percent = (10/100),
total = percent*m1;
alert(total);//223.20000000000002
total = Math.round(total*10)/10;
alert(total);//223.2