javascript中的float运算精度实例分析_javascript技巧
程序员文章站
2022-04-11 19:25:50
...
有人问到一个js问题:
var i = 0.07;
var r = i*100;
alert(r);
结果为什么是7.0000000000000001?
查了下资料,其实我们知道JavsScript中,变量在存储时并不区分number和float类型,而是统一按float存储。而javascript使用IEEE 754-2008 标准定义的64bit浮点格式存储number,按照IEEE 754的定义: http://en.wikipedia.org/wiki/IEEE_754-2008
decimal64对应的整形部分长度为10,小数部分长度为16,所以默认的计算结果为“7.0000000000000001”,如最后一个小数为0,则取1作为有效数字标志。
类似地,我们可以想像,1/3的结果应该是0.3333333333333333。
那么如何校正这个值呢?
可以用以下方法:
一、parseInt
var r4=parseInt(i*100);
二、Math.round
var r2=Math.round((i*100)*1000)/1000;
以上两种方法都可以得到7
附全部测试代码:
测试脚本
复制代码 代码如下:
var i = 0.07;
var r = i*100;
alert(r);
结果为什么是7.0000000000000001?
查了下资料,其实我们知道JavsScript中,变量在存储时并不区分number和float类型,而是统一按float存储。而javascript使用IEEE 754-2008 标准定义的64bit浮点格式存储number,按照IEEE 754的定义: http://en.wikipedia.org/wiki/IEEE_754-2008
decimal64对应的整形部分长度为10,小数部分长度为16,所以默认的计算结果为“7.0000000000000001”,如最后一个小数为0,则取1作为有效数字标志。
类似地,我们可以想像,1/3的结果应该是0.3333333333333333。
那么如何校正这个值呢?
可以用以下方法:
一、parseInt
var r4=parseInt(i*100);
二、Math.round
var r2=Math.round((i*100)*1000)/1000;
以上两种方法都可以得到7
附全部测试代码:
复制代码 代码如下:
上一篇: javascript中的parseInt和parseFloat区别_javascript技巧
下一篇: javaScript矢量图表库-gRaphael几行代码实现精美的条形图/饼图/点图/曲线图_javascript技巧
推荐阅读
-
javascript中bind函数的作用实例介绍_javascript技巧
-
javascript 中的 delete及delete运算符_javascript技巧
-
实例讲解JavaScript中instanceof运算符的用法
-
JavaScript中toLocaleString()和toString()的区别实例分析
-
JavaScript中的模拟事件和自定义事件实例分析
-
JavaScript中filter的用法实例分析
-
ES6 javascript中class类的get与set用法实例分析
-
JavaScript中展开运算符及应用的实例代码
-
实例分析javascript中的异步
-
JavaScript中call和apply方法的区别实例分析