解决Golang小数float64在实际工程中加减乘除的精度问题
程序员文章站
2022-06-24 08:14:00
go语言的float64类型在做加减乘除时会出现一些问题比如乘法运算,实例,将小数的元转换成整数的分:发现将小数的元乘以100后强制转换为整数分,少了1分解决办法://方法2:补充:golang fl...
go语言的float64类型在做加减乘除时会出现一些问题
比如乘法运算,实例,将小数的元转换成整数的分:
发现将小数的元乘以100后强制转换为整数分,少了1分
解决办法:
//方法2:
补充:golang float64,in64相互转换精度控制
如下所示:
以上为个人经验,希望能给大家一个参考,也希望大家多多支持。如有错误或未考虑完全的地方,望不吝赐教。