欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

解决Golang小数float64在实际工程中加减乘除的精度问题

程序员文章站 2022-06-24 08:14:00
go语言的float64类型在做加减乘除时会出现一些问题比如乘法运算,实例,将小数的元转换成整数的分:发现将小数的元乘以100后强制转换为整数分,少了1分解决办法://方法2:补充:golang fl...

go语言的float64类型在做加减乘除时会出现一些问题

比如乘法运算,实例,将小数的元转换成整数的分:

解决Golang小数float64在实际工程中加减乘除的精度问题

发现将小数的元乘以100后强制转换为整数分,少了1分

解决办法:

解决Golang小数float64在实际工程中加减乘除的精度问题

//方法2:

解决Golang小数float64在实际工程中加减乘除的精度问题

补充:golang float64,in64相互转换精度控制

如下所示:

以上为个人经验,希望能给大家一个参考,也希望大家多多支持。如有错误或未考虑完全的地方,望不吝赐教。