golang 比较浮点数的大小方式
程序员文章站
2022-06-28 14:57:40
golang浮点数比较和运算会出现误差。浮点数储存至内存中时,2的-1、-2……-n次方不能精确的表示小数部分,所以再把这个数从地址中取出来进行计算就出现了偏差。package mainimport...
golang浮点数比较和运算会出现误差。
浮点数储存至内存中时,2的-1、-2……-n次方不能精确的表示小数部分,所以再把这个数从地址中取出来进行计算就出现了偏差。
package main import ( "errors" "fmt" "github.com/shopspring/decimal" ) func floatcompare(f1, f2 interface{}) (n int, err error) { var f1dec, f2dec decimal.decimal switch f1.(type) { case float64: f1dec = decimal.newfromfloat(f1.(float64)) switch f2.(type) { case float64: f2dec = decimal.newfromfloat(f2.(float64)) case string: f2dec, err = decimal.newfromstring(f2.(string)) if err != nil { return 2, err } default: return 2, errors.new("floatcompare() expecting to receive float64 or string") } case string: f1dec, err = decimal.newfromstring(f1.(string)) if err != nil { return 2, err } switch f2.(type) { case float64: f2dec = decimal.newfromfloat(f2.(float64)) case string: f2dec, err = decimal.newfromstring(f2.(string)) if err != nil { return 2, err } default: return 2, errors.new("floatcompare() expecting to receive float64 or string") } default: return 2, errors.new("floatcompare() expecting to receive float64 or string") } return f1dec.cmp(f2dec), nil } func main() { a:=4.0 b:="4" fmt.println(floatcompare(a,b)) }
补充:golang 判断2个浮点型数字是否相同
判断2个浮点型数字是否相同的方法(假定整数部分+小数点后3位相同,则视为相同)
首先将2个浮点型数字转换为string数据
将float类型的数据转换成string
func decimal(value float32) string { value1 := fmt.sprintf("%.6f", value) return value1 }
比较两个由float型数据转化成string的数据是否相同是否相同
func compare(val1,val2 string) bool { indexf :=strings.index(val1,".") + 4 indexs :=strings.index(val2,".") + 4 if indexs != indexf { return false }else { if val1[0:indexf] == val2[0:indexs]{ return true }else { return false } } }
补充:golang 浮点数操作
数据库中金额元存储的数据结构使用的是decimal(15,2),golang中使用float64保存变量内容。通过转换将 float64 -> int64
最简单的方式:int64(float64 * 100),但是由于浮点数在计算机内的表示方式问题导致有一部分数据会出现问题,
例如:
var v = 67.6 fmt.println(int64(v *100)) 输出结果为:6759
解决方法:
使用"github.com/shopspring/decimal"包,将对浮点数进行精确计算,例如:
f1 := decimal.newfromfloat(v) f2 := decimal.newfromfloat(100) fmt.println(f1.mul(f2).intpart()) 输出结果为6760
以上为个人经验,希望能给大家一个参考,也希望大家多多支持。如有错误或未考虑完全的地方,望不吝赐教。
上一篇: 打破设备和局域网的限制,爱奇艺万能联播-上线云投屏
下一篇: 系列文章(九)丨运营商环境内的云边协同