欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

golang 比较浮点数的大小方式

程序员文章站 2022-06-28 14:57:40
golang浮点数比较和运算会出现误差。浮点数储存至内存中时,2的-1、-2……-n次方不能精确的表示小数部分,所以再把这个数从地址中取出来进行计算就出现了偏差。package mainimport...

golang浮点数比较和运算会出现误差。

浮点数储存至内存中时,2的-1、-2……-n次方不能精确的表示小数部分,所以再把这个数从地址中取出来进行计算就出现了偏差。

package main
import (
	"errors"
	"fmt"
	"github.com/shopspring/decimal"
)
func floatcompare(f1, f2 interface{}) (n int, err error) {
	var f1dec, f2dec decimal.decimal
	switch f1.(type) {
	case float64:
		f1dec = decimal.newfromfloat(f1.(float64))
		switch f2.(type) {
		case float64:
			f2dec = decimal.newfromfloat(f2.(float64))
		case string:
			f2dec, err = decimal.newfromstring(f2.(string))
			if err != nil {
				return 2, err
			}
		default:
			return 2, errors.new("floatcompare() expecting to receive float64 or string")
		}
	case string:
		f1dec, err = decimal.newfromstring(f1.(string))
		if err != nil {
			return 2, err
		}
		switch f2.(type) {
		case float64:
			f2dec = decimal.newfromfloat(f2.(float64))
		case string:
			f2dec, err = decimal.newfromstring(f2.(string))
			if err != nil {
				return 2, err
			}
		default:
			return 2, errors.new("floatcompare() expecting to receive float64 or string")
		}
	default:
		return 2, errors.new("floatcompare() expecting to receive float64 or string")
	}
	return f1dec.cmp(f2dec), nil
}
func main() {
	a:=4.0
	b:="4"
	fmt.println(floatcompare(a,b))
}

补充:golang 判断2个浮点型数字是否相同

判断2个浮点型数字是否相同的方法(假定整数部分+小数点后3位相同,则视为相同)

首先将2个浮点型数字转换为string数据

将float类型的数据转换成string

func decimal(value float32) string {
   value1 := fmt.sprintf("%.6f", value)
   return value1
}

比较两个由float型数据转化成string的数据是否相同是否相同

func compare(val1,val2 string) bool {
   indexf :=strings.index(val1,".") + 4
   indexs :=strings.index(val2,".") + 4
   if indexs != indexf {
      return false
   }else {
      if val1[0:indexf] == val2[0:indexs]{
         return true
      }else {
         return false
      }
   }
}

补充:golang 浮点数操作

数据库中金额元存储的数据结构使用的是decimal(15,2),golang中使用float64保存变量内容。通过转换将 float64 -> int64

最简单的方式:int64(float64 * 100),但是由于浮点数在计算机内的表示方式问题导致有一部分数据会出现问题,

例如:

var v = 67.6  
fmt.println(int64(v *100)) 输出结果为:6759
 

解决方法:

使用"github.com/shopspring/decimal"包,将对浮点数进行精确计算,例如:

f1 := decimal.newfromfloat(v)
f2 := decimal.newfromfloat(100)
fmt.println(f1.mul(f2).intpart()) 输出结果为6760

以上为个人经验,希望能给大家一个参考,也希望大家多多支持。如有错误或未考虑完全的地方,望不吝赐教。