Python decimal 模块解决浮点数计算不精确问题
程序员文章站
2022-04-02 11:11:33
python 中的 decimal 模块提供十进制浮点运算支持a = 1.1b = 2.2print(a + b) 结果竟然是:输出不是期望的 3.3,这是由于原生的二进制浮点数本身存在误差,直接计算的话会得到不精确的结果。 为了消除这种误差,可以用 decimal 模块进行更加精确的浮点计算。from decimal import Decimal#参数这里是字符串a = Decimal('1.1')b = Decimal('2.2')print(a + b) 运算...
python 中的 decimal 模块提供十进制浮点运算支持
a = 1.1
b = 2.2
print(a + b)
结果竟然是:
输出不是期望的 3.3,这是由于原生的二进制浮点数本身存在误差,直接计算的话会得到不精确的结果。 为了消除这种误差,可以用 decimal 模块进行更加精确的浮点计算。
from decimal import Decimal
#参数这里是字符串
a = Decimal('1.1')
b = Decimal('2.2')
print(a + b)
运算结果:
getcontext().prec 设置有效数字
from decimal import Decimal
from decimal import getcontext
#此处设置有效数字为6位
getcontext().prec = 6
print(Decimal('2.2')/Decimal('1.3'))
运行结果:
设定小数位数
Deicmal() 函数可以四舍五入设置保留的小数位,且不用管小数原来的形式
from decimal import Decimal
m='3.4'
n=4.5
#设置留5位小数
print(Decimal(m).quantize(Decimal('0.000000')))
print(Decimal(n).quantize(Decimal('0.000000')))
运行结果:
本文地址:https://blog.csdn.net/weixin_40959890/article/details/109641269
上一篇: 元组与字典