Python decimal 模块解决浮点数计算不精确问题

python 中的 decimal 模块提供十进制浮点运算支持

a = 1.1
b = 2.2
print(a + b) 

结果竟然是：

输出不是期望的 3.3，这是由于原生的二进制浮点数本身存在误差，直接计算的话会得到不精确的结果。 为了消除这种误差，可以用 decimal 模块进行更加精确的浮点计算。

from decimal import Decimal
#参数这里是字符串
a = Decimal('1.1')
b = Decimal('2.2')
print(a + b) 

运算结果：

getcontext().prec 设置有效数字

from decimal import Decimal
from decimal import getcontext
#此处设置有效数字为6位
getcontext().prec = 6
print(Decimal('2.2')/Decimal('1.3'))

运行结果：

设定小数位数

Deicmal() 函数可以四舍五入设置保留的小数位，且不用管小数原来的形式

from decimal import Decimal
m='3.4'
n=4.5
#设置留5位小数
print(Decimal(m).quantize(Decimal('0.000000')))
print(Decimal(n).quantize(Decimal('0.000000')))

运行结果：

 

本文地址：https://blog.csdn.net/weixin_40959890/article/details/109641269