欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

Python decimal 模块解决浮点数计算不精确问题

程序员文章站 2022-04-02 11:11:33
python 中的 decimal 模块提供十进制浮点运算支持a = 1.1b = 2.2print(a + b) 结果竟然是:输出不是期望的 3.3,这是由于原生的二进制浮点数本身存在误差,直接计算的话会得到不精确的结果。 为了消除这种误差,可以用 decimal 模块进行更加精确的浮点计算。from decimal import Decimal#参数这里是字符串a = Decimal('1.1')b = Decimal('2.2')print(a + b) 运算...

python 中的 decimal 模块提供十进制浮点运算支持

a = 1.1
b = 2.2
print(a + b) 

结果竟然是:

Python decimal 模块解决浮点数计算不精确问题

输出不是期望的 3.3,这是由于原生的二进制浮点数本身存在误差,直接计算的话会得到不精确的结果。 为了消除这种误差,可以用 decimal 模块进行更加精确的浮点计算。

from decimal import Decimal
#参数这里是字符串
a = Decimal('1.1')
b = Decimal('2.2')
print(a + b) 

运算结果:

Python decimal 模块解决浮点数计算不精确问题

getcontext().prec 设置有效数字

from decimal import Decimal
from decimal import getcontext
#此处设置有效数字为6位
getcontext().prec = 6
print(Decimal('2.2')/Decimal('1.3'))

运行结果:

Python decimal 模块解决浮点数计算不精确问题

设定小数位数

Deicmal() 函数可以四舍五入设置保留的小数位,且不用管小数原来的形式

from decimal import Decimal
m='3.4'
n=4.5
#设置留5位小数
print(Decimal(m).quantize(Decimal('0.000000')))
print(Decimal(n).quantize(Decimal('0.000000')))

运行结果:

Python decimal 模块解决浮点数计算不精确问题

 

本文地址:https://blog.csdn.net/weixin_40959890/article/details/109641269

相关标签: Python