欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

python小数的进位与舍去

程序员文章站 2022-05-18 22:45:53
一.基础知识准备 ​ 奇进偶舍 ,又称为四舍六入五成双规则、银行进位法(Banker's Rounding),是一种计数保留法,是一种数值修约规则。从统计学的角度,“奇进偶舍”比“四舍五入”更为精确:在大量运算时,因为舍入后的结果有的变大,有的变小,更使舍入后的结果误差均值趋于零。而不是像四舍五入那 ......

一.基础知识准备

奇进偶舍,又称为四舍六入五成双规则、银行进位法(banker's rounding),是一种计数保留法,是一种数值修约规则。从统计学的角度,“奇进偶舍”比“四舍五入”更为精确:在大量运算时,因为舍入后的结果有的变大,有的变小,更使舍入后的结果误差均值趋于零。而不是像四舍五入那样逢五就进位,导致结果偏向大数,使得误差产生积累进而产生系统误差。“奇进偶舍”使测量结果受到舍入误差的影响降到最低。

数值修约(rounding off for values)——在进行具体的数字运算前,通过省略原数值的最后若干位数字,调整保留的末位数字,使最后所得到的值最接近原数值的过程。
infinity 无穷

nan(not a number,非数)是计算机科学中数值数据类型的一类值,表示未定义或不可表示的值。常在浮点数运算中使用。首次引入nan的是1985年的ieee 754浮点数标准。在浮点数运算中,nan与无穷大的概念不同,尽管两者均是以浮点数表示实数时的特殊值。无效操作(invalid operation)同样也不同于算术溢出(可能返回无穷大)和算术下溢出(可能返回最小的一般数值、特殊数值、零等)。ieee 754-1985中,用指数部分全为1、小数部分非零表示nan。以32位ieee单精度浮点数的nan为例,按位表示即:s111 1111 1axx xxxx xxxx xxxx xxxx xxxx,s为符号位,符号位s的取值无关紧要



在python中进行精确的数值运算时,一般采用decimal模块对小数进行运算,其中用到了,十进制数decimal number, context算数上下文参数, signals信号信息

我们发现,使用round()取整小数时,并不是想要的四舍五入,原因就在于取整规则是采用了奇进偶舍(四舍六入)的方式,简单来说就是,整数部分为奇数,四舍五入.如果是偶数,就采用五舍六入的方式,而这个规则,就属于数值修约的规则

二.quantize

quantize`(*exp* [,*rounding* [,*context* [,*watchexp* ] ] ] )

舍入后返回一个等于第一个操作数的值,并具有第二个操作数的指数。

>>> decimal('1.41421356').quantize(decimal('1.000'))
decimal('1.414')


三.实现四舍五入

舍入后返回一个等于第一个操作数的值,并具有第二个操作数的指数。这个exp的指数就是左边数的指数,exponent

# 实现四舍五入的方法
>>> from decimal import decimal, round_half_up
>>> decimal('0.375').quantize(decimal('0.00'), rounding=round_half_up)
decimal('0.38')
>>> decimal('0.125').quantize(decimal('0.00'), rounding=round_half_up)
decimal('0.13')