浮点数的比较
程序员文章站
2022-02-05 19:26:47
...
前言
-
由于计算机中采用的是二进制编码来表示数字,因此浮点数在计算机中的存储并不是精确的,例如在经过大量计算后,一个浮点型的数3.14在计算机中就可能存储为3.1400000000001,也有可能存储为3.1399999999999,这种情况下会对比较操作带来极大的干扰(因为C/C++中的“==”操作是完全相同才会判定为true)。于是需要引入一个极小数eps来对这种误差进行修正。
-
下面介绍关于浮点数的各种比较函数:等于,大于,小于,大于等于,小于等于
-
qAbs是QT中取绝对值的函数,
const double eps = 1e-6; #define Equ(a,b) ((qAbs((a) - (b))) < (eps)) #define More(a,b) (((a) - (b)) > (eps)) #define Less(a,b) (((a) - (b)) < -(eps)) #define MoreEqu(a,b) (((a) - (b)) > (-eps)) #define LessEqu(a,b) (((a) - (b)) < (eps))