欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

浮点数的比较

程序员文章站 2022-02-05 19:26:47
...

前言

  • 由于计算机中采用的是二进制编码来表示数字,因此浮点数在计算机中的存储并不是精确的,例如在经过大量计算后,一个浮点型的数3.14在计算机中就可能存储为3.1400000000001,也有可能存储为3.1399999999999,这种情况下会对比较操作带来极大的干扰(因为C/C++中的“==”操作是完全相同才会判定为true)。于是需要引入一个极小数eps来对这种误差进行修正。

  • 下面介绍关于浮点数的各种比较函数:等于,大于,小于,大于等于,小于等于

  • qAbs是QT中取绝对值的函数,

      const double eps = 1e-6;
      #define Equ(a,b) ((qAbs((a) - (b))) < (eps)) 
      #define More(a,b) (((a) - (b)) > (eps)) 
      #define Less(a,b) (((a) - (b)) < -(eps)) 
      #define MoreEqu(a,b) (((a) - (b)) > (-eps)) 
      #define LessEqu(a,b) (((a) - (b)) < (eps)) 
    
相关标签: QT 几何学