qt之double类型判断
程序员文章站
2024-02-19 12:36:40
...
一、前言
double类型不能判断相等,那么如何判断等于呢,见下文,脑瓜子疼啊,以为时bug,结果还是基础犯了错误。。
二、环境
windows10
qt57
三、正文
double类型的浮点数,保留一位之后,用变量做判断条件
测试代码:
double aaa=5.1234;
double bbb=3.3922;
double aa=QString::number(aaa,'f',1).toDouble();
double bb=QString::number(bbb,'f',1).toDouble();
qDebug()<<"aa="<<aa<<";bb="<<bb<<";aa-bb="<<aa-bb;
if((aa-bb)>=1.7)
qDebug()<<"通过判断条件";
打印信息如下:
没有进入if语句打印信息
修改判断结果和对应条件之后代码如下:
double aaa=5.0234;
double bbb=3.3922;
double aa=QString::number(aaa,'f',1).toDouble();
double bb=QString::number(bbb,'f',1).toDouble();
qDebug()<<"aa="<<aa<<";bb="<<bb<<";aa-bb="<<aa-bb;
if((aa-bb)>=1.6)
qDebug()<<"通过判断条件";
打印信息如下:
进入了判断条件
就是判断条件有7的时候,判断条件为double类型被转换位数之后,又经过再次运算,就会判断失败,其他数值正常。
解决方法如下:
double aaa=5.1234;
double bbb=3.3922;
double aa=QString::number(aaa,'f',1).toDouble();
double bb=QString::number(bbb,'f',1).toDouble();
double ccc=aa-bb;
double cc=QString::number(ccc,'f',1).toDouble();//重新处理,否则判断异常
qDebug()<<"aa="<<aa<<";bb="<<bb<<";cc="<<cc;
if(cc>=1.7)
qDebug()<<"通过判断条件";
打印信息如下:
暂时这样解决。。。
四、结语
坑爹啊
上一篇: [JavaScript]几个函数的小知识
下一篇: input的文件上传类型判断
推荐阅读
-
qt之double类型判断
-
如何判断当前修改过的datatable的某一列值是否为int型或double类型
-
[八]基础数据类型之Double详解
-
L2基础数据类型之字符串的处理和判断基础类型
-
如何判断当前修改过的datatable的某一列值是否为int型或double类型
-
判断js中各种数据的类型方法之typeof与0bject.prototype.toString讲解_基础知识
-
[八]基础数据类型之Double详解
-
判断js中各种数据的类型方法之typeof与0bject.prototype.toString讲解_基础知识
-
架构师之html5之---------------js如何判断浏览器类型。
-
架构师之html5之---------------js如何判断浏览器类型。