欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  后端开发

mysql查询效率问题

程序员文章站 2022-06-01 12:22:24
...
问题是这样:
数据库中一个字段cate的数据是以逗号分隔存储的,如:1,2,3,4,5,
查询时传入的参数是一个数组,如:array(1,2);
我这比较笨的方法是循环这个数组,然后用like拼接起来实现的,如:
(cate like '%1,%' or cate like '%2,%')

但在数据量很大的时候这个效率就太低了,有没更有效的办法呢?谢谢。。

回复内容:

问题是这样:
数据库中一个字段cate的数据是以逗号分隔存储的,如:1,2,3,4,5,
查询时传入的参数是一个数组,如:array(1,2);
我这比较笨的方法是循环这个数组,然后用like拼接起来实现的,如:

(cate like '%1,%' or cate like '%2,%')

但在数据量很大的时候这个效率就太低了,有没更有效的办法呢?谢谢。。

程序循环你传入的数组,循环体内部调用mysql的find_in_set函数,当字串不是太长时,find_in_set的效率比like快很多。

1.修改字段类型为SET,使用FINd_IN_SET比你用like快得多,但是它也是属于字符串操作,用在字段上,得全表扫描。SET类型有一些限制,比较推荐SET适用于值域小,取值固定,整体查询的状态集合。比如记录某人去过中国哪些省:可以直接比较两个人是否去过相同的省份,或者直接获得差别,可以高效地查询哪些人只去过某省或某些省,但查哪些人去过某省或某些省依然是扫全表。

FIND_IN_SET(str,strlist)
如果字符串str是在的strlist组成的N子串的字符串列表,返回值的范围为1到N。
SQL> SELECT FIND_IN_SET('b','a,b,c,d');
SELECT FIND_IN_SET('b','a,b,c,d')
2

2.
用中间(映射)表,可以借助索引提高查询效率。

不管怎么写,怎么改,用函数也好,这样的数据结构稍微量大效率都很低,索引几乎用不上了
只能改下你们的储存方式,不要把1,2,3,4,5,这种放到一个字段,分开来,或者用nosql

可以考虑下MySQL的正则查询

重新设计数据库吧!!!无论怎么说 字符串匹配的花销都不小。把cate字段抽出来形成一个新的关系表

如果查询的频繁建议缓存数据后用程序来查缓存或者重新设计表,MYSQL里面用正则效率很低的。

你应该去问设计数据表的那个人。

建议修改数据存储格式吧....不是说这么存问题有多大

而是这么存了之后却又需要快捷高效的查...那势必就是自己给自己添堵了 能调整尽快调整

where cate like '%1,%' or cate like '%2,%' 这个条件本身有两个问题都导致无法使用索引:
1、or条件; 2、like '%...'格式。
针对这个查询做优化的:
1、or改为union all
2、在程序里做模糊查询, 将所有数据取出来(或者按10%取,取10次),循环做strpos的模糊匹配。 因为php的array操作时非常快速的,所以这样操作,会比直接入库查询快,但是会耗内存。
另外这样的话,分页这些,也就只有在程序里做了。

其实这个数据库设计是有问题的, 将'1,2,3..'这种格式的字符串设计成字段,mysql效率很低,建议根据位运算去设计cate字段,数据多的话,cate可以为bigint, 这样查询会非常快,也省去了like、 or这些mysql的瓶颈。

不建议使用mysql自带的函数,没太明白你说的1,2 1,2,3,4,5 是具体的什么意思,我猜可能是每条记录所属的类型是哪些,
例如:

老九门 是哪些?包括 语文、数学、英语、化学、生物、物理、地理、历史、政治
这九门都有一个类型是 “老九门”,那么这九门里又有理科和文科,
老九门、理科、文科分别是1、2、3
那么 语文、数学、英语的类型字段是1,2,3
    化学、物理、生物的类型字段是1,2
    地理、历史、政治的类型字段是1,3

(建议不要把业务逻辑放到mysql中处理,mysql字段类型越简单越好,下面会用到)

语文、数学、英语、化学、生物、物理、地理、历史、政治已经有了各自的类型所属
是否考虑将1,2,3  1,2  1,3 定义成数组格式呢
这里应用php的写法
            $arr = array(
                        1=>array(1,2,3),
                        2=>array(1,2),
                        3=>array(1,3)
                    );
 在往表中插入数据时,你的cate字段就存1 2 3就可以了,到时候直接查询1或者2或者3就可以了,业务逻辑去脚本程序
 中处理,不要在mysql中做太多的处理,越简单越好
 如果还是不太懂的话 也可以
             $arr = array(
                        '1,2,3'=>1,
                        '1,2'=>2,
                        '1,3'=>3
                    );
            在程序中处理完后再去查相应的mysql数据就可以了
相关标签: mysql php