欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

Mysql的limit优化方案解析

程序员文章站 2022-03-20 16:15:04
MySQL的分页查询通常通过limit来实现。 MySQL的limit基本用法很简单。limit接收1或2个整数型参数,如果是2个参数,第一个是指定第一个返回记录行的偏移量,第二个是返回记录行的最大数目。初始记录行的偏移量是0。疑问:对于小的偏移量,直接使用limit来查询没有什么问题,但随着数据量 ......
mysql的分页查询通常通过limit来实现。

mysql的limit基本用法很简单。limit接收1或2个整数型参数,如果是2个参数,第一个是指定第一个返回记录行的偏移量,第二个是返回记录行的最大数目。初始记录行的偏移量是0。

疑问:
对于小的偏移量,直接使用limit来查询没有什么问题,但随着数据量的增大,越往后分页,limit语句的偏移量就会越大,速度也会明显变慢。

优化思想

避免数据量大时扫描太多的的记录

解决

子查询的分页方式或者join分页方式。

join分页和子查询分页的效率基本在一个等级上,消耗的时间也基本一致。

下面举个例子。一般mysql的主键是自增的数字类型,这种情况下可以使用下面的方式进行优化。

下面以真实的测试环境的100万条数据的一张表为例,比较一下优化前后的查询耗时:

-- 传统limit,文件扫描
[sql]select * from tablename order by id limit 500000,2;
受影响的行: 0
时间: 5.371s

-- 子查询方式,索引扫描
[sql]
select * from tablename
where id >= (select id from tablename order by id limit 500000 , 1)
limit 2;

 


受影响的行: 0
时间: 0.280s

-- join分页方式
[sql]
select *
from tablename as t1
join (select id from tablename order by id desc limit 500000, 1) as t2
where t1.id <= t2.id order by t1.id desc limit 2;

 


受影响的行: 0
时间: 0.284s

可以看到经过优化性能提高了将近20倍。

优化原理

子查询是在索引上完成的,而普通的查询时在数据文件上完成的,通常来说,索引文件要比数据文件小得多,所以操作起来也会更有效率。因为要取出所有字段内容,第一种需要跨越大量数据块并取出,而第二种基本通过直接根据索引字段定位后,才取出相应内容,效率自然大大提升。

因此,对limit的优化,不是直接使用limit,而是首先获取到offset的id,然后直接使用limit size来获取数据。

在实际项目使用,可以利用类似策略模式的方式去处理分页,例如,每页100条数据,判断如果是100页以内,就使用最基本的分页方式,大于100,则使用子查询的分页方式。