欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

mysql优化取随机数据慢的方法

程序员文章站 2024-02-27 15:23:27
前天因为工作需要我把从一个5w记录的数据库中随机抽取几条记录了,这里我是直接使用mysql rand by函数来直接,几千条记录没关系,但如果到了几万条感觉要几秒,这个就很...
前天因为工作需要我把从一个5w记录的数据库中随机抽取几条记录了,这里我是直接使用mysql rand by函数来直接,几千条记录没关系,但如果到了几万条感觉要几秒,这个就很慢了,下面小编与大家一起来看看mysql 取随机数据慢优化过程。
mysql很多时候需要获取随机数据,举个例子,要从tablename表中随机提取一条记录,大家一般的写法就是:
复制代码 代码如下:

select * from tablename order by rand() limit 1
 

但是,后来我查了一下mysql的官方手册,里面针对rand()的提示大概意思就是,在order by从句里面不能使用rand()函数,因为这样会导致数据列被多次扫描。但是在mysql 3.23版本中,仍然可以通过order by rand()来实现随机。
 测试一下才发现这样效率非常低。一个15万余条的库,查询5条数据,居然要8秒以上。查看官方手册,也说rand()放在order by 子句中会被执行多次,自然效率及很低。
you cannot use a column with rand() values in an order by clause, because order by would evaluate the column multiple times.
搜索google,网上基本上都是查询max(id) * rand()来随机获取数据。
复制代码 代码如下:

select *
from 'table' as t1 join (select round(rand() * (select max(id) from 'table')) as id) as t2
where t1.id >= t2.id
order by t1.id asc limit 5;
 

但是这样会产生连续的5条记录。解决办法只能是每次查询一条,查询5次。即便如此也值得,因为15万条的表,查询只需要0.01秒不到。
下面的语句采用的是join,mysql的论坛上有人使用:
复制代码 代码如下:

select *
from 'table'
where id >= (select floor( max(id) * rand()) from 'table' )
order by id limit 1;
 

我测试了一下,需要0.5秒,速度也不错,但是跟上面的语句还是有很大差距。总觉有什么地方不正常。
于是把语句改写了一下。
复制代码 代码如下:

select * from 'table'
where id >= (select floor(rand() * (select max(id) from 'table'))) 
order by id limit 1;
 

这下,效率又提高了,查询时间只有0.01秒。
 最后,再把语句完善一下,加上min(id)的判断。我在最开始测试的时候,就是因为没有加上min(id)的判断,结果有一半的时间总是查询到表中的前面几行。
 完整查询语句是:
 
复制代码 代码如下:

select * from 'table' where id >= (
select floor(
rand() * ((select max(id) from 'table')-(select min(id) from 'table'))
+ (select min(id) from 'table')
)
) 
order by id limit 1;

select * from 'table' as t1 join (
select round(
# 最小值 + (1 至 最小与最大值差)
rand() * (
(select max(id) from 'table')-(select min(id) from 'table')
)
+(select min(id) from 'table')
) as id
) as t2
where t1.id >= t2.id
order by t1.id limit 1;
 

最后在php中对这两个语句进行分别查询10次,前者花费时间 0.147433 秒,后者花费时间 0.015130 秒。看来采用join的语法比直接在where中使用函数效率还要高很多。
复制代码 代码如下:

select *
from `table` as t1 join (select round(rand() * ((select max(id) from `table`) – (select min(id) from `table`)) + (select min(id) from `table`)) as id) as t2
where t1.id >= t2.id
order by t1.id limit 10;
 

这个就是我自己选用了,从以前5秒到现面0.0003秒时间都不用就查出10条记录了。