SQL语句优化之JOIN和LEFT JOIN 和 RIGHT JOIN语句的优化
在数据库的应用中,我们经常需要对数据库进行多表查询,然而当数据量非常大时多表查询会对执行效率产生非常大的影响,因此我们在使用join和left join 和 right join语句时要特别注意;
sql语句的join原理:
数据库中的join操作,实际上是对一个表和另一个表的关联,而很多错误理解为,先把这两个表来一个迪卡尔积,然后扔到内存,用where和having条件来慢慢筛选,其实数据库没那么笨的,那样会占用大量的内存,而且效率不高,比如,我们只需要的一个表的一些行和另一个表的一些行,如果全表都做迪卡尔积,这开销也太大了,真正的做法是,根据在每一个表上的条件,遍历一个表的同时,遍历其他表,找到满足最后的条件后,就发送到客户端,直到最后的数据全部查完,叫做嵌套循环查询。
1、left join 和 right join优化
在mysql中,实现如 a left join b join_condition 如下:
1、表b依赖赖与表a及所有a依赖的表
2、表a依赖于所有的表,除了left join 的表(b)
3、join_condition决定了怎样来读取表b,where条件对b是没有用的
4、标准的where会和left join联合优化
5、如果在a中的一行满足where和having条件,b中没有,会被填充null
right join 与left join类似,这个位置是可以互换的
left join 与 正常join之间的转换原则上当where条件,对于生成的null行总返回false时,可以直接转化为正常的join
如:
select * from t1 left join t2 on (column1) where t2.column2=5;
将被转换为:
select * from t1, t2 where t2.column2=5 and t1.column1=t2.column1;
注:因为设置了条件t2.column2 = 5,那么对于所有的生成的t2为null的行都是不成立的
这样的优化将非常快速,因为这样相当于把外连接转换为等值连接,少了很多行的扫描和判断。
嵌套循环join算法----nested-loop join
简单的嵌套循环算法就是从一个表开始,通过对表的条件找到一行,然后找下一个表的数据,找完后,又回到第一个表来寻找满足条件的行
例如,有三个表t1, t2, t3,他们的join类型为:
table join type t1 range t2 ref t3 all
最终生成的伪代码为
for each row in t1 matching range { for each row in t2 matching reference key { for each row in t3 { if row satisfies join conditions, send to client } } }
即,t1表通过范围扫描,t2关联t1,t3为全表扫描
注:先根据对t1表的条件范围找到一行,和t2匹配,然后寻找t3的满足条件的行
块嵌套循环join算法 ---- block nested-loop join
这个算法的应用为:由于之前的嵌套算法每读一个表的一行后,就会读下表,这样内部的表会被读很多次,所以,数据库利用了join缓存(join buffer)来存储中间的结果,然后读取内部表的时候,找到一行,都和这个缓存中的数据比较,以此来提高效率。例如:一次从外表读10行,然后读内部表时,都和这10行数据进行比较。
mysql使用join buffer的条件为:
1、join_buffer_size系统变量决定了每个join使用的buffer大小
2、join类型为index或all时,join buffer才能被使用
3、每一个join都会分配一个join buffer,即一个sql可能使用多个join buffer
4、join buffer 不会分配给第一个非常量表
5、只有需要引用的列会被放到join buffer中,不是整行
最终生成伪代码为:
for each row in t1 matching range { for each row in t2 matching reference key { store used columns from t1, t2 in join buffer 这里将t1和t2使用的列存到join buffer中 if buffer is full { for each row in t3 { for each t1, t2 combination in join buffer { if row satisfies join conditions, send to client } } empty buffer } } } if buffer is not empty { for each row in t3 { for each t1, t2 combination in join buffer { if row satisfies join conditions, send to client } } }
注:在第二个循环才把数据存在join buffer中,这正好印证了上面的第4点