欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

程序员文章站 2022-06-17 22:10:26
开心一刻 楼主:心都让你吓出来了! 狮王:淡定,打个小喷嚏而已 前情回顾 神奇的 SQL 之 联表细节 → MySQL JOIN 的执行过程(一)中,我们讲到了 3 种联表算法:SNL、BNL 和 INL,了解了数据的查询方式是 one by one,联表方式也是 one by one ;并谈到了 ......

开心一刻

神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

  楼主:心都让你吓出来了!

  狮王:淡定,打个小喷嚏而已

前情回顾

  神奇的 sql 之 联表细节 → mysql join 的执行过程(一)中,我们讲到了 3 种联表算法:snl、bnl 和 inl,了解了数据的查询方式是 one by one,联表方式也是 one by one ;并谈到了 on 和 where,对下图中所说的提出了质疑

神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

  认为 on 和 where 的生效时机有待商榷;此时楼主开始了欠大家的账

  神奇的 sql 之 联表细节 → mysql join 的执行过程(二)中对联表算法进行了补充,详细介绍了 mrr 和 bka,但还是未介绍 on 和 where,楼主依旧欠着大家的账,内心涌满了愧疚

  终于在今天,楼主痛定思痛,决定将这笔账还上;此刻楼主的内心独白是这样的

神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

  此时各位看官的内心肯定嘀咕着:你特么欠账欠的这么义愤填膺 ? 不过我好喜欢

神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

  咳咳,闲话不多说,进入我们今天的正题

sql 执行顺序

  sql 的执行顺序相信大家多少有所了解,上网一搜也很快就能找到答案

  神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

  除了 with 用的比较少之外,其他都比较常用,相信大家对上面的执行顺序也没有什么疑问;我们重点关注下 join、on 和 where

  神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

  那么 where 是不是一定是在 on 之后生效了 ? 我们带着这个疑问往下看

on 和 where 的常规区别

  on 针对的关联条件,是表与表之间通过哪些列、以什么条件进行关联,而 where 针对的是过滤条件;两者从概念上来讲是不同的

  另外 on 一定是与 join 一并使用的,join 会添加外部行,并将外部行中被驱动表的字段填充 null ,而 where 进行过滤的时候,只有逻辑判断为 true 的记录才会保留,逻辑值为 false 和 unknown 的记录都会过滤掉(更多详情:神奇的 sql 之温柔的陷阱 → 三值逻辑 与 null !);两者得到的结果会有所不同

  上面说的可能有些抽象,我们结合具体示例来看;mysql 版本 5.7.21 ,准备表和初始数据

create table tbl_a (a int primary key, b int, c int, d int, e varchar(50));
insert into tbl_a values (4,3,1,1,'a');
insert into tbl_a values (1,1,1,2,'d');
insert into tbl_a values (8,8,7,8,'h');
insert into tbl_a values (2,2,1,2,'g');
insert into tbl_a values (5,2,2,5,'e');
insert into tbl_a values (3,3,2,1,'c');
insert into tbl_a values (7,4,0,5,'b');
insert into tbl_a values (6,5,2,4,'f');

create table tbl_b like tbl_a;
insert into tbl_b select * from tbl_a;

insert into tbl_a values (9,9,9,9,'9');
insert into tbl_b values (10,10,10,10,'10');

  我们先来看看 left join(right join类似)

select * from tbl_a a left join tbl_b b on a.a = b.a and a.b = b.b; /*query_on*/
select * from tbl_a a left join tbl_b b on a.a = b.a where a.b = b.b; /*query_where*/

  神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

  我们可以看到:

    语句 query_on 返回了 tbl_a 中的全部记录,tbl_b 无对应记录的字段值填成 null,这是因为 join 会添加外部行,将 tbl_a 有而 tbl_b 中没有的记录添加到结果集

    语句 query_where 返回的是 8 行。因为最后的一行,在表 tbl_b 中没有匹配的字段,所以 where 后的 b.b 的值是 null,而 a.b 的值是 9,那么 where 9 = null 的结果是 unknown 而不是 true,因此这条记录不能作为结果集的一部分

  我们再来看看 inner join

select * from tbl_a a inner join tbl_b b on a.a = b.a and a.b = b.b; /*query_on*/
select * from tbl_a a inner join tbl_b b on a.a = b.a where a.b = b.b; /*query_where*/

  神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

  我们可以看到,执行结果是一样的,inner join 查询的就是驱动表与被驱动表同时存在的记录,所以过滤条件不管放在 on 里,还是放在 where 里,执行结果是一样的

on 和 where 的生效时机

  on 后的关联条件与 where 后的过滤条件,这两者的执行顺序是否如 sql 执行顺序图中说的那样,on 一定先与 where ?

  问题先放着,我们以 left join 为例,来看看 4 个案例,也许从中能找到我们想要的答案

  1、左表与右表都没二级索引

    刚好上面的 tbl_a 和 tbl_b 满足条件,我们来看看 sql 的执行计划

explain select * from tbl_a a 
left join tbl_b b 
on a.b = b.b and a.c = b.c
where a.b >= 2 and a.b < 10 and a.c > 0 
and a.d != 1 and a.e != 'a'

    神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

    驱动表是 tbl_a,这个相信大家没问题,我们重点看下 type 和 extra

    type:上面的 all 表示全表扫描 a 表,下面的 all 表示全表关联,a 表中每一条满足条件的记录都会与 b 表中全部 9 条记录逐条进行关联

    extra:using where 表示要进行 where 条件过滤,using join buffer (block nested loop) 表示用到了 bnl

    这条 sql 的执行流程应该是这样的:

    神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

    此时大家看出什么了没 ? on 后的关联条件是在 where 后的过滤条件之前生效的吗 ?

    这个案例不太常见,因为表没有二级索引,我们接着往下看看有二级索引的情况

  2、左表有二级索引,右表无二级索引

    我们在 tbl_a 建一个组合索引 create index idx_bcd on tbl_a(b, c, d); ,然后往 tbl_a 和 tbl_b 中各插入 10w 条记录,我们再来看执行计划

    神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

    上图中红框标记的字段重点关注下,不知道字段含义的小伙伴,可以去翻翻我之前关于

    那么此时 sql 的执行流程应该是这样的:

    神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

    就步骤 1 与 示例 1 中的步骤 1 不同,其余 2 步是一样的

    此时 where 后的过滤条件的生效时机也是早于 on 后的关联条件的

  3、左表无二级索引,右表有二级索引

    将 tbl_b 作为左表,tbl_a 作为右表,我们来看效果

    神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

    此时 sql 的执行流程应该是这样的:

    神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

    此时 on 后的关联条件的生效时机是早于 where 后的过滤条件的

  4、左表与右表都有二级索引

    我们在 tbl_b 表上建一个组合索引 create index idx_bcd on tbl_b(b, c, d); 我们来看看 sql 的执行计划

    神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

    此时 sql 的执行流程应该是这样的:

     神奇的 SQL 之扑朔迷离 → ON 和 WHERE,好多细节!

    先是 where 中的 index filter 条件生效,然后是 on 后的关联条件生效,最后是 where 中的 table filter 生效,关联条件的生效时间穿插在过滤条件的生效时间中

  自此,关于 on 和 where 的生效时机,你清楚了吗 ?

总结

  1、关联博客

    如果没有读楼主的前几篇博客,那么有些概念可能不理解,楼主把相关联的博客都列一下

    神奇的 sql 之温柔的陷阱 → 三值逻辑 与 null 

    神奇的 sql 之 mysql 执行计划 → explain,让我们了解 sql 的执行过程!

    神奇的 sql 之 联表细节 → mysql join 的执行过程(一)

    神奇的 sql 之 联表细节 → mysql join 的执行过程(二)

    神奇的 sql 之 where 条件的提取与应用

    神奇的 sql 之 icp → 索引条件下推 

    对相关概念不了解的可以去对应的博客查阅

  2、on 和 where

    两者好区分,也容易混淆,他们在概念上就做了明确区分,但是又可以做概念之外的事,所以用着用着就开始混淆了

    楼主推荐:严格按他们的概念来处理,on 后跟关联条件,其他的都放到 where 后做过滤条件;尽量保证 sql 语义清晰

    至于他两的生效时机,需要结合表结构,以及具体的 sql 来分析,而不是 on 一定先于 where

参考

  what is the meaning of filtered in mysql explain?

  mysql的server层和存储引擎层是如何交互的