欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

MySQL学习-3|深入浅出索引(上)

程序员文章站 2022-03-06 12:26:39
...

索引模型

环境: MySQL 5.7.24, for linux-glibc2.12 (x86_64)

简单来说,索引的出现其实就是为了 提高数据查询 的效率,就像书的目录一样。对于数据库的表而言,索引其实就是它的"目录"。

  • MySQL 中,索引是在存储引擎层1实现的,所以并没有统一的索引标准。不同的存储引擎的索引,工作方式并不一样。即使多个存储引擎支持同一种类型的索引,其底层实现也可能不同。

用于提高读写效率的数据结构有很多,以下介绍三种常见、也比较简单的数据结构:哈希表有序数组搜索树。还有跳表、LSM树等数据结构也被用于引擎设计中。

哈希表

哈希表 是一种键-值(key-value)存储数据的结构。只要输入待查找的key,就可以找到其对应的value。

  • 哈希的思路很简单,把值放在数组里,用一个哈希函数把key换算成一个确定的位置,然后把value放在数组的这个位置。
  • 不可避免地,多个key值经过哈希函数的换算,会出现同一个值(value)的情况。处理这种情况的一种方法是,拉出一个链表。
  • 哈希表这种数据结构适用于只有等值查询的场景。例如Memcached及其他一些NoSQL引擎。
  • 哈希表不是有序的,对新增记录会很快,只需往后追加,但缺点是做区间查询的速度是很慢的。

用户表User:身份证信息ID_card_n、姓名name。
ID_card_n1…ID_card_n4的值,并不是递增的,对应的哈希索引示意图如下:
MySQL学习-3|深入浅出索引(上)
上图中的User2与User4表示的含义为2个用户的身份证号码调用哈希函数换算出的value都是N,所以后面跟了一个链表。
假设此时要查ID_card_n2对应的name,处理步骤:首先,将ID_card_n2通过哈希函数算出N;然后,找到N,按顺序遍历找到User2。

设想一下,如果查询身份证号在[ID_card_X,ID_card_Y]这个区间的用户,哈希结构就只能全部扫描一遍了。而有序数组在范围查询场景中的优势就很明显了。

有序数组

  • 有序数组在等值查询和范围查询场景中的性能都非常优秀。
  • 仅仅看查询效率,有序数组是最好的数据结构,但是,在需要更新数据的时候,例如在中间插入一条记录,就必须得挪动后面所有的记录,成本太高。
  • 有序数组只适用于静态存储引擎。例如2017年某城市的人口信息这类不会再修改的数据。

在用户表User:身份证信息ID_card_n、姓名name示例中,假设递增顺序如下,用有序数组实现示意图:
MySQL学习-3|深入浅出索引(上)
假设身份证号没有重复,这个数组就是按照身份证号递增的顺序保存的。如果想要查询ID_card_n2对应的name,用二分法就可以快速得到,时间复杂度是O(log(N))。

如果查询[ID_card_X,ID_card_Y]这个区间的用户,可以先用二分法找到ID_card_X(如果不存在ID_card_X,就找到大于ID_card_X的第一个User),然后向右遍历,直到查到第一个大于ID_card_Y的身份证号,退出循环。

搜索树

  • 二叉搜索树特点:每个节点的左儿子 小于 父节点父节点 小于 右儿子

在用户表User:身份证信息ID_card_n、姓名name示例用二叉搜索树来实现如下:
MySQL学习-3|深入浅出索引(上)
如果想要查询ID_card_n2对应的name,按照图中的搜索顺序就是按照 UserA->UserC->UserF->User2这个路径得到,时间复杂度O(log(N))。
为了维持O(log(N))的查询复杂度,就需要保持这棵树是平衡二叉树。为了做这个保证,更新的时间复杂度也是O(log(N))。

  • 树可以有二叉,也可以有多叉。多叉树就是每个节点有多个儿子,儿子之间的大小保证从左到右递增
  • 搜索树中,二叉树的搜索效率最高,但实际上大多数的数据库存储却不使用二叉树。其原因是,索引不止存在内存中,还要写到磁盘上。
  • N叉树由于在读写上的性能优点,以及适配磁盘的访问模式,已经被广泛应用在数据库引擎中。

想象一下一棵100万节点的平衡二叉树,树高20。一次查询可能需要访问20个数据块。在机械硬盘时代,从磁盘随机读一个数据块需要10ms左右的寻址时间。也就是说,对于一个100万行的表,如果使用二叉树来存储,单独访问一个行可能需要20个10ms的时间。

为了让一个查询尽量少地读磁盘,就必须让查询过程访问尽量少的数据块。那么,我们就不应该使用二叉树,而是要使用N叉树。N取决于数据块的大小。

以InnoDB的一个整数字段索引为例,这个N差不多是1200。这棵树高是4的时候,就可以存储1200的3次方个值(17亿+)。考虑到树根的数据块总是在内存中的,一个10亿行的表上一个整数字段的索引,查找一个值最多只需要访问3次磁盘。其实,树的第二层也有很大概率在内存中,那么访问磁盘的平均次数就更少了。

  • 数据库存储的核心就是基于这些数据结构模型的,每碰到一个新数据库,我们需要先关注它的 数据模型 ,这样才能从理论上分析出这个数据库的适用场景。

InnoDB的索引模型

  • InnoDB 引擎中,表都是根据主键顺序以索引的形式存放的,这种存储方式的表称为 索引组织表
  • InnoDB 引擎使用B+树索引模型,所以数据都是存储在B+树中的。
  • 每一个索引在 InnoDB 里面对应一棵B+树

示例分析

假设,表T有一个主键ID,表中有字段k,并且在k上有索引。新增5条R1~R5记录,如下

-- CREATE
mysql> create table T(
       id int primary key, 
       k int not null, 
       name varchar(16),
       index k(k))engine=InnoDB;
-- INSERT
mysql> insert T(`id`, `k`, `name`) values
(100,1,'nm1'),
(200,2,'nm2'),
(300,3,'nm3'),
(500,5,'nm5'),
(600,6,'nm6');

表T的主键ID和k索引的两棵树示例如下:
MySQL学习-3|深入浅出索引(上)

主键索引和普通索引

  • 索引类型分为主键索引非主键索引
  • InnoDB中,主键索引也被称为聚簇索引(clustered index),非主键索引也被称为二级索引(secondary index)。
  • 主键索引的叶子节点存储的是整行数据
  • 非主键索引的叶子节点存储的是主键的值
  • 主键长度越小,普通索引的叶子节点就越小,普通索引占用的空间也就越小。

基于主键索引和普通索引的查询的区别

mysql> select * from T where ID=500;

主键查询方式,只需要搜索ID这课B+树;

mysql> select * from T where k=5;

普通索引查询方式,则需要先搜索k索引这课B+树,得到ID的值为500,再到ID索引树搜索一次。这个过程称为回表

也就是说,基于非主键索引的查询,需要多扫描一棵索引树。因此,在应用中应该尽量使用主键查询。

索引维护

B+树为了维护索引有序性,在插入新值的时候需要做必要的维护。

以上图为例,如果插入新行ID=700,则只需要在R5记录后插入一个新记录。
如果插入新行ID=400,就相对麻烦了,需要逻辑上挪动后面的数据,空出位置。

更糟的情况是,如果R5所在的数据页已经满了,根据B+树的算法,这时候需要申请一个新的数据页,然后挪动部分数据过去。这个过程称为页分裂。这种情况下,性能自然会受影响。
除了性能外,页分裂操作还影响数据页的利用率。原本放在一个页的数据,现在分到两个页中,整体空间利用率降低大约50%。

有页分裂就有页合并。当相邻两个数据页由于删除了数据,利用率很低之后,会将数据页做合并。合并的过程,可以认为是分裂过程的逆过程。

自增主键是指自增列上定义的主键。在建表语句中一般是这么定义的:not null primary key auto_increment

插入新纪录时,可以不指定自增列ID的值,系统会获取当前ID最大值加1作为下一条记录的ID值。

也就是说,自增主键的插入数据模式,正符合递增插入的场景。每次插入一条新记录,都是追加操作,都不涉及到挪动其他记录,也不会触发叶子节点的分裂。

而使用业务逻辑的字段做主键,则往往不容易保证有序插入,这样写数据成本相对较高。

主键长度越小,普通索引的叶子节点就越小,普通索引占用的空间也就越小
所以,从性能和存储方面考量,自增主键往往是更合理的选择。

使用业务字段 直接做主键的场景(典型的KV场景):

  • 只有1个索引
  • 该索引必须是唯一索引

总结

索引使用B+树结构,能够很好的配合磁盘的读写特性,减少单次查询的磁盘访问次数。

参考资料

《高性能MySQL》
《MySQL实战45讲》 作者:丁奇

写在后面

之前学习了大神丁奇的《MySQL实战45讲》,目前在看《高性能高MySQL》,也想自己整理一下MySQL知识点,发现力不从心,也发现大神之所以是大神,那是因为真的牛。

推荐大家还是去学习丁奇的《MySQL实战45讲》,条理清晰,循序渐进,深入浅出,通俗易懂。而且每一讲后面都有高质量的留言评论, 从中能获益良多。感谢!

  • 如有 错误之处 还请多多指正。希望能给您带来帮助。

  1. MySQL基础架构 ↩︎