MySQL学习-3|深入浅出索引(上)
MySQL数据库学习- 3 | 深入浅出索引-上
索引模型
环境: MySQL 5.7.24, for linux-glibc2.12 (x86_64)
简单来说,索引的出现其实就是为了 提高数据查询 的效率,就像书的目录一样。对于数据库的表而言,索引其实就是它的"目录"。
- MySQL 中,索引是在存储引擎层1实现的,所以并没有统一的索引标准。不同的存储引擎的索引,工作方式并不一样。即使多个存储引擎支持同一种类型的索引,其底层实现也可能不同。
用于提高读写效率的数据结构有很多,以下介绍三种常见、也比较简单的数据结构:哈希表、有序数组、搜索树。还有跳表、LSM树等数据结构也被用于引擎设计中。
哈希表
哈希表 是一种键-值(key-value)存储数据的结构。只要输入待查找的key,就可以找到其对应的value。
- 哈希的思路很简单,把值放在数组里,用一个哈希函数把key换算成一个确定的位置,然后把value放在数组的这个位置。
- 不可避免地,多个key值经过哈希函数的换算,会出现同一个值(value)的情况。处理这种情况的一种方法是,拉出一个链表。
- 哈希表这种数据结构适用于只有等值查询的场景。例如Memcached及其他一些NoSQL引擎。
- 哈希表不是有序的,对新增记录会很快,只需往后追加,但缺点是做区间查询的速度是很慢的。
用户表User:身份证信息ID_card_n、姓名name。
ID_card_n1…ID_card_n4的值,并不是递增的,对应的哈希索引示意图如下:
上图中的User2与User4表示的含义为2个用户的身份证号码调用哈希函数换算出的value都是N,所以后面跟了一个链表。
假设此时要查ID_card_n2对应的name,处理步骤:首先,将ID_card_n2通过哈希函数算出N;然后,找到N,按顺序遍历找到User2。
设想一下,如果查询身份证号在[ID_card_X,ID_card_Y]这个区间的用户,哈希结构就只能全部扫描一遍了。而有序数组在范围查询场景中的优势就很明显了。
有序数组
- 有序数组在等值查询和范围查询场景中的性能都非常优秀。
- 仅仅看查询效率,有序数组是最好的数据结构,但是,在需要更新数据的时候,例如在中间插入一条记录,就必须得挪动后面所有的记录,成本太高。
- 有序数组只适用于静态存储引擎。例如2017年某城市的人口信息这类不会再修改的数据。
在用户表User:身份证信息ID_card_n、姓名name示例中,假设递增顺序如下,用有序数组实现示意图:
假设身份证号没有重复,这个数组就是按照身份证号递增的顺序保存的。如果想要查询ID_card_n2对应的name,用二分法就可以快速得到,时间复杂度是O(log(N))。
如果查询[ID_card_X,ID_card_Y]这个区间的用户,可以先用二分法找到ID_card_X(如果不存在ID_card_X,就找到大于ID_card_X的第一个User),然后向右遍历,直到查到第一个大于ID_card_Y的身份证号,退出循环。
搜索树
- 二叉搜索树特点:每个节点的左儿子 小于 父节点,父节点 小于 右儿子。
在用户表User:身份证信息ID_card_n、姓名name示例用二叉搜索树来实现如下:
如果想要查询ID_card_n2对应的name,按照图中的搜索顺序就是按照 UserA->UserC->UserF->User2这个路径得到,时间复杂度O(log(N))。
为了维持O(log(N))的查询复杂度,就需要保持这棵树是平衡二叉树。为了做这个保证,更新的时间复杂度也是O(log(N))。
- 树可以有二叉,也可以有多叉。多叉树就是每个节点有多个儿子,儿子之间的大小保证从左到右递增。
- 搜索树中,二叉树的搜索效率最高,但实际上大多数的数据库存储却不使用二叉树。其原因是,索引不止存在内存中,还要写到磁盘上。
- N叉树由于在读写上的性能优点,以及适配磁盘的访问模式,已经被广泛应用在数据库引擎中。
想象一下一棵100万节点的平衡二叉树,树高20。一次查询可能需要访问20个数据块。在机械硬盘时代,从磁盘随机读一个数据块需要10ms左右的寻址时间。也就是说,对于一个100万行的表,如果使用二叉树来存储,单独访问一个行可能需要20个10ms的时间。
为了让一个查询尽量少地读磁盘,就必须让查询过程访问尽量少的数据块。那么,我们就不应该使用二叉树,而是要使用N叉树。N取决于数据块的大小。
以InnoDB的一个整数字段索引为例,这个N差不多是1200。这棵树高是4的时候,就可以存储1200的3次方个值(17亿+)。考虑到树根的数据块总是在内存中的,一个10亿行的表上一个整数字段的索引,查找一个值最多只需要访问3次磁盘。其实,树的第二层也有很大概率在内存中,那么访问磁盘的平均次数就更少了。
- 数据库存储的核心就是基于这些数据结构模型的,每碰到一个新数据库,我们需要先关注它的 数据模型 ,这样才能从理论上分析出这个数据库的适用场景。
InnoDB的索引模型
- 在 InnoDB 引擎中,表都是根据主键顺序以索引的形式存放的,这种存储方式的表称为 索引组织表 。
- InnoDB 引擎使用B+树索引模型,所以数据都是存储在B+树中的。
- 每一个索引在 InnoDB 里面对应一棵B+树。
示例分析
假设,表T有一个主键ID,表中有字段k,并且在k上有索引。新增5条R1~R5记录,如下
-- CREATE
mysql> create table T(
id int primary key,
k int not null,
name varchar(16),
index k(k))engine=InnoDB;
-- INSERT
mysql> insert T(`id`, `k`, `name`) values
(100,1,'nm1'),
(200,2,'nm2'),
(300,3,'nm3'),
(500,5,'nm5'),
(600,6,'nm6');
表T的主键ID和k索引的两棵树示例如下:
主键索引和普通索引
- 索引类型分为主键索引 和 非主键索引。
- InnoDB中,主键索引也被称为聚簇索引(clustered index),非主键索引也被称为二级索引(secondary index)。
- 主键索引的叶子节点存储的是整行数据。
- 非主键索引的叶子节点存储的是主键的值。
- 主键长度越小,普通索引的叶子节点就越小,普通索引占用的空间也就越小。
基于主键索引和普通索引的查询的区别
mysql> select * from T where ID=500;
主键查询方式,只需要搜索ID这课B+树;
mysql> select * from T where k=5;
普通索引查询方式,则需要先搜索k索引这课B+树,得到ID的值为500,再到ID索引树搜索一次。这个过程称为回表。
也就是说,基于非主键索引的查询,需要多扫描一棵索引树。因此,在应用中应该尽量使用主键查询。
索引维护
B+树为了维护索引有序性,在插入新值的时候需要做必要的维护。
以上图为例,如果插入新行ID=700,则只需要在R5记录后插入一个新记录。
如果插入新行ID=400,就相对麻烦了,需要逻辑上挪动后面的数据,空出位置。
更糟的情况是,如果R5所在的数据页已经满了,根据B+树的算法,这时候需要申请一个新的数据页,然后挪动部分数据过去。这个过程称为页分裂。这种情况下,性能自然会受影响。
除了性能外,页分裂操作还影响数据页的利用率。原本放在一个页的数据,现在分到两个页中,整体空间利用率降低大约50%。
有页分裂就有页合并。当相邻两个数据页由于删除了数据,利用率很低之后,会将数据页做合并。合并的过程,可以认为是分裂过程的逆过程。
自增主键是指自增列上定义的主键。在建表语句中一般是这么定义的:
not null primary key auto_increment
插入新纪录时,可以不指定自增列ID的值,系统会获取当前ID最大值加1作为下一条记录的ID值。
也就是说,自增主键的插入数据模式,正符合递增插入的场景。每次插入一条新记录,都是追加操作,都不涉及到挪动其他记录,也不会触发叶子节点的分裂。
而使用业务逻辑的字段做主键,则往往不容易保证有序插入,这样写数据成本相对较高。
主键长度越小,普通索引的叶子节点就越小,普通索引占用的空间也就越小 。
所以,从性能和存储方面考量,自增主键往往是更合理的选择。
使用业务字段 直接做主键的场景(典型的KV场景):
- 只有1个索引
- 该索引必须是唯一索引
总结
索引使用B+树结构,能够很好的配合磁盘的读写特性,减少单次查询的磁盘访问次数。
参考资料
《高性能MySQL》
《MySQL实战45讲》 作者:丁奇
写在后面
之前学习了大神丁奇的《MySQL实战45讲》,目前在看《高性能高MySQL》,也想自己整理一下MySQL知识点,发现力不从心,也发现大神之所以是大神,那是因为真的牛。
推荐大家还是去学习丁奇的《MySQL实战45讲》,条理清晰,循序渐进,深入浅出,通俗易懂。而且每一讲后面都有高质量的留言评论, 从中能获益良多。感谢!
- 如有 错误之处 还请多多指正。希望能给您带来帮助。
上一篇: 安装tortoise svn提示invalid drive G:\
下一篇: Flex布局