欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

数据库事务系列-MySQL跨行事务模型

程序员文章站 2022-05-09 16:14:14
说来和MySQL倒是有缘,毕业的第一份工作就被分配到了RDS团队,主要负责把MySQL弄到云上做成数据库服务。虽说整天和MySQL打交道,但说实话那段时间并没有很深入的理解MySQL内核,做的事情基本都是围绕着MySQL做管控系统,比较上层。好在周边都是MySQL内核神级人物,在他们的熏陶下多多少少 ......

说来和mysql倒是有缘,毕业的第一份工作就被分配到了rds团队,主要负责把mysql弄到云上做成数据库服务。虽说整天和mysql打交道,但说实话那段时间并没有很深入的理解mysql内核,做的事情基本都是围绕着mysql做管控系统,比较上层。好在周边都是mysql内核神级人物,在他们的熏陶下多多少少对mysql的一些基本知识有一些零碎的记录和模糊的认识,这些基础对于今天整理理解mysql跨行事务模型非常重要。更重要的,有很多不解的地方也可以向大神请教。

mysql事务模型在网上也有很多的介绍,在写这篇文章之前本人也翻看了很多资料作为参考,以期让自己理解的更加深入全面。看了大多数介绍文章之后发现部分文章并不完整,比如有的只介绍了几种隔离级别下mysql的表现,并没有从技术角度进行解读。有的文章说的倒很全面,但缺乏些许条理,读起来并不容易理解。这也是笔者希望能够带给大家一点不一样的东西,从技术角度进行解读,并且利于理解。

mysql事务原子性保证

事务原子性要求事务中的一系列操作要么全部完成,要么不做任何操作,不能只做一半。原子性对于原子操作很容易实现,就像hbase中行级事务的原子性实现就比较简单。但对于多条语句组成的事务来说,如果事务执行过程中发生异常,需要保证原子性就只能回滚,回滚到事务开始前的状态,就像这个事务根本没有发生过一样。如何实现呢?

mysql实现回滚操作完全依赖于undo log,多说一句,undo log在mysql除了用来实现原子性保证之外,还用来实现mvcc,下文也会涉及到。使用undo实现原子性在操作任何数据之前,首先会将修改前的数据记录到undo log中,再进行实际修改。如果出现异常需要回滚,系统可以利用undo中的备份将数据恢复到事务开始之前的状态。下图是mysql中表示事务的基本数据结构,其中与undo相关的字段为insert_undo和update_undo,分别指向本次事务所产生的undo log。

数据库事务系列-MySQL跨行事务模型

事务回滚根据update_undo(或者insert_undo)找到对应的undo log,做逆向操作即可。对于已经标记删除的数据清理删除标记,对于更新数据直接回滚更新;插入操作稍微复杂一些,不仅需要删除数据,还需要删除相关的聚集索引以及二级索引记录。

undo log是mysql内核中非常重要的一块内容,涉及知识比较多而且复杂,比如:

  • 1. undo log必须在数据修改之前持久化,undo log持久化需不需要记录redo以防止宕机异常?如果需要就又涉及宕机恢复…

  • 2. 通过undo log如何实现mvcc?

  • 3. 那些undo log可以在什么场景下回收清理?如何清理?

mysql事务一致性保证:强一致性事务保证

mysql事务隔离级别


read uncommitted(ru技术解读:使用x锁实现写写并发)

read uncommitted只实现了写写并发控制,并没有有效的读写并发控制,导致当前事务可能读到其他事务中还未提交的修改数据,这些数据准确性并不靠谱(有可能被回滚掉),因此在此基础上作出的一切假设就都不靠谱的。在现实场景中很少有业务会选择该隔离级别。

写写并发实现机制和hbase并无两样,都是使用两阶段锁协议对相应记录加行锁实现。不过mysql中行锁机制比较复杂,根据行记录是否是主键索引、唯一索引、非唯一索引或者无索引等分为多种加锁情况。

  • 1. 如果id列是主键索引,mysql只会为聚簇索引记录加锁。

  • 2. 如果id列是唯一二级索引,mysql会为二级索引叶子节点以及聚簇索引记录加锁。

  • 3. 如果id列是非唯一索引,mysql会为所有满足条件(id = 15)的二级索引叶子节点以及对应的聚簇索引记录加锁。

  • 4. 如果id列是无索引的,sql会走聚簇索引全表扫描,并将扫描结果加载到sql server层进行过滤,因此innodb会为扫描过的所有记录先加上锁,如果sql server层过滤不符合条件,innodb会释放该锁。因此innodb会为扫描到的所有记录都加锁,很恐怖吧!

接下来无论是rc、rr,抑或是serialization,写写并发控制都使用上述机制,所以不再赘述。接下来会重点分析rc和rr隔离级别中的读写并发控制机制。

在详细介绍rc和rr之前,有必要在此先行介绍mysql中mvcc机制,因为rc和rr都使用mvcc机制实现事务之间的读写并发。只不过两者在实现细节上有一些区别,具体区别接下来再聊。

mvcc in mysql

mysql中mvcc机制相比hbase来说要复杂的多,涉及的数据结构也比较复杂。为了解释的比较清晰,以一个栗子为模版进行解释。比如当前有一行记录如下图所示:

数据库事务系列-MySQL跨行事务模型

前面四列是该行记录的实际列值,需要重点关注的是db_trx_id和db_roll_ptr两个隐藏列(对用户不可见)。其中db_trx_id表示修改该行事务的事务id,而db_roll_ptr表示指向该行回滚段的指针,该行记录上所有版本数据,在undo中都通过链表形式组织,该值实际指向undo中该行的历史记录链表。

现在假设有一个事务trx2修改了该行数据,该行记录就会变为下图形式,db_trx_id为最近修改该行事务的事务id(trx2),db_roll_ptr指向undo历史纪录链表:

数据库事务系列-MySQL跨行事务模型

了解了mysql行记录之后,再来看看事务的基本结构,下图是mysql的事务数据结构,上文我们提到过。事务在开启之后会创建一个数据结构存储事务相关信息、锁信息、undo log以及非常重要的read_view信息。

read_view保存了当前事务开启时整个mysql中所有活跃事务列表,如下图所示,在当前事务开启的时候,系统中活跃的事务有trx4、trx6、trx7以及trx10。另外,up_trx_id表示当前事务启动时,当前事务链表中最小的事务id;low_trx_id表示当前事务启动时,当前事务链表中最大的事务id。

数据库事务系列-MySQL跨行事务模型

read_view是实现mvcc的一个关键点,它用来判断记录的哪个版本对当前事务可见。如果当前事务要读取某行记录,该行记录的版本号(事务id)为trxid,那么:

  • 1. 如果trxid < up_trx_id,说明该行记录所在的事务已经在当前事务创建之前就提交了,所以该行记录对当前事务可见。

  • 2. 如果trxid > low_trx_id,说明该行事务所在的事务是在当前事务创建之后才开启,所以该行记录对当前事务不可见。

  • 3. 如果up_trx_id < trxid < low_trx_id, 那么表明该行记录所在事务在本次新事务创建的时候处于活动状态。从up_trx_id到low_trx_id进行遍历,如果trxid等于他们之中的某个事务id的话,那么不可见,否则可见。

以下面行记录为例,该行记录存在多个版本(trx2、trx5、trx7以及trx12),其中trx12是最新版本。看看该行记录中哪个版本对当前事务可见。

  • 1. 该行记录的最新版本为trx12,与当前事务read_view进行对比发现,trx12大于当前活跃事务列表中的最大事务trx10,表示trx12是在当前事务创建之后才开启的,因此不可见。

  • 2. 再查看该行记录的第二个最新版本为trx7,与当前事务read_view对比发现,trx7介于当前活跃事务列表最小事务id和最大事务id之间,表明该行记录所在事务在当前事务创建的时候处于活动状态,在活跃列表中遍历发现trx7确实存在,说明该事务还没有提交,所以对当前事务不可见。

  • 3. 继续查看该记录的第三个最新版本trx5,也介于当前活跃事务列表最小事务id和最大事务id之间,表明该行记录所在事务在当前事务创建的时候处于活动状态,但遍历发现该版本并不在活跃事务列表中,说明trx5对应事务已经提交(注:事务提交时间与事务编号没有任何关联,有可能事务编号大的事务先提交,事务编号小的事务后提交),因此trx5版本行记录对当前事务可见,直接返回。

数据库事务系列-MySQL跨行事务模型


read committed(技术解读:写写并发使用x锁,读写并发使用mvcc避免脏读)

上文介绍了mysql中mvcc技术实现机制,但要明白rc隔离级别下事务可见性,还需要get一个核心点:rc隔离级别下的事务在每次执行select时都会生成一个最新的read_view代替原有的read_view。

数据库事务系列-MySQL跨行事务模型

如上图所示,左侧为1号事务,在不同时间点对id=1的记录分别查询了三次。右侧为2号事务,对id=1的记录进行了更新。更新前该记录只有一个版本,更新好变成了两个版本。

1号事务在rc隔离级别下每次执行select请求都会生成一个最新的read_view,前两次查询生成的全局事务活跃列表中包含trx2,因此根据mvcc规定查到的记录为老版本;最后一次查询的时间点位于2号事务提交之后,因此生成的全局活跃事务列表中不包含trx2,此时在根据mvcc规定查到的记录就是最新版本记录。

repeatable read(技术解读:写写并发使用x锁,读写并发使用mvcc避免不可重复读;当前读使用gap锁避免幻读)

和rc模式不同,rr模式下事务不会再每次执行select的时候生成最新的read_view,而是在事务第一次select时就生成read_view,后续不会再变更,直至当前事务结束。这样可以有效避免不可重复读,使得当前事务在整个事务过程中读到的数据都保持一致。示意图如下所示:

数据库事务系列-MySQL跨行事务模型

这个就很容易理解,三次查询所使用的全局活跃事务列表都一样,且都是第一次生成的read_view,那之后查到的记录必然和第一次查到的记录一致。

rr隔离级别能够避免幻读吗?

如果对幻读还不了解的话,可以参考该系列的第一篇文章。如下图所示,1号事务对针对id>1的过滤条件执行了三次查询,2号事务执行了一次插入,插入的记录刚好符合id>1这个条件。可以看出来,三次查询得到的数据是一致的,这个是由rr隔离级别的mvcc机制保证的。这么看来,是避免了幻读,但是在最后1号事务在id=2处插入一条记录,mysql会返回duplicate entry的错误,可见避免了幻读是一种假象。

数据库事务系列-MySQL跨行事务模型

严格意义避免幻读(技术解读:当前读使用gap锁避免幻读)

之前提到的所有rr级别的select语句我们称为快照读,快照读能够保证不可重复读,但并不能避免幻读。于是mysql又提出”当前读”的概念,常见的当前读语句有:

1.  select for update

2.  select lock in share mode

3.  update / delete

并且规定,rr级别下当前读语句会给记录加上一种特殊的锁-gap锁,gap锁并不锁定某个具体的记录,而是锁定记录与记录之间的间隔,保证这个间隔中不会插入新的其他记录。下图是一个示意图:

数据库事务系列-MySQL跨行事务模型

上图中1号事务首先执行了一个当前读的select语句,这个语句会在 id > 0的所有间隔加上gap锁,接下来2号事务在id = 3处执行插入时系统就会返回lock wait timeout execcded的异常。当然,其他事务可以在id <= 0的条件下插入成功,这没问题。

serializable (技术解读:s锁(读)+x锁(写))

serialization隔离级别是最严格的隔离级别,所有读请求都会加上读锁,不分快照读和当前读,所有写会加上写锁。当然,这种隔离级别的性能因为锁开销而相对最差。

mysql事务持久性保证

mysql事务持久化策略和hbase基本相同,但是涉及的组件相对比较多,主要有doublewrite、redo log以及binlog:

1. mysql数据持久化(doublewrite)

实际上mysql的真实数据写入分为两次写入,一次写入到一个称为doublewrite的地方,写成功之后再真实写入数据所在磁盘。为什么要写两次?这是因为mysql数据页大小与磁盘一次原子操作大小不一致,有可能会出现部分写入的情况,比如默认innodb数据页大小为16k,而磁盘一次原子写入大小为512字节(扇区大小),这样一个数据页写入需要多次io,这样一旦中间发生异常就会出现数据丢失。另外需要注意的是doublewrite性能并不会影响太大,因为写入doublewrite是顺序写入,对性能影响来说不是很大。

2. redolog持久化策略(innodb_flush_log_at_trx_commit)

redolog是innodb的wal,数据先写入redolog并落盘,再写入更新到bufferpool。redolog的持久化策略和hbase中hlog的持久化策略一致,默认为1,表示每次事务提交之后log就会持久化到磁盘;该值为0表示每隔1秒钟左右由异步线程持久化到磁盘,这种情况下mysql发生宕机有可能会丢失部分数据。该值为2表示每次事务提交之后log会flush到操作系统缓冲区,再由操作系统异步flush到磁盘,这种情况下mysql发生宕机不会丢失数据,但机器宕机有可能会丢失部分数据。

3. binlog持久化策略(sync_binlog)

binlog作为server层的日志系统,主要以events的形式顺序纪录了数据库的各种操作,同时可以纪录每次操作所花费的时间。在mysql官方文档上,主要介绍了binlog的两个最基本核心作用:备份和复制,因此binlog的持久化会一定程度影响数据备份和复制的完整性。和redo持久化策略相同,可取值有0,1,n。默认为0,表示写入操作系统缓冲区,异步flush到磁盘。该值为1表示同步写入磁盘。为n则表示每写n次操作系统缓冲就执行一次刷新操作。

总结一下,本文是数据库事务系列文章的第三篇,核心介绍了mysql的单机跨行事务模型,其中对隔离性所涉及到的锁技术、mvcc机制进行了比较详细的说明。对事务原子性、持久性等相关特性也进行简单的分析和说明。接着笔者将会带大家一起聊聊分布式事务模型,看看和单机事务模型到底有何区别。