MySQL全局锁和表锁的深入理解
前言
根据加锁的范围,mysql 里面的锁大致可以分成全局锁,表级锁,行锁。
行锁已经在前面几篇文章说过
1. 全局锁
全局锁就是对整个数据库实例加锁。mysql 提供了一个加全局读锁的方法,命令是flush tables with read lock (ftwrl)
。
当你需要让整个库处于只读状态的时候,可以使用这个命令,之后其他线程的以下语句会被阻塞:数据更新语句(数据的增删改)、数据定义语句(包括建表、修改表结构等)和更新类事务的提交语句。
1.1 全局锁使用场景
全局锁的典型使用场景是,做全库逻辑备份(mysqldump)。重新做主从时候
也就是把整库每个表都 select 出来存成文本。
以前有一种做法,是通过 ftwrl 确保不会有其他线程对数据库做更新,然后对整个库做备份。注意,在备份过程中整个库完全处于只读状态。
数据库只读状态的危险性:
如果你在主库上备份,那么在备份期间都不能执行更新,业务基本上就能停止。如果你在从库上备份,那么备份期间从库不能执行主库同步过来的binlog,会导致主从延迟。
注:上面逻辑备份,是不加--single-transaction
参数
看来加全局锁不太好。但是细想一下,备份为什么要加锁呢?来看一下不加锁会有什么问题?
1.2 不加锁产生的问题
比如手机卡,购买套餐信息
这里分为两张表 u_acount (用于余额表),u_pricing (资费套餐表)
步骤:
1 . u_account 表中数据 用户a 余额:300
u_pricing 表中数据 用户a 套餐:空
2. 发起备份,备份过程中先备份u_account表,备份完了这个表,这个时候u_account 用户余额是300
3. 这个时候套用户购买了一个资费套餐100,餐购买完成,写入到u_print套餐表购买成功,备份期间的数据。
4. 备份完成
可以看到备份的结果是,u_account 表中的数据没有变, u_pricing 表中的数据 已近购买了资费套餐100.
哪这时候用这个备份文件来恢复数据的话,用户a 赚了100 ,用户是不是很舒服啊。但是你的想想公司利益啊。
也就是说,不加锁的话,备份系统备份的得到的库不是一个逻辑时间点,这个数据是逻辑不一致的。
1.3 为什么需要全局读锁(ftwrl)
可能有的人在疑惑,官方自带的逻辑备份工具是 mysqldump。当 mysqldump 使用参数--single-transaction的时候,导数据之前就会启动一个事务,来确保拿到一致性快照视图。而由于 mvcc 的支持,这个过程中数据是可以正常更新的。
为什么还需要 ftwrl 呢?
一致性读是好,但前提是引擎要支持这个隔离级别。比如,对于 myisam 这种不支持事务的引擎,如果备份过程中有更新,总是只能取到最新的数据,那么就破坏了备份的一致性。这时,我们就需要使用ftwrl 命令了。
所以,single-transaction 方法只适用于所有的表使用事务引擎的库。如果有的表使用了不支持事务的引擎,那么备份就只能通过 ftwrl 方法。这往往是 dba 要求业务开发人员使用 innodb 替代 myisam 的原因之一。
1.4 全局锁两种方法
一.flush tables write read lock
二.set global readonly=true
既然要全库只读,为什么不使用 set global readonly=true 的方式呢?确实 readonly 方式也可以让全库进入只读状态,但我还是会建议你用 ftwrl 方式,主要有几个原因:
一是,在有些系统中,readonly 的值会被用来做其他逻辑,比如用来判断一个库是主库还是备库。因此,修改 global 变量的方式影响面更大,我不建议你使用。
二是,在异常处理机制上有差异。如果执行ftwrl 命令之后由于客户端发生异常断开,那么 mysql 会自动释放这个全局锁,整个库回到可以正常更新的状态。而将整个库设置为 readonly 之后,如果客户端发生异常,则数据库就会一直保持 readonly 状态,这样会导致整个库长时间处于不可写状态,风险较高。
三是,readonly 对super用户权限无效
注 :业务的更新不只是增删改数据(dml),还有可能是加字段等修改表结构的操作(ddl)。不论是哪种方法,一个库被全局锁上以后,你要对里面任何一个表做加字段操作,都是会被锁住的。
即使没有被全局锁住,加字段也不是就能一帆风顺的,还有表级锁了
2. 表级锁
mysql 里面表级别的锁有两种:一种是表锁,一种是元数据锁(meta data lock,mdl)。
2.1 表锁
lock tables 表名 read;#该表可以读,不能ddl 和 dml 中增删改,只能读取表数据
lock tables 表名 read;# 既不能读,也不能写
表锁的语法是 lock tables … read/write。与 ftwrl 类似,可以用 unlock tables 主动释放锁,也可以在客户端断开的时候自动释放。需要注意,lock tables 语法除了会限制别的线程的读写外,也限定了本线程接下来的操作对象。
举个例子, 如果在某个线程 a 中执行 lock tables t1 read, t2 write; 这个语句,则其他线程写 t1、读写 t2 的语句都会被阻塞。同时,线程 a 在执行 unlock tables 之前,也只能执行读 t1、读写 t2 的操作。连写 t1 都不允许,自然也不能访问其他表。
在还没有出现更细粒度的锁的时候,表锁是最常用的处理并发的方式。而对于 innodb 这种支持行锁的引擎,一般不使用 lock tables 命令来控制并发,毕竟锁住整个表的影响面还是太大
2.2 mdl 锁
另一类表级的锁是 mdl(metadata lock)。mdl 不需要显式使用,在访问一个表的时候会被自动加上。mdl 的作用是,保证读写的正确性。你可以想象一下,如果一个查询正在遍历一个表中的数据,而执行期间另一个线程对这个表结构做变更,删了一列,那么查询线程拿到的结果跟表结构对不上,肯定是不行的。
因此,在 mysql 5.5 版本中引入了 mdl,当对一个表做增删改查操作的时候,加 mdl读锁;当要对表做结构变更操作的时候,加 mdl 写锁
- 读锁之间不互斥,因此你可以有多个线程同时对一张表增删改查。
- 读写锁之间、写锁之间是互斥的,用来保证变更表结构操作的安全性。因此,如果有两个线程要同时给一个表加字段,其中一个要等另一个执行完才能开始执行。
虽然 mdl 锁是系统默认会加的,但却是你不能忽略的一个机制。
比如下面这个例子,我经常看到有人掉到这个坑里:给一个小表加个字段,导致整个库挂了。
肯定知道,给一个表加字段,或者修改字段,或者加索引,需要扫描全表的数据。在对大表操作的时候,你肯定会特别小心,以免对线上服务造成影响。而实际上,即使是小表,操作不慎也会出问题。我们来看一下下面的操作序列,假设表 t 是一个小表。
show full processlist
查看mdl 锁详情
我们可以看到 session a 先启动,这时候会对表 t 加一个 mdl 读锁。由于 session b 需要的也是 mdl 读锁,因此可以正常执行。
之后 session c 会被 blocked,是因为 session a 的 mdl 读锁还没有释放,而 sessionc 需要mdl 写锁,因此只能被阻塞。
如果只有 session c 自己被阻塞还没什么关系,但是之后所有要在表 t 上新申请 mdl 读锁的请求也会被 session c 阻塞。前面说了,所有对表的增删改查操作都需要先申请mdl 读锁,就都被锁住,等于这个表现在完全不可读写了。
如果某个表上的查询语句频繁,而且客户端有重试机制,也就是说超时后会再起一个新session 再请求的话,这个库的线程很快就会爆满。
事务中的 mdl 锁,在语句执行开始时申请,但是语句结束后并不会马上释放,而会等到整个事务提交后再释放。
注 : 一般行锁都有锁超时时间。但是mdl锁没有超时时间的限制,只要事务没有提交就会一直锁注。
2.2.1 怎么解决了这个mdl锁
上面不是说了吗,提交或者回滚这个事务。所以要找到这个事务
怎么找到这个事务, 通过information_schema.innodb_trx
查看事务的执行时间
# 查看事务超过60s的事务 mysql> select * from information_schema.innodb_trx where time_to_sec(timediff(now(),trx_started))>60\g; trx_started 表示什么时候执行的这个事务 #查看系统当前时间 mysql> select now();
事务开始时间和系统现在时间,一看事务执行了这么久。
查看这个线程id
怎么处理了这个长事务的线程id了
首先看show full processlist; 中host 哪个字段 ,到底是谁连接了数据库。例:我上面是localhost环境,进去commit或者/rollback ,哪如果不是localhost 环境了,是程序连接了这时候就要kill掉了
2.2.2 我身上发生的趣事
上次有个dba 问我, 造成很大主从延迟,说要怎么解决。
我说你怎么解决的延迟, 知道主从延迟造成的具体的原因吗?
ta给我说,开启了多线程, 但是延迟还是很大,基本没怎么用到多线程。
我说你怎么知道主从延迟,需要开启多线程复制来解决, ta给我说,网上别人blog这莫说的,我一口老血吐出来。
后来又问ta, 主从延迟正常情况下,做了什么操作, ta给我说修改了alter 表结构。
然后让ta 看是不是mdl 锁造成的,让tashow full processlist
,一看果然是mdl 锁原因。
然后跟ta 说 找长事务, 找到以后跟开发商议,这个长事务在做什么操作可不可以kill掉。
注:这是我真实遇到,别人问我这样问题。首先你要知道造成这个结果,你事先做了什么操作, 然后解决这个问题,最根本你还是要知道原因,然后下次避免。
还有网上的环境,系统版本,应用版本,遇到问题的情况,跟你是不是一样,有时候不要盲目相信。
2.3 如何安全地给小表加字段?
首先我们要解决长事务,事务不提交,就会一直占着 mdl 锁。在 mysql 的information_schema 库的 innodb_trx 表中,你可以查到当前执行中的事务。如果你要做 ddl 变更的表刚好有长事务在执行,要考虑先暂停 ddl,或者 kill 掉这个长事务。这也是为什么需要在低峰期做ddl 变更,当然也要考虑具体做什么ddl,参考官方的online ddl。
2.4 online ddl 过程
- 拿mdl写锁
- 降级成mdl读锁
- 真正做ddl
- 升级成mdl写锁
- 释放mdl锁
1、2、4、5如果没有锁冲突,执行时间非常短。第3步占用了ddl绝大部分时间,这期间这个个表可以正常读写数据,是因此称为”online”
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对的支持。
下一篇: 你知道这些多喝牛奶的坏处么