存储引擎简介

一.存储引擎简介

• 1、文件系统：
  • 1.1 操作系统组织和存取数据的一种机制。
  • 1.2 文件系统是一种软件。
• 2、文件系统类型：ext2 3 4 ，xfs 数据(centos6 ext 4 centos7 xfs)
  • 2.1 不管使用什么文件系统，数据内容不会变化
  • 2.2 不同的是，存储空间、大小、速度。
• 3、mysql引擎：
  • 3.1 可以理解为，mysql的“文件系统”，只不过功能更加强大。
• 4、mysql引擎功能：
  • 4.1 除了可以提供基本的存取功能，还有更多功能事务功能、锁定、备份和恢复、优化以及特殊功能

总之，存储引擎的各项特性就是为了保障数据库的安全和性能设计结构。

二.mysql自带的存储引擎类型

mysql 提供以下存储引擎:
01）innodb
02）myisam
03）memory
04）archive
05）federated
06）example
07）blackhole
08）merge
09）ndbcluster
10）csv

---

还可以使用第三方存储引擎:
01）mysql当中插件式的存储引擎类型
02）mysql的两个分支
03）perconadb
04）mariadb

#查看当前mysql支持的存储引擎类型
mysql> show engines
#查看innodb的表有哪些
mysql> select table_schema,table_name,engine from information_schema.tables where engine='innodb';
#查看myisam的表有哪些
mysql> select table_schema,table_name,engine from information_schema.tables where engine='myisam';

• 1、innodb和myisam的区别

物理上的区别：

#进入mysql目录
[root@db01~l]# cd /application/mysql/data/mysql
#查看所有user的文件
[root@db01 mysql]# ll user.*
-rw-rw---- 1 mysql mysql 10684 mar  6  2017 user.frm
-rw-rw---- 1 mysql mysql   960 aug 14 01:15 user.myd
-rw-rw---- 1 mysql mysql  2048 aug 14 01:15 user.myi
#进入word目录
[root@db01 world]# cd /application/mysql/data/world/
#查看所有city的文件
[root@db01 world]# ll city.*
-rw-rw---- 1 mysql mysql   8710 aug 14 16:23 city.frm
-rw-rw---- 1 mysql mysql 688128 aug 14 16:23 city.ibd

• 2.innodb存储引擎的简介

在mysql5.5版本之后，默认的存储引擎，提供高可靠性和高性能。

优点:
01）事务安全（遵从 acid）
02）mvcc（multi-versioning concurrency control，多版本并发控制）
03）innodb 行级别锁定
04）oracle 样式一致非锁定读取
05）表数据进行整理来优化基于主键的查询
06）支持外键引用完整性约束
07）大型数据卷上的最大性能
08）将对表的查询与不同存储引擎混合
09）出现故障后快速自动恢复(csr)
10）用于在内存中缓存数据和索引的缓冲区池

innodb核心特性

重点:
mvcc
事务
行级锁
热备份
crash safe recovery（自动故障恢复）

• 3.查看存储引擎

1）使用 select 确认会话存储引擎

#查询默认存储引擎
select @@default_storage_engine;

2）使用 show 确认每个表的存储引擎

#查看表的存储引擎
show create table city\g 
show table status like 'countrylanguage'\g

3）使用 information_schema 确认每个表的存储引擎

#查看表的存储引擎
mysql> select table_schema,table_name,engine from information_schema.tables \g
show create table city\g 

• 4.存储引擎的设置

1）在启动配置文件中设置服务器存储引擎

#在配置文件的[mysqld]标签下添加
[mysqld]
default-storage-engine=<storage engine>

2）使用 set 命令为当前客户机会话设置

#在mysql命令行中临时设置
set @@storage_engine=<storage engine>

（3）在 create table 语句指定

#建表的时候指定存储引擎
create table t (i int) engine = <storage engine>;



三.真实企业案例

项目背景：

公司原有的架构：一个展示型的网站，lamt，mysql5.1.77版本（myisam），50m数据量。

小问题不断：

• 1、表级锁：对表中任意一行数据修改类操作时，整个表都会锁定，对其他行的操作都不能同时进行。
• 2、不支持故障自动恢复（csr）：当断电时有可能会出现数据损坏或丢失的问题。

如何解决：

• 1、提建议将现有的myisam引擎替换为innodb，将版本替换为5.6.38
  • 1）如果使用myisam会产生”小问题”，性能安全不能得到保证，使用innodb可以解决这个问题。
  • 2）5.1.77版本对于innodb引擎支持不够完善，5.6.38版本对innodb支持非常完善了。
• 2、实施过程和注意要素

模拟环境

建表
mysql> create table test1(sid int,name varchar(11)) engine=myisam;

mysql> create table test1(sid int,name varchar(11)) engine=myisam;

mysql> create table test3(sid int,name varchar(11)) engine=myisam;

1）备份生产库数据（mysqldump）

[root@db01 ~]# mysqldump -uroot -p123 -a --triggers -r --master-data=2 >/tmp/full.sql
#-a系统库 -b程序业务恢复库

2）准备一个5.6.38版本的新数据库
3）对备份数据进行处理（将engine字段替换）

[root@db01 ~]# sed -i 's#engine=myisam#engine=innodb#g' /tmp/full.sql

4）将修改后的备份恢复到新库

mysql -uroot -p123 -h 10.0.0.52 </tmp/full.sql

#导出表
mysqldump -uroot -p3308 -s /data/3308/data/mysql.sock --tables test student

5）应用测试环境连接新库，测试所有功能
6）停应用，将备份之后的生产库发生的新变化，补偿到新库
7）应用割接到新数据库

项目结果：

解决了”小问题”

四.innodb存储引擎——表空间介绍

5.5版本以后出现共享表空间概念

表空间的管理模式的出现是为了数据库的存储更容易扩展

5.6版本中默认的是独立表空间

• 1、共享表空间

  innodb的所有数据保存在一个独立的表空间里面,而这个表空间可以由很多的文件组成,一个表可以跨越多个文件存在,所以其大小限制不在是文件大小限制,而是其自身的限制,默认最大限制为64tb,这个大小包括这个表的所有所有索引等相关的数据

1）查看共享表空间

#物理查看
[root@db01 ~]# ll /application/mysql/data/
-rw-rw---- 1 mysql mysql 79691776 aug 14 16:23 ibdata1
#命令行查看
mysql> show variables like '%path%';
innodb_data_file_path =bdata1:12m:autoextend

5.6版本中默认存储:
1.系统数据
2.undo(事务的日志,5.7改配置文件可以独立出来)
3.临时表(查询临时生成的表)

5.7版本中默认会将undo和临时表独立出来，5.6版本也可以独立，只不过需要在初始化的时候进行配置

2）设置方法

#编辑配置文件
[root@db01 ~]# vim /etc/my.cnf
[mysqld]
innodb_data_file_path=ibdata1:76m;ibdata2:50m:autoextend

• 2、独立表空间

对于用户自主创建的表，会采用此种模式，每个表由一个独立的表空间进行管理

1）查看独立表空间

#物理查看
[root@db01 ~]# ll /application/mysql/data/world/
-rw-rw---- 1 mysql mysql 688128 aug 14 16:23 city.ibd
#命令行查看
mysql> show variables like '%per_table%';
innodb_file_per_table=on

2)独立表空间

#物理查看
[root@db01 ~]# ll /application/mysql/data/world/
-rw-rw---- 1 mysql mysql 688128 aug 14 16:23 city.ibd
#命令行查看
mysql> show variables like '%per_table%';
innodb_file_per_table=on

企业案例

在没有备份数据的情况下，突然断电导致表损坏，打不开数据库。

模拟环境

db01 db02

1.打包表

tar tar.world.gz world
scp word  /application/mysql/data/

2.多实例模拟测试

1）拷贝库目录到新库中

[root@db01 ~]# cp -r /application/mysql/data/world/ /data/3307/data/

2）启动新数据库

[root@db01 ~]# mysqld_safe --defaults-file=/data/3307/my.cnf &

3）登陆数据库查看

mysql> show databases;

4）查询表中数据

mysql> select * from city;
error 1146 (42s02): table 'world.city' doesn't exist

5）找到以前的表结构在新库中创建表

mysql> show create table world.city;
#删掉外键创建语句
create table `city` (
  `id` int(11) not null auto_increment,
  `name` char(35) not null default '',
  `countrycode` char(3) not null default '',
  `district` char(20) not null default '',
  `population` int(11) not null default '0',
  primary key (`id`),
  key `countrycode` (`countrycode`),
  key `idx_city` (`population`,`countrycode`),
  constraint `city_ibfk_1` foreign key (`countrycode`) references `country` (`code`)
) engine=innodb auto_increment=4080 default charset=latin1;

6）删除表空间文件

mysql> alter table city_new discard tablespaces;

7）拷贝旧表空间文件

[root@db01 world]# cp -a /data/3307/data/world/city.ibd /data/3307/data/world/city_new.ibd #加-a不需要授权

8）授权

[root@db01 world]# chown -r mysql.mysql *

9）导入表空间

mysql> alter table city_new import tablespace; 

10)物理删除旧表

[root@db02 world]# rm -fr city.*

11)改表明

mysql> alter table city1 rename city;

12)如果是新库,应用割接(修改代码连库的ip)

五.innodb核心特性——事务

• 1.什么是事务

主要针对dml语句（update，delete，insert）

一组数据操作执行步骤，这些步骤被视为一个工作单元:
1）用于对多个语句进行分组
2）可以在多个客户机并发访问同一个表中的数据时使用

---

所有步骤都成功或都失败
1）如果所有步骤正常，则执行
2）如果步骤出现错误或不完整，则取消

• 2.事务的通俗理解

伴随着“交易”出现的数据库概念。

我们理解的“交易”是什么？
1）物与物的交换（古代）
2）货币现金与实物的交换（现代1）
3）虚拟货币与实物的交换（现代2）
4）虚拟货币与虚拟实物交换（现代3）

---

数据库中的“交易”是什么？
1）事务又是如何保证“交易”的“和谐”？
2）acid

• 3.事务acid特性

---

atomic（原子性）
所有语句作为一个单元全部成功执行或全部取消。

consistent（一致性）
如果数据库在事务开始时处于一致状态，则在执行该。
事务期间将保留一致状态。

isolated（隔离性）
事务之间不相互影响。

durable（持久性）
事务成功完成后，所做的所有更改都会准确地记录在
数据库中。所做的更改不会丢失。

---

• ** 4.事务流程举例**
  

• 5.事务的控制语句

如下:
start transaction（或 begin）：显式开始一个新事务
savepoint：分配事务过程中的一个位置，以供将来引用
commit：永久记录当前事务所做的更改
rollback：取消当前事务所做的更改
rollback to savepoint：取消在 savepoint 之后执行的更改
release savepoint：删除 savepoint 标识符
set autocommit：为当前连接禁用或启用默认 autocommit 模式

一个成功事务的生命周期

begin;
sql1
sql2
sql3
...
commit;

一个失败事务的生命周期

begin;
sql1
sql2
sql3
...
rollback;

• 3.自动提交

#查看自动提交
mysql> show variables like 'autocommit';
#临时关闭
mysql> set autocommit=0;
#永久关闭,(企业中一般不关闭)
[root@db01 world]# vim /etc/my.cnf
[mysqld]
autocommit=0

• 4.事务演示

1）成功事务

mysql> create table stu(id int,name varchar(10),sex enum('f','m'),money int);
mysql> begin;
mysql> insert into stu(id,name,sex,money) values(1,'zhang3','m',100), (2,'zhang4','m',110);
mysql> commit;

2）事务回滚

mysql> begin;
mysql> update stu set name='zhang3';
mysql> delete from stu;
mysql> rollback;

• 6.事务隐式提交情况

1）现在版本在开启事务时，不需要手工begin，只要你输入的是dml语句，就会自动开启事务。
2）有些情况下事务会被隐式提交

例如:
在事务运行期间，手工执行begin的时候会自动提交上个事务
在事务运行期间，加入ddl、dcl操作会自动提交上个事务
在事务运行期间，执行锁定语句（lock tables、unlock tables）
load data infile
select for update (查询sql语句的执行结果)
在autocommit=1的时候

• 7.事务日志redo基本功能

1）redo是什么？

redo,顾名思义“重做日志”，是事务日志的一种。

2）作用是什么？

在事务acid过程中，实现的是“d”持久化的作用。

特性:wal(write ahead log)日志优先写
redo：记录的是，内存数据页的变化过程

3）redo工作过程

#执行步骤
update t1 set num=2 where num=1; 

1）首先将t1表中num=1的行所在数据页加载到内存中buffer page
2）mysql实例在内存中将num=1的数据页改成num=2
3）num=1变成num=2的变化过程会记录到，redo内存区域，也就是redo buffer page中

#提交事务执行步骤
commit; 

1）当敲下commit命令的瞬间，mysql会将redo buffer page写入磁盘区域redo log
2）当写入成功之后，commit返回ok

• 8.redo数据实例恢复过程

• 9.事务日志undo

1）undo是什么？

undo,顾名思义“回滚日志”，是事务日志的一种。

_2）作用是什么？

在事务acid过程中，实现的是“a”原子性的作用。当然ci的特性也和undo有关

• 10.redo和undo的存储位置

#redo位置
[root@db01 data]# ll /application/mysql/data/
-rw-rw---- 1 mysql mysql 50331648 aug 15 06:34 ib_logfile0
-rw-rw---- 1 mysql mysql 50331648 mar  6  2017 ib_logfile1
#undo位置
[root@db01 data]# ll /application/mysql/data/
-rw-rw---- 1 mysql mysql 79691776 aug 15 06:34 ibdata1
-rw-rw---- 1 mysql mysql 79691776 aug 15 06:34 ibdata2

在mysql5.6版本中undo是在ibdata文件中，在mysql5.7版本会独立出来。

• 11.事务中的锁

1）什么是“锁”？

“锁”顾名思义就是锁定的意思。

2）“锁”的作用是什么？

在事务acid特性过程中，“锁”和“隔离级别”一起来实现“i”隔离性的作用。

排他锁：保证在多事务操作时，数据的一致性。
共享锁：保证在多事务工作期间，数据查询时不会被阻塞。

悲观锁:同时修改数据,谁先修改谁为准

乐观锁:谁先提交就是谁为准

• 12.多版本并发控制（mvcc）

1）只阻塞修改类操作，不阻塞查询类操作(排他锁,共享锁)
2）乐观锁的机制（谁先提交谁为准）

• 13.锁的粒度
  myisam：低并发锁（表级锁）
  innodb：高并发锁（行级锁）

  ==行级锁.必须的有聚集索引(主键),否则还是表级锁==

• 14.事务的隔离级别

四种隔离级别：

read uncommitted（独立提交）ru级别
允许事务查看其他事务所进行的未提交更改

read committed rc级别 (容易出现幻读)
允许事务查看其他事务所进行的已提交更改

repeatable read****** rr级别 (可以解决幻读,退出重连)
确保每个事务的 select 输出一致
innodb 的默认级别

serializable 串行化级别 (在事务执行的过程中,阻断查询结果)
将一个事务的结果与其他事务完全隔离

#查看隔离级别
mysql> show variables like '%iso%';
#修改隔离级别为ru
[mysqld]
transaction_isolation=read-uncommit
mysql> use oldboy
mysql> select * from stu;
mysql> insert into stu(id,name,sex,money) values(2,'li4','f',123);
#修改隔离级别为rc
[mysqld]
transaction_isolation=read-commit

脏读 幻读 重复读 查询原因，和解决办法

一个事务读到另外一个事务还没有提交的数据，我们称之为脏读。解决方法：把事务隔离级别调整到read committed

一个事务先后读取同一条记录，但两次读取的数据不同，我们称之为不可重复读。解决方法：把事务隔离级别调整到repeatable read。

一个事务先后读取一个范围的记录，但两次读取的纪录数不同，我们称之为幻象读。解决方法：把事务隔离级别调整到serializable。

1, 脏读

一个事务读到另一个事务，尚未提交的修改，就是脏读。这里所谓的修改，除了update操作,不要忘了,还包括
insert和delete操作。

脏读的后果：如果后一个事务回滚，那么它所做的修改，统统都会被撤销。前一个事务读到的数据，就是垃圾数据。


举个例子：预订房间。
有一张reservation表，往表中插入一条记录，来订购一个房间。

 事务1：在reservation表中插入一条记录，用于预订99号房间。

 事务2：查询，尚未预定的房间列表，因为99号房间，已经被事务1预订。所以不在列表中。

 事务1：信用卡付款。由于付款失败，导致整个事务回滚。
        所以插入到reservation 表中的记录并不置为持久（即它将被删除）。

现在99号房间则为可用。
所以，事务2所用的是一个无效的房间列表，因为99号房间，已经可用。如果它是最后一个没有被预定的房间，那么这将是一个严重的失误。

注：脏读的后果很严重。

 

2，不可重复读。

在同一个事务中，再次读取数据时【就是你的select操作】，所读取的数据，和第1次读取的数据，不一样了。就是不可重复读。

举个例子：
 事务1：查询99号房间是否为双人床房间。结果99号是。

 事务2：将99号房间，改成单人床房间。

 事务1：再次执行查询，99号房间不是双人房了。也就是说， 事务1，可以看到其他事务所做的修改。


在不可重复读，里面，可以看到其他事务所做的修改，而导致2次的查询结果不再一样了。
这里的修改，是提交过的。也可以是没有提交的，这种情况同时也是脏读。

如果，数据库系统的隔离级别。允许，不可重复读。那么你启动一个事务，并做一个select查询操作。
查询到的数据，就有可能，和你第2次，3次...n次，查询到的数据不一样。一般情况下，你只会做一次，select
查询，并以这一次的查询数据，作为后续计算的基础。因为允许出现，不可重复读。那么任何
时候，查询到的数据，都有可能被其他事务更新，查询的结果将是不确定的。


注：如果允许，不可重复读，你的查询结果，将是不确定的。一个不确定的结果，你能容忍吗？


3，幻读
事务1读取指定的where子句所返回的一些行。然后，事务2插入一个新行，这个新行也满足事务1使用的查询
where子句。然后事务1再次使用相同的查询读取行，但是现在它看到了事务2刚插入的行。这个行被称为幻象，
因为对事务1来说，这一行的出现是不可思议的。


举个例子：
事务1：请求没有预定的，双人床房间列表。99号在其中。
事务2：向reservation表中插入一个新纪录，以预订99号房间，并提交。
事务1：再次请求有双人床的未预定的房间列表，99号房间，不再位于列表中。


注：幻读，针对的是，insert操作。如果事务2，插入的记录，没有提交。那么同时也是脏读。