MySQL中使用innobackupex、xtrabackup进行大数据的备份和还原教程

大数据量备份与还原，始终是个难点。当mysql超10g，用mysqldump来导出就比较慢了。在这里推荐xtrabackup,这个工具比mysqldump要快很多。

一、xtrabackup介绍

1、xtrabackup是什么

xtrabackup是一个对innodb做数据备份的工具，支持在线热备份(备份时不影响数据读写)，是商业备份工具innodb hotbackup的一个很好的替代品。

xtrabackup有两个主要的工具：xtrabackup、innobackupex

1、xtrabackup只能备份innodb和xtradb两种数据表，而不能备份myisam数据表
2、 innobackupex是参考了innodb hotbackup的innoback脚本修改而来的.innobackupex是一个perl脚本封装，封装了xtrabackup。主要是为了方便的 同时备份innodb和myisam引擎的表，但在处理myisam时需要加一个读锁。并且加入了一些使用的选项。如slave-info可以记录备份恢 复后，作为slave需要的一些信息，根据这些信息，可以很方便的利用备份来重做slave。

2、xtrabackup可以做什么 :

在线(热)备份整个库的innodb、 xtradb表

在xtrabackup的上一次整库备份基础上做增量备份(innodb only)
以流的形式产生备份，可以直接保存到远程机器上(本机硬盘空间不足时很有用)

mysql数据库本身提供的工具并不支持真正的增量备份，二进制日志恢复是point-in-time(时间点)的恢复而不是增量备份。
xtrabackup工具支持对innodb存储引擎的增量备份，工作原理如下：

(1)首先完成一个完全备份，并记录下此时检查点的lsn(log sequence number)。
(2)在进程增量备份时，比较表空间中每个页的lsn是否大于上次备份时的lsn，如果是，则备份该页，同时记录当前检查点的lsn。
首 先，在logfile中找到并记录最后一个checkpoint(“last checkpoint lsn”)，然后开始从lsn的位置开始拷贝innodb的logfile到xtrabackup_logfile；接着，开始拷贝全部的数据文 件.ibd；在拷贝全部数据文件结束之后，才停止拷贝logfile。

因为logfile里面记录全部的数据修改情况，所以，即时在备份过程中数据文件被修改过了，恢复时仍然能够通过解析xtrabackup_logfile保持数据的一致。

因为innobackupex支持innodb,myisam,所以本文说一下，怎么使用innobackupex。

二，安装xtrabackup

1、下载地址

http://www.percona.com/downloads/xtrabackup/

2、安装

根据需求，选择不同的版本，我选择的是rpm安装包，如果报以下错误

[root@localhost xtrabackup]# rpm -ivh percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm
warning: percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm: header v4 dsa/sha1 signature, key id cd2efd2a: nokey
error: failed dependencies:
perl(time::hires) is needed by percona-xtrabackup-2.2.4-5004.el6.x86_64

解决办法：

[root@localhost xtrabackup]# yum -y install perl perl-devel libaio libaio-devel perl-time-hires perl-dbd-mysql //安装依赖包 
[root@localhost xtrabackup]# rpm -ivh percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm   //重新安装 
warning: percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm: header v4 dsa/sha1 signature, key id cd2efd2a: nokey 
preparing... ########################################### [100%] 
1:percona-xtrabackup ########################################### [100%] 

注意：

xtrabackup 2.2.4不支持mysql 5.1.73，所以如果要用新的xtrabackup,就要用高版本的mysql数据库，不然就会报以下错误：
innobackupex: error: unsupported server version: '5.1.73'

二、修改my.cnf

查看一下mysqld下面有没有datadir，如果没有加上

[mysqld] 
datadir=/var/lib/mysql 

不加的话，还原数据的时候，有可能会出现以下问题：

xtrabackup: error: please set parameter 'datadir'
innobackupex: fatal error: no 'mysqld' group in mysql options
innobackupex: fatal error: or no 'datadir' option in group 'mysqld' in mysql options

三、全部数据库备份与还原

1、全部数据库备份

# innobackupex --defaults-file=/etc/my.cnf --user=root /home/tank/backup/ 

如果报以下错误：

innodb: error: log file ./ib_logfile0 is of different size 5242880 bytes
innodb: than specified in the .cnf file 50331648 bytes!
innobackupex: error: the xtrabackup child process has died at /usr/bin/innobackupex line 2679.

解决办法：在my.cnf的mysqld中加入以下内容：

[mysqld] 
innodb_log_file_size = 5m 

2、单数据库备份

# innobackupex --defaults-file=/etc/my.cnf --user=root --database=backup_test /home/tank/backup/ 

3、数据库备份并压缩

# innobackupex --defaults-file=/etc/my.cnf --user=root --stream=tar  /home/tank/backup | gzip > /home/tank/backup/`date +%f_%h-%m-%s`.tar.gz 

4、全数据还原

# /etc/init.d/mysqld stop      //停掉mysql 
# mv /var/lib/mysql /var/lib/mysql_bak   //数据目录备份 
# mkdir -p /var/lib/mysql  //重建数据目录 
 
//--apply-log选项的命令是准备在一个备份上启动mysql服务 
# innobackupex --defaults-file=/etc/my.cnf --user=root --apply-log /home/tank/backup/2014-09-18_16-35-12 
 
//--copy-back 选项的命令从备份目录拷贝数据,索引,日志到my.cnf文件里规定的初始位置 
# innobackupex --defaults-file=/etc/my.cnf --user=root --copy-back /home/tank/backup/2014-09-18_16-35-12 
 
# chown -r mysql.mysql /var/lib/mysql  //改变文件所属 
# /etc/init.d/mysqld stop  //启动mysql 

四、增量备份与还原

1、创建测试数据库和表

create database backup_test;  //创建库 
 
create table `backup` (  //创建表 
 `id` int(11) not null auto_increment , 
 `name` varchar(20) not null default '' , 
 `create_time` timestamp not null default current_timestamp , 
 `del` tinyint(1) not null default '0', 
 primary key (`id`) 
) engine=myisam default charset=utf8 auto_increment=1 ; 

2、增量备份

mysql> insert into backup (name) values ('tank'),('tank1');  //插入数据 
 
# innobackupex --defaults-file=/etc/my.cnf --user=root --incremental-basedir=/home/tank/backup/2014-09-18_16-35-12 --incremental /home/tank/backup/ 

3、在增量的基础上在进行增量备份

mysql> insert into backup (name) values ('tank2'),('tank3'),('tank4'),('tank5'),('tank6');  //在插入数据 
 
//2014-09-18_18-05-20这个目录，上次增量备份产生的目录 
# innobackupex --defaults-file=/etc/my.cnf --user=root --incremental-basedir=/home/tank/backup/2014-09-18_18-05-20 --incremental /home/tank/backup/ 

查看增量备份记录文件：

[root@localhost 2014-09-18_16-35-12]# cat xtrabackup_checkpoints   //全备目录下的文件 
backup_type = full-prepared 
from_lsn = 0             //全备起始为0 
to_lsn = 23853959 
last_lsn = 23853959 
compact = 0 
 
[root@localhost 2014-09-18_18-05-20]# cat xtrabackup_checkpoints  //第一次增量备份目录下的文件 
backup_type = incremental 
from_lsn = 23853959 
to_lsn = 23854112 
last_lsn = 23854112 
compact = 0 
 
[root@localhost 2014-09-18_18-11-43]# cat xtrabackup_checkpoints  //第二次增量备份目录下的文件 
backup_type = incremental 
from_lsn = 23854112 
to_lsn = 23854712 
last_lsn = 23854712 
compact = 0 

增量备份做完后，把backup_test这个数据库删除掉，drop database backup_test;这样可以对比还原后。

4、增量还原

# innobackupex --defaults-file=/etc/my.cnf --user=root --apply-log --redo-only /home/tank/backup/2014-09-18_16-35-12 
 
# innobackupex --defaults-file=/etc/my.cnf --user=root --apply-log --redo-only /home/tank/backup/2014-09-18_16-35-12 --incremental-dir=/home/tank/backup/2014-09-18_18-05-20 
 
# innobackupex --defaults-file=/etc/my.cnf --user=root --apply-log --redo-only /home/tank/backup/2014-09-18_16-35-12 --incremental-dir=/home/tank/backup/2014-09-18_18-11-43 

在这里有三个目录：

1)、/home/tank/backup/2014-09-18_16-35-12，全备份目录
2)、/home/tank/backup/2014-09-18_18-05-20，第一次增量备份产生的目录
3)、/home/tank/backup/2014-09-18_18-11-43，第二次增量备份产生的目录

到这里增量还原，还没有结束，还有最重要一步，就是要进行一次全量还原。停止数据库，删除/var/lib/mysql，在还原。

增量备份的原理就是，把增量目录下的数据，整合到全变量目录下，然后在进行，全数据量的还原。

总体来说，innobackupex速度快，支持innodb,myisam,用起来是还不是很方便，单库还原，还是增量备份还原，都要进行全部数据库还原，这个不合理。

五、innobackup 常用参数说明

--defaults-file
同xtrabackup的--defaults-file参数

--apply-log
对xtrabackup的--prepare参数的封装

--copy-back
做数据恢复时将备份数据文件拷贝到mysql服务器的datadir ；

--remote-host=hostname
通过ssh将备份数据存储到进程服务器上；

--stream=[tar]
备 份文件输出格式, tar时使用tar4ibd , 该文件可在xtarbackup binary文件中获得.如果备份时有指定--stream=tar, 则tar4ibd文件所处目录一定要在$path中(因为使用的是tar4ibd去压缩, 在xtrabackup的binary包中可获得该文件)。
在 使用参数stream=tar备份的时候，你的xtrabackup_logfile可能会临时放在/tmp目录下，如果你备份的时候并发写入较大的话 xtrabackup_logfile可能会很大(5g+)，很可能会撑满你的/tmp目录，可以通过参数--tmpdir指定目录来解决这个问题。

--tmpdir=directory
当有指定--remote-host or --stream时, 事务日志临时存储的目录, 默认采用mysql配置文件中所指定的临时目录tmpdir

--redo-only --apply-log组,
强制备份日志时只redo ,跳过rollback。这在做增量备份时非常必要。

--use-memory=#
该参数在prepare的时候使用，控制prepare时innodb实例使用的内存量

--throttle=ios
同xtrabackup的--throttle参数
--sleep=是给ibbackup使用的，指定每备份1m数据，过程停止拷贝多少毫秒，也是为了在备份时尽量减小对正常业务的影响，具体可以查看ibbackup的手册 ；

--compress[=level]
对备份数据迚行压缩，仅支持ibbackup，xtrabackup还没有实现；

--include=regexp
对 xtrabackup参数--tables的封装，也支持ibbackup。备份包含的库表，例如：--include="test.*"，意思是要备份 test库中所有的表。如果需要全备份，则省略这个参数；如果需要备份test库下的2个表：test1和test2,则写 成：--include="test.test1|test.test2"。也可以使用通配符，如：--include="test.test*"。

--databases=list
列出需要备份的databases，如果没有指定该参数，所有包含myisam和innodb表的database都会被备份；

--uncompress
解压备份的数据文件，支持ibbackup，xtrabackup还没有实现该功能；

--slave-info,
备 份从库, 加上--slave-info备份目录下会多生成一个xtrabackup_slave_info 文件, 这里会保存主日志文件以及偏移, 文件内容类似于:change master to master_log_file='', master_log_pos=0

--socket=socket
指定mysql.sock所在位置，以便备份进程登录mysql.