MySQL-第七章-xtrabackup(XBK)工具使用

MySQL-第七章-xtrabackup(XBK)工具使用10 MySQL 物理备份工具 xtrabackup XBK Xbackup 10 1 安装 10 1 1 安装依赖包 wget O etc yum repos d epel repo http mirrors aliyun com repo epel 7 repo yum y install perl perl devel libaio libaio devel

大家好,我是讯享网,很高兴认识大家。

10. MySQL物理备份工具-xtrabackup(XBK、Xbackup)

10.1 安装

10.1.1 安装依赖包

wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-7.repo yum -y install perl perl-devel libaio libaio-devel perl-Time-HiRes perl-DBD-MySQL libev

讯享网

10.1.2 下载软件并安装

讯享网wget https://www.percona.com/downloads/XtraBackup/Percona-XtraBackup-2.4.12/binary/redhat/7/x86_64/percona-xtrabackup-24-2.4.12-1.el7.x86_64.rpm https://www.percona.com/downloads/XtraBackup/Percona-XtraBackup-2.4.4/binary/redhat/6/x86_64/percona-xtrabackup-24-2.4.4-1.el6.x86_64.rpm yum -y install percona-xtrabackup-24-2.4.4-1.el7.x86_64.rpm

10.2 备份命令介绍

xtrabackup innobackupex 

10.3 备份方式——物理备份

(1)对于非Innodb表(比如 myisam)是,锁表cp数据文件,属于一种温备份。

(2)对于Innodb的表(支持事务的),不锁表,拷贝数据页,最终以数据文件的方式保存下来,把一部分redo和undo一并备走,属于热备方式。

面试题: xbk 在innodb表备份恢复的流程

  0、xbk备份执行的瞬间,立即触发ckpt,已提交的数据脏页,从内存刷写到磁盘,并记录此时的LSN号

  1、备份时,拷贝磁盘数据页,并且记录备份过程中产生的redo和undo一起拷贝走,也就是checkpoint LSN之后的日志

  2、在恢复之前,模拟Innodb“自动故障恢复”的过程,将redo(前滚)与undo(回滚)进行应用

  3、恢复过程是cp 备份到原来数据目录下

10.4、innobackupex使用(5.7版本)

10.4.1 全备

讯享网[root@db01 backup]# innobackupex --user=root --password=123 /data/backup

1.自主定制备份路径名

[root@db01 backup]# innobackupex --user=root --password=123 --no-timestamp /data/backup/full

2.备份集中多出来的文件

讯享网-rw-r----- 1 root root 24 Jun 29 09:59 xtrabackup_binlog_info -rw-r----- 1 root root 119 Jun 29 09:59 xtrabackup_checkpoints -rw-r----- 1 root root 489 Jun 29 09:59 xtrabackup_info -rw-r----- 1 root root 2560 Jun 29 09:59 xtrabackup_logfile xtrabackup_binlog_info :(备份时刻的binlog位置) [root@db01 full]# cat xtrabackup_binlog_info mysql-bin.000003  79de40d3-5ff3-11e9-804a-000c2928f5dd:1-7 记录的是备份时刻,binlog的文件名字和当时的结束的position,可以用来作为截取binlog时的起点。 xtrabackup_checkpoints : backup_type = full-backuped from_lsn = 0 上次所到达的LSN号(对于全备就是从0开始,对于增量有别的显示方法) to_lsn =  备份开始时间(ckpt)点数据页的LSN last_lsn =  备份结束后,redo日志最终的LSN compact = 0 recover_binlog_info = 0 (1)备份时刻,立即将已经commit过的,内存中的数据页刷新到磁盘(CKPT).开始备份数据,数据文件的LSN会停留在to_lsn位置。 (2)备份时刻有可能会有其他的数据写入,已备走的数据文件就不会再发生变化了。 (3)在备份过程中,备份软件会一直监控着redo的undo,如果一旦有变化会将日志也一并备走,并记录LSN到last_lsn。 从to_lsn ----》last_lsn 就是,备份过程中产生的数据变化.

10.4.2 全备的恢复

1.准备备份(Prepared)

将redo进行重做,已提交的写到数据文件,未提交的使用undo回滚掉。模拟了CSR的过程

[root@db01 ~]# innobackupex --apply-log  /backup/full

2.恢复备份

前提:

1、被恢复的目录是空

2、被恢复的数据库的实例是关闭

systemctl stop mysqld

3.创建新目录

[root@db01 backup]# mkdir /data/mysql1

4.数据授权

讯享网chown -R mysql.mysql /data/mysql1

5.恢复备份

[root@db01 full]# cp -a /backup/full/* /data/mysql1/

6.启动数据库

讯享网vim /etc/my.cnf datadir=/data/mysql1 [root@db01 mysql1]# chown -R mysql.mysql /data/mysql1 systemctl start mysqld

10.4.3 innobackupex 增量备份(incremental)

(1)增量备份的方式,是基于上一次备份进行增量。

(2)增量备份无法单独恢复。必须基于全备进行恢复。

(3)所有增量必须要按顺序合并到全备中。

1.增量备份命令

(1)删掉原来备份 略. (2)全备(周日) [root@db01 backup]# innobackupex --user=root --password --no-timestamp /backup/full >&/tmp/xbk_full.log (3)模拟周一数据变化 db01 [(none)]>create database cs charset utf8; db01 [(none)]>use cs db01 [cs]>create table t1 (id int); db01 [cs]>insert into t1 values(1),(2),(3); db01 [cs]>commit; (4)第一次增量备份(周一) innobackupex --user=root --password=123 --no-timestamp --incremental --incremental-basedir=/backup/full /backup/inc1 &>/tmp/inc1.log (5)模拟周二数据 db01 [cs]>create table t2 (id int); db01 [cs]>insert into t2 values(1),(2),(3); db01 [cs]>commit; (6)周二增量 innobackupex --user=root --password=123 --no-timestamp --incremental --incremental-basedir=/backup/inc1 /backup/inc2 &>/tmp/inc2.log (7)模拟周三数据变化 db01 [cs]>create table t3 (id int); db01 [cs]>insert into t3 values(1),(2),(3); db01 [cs]>commit; db01 [cs]>drop database cs;

2.恢复到周三误drop之前的数据状态

恢复思路:

1.  挂出维护页,停止当天的自动备份脚本

2.  检查备份:周日full+周一inc1+周二inc2,周三的完整二进制日志

3. 进行备份整理(细节),截取关键的二进制日志(从备份——误删除之前)

4. 测试库进行备份恢复及日志恢复

5. 应用进行测试无误,开启业务

6. 此次工作的总结

3.恢复过程

讯享网1. 检查备份 1afe8136-601d-11e9-9022-000c2928f5dd:7-9 2. 备份整理(apply-log)+合并备份(full+inc1+inc2) (1) 全备的整理 [root@db01 one]# innobackupex --apply-log --redo-only /data/backup/full (2) 合并inc1到full中 [root@db01 one]# innobackupex --apply-log --redo-only --incremental-dir=/data/backup/inc1 /data/backup/full (3) 合并inc2到full中 [root@db01 one]# innobackupex --apply-log --incremental-dir=/data/backup/inc2 /data/backup/full (4) 最后一次整理全备 [root@db01 backup]# innobackupex --apply-log /data/backup/full 3. 截取周二 23:00 到drop 之前的 binlog [root@db01 inc2]# mysqlbinlog --skip-gtids --include-gtids='1afe8136-601d-11e9-9022-000c2928f5dd:7-9' /data/binlog/mysql-bin.000009 >/data/backup/binlog.sql 4. 进行恢复 [root@db01 backup]# mkdir /data/mysql/data2 -p [root@db01 full]# cp -a * /data/mysql/data2 [root@db01 backup]# chown -R mysql. /data/* [root@db01 backup]# systemctl stop mysqld vim /etc/my.cnf datadir=/data/mysql/data2 systemctl start mysqld Master [(none)]>set sql_log_bin=0; Master [(none)]>source /data/backup/binlog.sql

扩展: 从mysqldump 全备中获取库和表的备份

1、获得表结构 # sed -e'/./{H;$!d;}' -e 'x;/CREATE TABLE `city`/!d;q' full.sql>createtable.sql 2、获得INSERT INTO 语句,用于数据的恢复 # grep -i 'INSERT INTO `city`' full.sqll >data.sql & 3.获取单库的备份 # sed -n '/^-- Current Database: `world`/,/^-- Current Database: `/p' all.sql >world.sql

10.5 xtrabackup的应用(8.0版本)

10.5.1 全量备份

讯享网1.全量备份 xtrabackup --defaults-file=/etc/my.cnf --user=root --password=123 --backup --target-dir=/data/backup/full 2.数据恢复: 2.0 搞破坏 [root@db01 ~]# pkill mysqld [root@db01 ~]# rm -rf /data/3306/data/* [root@db01 ~]# rm -rf /data/3306/logs/* [root@db01 ~]# rm -rf /data/3306/binlog/* 2.1 准备:(CR) xtrabackup --prepare --target-dir=/data/backup/full 说明: 模拟CR过程,将redo前滚,undo回滚,让备份数据是一致状态 2.2 拷回数据: xtrabackup --copy-back --target-dir=/data/backup/full 2.3 修改权限并启动数据库 [root@db01 data]# chown -R mysql.mysql /data/* [root@db01 data]# /etc/init.d/mysqld start

10.5.2 增量备份

1.介绍

增量备份,是基于上一次备份LSN变化过的数据页进行备份,在备份同时产生的新变更,会将redo备份。

第一次增量是依赖于全备的。将来的恢复也要合并到全备中,再进行统一恢复。

2.实战演练


讯享网

全量备份的目录为: mkdir -p /data/backup/full 增量备份的目录为: mkdir -p /data/backup/inc 1.备份操作: 1.1.全量备份: xtrabackup --defaults-file=/etc/my.cnf --user=root --password=123 --backup --parallel=4 --target-dir=/data/backup/full mysql> create database pxb; mysql> use pxb mysql> create table t1 (id int); mysql> insert into t1 values(1),(2),(3); mysql> commit; 1.2.增量备份: xtrabackup --defaults-file=/etc/my.cnf --user=root --password=123 --backup --parallel=4 --target-dir=/data/backup/inc --incremental-basedir=/data/backup/full # 模拟损坏 [root@db01 ~]# pkill mysqld [root@db01 ~]# rm -rf /data/3306/data/* [root@db01 ~]# rm -rf /data/3306/logs/* [root@db01 ~]# rm -rf /data/3306/binlog/* 2.恢复操作: 2.1 准备全备份的日志: xtrabackup --prepare --apply-log-only --target-dir=/data/backup/full 2.2 准备增量备份的日志: xtrabackup --prepare --apply-log-only --target-dir=/data/backup/full --incremental-dir=/data/backup/inc 2.3 全备份准备: # xtrabackup --prepare --target-dir=/data/backup/full 2.4 拷回数据: xtrabackup --copy-back --target-dir=/data/backup/full 2.5 修改数据目录的权限和属性: chown -R mysql.mysql /data/*

10.6 Clone-Plugin(8.0.17+版本)

10.6.0 介绍及原理

1. Clone Plugin介绍

   本地克隆:

   启动克隆操作的MySQL服务器实例中的数据,克隆到同服务器或同节点上的一个目录里

    -----------------------------------------------------------------------

   远程克隆:

   默认情况下,远程克隆操作会删除接受者(recipient)数据目录中的数据,并将其替换为捐赠者(donor)的克隆数据。您也可以将数据克隆到接受者的其他目录,以避免删除现有数据。(可选)

2. 原理

   # PAGE COPY

   这里有两个动作

   开启redo archiving功能,从当前点开始存储新增的redo log,这样从当前点开始所有的增量修改都不会丢失。同时上一步在page track的page被发送到目标端。确保当前点之前所做的变更一定发送到目标端。

   关于redo archiving,实际上这是官方早就存在的功能,主要用于官方的企业级备份工具,但这里clone利用了该特性来维持增量修改产生的redo。

   在开始前会做一次checkpoint, 开启一个后台线程log_archiver_thread()来做日志归档。当有新的写入时(notify_about_advanced_write_lsn)也会通知他去archive。当arch_log_sys处于活跃状态时,他会控制日志写入以避免未归档的日志被覆盖(log_writer_wait_on_archiver), 注意如果log_writer等待时间过长的话, archive任务会被中断掉.

   

   # Redo Copy

   停止Redo Archiving", 所有归档的日志被发送到目标端,这些日志包含了从page copy阶段开始到现在的所有日志,另外可能还需要记下当前的复制点,例如最后一个事务提交时的binlog位点或者gtid信息,在系统页中可以找到。'

   

   # Done

   目标端重启实例,通过crash recovery将redo log应用上去

10.6.1 本地克隆

讯享网1. 加载插件 INSTALL PLUGIN clone SONAME 'mysql_clone.so'; 或 [mysqld] plugin-load-add=mysql_clone.so clone=FORCE_PLUS_PERMANENT SELECT PLUGIN_NAME, PLUGIN_STATUS FROM INFORMATION_SCHEMA.PLUGINS WHERE PLUGIN_NAME LIKE 'clone'; 2. 创建克隆专用用户 CREATE USER clone_user@'%' IDENTIFIED by 'password'; GRANT BACKUP_ADMIN ON *.* TO 'clone_user'; # BACKUP_ADMIN是MySQL8.0 才有的备份锁的权限 3. 本地克隆 [root@db01 3306]# mkdir -p /data/test/ [root@db01 3306]# chown -R mysql.mysql /data/ mysql -uclone_user -ppassword CLONE LOCAL DATA DIRECTORY = '/data/test/clonedir'; # 观测状态 db01 [(none)]> SELECT STAGE, STATE, END_TIME FROM performance_schema.clone_progress; +-----------+-------------+----------------------------+ | STAGE | STATE | END_TIME | +-----------+-------------+----------------------------+ | DROP DATA | Completed | 2020-04-20 21:13:19. | | FILE COPY | Completed | 2020-04-20 21:13:20.025444 | | PAGE COPY | Completed | 2020-04-20 21:13:20.028552 | | REDO COPY | Completed | 2020-04-20 21:13:20.030042 | | FILE SYNC | Completed | 2020-04-20 21:13:20. | | RESTART | Not Started | NULL | | RECOVERY | Not Started | NULL | +-----------+-------------+----------------------------+ 7 rows in set (0.00 sec) #日志观测: set global log_error_verbosity=3; tail -f db01.err CLONE LOCAL DATA DIRECTORY = '/data/test/3308'; 4.启动新实例 [root@db01 clonedir]# mysqld_safe --datadir=/data/test/clonedir --port=3333 --socket=/tmp/mysql3333.sock --user=mysql --mysqlx=OFF &

10.6.2 远程克隆

接收端和发送端操作 1. 各个节点加载插件 INSTALL PLUGIN clone SONAME 'mysql_clone.so'; 或 [mysqld] plugin-load-add=mysql_clone.so clone=FORCE_PLUS_PERMANENT SELECT PLUGIN_NAME, PLUGIN_STATUS FROM INFORMATION_SCHEMA.PLUGINS WHERE PLUGIN_NAME LIKE 'clone'; 发送端操作 2.创建远程clone用户 # 捐赠者(source)授权 create user test_s@'%' identified by '123'; grant backup_admin on *.* to test_s@'%'; -------------------------------------------------------------------------- 接收端操作 # 接受者(target)授权 create user test_t@'%' identified by '123'; grant clone_admin on *.* to test_t@'%'; 3.远程clone # 开始克隆 SET GLOBAL clone_valid_donor_list='10.0.0.51:3306'; mysql -utest_t -p123 -h10.0.0.52 -P3306 CLONE INSTANCE FROM test_s@'10.0.0.51':3306 IDENTIFIED BY '123';

克隆到指定目录说明:

默认情况下,远程克隆操作会删除接收方数据目录中的数据,并用克隆的数据替换它。
通过克隆到指定目录,可以避免接收方数据目录中的现有数据被删除,也不会执行重启MySQL Server的操作。
将数据克隆到指定目录的过程与不指定目录的克隆远程数据过程相同,但有一点区别,前者的克隆语句必须包含DATA DIRECTORY [=] 'clone_dir'子句。
例如:CLONE INSTANCE FROM 'donor_clone_user'@'192.168.1.105':3306 IDENTIFIED BY 'clone_test66' DATA DIRECTORY = '/data/mysql/3307/clone_data';
其中,DATA DIRECTORY子句需要指定一个绝对路径,且该目录不能事先存在,MySQL Server必须具有创建目录所需的写访问权限

克隆到指定目录时,在克隆数据完成之后,不会自动重新启动接收方MySQL Server。
如果你想使用指定目录启动MySQL Server,你必须手动修改一些文件的目录调整之后再执行启动,或者直接使用新的my.cnf配置文件,
在启动时将--datadir选项指定到克隆数据所在的目录,例如:mysqld_safe --datadir=/data/mysql/3307/clone_data

远程克隆数据注意事项

执行CLONE INSTANCE在非donor实例上执行。

不指定DATA DIRECTORY,将先清空本地数据,再做克隆拷贝,并自动重启MySQL实例(建议mysqld_safe启动)。

若指定DATA DIRECTORY,本地磁盘空间需要更多的空间(克隆数据+本地历史数据),不会自动重启MySQL实例

donor 和 recipient的MySQL版本要一致,并且至少8.0.17或者更高的版本。

donor 和 recipient的操作系统不能跨平台。

donor 和 recipient需要具有相同的字符集和排序规则。

donor和 recipient需要设置相同的 innodb_page_size and innodb_data_file_path

如果克隆了加密或者页压缩的数据,donor 和 recipient需要保持一样的文件系统块大小。

克隆命令将以1MB的包大小传输,所以donor 和 recipient的 max_allowed_packet至少要设置2MB。

其他注意事项

克隆操作期间不允许DDL(包括TRUNCATE TABLE)。

一次只能克隆一个MySQL实例。不支持在单个克隆操作中克隆多个MySQL实例。

远程克隆操作(在CLONE INSTANCE语句中指定Donor的MySQL服务器实例的端口号时)不支持mysqlx_port指定的X协议端口。

clone插件不支持MySQL配置参数的克隆。

clone插件不支持二进制日志的克隆。

克隆插件仅克隆存储在InnoDB中的数据。其他存储引擎数据未克隆。存储在任何数据库(包括sys模式)中的MyISAM和CSV表都被克隆为空表

小讯
上一篇 2025-01-28 12:39
下一篇 2025-02-28 12:23

相关推荐

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容,请联系我们,一经查实,本站将立刻删除。
如需转载请保留出处:https://51itzy.com/kjqy/79012.html