天天看点

mydumper备份数据库详解(已详细说明)

  mydumper是针对mysql数据库备份的一个轻量级第三方的开源工具,备份方式为逻辑备份。它支持多线程,备份速度远高于原生态的mysqldump以及众多优异特性。因此该工具是dba们的不二选择。本文主要描述该工具的使用方法并给出示例。

1、mydumper的特点

a、多线程逻辑备份,生产的多个备份文件

b、与mysqldump相同,备份时对 myisam 表施加ftwrl (flush tables with read lock), 会阻塞dml 语句

c、保证备份数据的一致性

d、支持文件压缩,支持导出binlog,支持多线程恢复,支持将备份文件切块

e、支持以守护进程模式工作,定时快照和连续二进制日志

2、mydumper语法

mydumper -u [user] -p [password] -h [host] -p [port] -t [threads] -b -c -b [db] -o [directory]

注意:命令行之间要有空格 -u 用户名  -p 密码 之间必须有空格 

参数说明

  -b, --database              需要备份的库

  -t, --tables-list           需要备份的表,多表,用逗号分隔

  -o, --outputdir             输出文件的目录

  -s, --statement-size        生成插入语句的字节数, 默认 1000000

  -r, --rows                  分裂成很多行块表

  -c, --compress              压缩输出文件

  -e, --build-empty-files     即使表没有数据,还是产生一个空文件

  -x, --regex                 正则表达式: 'db.table'

  -i, --ignore-engines        忽略的存储引擎,用逗号分隔

  -m, --no-schemas            不导出表结构

  -k, --no-locks              不执行共享读锁 警告:这将导致不一致的备份

  -l, --long-query-guard      设置长查询时间,默认60秒

  --kill-long-queries         kill掉长时间执行的查询

  -b, --binlogs               导出binlog

  -d, --daemon                启用守护进程模式

  -i, --snapshot-interval     dump快照间隔时间,默认60s,需要在daemon模式下

  -l, --logfile               日志文件

  -h, --host                  the host to connect to

  -u, --user                  username with privileges to run the dump

  -p, --password              user password

  -p, --port                  tcp/ip port to connect to

  -s, --socket                unix domain socket file to use for connection

  -t, --threads               使用的线程数,默认4

  -c, --compress-protocol     在mysql连接上使用压缩协议

  -v, --version               show the program version and exit

  -v, --verbose               更多输出, 0 = silent, 1 = errors, 2 = warnings, 3 = info, default 2

3、mydumper的工作过程

a、连接目标数据库;

b、通过show processlist来判断是否有长查询,根据参数long-query-guard和kill-long-queries决定退出或杀掉长查询;

c、锁定myisam表,flush tables with read lock;针对innodb table开启事务,start transaction;

d、创建worker子线程,缺省为4个;

e、确定候选表,根据类别分别插入innodb_table,non_innodb_table以及table_schemas链表(表结构);

f、将候选表通过g_async_queue_push加入任务队列(队列最后元素是thread shutdown),由worker子线程从队列中读取表信息并执行数据导出 

g、执行unlock tables,处理完myisam表后立即解锁,以减少锁定时间;

h、等待worker退出;

4、备份文件相关信息

a、所有的备份文件在一个目录中,未指定时为当前目录, 且自动生成备份日期时间文件夹,如export-20150703-145806

b、目录中包含一个 metadata 文件,该文件记录了备份时间点的二进制日志文件名,日志的写入位置

c、如果是在从库进行备份,还会记录备份时同步至主库的二进制日志文件及写入位置

d、每个表有两个备份文件:database.table-schema.sql 表结构文件,database.table.sql 表数据文件

e、如果对表文件分片,将生成多个备份数据文件,可以指定行数或指定大小分片

5、常用备份示例:

1 备份单个库  

# mydumper -u 用户名 -p 密码 -b 需要备份的库名 -o /tmp/bak

  -b,需要备份的库   -o 输出文件的目录(备份输出指定的目录)

2 备份所有数据库:全库备份期间除了information_schema与performance_schema之外的库都会被备份

# mydumper -u 用户名 -p 密码 -o /tmp/bak

 -o 输出文件的目录(备份输出指定的目录)

3 备份单表

# mydumper -u 用户名 -p 密码 -b 库名 -t 表名 -o /tmp/bak

   -t 需要备份的表,多表用逗号分隔 -o指定输出备份文件路径 

4 备份多表

# mydumper -u 用户名 -p 密码 -b 库名 -t 表1,表2 -o /tmp/bak

5、当前目录自动生成备份日期时间文件夹,不指定-o参数及值时默认为:export-20150703-145806

mydumper -u 用户名 -p 密码 -b 数据库名字 -t 表名

6、不带表结构备份表

# mydumper -u 用户名 -p 密码 -b 数据名字 -t 表名 -m

  -m 不导出表结构

7、压缩备份及连接使用压缩协议(非本地备份时)

# mydumper -u 用户名 -p 密码 -b 数据库名字 -o /tmp/bak -c -c

-c, 压缩输出文件 -c 在mysql连接上使用压缩协议  -o 输出文件的目录(备份输出指定的目录)

8、备份特定表

# mydumper -u 用户名 -p 密码 -b 数据库名字  --regex=actor*

-o /tmp/bak

只备份以actor*开头的表

-x 正则表达式: 'db.table'  --regex  

9、过滤特定库,如本来不备份mysql及test库

# mydumper -u 用户名 -p 密码 -b 数据库名字 --regex '^(?!(mysql|test))' -o /tmp/bak

10、基于空表产生表结构文件

#  mydumper -u 用户名 -p 密码 -b 数据库名字 -t

空表 -e -o /tmp/bak

-e 即使表没有数据,还是产生一个空文件 

12、备份时输出详细更多日志

#  mydumper -u 用户名 -p 密码 -b 数据库名字 -t 空表 -v 3 -o /tmp/bak

-v 更多输出, 0 = silent, 1 = errors, 2 = warnings, 3 = info,详细输出 default

2

11、设置长查询的上限,如果存在比这个还长的查询则退出mydumper,也可以设置杀掉这个长查询

#mydumper -u leshami -p pwd -b sakila --long-query-guard 200 --kill-long-queries

13、导出binlog,使用-b参数,会自动在导出目录生成binlog_snapshot文件夹及binlog

# mydumper -u leshami -p pwd -p 3306 -b -o /tmp/bak

总结:

mysql备份,备份数据库、备份数据表。恢复也是恢复数据库,恢复数据表。

参考:

mysqldump备份恢复详解:

<a target="_blank" href="http://blog.csdn.net/u010098331/article/details/50896175">http://blog.csdn.net/u010098331/article/details/50896175</a>

<a target="_blank" href="http://blog.csdn.net/u010098331/article/details/50896725">http://blog.csdn.net/u010098331/article/details/50896725</a>

<a target="_blank" href="http://www.itopers.com/blog/posts/wp/826.html">http://www.itopers.com/blog/posts/wp/826.html</a>

<a target="_blank" href="http://www.cnblogs.com/linuxnote/p/3817698.html">http://www.cnblogs.com/linuxnote/p/3817698.html</a>

赠送:

三、使用方法

备份出来的sql文件,文件以数据库开头.表名[-schema].sql,有schema的为表的表结构创建语句,没有的为表数据插入语句。

metadata这个文件记录的是当里的binlog文件及pos,可以使用这个信息搭建slave.

只备份t_task和t_guid表

只备份以t_server开通的表

-b,--database只能指定一个库备份,如果需要同时备份多个数据库,可能这样:

--threads并发度