天天看點

使用binlog2sql恢複資料

 binlog2sql 是一款比較常用的資料恢複工具,可以通過它從MySQL binlog解析出你要的SQL,并根據不同選項,可以得到原始SQL、復原SQL、去除主鍵的INSERT SQL等。主要用途如下:

  • 資料快速復原(閃回)
  • 主從切換後新master丢資料的修複
  • 從binlog生成标準SQL,帶來的衍生功能

1、 系統環境準備

1.1 安裝git

該項目分享與git上,可以直接從git上擷取,是以可以先安裝git

yum install  -y  pip      

1.2 安裝python

因binlog2sql依賴于python2.7或python3.4+版本,如果本機python版本較低,則無法使用。安裝或更新python的方法可以參考 《python安裝及更新》

1.3 安裝pip

如果系統中沒有安裝pip,則需要先安裝pip,因為後續需要用pip安裝python所需的包。安裝方法可以參考曆史文章中的 《一分鐘搞定pip安裝》

1.4 binlog2sql下載下傳及依賴包安裝

binlog2sql可以部署在其他機器上,而不是必須部署在mysql服務端上

git clone https://github.com/danfengcao/binlog2sql.git && cd binlog2sqlpip install -r requirements.txt      
使用binlog2sql恢複資料

2、 MySQL環境準備

2.1 參數設定

MySQL server必須設定以下參數

[mysqld]
server_id = 128
log_bin = /data/mysql/mysql3306/logs/mysql-bin
max_binlog_size = 512M
binlog_format = row
binlog_row_image = full   # 預設值,可以不顯式設定      

2.2  建立恢複賬号

因binlog2sql是通過模拟從庫的方式擷取binlog,是以,資料庫賬号權限至少需設定為從庫所需的權限。

--  建立使用者mysql> create  user  data_rec@'192.168.56.%'  identified by 'xxxxxxxx';
Query OK, 0 rows affected (0.01 sec)--  授權mysql> GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO data_rec@'192.168.56.%';
Query OK, 0 rows affected (0.00 sec)      

權限說明:

  • select:需要讀取server端information_schema.COLUMNS表,擷取表結構的元資訊,拼接成可視化的sql語句
  • super/replication client:兩個權限都可以,需要執行'SHOW MASTER STATUS', 擷取server端的binlog清單
  • replication slave:通過BINLOG_DUMP協定擷取binlog内容的權限

2.3  建立測試表及資料

mysql> use testdb;Database changed
mysql> create table t_test1 (id int primary key  auto_increment ,c_name  varchar(20), c_num  int );
Query OK, 0 rows affected (0.02 sec)

mysql> insert into  t_test1(c_name,c_num) values('aaaa',10),('abcc',15),('bacess',9),('andd',10);
Query OK, 4 rows affected (0.03 sec)
Records: 4  Duplicates: 0  Warnings: 0mysql> insert into  t_test1(c_name,c_num) values('bbbaa',1),('dc',5),('vgcess',29),('hdgd',0);
Query OK, 4 rows affected (0.01 sec)
Records: 4  Duplicates: 0  Warnings: 0      

 2.4  模拟誤删除資料

mysql> select now();+---------------------+| now()               |+---------------------+| 2020-09-18 16:29:08 |+---------------------+1 row in set (0.00 sec)

mysql> delete from  t_test1;
Query OK, 8 rows affected (0.00 sec)

mysql> select now();+---------------------+| now()               |+---------------------+| 2020-09-18 16:29:26 |+---------------------+1 row in set (0.00 sec)      

3 binlog2sql恢複資料

3.1  生成恢複SQL

因知道大概誤删除的時間,是以通過解析對應時間的binlog恢複出指定庫表的資料,生成的結果是用于恢複的sql

python binlog2sql.py  --flashback  -h 192.168.56.128 -udata_rec -p'xxxxxxxx' -d testdb  -t t_test1  --start-file='mysql-bin.000003' --start-datetime='2020-09-18 16:29:08' --stop-datetime='2020-09-18 16:30:00'  >/tmp/rec.sql      

結果内容如下

使用binlog2sql恢複資料

3.2 恢複資料

mysql> select  * from t_test1;
Empty set (0.00 sec)

mysql> source /tmp/rec.sql;
Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.01 sec)

Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.00 sec)

mysql> select  * from t_test1;+----+--------+-------+| id | c_name | c_num |+----+--------+-------+|  1 | aaaa   |    10 ||  2 | abcc   |    15 ||  3 | bacess |     9 ||  4 | andd   |    10 ||  5 | bbbaa  |     1 ||  6 | dc     |     5 ||  7 | vgcess |    29 ||  8 | hdgd   |     0 |+----+--------+-------+8 rows in set (0.00 sec)      

 資料已恢複。

 4 使用說明

參考原文連結:https://github.com/danfengcao/binlog2sql

4.1  解析模式

--stop-never 持續解析binlog。可選。預設False,同步至執行指令時最新的binlog位置。一般情況下解析單個binlog即可,但是如果需要回退的表之後有操作,則可能需要持續解析

-K, --no-primary-key 對INSERT語句去除主鍵。可選。預設False。

-B, --flashback 生成復原SQL,可解析大檔案,不受記憶體限制。可選。預設False。與stop-never或no-primary-key不能同時添加。該情況用的較多

--back-interval -B模式下,每列印一千行復原SQL,加一句SLEEP多少秒,如不想加SLEEP,請設為0。可選。預設1.0。

4.2 解析範圍控制

--start-file 起始解析檔案,隻需檔案名,無需全路徑 ,必選參數。即指定對應的binlog起始檔案名

--start-position/--start-pos 起始解析位置。可選。預設為start-file的起始位置。

--stop-file/--end-file 終止解析檔案。可選。預設為start-file同一個檔案。若解析模式為stop-never,此選項失效。

--stop-position/--end-pos 終止解析位置。可選。預設為stop-file的最末位置;若解析模式為stop-never,此選項失效。

--start-datetime 起始解析時間,格式'%Y-%m-%d %H:%M:%S'。可選。預設不過濾。

--stop-datetime 終止解析時間,格式'%Y-%m-%d %H:%M:%S'。可選。預設不過濾。

4.3 對象過濾

-d, --databases 隻解析目标db的sql,多個庫用空格隔開,如-d db1 db2。可選。預設為空。

-t, --tables 隻解析目标table的sql,多張表用空格隔開,如-t tbl1 tbl2。可選。預設為空。

--only-dml 隻解析dml,忽略ddl。可選。預設False。

--sql-type 隻解析指定類型,支援INSERT, UPDATE, DELETE。多個類型用空格隔開,如--sql-type INSERT DELETE。可選。預設為增删改都解析。用了此參數但沒填任何類型,則三者都不解析。

繼續閱讀