binlog2sql 是一款比較常用的資料恢複工具,可以通過它從MySQL binlog解析出你要的SQL,并根據不同選項,可以得到原始SQL、復原SQL、去除主鍵的INSERT SQL等。主要用途如下:
- 資料快速復原(閃回)
- 主從切換後新master丢資料的修複
- 從binlog生成标準SQL,帶來的衍生功能
1、 系統環境準備
1.1 安裝git
該項目分享與git上,可以直接從git上擷取,是以可以先安裝git
yum install -y pip
1.2 安裝python
因binlog2sql依賴于python2.7或python3.4+版本,如果本機python版本較低,則無法使用。安裝或更新python的方法可以參考 《python安裝及更新》
1.3 安裝pip
如果系統中沒有安裝pip,則需要先安裝pip,因為後續需要用pip安裝python所需的包。安裝方法可以參考曆史文章中的 《一分鐘搞定pip安裝》
1.4 binlog2sql下載下傳及依賴包安裝
binlog2sql可以部署在其他機器上,而不是必須部署在mysql服務端上
git clone https://github.com/danfengcao/binlog2sql.git && cd binlog2sqlpip install -r requirements.txt
![](https://img.laitimes.com/img/9ZDMuAjOiMmIsIjOiQnIsISPrdEZwZ1Rh5WNXp1bwNjW1ZUba9VZwlHdsATOfd3bkFGazxCMx8VesATMfhHLlN3XnxCMwEzX0xiRGZkRGZ0Xy9GbvNGLpZTY1EmMZVDUSFTU4VFRR9Fd4VGdsYTMfVmepNHLrJXYtJXZ0F2dvwVZnFWbp1zczV2YvJHctM3cv1Ce-cmbw5SY0cTY0YmN2ATMjVDZkBjNkJDZ5MmYkNjZ5AjZklDOw8CX0IzLcRDMxIDMy8CXn9Gbi9CXzV2Zh1WavwVbvNmLvR3YxUjL1M3Lc9CX6MHc0RHaiojIsJye.png)
2、 MySQL環境準備
2.1 參數設定
MySQL server必須設定以下參數
[mysqld]
server_id = 128
log_bin = /data/mysql/mysql3306/logs/mysql-bin
max_binlog_size = 512M
binlog_format = row
binlog_row_image = full # 預設值,可以不顯式設定
2.2 建立恢複賬号
因binlog2sql是通過模拟從庫的方式擷取binlog,是以,資料庫賬号權限至少需設定為從庫所需的權限。
-- 建立使用者mysql> create user data_rec@'192.168.56.%' identified by 'xxxxxxxx';
Query OK, 0 rows affected (0.01 sec)-- 授權mysql> GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO data_rec@'192.168.56.%';
Query OK, 0 rows affected (0.00 sec)
權限說明:
- select:需要讀取server端information_schema.COLUMNS表,擷取表結構的元資訊,拼接成可視化的sql語句
- super/replication client:兩個權限都可以,需要執行'SHOW MASTER STATUS', 擷取server端的binlog清單
- replication slave:通過BINLOG_DUMP協定擷取binlog内容的權限
2.3 建立測試表及資料
mysql> use testdb;Database changed
mysql> create table t_test1 (id int primary key auto_increment ,c_name varchar(20), c_num int );
Query OK, 0 rows affected (0.02 sec)
mysql> insert into t_test1(c_name,c_num) values('aaaa',10),('abcc',15),('bacess',9),('andd',10);
Query OK, 4 rows affected (0.03 sec)
Records: 4 Duplicates: 0 Warnings: 0mysql> insert into t_test1(c_name,c_num) values('bbbaa',1),('dc',5),('vgcess',29),('hdgd',0);
Query OK, 4 rows affected (0.01 sec)
Records: 4 Duplicates: 0 Warnings: 0
2.4 模拟誤删除資料
mysql> select now();+---------------------+| now() |+---------------------+| 2020-09-18 16:29:08 |+---------------------+1 row in set (0.00 sec)
mysql> delete from t_test1;
Query OK, 8 rows affected (0.00 sec)
mysql> select now();+---------------------+| now() |+---------------------+| 2020-09-18 16:29:26 |+---------------------+1 row in set (0.00 sec)
3 binlog2sql恢複資料
3.1 生成恢複SQL
因知道大概誤删除的時間,是以通過解析對應時間的binlog恢複出指定庫表的資料,生成的結果是用于恢複的sql
python binlog2sql.py --flashback -h 192.168.56.128 -udata_rec -p'xxxxxxxx' -d testdb -t t_test1 --start-file='mysql-bin.000003' --start-datetime='2020-09-18 16:29:08' --stop-datetime='2020-09-18 16:30:00' >/tmp/rec.sql
結果内容如下
3.2 恢複資料
mysql> select * from t_test1;
Empty set (0.00 sec)
mysql> source /tmp/rec.sql;
Query OK, 1 row affected (0.00 sec)
Query OK, 1 row affected (0.00 sec)
Query OK, 1 row affected (0.00 sec)
Query OK, 1 row affected (0.00 sec)
Query OK, 1 row affected (0.00 sec)
Query OK, 1 row affected (0.01 sec)
Query OK, 1 row affected (0.00 sec)
Query OK, 1 row affected (0.00 sec)
mysql> select * from t_test1;+----+--------+-------+| id | c_name | c_num |+----+--------+-------+| 1 | aaaa | 10 || 2 | abcc | 15 || 3 | bacess | 9 || 4 | andd | 10 || 5 | bbbaa | 1 || 6 | dc | 5 || 7 | vgcess | 29 || 8 | hdgd | 0 |+----+--------+-------+8 rows in set (0.00 sec)
資料已恢複。
4 使用說明
參考原文連結:https://github.com/danfengcao/binlog2sql
4.1 解析模式
--stop-never 持續解析binlog。可選。預設False,同步至執行指令時最新的binlog位置。一般情況下解析單個binlog即可,但是如果需要回退的表之後有操作,則可能需要持續解析
-K, --no-primary-key 對INSERT語句去除主鍵。可選。預設False。
-B, --flashback 生成復原SQL,可解析大檔案,不受記憶體限制。可選。預設False。與stop-never或no-primary-key不能同時添加。該情況用的較多
--back-interval -B模式下,每列印一千行復原SQL,加一句SLEEP多少秒,如不想加SLEEP,請設為0。可選。預設1.0。
4.2 解析範圍控制
--start-file 起始解析檔案,隻需檔案名,無需全路徑 ,必選參數。即指定對應的binlog起始檔案名
--start-position/--start-pos 起始解析位置。可選。預設為start-file的起始位置。
--stop-file/--end-file 終止解析檔案。可選。預設為start-file同一個檔案。若解析模式為stop-never,此選項失效。
--stop-position/--end-pos 終止解析位置。可選。預設為stop-file的最末位置;若解析模式為stop-never,此選項失效。
--start-datetime 起始解析時間,格式'%Y-%m-%d %H:%M:%S'。可選。預設不過濾。
--stop-datetime 終止解析時間,格式'%Y-%m-%d %H:%M:%S'。可選。預設不過濾。
4.3 對象過濾
-d, --databases 隻解析目标db的sql,多個庫用空格隔開,如-d db1 db2。可選。預設為空。
-t, --tables 隻解析目标table的sql,多張表用空格隔開,如-t tbl1 tbl2。可選。預設為空。
--only-dml 隻解析dml,忽略ddl。可選。預設False。
--sql-type 隻解析指定類型,支援INSERT, UPDATE, DELETE。多個類型用空格隔開,如--sql-type INSERT DELETE。可選。預設為增删改都解析。用了此參數但沒填任何類型,則三者都不解析。