一、MHA概念
- MHA(MasterHigh Availability)是一套優秀的MySQL高可用環境下故障切換和主從複制的軟體。
- MHA 的出現就是解決MySQL 單點的問題。
- MySQL故障切換過程中,MHA能做到0-30秒内自動完成故障切換操作。
- MHA能在故障切換的過程中最大程度上保證資料的一緻性,以達到真正意義上的高可用。
1、MHA 的組成
- MHA Node(資料節點)
- MHA Node 運作在每台 MySQL 伺服器上。
- MHA Manager(管理節點)
- MHA Manager 可以單獨部署在一台獨立的機器上,管理多個 master-slave 叢集;也可以部署在一台 slave 節點上。
- MHA Manager 會定時探測叢集中的 master 節點。當 master 出現故障時,它可以自動将最新資料的 slave 提升為新的 master, 然後将所有其他的 slave 重新指向新的 master。整個故障轉移過程對應用程式完全透明。
2、MHA 的特點
- 自動故障切換過程中,MHA試圖從當機的主伺服器上儲存二進制日志,最大程度的保證資料不丢失
- 使用半同步複制,可以大大降低資料丢失的風險,如果隻有一個slave已經收到了最新的二進制日志,MHA可以将最新的二進制日志應用于其他所有的slave伺服器上,是以可以保證所有節點的資料一緻性
- 目前MHA支援一主多從架構,最少三台服務,即一主兩從
二、搭建MySQL+MHA

實驗思路
1、MHA架構
- 資料庫安裝
- 一主兩從
- MHA搭建
2、故障模拟
- 模拟主庫失效
- 備選主庫成為主庫
- 原故障主庫恢複重新加入到MHA成為從庫
實驗準備
主機 | 作業系統 | IP位址 | 所需元件 |
---|---|---|---|
MHAmanager | CentOS7 | 192.168.163.10 | MHAnode元件、MHAmanager元件 |
mysql1 | CentOS7 | 192.168.163.11 | mysql-boost-5.7.20.tar.gz、MHAnode元件 |
mysql2 | CentOS7 | 192.168.163.12 | mysql-boost-5.7.20.tar.gz、MHAnode元件 |
mysql3 | CentOS7 | 192.168.163.13 | mysql-boost-5.7.20.tar.gz、MHAnode元件 |
- 現在三台mysql主機上安裝mysql,可以使用上面連結中的腳本安裝
- 關閉防火牆和安全機制
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
1、修改mysql節點的主機名
mysql1(192.168.163.11)
hostnamectl set-hostname mysql1
su -
mysql2(192.168.163.12)
hostnamectl set-hostname mysql2
su -
mysql3(192.168.163.13)
hostnamectl set-hostname mysql3
su -
2、修改三台MySQL伺服器的主配置檔案/etc/my.cnf,并建立指令軟連結
mysql1(192.168.163.11)
vim /etc/my.cnf
[mysqld]
server-id = 11
log_bin = master-bin
log-slave-updates = true
systemctl restart mysqld
ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/
mysql2(192.168.163.12)
mysql3(192.168.163.13)
vim /etc/my.cnf
server-id = 12
#server-id = 13 mysql3則為13,三台伺服器 server-id 不能一樣
log_bin = master-bin
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.index
systemctl restart mysqld
ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/
3、配置MySQL一主兩從
(1)所有MySQL伺服器進行MySQL授權
mysql1(192.168.163.11)
mysql2(192.168.163.12)
mysql3(192.168.163.13)
mysql -uroot -p123456
grant replication slave on *.* to 'myslave'@'192.168.163.%' identified by '123456';
grant all privileges on *.* to 'mha'@'192.168.163.%' identified by 'manager';
grant all privileges on *.* to 'mha'@'mysql1' identified by 'manager';
grant all privileges on *.* to 'mha'@'mysql2' identified by 'manager';
grant all privileges on *.* to 'mha'@'mysql3' identified by 'manager';
flush privileges;
(2)在Master節點檢視二進制檔案和同步點
mysql1(192.168.163.11)
show master status;
#每個人的二進制檔案名或者偏移量都可能不一樣,記住自己的
(3)在 Slave1、Slave2 節點執行同步操作
mysql2(192.168.163.12)
mysql3(192.168.163.13)
change master to master_host='192.168.163.11',master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=1747;
start slave;
show slave status\G
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
#一般 Slave_IO_Running: No 的可能性:
#網絡不通
#my.cnf配置有問題
#passwd、file檔案名、pos偏移量不對
#防火牆沒有關閉
(4)Slave1、Slave2 節點設定為隻讀模式
mysql2(192.168.163.12)
mysql3(192.168.163.13)
set global read_only=1;
#改回讀寫狀态set global read_only=0;
(5)主從複制驗證
mysql1(192.168.163.11)
建立庫
create database test;
use test;
create table test(id int);
insert into test values(1);
mysql2(192.168.163.12)
mysql3(192.168.163.13)
查詢庫驗證
show databases;
4、安裝 MHA 軟體
(1)所有伺服器上都安裝 MHA 依賴的環境
MHAmanager(192.168.163.10)
mysql1(192.168.163.11)
mysql2(192.168.163.12)
mysql3(192.168.163.13)
- 首先安裝 epel 源,需要線上源安裝
- 再在所有伺服器上安裝 node 元件
#安裝線上源
mv /etc/yum.repos.d/repos.bak/CentOS-* /etc/yum.repos.d/
yum list
yum install epel-release --nogpgcheck -y
yum install -y perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parallel-ForkManager \
perl-ExtUtils-CBuilder \
perl-ExtUtils-MakeMaker \
perl-CPAN
(2)安裝MHA node軟體包
MHAmanager(192.168.163.10)
mysql1(192.168.163.11)
mysql2(192.168.163.12)
mysql3(192.168.163.13)
- 對于每個作業系統版本不一樣,這裡 CentOS7.4 必須選擇 0.57 版本。
- 在所有伺服器上必須先安裝 node 元件,最後在 MHA-manager 節點上安裝 manager 元件,因為 manager 依賴 node 元件。
#将軟體包mha4mysql-node-0.57.tar.gz放入/opt目錄下
cd /opt
tar zxvf mha4mysql-node-0.57.tar.gz
cd mha4mysql-node-0.57
perl Makefile.PL
make && make install
(3)在 MHA manager 節點上安裝 manager 元件
MHAmanager(192.168.163.10)
#将軟體包mha4mysql-manager-0.57.tar.gz放入/opt目錄下
cd /opt
tar zxvf mha4mysql-manager-0.57.tar.gz
cd mha4mysql-manager-0.57
perl Makefile.PL
make && make install
- manager 元件安裝後在/usr/local/bin 下面會生成幾個工具
主要包括以下幾個:
元件 | 作用 |
---|---|
masterha_check_ssh | 檢查 MHA 的 SSH 配置狀況 |
masterha_check_repl | 檢查 MySQL 複制狀況 |
masterha_manger | 啟動 manager的腳本 |
masterha_check_status | 檢測目前 MHA 運作狀态 |
masterha_master_monitor | 檢測 master 是否當機 |
masterha_master_switch | 控制故障轉移(自動或者手動) |
masterha_conf_host | 添加或删除配置的 server 資訊 |
masterha_stop | 關閉manager |
- node 元件安裝後也會在/usr/local/bin 下面會生成幾個腳本(這些工具通常由 MHAManager 的腳本觸發,無需人為操作)
主要如下:
腳本 | 作用 |
---|---|
save_binary_logs | 儲存和複制 master 的二進制日志 |
apply_diff_relay_logs | 識别差異的中繼日志事件并将其差異的事件應用于其他的 slave |
filter_mysqlbinlog | 去除不必要的 ROLLBACK 事件(MHA 已不再使用這個工具) |
purge_relay_logs | 清除中繼日志(不會阻塞 SQL 線程) |
5、在所有伺服器上配置無passwd認證
(1)在 manager 節點上配置到所有資料庫節點的無passwd認證
MHAmanager(192.168.163.10)
ssh-keygen -t rsa #一路按Enter鍵
ssh-copy-id 192.168.163.11
ssh-copy-id 192.168.163.12
ssh-copy-id 192.168.163.13
- 三台mysql伺服器一樣,太占篇幅,就不貼圖了。
(2)在 mysql1 上配置到資料庫節點 mysql2 和 mysql3 的無passwd認證 ssh-keygen -t rsa
mysql1(192.168.163.11)
ssh-keygen -t rsa
ssh-copy-id 192.168.163.12
ssh-copy-id 192.168.163.13
(3)在 mysql2 上配置到資料庫節點 mysql1 和 mysql3 的無passwd認證
mysql2(192.168.163.12)
ssh-keygen -t rsa
ssh-copy-id 192.168.163.11
ssh-copy-id 192.168.163.13
(4)在 mysql3 上配置到資料庫節點 mysql1 和 mysql2 的無passwd認證
mysql3(192.168.163.13)
ssh-keygen -t rsa
ssh-copy-id 192.168.163.11
ssh-copy-id 192.168.163.12
6、在 manager 節點上配置 MHA
MHAmanager(192.168.163.10)
(1)在 manager 節點上複制相關腳本到/usr/local/bin 目錄
cp -rp /opt/mha4mysql-manager-0.57/samples/scripts /usr/local/bin
#複制後會有四個執行檔案
ll /usr/local/bin/scripts/
檔案名 | 作用 |
---|---|
master_ip_failover | 自動切換時 VIP 管理的腳本 |
master_ip_online_change | 線上切換時 vip 的管理 |
power_manager | 故障發生後關閉主機的腳本 |
send_report | 因故障切換後發送報警的腳本 |
(2)複制上述的自動切換時 VIP 管理的腳本到 /usr/local/bin 目錄,這裡使用master_ip_failover腳本來管理 VIP 和故障切換
cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin
#先清空原有内容
echo '' > /usr/local/bin/master_ip_failover
#直接複制并修改vip相關參數
vim /usr/local/bin/master_ip_failover
#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';
use Getopt::Long;
my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
#############################添加内容部分#########################################
my $vip = '192.168.163.200'; #指定vip的位址
my $brdc = '192.168.163.255'; #指定vip的廣播位址
my $ifdev = 'ens33'; #指定vip綁定的網卡
my $key = '1'; #指定vip綁定的虛拟網卡序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip"; #代表此變量值為ifconfig ens33:1 192.168.163.200
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down"; #代表此變量值為ifconfig ens33:1 down
my $exit_code = 0; #指定退出狀态碼為0
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);
exit &main();
sub main {
print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";
if ( $command eq "stop" || $command eq "stopssh" ) {
my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {
my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
## A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}
sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}
(3)建立 MHA 軟體目錄并拷貝配置檔案,這裡使用app1.cnf配置檔案來管理 mysql 節點伺服器
mkdir /etc/masterha
cp /opt/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha
vim /etc/masterha/app1.cnf
[server default]
manager_log=/var/log/masterha/app1/manager.log
manager_workdir=/var/log/masterha/app1
master_binlog_dir=/usr/local/mysql/data
master_ip_failover_script=/usr/local/bin/master_ip_failover
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
user=mha
password=manager
ping_interval=1
remote_workdir=/tmp
repl_user=myslave
repl_password=123456
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.163.12 -s 192.168.163.13
shutdown_script=""
ssh_user=root
[server1]
hostname=192.168.163.11
port=3306
[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.163.12
port=3306
[server3]
hostname=192.168.163.13
port=3306
#--------------------------配置檔案解釋--------------------------------------------------------------------------
[server default]
manager_log=/var/log/masterha/app1/manager.log #manager日志
manager_workdir=/var/log/masterha/app1.log #manager工作目錄
master_binlog_dir=/usr/local/mysql/data/ #master儲存binlog的位置,這裡的路徑要與master裡配置的binlog的路徑一緻,以便MHA能找到
master_ip_failover_script=/usr/local/bin/master_ip_failover #設定自動failover時候的切換腳本,也就是上面的那個腳本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change #設定手動切換時候的切換腳本
user=mha #設定監控使用者root
password=manager #設定mysql中root使用者的passwd,這個passwd是前文中建立監控使用者的那個passwd
ping_interval=1 #設定監控主庫,發送ping包的時間間隔1秒,預設是3秒,嘗試三次沒有回應的時候自動進行failover
remote_workdir=/tmp #設定遠端mysql在發生切換時binlog的儲存位置
repl_user=myslave #設定複制使用者的使用者
repl_password=123456 #設定複制使用者的passwd
report_script=/usr/local/send_report #設定發生切換後發送的報警的腳本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.163.12 -s 192.168.163.13 #指定檢查的從伺服器IP位址
shutdown_script="" #設定故障發生後關閉故障主機腳本(該腳本的主要作用是關閉主機防止發生腦裂,這裡沒有使用)
ssh_user=root #設定ssh的登入使用者名
[server1]
hostname=192.168.163.11
port=3306
[server2]
hostname=192.168.163.12
port=3306
candidate_master=1
#設定為候選master,設定該參數以後,發生主從切換以後将會将此從庫提升為主庫,即使這個主庫不是叢集中最新的slave
check_repl_delay=0
#預設情況下如果一個slave落後master 超過100M的relay logs的話,MHA将不會選擇該slave作為一個新的master, 因為對于這個slave的恢複需要花費很長時間;通過設定check_repl_delay=0,MHA觸發切換在選擇一個新的master的時候将會忽略複制延時,這個參數對于設定了candidate_master=1的主機非常有用,因為這個候選主在切換的過程中一定是新的master
[server3]
hostname=192.168.163.13
port=3306
7、第一次配置需要在 Master 節點上手動開啟虛拟IP
Master(192.168.163.11)
/sbin/ifconfig ens33:1 192.168.163.200/24
8、在 manager 節點上測試 ssh 無passwd認證
MHAmanager(192.168.163.10)
masterha_check_ssh -conf=/etc/masterha/app1.cnf
#如果正常最後會輸出 successfully;
#如果失敗可以去配置伺服器無passwd認證的地方看看有沒有問題
9、在 manager 節點上測試 mysql 主從連接配接情況
MHAmanager(192.168.163.10)
masterha_check_repl -conf=/etc/masterha/app1.cnf
#最後出現 MySQL Replication Health is OK 字樣說明正常;
#出現MySQL Replication Health is NOT OK!的,可以去看一下mysql伺服器上的軟連結是否少建立-->本文位置:2、修改三台MySQL伺服器的主配置檔案/etc/my.cnf,并建立指令軟連結
10、在 manager 節點上啟動 MHA
MHAmanager(192.168.163.10)
nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
#------------------------元件解釋----------------------------------------------------------------------------------
--remove_dead_master_conf:該參數代表當發生主從切換後,老的主庫的 ip 将會從配置檔案中移除。
--manger_log:日志存放位置。
--ignore_last_failover:在預設情況下,如果 MHA 檢測到連續發生當機,且兩次當機間隔不足 8 小時的話,則不會進行 Failover, 之是以這樣限制是為了避免 ping-pong 效應。該參數代表忽略上次 MHA 觸發切換産生的檔案,預設情況下,MHA 發生切換後會在日志記目錄,也就是上面設定的日志app1.failover.complete檔案,下次再次切換的時候如果發現該目錄下存在該檔案将不允許觸發切換,除非在第一次切換後收到删除該檔案,為了友善,這裡設定為--ignore_last_failover。
11、檢視相關狀态
MHAmanager(192.168.163.10)
- 檢視 MHA 狀态,可以看到目前的 master 是 Mysql1 節點。
masterha_check_status --conf=/etc/masterha/app1.cnf
MHAmanager(192.168.163.10)
- 檢視 MHA 日志,也以看到目前的 master 是 192.168.163.11
cat /var/log/masterha/app1/manager.log | grep "current master"
mysql1(192.168.163.11)
- 檢視 Mysql1 的 VIP 位址,檢視 Mysql1 的 VIP 位址 192.168.163.200 是否存在,這個 VIP 位址不會因為 manager 節點停止 MHA 服務而消失。
ifconfig
補充:若要關閉 manager 服務,可以使用如下指令。
masterha_stop --conf=/etc/masterha/app1.cnf
或者可以直接采用 kill 程序 ID 的方式關閉。
三、故障模拟
1、故障模拟
(1)在 manager 節點上監控觀察日志記錄MHAmanager(192.168.163.10)
tail -f /var/log/masterha/app1/manager.log
(2)在 Master 節點 Mysql1 上停止mysql服務
mysql1(192.168.163.11)
systemctl stop mysqld
或
pkill -9 mysql
正常自動切換一次後,MHA 程序會退出。HMA 會自動修改 app1.cnf 檔案内容,将當機的 mysql1 節點删除。
(3)檢視 mysql2 是否接管 VIP
mysql2(192.168.163.12)
ifconfig
(4)回到manager 節點上監控觀察日志記錄
MHAmanager(192.168.163.10)
故障切換備選主庫的算法:
1、一般判斷從庫的是從(position/GTID)判斷優劣,資料有差異,最接近于master的slave,成為備選主。
2、資料一緻的情況下,按照配置檔案順序,選擇備選主庫。
3、設定有權重(candidate_master=1),按照權重強制指定備選主。
(1)預設情況下如果一個slave落後master 100M的relay logs的話,即使有權重,也會失效。
(2)如果check_repl_delay=0的話,即使落後很多日志,也強制選擇其為備選主。
2、故障修複步驟
(1)修複mysql
mysql1(192.168.163.11)
systemctl restart mysqld
(2)修複主從
- 在現主庫伺服器 Mysql2 檢視二進制檔案和同步點
- mysql2(192.168.163.12)
mysql -uroot -p123456 -e 'show master status;'
#在資料庫中執行show master status;
在原主庫伺服器 mysql1 執行同步操作mysql1(192.168.163.11)
change master to master_host='192.168.163.12',master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=1747;
start slave;
show slave status\G
(3)在 manager 節點上修改配置檔案app1.cnf
MHAmanager(192.168.163.10)
- 再把這個記錄添加進去,因為它檢測掉失效時候會自動消失
vim /etc/masterha/app1.cnf
……
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.163.11 -s 192.168.163.13
......
[server1]
hostname=192.168.163.12
port=3306
[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.163.11
port=3306
[server3]
hostname=192.168.163.13
port=3306
masterha_stop --conf=/etc/masterha/app1.cnf
nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
masterha_check_status --conf=/etc/masterha/app1.cnf