#################################################################
开篇引题
Distributed Replicated Block Device
部署MFS
部署Corosync+Pacemaker
故障模拟测试
补充和总结
<a href="http://s3.51cto.com/wyfs02/M01/23/DC/wKioL1NFSM2TZy5FAAIfCJj9_B0122.jpg" target="_blank"></a>
直接上图，有图有真相啊！此图是MFS网络组成和运行原理，先不说图中每种角色的作用(下文会有详细说明)，直观信息告诉我们客户端无论是读写请求都需要与MasterServer通信，而图中MasterServer角色只有一个，因此单点故障的因素就显而易见了。解决MFS的单点故障正是本文的初衷，接下来就介绍如何利用多种技术解决MFS的单点故障，实现MasterServer的高可用。
<a href="http://s3.51cto.com/wyfs02/M02/23/DC/wKiom1NFTqTAy-1WAAGOw7O5S_o836.jpg" target="_blank"></a>
分布式复制块设备是Linux内核的存储层中的一个分布式存储系统，可利用DRBD在两台Linux服务器之间共享块设备、文件系统和数据，类似于一个网络RAID1的功能，内核中的DRBD模块监听特定套接字上，复制系统调用产生的写数据为副本并通过TCP协议发送至DRBD从节点，因为节点间磁盘设备每一个数据位都是相同的，所以DRBD可以实现廉价块级别的数据共享。
DRBD工作模型
主从模型(primary/secondary)，同一时刻只能有一个节点提供服务(否则会产生脑裂)，从节点无法使用磁盘分区(挂载也不可以)。
主主模型(primary/primary)，需要借助于集群文件系统并启用分布式文件锁功能，而且写性能不会有提升.
DRBD管理
内核模块:drbd用户空间
管理工具:drbdadm,drbdsetup,drbdmeta
工作流程(默认模型是Sync)
Async:副本交于本地TCP/IP协议栈就返回(性能最高)
SemiSync:副本交对方TCP/IP协议栈就返回(折中方案)
Sync:副本被secondary存储到磁盘中就返回(性能差)
安装配置DRBD(drbd内核模块必须和内核版本完全匹配)
1
<code>rpm -ivh drbd-8.4.3-33.el6.x86_64.rpm drbd-kmdl-2.6.32-358.el6-8.4.3-33.el6.x86_64.rpm</code>
主配置文件
2
3
4
<code>[root@one packages]</code><code># cat /etc/drbd.conf</code>
<code># You can find an example in /usr/share/doc/drbd.../drbd.conf.example</code>
<code>include </code><code>"drbd.d/global_common.conf"</code><code>;</code>
<code>include </code><code>"drbd.d/*.res"</code><code>;</code>
全局配置文件
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
<code>cat</code> <code>/etc/drbd</code><code>.d</code><code>/global_common</code><code>.conf</code>
<code>global {</code>
<code> </code><code>usage-count </code><code>yes</code><code>;</code>
<code> </code><code># minor-count dialog-refresh disable-ip-verification</code>
<code>}</code>
<code>common {</code>
<code> </code><code>handlers {</code>
<code> </code><code>pri-on-incon-degr </code><code>"/usr/lib/drbd/notify-pri-on-incon-degr.sh; /usr/lib/drbd/notify-emergency-reboot.sh; echo b > /proc/sysrq-trigger ; reboot -f"</code><code>;</code>
<code> </code><code>pri-lost-after-sb </code><code>"/usr/lib/drbd/notify-pri-lost-after-sb.sh; /usr/lib/drbd/notify-emergency-reboot.sh; echo b > /proc/sysrq-trigger ; reboot -f"</code><code>;</code>
<code> </code><code>local</code><code>-io-error </code><code>"/usr/lib/drbd/notify-io-error.sh; /usr/lib/drbd/notify-emergency-shutdown.sh; echo o > /proc/sysrq-trigger ; halt -f"</code><code>;</code>
<code> </code><code># fence-peer "/usr/lib/drbd/crm-fence-peer.sh";</code>
<code> </code><code># split-brain "/usr/lib/drbd/notify-split-brain.sh root";</code>
<code> </code><code># out-of-sync "/usr/lib/drbd/notify-out-of-sync.sh root";</code>
<code> </code><code># before-resync-target "/usr/lib/drbd/snapshot-resync-target-lvm.sh -p 15 -- -c 16k";</code>
<code> </code><code># after-resync-target /usr/lib/drbd/unsnapshot-resync-target-lvm.sh;</code>
<code> </code><code>}</code>
<code> </code><code>startup {</code>
<code> </code><code># wfc-timeout degr-wfc-timeout outdated-wfc-timeout wait-after-sb</code>
<code> </code><code>options {</code>
<code> </code><code># cpu-mask on-no-data-accessible</code>
<code> </code><code>disk {</code>
<code> </code><code>on-io-error detach;</code>
<code> </code><code># size max-bio-bvecs on-io-error fencing disk-barrier disk-flushes</code>
<code> </code><code># disk-drain md-flushes resync-rate resync-after al-extents</code>
<code> </code><code># c-plan-ahead c-delay-target c-fill-target c-max-rate</code>
<code> </code><code># c-min-rate disk-timeout</code>
<code> </code><code>net {</code>
<code> </code><code>cram-hmac-alg </code><code>"sha1"</code><code>;</code>
<code> </code><code>shared-secret </code><code>"soulboy"</code><code>;</code>
<code> </code><code># protocol timeout max-epoch-size max-buffers unplug-watermark</code>
<code> </code><code># connect-int ping-int sndbuf-size rcvbuf-size ko-count</code>
<code> </code><code># allow-two-primaries cram-hmac-alg shared-secret after-sb-0pri</code>
<code> </code><code># after-sb-1pri after-sb-2pri always-asbp rr-conflict</code>
<code> </code><code># ping-timeout data-integrity-alg tcp-cork on-congestion</code>
<code> </code><code># congestion-fill congestion-extents csums-alg verify-alg</code>
<code> </code><code># use-rle</code>
<code> </code><code>syncer {</code>
<code> </code><code>rate 1000M;</code>
定义资源mfs
<code>[root@one packages]</code><code># cat /etc/drbd.d/mydata.res</code>
<code>resource mydata {</code>
<code> </code><code>on one.soulboy.com {</code>
<code> </code><code>device </code><code>/dev/drbd0</code><code>;</code>
<code> </code><code>disk </code><code>/dev/sdb2</code><code>; </code><code>#大小要一致</code>
<code> </code><code>address 192.168.1.61:7789;</code>
<code> </code><code>meta-disk internal;</code>
<code> </code><code>on two.soulboy.com {</code>
<code> </code><code>disk </code><code>/dev/sdb1</code><code>; </code><code>#大小要一致</code>
<code> </code><code>address 192.168.1.62:7789;</code>
<code>resource mfs {</code>
<code> </code><code>device </code><code>/dev/drbd1</code><code>;</code>
<code> </code><code>disk </code><code>/dev/sdb3</code><code>;</code>
<code> </code><code>address 192.168.1.61:7788;</code>
<code> </code><code>disk </code><code>/dev/sdb2</code><code>;</code>
<code> </code><code>address 192.168.1.62:7788;</code>
同步配置文件到从节点
<code>scp</code> <code>/etc/drbd</code><code>.d/* two.soulboy.com:</code><code>/etc/drbd</code><code>.d/</code>
初始化资源(分别在两个节点上执行)
<code>drbdadm create-md mfs</code>
启动资源(分别在两个节点上执行)
<code>service drbd start</code>
将某节点变为主节点(192.168.1.61为主节点)
<code>drbdadm primary --force mydata</code>
查看状态确定同步完毕
<code>[root@one packages]</code><code># service drbd status</code>
<code>1:mfs Connected Primary</code><code>/Secondary</code> <code>UpToDate</code><code>/UpToDate</code> <code>C </code><code>/mfs</code> <code>ext4</code>
格式化文件系统(在主节点)
<code>mke2fs -t ext4 </code><code>/dev/drbd1</code>
允许对方抢占(分别在两节点上执行)
<code>drbdadm primary mfs</code>
开机不要自动启动
<code>chkconfig drbd off</code>
MFS工作原理
MFS文件系统能够实现RAID功能，节约成本，不逊色于专业的存储系统，可以实现在线扩容。
MFS的四种角色
MasterServer(元数据服务器):负责管理各个ChunkServer及调度文件读写，回收文件空间及恢复多节点拷贝。
Metalogger(元数据日志服务器):负责备份管理服务器的变化日志文件。
ChunkServer(数据存储服务器):真正存储用户数据的服务器，将文件切块相互同步，听从MasterServer的调度为Client提供数据传输，Chunk节点数量越多，可靠性和MFS可用的磁盘空间就会越大。
Client(客户端):客户端通过fuse内核接口远程管理服务器上所管理的数据存储服务器，和使用本地文件系统一样。
安装配置元数据服务
<code>mount</code> <code>/dev/drbd1</code> <code>/mfs</code> <code>#挂载drbd设备</code>
<code>groupadd -g 1000 mfs </code><code>#两边节点的uid要统一</code>
<code>useradd</code> <code>-u 1000 -g mfs -s </code><code>/sbin/nologin</code> <code>mfs </code><code>#两边节点都需要创建</code>
<code>mkdir</code> <code>-pv </code><code>/mfs</code> <code>#主节点创建数据目录即可</code>
<code>chown</code> <code>-R mfs.mfs </code><code>/mfs</code> <code>#两个节点修改目录属主和属组为mfs</code>
<code>tar</code> <code>xf mfs-1.6.26.</code><code>tar</code><code>.gz</code>
<code>cd</code> <code>mfs-1.6.26</code>
<code>.</code><code>/configure</code> <code>--prefix=</code><code>/mfs</code> <code>--with-default-user=mfs --with-default-group=mfs</code>
<code>make</code> <code>&& </code><code>make</code> <code>install</code>
<code>cp</code> <code>/mfs/etc/mfsmaster</code><code>.cfg.dist </code><code>/mfs/etc/mfsmaster</code><code>.cfg</code>
<code>cp</code> <code>/mfs/etc/mfsexports</code><code>.cfg.dist </code><code>/mfs/etc/mfsexports</code><code>.cfg</code>
<code>cp</code> <code>/mfs/var/mfs/metadata</code><code>.mfs.empty </code><code>/mfs/var/mfs/metadata</code><code>.mfs</code>
<code>vim </code><code>/mfs/etc/mfsmaster</code><code>.cfg</code>
<code> </code><code># WORKING_USER = mfs #运行用户</code>
<code> </code><code># WORKING_GROUP = mfs #运行组</code>
<code> </code><code># SYSLOG_IDENT = mfsmaster #在syslog中标识自己</code>
<code> </code><code># LOCK_MEMORY = 0 #是否执行mlockall()以避免mfsmaster进程溢出(默认为0)</code>
<code> </code><code># NICE_LEVEL = -19 #运行的优先级</code>
<code> </code><code># EXPORTS_FILENAME = /usr/local/mfs/etc/mfsexports.cfg #目录控制文件路径</code>
<code> </code><code># TOPOLOGY_FILENAME = /usr/local/mfs/etc/mfstopology.cfg #拓扑类型文件路径</code>
<code> </code><code># DATA_PATH = /usr/local/mfs/var/mfs #数据存放路径(changelog,sessions,stats)</code>
<code> </code><code># BACK_LOGS = 50 #元数据的改变日志文件数量</code>
<code> </code><code># BACK_META_KEEP_PREVIOUS = 1 #</code>
<code> </code><code># REPLICATIONS_DELAY_INIT = 300 #延迟复制时间(300秒)</code>
<code> </code><code># REPLICATIONS_DELAY_DISCONNECT = 3600 #ChunkServer断开复制的延迟</code>
<code> </code><code># MATOML_LISTEN_HOST = * #元数据日志服务器监听的IP地址(*代表任何IP)</code>
<code> </code><code># MATOML_LISTEN_PORT = 9419 #元数据日志服务器监听的端口地址(9419)</code>
<code> </code><code># MATOCS_LISTEN_HOST = * #用于ChunkServer连接的IP地址(*代表任何IP)</code>
<code> </code><code># MATOCS_LISTEN_PORT = 9420 #用于ChunkServer连接的端口(9420)</code>
<code> </code><code># MATOCL_LISTEN_HOST = * #用于客户端连接的地址</code>
<code> </code><code># MATOCL_LISTEN_PORT = 9421 #用于客户端连接的端口</code>
<code> </code><code># CHUNKS_LOOP_CPS = 100000 </code>
<code> </code><code># CHUNKS_LOOP_TIME = 300 #Chunks回环频率</code>
<code> </code><code># CHUNKS_SOFT_DEL_LIMIT = 10 </code>
<code> </code><code># CHUNKS_HARD_DEL_LIMIT = 25</code>
<code> </code><code># CHUNKS_WRITE_REP_LIMIT = 2 #在一个循环里复制到一个ChunkServer的最大Chunks数目</code>
<code> </code><code># CHUNKS_READ_REP_LIMIT = 10</code>
<code> </code><code># REJECT_OLD_CLIENTS = 0 #弹出低于1.6.0客户端的连接</code>
目录挂载控制文件
<code>vim </code><code>/mfs/etc/mfsexports</code><code>.cfg </code><code>#分为三个部分，无需修改</code>
<code>* . rw</code>
<code>* / rw,alldirs,maproot=0</code>
<code>客户端IP 被挂载目录 客户端拥有的权限</code>
为MasterServer提供lsb格式启动脚本
<code>cat</code> <code>/etc/init</code><code>.d</code><code>/mfsmaster</code>
<code># chkconfig: 345 91 10</code>
<code># description: mfs start.</code>
<code>. </code><code>/etc/rc</code><code>.d</code><code>/init</code><code>.d</code><code>/functions</code>
<code>. </code><code>/etc/sysconfig/network</code>
<code>path=</code><code>"/mfs/sbin"</code>
<code>[ </code><code>"${NETWORKING}"</code> <code>= </code><code>"no"</code> <code>] && </code><code>exit</code> <code>0</code>
<code>start() {</code>
<code>$path</code><code>/mfsmaster</code> <code>start</code>
<code>$path</code><code>/mfscgiserv</code> <code>start</code>
<code>stop() {</code>
<code>$path</code><code>/mfsmaster</code> <code>stop</code>
<code>restart() {</code>
<code>$path</code><code>/mfsmaster</code> <code>restart</code>
<code>$path</code><code>/mfscgiserv</code> <code>restart</code>
<code>status() {</code>
<code>$path</code><code>/mfsmaster</code> <code>test</code>
<code>$path</code><code>/mfscgiserv</code> <code>test</code>
<code>case</code> <code>"$1"</code> <code>in</code>
<code> </code><code>start)</code>
<code> </code><code>start</code>
<code> </code><code>;;</code>
<code> </code><code>stop)</code>
<code> </code><code>stop</code>
<code> </code><code>restart)</code>
<code> </code><code>restart</code>
<code> </code><code>status)</code>
<code> </code><code>status</code>
<code> </code><code>*)</code>
<code> </code><code>echo</code> <code>$</code><code>"Usage: $0 start|stop|restart|status"</code>
<code> </code><code>exit</code> <code>1</code>
<code> </code><code>esac</code>
<code> </code><code>exit</code> <code>0</code>
修改权限
<code>chmod</code> <code>755 </code><code>/etc/init</code><code>.d</code><code>/mfsmaster</code>
导出命令
<code>echo</code> <code>'export PATH=$PATH:/mfs/sbin'</code> <code>> </code><code>/etc/profile</code><code>.d</code><code>/mfs</code><code>.sh</code>
<code>. </code><code>/etc/profile</code><code>.d</code><code>/mfs</code><code>.sh</code>
同步启动脚本至从节点
<code>scp</code> <code>-p </code><code>/etc/init</code><code>.d</code><code>/mfsmaster</code> <code>two:</code><code>/etc/init</code><code>.d/</code>
关闭服务卸载drbd设备
<code>service mfsmaster stop</code>
<code>umount</code> <code>/dev/drbd1</code>
<a href="http://s3.51cto.com/wyfs02/M02/23/DD/wKiom1NFX5jzjqXfAAI-RkHOIo4110.jpg" target="_blank"></a>
Corosync是集群管理套件的一部分，它在传递信息的时候可以通过一个简单的配置文件来定义信息传递的方式和协议等，RHCS集群套件就是基于corosync实现。但corosync只提供了message layer的能力。集群的资源管理则需要Pacemaker，其管理接口有两个分别是crmsh和pcs。
环境准备
service NetworkManager stop
时间同
主机名称解析的结果等于uname -n
安装(pacemaker作为corosync的插件运行)
<code>yum </code><code>install</code> <code>-y corosync pacemaker</code>
资源管理器配置接口基于crmsh
<code>yum </code><code>install</code> <code>-y crmsh-1.2.6-4.el6.x86_64.rpm pssh-2.3.1-2.el6.x86_64.rpm</code>
生成密钥
<code>corosync-keygen</code>
<code>cp</code> <code>/etc/corosync/corosync</code><code>.conf.example </code><code>/etc/corosync/corosync</code><code>.conf</code>
配置文件
<code>vim </code><code>/etc/corosync/corosync</code><code>.conf </code><code>#添加pacemaker插件</code>
<code> </code><code>compatibility: whitetank </code><code>#是否兼容0.8版本的corosync</code>
<code> </code><code>totem { </code><code>#用来定义集群节点心跳信息传递</code>
<code> </code><code>version: 2 </code><code>#版本号</code>
<code> </code><code>secauth: on </code><code>#启用安全认证机制</code>
<code> </code><code>threads: 0 </code><code>#启用多少线程完成心跳信息传递</code>
<code> </code><code>interface { </code><code>#定义心跳信息传递的接口</code>
<code> </code><code>ringnumber: 0 </code><code>#避免循环转发心跳信息</code>
<code> </code><code>bindnetaddr: 192.168.2.0 </code><code>#指定网卡的网络地址</code>
<code> </code><code>mcastaddr: 226.194.61.21 </code><code>#心跳信息使用的组播地址</code>
<code> </code><code>mcastport: 5405 </code><code>#组播监听端口</code>
<code> </code><code>ttl: 1</code>
<code> </code><code>}</code>
<code> </code><code>}</code>
<code> </code><code>logging { </code><code>#心跳信息层日志</code>
<code> </code><code>fileline: off </code><code>#</code>
<code> </code><code>to_stderr: no </code><code>#是否把错误信息发往屏幕</code>
<code> </code><code>to_logfile: </code><code>yes</code> <code>#使用自定义日志文件logfile</code>
<code> </code><code>to_syslog: no </code><code>#是否记录到系统日志</code>
<code> </code><code>logfile: </code><code>/var/log/cluster/corosync</code><code>.log</code>
<code> </code><code>debug: off </code><code>#调试功能</code>
<code> </code><code>timestamp: on </code><code>#每次记录心跳信息是否记录时间戳</code>
<code> </code><code>logger_subsys {</code>
<code> </code><code>subsys: AMF</code>
<code> </code><code>debug: off</code>
<code> </code><code>amf {</code>
<code> </code><code>mode: disabled</code>
<code> </code><code>service { </code><code>#添加pacemaker插件</code>
<code> </code><code>ver: 0</code>
<code> </code><code>name: pacemaker</code>
<code> </code><code>aisexec { </code><code>#可省略</code>
<code> </code><code>user: root</code>
<code> </code><code>group: root</code>
复制配置文件到其他节点
<code>scp</code> <code>-p </code><code>/etc/corosync/corosync</code><code>.conf </code><code>/etc/corosync/authkey</code> <code>two.soulboy.com:</code><code>/etc/corosync/</code>
分别在两节点启动corosync服务
<code>service corosync start</code>
使用crmsh接口定义drbd资源(忽略法定票数、禁用stonith设备)
<code>crm(live)configure</code><code># property no-quorum-policy=ignore</code>
<code>crm(live)configure</code><code># property stonith-enabled=false</code>
定义原始资源
<code>crm(live)configure</code><code># primitive mfs_drbd ocf:linbit:drbd params drbd_resource=mfs op monitor role=Master interval=10 timeout=20 op monitor role=Slave interval=20 timeout=20 op start timeout=240 op stop timeout=100 #定义drbd资源</code>
<code>crm(live)configure</code><code># ms ms_mfs_drbd mfs_drbd meta master-max="1" master-node-max="1" clone-max="2" clone-node-max="1" notify="true" #定义drbd的克隆资源、克隆属性</code>
<code>crm(live)configure</code><code># primitive mfsstore ocf:heartbeat:Filesystem params device="/dev/drbd1" directory="/mfs" fstype="ext4" op monitor interval=40 timeout=40 op start timeout=60 op stop timeout=60 #定义本地挂载资源</code>
<code>crm(live)configure</code><code># primitive mfsip ocf:heartbeat:IPaddr params ip="192.168.1.40" op monitor interval=20 timeout=20 on-fail=restart #定义vip</code>
<code>crm(live)configure</code><code># primitive mfsserver lsb:mfsmaster #定义mfs服务</code>
定义colocation约束(资源运行在同一个节点上的偏好)
<code>crm(live)configure</code><code># colocation mfsstore_with_ms_mfs_drbd_master inf: mfsstore ms_mfs_drbd:Master #挂载资源追随drbd主资源在一起</code>
<code>crm(live)configure</code><code># colocation mfsserver_with_mfsstore inf: mfsserver mfsstore #mfs服务追随挂载资源</code>
<code>crm(live)configure</code><code># colocation mfsip_with_mfsserver inf: mfsip mfsserver #vip追随mfs服务</code>
定义资源组(如果定义了资源组就没有必要定义colocation约束了)
<code>crm(live)configure</code><code># group ha_mfsservice mfsstore mfsserver mfsip #本文没有这样做，但特此说明这样做也是可以的</code>
定义order约束(资源启动和关闭的次序)
<code>crm(live)configure</code><code># order ms_mfs_drbd_before_mfsstore mandatory: ms_mfs_drbd:promote mfsstore:start #节点上存在drbdMaster才能启动mystore服务</code>
<code>crm(live)configure</code><code># order mfsstore_before_mfsserver mandatory: mfsstore:start mfsserver:start #mystore服务启动才能启动mfs服务</code>
<code>crm(live)configure</code><code># order mfsip_before_mfsserver mandatory: mfsip mfsserver #vip启动才能启动mfs服务 </code>
定义location约束(资源对节点的倾向性)
<code>location mfsservice_prefer_one ha_mfsservice 500: one.soulboy.com </code><code>#主节点从故障中回复是否可以将资源抢夺回来，本文没有这样做，特此说明这样做是可以完成资源抢占的。</code>
检查语法并保存
<code>crm(live)configure</code><code># verify</code>
<code>crm(live)configure</code><code># commit</code>
查看集群状态(发现资源都运行在主节点上)
<code>[root@one packages]</code><code># crm</code>
<code>crm(live)</code><code># status</code>
<code>Online: [ one.soulboy.com two.soulboy.com ]</code>
<code>Master</code><code>/Slave</code> <code>Set: ms_mfs_drbd [mfs_drbd]</code>
<code> </code><code>Masters: [ one.soulboy.com ]</code>
<code> </code><code>Slaves: [ two.soulboy.com ]</code>
<code> </code><code>mfsstore (ocf::heartbeat:Filesystem): Started one.soulboy.com</code>
<code> </code><code>mfsserver (lsb:mfsmaster): Started one.soulboy.com</code>
<code> </code><code>mfsip (ocf::heartbeat:IPaddr): Started one.soulboy.com</code>
查看验证
<code>[root@one ~]</code><code># drbd-overview #drbd资源正常</code>
<code> </code><code>1:mfs</code><code>/0</code> <code>Connected Primary</code><code>/Secondary</code> <code>UpToDate</code><code>/UpToDate</code> <code>C r----- </code><code>/mfs</code> <code>ext4 5.0G 142M 4.6G 3%</code>
<code>[root@one ~]</code><code># service mfsmaster status #mfs资源正常</code>
<code>mfsmaster pid: 13966</code>
<code>mfscgiserv pid:14158</code>
<code>[root@one ~]</code><code># ip addr show | grep 192.168.1.40 #vip资源正常</code>
<code> </code><code>inet 192.168.1.40</code><code>/24</code> <code>brd 192.168.1.255 scope global secondary eth0</code>
<code>[root@one ~]</code><code># ls /mfs #挂载资源正常</code>
<code>etc lost+found sbin share var</code>
安装ChunkServer
<code>useradd</code> <code>mfs -s </code><code>/sbin/nologin</code>
<code>.</code><code>/configure</code> <code>--prefix=</code><code>/usr/local/mfs</code> <code>--with-default-user=mfs --with-default-group=mfs</code>
<code>cp</code> <code>/usr/local/mfs/etc/mfschunkserver</code><code>.cfg.dist </code><code>/usr/local/mfs/etc/mfschunkserver</code><code>.cfg</code>
<code>cp</code> <code>/usr/local/mfs/etc/mfshdd</code><code>.cfg.dist </code><code>/usr/local/mfs/etc/mfshdd</code><code>.cfg</code>
<code>vim </code><code>/usr/local/mfs/etc/mfschunkserver</code><code>.cfg</code>
<code># WORKING_USER = mfs</code>
<code># WORKING_GROUP = mfs</code>
<code># SYSLOG_IDENT = mfschunkserver</code>
<code># LOCK_MEMORY = 0</code>
<code># NICE_LEVEL = -19</code>
<code># DATA_PATH = /usr/local/mfs/var/mfs</code>
<code># MASTER_RECONNECTION_DELAY = 5</code>
<code># BIND_HOST = *</code>
<code>MASTER_HOST = 192.168.1.40 </code><code>#元数据服务器的地址</code>
<code>MASTER_PORT = 9420 </code><code>#元数据服务器监听端口</code>
<code># MASTER_TIMEOUT = 60</code>
<code># CSSERV_LISTEN_HOST = *</code>
<code># CSSERV_LISTEN_PORT = 9422 #此端口用户和其他ChunkServer间复制数据</code>
<code># HDD_CONF_FILENAME = /usr/local/mfs/etc/mfshdd.cfg #分配给MFS磁盘使用空间配置文件路径</code>
<code># HDD_TEST_FREQ = 10</code>
<code># LOCK_FILE = /var/run/mfs/mfschunkserver.lock</code>
<code># BACK_LOGS = 50</code>
<code># CSSERV_TIMEOUT = 5</code>
磁盘空间配置文件
<code>vim </code><code>/usr/local/mfs/etc/mfshdd</code><code>.cfg</code>
<code>/data</code> <code>#/data是一个MFS的分区，实例化为本机一个独立的磁盘挂载分区。</code>
修改权限并启动服务
<code>chown</code> <code>-R mfs:mfs </code><code>/data</code>
<code>mfschunkserver start</code>
Client编译安装
MFS客户端依赖于fuse
<code>tar</code> <code>xf fuse-2.9.2.</code><code>tar</code><code>.gz</code>
<code>cd</code> <code>fuse-2.9.2</code>
<code>.</code><code>/configure</code>
<code>vim </code><code>/etc/profile</code><code> </code><code>#在最后添加</code>
<code>export</code> <code>PKG_CONFIG_PATH=</code><code>/usr/local/lib/pkgconfig</code><code>:$PKG_CONFIG_PATH</code>
<code>source</code> <code>/etc/profile</code><code> </code><code>#即时生效</code>
安装MFS客户端
<code>.</code><code>/configure</code> <code>--prefix=</code><code>/usr/local/mfs</code> <code>--with-default-user=mfs --with-default-group=mfs --</code><code>enable</code><code>-mfsmount</code>
<code>modprobe fuse </code><code>#加载fuse到内核</code>
挂载MFS文件系统
<code>mkdir</code> <code>/webdata</code><code> </code><code>#创建本地目录作为挂载点</code>
<code>/usr/local/mfs/bin/mfsmount</code> <code>/webdata</code> <code>-H 192.168.1.40 </code><code>#挂载MFS到本地/webdata目录</code>
挂载MFSMeta文件系统
<code>mkdir</code> <code>/webdatameta</code><code> </code><code>#创建本地MFSMeta目录</code>
<code>/usr/local/mfs/bin/mfsmount</code> <code>-m </code><code>/webdatameta</code> <code>-H 192.168.1.40 </code><code>#挂载MFSMeta文件系统</code>
client创建文件并查看信息(正常)
<code>[root@five /]</code><code># echo "123" > /webdata/one #创建文件</code>
<code>[root@five /]</code><code># mfsfileinfo /webdata/one #查看副本和存储节点</code>
<code>/webdata/one</code><code>:</code>
<code> </code><code>chunk 0: 0000000000000006_00000001 / (</code><code>id</code><code>:6 ver:1)</code>
<code> </code><code>copy 1: 192.168.1.50:9422</code>
<code> </code><code>copy 2: 192.168.1.64:9422</code>
登录web管理控制台(正常)
<a href="http://s3.51cto.com/wyfs02/M01/23/DD/wKiom1NFcaqDOh_vAAJDlBgddZY353.jpg" target="_blank"></a>
模拟主节点故障
<code>crm(live)node</code><code># standby #离线，等待几秒钟</code>
<code>crm(live)node</code><code># online #上线</code>
<code>crm(live)node</code><code># cd #回退</code>
<code>crm(live)</code><code># status #查看集群资源状态</code>
<code> </code><code>Master</code><code>/Slave</code> <code>Set: ms_mfs_drbd [mfs_drbd]</code>
<code> </code><code>Masters: [ two.soulboy.com ]</code>
<code> </code><code>Slaves: [ one.soulboy.com ]</code>
<code> </code><code>mfsstore (ocf::heartbeat:Filesystem): Started two.soulboy.com</code>
<code> </code><code>mfsserver (lsb:mfsmaster): Started two.soulboy.com</code>
<code> </code><code>mfsip (ocf::heartbeat:IPaddr): Started two.soulboy.com</code>
client再次创建文件并查看副本数（正常）
<code>[root@five /]</code><code># echo "123" > /webdata/two</code>
<code>[root@five /]</code><code># mfsfileinfo /webdata/two</code>
<code>/webdata/two</code><code>:</code>
<code> </code><code>chunk 0: 0000000000000007_00000001 / (</code><code>id</code><code>:7 ver:1)</code>
再次登录web管理控制台(正常)
<a href="http://s3.51cto.com/wyfs02/M01/23/DD/wKiom1NFdEKAHQEPAAJDlBgddZY112.jpg" target="_blank"></a>
解决MFS单点故障的主要思路是将MasterServer安装在drbd设备目录中，通过corosync+pacemaker将drbd、vip、mount、mfsmaster资源粘合在一起，并通过colocation和order的约束保证了资源间依赖关系和启动次序，此外mfsmaster的启动在pacemaker中定义为lsb风格RA，也就是形如/etc/init.d/目录下的sysv风格的脚本。值得一提的是pacemaker的管理接口，本文中使用的是crmsh，而pcs接口有着比crmsh更强大的功能，可以实现管理集群整个生命周期，支持节点的添加、移除、启动、关闭等操作。
实现mysql的高可用也可以通过本文这种思路实现，具体步骤可参考本文，这里补充下pcs接口的用法，方便读者做对比。
<code>pcs resource create myvip ocf:heartbeat:IPaddr params ip=192.168.1.70 </code><code>op</code> <code>monitor interval=20 timeout=20 on-fail=restart </code><code>#定义vip</code>
<code>pcs resource create mystore ocf:heartbeat:Filesystem params device=</code><code>"192.168.1.50:/mysqldata"</code> <code>directory=</code><code>"/mydata"</code> <code>fstype=</code><code>"nfs"</code> <code>op</code> <code>monitor interval=40 timeout=40 on-fail=restart </code><code>op</code> <code>start timeout=60 </code><code>op</code> <code>stop timeout=60 </code><code>#定义nfs</code>
<code>pcs resource create mysqlserver lsb:mysqld </code><code>op</code> <code>monitor interval=20 timeout=20 on-fail=restart </code><code>#定义httpd</code>
<code>pcs resource group add mysqlservice myvip mystore mysqlserver </code><code>#定义webservice资源组</code>
<code>pcs constraint location mysqlservice prefers two.soulboy.com=500 </code><code>#定义资源倾向性，资源组webservice对节点二的倾向性为500</code>
<code>pcs constraint order start myvip </code><code>then</code> <code>start mystore </code><code>#定义资源的order执行次序，这个貌似不能一下子定义三个资源月约束</code>
<code>pcs constraint order start mystore </code><code>then</code> <code>start mysqlserver </code><code>#定义资源的order执行次序</code>
<code>pcs constraint colocation add myvip mystore </code><code>#定义colocation，如果有资源组可以省略。这个貌似不能一次定义三个资源月约束</code>
<code>pcs constraint colocation add mystore mysqlserver </code><code>#定义colocation</code>
本文转自 ftmoonfans 51CTO博客，原文链接:http://blog.51cto.com/soulboy/1393114
![DB2表压缩功能[图]](data:image/gif;base64,R0lGODlhAQABAIAAAP///wAAACwAAAAAAQABAAACAkQBADs=)