天天看点

Linux下群集服务简介&lvs集群详解

 Linux下集群服务简介&LVS详解

<b></b>

 <b>Linux</b><b>下集群服务简介:</b>

<b>Cluster</b>

<b>LB:Load Balancing,</b><b>负载均衡</b>

<b>HA</b><b>:High Availability ,高可用</b>

<b>HP</b><b>:High Performance,高性能</b>

<b>负载均衡集群</b>目的是提供和节点个数成正比的负载能力,这种集群很适合提供大访问 量的Web服务。负载均衡集群往往也具有一定的高可用性特点。

<b>高可用性集群</b>运行于两个或多个节点上,目的是在系统出现某些故障的情况下,仍能继续对外提供服务。高可用性集群的设计思想就是要最大限度地减少服务中断时间。这类集群中比较著名的有Turbolinux TurboHA、Heartbeat、Kimberlite等。

      <b>高性能集群</b>对一种服务而言不具有负载均衡功能,它可以提高整个系统的可靠性,但不能增加负载的能力。当然,高可用性集群可以运行多种服务,并适当分配在不同节点上,比如节点A提供Oracle服务,同时节点B提供Sybase服务,这也可以看成是某种意义上的负载均衡,不过这是对多种服务的分配而言。 简单的说,高性能计算(High-Performance Computing)是计算机科的一个分支,它致力于开发超级计算机,研究并行算法和开发相关软件。

Director:

4层:TCP/IP port(类似DNAT)

应用层:5/7  代理服务器

<a href="http://blog.51cto.com/attachment/201205/210850690.png" target="_blank"></a>

<a href="http://blog.51cto.com/attachment/201205/210911160.png" target="_blank"></a>

LVS: Linux Virtual Server(章文嵩)

<b>LVS</b><b>:ipvsadm/ipvs</b>

<a href="http://blog.51cto.com/attachment/201205/210924943.png" target="_blank"></a>

<a href="http://blog.51cto.com/attachment/201205/210933517.png" target="_blank"></a>

<a href="http://blog.51cto.com/attachment/201205/210942753.png" target="_blank"></a>

1.    定义虚拟服务器

ip1:80  s  rr

2.    ip1:80  -r  server1

ip2:80   -r   server2

<b>HA  </b><b>高可用性</b>

一般性:99.9%

关键性:99.999%

节点:

2个节点     active -àstandby      active-àactive

<b>RHCS</b>        redhat aluster suite   100个节点     n/m模式

arp 缓存 控制信息     心跳线 (双绞线 光纤 串行线)

群集分裂 (split-brain)      

解决方法: stonith(电源交换机,ssh,meatware)fence机器模块设备

<b>共享存储:</b>

Ø das : 直接附加存储  scsi 磁盘柜

Ø nas : 网络附加存储   samba nfs 文件级的共享 效率低

Ø san : 存储区域网络   fc-san(光纤) ip-san(iscsi:ip)效率高

群集文件系统   redhat:gfs2  oracle:ocfs2

<b>故障转移:</b>

故障转移域

多个节点:群集工作票数:quorum   dc

2个节点:仲裁磁盘(100M)心跳线

实现方式:

heartbeat    v1  v2  v3

群集资源:

群集ip,服务进程(服务脚本) 存储

<a href="http://blog.51cto.com/attachment/201205/211007203.png" target="_blank"></a>

压力测试工具:ab –c 100 –n 1000 http://172.16.100.1/index.html

<b>Linux</b><b>下集群服务之LVS详解:</b>

<b>1.LVS</b><b>简介:</b>

LVS是Linux Virtual Server的简写,意即Linux虚拟服务器,是一个虚拟的服务器集群系统。本项目在1998年5月由章文嵩博士成立,是中国国内最早出现的自由软件项目之一。

目前有三种IP负载均衡技术(VS/NAT、VS/TUN和VS/DR);

十种调度算法(rrr|wrr|lc|wlc|lblc|lblcr|dh|sh|sed|nq)。

<b>2.LVS</b><b>的三种实现技术:</b>

1、        通过NAT实现虚拟服务器(VS/NAT)

<a href="http://blog.51cto.com/attachment/201205/211251886.png" target="_blank"></a>

特点:

Ø IP DIP必须在同一网段,而且必须为私有地址

Ø IP为RIP的default gateway

Ø irector很容易会成为整个网络的瓶颈点

Ø IP可支持端口映射

2、        通过直接路由实现虚拟服务器(VS/DR)

<a href="http://blog.51cto.com/attachment/201205/211327599.png" target="_blank"></a>

Ø RIP DIP必须在同一网段,都不必是私有地址,

Ø IP直接给CIP回复,directory只需要处理请求数据,这样的工作效率将成倍的提高,解决了LVM-NAT的瓶颈问题。不能进行端口映射

Ø IP不支持端口映射。服务必须使用默认的端口

Ø 理员可以直接通过Internet连接到RIP对服务器进行配置。但这里同时也存在着来自Internet的网络安全隐患

3、        通过IP隧道实现虚拟服务器(VS/TUN)

<a href="http://blog.51cto.com/attachment/201205/211342834.png" target="_blank"></a>

Ø IP DIP 都必须为公网地址,DIP RIP之间数据通过网络Internet传送。

Ø directory和server可以不再同一个网段,可以跨越地区,其他的都和LVM-DR形式的一样。

Ø 其耗资源,投资较大。

<b>3.LVS</b><b>的调度算法:</b>

在内核中的连接调度算法上,IPVS已实现了以下十种调度算法:

LVS的算法分为两大类:

<b>静态算法</b>:只是根据算法进行调度并不考虑后端REALSERVER的实际连接情况

* 轮叫调度(Round-Robin Scheduling)(rr)

调度器通过"轮叫"调度算法将外部请求按顺序轮流分配到集群中的真实服务器上,它均等地对待每一台服务器,而不管服务器上实际的连接数和系统负载。

* 加权轮叫调度(Weighted Round-Robin Scheduling)(wrr)

调度器通过"加权轮叫"调度算法根据真实服务器的不同处理能力来调度访问请求。这样可以保证处理能力强的服务器处理更多的访问流量。调度器可以自动问询真实服务器的负载情况,并动态地调整其权值

* 目标地址散列调度(Destination Hashing Scheduling)(dh)

"目标地址散列"调度算法根据请求的目标IP地址,作为散列键(Hash Key)从静态分配的散列表找出对应的服务器,若该服务器是可用的且未超载,将请求发送到该服务器,否则返回空。

* 源地址散列调度(Source Hashing Scheduling)(sh)

"源地址散列"调度算法根据请求的源IP地址,作为散列键(Hash Key)从静态分配的散列表找出对应的服务器,若该服务器是可用的且未超载,将请求发送到该服务器,否则返回空。

<b>动态算法</b>:前端的调度器会根据后端REALSERVER的实际连接情况来分配请求

* 最小连接调度(Least-Connection Scheduling)(LC)

调度器通过"最少连接"调度算法动态地将网络请求调度到已建立的链接数最少的服务器上。如果集群系统的真实服务器具有相近的系统性能,采用"最小连接"调度算法可以较好地均衡负载。

* 加权最小连接调度(Weighted Least-Connection Scheduling)(WLC) (Default)

在集群系统中的服务器性能差异较大的情况下,调度器采用"加权最少链接"调度算法优化负载均衡性能,具有较高权值的服务器将承受较大比例的活动连接负载。调度器可以自动问询真实服务器的负载情况,并动态地调整其权值。

* 最短预期延时调度(Shortest Expected Delay Scheduling)(SED)

对wlc的改进,在wlc算法的基础上给权重值加一,主要用来针对某个服务器活动链接数值为0情况

* 不排队调度(Never Queue Scheduling)(NQ)

基于SED算法的改进,不排队。Never Queue从不排队,若第二个要给没有连接数的服务器,不至于让另一个服务器特别闲,在权重差别比较大的时候特别有用。

* 基于局部性的最少链接(Locality-Based Least Connections Scheduling)(LBLC)

基于本地的最少连接,DH算法的动态算法,会计算缓存上现在处于活动连接的。

* 带复制的基于局部性最少链接(Locality-Based Least Connections with Replication Scheduling)(LBLCR)

带复制的基于本地的最少连接,基于icp协议缓存复制来完成的。

<b>4.IPVS</b><b>命令用法:</b>

ipvsadm 

-A|E –t|u   vip:port  -s SCHEDULING(方法)

-d -D| -t|u       vip:port

-a | e -t|u  vip:port <b> -g</b>|i|m  (模式 dr,tun,nat)

<b>ipvsadm -A|E -t|u|f service-address [-s scheduler]</b>

<b>[-p [timeout]] [-M netmask]</b>

<b>ipvsadm -D -t|u|f service-address</b>

<b>ipvsadm -C</b>

<b>ipvsadm -R</b>

<b>ipvsadm -S [-n]</b>

<b>ipvsadm -a|e -t|u|f service-address -r server-address</b>

<b>[-g|i|m] [-w weight] [-x upper] [-y lower]</b>

<b>ipvsadm -d -t|u|f service-address -r server-address</b>

<b>ipvsadm -L|l [options]</b>

<b>ipvsadm -Z [-t|u|f service-address]</b>

<b>ipvsadm --set tcp tcpfin udp</b>

<b>ipvsadm --start-daemon state [--mcast-interface interface]</b>

<b>[--syncid syncid]</b>

<b>ipvsadm --stop-daemon state</b>

<b>ipvsadm -h</b>

<b>-A</b><b>——add-service</b>在内核的虚拟服务器表中添加一条新的虚拟服务器记录。也就是增加一台新的虚拟服务器。 

<b>-E </b><b>——edit-service</b> 编辑内核虚拟服务器表中的一条虚拟服务器记录。 

<b>-D </b><b>——delete-service</b> 删除内核虚拟服务器表中的一条虚拟服务器记录。 

<b>-C </b><b>——clear</b><b>清除内核虚拟服务器表中的所有记录。</b> 

<b>-R </b><b>——restore</b>恢复虚拟服务器规则

<b>-S </b><b>——save </b>保存虚拟服务器规则,输出为-R 选项可读的格式

<b>-a </b><b>——add-server </b>在内核虚拟服务器表的一条记录里添加一条新的真实服务器记录。也就是在一个虚拟服务器中增加一台新的真实服务器

<b>-e </b><b>——edit-server </b>编辑一条虚拟服务器记录中的某条真实服务器记录

<b>-d </b><b>——delete-server</b>删除一条虚拟服务器记录中的某条真实服务器记录

<b>-L|-l </b><b>——list </b>显示内核虚拟服务器表

<b>-Z </b><b>——zero</b>虚拟服务表计数器清零(清空当前的连接数量等) 

<b>——set tcp tcpfin udp</b> 设置连接超时值

<b>——start-daemon</b>启动同步守护进程。他后面可以是master 或backup,用来说明LVS Router 是master 或是backup.在这个功能上也可以采用keepalived 的VRRP 功能。 

<b>——stop-daemon</b> 停止同步守护进程

<b>-h </b><b>——help</b>显示帮助信息其他的选项:-t ——tcp-service service-address 说明虚拟服务器提供的是tcp 的服务[vip:port] or [real-server-ip:port] -u ——udp-service service-address 说明虚拟服务器提供的是udp 的服务[vip:port] or [real-server-ip:port] -f ——fwmark-service fwmark 说明是经过iptables 标记过的服务类型。 

<b>-s </b><b>——scheduler</b> scheduler 使用的调度算法,有这样几个选项rr|wrr|lc|wlc|lblc|lblcr|dh|sh|sed|nq,默认的调度算法是: wlc. -p ——persistent [timeout] 持久稳固的服务。这个选项的意思是来自同一个客户的多次请求,将被同一台真实的服务器处理。timeout 的默认值为300 秒。 

<b>-M </b>——netmask netmask persistent granularity mask

<b>-r </b><b>——real-server server-address</b>真实的服务器[Real-Server:port]

<b>-g </b><b>——gatewaying</b>指定LVS 的工作模式为直接路由模式(也是LVS 默认的模式) 

<b>-i </b><b>——ipip </b>指定LVS 的工作模式为隧道模式<b>-m ——masquerading</b> 指定LVS 的工作模式为NAT 模式<b>-w ——weight weight</b> 真实服务器的权值<b>——mcast-interface interface</b> 指定组播的同步接口<b>-c ——connection </b>显示LVS 目前的连接 如:ipvsadm -L -c——timeout 显示tcp tcpfin udp 的timeout 值 如:ipvsadm -L ——timeout——daemon 显示同步守护进程状态——stats 显示统计信息——rate 显示速率信息——sort 对虚拟服务器和真实服务器排序输出——numeric -n 输出IP 地址和端口的数字形式

<b>压力测试工具</b>:ab –c 100 –n 1000 http://172.16.100.1/index.html 

<b>LVS-DR</b><b>模型</b>

<a href="http://blog.51cto.com/attachment/201205/211129772.png" target="_blank"></a>

<a href="http://blog.51cto.com/attachment/201205/211156760.png" target="_blank"></a>

<a href="http://blog.51cto.com/attachment/201205/211226895.png" target="_blank"></a>

本文转自xjzhujunjie 51CTO博客,原文链接:http://blog.51cto.com/xjzhujunjie/850650

继续阅读