DAS 直連存儲
NAS nfs samba
SAN 存儲區域網絡
IP SAN
node1 node2
\ /
\ /
交換機
/ \
/ \
192.168.10.2 192.168.10.3
#配置yum
Server VT Cluster ClusterStorage
存儲節點配置:
節點3安裝一個軟體:
yum install scsi-target-utils -y
編輯配置檔案
vim /etc/tgt/targets.conf
通訊裝置
default-driver iscsi
共享裝置
iqn iscsi合格名稱
<target iqn.2012-07.com.zhaoyun:node3.target1>
backing-store /dev/sda 共享的裝置名
write-cache off 關閉寫緩存,如果不關,重新開機會出錯
vendor_id node3 可以了解為,主機位址
product_id storage1 産品型号
initiator-address 192.168.10.1 允許通路的IP位址,通路控制
initiator-address 192.168.10.2
</target>
service tgtd start 啟動服務
tgt-admin --show
節點4
同節點3差不多
前端節點配置,用戶端
需要支援
yum install iscsi-initiator-utils -y
service iscsi start
發現共享資源資訊
iscsiadm -m discovery -t sendtargets -p 192.168.10.3:3260
iscsiadm -m discovery -t sendtargets -p 192.168.10.4:3260
添加資源
iscsiadm -m node -T iqn.資訊 -l 登陸 | -u 登出
udev 當系統插入硬體時, kernel先加載裝置驅動去識别,
挂載規則,寫udev規則
udevinfo -a -p /sys/block/sdb -a 所有資訊 -p 路徑
從以上值提取資訊 ==是比對 +=是添加
vim /etc/udev/rules.d/80-scsi.rules
第一塊
SUBSYSTEM=="block" ,SYSFS{size}=="4096000",SYSSF{vendor}=="node3" ,SYSSF{model}=="storage1",SYMLINK+="iscsi/node3"
第二塊
SUBSYSTEM=="block" ,SYSFS{size}=="4096000",SYSSF{vendor}=="node4" ,SYSSF{model}=="storage1",SYMLINK+="iscsi/node4"
vgchange -ay vg001
gfs 全局檔案系統
如果前端幾點使用GFS,前邊節點必須是一個叢集
安裝叢集
node1 node2都需要配置
yum install system-config-cluster -y
yum install cman -y
service cman start
clustat
gfs-utils 提供格式化的指令,第二個提供了讓核心支援gfs。
yum install gfs-utils kmod-gfs
modprobe gfs2
lsmod |grep gfs
-t 叢集名:鎖表名 -j 指定日志的格式
格式化gfs檔案系統
gfs_mkfs -t iscsi_cluster:tables -p lock_dlm -j 2 /dev/vg001/lv0
挂載gfs檔案系統
mount -t gfs2 -o lockproto=lock_dlm /dev/vg001/lv001 /mnt
擴充iscsi空間,擴充存儲節點
新加新的存儲節點
yum install iscsi-target-utils -y
<target iqn.2012-07.com.zhaoyun:node5.target1>
backing-store /dev/sdb
write-cache off
vendor_id node5
product_id storage1
initiator-address 192.168.10.1
initiator-address 192.168.10.2
啟動服務
service tgtd start
tgt-admin --show
#####
node1 檢視配置
iscsiadm -m discovery -t sendtargets -p 192.168.10.5:3260
iscsiadm -m node -T iqn. -l 登陸
fdisk -l 發現新裝置
vi /etc/udev/80-iscsi.rules
添加規則
start_udev 重新開機udev
pvcreate /dev/iscsi/node5
vgextend vg001 /dev/iscsi/node5
lvextend -l +900 /dev/vg001/lv001
gfs_grow -v /iscsi/
df -h 磁盤空間擴大
node2通node1一樣
iscsiadm -m node -T iqn. -l
不停業務更新tgt配置檔案
tgt-admin --update --force 讀取配置檔案内容
添加節點node6 ,web節點
cman_tool update /etc/cluster/cluster.conf
編輯配置檔案、、
pvscan
lvdisplay
yum install gfs2_utils kmod-gfs -y
modeprobe gfs2
mount -t gfs -o lockproto=lock_dlm /dev/vg001/lv001 /iscsi
報日志少,挂載失敗
gfs_tool journals /iscsi
gfs2_jadd -j 1 /iscsi
開機自動挂載
vim /etc/fstab
/dev/vg001/lv001 /iscsi gfs2 lockproto=lock_dlm 0 0
yum install lvm2-cluster
lvmconf --enable-cluster 叢集虛拟邏輯卷組
chkconfig clvmd on
本文轉自zhaoyun00 51CTO部落格,原文連結:http://blog.51cto.com/zhaoyun/937034