安裝FastDFS
FastDFS開發者的GitHub位址為:https://github.com/happyfish100
打開上述連結,我們點選fastdfs–>release,發現最新版的FastDFS為2017年上傳的V5.11,接下來我們來安裝最新版的FastDFS。
在安裝前,我們建立一個目錄,用來存儲所有下載下傳檔案:mkdir /download,進入download目錄完成接下來操作:cd /download
1. 下載下傳安裝 libfastcommon
libfastcommon是從 FastDFS 和 FastDHT 中提取出來的公共 C 函數庫,是FastDFS的基礎環境,安裝即可 。
1.1 下載下傳 libfastcommon 壓縮包:wget https://github.com/happyfish100/libfastcommon/archive/V1.0.36.tar.gz
1.2 解壓 libfastcommon 壓縮包:tar -zxvf V1.0.36.tar.gz
1.3 進入解壓目錄編譯安裝:
cd libfastcommon-1.0.36/
編譯:./make.sh
在上面這步中報錯:gcc: 未找到指令,即沒有gcc指令,那就安裝gcc指令:sudo yum -y install gcc gcc-c++,然後重新編譯。
安裝:sudo ./make.sh install
從安裝日志中可以找到 usr/include/fastcommon common_define.h 兩個路徑,先記錄下來(之後用)
2. 下載下傳安裝FastDFS
2.1 下載下傳FastDFS壓縮包:wget https://github.com/happyfish100/fastdfs/archive/V5.11.tar.gz
2.2 解壓:tar -zxvf V5.11.tar.gz
2.3 進入解壓目錄編譯安裝:
cd fastdfs-5.11/
編譯:./make.sh (注意:需要perl的支援,否則不能運作,可以參考此文章https://blog.csdn.net/wtwshui/article/details/79415799安裝)
安裝:sudo ./make.sh install
從安裝日志中可以找到 /usr/include/fastdfs fdfs_define.h 兩個路徑,先記錄下來(之後用)
2.4 檢視安裝後的相應檔案與目錄
2.4.1 服務腳本:ll /etc/init.d/ | grep fdfs
2.4.2 配置檔案(這四個是開發者給的樣例配置檔案):ll /etc/fdfs/
2.4.3 指令工具:ll /usr/bin/ | grep fdfs
3. 配置FastDFS跟蹤器(Tracker)
首先,将 /etc/fdfs/目錄下開發者給的樣例配置檔案複制并重命名:
進入目錄:cd /etc/fdfs/
複制檔案:
sudo cp client.conf.sample client.conf
sudo cp storage.conf.sample storage.conf
sudo cp tracker.conf.sample tracker.conf
sudo cp storage_ids.conf.sample storage_ids.conf
1. 編輯配置檔案: vim tracker.conf
2. 修改配置檔案:其餘的預設即可
配置檔案是否不生效,false 為生效,不變即可:
disabled=false
提供服務的端口,不變即可:
port=22122
Tracker 資料和日志目錄位址,該目錄必須手動建立:
base_path=/root/data/fastdfs/tracker
HTTP 服務端口,修改為80:
http.server_port=80
3. 建立tracker基礎資料目錄,即base_path對應的目錄
mkdir -p /root/data/fastdfs/tracker
4. 防火牆中打開跟蹤端口(預設的22122):
sudo firewall-cmd --permanent --zone=public --add-port=22122/tcp
5. 重新開機防火牆:
sudo firewall-cmd --reload
6. 檢視防火牆中開啟的端口:
sudo firewall-cmd --list-port
注意:CentOS7以上使用4.5.6方式開啟防火牆,CentOS6版本參考http://www.mamicode.com/info-detail-971703.html做相應操作
7. 啟動Tracker,初次成功啟動,會在 /home/bdc/data/fastdfs/ (配置的base_path)下建立 data、logs 兩個目錄。
sudo service fdfs_trackerd start
8. 檢視 FastDFS Tracker 是否已成功啟動 ,22122端口正在被監聽,則算是Tracker服務安裝啟動成功。
sudo netstat -ntlp | grep 22122 或 sudo lsof -i:22122
9. 關閉Tracker指令:
sudo service fdfs_trackerd stop
10. 設定Tracker開機啟動
sudo chkconfig --add fdfs_trackerd
11. 檢視開機啟動任務:
sudo chkconfig --list
4.配置 FastDFS 存儲器(Storage)
編輯配置檔案:sudo vim storage.conf
修改配置檔案:其餘的預設即可
配置檔案是否不生效,false 為生效,不變即可:
disabled=false
指定此 storage server 所在組(卷),根據自身需求更改:
group_name=group1
指定storage server 服務端口,預設即可:
port=23000
心跳間隔時間,機關為秒 (這裡是指主動向 tracker server 發送心跳),預設即可:
heart_beat_interval=30
Storage 資料和日志目錄位址,該目錄必須手動建立:
base_path=/root/data/fastdfs/storage
存放檔案時 storage server 支援多個路徑。這裡配置存放檔案的基路徑數目,通常隻配一個目錄。
store_path_count=1
逐一配置 store_path_count 個路徑,索引号基于 0。如果不配置 store_path0,那它就和 base_path 對應的路徑一樣。
store_path0=/root/data/fastdfs/storage
FastDFS 存儲檔案時,采用了兩級目錄。這裡配置存放檔案的目錄個數。 如果本參數隻為 N(如: 256),那麼 storage server 在初次運作時,會在 store_path 下自動建立 N * N 個存放檔案的子目錄。
subdir_count_per_path=256
tracker_server 的清單 ,會主動連接配接 tracker_server,有多個 tracker server 時,每個 tracker server 寫一行。
tracker_server=bdcTracker:22122
允許系統同步的時間段 (預設是全天) 。一般用于避免高峰同步産生一些問題而設定。
sync_start_time=00:00
sync_end_time=23:59
通路端口
http.server_port=80
注意:需要重新開機tracker後,配置才會生效
建立Storage基礎資料目錄,對應base_path目錄及store_path0路徑
mkdir -p /root/data/fastdfs/storage
防火牆中打開存儲器端口(預設的 23000)
sudo firewall-cmd --permanent --zone=public --add-port=23000/tcp
重新開機防火牆:
sudo firewall-cmd --reload
檢視防火牆中開啟的端口:
sudo firewall-cmd --list-port '
補充:由于上面tracker位址配置的不是ip位址,是以我們要修改host檔案,使之與ip對應:
sudo vim /etc/hosts
添加如下内容,下面ip為虛拟機ip:
192.168.105.133 bdcTracker
啟動 Storage,啟動Storage前確定Tracker是啟動的。初次啟動成功,會在/root/data/fastdfs/storage 目錄下建立 data、 logs 兩個目錄。
sudo service fdfs_storaged start
檢視 Storage 是否成功啟動,23000 端口正在被監聽,則 Storage 啟動成功。
sudo netstat -ntlp | grep 23000 或 sudo lsof -i:23000或sudo netstat -ntlp | grep fdfs
關閉 Storage:
sudo service fdfs_storaged stop
檢視Storage和Tracker是否在通信:
fdfs_monitor /etc/fdfs/storage.conf
在列印結果中,看到 ip_addr = 192.168.105.133 (bdcTracker) ACTIVE ,表示正在通信。
設定 Storage 開機啟動
sudo chkconfig fdfs_storaged on
Storage 目錄,同 Tracker,Storage 啟動成功後,在base_path 下建立了data、logs兩個目錄,記錄着 Storage Server 的資訊。在 store_path0 目錄下,建立了N*N個子目錄,用于存儲檔案。
5. 檔案上傳測試
修改 Tracker 伺服器中的用戶端配置檔案:sudo vim client.conf
修改配置,未列出的預設即可:
Client 的資料和日志目錄,該目錄必須手動建立:
base_path=/root/data/fastdfs/client
Tracker端口
tracker_server=bdcTracker:22122
Http通路端口
http.tracker_server_port=80
建立Client資料目錄:
mkdir -p /root/data/fastdfs/client
上傳測試
在linux内部執行如下指令上傳 02.jpg 圖檔
fdfs_upload_file /etc/fdfs/client.conf /home/bdc/圖檔/02.jpg
上傳成功後傳回檔案ID号:group1/M00/00/00/wKhphVrwGUmAduGXAAHjhVtVRZw426.jpg,傳回的檔案ID由group、存儲目錄、兩級子目錄、fileid、檔案字尾名(由用戶端指定,主要用于區分檔案類型)拼接而成。
檢視檔案:
ll /root/data/fastdfs/storage/data/00/00
安裝Nginx
前言:Nginx安裝環境準備工作
1) gcc準備:安裝nginx需要先将官網下載下傳的源碼進行編譯,編譯依賴gcc環境,檢視是否安裝gcc:
yum list installed | grep gcc
如果沒有gcc環境,需要安裝gcc,執行指令安裝:
sudo yum -y install gcc gcc-c++
2) PCRE準備:PCRE是一個Perl庫,包括 Perl 相容的正規表達式庫。nginx的http子產品使用PCRE來解析正規表達式,是以需要在Linux上安裝PCRE庫,執行安裝指令:
sudo yum -y install pcre pcre-devel
3) zlib準備:zlib庫提供了很多種壓縮和解壓縮的方式,nginx使用zlib對http包的内容進行gzip,是以需要在linux上安裝zlib庫,運作安裝指令:
sudo yum -y install zlib zlib-devel
4) openssl準備:OpenSSL 是一個強大的安全套接字層密碼庫,囊括主要的密碼算法、常用的密鑰和證書封裝管理功能及SSL協定,并提供豐富的應用程式供測試或其它目的使用。
nginx不僅支援http協定,還支援https(即在ssl協定上傳輸http),是以需要在linux安裝openssl庫。運作安裝指令:
sudo yum -y install openssl openssl-devel
正式安裝Nginx
目前版本的FastDFS還不支援http通路檔案,是以要想通過http來通路已經上傳成功的檔案,需要安裝Nginx支援;Nginx隻需要安裝到StorageServer所在的伺服器即可,用于支援http通路檔案。
1. 下載下傳Nginx:
wget https://nginx.org/download/nginx-1.14.0.tar.gz
2. 解壓
tar -zxvf nginx-1.14.0.tar.gz
3. 進入解壓目錄編譯安裝:
3.1 進入目錄:
cd nginx-1.14.0
3.2 配置Nginx:啟用 openssl密碼庫,并使用目前使用者啟動nginx,其餘預設即可
./configure --with-http_ssl_module --user=root
3.3 編譯 Nginx:
make -j 4
3.4 安裝:
sudo make install
3.5 建立軟連結(類似快捷方式),并啟動 Nginx:
sudo ln -s /usr/local/nginx/sbin/nginx /usr/bin/
sudo nginx
其他指令:
sudo nginx -s stop
sudo nginx -s reload
3.6 檢視是否啟動成功:
sudo netstat -anp | grep nginx
3.7 設定nginx開機啟動
sudo vim /etc/rc.local
添加下面一行:
/usr/local/nginx/sbin/nginx
然後更改檔案權限
sudo chmod 744 /etc/rc.d/rc.local
3.8 檢視nginx的版本及子產品
nginx -V
3.9 通路剛剛上傳的圖檔
1)修改nginx.conf配置
編輯檔案:sudo vim /usr/local/nginx/conf/nginx.conf
注:原配置檔案中有很多注釋掉的内容,這裡不再粘貼,,并且需要改動的地方已經加注釋标示出來了
#修改nginx啟動使用者,和系統啟動使用者一緻,nginx預設啟動使用者為nobody,在nginx安裝的時候已經指定為root使用者
user root;
worker_processes 1;
events {
worker_connections 1024;
}
http {
include mime.types;
default_type application/octet-stream;
sendfile on;
server {
#偵聽端口
listen 80;
server_name localhost;
#修改映射位址,将http中的位址/group1/M00/映射為系統實際位址/home/bdc/data/fastdfs/storage/data/
location /group1/M00/ {
alias /root/data/fastdfs/storage/data/;
}
location / {
root html;
index index.html index.htm;
}
error_page 500 502 503 504 /50x.html;
location = /50x.html {
root html;
}
}
}
重新開機nginx:sudo nginx -s reload
通路檔案:
方式一:http://ip:80/group1/M00/00/00/wKhphVrwGUmAduGXAAHjhVtVRZw426.jpg
注意這裡可能出現問題:Centos7自帶的最初版火狐浏覽器解析上面位址的時候可能解析為一個目錄,即:http://bdctracker:8081/group1/M00/00/00/wKhphFrhIVuADqfzAASB-wpUaac425.jpg/這種形式,導緻通路不到檔案,問題出在wKhphFrhIVuADqfzAASB-wpUaac425.jpg這個位置,把檔案和通路位址的字尾名改為.jpeg就可以通路到,具體原因不太清楚,不過谷歌浏覽器或者更新後的火狐浏覽器又不會出現問題,按上面位址又可以通路到檔案,學藝不精,不再研究。。。。
另外注意:防火牆要放行80端口
方式二:wget http://bdc:80/group1/M00/00/00/wKhphVrwGUmAduGXAAHjhVtVRZw426.jpg,可以擷取到檔案則nginx配置成功。
FastDFS 配置 Nginx 子產品
前言: fastdfs-nginx-module 子產品說明
FastDFS 通過 Tracker 伺服器,将檔案放在 Storage 伺服器存儲, 但是同組存儲伺服器之間需要進行檔案複制, 資料同步有延遲的問題。
假設 Tracker 伺服器将檔案上傳到了 Stroage1,上傳成功後檔案 ID已經傳回給用戶端。此時 FastDFS 存儲叢集機制會将這個檔案同步到同組存儲 Stroage2,在檔案還沒有複制完成的情況下,用戶端如果用這個檔案 ID 在 Stroage2 上取檔案,就會出現檔案無法通路的錯誤。而 fastdfs-nginx-module 可以重定向檔案連結到源伺服器取檔案,避免用戶端由于複制延遲導緻的檔案無法通路錯誤。
安裝配置fastdfs-nginx-module子產品
1) 下載下傳 fastdfs-nginx-module
wget https://github.com/happyfish100/fastdfs-nginx-module/archive/master.zip
2) 解壓
unzip master.zip
3) 停止nginx服務
sudo nginx -s stop
4) nginx添加fastdfs-nginx-module子產品重新編譯安裝
進入nginx解壓目錄
cd nginx-1.14.0/
nginx配置fastdfs-nginx-module子產品
./configure --with-http_ssl_module --user=root --add-module=../fastdfs-nginx-module-master/src/
編譯
make
注意:編譯時可能會出現錯誤,如出現,解決方式如下:
cd fastdfs-nginx-module-master/src/
vim config
修改檔案内容如下:
ngx_module_incs="/usr/include/fastcommon /usr/include/fastdfs" 說明:裡面兩個路徑是上文中記錄的
CORE_INCS="$CORE_INCS /usr/include/fastcommon /usr/include/fastdfs"
修改後重新 nginx配置fastdfs-nginx-module子產品
安裝
sudo make install
5) 檢視Nginx的子產品
nginx -V
若有下面配置則證明子產品添加成功:
configure arguments: --add-module=../fastdfs-nginx-module-master/src/
6) 修改配置檔案1
複制 fastdfs-nginx-module 源碼中的配置檔案mod_fastdfs.conf,并修改配置
sudo cp ~/download/fastdfs-nginx-module-master/src/mod_fastdfs.conf /etc/fdfs/
編輯mod_fastdfs.conf檔案:
sudo vim /etc/fdfs/mod_fastdfs.conf
修改如下配置,其餘預設即可:
#連接配接逾時時間
connect_timeout=15
# TrackerServer的IP和端口
tracker_server=bdcTracker:22122
# StorageServer端口
storage_server_port=23000
# 如果檔案ID的uri中包含group分組資訊,則要設定為true
url_have_group_name = true
# Storage配置的store_path0路徑,必須和storage.conf中的一緻
store_path0=/root/data/fastdfs/storage
7) 修改配置檔案2
複制 FastDFS 源碼中的配置檔案到/etc/fdfs 目錄:
cd ~/download/fastdfs-5.11/conf/
sudo cp anti-steal.jpg http.conf mime.types /etc/fdfs/
8) 修改配置檔案3
修改nginx的配置檔案nginx.conf,修改下面配置,其它不變:
sudo vim /usr/local/nginx/conf/nginx.conf
#location /group1/M00/ {
#alias /home/bdc/data/fastdfs/storage/data/;
#}
#添加fastdfs-nginx-module子產品
location ~/group([0-9])/M00/ {
ngx_fastdfs_module;
}
注意:
1) nginx.conf 配置中的 listen 80端口值要與/etc/fdfs/storage.conf中的http.server_port=80 (前面配置為80了)端口值相對應;如果改成其它端口,則需要統一,同時在防火牆中打開該端口。
2) location 的配置,在叢集模式中,有多個group,是以這裡以正則的方式配置,如果是單一節點可以隻配置指定group。
9) 啟動Nginx
sudo nginx
列印類似如下資訊,則配置成功:
ngx_http_fastdfs_set pid=119826
10) http通路
能擷取到檔案,則nginx配置成功;注意和前面中直接使用nginx路由通路不同的是,這裡配置 fastdfs-nginx-module 子產品,可以重定向檔案連結到源伺服器取檔案。
http://bdc:80/group1/M00/00/00/wKhphVrwGUmAduGXAAHjhVtVRZw426.jpg
wget http://bdc:80/group1/M00/00/00/wKhphVrwGUmAduGXAAHjhVtVRZw426.jpg
好了,到此FastDFS單節點安裝配置成功,接下來我們使用Java操作FastDFS實作檔案上傳和下載下傳,最後将單節點模式改為叢集模式
JAVA代碼上傳
package com.fdfs.demo;
import org.csource.fastdfs.ClientGlobal;
import org.csource.fastdfs.StorageClient;
import org.csource.fastdfs.StorageServer;
import org.csource.fastdfs.TrackerClient;
import org.csource.fastdfs.TrackerServer;
public class Demo1 {
public static void main(String[] args) throws Exception {
//加載配置檔案,配置檔案中的内容就是tracker服務的位址
ClientGlobal.init("fdfs_client.conf");
//建立一個TrackerClient對象
TrackerClient trackerClient = new TrackerClient();
//使用TrackerClient對象建立連接配接,獲得一個TrackerServer對象
TrackerServer trackerServer = trackerClient.getConnection();
// 定義存儲伺服器對象句柄
StorageServer storageServer = null;
StorageClient storageClient = new StorageClient(trackerServer, storageServer);
String[] strings = storageClient.upload_file("D:/log.txt", "txt", null);
for (String str : strings) {
System.out.println(str);
}
}
}
複制
connect_timeout = 2
network_timeout = 30
charSet = UTF-8
http.tracker_http_port = 80
http.anti_steal_token = no
http.secret_key = FastDFS1234567890
tracker_server = 192.168.220.128:22122
複制