天天看點

安裝FastDFS+Nginx安裝FastDFS安裝NginxJAVA代碼上傳

安裝FastDFS

FastDFS開發者的GitHub位址為:https://github.com/happyfish100

打開上述連結,我們點選fastdfs–>release,發現最新版的FastDFS為2017年上傳的V5.11,接下來我們來安裝最新版的FastDFS。

在安裝前,我們建立一個目錄,用來存儲所有下載下傳檔案:mkdir /download,進入download目錄完成接下來操作:cd /download

1. 下載下傳安裝 libfastcommon

libfastcommon是從 FastDFS 和 FastDHT 中提取出來的公共 C 函數庫,是FastDFS的基礎環境,安裝即可 。

1.1 下載下傳 libfastcommon 壓縮包:wget https://github.com/happyfish100/libfastcommon/archive/V1.0.36.tar.gz

1.2 解壓 libfastcommon 壓縮包:tar -zxvf V1.0.36.tar.gz

1.3 進入解壓目錄編譯安裝:

cd libfastcommon-1.0.36/

編譯:./make.sh

在上面這步中報錯:gcc: 未找到指令,即沒有gcc指令,那就安裝gcc指令:sudo yum -y install gcc gcc-c++,然後重新編譯。

安裝:sudo ./make.sh install

從安裝日志中可以找到  usr/include/fastcommon   common_define.h 兩個路徑,先記錄下來(之後用)

2. 下載下傳安裝FastDFS

2.1 下載下傳FastDFS壓縮包:wget https://github.com/happyfish100/fastdfs/archive/V5.11.tar.gz

2.2 解壓:tar -zxvf V5.11.tar.gz

2.3 進入解壓目錄編譯安裝:

cd fastdfs-5.11/

編譯:./make.sh (注意:需要perl的支援,否則不能運作,可以參考此文章https://blog.csdn.net/wtwshui/article/details/79415799安裝)

安裝:sudo ./make.sh install

從安裝日志中可以找到  /usr/include/fastdfs fdfs_define.h 兩個路徑,先記錄下來(之後用)

2.4 檢視安裝後的相應檔案與目錄

  2.4.1 服務腳本:ll /etc/init.d/ | grep fdfs

  2.4.2 配置檔案(這四個是開發者給的樣例配置檔案):ll /etc/fdfs/

  2.4.3 指令工具:ll /usr/bin/ | grep fdfs

3. 配置FastDFS跟蹤器(Tracker)

首先,将 /etc/fdfs/目錄下開發者給的樣例配置檔案複制并重命名:

進入目錄:cd /etc/fdfs/

複制檔案:

sudo cp client.conf.sample client.conf

sudo cp storage.conf.sample storage.conf

sudo cp tracker.conf.sample tracker.conf

sudo cp storage_ids.conf.sample storage_ids.conf

1. 編輯配置檔案: vim tracker.conf

2. 修改配置檔案:其餘的預設即可

配置檔案是否不生效,false 為生效,不變即可:

disabled=false

提供服務的端口,不變即可:

port=22122

Tracker 資料和日志目錄位址,該目錄必須手動建立:

base_path=/root/data/fastdfs/tracker

HTTP 服務端口,修改為80:

http.server_port=80

3. 建立tracker基礎資料目錄,即base_path對應的目錄

mkdir -p /root/data/fastdfs/tracker

4. 防火牆中打開跟蹤端口(預設的22122):

sudo firewall-cmd --permanent --zone=public --add-port=22122/tcp

5. 重新開機防火牆:

sudo firewall-cmd --reload

6. 檢視防火牆中開啟的端口:

sudo firewall-cmd --list-port

注意:CentOS7以上使用4.5.6方式開啟防火牆,CentOS6版本參考http://www.mamicode.com/info-detail-971703.html做相應操作

7. 啟動Tracker,初次成功啟動,會在 /home/bdc/data/fastdfs/ (配置的base_path)下建立 data、logs 兩個目錄。

sudo service fdfs_trackerd start

8. 檢視 FastDFS Tracker 是否已成功啟動 ,22122端口正在被監聽,則算是Tracker服務安裝啟動成功。

sudo netstat -ntlp | grep 22122 或 sudo lsof -i:22122

9. 關閉Tracker指令:

sudo service fdfs_trackerd stop

10. 設定Tracker開機啟動

sudo chkconfig --add fdfs_trackerd

11. 檢視開機啟動任務:

sudo chkconfig --list

4.配置 FastDFS 存儲器(Storage)

編輯配置檔案:sudo vim storage.conf

修改配置檔案:其餘的預設即可

配置檔案是否不生效,false 為生效,不變即可:

disabled=false

指定此 storage server 所在組(卷),根據自身需求更改:

group_name=group1

指定storage server 服務端口,預設即可:

port=23000

心跳間隔時間,機關為秒 (這裡是指主動向 tracker server 發送心跳),預設即可:

heart_beat_interval=30

Storage 資料和日志目錄位址,該目錄必須手動建立:

base_path=/root/data/fastdfs/storage

存放檔案時 storage server 支援多個路徑。這裡配置存放檔案的基路徑數目,通常隻配一個目錄。

store_path_count=1

逐一配置 store_path_count 個路徑,索引号基于 0。如果不配置 store_path0,那它就和 base_path 對應的路徑一樣。

store_path0=/root/data/fastdfs/storage

FastDFS 存儲檔案時,采用了兩級目錄。這裡配置存放檔案的目錄個數。 如果本參數隻為 N(如: 256),那麼 storage server 在初次運作時,會在 store_path 下自動建立 N * N 個存放檔案的子目錄。

subdir_count_per_path=256

tracker_server 的清單 ,會主動連接配接 tracker_server,有多個 tracker server 時,每個 tracker server 寫一行。

tracker_server=bdcTracker:22122

允許系統同步的時間段 (預設是全天) 。一般用于避免高峰同步産生一些問題而設定。

sync_start_time=00:00

sync_end_time=23:59

通路端口

http.server_port=80

注意:需要重新開機tracker後,配置才會生效

建立Storage基礎資料目錄,對應base_path目錄及store_path0路徑

mkdir -p /root/data/fastdfs/storage

防火牆中打開存儲器端口(預設的 23000)

sudo firewall-cmd --permanent --zone=public --add-port=23000/tcp

重新開機防火牆:

sudo firewall-cmd --reload

檢視防火牆中開啟的端口:

sudo firewall-cmd --list-port '

補充:由于上面tracker位址配置的不是ip位址,是以我們要修改host檔案,使之與ip對應:

sudo vim /etc/hosts

添加如下内容,下面ip為虛拟機ip:

192.168.105.133 bdcTracker

啟動 Storage,啟動Storage前確定Tracker是啟動的。初次啟動成功,會在/root/data/fastdfs/storage 目錄下建立 data、 logs 兩個目錄。

sudo service fdfs_storaged start

檢視 Storage 是否成功啟動,23000 端口正在被監聽,則 Storage 啟動成功。

sudo netstat -ntlp | grep 23000 或 sudo lsof -i:23000或sudo netstat -ntlp | grep fdfs

關閉 Storage:

sudo service fdfs_storaged stop

檢視Storage和Tracker是否在通信:

fdfs_monitor /etc/fdfs/storage.conf

在列印結果中,看到 ip_addr = 192.168.105.133 (bdcTracker) ACTIVE ,表示正在通信。

設定 Storage 開機啟動

sudo chkconfig fdfs_storaged on

Storage 目錄,同 Tracker,Storage 啟動成功後,在base_path 下建立了data、logs兩個目錄,記錄着 Storage Server 的資訊。在 store_path0 目錄下,建立了N*N個子目錄,用于存儲檔案。

5. 檔案上傳測試

修改 Tracker 伺服器中的用戶端配置檔案:sudo vim client.conf

修改配置,未列出的預設即可:

Client 的資料和日志目錄,該目錄必須手動建立:

base_path=/root/data/fastdfs/client

Tracker端口

tracker_server=bdcTracker:22122

Http通路端口

http.tracker_server_port=80

建立Client資料目錄:

mkdir -p /root/data/fastdfs/client

上傳測試

在linux内部執行如下指令上傳 02.jpg 圖檔

fdfs_upload_file /etc/fdfs/client.conf /home/bdc/圖檔/02.jpg

上傳成功後傳回檔案ID号:group1/M00/00/00/wKhphVrwGUmAduGXAAHjhVtVRZw426.jpg,傳回的檔案ID由group、存儲目錄、兩級子目錄、fileid、檔案字尾名(由用戶端指定,主要用于區分檔案類型)拼接而成。

檢視檔案:

ll /root/data/fastdfs/storage/data/00/00

安裝Nginx

前言:Nginx安裝環境準備工作

1) gcc準備:安裝nginx需要先将官網下載下傳的源碼進行編譯,編譯依賴gcc環境,檢視是否安裝gcc:

yum list installed | grep gcc

如果沒有gcc環境,需要安裝gcc,執行指令安裝:

sudo yum -y install gcc gcc-c++

2) PCRE準備:PCRE是一個Perl庫,包括 Perl 相容的正規表達式庫。nginx的http子產品使用PCRE來解析正規表達式,是以需要在Linux上安裝PCRE庫,執行安裝指令:

sudo yum -y install pcre pcre-devel

3) zlib準備:zlib庫提供了很多種壓縮和解壓縮的方式,nginx使用zlib對http包的内容進行gzip,是以需要在linux上安裝zlib庫,運作安裝指令:

sudo yum -y install zlib zlib-devel

4) openssl準備:OpenSSL 是一個強大的安全套接字層密碼庫,囊括主要的密碼算法、常用的密鑰和證書封裝管理功能及SSL協定,并提供豐富的應用程式供測試或其它目的使用。

nginx不僅支援http協定,還支援https(即在ssl協定上傳輸http),是以需要在linux安裝openssl庫。運作安裝指令:

sudo yum -y install openssl openssl-devel

正式安裝Nginx

目前版本的FastDFS還不支援http通路檔案,是以要想通過http來通路已經上傳成功的檔案,需要安裝Nginx支援;Nginx隻需要安裝到StorageServer所在的伺服器即可,用于支援http通路檔案。

1. 下載下傳Nginx:

wget https://nginx.org/download/nginx-1.14.0.tar.gz

2. 解壓

tar -zxvf nginx-1.14.0.tar.gz

3. 進入解壓目錄編譯安裝:

3.1 進入目錄:

cd nginx-1.14.0

3.2 配置Nginx:啟用 openssl密碼庫,并使用目前使用者啟動nginx,其餘預設即可

./configure --with-http_ssl_module --user=root

3.3 編譯 Nginx:

make -j 4

3.4 安裝:

sudo make install

3.5 建立軟連結(類似快捷方式),并啟動 Nginx:

sudo ln -s /usr/local/nginx/sbin/nginx /usr/bin/

sudo nginx

其他指令:

sudo nginx -s stop

sudo nginx -s reload

3.6 檢視是否啟動成功:

sudo netstat -anp | grep nginx

3.7 設定nginx開機啟動

sudo vim /etc/rc.local

添加下面一行:

/usr/local/nginx/sbin/nginx

然後更改檔案權限

sudo chmod 744 /etc/rc.d/rc.local

3.8 檢視nginx的版本及子產品

nginx -V

3.9 通路剛剛上傳的圖檔

1)修改nginx.conf配置

編輯檔案:sudo vim /usr/local/nginx/conf/nginx.conf

注:原配置檔案中有很多注釋掉的内容,這裡不再粘貼,,并且需要改動的地方已經加注釋标示出來了

#修改nginx啟動使用者,和系統啟動使用者一緻,nginx預設啟動使用者為nobody,在nginx安裝的時候已經指定為root使用者

user root;

worker_processes 1;

events {

worker_connections 1024;

}

http {

include mime.types;

default_type application/octet-stream;

sendfile on;

server {

#偵聽端口

listen 80;

server_name localhost;

#修改映射位址,将http中的位址/group1/M00/映射為系統實際位址/home/bdc/data/fastdfs/storage/data/

location /group1/M00/ {

alias /root/data/fastdfs/storage/data/;

}

location / {

root html;

index index.html index.htm;

}

error_page 500 502 503 504 /50x.html;

location = /50x.html {

root html;

}

}

}

重新開機nginx:sudo nginx -s reload

通路檔案:

方式一:http://ip:80/group1/M00/00/00/wKhphVrwGUmAduGXAAHjhVtVRZw426.jpg

注意這裡可能出現問題:Centos7自帶的最初版火狐浏覽器解析上面位址的時候可能解析為一個目錄,即:http://bdctracker:8081/group1/M00/00/00/wKhphFrhIVuADqfzAASB-wpUaac425.jpg/這種形式,導緻通路不到檔案,問題出在wKhphFrhIVuADqfzAASB-wpUaac425.jpg這個位置,把檔案和通路位址的字尾名改為.jpeg就可以通路到,具體原因不太清楚,不過谷歌浏覽器或者更新後的火狐浏覽器又不會出現問題,按上面位址又可以通路到檔案,學藝不精,不再研究。。。。

另外注意:防火牆要放行80端口

方式二:wget http://bdc:80/group1/M00/00/00/wKhphVrwGUmAduGXAAHjhVtVRZw426.jpg,可以擷取到檔案則nginx配置成功。

FastDFS 配置 Nginx 子產品

前言: fastdfs-nginx-module 子產品說明

  FastDFS 通過 Tracker 伺服器,将檔案放在 Storage 伺服器存儲, 但是同組存儲伺服器之間需要進行檔案複制, 資料同步有延遲的問題。

  假設 Tracker 伺服器将檔案上傳到了 Stroage1,上傳成功後檔案 ID已經傳回給用戶端。此時 FastDFS 存儲叢集機制會将這個檔案同步到同組存儲 Stroage2,在檔案還沒有複制完成的情況下,用戶端如果用這個檔案 ID 在 Stroage2 上取檔案,就會出現檔案無法通路的錯誤。而 fastdfs-nginx-module 可以重定向檔案連結到源伺服器取檔案,避免用戶端由于複制延遲導緻的檔案無法通路錯誤。

安裝配置fastdfs-nginx-module子產品

1) 下載下傳 fastdfs-nginx-module

wget https://github.com/happyfish100/fastdfs-nginx-module/archive/master.zip

2) 解壓

unzip master.zip

3) 停止nginx服務

sudo nginx -s stop

4) nginx添加fastdfs-nginx-module子產品重新編譯安裝

進入nginx解壓目錄

cd nginx-1.14.0/

nginx配置fastdfs-nginx-module子產品

./configure --with-http_ssl_module --user=root --add-module=../fastdfs-nginx-module-master/src/

編譯

make

注意:編譯時可能會出現錯誤,如出現,解決方式如下:

cd fastdfs-nginx-module-master/src/

vim config

修改檔案内容如下:

  ngx_module_incs="/usr/include/fastcommon /usr/include/fastdfs" 說明:裡面兩個路徑是上文中記錄的

  CORE_INCS="$CORE_INCS /usr/include/fastcommon /usr/include/fastdfs"

修改後重新 nginx配置fastdfs-nginx-module子產品

安裝

sudo make install

5) 檢視Nginx的子產品

nginx -V

若有下面配置則證明子產品添加成功:

configure arguments: --add-module=../fastdfs-nginx-module-master/src/

6) 修改配置檔案1

複制 fastdfs-nginx-module 源碼中的配置檔案mod_fastdfs.conf,并修改配置

sudo cp ~/download/fastdfs-nginx-module-master/src/mod_fastdfs.conf /etc/fdfs/

編輯mod_fastdfs.conf檔案:

sudo vim /etc/fdfs/mod_fastdfs.conf

修改如下配置,其餘預設即可:

#連接配接逾時時間

connect_timeout=15

# TrackerServer的IP和端口

tracker_server=bdcTracker:22122

# StorageServer端口

storage_server_port=23000

# 如果檔案ID的uri中包含group分組資訊,則要設定為true

url_have_group_name = true

# Storage配置的store_path0路徑,必須和storage.conf中的一緻

store_path0=/root/data/fastdfs/storage

7) 修改配置檔案2

複制 FastDFS 源碼中的配置檔案到/etc/fdfs 目錄:

cd ~/download/fastdfs-5.11/conf/

sudo cp anti-steal.jpg http.conf mime.types /etc/fdfs/

8) 修改配置檔案3

修改nginx的配置檔案nginx.conf,修改下面配置,其它不變:

sudo vim /usr/local/nginx/conf/nginx.conf

#location /group1/M00/ {

#alias /home/bdc/data/fastdfs/storage/data/;

#}

#添加fastdfs-nginx-module子產品

location ~/group([0-9])/M00/ {

ngx_fastdfs_module;

}

注意:

1) nginx.conf 配置中的 listen 80端口值要與/etc/fdfs/storage.conf中的http.server_port=80 (前面配置為80了)端口值相對應;如果改成其它端口,則需要統一,同時在防火牆中打開該端口。

2) location 的配置,在叢集模式中,有多個group,是以這裡以正則的方式配置,如果是單一節點可以隻配置指定group。

9) 啟動Nginx

sudo nginx

列印類似如下資訊,則配置成功:

ngx_http_fastdfs_set pid=119826

10) http通路

能擷取到檔案,則nginx配置成功;注意和前面中直接使用nginx路由通路不同的是,這裡配置 fastdfs-nginx-module 子產品,可以重定向檔案連結到源伺服器取檔案。

http://bdc:80/group1/M00/00/00/wKhphVrwGUmAduGXAAHjhVtVRZw426.jpg

wget http://bdc:80/group1/M00/00/00/wKhphVrwGUmAduGXAAHjhVtVRZw426.jpg

好了,到此FastDFS單節點安裝配置成功,接下來我們使用Java操作FastDFS實作檔案上傳和下載下傳,最後将單節點模式改為叢集模式

JAVA代碼上傳

package com.fdfs.demo;

import org.csource.fastdfs.ClientGlobal;
import org.csource.fastdfs.StorageClient;
import org.csource.fastdfs.StorageServer;
import org.csource.fastdfs.TrackerClient;
import org.csource.fastdfs.TrackerServer;

public class Demo1 {
    public static void main(String[] args) throws Exception {
        //加載配置檔案,配置檔案中的内容就是tracker服務的位址
        ClientGlobal.init("fdfs_client.conf");
        //建立一個TrackerClient對象
        TrackerClient trackerClient = new TrackerClient();
        //使用TrackerClient對象建立連接配接,獲得一個TrackerServer對象
        TrackerServer trackerServer = trackerClient.getConnection();
        
        // 定義存儲伺服器對象句柄
        StorageServer storageServer = null;
        
        StorageClient storageClient = new StorageClient(trackerServer, storageServer);
        
        String[] strings = storageClient.upload_file("D:/log.txt", "txt", null);
        
        for (String str : strings) {
            System.out.println(str);
        }
    }
}           

複制

connect_timeout = 2
network_timeout = 30
charSet = UTF-8
http.tracker_http_port = 80
http.anti_steal_token = no
http.secret_key = FastDFS1234567890
tracker_server = 192.168.220.128:22122           

複制