天天看點

Java後端應用架構方案的演化(架構優化)

前言

一個成熟的大型網站(如淘寶、天貓、騰訊等)的系統架構并不是一開始設計時就具備完整的高性能、高可用、高伸縮等特性的,它是随着使用者量的增加,業務功能的擴充逐漸演變完善的,在這個過程中,開發模式、技術架構、設計思想也發生了很大的變化,就連技術人員也從幾個人發展到一個部門甚至一條産品線。是以成熟的系統架構是随着業務的擴充而逐漸完善的,并不是一蹴而就;不同業務特征的系統,會有各自的側重點,例如:淘寶,要解決海量的商品資訊的搜尋、下單、支付,例如騰訊,要解決數億使用者的實時消息傳輸,百度它要處理海量的搜尋請求,他們都有各自的業務特性,系統架構也有所不同。盡管如此我們也可以從這些不同的網站背景下,找出其中共用的技術,這些技術和手段廣泛運用在大型網站系統的架構中,下面就通過介紹大型網站系統的演化過程,來認識這些技術和手段。

一、最開始的網站架構

最初的架構,應用程式、資料庫、檔案都部署在一台伺服器上,如圖:

Java後端應用架構方案的演化(架構優化)
上雲采購

二、應用、資料、檔案分離

随着業務的擴充,一台伺服器已經不能滿足性能需求,故将應用程式、資料庫、檔案各自部署在獨立的伺服器上,并且根據伺服器的用途配置不同的硬體,達到最佳的性能效果。

Java後端應用架構方案的演化(架構優化)

三、利用緩存改善網站性能

在硬體優化性能的同時,同時也通過軟體進行性能優化,在大部分的網站系統中,都會利用緩存技術改善系統的性能,使用緩存主要源于熱點資料的存在,大部分網站通路都遵循28原則(即80%的通路請求,最終落在20%的資料上),是以我們可以對熱點資料進行緩存,減少這些資料的通路路徑,提高使用者體驗。

Java後端應用架構方案的演化(架構優化)

緩存實作常見的方式是本地緩存、分布式緩存。當然還有CDN、反向代理等,這個後面再講。本地緩存,顧名思義是将資料緩存在應用伺服器本地,可以存在記憶體中,也可以存在檔案,OSCache就是常用的本地緩存元件。本地緩存的特點是速度快,但因為本地空間有限是以緩存資料量也有限。分布式緩存的特點是,可以緩存海量的資料,并且擴充非常容易,在門戶類網站中常常被使用,速度按理沒有本地緩存快,常用的分布式緩存是Memcached、Redis。

四、使用叢集改善應用伺服器性能

應用伺服器作為網站的入口,會承擔大量的請求,我們往往通過應用伺服器叢集來分擔請求數。應用伺服器前面部署負載均衡伺服器排程使用者請求,根據分發政策将請求分發到多個應用伺服器節點。

Java後端應用架構方案的演化(架構優化)

常用的負載均衡技術硬體的有F5,價格比較貴,可以先

領取卷

軟體的有LVS、Nginx、HAProxy。LVS是四層負載均衡,根據目标位址和端口選擇内部服務

器,Nginx和HAProxy是七層負載均衡,可以根據封包内容選擇内部伺服器,是以LVS分發路徑優于Nginx和HAProxy,性能要高些,而

Nginx和HAProxy則更具配置性,如可以用來做動靜分離(根據請求封包特征,選擇靜态資源伺服器還是應用伺服器)。

五、資料庫讀寫分離和分庫分表

随着使用者量的增加,資料庫成為最大的瓶頸,改善資料庫性能常用的手段是進行讀寫分離以及分庫分表,讀寫分離顧名思義就是将資料庫分為讀庫和寫庫,通過主備功能實作資料同步。分庫分表則分為水準切分和垂直切分,水準切分則是對一個資料庫特大的表進行拆分,例如使用者表。垂直切分則是根據業務的不同來切分,如使用者業務、商品業務相關的表放在不同的資料庫中。

Java後端應用架構方案的演化(架構優化)

六、使用CDN和反向代理提高網站性能

假如我們的伺服器都部署在成都的機房,對于四川的使用者來說通路是較快的,而對于北京的使用者通路是較慢的,這是由于四川和北京分别屬于電信和聯通的不同發達地區,北京使用者通路需要通過互聯路由器經過較長的路徑才能通路到成都的伺服器,傳回路徑也一樣,是以資料傳輸時間比較長。對于這種情況,常常使用CDN解決,CDN将資料内容緩存到營運商的機房,使用者通路時先從最近的營運商擷取資料,這樣大大減少了網絡通路的路徑。比較專業的CDN營運商有藍汛、網宿。

而反向代理,則是部署在網站的機房,當使用者請求達到時首先通路反向代理伺服器,反向代理伺服器将緩存的資料傳回給使用者,如果沒有緩存資料才會繼續通路應用伺服器擷取,這樣做減少了擷取資料的成本。反向代理有Squid,Nginx。

Java後端應用架構方案的演化(架構優化)

七、使用分布式檔案系統

使用者一天天增加,業務量越來越大,産生的檔案越來越多,單台的檔案伺服器已經不能滿足需求,這時就需要分布式檔案系統的支撐。常用的分布式檔案系統有GFS、HDFS、TFS。

Java後端應用架構方案的演化(架構優化)

八、使用NoSql和搜尋引擎

對于海量資料的查詢和分析,我們使用nosql資料庫加上搜尋引擎可以達到更好的性能。并不是所有的資料都要放在關系型資料中。常用的NOSQL有mongodb、hbase、redis,搜尋引擎有lucene、solr、elasticsearch。

Java後端應用架構方案的演化(架構優化)

九、将應用伺服器進行業務拆分

随着業務進一步擴充,應用程式變得非常臃腫,這時我們需要将應用程式進行業務拆分,如百度分為新聞、網頁、圖檔等業務。每個業務應用負責相對獨立的業務運作。業務之間通過消息進行通信或者共享資料庫來實作。

Java後端應用架構方案的演化(架構優化)

十、搭建分布式服務

這時我們發現各個業務應用都會使用到一些基本的業務服務,例如使用者服務、訂單服務、支付服務、安全服務,這些服務是支撐各業務應用的基本要素。我們将這些服務抽取出來利用分部式服務架構搭建分布式服務。阿裡的Dubbo是一個不錯的選擇。

Java後端應用架構方案的演化(架構優化)

小結

大型網站的架構是根據業務需求不斷完善的,根據不同的業務特征會做特定的設計和考慮,本文隻是講述一個正常大型網站會涉及的一些技術和手段。

伺服器連結