舉一個例子,一份亞馬遜十年前做過的研究可以證明,甚至在那個時候,網(wǎng)頁加載時間每減少100毫秒,收入就會增加1%。另一個最近的研究特別強調(diào)一個事實,即超過一半的網(wǎng)站擁有者在調(diào)查中承認它們會因為應(yīng)用程序性能的問題流失用戶。
網(wǎng)站到底需要多快呢?對于頁面加載,每增加1秒鐘就有4%的用戶放棄使用。頂級的電子商務(wù)站點的頁面在第一次交互時可以做到1秒到3秒加載時間,而這是提供最高舒適度的速度。很明顯這種利害關(guān)系對于 web 應(yīng)用來說很高,而且在不斷的增加。
想要提高效率很簡單,但是看到實際結(jié)果很難。為了在你的探索之旅上幫助到你,這篇文章會給你提供10條最高可以提升10倍網(wǎng)站性能的建議。這是一系列介紹提高應(yīng)用程序性能的第一篇文章,包括充分測試的優(yōu)化技術(shù)和一點 NGINX 的幫助。這個系列也給出了潛在的提高安全性的幫助。
Tip #1: 通過反向代理來提高性能和增加安全性如果你的 web 應(yīng)用運行在單個機器上,那么這個辦法會明顯的提升性能:只需要換一個更快的機器,更好的處理器,更多的內(nèi)存,更快的磁盤陣列,等等。然后新機器就可以更快 的運行你的 WordPress 服務(wù)器, Node.js 程序, Java 程序,以及其它程序。(如果你的程序要訪問數(shù)據(jù)庫服務(wù)器,那么解決方法依然很簡單:添加兩個更快的機器,以及在兩臺電腦之間使用一個更快的鏈路。)
問題是,機器速度可能并不是問題。web 程序運行慢經(jīng)常是因為計算機一直在不同的任務(wù)之間切換:通過成千上萬的連接和用戶交互,從磁盤訪問文件,運行代碼,等等。應(yīng)用服務(wù)器可能會抖動 thrashing-比如說內(nèi)存不足、將內(nèi)存數(shù)據(jù)交換到磁盤,以及有多個請求要等待某個任務(wù)完成,如磁盤I/O。
你可以采取一個完全不同的方案來替代升級硬件:添加一個反向代理服務(wù)器來分擔(dān)部分任務(wù)。反向代理服務(wù)器位于運行應(yīng)用的機器的前端,是用來處理網(wǎng)絡(luò)流量的。只有反向代理服務(wù)器是直接連接到互聯(lián)網(wǎng)的;和應(yīng)用服務(wù)器的通訊都是通過一個快速的內(nèi)部網(wǎng)絡(luò)完成的。
使用反向代理服務(wù)器可以將應(yīng)用服務(wù)器從等待用戶與 web 程序交互解放出來,這樣應(yīng)用服務(wù)器就可以專注于為反向代理服務(wù)器構(gòu)建網(wǎng)頁,讓其能夠傳輸?shù)交ヂ?lián)網(wǎng)上。而應(yīng)用服務(wù)器就不需要等待客戶端的響應(yīng),其運行速度可以接近于優(yōu)化后的性能水平。
添加反向代理服務(wù)器還可以給你的 web 服務(wù)器安裝帶來靈活性。比如,一個某種類型的服務(wù)器已經(jīng)超載了,那么就可以輕松的添加另一個相同的服務(wù)器;如果某個機器宕機了,也可以很容易替代一個新的。
因為反向代理帶來的靈活性,所以反向代理也是一些性能加速功能的必要前提,比如:
NGINX 軟件為用作反向代理服務(wù)器而專門設(shè)計,也包含了上述的多種功能。NGINX 使用事件驅(qū)動的方式處理請求,這會比傳統(tǒng)的服務(wù)器更加有效率。NGINX plus 添加了更多高級的反向代理特性,比如應(yīng)用的健康度檢查,專門用來處理請求路由、高級緩沖和相關(guān)支持。
NGINX Worker Process helps increase application performance
Tip #2: 添加負載平衡添加一個負載均衡服務(wù)器 是一個相當(dāng)簡單的用來提高性能和網(wǎng)站安全性的的方法。與其將核心 Web 服務(wù)器變得越來越大和越來越強,不如使用負載均衡將流量分配到多個服務(wù)器。即使程序?qū)懙牟缓茫蛘咴跀U容方面有困難,僅是使用負載均衡服務(wù)器就可以很好的提高用戶體驗。
負載均衡服務(wù)器首先是一個反向代理服務(wù)器(參見Tip #1)——它接受來自互聯(lián)網(wǎng)的流量,然后轉(zhuǎn)發(fā)請求給另一個服務(wù)器。特別是負載均衡服務(wù)器支持兩個或多個應(yīng)用服務(wù)器,使用分配算法將請求轉(zhuǎn)發(fā)給不同服務(wù)器。 最簡單的負載均衡方法是輪轉(zhuǎn)法round robin,每個新的請求都會發(fā)給列表里的下一個服務(wù)器。其它的復(fù)制均衡方法包括將請求發(fā)給活動連接最少的服務(wù)器。NGINX plus 擁有將特定用戶的會話分配給同一個服務(wù)器的能力。
負載均衡可以很好的提高性能是因為它可以避免某個服務(wù)器過載而另一些服務(wù)器卻沒有需要處理的流量。它也可以簡單的擴展服務(wù)器規(guī)模,因為你可以添加多個價格相對便宜的服務(wù)器并且保證它們被充分利用了。
可以進行負載均衡的協(xié)議包括 HTTP、HTTPS、SPDY、HTTP/2、WebSocket、FastCGI、SCGI、uwsgi、 memcached 等,以及幾種其它的應(yīng)用類型,包括基于 TCP 的應(yīng)用和其它的第4層協(xié)議的程序。分析你的 web 應(yīng)用來決定你要使用哪些以及哪些地方性能不足。
相同的服務(wù)器或服務(wù)器群可以被用來進行負載均衡,也可以用來處理其它的任務(wù),如 SSL 末端服務(wù)器,支持客戶端的 HTTP/1.x 和 HTTP/2 請求,以及緩存靜態(tài)文件。
Tip #3: 緩存靜態(tài)和動態(tài)的內(nèi)容緩存可以通過加速內(nèi)容的傳輸速度來提高 web 應(yīng)用的性能。它可以采用以下幾種策略:當(dāng)需要的時候預(yù)處理要傳輸?shù)膬?nèi)容,保存數(shù)據(jù)到速度更快的設(shè)備,把數(shù)據(jù)存儲在距離客戶端更近的位置,或者將這幾種方法結(jié)合起來使用。
有兩種不同類型數(shù)據(jù)的緩存:
舉個例子,如果一個頁面每秒會被瀏覽10次,你將它緩存 1 秒,90%請求的頁面都會直接從緩存提取。如果你分開緩存靜態(tài)內(nèi)容,甚至新生成的頁面可能都是由這些緩存構(gòu)成的。
下面由是 web 應(yīng)用發(fā)明的三種主要的緩存技術(shù):
對 web 應(yīng)用的緩存機制可以在 web 應(yīng)用服務(wù)器內(nèi)部實現(xiàn)。首先,緩存動態(tài)內(nèi)容是用來減少應(yīng)用服務(wù)器加載動態(tài)內(nèi)容的時間。其次,緩存靜態(tài)內(nèi)容(包括動態(tài)內(nèi)容的臨時拷貝)是為了更進一步的分擔(dān)應(yīng) 用服務(wù)器的負載。而且緩存之后會從應(yīng)用服務(wù)器轉(zhuǎn)移到對用戶而言更快、更近的機器,從而減少應(yīng)用服務(wù)器的壓力,減少提取數(shù)據(jù)和傳輸數(shù)據(jù)的時間。
改進過的緩存方案可以極大的提高應(yīng)用的速度。對于大多數(shù)網(wǎng)頁來說,靜態(tài)數(shù)據(jù),比如大圖像文件,構(gòu)成了超過一半的內(nèi)容。如果沒有緩存,那么這可能會花費幾秒的時間來提取和傳輸這類數(shù)據(jù),但是采用了緩存之后不到1秒就可以完成。
舉一個在實際中緩存是如何使用的例子, NGINX 和 NGINX Plus 使用了兩條指令來設(shè)置緩存機制:proxy_cache_path 和 proxy_cache。你可以指定緩存的位置和大小、文件在緩存中保存的最長時間和其它一些參數(shù)。使用第三條(而且是相當(dāng)受歡迎的一條)指令 proxy_cache_use_stale,如果提供新鮮內(nèi)容的服務(wù)器忙碌或者掛掉了,你甚至可以讓緩存提供較舊的內(nèi)容,這樣客戶端就不會一無所得。從用戶的角度來看這可以很好的提高你的網(wǎng)站或者應(yīng)用的可用時間。
NGINX plus 有個高級緩存特性,包括對緩存清除的支持和在儀表盤上顯示緩存狀態(tài)信息。
要想獲得更多關(guān)于 NGINX 的緩存機制的信息可以瀏覽 NGINX Plus 管理員指南中的《參考文檔》和《NGINX 內(nèi)容緩存》。
注意:緩存機制分布于應(yīng)用開發(fā)者、投資決策者以及實際的系統(tǒng)運維人員之間。本文提到的一些復(fù)雜的緩存機制從 DevOps 的角度來看很具有價值,即對集應(yīng)用開發(fā)者、架構(gòu)師以及運維操作人員的功能為一體的工程師來說可以滿足它們對站點功能性、響應(yīng)時間、安全性和商業(yè)結(jié)果(如完 成的交易數(shù))等需要。