一 特點
1.1 應用情況
Nginx做為一個強大的Web服務器軟件，具有高性能、高併發性和低內存佔用的特點。此外，其也能夠提供強大的反向代理功能。俄羅斯大約有超過20%的虛擬主機採用Nginx作為反向代理服務器,在國內也有騰訊、新浪、網易等多家網站在使用Nginx作為反向代理服務器。據Netcraft統計，世界上最繁忙的網站中有11.48%使用Nginx作為其服務器或者代理服務器。基於反向代理的功能，Nginx作為負載均衡主要有以下幾點理由：
1. 高併發連接
2. 內存消耗少
3. 配置文件非常簡單
4. 成本低廉
5. 支持Rewrite重寫規則
6. 內置的健康檢查功能
7. 節省帶寬
8. 穩定性高
1.2 架構
nginx在啟動後，會以daemon的方式在後臺運行，後臺進程包含一個master進程和多個worker進程。工作進程以非特權用戶運行。
master進程主要用來管理worker進程，包含：接收來自外界的信號，向各worker進程發送信號，監控worker進程的運行狀態，當worker進程退出後(異常情況下)，會自動重新啟動新的worker進程。
worker進程則是處理基本的網絡事件。多個worker進程之間是對等的，他們同等競爭來自客戶端的請求，各進程互相之間是獨立的。一個請求，只可能在一個worker進程中處理，一個worker進程，不可能處理其它進程的請求。
開發模型：epoll和kqueue。
支持的事件機制：kqueue、epoll、rt signals、/dev/poll 、event ports、select以及poll。
支持的kqueue特性包括EV_CLEAR、EV_DISABLE、NOTE_LOWAT、EV_EOF，可用數據的數量，錯誤代碼.
支持sendfile、sendfile64和sendfilev;文件AIO；DIRECTIO;支持Accept-filters和TCP_DEFER_ACCEP.
1.3 性能
Nginx的高併發，官方測試支持5萬併發連接。實際生產環境能到2-3萬併發連接數。10000個非活躍的HTTP keep-alive 連接僅佔用約2.5MB內存。三萬併發連接下，10個Nginx進程，消耗內存150M。淘寶tengine團隊說測試結果是“24G內存機器上，處理併發請求可達200萬”。
二 負載均衡
2.1 協議支持
Nginx工作在網絡的7層，可以針對http應用本身來做分流策略。支持七層HTTP、HTTPS協議的負載均衡。對四層協議的支持需要第三方插件-yaoweibin的ngx_tcp_proxy_module實現了tcp upstream。
此外，nginx本身也逐漸在完善對其他協議的支持：
nginx 1.4.0對Websocket和SPDY都做了正式的支持。
nginx 1.6.0對SPDY 3.1的正式支持 nginx
1.10.0正式支持HTTP/2
目前，nginx最新穩定版為1.10.2，主線開發版本已經到了1.11.5。Tengine最新版本則繼承到了nginx的1.6.2版本。
2.2 均衡策略
nginx的負載均衡策略可以劃分為兩大類：內置策略和擴展策略。內置策略包含加權輪詢和ip hash，在默認情況下這兩種策略會編譯進nginx內核，只需在nginx配置中指明參數即可。擴展策略有很多，如fair、通用hash、consistent hash等，默認不編譯進nginx內核。
①、加權輪詢（weighted round robin）
輪詢的原理很簡單，首先我們介紹一下輪詢的基本流程。如下是處理一次請求的流程圖：
圖中有兩點需要注意，第一，如果可以把加權輪詢算法分為先深搜索和先廣搜索，那麼nginx採用的是先深搜索算法，即將首先將請求都分給高權重的機器，直到該機器的權值降到了比其他機器低，才開始將請求分給下一個高權重的機器；第二，當所有後端機器都down掉時，nginx會立即將所有機器的標誌位清成初始狀態，以避免造成所有的機器都處在timeout的狀態，從而導致整個前端被夯住。
②、ip hash
ip hash是nginx內置的另一個負載均衡的策略，流程和輪詢很類似，只是其中的算法和具體的策略有些變化，如下圖所示：
ip hash算法的核心實現如下：
for(i = 0;i < 3;i++){
hash = (hash * 113 + iphp->addr[i]) % 6271;
}
p = hash % iphp->rrp.peers->number;
從代碼中可以看出，hash值既與ip有關又與後端機器的數量有關。經過測試，上述算法可以連續產生1045個互異的value，這是該算法的硬限制。對此nginx使用了保護機制，當經過20次hash仍然找不到可用的機器時，算法退化成輪詢。因此，從本質上說，ip hash算法是一種變相的輪詢算法，如果兩個ip的初始hash值恰好相同，那麼來自這兩個ip的請求將永遠落在同一臺服務器上，這為均衡性埋下了很深的隱患。
③、fair
fair策略是擴展策略，默認不被編譯進nginx內核。其原理是根據後端服務器的響應時間判斷負載情況，從中選出負載最輕的機器進行分流。這種策略具有很強的自適應性，但是實際的網絡環境往往不是那麼簡單，因此要慎用。
④、通用hash、一致性hash
這兩種也是擴展策略，在具體的實現上有些差別，通用hash比較簡單，可以以nginx內置的變量為key進行hash，一致性hash採用了nginx內置的一致性hash環，可以支持memcache。
⑤、session_sticky
此種策略就是一次會話內的請求都會落到同一個結點上。在做分佈式架構時可以使用，但是當一個結點掛掉時，會話信息同時也會丟失,如果使用session同步方案同步session信息到所有結點的話代價又會很高，慎重使用此方案。nginx默認不支持此種策略。
2.2 配置示例
①、HTTP
upstream upstream_test{
server 192.168.0.1:8080;
server 192.168.0.2:8080;
#ip_hash;
keepalive 30;
## tengine config
#check interval=300 rise=10 fall=10 timeout=100 type=http port=80;
#check_http_send "GET / HTTP/1.0
";
#check_http_expect_alive http_2xx http_3xx;
## tengine config
#session_sticky cookie=cookieTest mode=insert;
}
location / {
proxy_pass http://upstream_test;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
}
②、TCP - ngx_tcp_proxy_module
tcp {
upstream cluster {
# simple round-robin
server 192.168.0.1:8080;
server 192.168.0.2:8080;
check interval=3000 rise=2 fall=5 timeout=1000;
#check interval=3000 rise=2 fall=5 timeout=1000 type=ssl_hello;
#check interval=3000 rise=2 fall=5 timeout=1000 type=http;
#check_http_send "GET / HTTP/1.0
";
#check_http_expect_alive http_2xx http_3xx;
}
server {
listen 8888;
proxy_pass cluster;
三 動態負載均衡
3.1 自身監控
內置了對後端服務器的健康檢查功能。如果Nginx proxy後端的某臺服務器宕機了，會把返回錯誤的請求重新提交到另一個節點，不會影響前端訪問。它沒有獨立的健康檢查模塊，而是使用業務請求作為健康檢查，這省去了獨立健康檢查線程，這是好處。壞處是，當業務複雜時，可能出現誤判，例如後端響應超時，這可能是後端宕機，也可能是某個業務請求自身出現問題，跟後端無關。
3.2 可擴展性
Nginx屬於典型的微內核設計，其內核非常簡潔和優雅，同時具有非常高的可擴展性。如下圖所示：
Nginx是純C語言的實現，其可擴展性在於其模塊化的設計。目前，Nginx已經有很多的第三方模塊，大大擴展了自身的功能。nginx_lua_module可以將Lua語言嵌入到Nginx配置中，從而利用Lua極大增強了Nginx本身的編程能力，甚至可以不用配合其它腳本語言（如PHP或Python等），只靠Nginx本身就可以實現複雜業務的處理。
3.3 配置修改
nginx的配置架構如下圖所示：
Nginx支持熱部署，幾乎可以做到7*24不間斷運行，即使運行數個月也不需要重新啟動。能夠在不間斷服務的情況下，對軟件版本進行進行升級。Nginx的配置文件非常簡單，風格跟程序一樣通俗易懂，能夠支持perl語法。使用nginx –s reload可以在運行時加載配置文件，便於運行時擴容/減容。重新加載配置時，master進程發送命令給當前正在運行的worker進程worker進程接到命令後會在處理完當前任務後退出。同時，master進程會啟動新的worker進程來接管工作。
四 優勢和劣勢
4.1 優勢
- 可以很好地進行http 的頭處理
- 對http協議以及https的良好支持
- 有足夠的第三方插件供使用
- 支持熱部署，更改後端是平滑的
4.2 劣勢
- 缺少對session的支持
- 對四層tcp的支持不夠好
- post請求寫文件系統，造成500 error
- 缺乏主動的後端服務器健康監測
- 默認的監控界面統計信息不全
五 Tengine
Tengine是淘寶基於nginx開源代碼二次開發一款服務器軟件，在繼承了nginx的特性以外，提供了一些nginx商業版才有的功能。基本上同步於nginx的更新，目前最新的版本已經繼承了nginx 1.6.2穩定版。
5.1 特性
tengine的特性包括但不限於：
- 更友好的運維信息顯示
- 動態模塊加載機制
- 自動根據CPU數目設置進程個數和綁定CPU親緣性
- 更方便的命令行參數，如列出編譯的模塊列表、支持的指令等
- 更加強大的負載均衡能力，包括一致性hash模塊、會話保持模塊，還可以對後端的服務器進行主動健康檢查，根據服務器狀態自動上線下線
- 動態腳本語言Lua支持。擴展功能非常高效簡單
- 輸入過濾器機制支持。通過使用這種機制Web應用防火牆的編寫更為方便
5.2 負載均衡
負載均衡方面，Tengine主要有以下幾個特點，基本上彌補了nginx在負載均衡方面的欠缺：
- 支持一致性Hash模塊
- 會話保持模塊
- 對後端服務器的主動健康檢查。
- 增加了請求體不緩存到磁盤的機制
都看到這裡了，那就點個贊，關注下吧！
閱讀更多 程序猿的內心獨白 的文章
