Nginx是一款輕量級的Web 服務器/反向代理服務器及電子郵件(IMAP/POP3)代理服務器,在BSD-like 協議下發行。其特點是佔有內存少,併發能力強,事實上nginx的併發能力確實在同類型的網頁服務器中表現較好,中國大陸使用nginx網站用戶有:百度、京東、新浪、網易、騰訊、淘寶等。
Nginx 是一個很強大的高性能Web和反向代理服務,它具有很多非常優越的特性:
在連接高併發的情況下,Nginx是Apache服務不錯的替代品:Nginx在美國是做虛擬主機生意的老闆們經常選擇的軟件平臺之一。能夠支持高達 50,000 個併發連接數的響應,感謝Nginx為我們選擇了 epoll and kqueue作為開發模型。
Nginx 的進程模型
Nginx 服務器,正常運行過程中:
多進程:一個 Master 進程、多個 Worker 進程Master 進程:管理 Worker 進程對外接口:接收外部的操作(信號)對內轉發:根據外部的操作的不同,通過信號管理 Worker監控:監控 worker 進程的運行狀態,worker 進程異常終止後,自動重啟 worker 進程Worker 進程:所有 Worker 進程都是平等的實際處理:網絡請求,由 Worker 進程處理;Worker 進程數量:在 nginx.conf 中配置,一般設置為核心數,充分利用 CPU 資源,同時,避免進程數量過多,避免進程競爭 CPU 資源,增加上下文切換的損耗。思考:
請求是連接到 Nginx,Master 進程負責處理和轉發?如何選定哪個 Worker 進程處理請求?請求的處理結果,是否還要經過 Master 進程?HTTP 連接建立和請求處理過程:
Nginx 啟動時,Master 進程,加載配置文件Master 進程,初始化監聽的 socketMaster 進程,fork 出多個 Worker 進程Worker 進程,競爭新的連接,獲勝方通過三次握手,建立 Socket 連接,並處理請求Nginx 高性能、高併發:
Nginx 採用:多進程 + 異步非阻塞方式(IO 多路複用 epoll)請求的完整過程:建立連接讀取請求:解析請求處理請求響應請求請求的完整過程,對應到底層,就是:讀寫 socket 事件Nginx 的事件處理模型
request:Nginx 中 http 請求。
基本的 HTTP Web Server 工作模式:
接收請求:逐行讀取請求行和請求頭,判斷段有請求體後,讀取請求體處理請求返回響應:根據處理結果,生成相應的 HTTP 請求(響應行、響應頭、響應體)Nginx 也是這個套路,整體流程一致。
模塊化體系結構
nginx的模塊根據其功能基本上可以分為以下幾種類型:
event module: 搭建了獨立於操作系統的事件處理機制的框架,及提供了各具體事件的處理。包括ngx_events_module, ngx_event_core_module和ngx_epoll_module等。nginx具體使用何種事件處理模塊,這依賴於具體的操作系統和編譯選項。phase handler: 此類型的模塊也被直接稱為handler模塊。主要負責處理客戶端請求併產生待響應內容,比如ngx_http_static_module模塊,負責客戶端的靜態頁面請求處理並將對應的磁盤文件準備為響應內容輸出。output filter: 也稱為filter模塊,主要是負責對輸出的內容進行處理,可以對輸出進行修改。例如,可以實現對輸出的所有html頁面增加預定義的footbar一類的工作,或者對輸出的圖片的URL進行替換之類的工作。upstream: upstream模塊實現反向代理的功能,將真正的請求轉發到後端服務器上,並從後端服務器上讀取響應,發回客戶端。upstream模塊是一種特殊的handler,只不過響應內容不是真正由自己產生的,而是從後端服務器上讀取的。load-balancer: 負載均衡模塊,實現特定的算法,在眾多的後端服務器中,選擇一個服務器出來作為某個請求的轉發服務器。常見問題剖析
Nginx vs. Apache
nginx vs. apache:
http://www.oschina.net/translate/nginx-vs-apache網絡 IO 模型:
nginx:IO 多路複用,epoll(freebsd 上是 kqueue )高性能高併發佔用系統資源少apache:阻塞 + 多進程/多線程更穩定,bug 少模塊更豐富場景:
處理多個請求時,可以採用:IO 多路複用 或者 阻塞 IO +多線程
IO 多路服用:一個 線程,跟蹤多個 socket 狀態,哪個就緒,就讀寫哪個;
阻塞 IO + 多線程:每一個請求,新建一個服務線程
思考:IO 多路複用 和 多線程 的適用場景?
IO 多路複用:單個連接的請求處理速度沒有優勢,適合 IO 密集型 場景,事件驅動大併發量Nginx 最大連接數
基礎背景:
Nginx 是多進程模型,Worker 進程用於處理請求;單個進程的連接數(文件描述符 fd),有上限(nofile):ulimit -nNginx 上配置單個 worker 進程的最大連接數:worker_connections 上限為 nofileNginx 上配置 worker 進程的數量:worker_processes因此,Nginx 的最大連接數:
Nginx 的最大連接數:Worker 進程數量 x 單個 Worker 進程的最大連接數上面是 Nginx 作為通用服務器時,最大的連接數Nginx 作為反向代理服務器時,能夠服務的最大連接數:(Worker 進程數量 x 單個 Worker 進程的最大連接數)/ 2。Nginx 反向代理時,會建立 Client 的連接和後端 Web Server 的連接,佔用 2 個連接思考:
每打開一個 socket 佔用一個 fd
為什麼,一個進程能夠打開的 fd 數量有限制?
附錄
HTTP 請求和響應
HTTP 請求:請求行:method、uri、http version請求頭請求體HTTP 響應:響應行:http version、status code響應頭響應體IO 模型
場景:
處理多個請求時,可以採用:IO 多路複用 或者 阻塞 IO +多線程
IO 多路服用:一個 線程,跟蹤多個 socket 狀態,哪個就緒,就讀寫哪個;
阻塞 IO + 多線程:每一個請求,新建一個服務線程
思考:IO 多路複用 和 多線程 的適用場景?
IO 多路複用:單個連接的請求處理速度沒有優勢大併發量:只使用一個線程,處理大量的併發請求,降低上下文環境切換損耗,也不需要考慮併發問題,相對可以處理更多的請求;消耗更少的系統資源(不需要線程調度開銷)適用於長連接的情況(多線程模式長連接容易造成線程過多,造成頻繁調度)阻塞IO + 多線程:實現簡單,可以不依賴系統調用。每個線程,都需要時間和空間;線程數量增長時,線程調度開銷指數增長select/poll 和 epoll 比較
詳細內容,參考:
select poll epoll三者之間的比較select/poll 系統調用:
// select 系統調用int select(int maxfdp,fd_set *readfds,fd_set *writefds,fd_set *errorfds,struct timeval *timeout);// poll 系統調用int poll(struct pollfd fds[], nfds_t nfds, int timeout);select:
查詢 fd_set 中,是否有就緒的 fd,可以設定一個超時時間,當有 fd (File descripter) 就緒或超時返回;fd_set 是一個位集合,大小是在編譯內核時的常量,默認大小為 1024特點:連接數限制,fd_set 可表示的 fd 數量太小了;線性掃描:判斷 fd 是否就緒,需要遍歷一邊 fd_set;數據複製:用戶空間和內核空間,複製連接就緒狀態信息poll:
解決了連接數限制:poll 中將 select 中的 fd_set 替換成了一個 pollfd 數組解決 fd 數量過小的問題數據複製:用戶空間和內核空間,複製連接就緒狀態信息epoll
select,poll,epoll:
I/O多路複用的機制;I/O多路複用就通過一種機制,可以監視多個描述符,一旦某個描述符就緒(一般是讀就緒或者寫就緒),能夠通知程序進行相應的讀寫操作。監視多個文件描述符但select,poll,epoll本質上都是同步I/O:用戶進程負責讀寫(從內核空間拷貝到用戶空間),讀寫過程中,用戶進程是阻塞的;異步 IO,無需用戶進程負責讀寫,異步IO,會負責從內核空間拷貝到用戶空間;Nginx 的併發處理能力
關於 Nginx 的併發處理能力:
併發連接數,一般優化後,峰值能保持在 1~3w 左右。(內存和 CPU 核心數不同,會有進一步優化空間)更多細節,參考:
百萬併發下 Nginx 的優化之道Nginx 配置說明