負載均衡介紹
介紹
在介紹Nginx的負載均衡實現之前,先簡單的說下負載均衡的分類,主要分為硬件負載均衡和軟件負載均衡,硬件負載均衡是使用專門的軟件和硬件相結合的設備,設備商會提供完整成熟的解決方案,比如F5,在數據的穩定性以及安全性來說非常可靠,但是相比軟件而言造價會更加昂貴;軟件的負載均衡以Nginx這類軟件為主,實現的一種消息隊列分發機制。
簡單來說所謂的負載均衡就是把很多請求進行分流,將他們分配到不同的服務器去處理。比如我有3個服務器,分別為A、B、C,然後使用Nginx進行負載均衡,使用輪詢策略,此時如果收到了9個請求,那麼會均勻的將這9個請求分發給A、B、Cf服務器,每一個服務器處理3個請求,這樣的話我們可以利用多臺機器集群的特性減少單個服務器的壓力。
Nginx實現負載均衡的示例圖:
負載均衡策略
NGINX開源支持四種負載平衡方法,而NGINX Plus又增加了兩種方法。
1.Round Robin: 對所有的請求進行輪詢發送請求,默認的分配方式。
nginx.conf 配置示例:
upstream xuwujing {
server www.panchengming.com;
server www.panchengming2.com;
}
注:上面的域名也可以用IP替代。
2.Least Connections: 以最少的活動連接數將請求發送到服務器,同樣要考慮服務器權重。
nginx.conf 配置示例:
upstream xuwujing {
least_conn;
server www.panchengming.com;
server www.panchengming2.com;
}
3.IP Hash : 發送請求的服務器由客戶機IP地址決定。在這種情況下,使用IPv4地址的前三個字節或整個IPv6地址來計算散列值。該方法保證來自相同地址的請求到達相同的服務器,除非該服務器不可用。
upstream xuwujing {
ip_hash;
server www.panchengming.com;
server www.panchengming2.com;
}
4.Generic Hash: 請求發送到的服務器由用戶定義的鍵決定,該鍵可以是文本字符串、變量或組合。
upstream xuwujing {
hash $request_uri consistent;
server www.panchengming.com;
server www.panchengming2.com;
}
5.Least Time (NGINX Plus only) – 對於每個請求,NGINX Plus選擇具有最低平均延遲和最低活動連接數的服務器,其中最低平均延遲是根據包含least_time指令的下列參數計算的:
- header : 從服務器接收第一個字節的時間。
- last_byte: 從服務器接收完整響應的時間。
- last_byte inflight:從服務器接收完整響應的時間。upstream xuwujing {
least_time header;
server www.panchengming.com;
server www.panchengming2.com;
}
6.Random:每個請求將被傳遞到隨機選擇的服務器。如果指定了兩個參數,首先,NGINX根據服務器權重隨機選擇兩個服務器,然後使用指定的方法選擇其中一個。
- least_conn :活動連接的最少數量
- least_time=header (NGINX Plus):從服務器接收響應標頭的最短平均時間 ($upstream_header_time)。
- least_time=last_byte (NGINX Plus) :從服務器接收完整響應的最短平均時間($upstream_response_time)。upstream xuwujing {
random two least_time=last_byte;
server www.panchengming.com;
server www.panchengming2.com;
}
Nginx+SpringBoot實現負載均衡
環境準備
- 依賴JDK1.8以上的版本;
- 依賴Nginx環境;
這裡的項目就用本人之前的一個springboot項目,SpringBoot的項目地址: https://github.com/xuwujing/springBoot-study/tree/master/springboot-thymeleaf
首先我們下載這個項目,輸入:mvn clean package 將項目進行打包為jar文件,然後將application.properties和此jar項目放在一個文件夾中,然後複製該文件夾(這裡為了清晰所以進行復制,實際不復制更改端口重啟也行),修改複製文件夾application.properties的端口,比如改為8086。
Nginx 配置
我們找到nginx的配置文件nginx.conf,該配置在nginx/conf/nginx.conf目錄下,然後我們來修改該配置,新增如下配置:
upstream pancm{
server 127.0.0.1:8085;
server 127.0.0.1:8086;
}
- upstream pancm:定義一個名稱,隨意就行;
- server + ip:端口 or 域名;
如果不想使用Round Robin策略,也可以換成其他的。
然後在server添加/修改如下配置:
server {
listen 80;
server_name 127.0.0.1;
location / {
root html;
proxy_pass http://pancm;
proxy_connect_timeout 3s;
proxy_read_timeout 5s;
proxy_send_timeout 3s;
index index.html index.htm;
}
error_page 500 502 503 504 /50x.html;
location = /50x.html {
root html;
}
}
配置說明:
- server: 虛擬主機的名稱,一個http中可以配置多個server;
- listen:Nginx默認的端口;
- server_name:Nginx服務的地址,可以使用域名,多個用空格分隔。
- proxy_pass:代理路徑,一般配置upstream後面的名稱用於實現負載均衡,可以直接配置ip進行跳轉;
nginx.conf 完整的配置:
events {
worker_connections 1024;
}
error_log nginx-error.log info;
http {
include mime.types;
default_type application/octet-stream;
sendfile on;
keepalive_timeout 65;
upstream pancm{
server 127.0.0.1:8085;
server 127.0.0.1:8086;
}
server {
listen 80;
server_name 127.0.0.1;
location / {
root html;
proxy_pass http://pancm;
proxy_connect_timeout 3s;
proxy_read_timeout 5s;
proxy_send_timeout 3s;
index index.html index.htm;
}
error_page 500 502 503 504 /50x.html;
location = /50x.html {
root html;
}
}
}
負載均衡測試
在完成Nginx配置之後,我們啟動Nginx。
linux輸入/usr/local/nginx/sbin/nginx -c /usr/local/nginx/conf/nginx.conf,如果已經啟動可以使用/usr/local/nginx/sbin/nginx -s reload命令進行熱加載配置文件,Windows直接點擊Nginx目錄下的nginx.exe或者 cmd運行start nginx進行啟動,如果啟動了依舊可以使用nginx -s reload進行熱加載。
Nginx啟動完成之後,我們依次啟動剛剛下載的springboot和複製更改端口的項目,輸入:java -jar springboot-jsp-thymeleaf.jar啟動。
都啟動成功之後,我們在瀏覽器輸入服務的ip即可進行訪問。
示例圖:
注:這裡我使用的是windows系統做測試,實際linux也是一樣的。
然後我們進行操作,並查看控制檯日誌!
從上述示例圖中我們進行4次界面刷新請求,最終平均分配到兩個服務中去了,從上述的測試結果中我們實現了負載均衡。
這裡我在說一下使用Nginx的注意事項,在進行學習和測試的時候,使用nginx默認的端口實現負載均衡一般沒有什麼問題,但是當我們在項目中使用的時候,特別有登錄界面的並且端口不是80的時候,會出現登錄的界面無法跳轉,進行調試的話會出現
net::ERR_NAME_NOT_RESOLVED這樣的錯誤,出現這個原因的是因為nginx默認的端口是80,那麼默認跳轉的也是這個,所以出現這種情況的時候,需要在location 下添加proxy_set_header Host $host:port 這個配置,port 和listen 的端口保持一致就可以了。關注我,後續更多幹貨奉上!
閱讀更多 Java架構學習交流 的文章