使用Docker-Compose搭建高可用redis哨兵集群

頭腦風暴

出於學習目的,您可以很輕鬆地在docker環境下運行redis的單個實例,但是如果您需要在生產環境中運行它,那麼必須將Redis部署為<code>HA(High Avaliable)模式/<code>。

Redis Sentinel為Redis提供高可用性,這意味著使用Sentinel可以創建Redis HA部署,該部署可以在無需人工干預的情況下抵抗某些類型的故障。

Redis Sentinel提供的主要功能是:

  1. 當主節點發生故障時,它將自動選擇一個備用節點並將其升級為主節點。

它是如何做到的,它會定期檢查Redis實例的運行狀況和運行狀況,還會將新的主服務器通知給客戶端和從服務器。使用的是帶有領導者選舉算法的<code>gossip/<code>協議。

  1. Sentinel還充當客戶端發現的中心授權來源,客戶端連接到Sentinel以獲取主節點的地址。

使用Docker-Compose搭建高可用redis哨兵集群

本文以自己的親身經歷,使用Docker-compose搭建一個Redis Sentinel模型(1:master-2:slave:3:sentinel)

Docker-compose搭建Redis Sentinel

Redis Sentinel是針對原始Master/Slave模型而衍生的高可用模型。我們為便於靈活部署,先易後難,先搭建Redis Master/Slave模型,再搭建Redis Sentinel模型。

文件組織格式如下

<code>redis-sentinel
├── redis
│ └── docker-compose.yml
└── sentinel
├── docker-compose.yml
├── sentinel1.conf
├── sentinel2.conf
├── sentinel3.conf
└── sentinel.conf
/<code>

1. Master/Slave

進入Redis文件夾,創建docker-compose.yml文件,下面的Compose文件設置了1Master 2Slave

<code>version: '3'
services:
master:
image: redis
container_name: redis-master
command: redis-server --requirepass redis_pwd --masterauth redis_pwd
ports:
- 6380:6379
slave1:
image: redis
container_name: redis-slave-1
ports:
- 6381:6379
command: redis-server --slaveof redis-master 6379 --requirepass redis_pwd --masterauth redis_pwd
slave2:
image: redis

container_name: redis-slave-2
ports:
- 6382:6379
command: redis-server --slaveof redis-master 6379 --requirepass redis_pwd --masterauth redis_pwd
/<code>

注意,如果設置了Redis客戶端訪問密碼requirepass, 那麼也要設置相同的副本集同步密碼masterauth。另外我們後面使用哨兵模式能夠完成故障轉移,現有的Master可能會變成Slave,故在當前Master容器中也要攜帶masterauth參數。

可在容器內使用 config get [Param] 命令驗證

執行<code>docker-compose up -d/<code>會產生3個Redis容器,分別映射到宿主機6380、6381、6382端口, 默認連接在<code>redis-default/<code>網橋。

docker ps輸出如下:

<code>fe2eb7a5cce9 redis "docker-entrypoint.s…" 2 hours ago Up 2 hours 0.0.0.0:6382->6379/tcp redis-slave-2
4c280aa6dc09 redis "docker-entrypoint.s…" 2 hours ago Up 2 hours 0.0.0.0:6381->6379/tcp redis-slave-1
91b83143b7c1 redis "docker-entrypoint.s…" 2 hours ago Up 2 hours 0.0.0.0:6380->6379/tcp redis-master
/<code>

2. Redis Sentinel

很明顯我們即將搭建的Sentinel容器需要能訪問到以上3個容器,故需要在形成Sentinel容器時使用外置的<code>redis-default網橋/<code>(Redis Master/Slave docker-compose 已經創建).

2.1 進入sentinel文件夾,創建docker-compose.yml

<code>version: '3'
services:
sentinel1:
image: redis
container_name: redis-sentinel-1

ports:
- 26379:26379
command: redis-sentinel /usr/local/etc/redis/sentinel.conf
volumes:
- ./sentinel1.conf:/usr/local/etc/redis/sentinel.conf
sentinel2:
image: redis
container_name: redis-sentinel-2
ports:
- 26380:26379
command: redis-sentinel /usr/local/etc/redis/sentinel.conf
volumes:
- ./sentinel2.conf:/usr/local/etc/redis/sentinel.conf
sentinel3:
image: redis
container_name: redis-sentinel-3
ports:
- 26381:26379
command: redis-sentinel /usr/local/etc/redis/sentinel.conf
volumes:
- ./sentinel3.conf:/usr/local/etc/redis/sentinel.conf
networks:
default:
external:
name: redis_default
/<code>

2.2 創建哨兵文件,將如下內容拷貝進去:

<code>port 26379
dir /tmp
sentinel monitor mymaster 172.20.0.3 6379 2
sentinel auth-pass mymaster redis_pwd
sentinel down-after-milliseconds mymaster 30000
sentinel parallel-syncs mymaster 1
sentinel failover-timeout mymaster 180000
sentinel deny-scripts-reconfig yes
/<code>

注意,以上 172.20.0.3是之前Redis Master/slave啟動之後Master節點的IP,通過docker inspect [containerIP]獲取, 這裡我們要配合設置Master/Slave訪問密碼。

2.3 將哨兵文件複製三份,Volume進Sentinel容器

<code>sudo cp sentinel.conf sentinel1.conf
sudo cp sentinel.conf sentinel2.conf
sudo cp sentinel.conf sentinel3.conf
/<code>

<code>docker-compose up -d/<code>生成3個Sentinel容器。

此時docker ps顯示如下:

<code>80f4b776f5dd redis "docker-entrypoint.s…" 58 minutes ago Up 57 minutes 6379/tcp, 0.0.0.0:26380->26379/tcp redis-sentinel-2
3a1bcdc06253 redis "docker-entrypoint.s…" 58 minutes ago Up 57 minutes 6379/tcp, 0.0.0.0:26379->26379/tcp redis-sentinel-1
3bada23b572e redis "docker-entrypoint.s…" 58 minutes ago Up 57 minutes 6379/tcp, 0.0.0.0:26381->26379/tcp redis-sentinel-3
fe2eb7a5cce9 redis "docker-entrypoint.s…" 2 hours ago Up 2 hours 0.0.0.0:6382->6379/tcp redis-slave-2
4c280aa6dc09 redis "docker-entrypoint.s…" 2 hours ago Up 2 hours 0.0.0.0:6381->6379/tcp redis-slave-1
91b83143b7c1 redis "docker-entrypoint.s…" 2 hours ago Up 2 hours 0.0.0.0:6380->6379/tcp redis-master
/<code>

驗證

Master/Slave副本集

進入Master容器,確認兩個Slave容器已經連接。

使用Docker-Compose搭建高可用redis哨兵集群

2. Redis Sentinel

進入其中一個Sentinel容器,確認Master、2個Slave、另外2個Sentinel

flags: master 表明master正常運作,異常情況會顯示s-down,o-down

num-slaves:偵測到2個Slave副本集

num-other-sentinels:除此之外,還有2個哨兵

  1. Redis Sentinel高可用

    停止 master容器,等待10s,進入任意sentinel容器,使用<code>sentinel master mymaster/<code>命令觀察主節點發生變化,觀察外掛的Sentinel*.conf 主節點IP發生變化

總結輸出

當初做這個部署,曾經嘗試採用阿里雲的redis-sentinel docker-compose方式,發現其採用docker-compose scale生成多個Sentinel容器,不能映射到宿主機端口,導致外部Redis客戶端無法定位sentinel。

結合網上一些資料,摸索出<code>漸進式部署 && 共享網橋/<code>的方式部署Redis Sentinel, 本人親測有效。

項目開源地址如下,大家可積極使用。

  • https://github.com/zaozaoniao/Redis-sentinel-with-docker-compose

使用Docker-Compose搭建高可用redis哨兵集群


分享到:


相關文章: