Redis哨兵模式实现主从故障互切换的方法

淡淡的烟草味﹌ 2023-07-25 09:45 7阅读 0赞

Redis Sentinel 是一个分布式系统， 你可以在一个架构中运行多个 Sentinel 进程（progress）， 这些进程使用流言协议（gossip protocols)来接收关于主服务器是否下线的信息， 并使用投票协议（agreement protocols）来决定是否执行自动故障迁移， 以及选择哪个从服务器作为新的主服务器。

我的官方群[点击此处][Link 1]。

虽然 Redis Sentinel 释出为一个单独的可执行文件 redis-sentinel ， 但实际上它只是一个运行在特殊模式下的 Redis 服务器， 你可以在启动一个普通 Redis 服务器时通过给定 --sentinel 选项来启动 Redis Sentinel 。

Sentinel 系统用于管理多个 Redis 服务器（instance）， 该系统执行以下三个任务：

1、监控（Monitoring）： Sentinel 会不断地检查你的主服务器和从服务器是否运作正常。

2、提醒（Notification）： 当被监控的某个 Redis 服务器出现问题时， Sentinel 可以通过 API 向管理员或者其他应用程序发送通知。

3、自动故障迁移（Automatic failover）： 当一个主服务器不能正常工作时， Sentinel 会开始一次自动故障迁移操作， 它会将失效主服务器的其中一个从服务器升级为新的主服务器， 并让失效主服务器的其他从服务器改为复制新的主服务器； 当客户端试图连接失效的主服务器时， 集群也会向客户端返回新主服务器的地址， 使得集群可以使用新主服务器代替失效服务器。

**配置**

当主宕机了从接替主成为新的主，宕机的主启动后自动变成了从，其实它和Mysql的双主模式是一样的互为主从；redis哨兵需要用到redis-sentinel程序和sentinel.conf配置文件。

mkdir -p /usr/local/redis
    
    mkdir -p /usr/local/redis/6379
    
    mkdir -p /usr/local/redis/6380
    
    mkdir -p /usr/local/redis/redis_cluster

主配置

vim redis\_6379.conf

daemonize yes
    
    pidfile /usr/local/redis/6379/redis_6379.pid
    
    port 6379
    
    tcp-backlog 128
    
    timeout 0
    
    tcp-keepalive 0
    
    loglevel notice
    
    logfile ""
    
    databases 16
    
    save 900 1    ###save
    
    save 300 10
    
    save 60 10000
    
    stop-writes-on-bgsave-error yes
    
    rdbcompression yes
    
    rdbchecksum yes
    
    dbfilename dump.rdb   ###dbfile
    
    dir "/usr/local/redis/6379"
    
    masterauth "123456"
    
    requirepass "123456"
    
    slave-serve-stale-data yes
    
    slave-read-only yes
    
    repl-diskless-sync no
    
    repl-diskless-sync-delay 5
    
    repl-disable-tcp-nodelay no
    
    slave-priority 100
    
    appendonly yes
    
    appendfilename "appendonly.aof"
    
    appendfsync everysec
    
    no-appendfsync-on-rewrite no
    
    auto-aof-rewrite-percentage 100
    
    auto-aof-rewrite-min-size 64mb
    
    aof-load-truncated yes
    
    lua-time-limit 5000
    
    slowlog-log-slower-than 10000
    
    slowlog-max-len 128
    
    latency-monitor-threshold 0
    
    notify-keyspace-events ""
    
    hash-max-ziplist-entries 512
    
    hash-max-ziplist-value 64
    
    list-max-ziplist-entries 512
    
    list-max-ziplist-value 64
    
    set-max-intset-entries 512
    
    zset-max-ziplist-entries 128
    
    zset-max-ziplist-value 64
    
    hll-sparse-max-bytes 3000
    
    activerehashing yes
    
    client-output-buffer-limit normal 0 0 0
    
    client-output-buffer-limit slave 256mb 64mb 60
    
    client-output-buffer-limit pubsub 32mb 8mb 60
    
    hz 10
    
    aof-rewrite-incremental-fsync yes

vim sentinel\_1.conf

哨兵文件配置

port 6000
    
    dir "/usr/local/redis/sentinel"
    
    # 守护进程模式
    
    daemonize yes
    
    protected-mode no
    
    logfile "/usr/local/sentinel/sentinel.log"

从配置

vim redis\_6380.conf

daemonize yes
    
    pidfile "/usr/local/redis/6380/redis_6380.pid"
    
    port 6380
    
    tcp-backlog 128
    
    timeout 0
    
    tcp-keepalive 0
    
    loglevel notice
    
    logfile ""
    
    databases 16
    
    save 900 1
    
    save 300 10
    
    save 60 10000
    
    stop-writes-on-bgsave-error yes
    
    rdbcompression yes
    
    rdbchecksum yes
    
    dbfilename "dump.rdb"
    
    dir "/usr/local/redis/6380"
    
    masterauth "123456"
    
    requirepass "123456"
    
    slave-serve-stale-data yes
    
    slave-read-only yes
    
    repl-diskless-sync no
    
    repl-diskless-sync-delay 5
    
    repl-disable-tcp-nodelay no
    
    slave-priority 100
    
    appendonly yes
    
    appendfilename "appendonly.aof"
    
    appendfsync everysec
    
    no-appendfsync-on-rewrite no
    
    auto-aof-rewrite-percentage 100
    
    auto-aof-rewrite-min-size 64mb
    
    aof-load-truncated yes
    
    lua-time-limit 5000
    
    slowlog-log-slower-than 10000
    
    slowlog-max-len 128
    
    latency-monitor-threshold 0
    
    notify-keyspace-events ""
    
    hash-max-ziplist-entries 512
    
    hash-max-ziplist-value 64
    
    list-max-ziplist-entries 512
    
    list-max-ziplist-value 64
    
    set-max-intset-entries 512
    
    zset-max-ziplist-entries 128
    
    zset-max-ziplist-value 64
    
    hll-sparse-max-bytes 3000
    
    activerehashing yes
    
    client-output-buffer-limit normal 0 0 0
    
    client-output-buffer-limit slave 256mb 64mb 60
    
    client-output-buffer-limit pubsub 32mb 8mb 60
    
    hz 10
    
    aof-rewrite-incremental-fsync yes

vim sentinel\_2.conf

#sentinel端口
    
    port 6000
    
    #工作路径，注意路径不要和主重复
    
    dir "/usr/local/sentinel"
    
    # 守护进程模式
    
    daemonize yes
    
    protected-mode no
    
    # 指明日志文件名
    
    logfile "/usr/local/sentinel/sentinel.log"

> **注意：**  
> 1.应用程序连接到哨兵端口，通过指定不同的master名称连接到具体的主副本。  
> 2.哨兵配置文件中只需要配置主从复制中的主副本ip和端口即可，当主从进行切换时哨兵会自动修改哨兵配置文件中的主副本ip为新在主副本ip。  
> 3.一个哨兵配置文件中可以同时配置监控多个主从复制。  
> 4.单个哨兵就可以用来进行主从故障监控，但是如果只有一个sentinel进程，如果这个进程运行出错，或者是网络堵塞，那么将无法实现redis集群的主备切换（单点问题）;<quorum>这个2代表投票数，当2个sentinel认为一个master已经不可用了以后，将会触发failover，才能真正认为该master已经不可用了。（sentinel集群中各个sentinel也有互相通信，通过gossip协议）;所以合理的配置应该是同时启动多个哨兵进程,并且最好是在不同的服务器中启动。  
> 5.注意mymaster的需要在整个网络环境都是唯一的，哨兵之间会自动通过mastername去建立关联关系只要网络环境是相通的。

启动redis

1.主从都要启动

src/redis-server redis.conf

2.登入到6380建立主从关系

redis-cli -p 6380
    
    slaveof 192.168.137.40 6379

配置哨兵

主从两个哨兵都要启动，还可以通过redis-server方式启动，例如“redis-server sentinel.conf --sentinel”

1.启动哨兵

src/redis-sentinel sentinel.conf

2.登入哨兵(两台哨兵都需要登入执行)，添加主从监控信息

redis-cli -p 6000

sentinel monitor mymaster 192.168.137.40 6379 2
    
    sentinel set mymaster down-after-milliseconds 5000
    
    sentinel set mymaster failover-timeout 15000
    
    sentinel set mymaster auth-pass 123456

启动报错处理

错误1：

WARNING overcommit\_memory is set to 0! Background save may fail under low memory condition. To fix this issue add 'vm.overcommit\_memory = 1' to /etc/sysctl.conf and then reboot or run the command 'sysctl vm.overcommit\_memory=1' for this to take effect.

两个解决方法(overcommit\_memory)

> 1. echo "vm.overcommit\_memory=1" > /etc/sysctl.conf 或 vi /etcsysctl.conf , 然后reboot重启机器  
> 2. echo 1 > /proc/sys/vm/overcommit\_memory 不需要启机器就生效

overcommit\_memory参数说明：

> 设置内存分配策略（可选，根据服务器的实际情况进行设置）  
> /proc/sys/vm/overcommit\_memory  
> 可选值：0、1、2。  
> 0， 表示内核将检查是否有足够的可用内存供应用进程使用；如果有足够的可用内存，内存申请允许；否则，内存申请失败，并把错误返回给应用进程。  
> 1， 表示内核允许分配所有的物理内存，而不管当前的内存状态如何。  
> 2， 表示内核允许分配超过所有物理内存和交换空间总和的内存  
> 注意：redis在dump数据的时候，会fork出一个子进程，理论上child进程所占用的内存和parent是一样的，比如parent占用 的内存为8G，这个时候也要同样分配8G的内存给child,如果内存无法负担，往往会造成redis服务器的down机或者IO负载过高，效率下降。所 以这里比较优化的内存分配策略应该设置为 1（表示内核允许分配所有的物理内存，而不管当前的内存状态如何）。  
> 这里又涉及到Overcommit和OOM。  
> 什么是Overcommit和OOM  
> 在Unix中，当一个用户进程使用malloc()函数申请内存时，假如返回值是NULL，则这个进程知道当前没有可用内存空间，就会做相应的处理工作。许多进程会打印错误信息并退出。  
> Linux使用另外一种处理方式，它对大部分申请内存的请求都回复"yes"，以便能跑更多更大的程序。因为申请内存后，并不会马上使用内存。这种技术叫做Overcommit。  
> 当内存不足时，会发生OOM killer(OOM=out-of-memory)。它会选择杀死一些进程(用户态进程，不是内核线程)，以便释放内存。  
> Overcommit的策略  
> Linux下overcommit有三种策略(Documentation/vm/overcommit-accounting)：  
> 0. 启发式策略。合理的overcommit会被接受，不合理的overcommit会被拒绝。  
> 1. 任何overcommit都会被接受。  
> 2. 当系统分配的内存超过swap+N%\*物理RAM(N%由vm.overcommit\_ratio决定)时，会拒绝commit。  
> overcommit的策略通过vm.overcommit\_memory设置。  
> overcommit的百分比由vm.overcommit\_ratio设置。  
> \# echo 2 > /proc/sys/vm/overcommit\_memory  
> \# echo 80 > /proc/sys/vm/overcommit\_ratio  
> 当oom-killer发生时，linux会选择杀死哪些进程  
> 选择进程的函数是oom\_badness函数(在mm/oom\_kill.c中)，该函数会计算每个进程的点数(0~1000)。  
> 点数越高，这个进程越有可能被杀死。  
> 每个进程的点数跟oom\_score\_adj有关，而且oom\_score\_adj可以被设置(-1000最低，1000最高)。

错误2：

WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128.

echo 511 > /proc/sys/net/core/somaxconn

错误3：

16433:X 12 Jun 14:52:37.734 \* Increased maximum number of open files to 10032 (it was originally set to 1024).

新装的linux默认只有1024，当负载较大时，会经常出现error: too many open files

ulimit -a：使用可以查看当前系统的所有限制值

vim /etc/security/limits.conf

在文件的末尾加上

* soft nofile 65535
    
    * hard nofile 65535

执行su或者重新关闭连接用户再执行ulimit -a就可以查看修改后的结果。

故障切换机制

1. 启动群集后，群集程序默认会在从库的redis文件中加入连接主的配置

# Generated by CONFIG REWRITE
    
    slaveof 192.168.137.40 6379

2.启动群集之后，群集程序默认会在主从的sentinel.conf文件中加入群集信息

主：

port 26379
    
    dir "/usr/local/redis-6379"
    
    # 守护进程模式
    
    daemonize yes
    
    # 指明日志文件名
    
    logfile "./sentinel.log"
    
    sentinel monitor mymaster 192.168.137.40 6379 1
    
    sentinel down-after-milliseconds mymaster 5000
    
    sentinel failover-timeout mymaster 18000
    
    sentinel auth-pass mymaster 123456
    
    # Generated by CONFIG REWRITE
    
    sentinel config-epoch mymaster 0
    
    sentinel leader-epoch mymaster 1
    
    sentinel known-slave mymaster 192.168.137.40 6380
    
    sentinel known-sentinel mymaster 192.168.137.40 26380 c77c5f64aaad0137a228875e531c7127ceeb5c3f
    
    sentinel current-epoch 1

从：

#sentinel端口
    
    port 26380
    
    #工作路径
    
    dir "/usr/local/redis-6380"
    
    # 守护进程模式
    
    daemonize yes
    
    # 指明日志文件名
    
    logfile "./sentinel.log"
    
    #哨兵监控的master，主从配置一样，在进行主从切换时6379会变成当前的master端口，
    
    sentinel monitor mymaster 192.168.137.40 6379 1
    
    # master或slave多长时间（默认30秒）不能使用后标记为s_down状态。
    
    sentinel down-after-milliseconds mymaster 5000
    
    #若sentinel在该配置值内未能完成failover操作（即故障时master/slave自动切换），则认为本次failover失败。
    
    sentinel failover-timeout mymaster 18000
    
    #设置master和slaves验证密码
    
    sentinel auth-pass mymaster 123456
    
    #哨兵程序自动添加的部分
    
    # Generated by CONFIG REWRITE
    
    sentinel config-epoch mymaster 0
    
    sentinel leader-epoch mymaster 1
    
    ###指明了当前群集的从库的ip和端口，在主从切换时该值会改变
    
    sentinel known-slave mymaster 192.168.137.40 6380
    
    ###除了当前的哨兵还有哪些监控的哨兵
    
    sentinel known-sentinel mymaster 192.168.137.40 26379 7a88891a6147e202a53601ca16a3d438e9d55c9d
    
    sentinel current-epoch 1

模拟主故障

[root@monitor redis-6380]# ps -ef|grep redis
    
    root       4171      1  0 14:20 ?        00:00:15 /usr/local/redis-6379/src/redis-server *:6379                          
    
    root       4175      1  0 14:20 ?        00:00:15 /usr/local/redis-6380/src/redis-server *:6380                          
    
    root       4305      1  0 15:28 ?        00:00:05 /usr/local/redis-6379/src/redis-sentinel *:26379 [sentinel]                            
    
    root       4306      1  0 15:28 ?        00:00:05 /usr/local/redis-6380/src/redis-sentinel *:26380 [sentinel]                            
    
    root       4337   4144  0 15:56 pts/1    00:00:00 grep redis
    
    [root@monitor redis-6380]# kill -9 4171
    
    [root@monitor redis-6380]# ps -ef|grep redis
    
    root       4175      1  0 14:20 ?        00:00:15 /usr/local/redis-6380/src/redis-server *:6380                          
    
    root       4305      1  0 15:28 ?        00:00:05 /usr/local/redis-6379/src/redis-sentinel *:26379 [sentinel]                            
    
    root       4306      1  0 15:28 ?        00:00:05 /usr/local/redis-6380/src/redis-sentinel *:26380 [sentinel]                            
    
    root       4339   4144  0 15:56 pts/1    00:00:00 grep redis
    
    [root@monitor redis-6380]#

![format_png][]

![format_png 1][]

从哨兵配置文件中可以看到当前的主库的已经发生了改变

![format_png 2][]

**总结**

redis的哨兵端口26379、26380使用客户端软件无法连接，使用程序可以连接，客户端软件只能直接连接6379和6380端口。使用哨兵监控当主故障后会自动切换从为主，当主启动后就变成了从。有看到别人只配置单哨兵26379的这种情况，这种情况无法保证哨兵程序自身的高可用。

以上就是Redis哨兵模式实现主从故障互切换的方法的详细内容

更多学习内容请访问：

[八重樱：腾讯T3-T4标准精品PHP架构师教程目录大全，只要你看完保证薪资上升一个台阶（持续更新）zhuanlan.zhihu.com![图标][format_png 3]][T3-T4_PHP_zhuanlan.zhihu.com_format_png 3]

**以上内容希望帮助到大家，**很多PHPer在进阶的时候总会遇到一些问题和瓶颈，业务代码写多了没有方向感，不知道该从那里入手去提升，对此我整理了一些资料，包括但不限于：分布式架构、高可扩展、高性能、高并发、服务器性能调优、TP6，laravel，YII2，Redis，Swoole、Swoft、Kafka、Mysql优化、shell脚本、Docker、微服务、Nginx等多个知识点高级进阶干货需要的可以免费分享给大家**，需要的可以加入**我的官方群[点击此处][Link 1]。

[Link 1]: https://link.zhihu.com/?target=https%3A//jq.qq.com/%3F_wv%3D1027%26k%3D5kN6y8c
[format_png]: /images/20230528/eb464b4dced84d06bec2f63701b3b5a3.png
[format_png 1]: /images/20230528/afb5c0d7ab7b48128a04da18fed9e80c.png
[format_png 2]: /images/20230528/488fb929572648078046ff51fa93122b.png
[format_png 3]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9waWMyLnpoaW1nLmNvbS96aGlodS1jYXJkLWRlZmF1bHRfaXBpY28uanBn?x-oss-process=image/format,png
[T3-T4_PHP_zhuanlan.zhihu.com_format_png 3]: /images/20230528/2e26d8bdba3d4f6bb04151a0e48516fb.png