CentOS搭建redis集群-蒲公英云

一环境介绍

用两台虚拟机模拟6个节点，一台机器3个节点，创建出3 master、3 salve 环境。

redis 采用 redis-3.0.7（或者3.2.4）版本。

两台虚拟机都是 CentOS ，

一台 CentOS7 （IP:192.168.98.105），

一台 CentOS7（IP:192.168.98.106）。

二环境准备

（1）安装gcc、make

（2）升级rvm

gpg2 —keyserver hkp://keys.gnupg.net —recv-keys D39DC0E3

curl -L get.rvm.io | bash -s stable

find / -name rvm -print

source /usr/local/rvm/scripts/rvm

rvm list known

rvm install 2.3.3

rvm use 2.3.3

rvm use 2.3.3 —default

#卸载
rvm remove 2.0.0

ruby —version

#安装redis

gem install redis

./redis-trib.rb

三安装准备

安装过程

1、下载并解压

cd /root/software

wget http://download.redis.io/releases/redis-3.0.7.tar.gz

tar -zxvf redis-3.0.7.tar.gz``　

2、编译安装

cd redis-3.0.7
make && make install

3、移动ruby**脚本 **

将 redis-trib.rb 复制到 /usr/local/bin 目录下

cd src

cp redis-trib.rb /usr/local/bin/　　

4、创建 Redis 节点

首先在 192.168.98.105 机器上 /root/software/redis-3.0.7目录下创建 redis_cluster 目录；

mkdir redis_cluster　

在 redis_cluster 目录下，创建名为7000、7001、7002的目录，并将 redis.conf 拷贝到这三个目录中

mkdir 7000 7001 7002

cp redis.conf redis_cluster/7000

cp redis.conf redis_cluster/7001

cp redis.conf redis_cluster/7002

分别修改这三个配置文件，修改如下内容

port 7000 //端口7000,7002,7003

bind 本机ip //默认ip为127.0.0.1 需要改为其他节点机器可访问的ip 否则创建集群时无法访问对应的端口，无法创建集群

daemonize yes //redis后台运行

pidfile /var/run/redis_7000.pid //pidfile文件对应7000,7001,7002

cluster-enabled yes //开启集群把注释#去掉

cluster-config-file nodes_7000.conf //集群的配置配置文件首次启动自动生成 7000,7001,7002

cluster-node-timeout 15000 //请求超时默认15秒，可自行设置

appendonly yes //aof日志开启有需要就开启，它会每次写操作都记录一条日志　

logfile “/home/redis7000/log/redis_7000.log” //日志位置

dir “/home/redis7000/data” //数据存储位置

接着在另外一台机器上（192.168.98.106），的操作重复以上三步，只是把目录改为7003、7004、7005，对应的配置文件也按照这个规则修改即可

5、启动各个节点

第一台机器上启动

redis-server redis_cluster/7000/redis.conf redis-server redis_cluster/7001/redis.conf redis-server redis_cluster/7002/redis.conf

另外一台机器上执行

redis-server redis_cluster/7003/redis.conf
redis-server redis_cluster/7004/redis.conf
redis-server redis_cluster/7005/redis.conf

6、检查 redis 启动情况

一台机器

ps -ef | grep redis

netstat -tnlp | grep redis

root      61020      1  0 02:14 ?        00:00:01 redis-server 192.168.98.105:7000 [cluster]    
root      61024      1  0 02:14 ?        00:00:01 redis-server 192.168.98.105:7001 [cluster]    
root      61029      1  0 02:14 ?        00:00:01 redis-server 192.168.98.105:7002 [cluster]

7、创建集群

Redis 官方提供了 redis-trib.rb 这个工具，就在解压目录的 src 目录中，第三步中已将它复制到 /usr/local/bin 目录中，可以直接在命令行中使用了。使用下面这个命令即可完成安装。

redis-trib.rb create —replicas 1 192.168.98.105:7000 192.168.98.105:7001 192.168.98.105:7002 192.168.98.106:7003 192.168.98.106:7004 192.168.98.106:7005

其中，前三个 ip:port 为第一台机器的节点，剩下三个为第二台机器。

等等，出错了。这个工具是用 ruby 实现的，所以需要安装 ruby。安装命令如下：

yum -y install ruby ruby-devel rubygems rpm-build

gem install redis

之后再运行 redis-trib.rb 命令，会出现如下提示：

输入 yes 即可，然后出现如下内容，说明安装成功。

8、集群验证

在第一台机器上连接集群的7002端口的节点，在另外一台连接7005节点，连接方式为 redis-cli -h 192.168.98.105 -c -p 7005 ,加参数 -C 可连接到集群，因为上面 redis.conf 将 bind 改为了ip地址，所以 -h 参数不可以省略。

在7005节点执行命令

set names li

在一个节点执行

get names

watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM1Mjc1MjMz_size_16_color_FFFFFF_t_70

说明集群运作正常。

简单说一下原理

redis cluster在设计的时候，就考虑到了去中心化，去中间件，也就是说，集群中的每个节点都是平等的关系，都是对等的，每个节点都保存各自的数据和整个集群的状态。每个节点都和其他所有节点连接，而且这些连接保持活跃，这样就保证了我们只需要连接集群中的任意一个节点，就可以获取到其他节点的数据。

Redis 集群没有并使用传统的一致性哈希来分配数据，而是采用另外一种叫做哈希槽 (hash slot)的方式来分配的。redis cluster 默认分配了 16384 个slot，当我们set一个key 时，会用CRC16算法来取模得到所属的slot，然后将这个key 分到哈希槽区间的节点上，具体算法就是：

CRC16(key) % 16384。所以我们在测试的时候看到set 和 get 的时候，直接跳转到了7000端口的节点``。

Redis 集群会把数据存在一个 master 节点，然后在这个 master 和其对应的salve 之间进行数据同步。当读取数据时，也根据一致性哈希算法到对应的 master 节点获取数据。只有当一个master 挂掉之后，才会启动一个对应的 salve 节点，充当 master 。

需要注意的是：必须要3``个或以上的主节点，否则在创建集群时会失败，并且当存活的主节点数小于总节点数的一半时，整个集群就无法提供服务了。

四项目中遇到的问题

1、集群宕机

报错信息

CLUSTER cluster is down

[ERR] Not all 16384 slots are covered by nodes.

解决

redis-trib.rb check ip:端口

redis-trib.rb fix ip:端口

因为原集群的结点含有原集群的配置，如果使用这些结点搭建新的集群，需要将原来的配置删除。

如下图所示，删除dump.rdb和nodes.conf两个文件

然后flushdb

如果修复成功，还是无法介入集群，需要重置集群

2、重置集群

报错信息

./redis-trib.rb 报错：

/usr/local/rvm/gems/ruby-2.4.2/gems/redis-4.0.1/lib/redis/client.rbin `call’: ERR Slot 0 is already busy (Redis::CommandError)

错误提示是

slot插槽被占用了（这是搭建集群前时，以前redis的旧数据和配置信息没有清理干净。）

解决方案：

 用redis-cli 登录到每个节点执行**  flushall  和 cluster reset ** 就可以了。

然后重新执行群集脚本命令：

./redis-trib.rb create —replicas 1 192.168.*.*:7001 192.168.*.*:7002 192.168.*.*:7003 192.168.*.*:7004 192.168.*.*:7005 192.168.*.*:7006

3、项目中常用指令

（a）启动redis节点

redis-server /usr/local/redis-3.0.7/redis_cluster/7000/redis.conf

（b）链接和关闭redis

redis-cli -h 192.168.98.105 -c -p 7000

关闭redis

redis-cli -h 192.168.98.105 -p 7000 shutdown

（c）创建集群

redis-trib.rb create —replicas 1 192.168.98.105:7000 192.168.98.105:7001 192.168.98.105:7002 192.168.98.105:7003 192.168.98.105:7004 192.168.98.105:7005

（d）查看节点（链接之后使用）

redis-cli -p 7001 cluster nodes

（e）集群客户端常用

集群客户端命令（redis-cli -c -p port）

cluster info ：打印集群的信息

cluster nodes ：列出集群当前已知的所有节点（ node），以及这些节点的相关信息。

节点

cluster meet ：将 ip 和 port 所指定的节点添加到集群当中，让它成为集群的一份子。

cluster forget ：从集群中移除 node_id 指定的节点。

cluster replicate ：将当前节点设置为 node_id 指定的节点的从节点。

cluster saveconfig ：将节点的配置文件保存到硬盘里面。

槽(slot)

cluster addslots [slot …] ：将一个或多个槽（ slot）指派（ assign）给当前节点。

cluster delslots [slot …] ：移除一个或多个槽对当前节点的指派。

cluster flushslots ：移除指派给当前节点的所有槽，让当前节点变成一个没有指派任何槽的节点。

cluster setslot node ：将槽 slot 指派给 node_id 指定的节点，如果槽已经指派给

另一个节点，那么先让另一个节点删除该槽>，然后再进行指派。

cluster setslot migrating ：将本节点的槽 slot 迁移到 node_id 指定的节点中。

cluster setslot importing ：从 node_id 指定的节点中导入槽 slot 到本节点。

cluster setslot stable ：取消对槽 slot 的导入（ import）或者迁移（ migrate）。

键

cluster keyslot ：计算键 key 应该被放置在哪个槽上。

cluster countkeysinslot ：返回槽 slot 目前包含的键值对数量。

cluster getkeysinslot ：返回 count 个 slot 槽中的键