redis集群搭建以及Yii1.1连接redis集群

傷城~ 2022-06-11 09:59 317阅读 0赞

![微笑][smile.gif]![微笑][smile.gif]![微笑][smile.gif]本来博客搭建在自己的服务器上，不知道多久没有维护和更新后，再一看域名都需要重新备案了。介于本人的“懒惰性”，还是迁过来不浪费资源了。

最近搭建一个业务，号称每秒响应需要1W次请求，然后LZ各种折腾php、mysql和nginx配置。最后放弃mysql使用redis单机版，最后的最后使用redis集群。

1、生产环境

ubuntu16.04

redis-3.0.7

内网机器IP：192.168.140.180和192.168.140.181

机器CPU：4核

2、搭建

LZ在搭建集群前是使用的redis单机版，而单机版的启动直接使用redis.server /etc/redis/redis.conf的，也就是说完全没有理解redis的单核运行原理 【手动滑稽，LZ是个菜】,还是记录一下redis的单线程：

redis是用"单线程-多路复用io模型"来实现高性能的内存数据服务的，这种机制避免了使用锁，但是同时这种机制在进行sunion之类的比较耗时的命令时会使redis的并发下降。因为是单一线程，所以同一时刻只有一个操作在进行，所以，耗时的命令会导致并发的下降，不只是读并发，写并发也会下降。而单一线程也只能用到一个cpu核心。

CPU 是一个重要的影响因素，由于是单线程模型，Redis 更喜欢大缓存快速 CPU， 而不是多核。在多核 CPU 服务器上面，Redis 的性能还依赖 NUMA 配置和 处理器绑定位置。 最明显的影响是 redis-benchmark 会随机使用 CPU 内核。  
然后LZ的业务负载机器上面还跑着redis的实例，最后造成了这种情况：  
![20170804165139386][]  
  
简直不要太开心，8核机器redis用了50%的CPU？？？ WTF？？？当时LZ的内心是崩溃的。所以查找了相当的redis集群资料开始搭建过程。  
  
2.1.1  下载和安装redis源码

cd /data/bao
    wget "http://download.redis.io/releases/redis-3.0.7.tar.gz"
    tar -zxvf redis-3.0.7.tar.gz

、  
  
然后进入到安装目录

cd redis-3.0.7
    make test

ubuntu 下会报错：  
You need tcl 8.5 or newer in order to run the Redis test  
  
然后我们需要一下操作:

wget http://downloads.sourceforge.net/tcl/tcl8.6.1-src.tar.gz
    sudo tar xzvf tcl8.6.1-src.tar.gz  -C /usr/local/
    cd  /usr/local/tcl8.6.1/unix/
    sudo ./configure
    sudo make
    sudo make install

再返回进入到redis目录下

cd /data/bao/redis-3.0.7 && make && make install

OK,搭建了六套相关环境暂时还没有出现过其他问题.现在源码安装好了redis，redis的启动和cli是和系统同样的，也就是

cd /data/bao/redis-3.0.7/src

下有 redis-server 和 redis-cli 文件。./redis-cli 就可以使用连接了。  
  
2.1.2 搭建redis集群  
OK，两台机器做同样的命令:  
用端口为名称建立redis集群的配置，LZ搭建4主4从，所以启用四个端口

mkdir -p /data/redis/7000
    mkdir -p /data/redis/7001
    mkdir -p /data/redis/7002
    mkdir -p /data/redis/7003

将编译好的redis-server移过来，只是为了启动方便

cp /data/bao/redis-3.0.7/src/redis-server /data/redis

编写相对简答的redis.conf文件

vi /data/redis/redis.con

port 7000  #运行端口，和你将要放入的文件夹名称对应
    cluster-enabled yes  
    cluster-config-file nodes.conf  #节点配置信息
    cluster-node-timeout 5000  #超时
    appendonly no   
    daemonize yes  #后台运行

储存后将这个文件复制到各个以端口命名的文件夹内，并将port修改为文件夹名称存储.  
  
完成之后启用redis-cluster，LZ比较懒，写了个脚本启动。

cd /data/redis/7000/ && taskset -c 0 /data/redis/redis-server /data/redis/7000/redis.conf
    cd /data/redis/7001/ && taskset -c 1 /data/redis/redis-server /data/redis/7001/redis.conf
    cd /data/redis/7002/ && taskset -c 2 /data/redis/redis-server /data/redis/7002/redis.conf
    cd /data/redis/7003/ && taskset -c 3 /data/redis/redis-server /data/redis/7003/redis.conf

这里的taskset -c 0 是指定redis运行在某个cpu上，cpu的个数从0开始往上计算，如LZ的机器是4核，所以开了4个端口使用4个CPU来运行cluster。这种方式比较极限，机器上也不敢运行太多其它东西了。  
  
2.1.3 使用ruby管理redis集群  
安装ruby redis插件，听说编写redis的人本身是写ruby的，所以又用ruby编写了一套管理脚本，保证redis的代码清洁，也为后来埋下了坑-。-

apt update
    apt install ruby
    gem install redis

cd /data/bao/redis-3.0.7/src

redis-trib.rb  create  --replicas  1  192.168.140.180:7000 192.168.140.180:7001  192.168.140.180:7002 192.168.140.180:7003  192.168.140.180:7000 192.168.140.181:7000 192.168.140.181:7001 192.168.140.181:7002 192.168.140.181:7003

redis-trib.rb 针对集群的运用：  
1、create：创建集群  
2、check：检查集群  
3、info：查看集群信息  
4、fix：修复集群  
5、reshard：在线迁移slot  
6、rebalance：平衡集群节点slot数量  
7、add-node：将新节点加入集群  
8、del-node：从集群中删除节点  
9、set-timeout：设置集群节点间心跳连接的超时时间  
10、call：在集群全部节点上执行命令  
11、import：将外部redis数据导入集群  
  
create --replicas 第一个参数1 是指每个master节点将有1个子节点  
  
OK，运行完毕不出意外的话全部都是success，有错误的话问问度娘， ubuntu16下LZ暂时没有出现很难解的错误。  
  
3.1.1 链接redis集群并测试  
进入集群池命令：

redis-cli -p 7000 -c

具体set/get的测试就不列举了，蛋疼-。-  但在get的时候或许你会发现下面情况：(error) MOVED 1409 192.168.140.180:7000 ，这个也不是错误，是redis的集群机制。redis的各个master之间是互不干涉的，只是在存储的时候存储池给每个master分配了一些槽和数据。而你在某个节点get命令的时候，redis会先计算这个值存在的哈希，计算出他的存储节点，若不在这台机器上则报上方信息并告知你正确的节点。这样redis就有了两次I/O开销。额，还没到这一层面还是安静的看大神分析吧。  
  
[redis cluster浅析和Bada对比 原文][redis cluster_Bada_]  
  
![20170804180815849][]  
  
最后LZ测试运行后的结果，跑业务的时候最高占用也仅在20%，和之前可怕的单核形成强烈的对比。。。  
  
4.1.1 yii1.1 连接集群

楼主使用的是yiiredis拓展，github地址：[https://github.com/phpnode/YiiRedis  
][https_github.com_phpnode_YiiRedis]

然而，这个拓展没有cluster的链接【微笑】

没办法，山寨的楼主只能用phpredis来写个简单的拓展放里边。。。

<?php
    
    /**
     * Created by PhpStorm.
     * User: land.zhang
     * Date: 2017/8/3
     * Time: 16:55
     */
    class RedisClusterConnection extends CApplicationComponent
    {
        /**
         * The redis client
         * @var RedisCluster
         */
        protected $_client;
    
        /**
         * The redis unix socket location
         * @var unixSocket
         */
        public $unixSocket=null;
    
        /**
         * Redis default prefix
         * @var string
         */
        public $prefix = "Yii.redis.";
    
        /**
         * The redis server password
         * @var password
         */
        public $password=null;
    
        /**
         * The redis socket timeout, defaults to 0 (unlimited)
         * @var timeout
         */
        public $timeout=0;
    
        /**
         * The redis cluster
         * @var array
        */
        public $clusterConfig=[];
    
        /**
         * Sets the redis client to use with this connection
         * @param RedisCluster $client the redis client instance
         */
        public function setClient(RedisCluster $client)
        {
            $this->_client = $client;
        }
    
        /**
         * Gets the redis client
         * @return RedisCluster the redis client
         */
        public function getClient($reconnect = false)
        {
            if ($this->_client === null || $reconnect) {
                if(empty($this->clusterConfig)){
                    throw new CException('Redis Cluster Config Error');
                }
                $clusterList = [];
                foreach ($this->clusterConfig as $item){
                    $clusterList[] = $item['host'] . ':' . $item['port'];
                }
                if(empty($clusterList)){
                    throw new CException('Redis Cluster Config Error');
                }
                $this->_client = new RedisCluster(null,$clusterList);
    //            $this->_client->connect($this->hostname, $this->port, $this->timeout);
                //phpredis not support password yet
    //            if (isset($this->password)) {
    //                if ($this->_client->auth($this->password) === false) {
    //                    throw new CException('Redis authentication failed!');
    //                }
    //            }
    //            $this->_client->setOption(Redis::OPT_PREFIX, $this->prefix);
    //            $this->_client->select($this->database);
            }
            return $this->_client;
        }
    
        /**
         * Returns a property value based on its name.
         * Do not call this method. This is a PHP magic method that we override
         * to allow using the following syntax to read a property
         * <pre>
         * $value=$component->propertyName;
         * </pre>
         * @param string $name the property name
         * @return mixed the property value
         * @throws CException if the property is not defined
         * @see __set
         */
        public function __get($name) {
            $getter='get'.$name;
            if (property_exists($this->getClient(),$name)) {
                return $this->getClient()->{$name};
            }
            elseif(method_exists($this->getClient(),$getter)) {
                return $this->$getter();
            }
            return parent::__get($name);
        }
    
        /**
         * Sets value of a component property.
         * Do not call this method. This is a PHP magic method that we override
         * to allow using the following syntax to set a property
         * <pre>
         * $this->propertyName=$value;
         * </pre>
         * @param string $name the property name
         * @param mixed $value the property value
         * @return mixed
         * @throws CException if the property is not defined or the property is read only.
         * @see __get
         */
        public function __set($name,$value)
        {
            $setter='set'.$name;
            if (property_exists($this->getClient(),$name)) {
                return $this->getClient()->{$name} = $value;
            }
            elseif(method_exists($this->getClient(),$setter)) {
                return $this->getClient()->{$setter}($value);
            }
            return parent::__set($name,$value);
        }
    
        /**
         * Checks if a property value is null.
         * Do not call this method. This is a PHP magic method that we override
         * to allow using isset() to detect if a component property is set or not.
         * @param string $name the property name
         * @return boolean
         */
        public function __isset($name)
        {
            $getter='get'.$name;
            if (property_exists($this->getClient(),$name)) {
                return true;
            }
            elseif (method_exists($this->getClient(),$getter)) {
                return true;
            }
            return parent::__isset($name);
        }
    
        /**
         * Sets a component property to be null.
         * Do not call this method. This is a PHP magic method that we override
         * to allow using unset() to set a component property to be null.
         * @param string $name the property name or the event name
         * @throws CException if the property is read only.
         * @return mixed
         */
        public function __unset($name)
        {
            $setter='set'.$name;
            if (property_exists($this->getClient(),$name)) {
                $this->getClient()->{$name} = null;
            }
            elseif(method_exists($this,$setter)) {
                $this->$setter(null);
            }
            else {
                parent::__unset($name);
            }
        }
        /**
         * Calls a method on the redis client with the given name.
         * Do not call this method. This is a PHP magic method that we override to
         * allow a facade in front of the redis object.
         * @param string $name the name of the method to call
         * @param array $parameters the parameters to pass to the method
         * @return mixed the response from the redis client
         */
        public function __call($name, $parameters) {
            return call_user_func_array(array($this->getClient(),$name),$parameters);
        }
    }

然后在配置里边加上如下代码

'clusterConfig' => [
                        [
                            'host' => '192.168.140.180',
                            'port' => 7000,
                        ],
                        [
                            'host' => '192.168.140.180',
                            'port' => 7001,
                        ],
                        [
                            'host' => '192.168.140.181',
                            'port' => 7000,
                        ],
                        [
                            'host' => '192.168.140.181',
                            'port' => 7001,
                        ],
                    ],

嗯，然后你就能在代码里边欢快的set和get： Yii:app->clusterConfig->get() 。

由于是基于phpredis拓展的，所以需要在ubuntu上为php装上拓展别忘了亲。。。拓展的安装在楼主的另外一篇文章 [ 搭建nginx+php+mysql脚本][_nginx_php_mysql]。

[smile.gif]: /images/20220611/4d1215c9d8c647e492c6a6ac3381c5ca.png
[20170804165139386]: /images/20220611/7f7482b45862447c9e052da487d40025.png
[redis cluster_Bada_]: http://chuansong.me/n/1271889
[20170804180815849]: /images/20220611/d6e8cca33e094f3abb0d4d23894f6523.png
[https_github.com_phpnode_YiiRedis]: https://github.com/phpnode/YiiRedis
[_nginx_php_mysql]: http://blog.csdn.net/weixin_39678127/article/details/76695546