Mycat读写分离、主从切换、分库分表的操作记录

约定不等于承诺〃 2023-06-08 04:57 11阅读 0赞

系统开发中，数据库是非常重要的一个点。除了程序的本身的优化，如：SQL语句优化、代码优化，数据库的处理本身优化也是非常重要的。  
主从、热备、分表分库等都是系统发展迟早会遇到的技术问题问题。Mycat是一个广受好评的数据库中间件，已经在很多产品上进行使用了。下面就针对Mycat的基础知识和应用做一总结性梳理，这些内容有的是从网上收集的，有的是自己做的测试验证信息，如有错误，烦请谅解和指出！

## 一、MyCat简单介绍 ##

MyCat是一个开源的分布式数据库系统，是一个实现了MySQL协议的服务器，前端用户可以把它看作是一个数据库代理（**类似于Mysql Proxy**），用MySQL客户端工具和命令行访问，而其后端可以用MySQL原生协议与多个MySQL服务器通信，也可以用JDBC协议与大多数主流数据库服务器通信，其核心功能是分表分库，即将一个大表水平分割为N个小表，存储在后端MySQL服务器里或者其他数据库里。

MyCat发展到目前的版本，已经不是一个单纯的MySQL代理了，它的后端可以支持MySQL、SQL Server、Oracle、DB2、PostgreSQL等主流数据库，也支持MongoDB这种新型NoSQL方式的存储，未来还会支持更多类型的存储。而在最终用户看来，无论是那种存储方式，在MyCat里，都是一个传统的数据库表，支持标准的SQL语句进行数据的操作，这样一来，对前端业务系统来说，可以大幅降低开发难度，提升开发速度。

Mycat可以简单概括为

*  一个彻底开源的，面向企业应用开发的大数据库集群
 *  支持事务、ACID、可以替代MySQL的加强版数据库
 *  一个可以视为MySQL集群的企业级数据库，用来替代昂贵的Oracle集群
 *  一个融合内存缓存技术、NoSQL技术、HDFS大数据的新型SQL Server
 *  结合传统数据库和新型分布式数据仓库的新一代企业级数据库产品
 *  一个新颖的数据库中间件产品

Mycat关键特性

*  支持SQL92标准
 *  遵守Mysql原生协议，跨语言，跨平台，跨数据库的通用中间件代理
 *  基于心跳的自动故障切换，支持读写分离，支持MySQL主从，以及galera cluster集群
 *  支持Galera for MySQL集群，Percona Cluster或者MariaDB cluster
 *  基于Nio实现，有效管理线程，高并发问题
 *  支持数据的多片自动路由与聚合，支持sum,count,max等常用的聚合函数,支持跨库分页
 *  支持单库内部任意join，支持跨库2表join，甚至基于caltlet的多表join
 *  支持通过全局表，ER关系的分片策略，实现了高效的多表join查询
 *  支持多租户方案
 *  支持分布式事务（弱xa）
 *  支持全局序列号，解决分布式下的主键生成问题
 *  分片规则丰富，插件化开发，易于扩展
 *  强大的web，命令行监控
 *  支持前端作为mysq通用代理，后端JDBC方式支持Oracle、DB2、SQL Server 、 mongodb 、巨杉
 *  支持密码加密
 *  支持服务降级
 *  支持IP白名单
 *  支持SQL黑名单、sql注入攻击拦截
 *  支持分表（1.6）
 *  集群基于ZooKeeper管理，在线升级，扩容，智能优化，大数据处理（2.0开发版）

## 二、为什么要用MyCat ##

这里要先搞清楚Mycat和MySQL的区别（Mycat的核心作用）。我们可以把上层看作是对下层的抽象，例如操作系统是对各类计算机硬件的抽象。那么我们什么时候需要抽象？假如只有一种硬件的时候，我们需要开发一个操作系统吗？再比如一个项目只需要一个人完成的时候不需要leader，但是当需要几十人完成时，就应该有一个管理者，发挥沟通协调等作用，而这个管理者对于他的上层来说就是对项目组的抽象。

同样的，当我们的应用只需要一台数据库服务器的时候我们并不需要Mycat，而如果你需要分库甚至分表，这时候应用要面对很多个数据库的时候，这个时候就需要对数据库层做一个抽象，来管理这些数据库，而最上面的应用只需要面对一个数据库层的抽象或者说数据库中间件就好了，这就是Mycat的核心作用。**所以可以这样理解：数据库是对底层存储文件的抽象，而Mycat是对数据库的抽象。**

## 三、Mycat工作原理 ##

Mycat的原理并不复杂，复杂的是代码。Mycat的原理中最重要的一个动词是“拦截”，它拦截了用户发送过来的SQL语句，首先对SQL语句做了一些特定的分析：如分  
片分析、路由分析、读写分离分析、缓存分析等，然后将此SQL发往后端的真实数据库，并将返回的结果做适当的处理，最终再返回给用户。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70]  
上述图片里，orders表被分为三个分片datanode（简称dn)，这三个分片是分布在两台MySQL Server上(DataHost)，即datanode=database@datahost方式，因此你可以用一台到N台服务器来分片，分片规则为（sharding rule)典型的字符串枚举分片规则，一个规则的定义是分片字段（sharding column)+分片函数(rule function)，这里的分片字段为prov而**分片函数为字符串枚举方式**。

当Mycat收到一个SQL时，会先解析这个SQL，查找涉及到的表，然后看此表的定义，如果有分片规则，则获取到SQL里分片字段的值，并匹配分片函数，得到该SQL对应的分片列表，然后将SQL发往这些分片去执行，最后收集和处理所有分片返回的结果数据，并输出到客户端。以select \* from Orders where prov=?语句为例，查到prov=wuhan，按照分片函数，wuhan返回dn1，于是SQL就发给了MySQL1，去取DB1上的查询结果，并返回给用户。

如果上述SQL改为select \* from Orders where prov in (‘wuhan’,‘beijing’)，那么，SQL就会发给MySQL1与MySQL2去执行，然后结果集合并后输出给用户。但通常业务中我们的SQL会有Order By 以及Limit翻页语法，此时就涉及到结果集在Mycat端的二次处理，这部分的代码也比较复杂，而最复杂的则属两个表的Jion问题，为此，Mycat提出了创新性的ER分片、全局表、HBT（Human Brain Tech)人工智能的Catlet、以及结合Storm/Spark引擎等十八般武艺的解决办法，从而成为目前业界最强大的方案，这就是开源的力量！

## 四、Mycat应用场景 ##

Mycat发展到现在，适用的场景已经很丰富，而且不断有新用户给出新的创新性的方案，以下是几个典型的应用场景：

*  单纯的读写分离，此时配置最为简单，支持读写分离，主从切换；
 *  分表分库，对于超过1000万的表进行分片，最大支持1000亿的单表分片；
 *  多租户应用，每个应用一个库，但应用程序只连接Mycat，从而不改造程序本身，实现多租户化；
 *  报表系统，借助于Mycat的分表能力，处理大规模报表的统计；
 *  替代Hbase，分析大数据；
 *  作为海量数据实时查询的一种简单有效方案，比如100亿条频繁查询的记录需要在3秒内查询出来结果，除了基于主键的查询，还可能存在范围查询或其他属性查询，此时Mycat可能是最简单有效的选择；
 *  Mycat长期路线图；
 *  强化分布式数据库中间件的方面的功能，使之具备丰富的插件、强大的数据库智能优化功能、全面的系统监控能力、以及方便的数据运维工具，实现在线数据扩容、迁移等高级功能；
 *  进一步挺进大数据计算领域，深度结合Spark Stream和Storm等分布式实时流引擎，能够完成快速的巨表关联、排序、分组聚合等 OLAP方向的能力，并集成一些热门常用的实时分析算法，让工程师以及DBA们更容易用Mycat实现一些高级数据分析处理功能。
 *  不断强化Mycat开源社区的技术水平，吸引更多的IT技术专家，使得Mycat社区成为中国的Apache，并将Mycat推到Apache基金会，成为国内顶尖开源项目，最终能够让一部分志愿者成为专职的Mycat开发者，荣耀跟实力一起提升。

## 五、Mycat不适合的应用场景 ##

*  设计使用Mycat时有非分片字段查询，请慎重使用Mycat，可以考虑放弃！
 *  设计使用Mycat时有分页排序，请慎重使用Mycat，可以考虑放弃！
 *  设计使用Mycat时如果要进行表JOIN操作，要确保两个表的关联字段具有相同的数据分布，否则请慎重使用Mycat，可以考虑放弃！
 *  设计使用Mycat时如果有分布式事务，得先看是否得保证事务得强一致性（**解释：至于强一致性的定义，可以去看之前讲的[CAP理论和BASE理论][CAP_BASE]，所谓强一致性是说当各个节点之间的数据没有同步完毕的， 不对外提供服务，因为在数据同步的过程中，有些节点同步成功了，有些没成功或还没同步完毕，要确保都成功了 再对外提供服务）**，否则请慎重使用Mycat，可以考虑放弃！

需要注意: **在生产环境中, Mycat节点最好使用双节点, 即双机热备环境, 防止Mycat这一层出现单点故障**. 可以使用的高可用集群方式有: `Keepalived+Mycat+Mysql, Keepalived+LVS+Mycat+Mysql, Keepalived+Haproxy+Mycat+Mysql`

## 六、利用MyCAT实现MySQL的读写分离、主从切换、分库分表的操作记录 ##

Mycat实现Mysql主从复制，其中写操作在master主节点上执行，包括insert，delete，update 语句操作；读操作在slave节点上执行，只有select语句操作，其他操作均由主master的二进制文件决定；**MyCat支持双主多从，多主多从情况需要配置多个writeHost兄弟节点，多个readHost节点即可！**

Mycat的架构其实很好理解，Mycat是数据库代理中间件，Mycat后面就是物理数据库。和Web服务器的Nginx类似。对于使用者来说，访问的都是Mycat，不会接触到后端的数据库。如下案例是做一个主从、读写分离，简单分库分表的示例。结构如下图：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70 1]  
服务器信息如下（实验环境，关闭机器的iptables防火墙和selinux）：

mycat的配置，以及实例如下，参考链接如下  
[https://www.cnblogs.com/kevingrace/p/9365840.html][https_www.cnblogs.com_kevingrace_p_9365840.html]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70]: /images/20230531/471b3ed210444e569883518bcf460176.png
[CAP_BASE]: https://blog.csdn.net/qq_40241957/article/details/84795981
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70 1]: /images/20230531/d1774036eb634ac59e42f11360103824.png
[https_www.cnblogs.com_kevingrace_p_9365840.html]: https://www.cnblogs.com/kevingrace/p/9365840.html