美团点评数据库中间件DBProxy开源

不念不忘少年蓝@ 2023-10-17 19:39 32阅读 0赞

## 介绍 ##

随着数据量的不断增大，传统的直连数据库对数据进行访问的方式已经无法满足一般公司的需求。通过数据库中间件，可以对数据库进行水平扩展，由原来单台数据库扩展到多台数据库，数据库中间件通过路由规则将数据的访问请求路由到其中一台数据库上，从而大大降低了数据访问的瓶颈和单台数据库的压力。通过数据库中间件还可以将DBA和研发进行解耦，提升DBA运维效率。

奇虎360公司开源的Atlas是优秀的数据库中间件，美团点评DBA团队针对公司内部需求，在其上做了很多改进工作，形成了新的高可靠、高可用企业级数据库中间件DBProxy，已在公司内部生产环境广泛使用，较为成熟、稳定。相关工作的详细介绍可以参考之前的博客文章[《美团点评的DBProxy实践》][DBProxy]。

现在，我们非常高兴地将DBProxy开源，希望与业内有类似需求的团队，一起打造一款优秀的企业级数据库中间件产品。项目的Github地址是[https://github.com/Meituan-Dianping/DBProxy][https_github.com_Meituan-Dianping_DBProxy]。

## DBProxy的优点 ##

1.  支持多语言MySQL客户端
2.  读写分离
3.  负载均衡
4.  Slave故障感知与摘除（Master需要MHA等其他联动）
5.  后端连接池
6.  自定义SQL拦截与过滤
7.  流量分组与控制
8.  丰富的监控状态
9.  支持分表（分库版本正在内测中）
10. Client IP限制

## DBProxy对Atlas的改进 ##

*  新增功能点
    
     *  从库流量配置  
        指定查询发送到某个从库
     *  参数动态设置(完善show proxy status/variables)  
        支持save config，动态增加、删除分表
     *  响应时间percentile统计  
        统计最近时间段DBProxy的响应时间
     *  kill session  
        支持DBProxy的admin接口kill session操作
     *  backend平滑上下线  
        支持平滑的backend上下线
     *  DBProxy非root用户启动  
        使用非root用户启动
     *  admin账号的安全限制  
        admin账号密码的动态修改及host限制
     *  增加异步刷日志的功能  
        增加日志线程、异步刷日志，提高响应时间
     *  支持DBProxy平滑重启功能
        
        1.  normal：等待所有当前事务结束后退出  
            ① KILL -SIGTERM \`pid of mysql-proxy\`; ② admin 命令: shutdown \[normal\]，其中等待过程有超时机制
        2.  immediate：不等待当前事务结束直接退出  
            ① KILL -SIGINT \`pid of mysql-proxy\`; ② admin 命令: shutdown immediate
        3.  配置参数shutdown\_timeout: 在normal方式下，等待shutdown\_timeout时间后退出，单位是s, 默认值是600
     *  支持SQL过滤的黑名单功能
        
         *  添加到黑名单中需要满足两个条件：SQL执行的时间和频率
            
             *  SQL执行的时间  
                由参数 query-filter-time-threshold 来指定，如果SQL执行时间超过此值，则满足条件
             *  SQL执行频率  
                由参数 query-filter-frequent-threshold 来指定，如果SQL执行频率超过此值，则满足条件  
                频率就是在时间窗口内执行的次数。时间窗口则是由频率阈值和最小执行次数来计算出来的，当时间窗口小于60s时，扩展到60s  
                参数 access-num-per-time-window 用来指定在时间窗口内的最小执行次数，添加此参数是考虑到执行时间长的SQL在计算频率时同时参考其执行的次数，只有执行一定次数时才去计算其频率。当执行时间与执行频率都满足时条件时，会自动将查询作为过滤项放到黑名单中，加入到黑名单中是否生效由参数 auto-filter-flag 来控制，OFF:不生效，ON:立即生效
             *  黑名单的管理
                
                 *  提供了查看、修改、添加、删除黑名单的功能
                 *  黑名单管理提供了将黑名单保存到文件以及从文件中Load到内存中的功能
                 *  在手动添加黑名单时，只需要将用户的SQL语句输入，在内部自动转化成过滤条件，手动添加时是否生效由参数 manual-filter-flag 来控制，OFF:不生效，ON:立即生效
                 *  手动添加与自动添加两种情况下的过滤条件是否生效是分别由不同参数控制，这个要区分清楚。另外，也可以使用 admin 的命令来设置是否开启/关闭某个过滤条件
     *  支持对于MySQL后台的thread running限制功能  
        该功能通过在DBProxy内限制每个后台MySQL的并发查询，来控制对应MySQL的thread running数  
        当发向某个MySQL后台的的并发查询超过某个阈值时，会进行超时等待，直到有可用的连接，其中阈值与超时等待的时间都已经参数化，可以动态配置
        
         *  新增参数
            
             *  backend-max-thread-running用于指定每个MySQL后台的最大thread running数
             *  thread-running-sleep-delay用于指定在thread running数超过backend-max-thread-running时，客户端连接等待的时间
     *  set backend offline不再显示节点状态
     *  支持set transaction isolation level
     *  支持use db
     *  支持set option语句
     *  支持set session级系统变量
     *  支持建立连接时指定连接属性
     *  改进连接池的连接管理，增加超时释放机制。当连接池中的空闲连接闲置超过一定时间后，自动释放连接。由参数 db-connection-idle-timeout 控制
     *  增加客户端连接的keepalive机制，避免网络异常后释放已断开的连接
     *  完善管理日志，增加了管理命令日志、错误语句日志以及详细的错误日志
     *  完善SQL日志信息，包含了详细的连接信息，并包含了DBProxy内部执行的隐式SQL语句。隐式SQL语句主要是连接重用时切换database、字符集的语句
     *  增加SQL日志rotate机制，可设置日志文件最大大小和日志文件最大个数，自动清理早期的SQL日志。分别由参数sql-log-file-size和sql-log-file-num控制
     *  增加后台MySQL版本号设置，主要影响MySQL连接协议中的server版本，客户端驱动可能依赖于server版本处理机制有所不同。由参数mysql-version控制
     *  性能改进，将SQL词法分析从串行方式改进为并发方式；其次，在每次执行SQL前如果database相同时，不再需要执行COM\_INIT\_DB命令。根据测试结果，在特定环境下sysbench的QPS从7万提升至22万
     *  增加监控统计信息，包括连接状态、QPS、响应时间、网络等统计
     *  sql log动态配置
     *  改进autocommit为false时频繁连接主库的问题
 *  Bugs修复
    
     *  DBProxy建立连向MySQL连接时，新建的socket添加keepalive和非阻塞的属性
     *  rpm安装时，创建conf目录并创建默认的配置文件的功能
     *  rpm安装时，需要手动修改mysql-proxyd文件中的proxy-dir, 现在直接在rpm安装后就修改好
     *  解决了绑定后端连接断开时，客户端连接未及时断开的问题
     *  屏蔽了KILL语句，避免在后端MySQL可能误KILL的问题
     *  修改了事务内语句执行错误时，DBProxy未保留后台连接导致rollback发送到其它结点的问题
     *  修复分表查询结果合并时列字符集错误的问题，该问题可能会导致结果乱码
     *  解决在分表情况下，返回值有 NULL 的情况下，查询超时的问题  
        此问题是DBProxy在多个分表merge结果的过程中未处理 NULL 值，导致结果集返回不对，而JDBC接口会认为此种情况下是未收到结果，会处于一直等待状态，触发超时
     *  解决在分表情况下， IN 子句中分表列只支持 int32，不支持int64 的问题
     *  解决连接断开的内存泄露问题  
        在连接的结构体的释放接口中，lock 的成员变量未释放，导致在连接断开，回收连接对象时会泄漏24个字节
     *  取消admin操作中不必要的日志
     *  去掉了在连接 admin 时报"\[admin\] we only handle text-based queries (COM\_QUERY)"的信息，此信息属于无用的信息
     *  去掉了在set backend offline/online时的返回值信息，此信息是无用信息
     *  解决用户权限不足、DBProxy用户名密码配置错误等导致使用错误用户的问题
     *  解决SQL\_CALC\_FOUND\_ROWS之后SQL语句发往主库的问题
     *  解决SQL语句中有注释时语句分析不正确的问题
     *  解决客户端发送空串导致DBProxy挂掉的问题

新功能和Bug修复描述，详见[release notes][]。

## 愿景 ##

和各位同行共同打造一款企业级高可用、高可靠的数据库中间件产品，希望大家能够积极参与。

欢迎大家将需求或发现的Bug在Github上提交[issue][]，帮助DBProxy的壮大；也欢迎大家在DBProxy用户交流群（QQ: 367199679）相互交流，共同学习。

![QQ][]

[DBProxy的github地址][https_github.com_Meituan-Dianping_DBProxy]

## DBProxy手册 ##

1.  [DBProxy快速入门教程][DBProxy 1]
2.  [DBProxy用户使用手册][DBProxy 2]
3.  [DBProxy开发手册][DBProxy 3]
4.  [DBProxy架构和实践][DBProxy 4]
5.  [DBProxy release notes][release notes]
6.  [DBProxy 测试手册][DBProxy 5]
7.  [FAQ][]
8.  [DBProxy开发规范][DBProxy 6]

**发现文章有错误、对内容有疑问，都可以关注美团点评技术团队微信公众号（meituantech），在后台给我们留言。我们每周会挑选出一位热心小伙伴，送上一份精美的小礼品。快来扫码关注我们吧！**

![公众号二维码][1521521024099-image.png]

[DBProxy]: http://tech.meituan.com/dbproxy-introduction.html
[https_github.com_Meituan-Dianping_DBProxy]: https://github.com/Meituan-Dianping/DBProxy
[release notes]: https://github.com/Meituan-Dianping/DBProxy/blob/master/doc/RELEASE_NOTES.md
[issue]: https://github.com/Meituan-Dianping/DBProxy/issues
[QQ]: https://tech.meituan.com/img/dbproxy-intro/qr.png
[DBProxy 1]: https://github.com/Meituan-Dianping/DBProxy/blob/master/doc/QUICK_START.md
[DBProxy 2]: https://github.com/Meituan-Dianping/DBProxy/blob/master/doc/USER_GUIDE.md
[DBProxy 3]: https://github.com/Meituan-Dianping/DBProxy/blob/master/doc/PROGRAMMING_GUIDE.md
[DBProxy 4]: https://github.com/Meituan-Dianping/DBProxy/blob/master/doc/THEORY_PRACTICES.md
[DBProxy 5]: https://github.com/Meituan-Dianping/DBProxy/blob/master/doc/TEST_GUIDE.md
[FAQ]: https://github.com/Meituan-Dianping/DBProxy/blob/master/doc/FAQ.md
[DBProxy 6]: https://github.com/Meituan-Dianping/DBProxy/blob/master/doc/DEVELOPMENT_NORM.md
[1521521024099-image.png]: https://tech.meituan.com//img/1521521024099-image.png