Springboot MyBatis实现多数据源切换和主从复制(读写分离)

简介

本文主要通过文字和代码的方式讲解Springboot MyBatis如何实现多数据源切换和主从复制(读写分离),这里是通过从数据库数据源配置表中配置获取动态数据源配置信息,并实现数据源生成,切换,主从复制操作的。

技术实现主要原理是:AbstractRoutingDataSource+ThreadLocal+AOP的方式实现的。

AbstractRoutingDataSource:

AbstractRoutingDataSource是Spring JDBC提供的一个数据源路由类,用于根据不同的数据源选择对应的目标数据源。

在一些复杂场景中,我们需要连接多个数据库,而这些数据库都有各自的数据源配置。而且还需要在运行时动态地根据某些条件选择具体的数据源,比如根据请求参数、用户权限等动态决定应该连接哪个数据库。

这时候就可以使用AbstractRoutingDataSource类来管理这些数据源,它提供了一种机制,可以根据某些条件选择合适的数据源,从而实现动态数据源的配置和管理。

具体来说,我们可以继承AbstractRoutingDataSource类,重写determineCurrentLookupKey方法,该方法根据当前请求或用户权限等信息动态地返回目标数据源路由的key,然后就可以根据这个key来选择对应的数据源进行连接操作。

ThreadLocal:

ThreadLocal是Java中一个非常实用的类,用于解决多线程情况下共享变量产生的问题。它的作用是提供线程内的局部变量,在多线程环境下每个线程互不影响,可以在任何需要的地方随时取出,而不需要额外的同步操作。其主要功能是为每个线程提供了一个独立的变量副本,每个线程都可以随意修改自己的变量副本,而不会影响到其他线程的变量副本。

ThreadLocal主要应用于多线程之间的信息隔离,例如:

  1. 在多线程环境中,每个线程都有自己的数据域,例如线程池中,每个线程处理任务时需要有自己的数据域,ThreadLocal就非常适用于这种情况。
  2. 线程处理任务时需要使用一些共享变量,但是这些变量是不可变的,使用ThreadLocal可以避免多线程中的竞争条件,提高程序的性能。

总而言之,ThreadLocal是Java中提供的一种线程内部的数据共享方式,它是一种线程安全的方式,在多线程环境下,使用ThreadLocal可以有效地保护共享数据的独立性。

AOP:

Java AOP(Aspect-Oriented Programming,面向切面编程)是一种编程范式,它强调横向抽取逻辑单元(cross-cutting concerns)。常见的 cross-cutting concerns 包括日志、事务、安全、缓存等。在传统的 OOP(Object-Oriented Programming,面向对象编程)中,这些逻辑单元常常散落在各个类和方法中,使得代码变得复杂难懂,难以维护。

Java AOP 提供了一种解决方案,它允许开发者将 cross-cutting concerns 抽象为一些切面(aspect),并将这些切面应用到代码中的特定点上,如方法调用、对象创建、属性访问等。通过使用 Java AOP,开发者可以将关注点分离出来,使得代码更加清晰和模块化。

Java AOP 的实现方式有很多种,包括基于动态代理的 JDK AOP,基于字节码增强的 AspectJ,基于注解的 Spring AOP 等。这些框架和工具都提供了方便易用的API,使得开发者可以方便地实现 AOP。

代码

首先现在maven项目中引入mybatis的依赖,并配置好相关配置!!!

声明一个动态数据源的配置类,代码如下:

  1. import org.springframework.beans.factory.annotation.Value;
  2. import org.springframework.boot.jdbc.DataSourceBuilder;
  3. import org.springframework.context.annotation.Bean;
  4. import org.springframework.context.annotation.Configuration;
  5. import org.springframework.context.annotation.Primary;
  6. import javax.sql.DataSource;
  7. /**
  8. * file:DynamicDataSourceConfig
  9. *
  10. * @author tarzan
  11. */
  12. @Configuration
  13. public class DynamicDataSourceConfig {
  14. @Value("${spring.datasource.url}")
  15. private String defaultUrl;
  16. @Value("${spring.datasource.driverClassName:org.postgresql.Driver}")
  17. private String driverClassName;
  18. @Value("${spring.datasource.username}")
  19. private String defaultUsername;
  20. @Value("${spring.datasource.password}")
  21. private String defaultPassword;
  22. @Primary
  23. @Bean
  24. public DynamicRoutingDataSource dynamicDataSource() {
  25. DataSource defaultDataSource=DataSourceBuilder.create().url(defaultUrl).driverClassName(driverClassName).username(defaultUsername).password(defaultPassword).build();
  26. return new DynamicRoutingDataSource(defaultDataSource);
  27. }
  28. }

这里读取spring数据库的默认配置:

  1. spring:
  2. datasource:
  3. url: jdbc:postgresql://${POSTGRES_HOST:119.167.159.211}:${POSTGRES_PORT:5432}/${POSTGRES_DATABASE:dzbz2_lgyz}
  4. username: ${POSTGRES_USERNAME:postgres}
  5. password: ${POSTGRES_PASSWORD:#5Rd!TC2CBA}

创建一个动态路由数据源类,代码如下:

  1. import org.springframework.boot.jdbc.DataSourceBuilder;
  2. import org.springframework.jdbc.datasource.lookup.AbstractRoutingDataSource;
  3. import javax.sql.DataSource;
  4. import java.util.HashMap;
  5. import java.util.Map;
  6. import java.util.concurrent.ConcurrentHashMap;
  7. import static org.springblade.dynamic.data.source.config.DataSourceContextHolder.DEFAULT_DATA_SOURCE;
  8. /**
  9. * @author tarzan
  10. */
  11. public class DynamicRoutingDataSource extends AbstractRoutingDataSource {
  12. public final ConcurrentHashMap<String,DataSource> dataSourcesMap = new ConcurrentHashMap<>();
  13. public DynamicRoutingDataSource(DataSource defaultDataSource) {
  14. super.setDefaultTargetDataSource(defaultDataSource);
  15. Map<Object, Object> targetDataSources=new HashMap<>(1);
  16. targetDataSources.put(DEFAULT_DATA_SOURCE,defaultDataSource);
  17. super.setTargetDataSources(targetDataSources);
  18. super.afterPropertiesSet();
  19. this.dataSourcesMap.put(DEFAULT_DATA_SOURCE, defaultDataSource);
  20. }
  21. @Override
  22. protected Object determineCurrentLookupKey() {
  23. return DataSourceContextHolder.getDataSource();
  24. }
  25. public void addDataSource(DataSourceInfo dataSourceInfo,boolean join) {
  26. DataSource dataSource = createDataSource(dataSourceInfo);
  27. Map<Object, Object> targetDataSources=new HashMap<>(1);
  28. if(join){
  29. targetDataSources.put(DEFAULT_DATA_SOURCE,dataSourcesMap.get(DEFAULT_DATA_SOURCE));
  30. }
  31. targetDataSources.put(dataSourceInfo.getName(),dataSource);
  32. super.setTargetDataSources(targetDataSources);
  33. super.afterPropertiesSet();
  34. dataSourcesMap.put(dataSourceInfo.getName(),dataSource);
  35. }
  36. public DataSource createDataSource(DataSourceInfo dataSourceInfo) {
  37. if(dataSourcesMap.containsKey(dataSourceInfo.getName())){
  38. return dataSourcesMap.get(dataSourceInfo.getName());
  39. }
  40. return DataSourceBuilder.create().url(dataSourceInfo.getUrl()).driverClassName(dataSourceInfo.getDriverClassName()).username(dataSourceInfo.getUserName()).password(dataSourceInfo.getPassword()).build();
  41. }
  42. }

DataSourceInfo 数据库信息类,代码如下:

  1. import lombok.AllArgsConstructor;
  2. import lombok.Data;
  3. @Data
  4. @AllArgsConstructor
  5. public class DataSourceInfo {
  6. private String name;
  7. private String driverClassName;
  8. private String url;
  9. private String userName;
  10. private String password;
  11. }

创建一个数据源工具类DataSourceContextHolder,用数据源线程的切换,代码如下:

  1. public class DataSourceContextHolder {
  2. public static final String DEFAULT_DATA_SOURCE = "defaultDataSource";
  3. /**
  4. * 线程级别的私有变量
  5. */
  6. private static final ThreadLocal<String> CURRENT_DATASOURCE_NAME = new ThreadLocal<>();
  7. public static String getDataSource() {
  8. return CURRENT_DATASOURCE_NAME.get();
  9. }
  10. /**
  11. * 设置数据源
  12. */
  13. public static void setDataSource(String datasourceId) {
  14. CURRENT_DATASOURCE_NAME.set(datasourceId);
  15. }
  16. /**
  17. * 删除数据源
  18. */
  19. public static void removeDataSource() {
  20. CURRENT_DATASOURCE_NAME.remove();
  21. }
  22. /**
  23. * 切换默认数据源
  24. */
  25. public static void switchDefaultDataSource() {
  26. CURRENT_DATASOURCE_NAME.set(DEFAULT_DATA_SOURCE);
  27. }
  28. }

数据库数据源管理服务类,用于从数据库数据源配置表中读取相关数据源的配置信息,生成数据源,进行数据源切换,主从复制等操作。

  1. import org.springblade.core.tool.utils.Func;
  2. import org.springblade.dynamic.data.source.database.entity.Dbs;
  3. import org.springblade.dynamic.data.source.database.service.IDbsService;
  4. import org.springframework.stereotype.Service;
  5. import javax.annotation.Resource;
  6. import java.text.MessageFormat;
  7. import java.util.Objects;
  8. /**
  9. * @author tarzan
  10. * @since JDK1.8
  11. */
  12. @Service
  13. public class DataSourceService {
  14. @Resource
  15. private IDbsService dbsService;
  16. @Resource
  17. private DynamicRoutingDataSource dynamicRoutingDataSource;
  18. public void switchDataSource(Long dbsId) {
  19. if (dbsId != null && dbsId != 0) {
  20. DataSourceContextHolder.switchDefaultDataSource();
  21. Dbs dbs = dbsService.getById(Func.toLong(dbsId));
  22. switchDataSource(dbs);
  23. }
  24. }
  25. public void switchDataSource(Dbs dbs) {
  26. if (Func.isNull(dbs)) {
  27. throw new RuntimeException("未找到dbsId对应的数据库");
  28. }
  29. //创建数据源
  30. String url = MessageFormat.format("jdbc:postgresql://{0}:{1}/{2}", dbs.getIp(), dbs.getPort(), dbs.getDatabasename());
  31. DataSourceInfo dataSourceInfo = new DataSourceInfo(String.valueOf(dbs.getId()), "org.postgresql.Driver", url, dbs.getUsername(), dbs.getPassword());
  32. //加入多数据源列表
  33. dynamicRoutingDataSource.addDataSource(dataSourceInfo,false);
  34. DataSourceContextHolder.setDataSource(dataSourceInfo.getName());
  35. }
  36. public void addTargetDataSource(Dbs dbs) {
  37. if (Func.isNull(dbs)) {
  38. throw new RuntimeException("未找到dbsId对应的数据库");
  39. }
  40. //创建数据源
  41. String url = MessageFormat.format("jdbc:postgresql://{0}:{1}/{2}", dbs.getIp(), dbs.getPort(), dbs.getDatabasename());
  42. DataSourceInfo dataSourceInfo = new DataSourceInfo("ms_"+ dbs.getId(), "org.postgresql.Driver", url, dbs.getUsername(), dbs.getPassword());
  43. dynamicRoutingDataSource.addDataSource(dataSourceInfo,true);
  44. DataSourceContextHolder.setDataSource(dataSourceInfo.getName());
  45. }
  46. public void switchDataSource(String code) {
  47. if (Func.isNotBlank(code)) {
  48. DataSourceContextHolder.switchDefaultDataSource();
  49. Dbs dbs = getDbs(code);
  50. if (Objects.nonNull(dbs)) {
  51. switchDataSource(dbs);
  52. }else {
  53. throw new RuntimeException("未找到dbsCode对应的数据库");
  54. }
  55. }
  56. }
  57. public void addTargetDataSource(String code) {
  58. if (Func.isNotBlank(code)) {
  59. DataSourceContextHolder.switchDefaultDataSource();
  60. Dbs dbs = getDbs(code);
  61. if (Objects.nonNull(dbs)) {
  62. addTargetDataSource(dbs);
  63. }else {
  64. throw new RuntimeException("未找到dbsCode对应的数据库");
  65. }
  66. }
  67. }
  68. private Dbs getDbs(String code) {
  69. if (Func.isNotBlank(code)) {
  70. return dbsService.lambdaQuery().eq(Dbs::getIsDeleted, 0).eq(Dbs::getCode, code).last("limit 1").one();
  71. }else {
  72. return null;
  73. }
  74. }
  75. public synchronized void switchDefaultDataSource() {
  76. DataSourceContextHolder.switchDefaultDataSource();
  77. }
  78. }

注: 该类中用的IDbsService 类 是数据库 数据源配置表的服务接口类,相关代码,由于文章长度限制,且实现比较简单,这里直接省略了。这里附加上Dbs类的数据库实体代码,方便大家设计及数据库表。

Dbs数据源配置表实体类,代码如下:

  1. package org.springblade.dynamic.data.source.database.entity;
  2. import com.baomidou.mybatisplus.annotation.TableName;
  3. import io.swagger.annotations.ApiModel;
  4. import io.swagger.annotations.ApiModelProperty;
  5. import lombok.Data;
  6. import lombok.EqualsAndHashCode;
  7. import org.springblade.core.mp.base.BaseEntity;
  8. @Data
  9. @TableName("gis_standard_dbs")
  10. @EqualsAndHashCode(callSuper = true)
  11. @ApiModel(value = "Dbs对象", description = "Dbs对象")
  12. public class Dbs extends BaseEntity {
  13. private static final long serialVersionUID = 1L;
  14. /**
  15. * 连接展示名称
  16. */
  17. @ApiModelProperty(value = "连接展示名称")
  18. private String nickname;
  19. /**
  20. * 数据库ip
  21. */
  22. @ApiModelProperty(value = "数据库ip")
  23. private String ip;
  24. /**
  25. * 用户名
  26. */
  27. @ApiModelProperty(value = "用户名")
  28. private String username;
  29. /**
  30. * 密码
  31. */
  32. @ApiModelProperty(value = "密码")
  33. private String password;
  34. /**
  35. * 数据库端口
  36. */
  37. @ApiModelProperty(value = "数据库端口")
  38. private String port;
  39. /**
  40. * 数据库名
  41. */
  42. @ApiModelProperty(value = "数据库名")
  43. private String databaseName;
  44. @ApiModelProperty(value = "唯一标识")
  45. private String code;
  46. }

创建自定义注解,用于在相关的mapper或者service数据库操作事务中,指定连接的数据源。代码如下:

  1. import java.lang.annotation.ElementType;
  2. import java.lang.annotation.Retention;
  3. import java.lang.annotation.RetentionPolicy;
  4. import java.lang.annotation.Target;
  5. @Target({ElementType.TYPE, ElementType.METHOD})
  6. @Retention(RetentionPolicy.RUNTIME)
  7. public @interface DbsAnnotation {
  8. String value() default "";
  9. boolean join() default false;
  10. }

自定义注解aop切面 DbsAspect,代码如下:

  1. import lombok.extern.slf4j.Slf4j;
  2. import org.aspectj.lang.annotation.*;
  3. import org.springblade.core.tool.utils.Func;
  4. import org.springblade.dynamic.data.source.annotations.DbsAnnotation;
  5. import org.springblade.dynamic.data.source.config.DataSourceContextHolder;
  6. import org.springblade.dynamic.data.source.config.DataSourceService;
  7. import org.springframework.core.annotation.Order;
  8. import org.springframework.stereotype.Component;
  9. import javax.annotation.Resource;
  10. /**
  11. * 业务
  12. *
  13. * @author gaoqiang
  14. * @version 1.0
  15. * @company 北斗天地股份有限公司
  16. * @copyright (c) China Bdtd Co.LTD.All rights reserved.
  17. * @date 2022/9/15 16:11
  18. * @since JDK1.8
  19. */
  20. @Order(1)
  21. @Aspect
  22. @Component
  23. @Slf4j
  24. public class DbsAspect {
  25. @Resource
  26. private DataSourceService dataSourceService;
  27. @Pointcut("@annotation(org.springblade.dynamic.data.source.annotations.DbsAnnotation)")
  28. private void dbsAnnotation() {
  29. }
  30. @Before("@annotation(dbs)")
  31. public void record(DbsAnnotation dbs) {
  32. if (Func.isNotBlank(dbs.value())) {
  33. if(dbs.join()){
  34. log.info("添加目标数据源 "+dbs.value());
  35. dataSourceService.addTargetDataSource(dbs.value());
  36. }else {
  37. log.info("切换数据源 "+dbs.value());
  38. dataSourceService.switchDataSource(dbs.value());
  39. }
  40. }
  41. }
  42. @After("dbsAnnotation()")
  43. public void after() {
  44. log.info("切换为默认数据源");
  45. DataSourceContextHolder.switchDefaultDataSource();
  46. }
  47. }

好了,到这里基本就大功告成了,下面就让我来讲解下如何使用吧!!

  1. @DbsAnnotation("master")
  2. public List<Ktzksj> listAll() {
  3. return this.list();
  4. }

@DbsAnnotation注解中的值master要和数据源配置表中的code字段的值对应,就可以在执行这个方法的时候,切换到master数据源对数据库进行增删改查的操作了,方法执行完毕,会自动切换为默认数据源。

  1. @DbsAnnotation(value = "data_center",join = true)
  2. public void dataSync(List<TunnelBase> tunnelAddList,Long orgId) {
  3. if(CollectionUtils.isNotEmpty(tunnelAddList)){
  4. baseMapper.deleteByOrgId(orgId);
  5. super.saveBatch(tunnelAddList);
  6. }
  7. }

@DbsAnnotation(value = “data_center”,join = true) 比上面的多个一个join=true,意思是在默认数据源上添加一个data_center的目标数据源,这样数据在进行增删改的时候,能把数据同时同步到目标数据源和data_center数据源的表中,前提这两个数据源的表要一摸一样!!,这样就实现主从复制了!!!

发表评论

表情:
评论列表 (有 0 条评论,65人围观)

还没有评论,来说两句吧...

相关阅读