多資料源系列
1、spring boot2.0 +Mybatis + druid搭建一個最簡單的多資料源
2、利用Spring的AbstractRoutingDataSource做多資料源動态切換
3、使用dynamic-datasource-spring-boot-starter做多資料源及源碼分析
文章目錄
簡介
實操
基本使用
內建druid連接配接池
service嵌套
為什麼切換資料源不生效或事務不生效?
源碼分析
整體結構
自動配置怎麼實作的
如何內建衆多連接配接池的
DS注解如何被攔截處理的
多資料源動态切換及如何管理多資料源
資料組的負載均衡怎麼做的
如何自定義資料配置來源
如何動态增減資料源
總結
前兩篇部落格介紹了用基本的方式做多資料源,可以應對一般的情況,但是遇到一些複雜的情況就需要擴充下功能了,比如:動态增減資料源、資料源分組,純粹多庫 讀寫分離 一主多從、從其他資料庫或者配置中心讀取資料源等等。其實就算沒有這些需求,使用這個實作多資料源也比之前使用AbstractRoutingDataSource要便捷的多
dynamic-datasource-spring-boot-starter 是一個基于springboot的快速內建多資料源的啟動器。
github: https://github.com/baomidou/dynamic-datasource-spring-boot-starter
文檔: https://github.com/baomidou/dynamic-datasource-spring-boot-starter/wiki
它跟mybatis-plus是一個生态圈裡的,很容易內建mybatis-plus
特性:
資料源分組,适用于多種場景 純粹多庫 讀寫分離 一主多從 混合模式。
内置敏感參數加密和啟動初始化表結構schema資料庫database。
提供對Druid,Mybatis-Plus,P6sy,Jndi的快速內建。
簡化Druid和HikariCp配置,提供全局參數配置。
提供自定義資料源來源接口(預設使用yml或properties配置)。
提供項目啟動後增減資料源方案。
提供Mybatis環境下的 純讀寫分離 方案。
使用spel動态參數解析資料源,如從session,header或參數中擷取資料源。(多租戶架構神器)
提供多層資料源嵌套切換。(ServiceA >>> ServiceB >>> ServiceC,每個Service都是不同的資料源)
提供 不使用注解 而 使用 正則 或 spel 來切換資料源方案(實驗性功能)。
基于seata的分布式事務支援。
先把坐标丢出來
<dependency>
<groupId>com.baomidou</groupId>
<artifactId>dynamic-datasource-spring-boot-starter</artifactId>
<version>3.1.0</version>
</dependency>
下面抽幾個用的比較多的應用場景介紹
使用方法很簡潔,分兩步走
一:通過yml配置好資料源
二:service層裡面在想要切換資料源的方法上加上@DS注解就行了,也可以加在整個service層上,方法上的注解優先于類上注解
spring:
datasource:
dynamic:
primary: master #設定預設的資料源或者資料源組,預設值即為master
strict: false #設定嚴格模式,預設false不啟動. 啟動後在未比對到指定資料源時候回抛出異常,不啟動會使用預設資料源.
datasource:
master:
url: jdbc:mysql://127.0.0.1:3306/dynamic
username: root
password: 123456
driver-class-name: com.mysql.jdbc.Driver
db1:
url: jdbc:gbase://127.0.0.1:5258/dynamic
driver-class-name: com.gbase.jdbc.Driver
這就是兩個不同資料源的配置,接下來寫service代碼就行了
# 多主多從
master_1:
master_2:
slave_1:
slave_2:
slave_3:
如果是多主多從,那麼就用資料組名稱_xxx,下劃線前面的就是資料組名稱,相同組名稱的資料源會放在一個組下。切換資料源時,可以指定具體資料源名稱,也可以指定組名然後會自動采用負載均衡算法切換
# 純粹多庫(記得設定primary)
db2:
db3:
db4:
db5:
純粹多庫,就一個一個往上加就行了
@Service
@DS("master")
public class UserServiceImpl implements UserService {
@Autowired
private JdbcTemplate jdbcTemplate;
public List<Map<String, Object>> selectAll() {
return jdbcTemplate.queryForList("select * from user");
}
@Override
@DS("db1")
public List<Map<String, Object>> selectByCondition() {
return jdbcTemplate.queryForList("select * from user where age >10");
}
注解 結果
沒有@DS 預設資料源
@DS(“dsName”) dsName可以為組名也可以為具體某個庫的名稱
通過日志可以發現我們配置的多資料源已經被初始化了,如果切換資料源也會看到列印日子的
是不是很便捷,這是官方的例子
<groupId>com.alibaba</groupId>
<artifactId>druid-spring-boot-starter</artifactId>
<version>1.1.22</version>
首先引入依賴
autoconfigure:
exclude: com.alibaba.druid.spring.boot.autoconfigure.DruidDataSourceAutoConfigure
再排除掉druid原生的自動配置
datasource: #資料庫連結相關配置
druid: #以下是全局預設值,可以全局更改
#監控統計攔截的filters
filters: stat
#配置初始化大小/最小/最大
initial-size: 1
min-idle: 1
max-active: 20
#擷取連接配接等待逾時時間
max-wait: 60000
#間隔多久進行一次檢測,檢測需要關閉的空閑連接配接
time-between-eviction-runs-millis: 60000
#一個連接配接在池中最小生存的時間
min-evictable-idle-time-millis: 300000
validation-query: SELECT 'x'
test-while-idle: true
test-on-borrow: false
test-on-return: false
#打開PSCache,并指定每個連接配接上PSCache的大小。oracle設為true,mysql設為false。分庫分表較多推薦設定為false
pool-prepared-statements: false
max-pool-prepared-statement-per-connection-size: 20
stat:
merge-sql: true
log-slow-sql: true
slow-sql-millis: 2000
primary: master
url: jdbc:mysql://127.0.0.1:3306/test?useUnicode=true&characterEncoding=UTF-8&allowMultiQueries=true&serverTimezone=GMT%2B8
password: root
driver-class-name: com.mysql.cj.jdbc.Driver
gbase1:
url: jdbc:gbase://127.0.0.1:5258/test?useUnicode=true&characterEncoding=UTF-8&autoReconnect=true&failOverReadOnly=false&useSSL=false&zeroDateTimeBehavior=convertToNull
username: gbase
password: gbase
druid: # 以下參數針對每個庫可以重新設定druid參數
initial-size:
validation-query: select 1 FROM DUAL #比如oracle就需要重新設定這個
public-key: #(非全局參數)設定即表示啟用加密,底層會自動幫你配置相關的連接配接參數和filter。
配置好了就可以了,切換資料源的用法和上面的一樣的,打@DS(“db1”)注解到service類或方法上就行了
詳細配置參考這個配置類com.baomidou.dynamic.datasource.spring.boot.autoconfigure.DynamicDataSourceProperties
這個就是特性的第九條:提供多層資料源嵌套切換。(ServiceA >>> ServiceB >>> ServiceC,每個Service都是不同的資料源)
借用源碼中的demo:實作SchoolService >>> studentService、teacherService
public class SchoolServiceImpl{
public void addTeacherAndStudent() {
teacherService.addTeacherWithTx("ss", 1);
teacherMapper.addTeacher("test", 111);
studentService.addStudentWithTx("tt", 2);
}
@DS("teacher")
public class TeacherServiceImpl {
public boolean addTeacherWithTx(String name, Integer age) {
return teacherMapper.addTeacher(name, age);
@DS("student")
public class StudentServiceImpl {
public boolean addStudentWithTx(String name, Integer age) {
return studentMapper.addStudent(name, age);
這個addTeacherAndStudent調用資料源切換就是primary ->teacher->primary->student->primary
關于其他demo可以看官方wiki,裡面寫了很多用法,這裡就不贅述了,重點在于學習原理。。。
這種問題常見于上一節service嵌套,比如serviceA -> serviceB、serviceC,serviceA
加上@Transaction
簡單來說:嵌套資料源的service中,如果操作了多個資料源,不能在最外層加上@Transaction開啟事務,否則切換資料源不生效,因為這屬于分布式事務了,需要用seata方案解決,如果是單個資料源(不需要切換資料源)可以用@Transaction開啟事務,保證每個資料源自己的完整性
下面來粗略的分析加事務不生效的原因:
它這個切換資料源的原理就是實作了DataSource接口,實作了getConnection方法,隻要在service中開啟事務,service中對其他資料源操作隻會使用開啟事務的資料源,因為開啟事務資料源會被緩存下來,可以在DataSourceTransactionManager的doBegin方法中看見那個txObject,如果在一個事務内,就會複用Connection,是以切換不了資料源
/**
* This implementation sets the isolation level but ignores the timeout.
*/
@Override
protected void doBegin(Object transaction, TransactionDefinition definition) {
DataSourceTransactionObject txObject = (DataSourceTransactionObject) transaction;
Connection con = null;
try {
if (!txObject.hasConnectionHolder() ||
txObject.getConnectionHolder().isSynchronizedWithTransaction()) {
// 開啟一個新事務會擷取一個新的Connection,是以會調用DataSource接口的getConnection方法,進而切換資料源
Connection newCon = obtainDataSource().getConnection();
if (logger.isDebugEnabled()) {
logger.debug("Acquired Connection [" + newCon + "] for JDBC transaction");
}
txObject.setConnectionHolder(new ConnectionHolder(newCon), true);
}
txObject.getConnectionHolder().setSynchronizedWithTransaction(true);
// 如果已經開啟了事務,就從holder中擷取Connection
con = txObject.getConnectionHolder().getConnection();
…………
多資料源事務嵌套
看上面源碼,說是新起一個事務才會重新擷取Connection,才會成功切換資料源,那我在每個資料源的service方法上都加上@Transaction呢?(涉及spring事務傳播行為)
這裡做個小實驗,還是上面的例子,serviceA ->(嵌套) serviceB、serviceC,serviceA
加上@Transaction,現在給serviceB和serviceC的方法上也加上@Transaction,就是所有service裡被調用的方法都打上@Transaction注解
@Transactional
public void addTeacherAndStudentWithTx() {
teacherService.addTeacherWithTx("ss", 1);
studentService.addStudentWithTx("tt", 2);
throw new RuntimeException("test");
類似這樣,裡面兩個service也都加上了@Transaction
實際上這樣資料源也不會切換,因為預設事務傳播級别為required,父子service屬于同一事物是以就會用同一Connection。而這裡是多資料源,如果把事務傳播方式改成require_new給子service起新事物,可以切換資料源,他們都是獨立的事務了,然後父service復原不會導緻子service復原(詳見spring事務傳播),這樣保證了每個單獨的資料源的資料完整性,如果要保證所有資料源的完整性,那就用seata分布式事務架構
// 做了資料庫操作
aaaDao.doSomethings(“test”);
關于事務嵌套,還有一種情況就是在外部service裡面做DB1的一些操作,然後再調用DB2、DB3的service,再想保證DB1的事務,就需要在外部service上加@Transaction,如果想讓裡面的service正常切換資料源,根據事務傳播行為,設定為propagation = Propagation.REQUIRES_NEW就可以了,裡面的也能正常切換資料源了,因為它們是獨立的事務
補充:關于@Transaction操作多資料源事務的問題
@Transaction
public void insertDB1andDB2() {
db1Service.insertOne();
db2Service.insertOne();
throw new RuntimeException("test");
類似于上面這種操作,我們通過注入多個DataSource、DataSourceTransactionManager、SqlSessionFactory、SqlSessionTemplate這四種Bean的方式來實作多資料源(最頂上第一篇部落格提到的方式),然後在外部又加上了@Transaction想實作事務
我試過在中間抛異常檢視能不能正常復原,結果發現隻會有一個資料源的事務生效,點開@Transaction注解,發現裡面有個transactionManager屬性,這個就是指定之前聲明的transactionManager Bean,我們預設了DB1的transactionManager為@Primary,是以這時DB2的事務就不會生效,因為用的是DB1的TransactionManager。因為@Transactional隻能指定一個事務管理器,并且注解不允許重複,是以就隻能使用一個資料源的事務管理器了。如果DB2中的更新失敗,我想復原DB1和DB2以進行復原,可以使用ChainedTransactionManager來解決,它可以最後盡最大努力復原事務
源碼基于3.1.1版本(20200522)
由于篇幅限制,隻截了重點代碼,如果需要看完整代碼可以去github拉,或者點選下載下傳dynamic-datasource-spring-boot-starter.zip
拿到代碼要找到入手點,這裡帶着問題閱讀代碼
一般一個starter的最好入手點就是自動配置類,在 META-INF/spring.factories檔案中指定自動配置類入口
org.springframework.boot.autoconfigure.EnableAutoConfiguration=\
com.baomidou.dynamic.datasource.spring.boot.autoconfigure.DynamicDataSourceAutoConfiguration
1
2
在spring.factories中看到有這個自動配置
是以從核心自動配置類DynamicDataSourceAutoConfiguration入手
可以認為這就是程式的Main入口
@Slf4j
@Configuration
@AllArgsConstructor
// 以spring.datasource.dynamic為字首讀取配置
@EnableConfigurationProperties(DynamicDataSourceProperties.class)
// 需要在spring boot的DataSource bean自動配置之前注入我們的DataSource bean
@AutoConfigureBefore(DataSourceAutoConfiguration.class)
// 引入了Druid的autoConfig和各種資料源連接配接池的Creator
@Import(value = {DruidDynamicDataSourceConfiguration.class, DynamicDataSourceCreatorAutoConfiguration.class})
// 當含有spring.datasource.dynamic配置的時候啟用這個autoConfig
@ConditionalOnProperty(prefix = DynamicDataSourceProperties.PREFIX, name = "enabled", havingValue = "true", matchIfMissing = true)
public class DynamicDataSourceAutoConfiguration {
private final DynamicDataSourceProperties properties;
/**
* 多資料源加載接口,預設從yml中讀取多資料源配置
* @return DynamicDataSourceProvider
*/
@Bean
@ConditionalOnMissingBean
public DynamicDataSourceProvider dynamicDataSourceProvider() {
Map<String, DataSourceProperty> datasourceMap = properties.getDatasource();
return new YmlDynamicDataSourceProvider(datasourceMap);
* 注冊自己的動态多資料源DataSource
* @param dynamicDataSourceProvider 各種資料源連接配接池建造者
* @return DataSource
public DataSource dataSource(DynamicDataSourceProvider dynamicDataSourceProvider) {
DynamicRoutingDataSource dataSource = new DynamicRoutingDataSource();
dataSource.setPrimary(properties.getPrimary());
dataSource.setStrict(properties.getStrict());
dataSource.setStrategy(properties.getStrategy());
dataSource.setProvider(dynamicDataSourceProvider);
dataSource.setP6spy(properties.getP6spy());
dataSource.setSeata(properties.getSeata());
return dataSource;
* AOP切面,對DS注解過的方法進行增強,達到切換資料源的目的
* @param dsProcessor 動态參數解析資料源,如果資料源名稱以#開頭,就會進入這個解析器鍊
* @return advisor
public DynamicDataSourceAnnotationAdvisor dynamicDatasourceAnnotationAdvisor(DsProcessor dsProcessor) {
// aop方法攔截器在方法調用前後做操作
DynamicDataSourceAnnotationInterceptor interceptor = new DynamicDataSourceAnnotationInterceptor();
// 動态參數解析器
interceptor.setDsProcessor(dsProcessor);
// 使用AbstractPointcutAdvisor将pointcut和advice連接配接構成切面
DynamicDataSourceAnnotationAdvisor advisor = new DynamicDataSourceAnnotationAdvisor(interceptor);
advisor.setOrder(properties.getOrder());
return advisor;
* 動态參數解析器鍊
* @return DsProcessor
public DsProcessor dsProcessor() {
DsHeaderProcessor headerProcessor = new DsHeaderProcessor();
DsSessionProcessor sessionProcessor = new DsSessionProcessor();
DsSpelExpressionProcessor spelExpressionProcessor = new DsSpelExpressionProcessor();
// 順序header->session->spel 所有以#開頭的參數都會從參數中擷取資料源
headerProcessor.setNextProcessor(sessionProcessor);
sessionProcessor.setNextProcessor(spelExpressionProcessor);
return headerProcessor;
* 提供不使用注解而使用正則或spel來切換資料源方案(實驗性功能)
* 如果想開啟這個功能得自己配置注入DynamicDataSourceConfigure Bean
* @param dynamicDataSourceConfigure dynamicDataSourceConfigure
* @param dsProcessor dsProcessor
@ConditionalOnBean(DynamicDataSourceConfigure.class)
public DynamicDataSourceAdvisor dynamicAdvisor(DynamicDataSourceConfigure dynamicDataSourceConfigure, DsProcessor dsProcessor) {
DynamicDataSourceAdvisor advisor = new DynamicDataSourceAdvisor(dynamicDataSourceConfigure.getMatchers());
advisor.setDsProcessor(dsProcessor);
advisor.setOrder(Ordered.HIGHEST_PRECEDENCE);
這裡自動配置的五個Bean都是非常重要的,後面會一一涉及到
這裡說說自動配置,主要就是上面自動配置類的幾個注解,都寫了注釋,其中重要的是這個注解:
@EnableConfigurationProperties:使使用 @ConfigurationProperties 注解的類生效,主要是用來把properties或者yml配置檔案轉化為bean來使用的,這個在實際使用中非常實用
@ConfigurationProperties(prefix = DynamicDataSourceProperties.PREFIX)
public class DynamicDataSourceProperties {
public static final String PREFIX = "spring.datasource.dynamic";
public static final String HEALTH = PREFIX + ".health";
* 必須設定預設的庫,預設master
private String primary = "master";
* 是否啟用嚴格模式,預設不啟動. 嚴格模式下未比對到資料源直接報錯, 非嚴格模式下則使用預設資料源primary所設定的資料源
private Boolean strict = false;
…………
/**
* Druid全局參數配置
@NestedConfigurationProperty
private DruidConfig druid = new DruidConfig();
* HikariCp全局參數配置
private HikariCpConfig hikari = new HikariCpConfig();
可以發現之前我們在spring.datasource.dynamic配置的東西都會注入到這個配置Bean中,需要注意的是使用了@NestedConfigurationProperty嵌套了其他的配置類,如果搞不清楚配置項是啥,就直接看看DynamicDataSourceProperties這個類就清楚了
比如說DruidConfig,這個DruidConfig是自定義的一個配置類,不是Druid裡面的,它下面有個toProperties方法,為了實作yml配置中每個dataSource下面的durid可以獨立配置(不配置就使用全局配置的),根據全局配置和獨立配置結合轉換為Properties,然後在DruidDataSourceCreator類中根據這個配置建立druid連接配接池
關于內建連接配接池配置在上面已經提到過了,就是DynamicDataSourceProperties配置類下,但是如何通過這些配置生成真正的資料源連接配接池呢,讓我們來看creator包
看名字就知道支援哪幾種資料源
在自動配置中,配置DataSource的時候,new了一個DynamicRoutingDataSource,而它實作了InitializingBean接口,在bean初始化時候做一些操作
public class DynamicRoutingDataSource extends AbstractRoutingDataSource implements InitializingBean, DisposableBean {
* 所有資料庫
private final Map<String, DataSource> dataSourceMap = new LinkedHashMap<>();
* 分組資料庫
private final Map<String, DynamicGroupDataSource> groupDataSources = new ConcurrentHashMap<>();
省略部分代碼…………
* 添加資料源
*
* @param ds 資料源名稱
* @param dataSource 資料源
public synchronized void addDataSource(String ds, DataSource dataSource) {
// 如果資料源不存在則儲存一個
if (!dataSourceMap.containsKey(ds)) {
// 包裝seata、p6spy插件
dataSource = wrapDataSource(ds, dataSource);
// 儲存到所有資料源map
dataSourceMap.put(ds, dataSource);
// 對其進行分組并儲存map
this.addGroupDataSource(ds, dataSource);
log.info("dynamic-datasource - load a datasource named [{}] success", ds);
} else {
log.warn("dynamic-datasource - load a datasource named [{}] failed, because it already exist", ds);
}
// 包裝seata、p6spy插件的方法
private DataSource wrapDataSource(String ds, DataSource dataSource) {
if (p6spy) {
dataSource = new P6DataSource(dataSource);
log.debug("dynamic-datasource [{}] wrap p6spy plugin", ds);
if (seata) {
dataSource = new DataSourceProxy(dataSource);
log.debug("dynamic-datasource [{}] wrap seata plugin", ds);
// 添加分組資料源的方法
private void addGroupDataSource(String ds, DataSource dataSource) {
// 分組用_下劃線分割
if (ds.contains(UNDERLINE)) {
// 擷取組名
String group = ds.split(UNDERLINE)[0];
// 如果已存在組,則往裡面添加資料源
if (groupDataSources.containsKey(group)) {
groupDataSources.get(group).addDatasource(dataSource);
} else {
try {
// 否則建立一個新的分組
DynamicGroupDataSource groupDatasource = new DynamicGroupDataSource(group, strategy.newInstance());
groupDatasource.addDatasource(dataSource);
groupDataSources.put(group, groupDatasource);
} catch (Exception e) {
log.error("dynamic-datasource - add the datasource named [{}] error", ds, e);
dataSourceMap.remove(ds);
}
}
@Override
public void afterPropertiesSet() throws Exception {
// 通過配置加載資料源
Map<String, DataSource> dataSources = provider.loadDataSources();
// 添加并分組資料源
for (Map.Entry<String, DataSource> dsItem : dataSources.entrySet()) {
addDataSource(dsItem.getKey(), dsItem.getValue());
// 檢測預設資料源設定
if (groupDataSources.containsKey(primary)) {
log.info("dynamic-datasource initial loaded [{}] datasource,primary group datasource named [{}]", dataSources.size(), primary);
} else if (dataSourceMap.containsKey(primary)) {
log.info("dynamic-datasource initial loaded [{}] datasource,primary datasource named [{}]", dataSources.size(), primary);
throw new RuntimeException("dynamic-datasource Please check the setting of primary");
這個類就是核心的動态資料源元件,它将DataSource維護在map裡,這裡重點看如何建立資料源連接配接池
它所做的操作就是初始化時從provider擷取建立好的資料源map,然後解析這個map對其分組,來看看這個provider裡面是如何建立這個map的
在自動配置中,注入的是這個bean,就是通過yml讀取配置檔案的(後面還有通過jdbc讀取配置檔案),重點不在這裡,這是後面要提到的
通過跟蹤provider.loadDataSources();發現在createDataSourceMap方法中調用的是dataSourceCreator.createDataSource(dataSourceProperty)
@Setter
public class DataSourceCreator {
/**
* 是否存在druid
private static Boolean druidExists = false;
* 是否存在hikari
private static Boolean hikariExists = false;
static {
try {
Class.forName(DRUID_DATASOURCE);
druidExists = true;
log.debug("dynamic-datasource detect druid,Please Notice \n " +
"https://github.com/baomidou/dynamic-datasource-spring-boot-starter/wiki/Integration-With-Druid");
} catch (ClassNotFoundException ignored) {
Class.forName(HIKARI_DATASOURCE);
hikariExists = true;
…………
/**
* 建立資料源
* @param dataSourceProperty 資料源資訊
* @return 資料源
public DataSource createDataSource(DataSourceProperty dataSourceProperty) {
DataSource dataSource;
//如果是jndi資料源
String jndiName = dataSourceProperty.getJndiName();
if (jndiName != null && !jndiName.isEmpty()) {
dataSource = createJNDIDataSource(jndiName);
Class<? extends DataSource> type = dataSourceProperty.getType();
// 連接配接池類型,如果不設定就自動根據Druid > HikariCp的順序查找
if (type == null) {
if (druidExists) {
dataSource = createDruidDataSource(dataSourceProperty);
} else if (hikariExists) {
dataSource = createHikariDataSource(dataSourceProperty);
} else {
dataSource = createBasicDataSource(dataSourceProperty);
} else if (DRUID_DATASOURCE.equals(type.getName())) {
dataSource = createDruidDataSource(dataSourceProperty);
} else if (HIKARI_DATASOURCE.equals(type.getName())) {
dataSource = createHikariDataSource(dataSourceProperty);
dataSource = createBasicDataSource(dataSourceProperty);
this.runScrip(dataSourceProperty, dataSource);
}
重點就在這裡,根據配置中的type或連接配接池的class來判斷該建立哪種連接配接池
@Data
public class HikariDataSourceCreator {
private HikariCpConfig hikariCpConfig;
HikariConfig config = dataSourceProperty.getHikari().toHikariConfig(hikariCpConfig);
config.setUsername(dataSourceProperty.getUsername());
config.setPassword(dataSourceProperty.getPassword());
config.setJdbcUrl(dataSourceProperty.getUrl());
config.setDriverClassName(dataSourceProperty.getDriverClassName());
config.setPoolName(dataSourceProperty.getPoolName());
return new HikariDataSource(config);
比如說建立hikari連接配接池,就在這個creator中建立了真正的hikari連接配接池,建立完後放在dataSourceMap維護起來
注解攔截處理離不開AOP,是以這裡介紹代碼中如何使用AOP的
還是從這個自動配置類入手,發現注入了一個DynamicDataSourceAnnotationAdvisor bean,它是一個advisor
閱讀這個advisor之前,這裡多提一點AOP相關的
在 Spring AOP 中,有 3 個常用的概念,Advices 、 Pointcut 、 Advisor ,解釋如下:
Advices :表示一個 method 執行前或執行後的動作。
Pointcut :表示根據 method 的名字或者正規表達式等方式去攔截一個 method 。
Advisor : Advice 和 Pointcut 組成的獨立的單元,并且能夠傳給 proxy factory 對象。
@Component
//聲明這是一個切面Bean
@Aspect
public class ServiceAspect {
//配置切入點,該方法無方法體,主要為友善同類中其他方法使用此處配置的切入點
@Pointcut("execution(* com.xxx.aop.service..*(..))")
public void aspect() {
/*
* 配置前置通知,使用在方法aspect()上注冊的切入點
* 同時接受JoinPoint切入點對象,可以沒有該參數
@Before("aspect()")
public void before(JoinPoint joinPoint) {
//配置後置通知,使用在方法aspect()上注冊的切入點
@After("aspect()")
public void after(JoinPoint joinPoint) {
//配置環繞通知,使用在方法aspect()上注冊的切入點
@Around("aspect()")
public void around(JoinPoint joinPoint) {
//配置後置傳回通知,使用在方法aspect()上注冊的切入點
@AfterReturning("aspect()")
public void afterReturn(JoinPoint joinPoint) {
//配置抛出異常後通知,使用在方法aspect()上注冊的切入點
@AfterThrowing(pointcut = "aspect()", throwing = "ex")
public void afterThrow(JoinPoint joinPoint, Exception ex) {
我們平常可能使用這種AspectJ注解多一點,通過@Aspect注解的方式來聲明切面,spring會通過我們的AspectJ注解(比如@Pointcut、@Before) 動态的生成各個Advisor。
Spring還提供了另一種切面-顧問(Advisor),其可以完成更為複雜的切面織入功能,我們可以通過直接繼承AbstractPointcutAdvisor來提供切面邏輯。
它們最終都會生成對應的Advisor執行個體
而這裡就是使用了繼承AbstractPointcutAdvisor的方式來實作切面的
其中最重要的就是getAdvice和getPointcut方法,可以簡單的認為advisor=advice+pointcut
public class DynamicDataSourceAnnotationAdvisor extends AbstractPointcutAdvisor implements
BeanFactoryAware {
// 通知
private Advice advice;
// 切入點
private Pointcut pointcut;
public DynamicDataSourceAnnotationAdvisor(@NonNull DynamicDataSourceAnnotationInterceptor dynamicDataSourceAnnotationInterceptor) {
this.advice = dynamicDataSourceAnnotationInterceptor;
this.pointcut = buildPointcut();
@Override
public Pointcut getPointcut() {
return this.pointcut;
public Advice getAdvice() {
return this.advice;
public void setBeanFactory(BeanFactory beanFactory) throws BeansException {
if (this.advice instanceof BeanFactoryAware) {
((BeanFactoryAware) this.advice).setBeanFactory(beanFactory);
private Pointcut buildPointcut() {
//類級别
Pointcut cpc = new AnnotationMatchingPointcut(DS.class, true);
//方法級别
Pointcut mpc = AnnotationMatchingPointcut.forMethodAnnotation(DS.class);
//對于類和方法上都可以添加注解的情況
//類上的注解,最終會将注解綁定到每個方法上
return new ComposablePointcut(cpc).union(mpc);
現在再來看@DS注解的advisor實作,在buildPointcut方法裡攔截了被@DS注解的方法或類,并且使用ComposablePointcut組合切入點,可以實作方法優先級大于類優先級的特性
發現advice是通過構造方法傳來的,是DynamicDataSourceAnnotationInterceptor,現在來看看這個
public class DynamicDataSourceAnnotationInterceptor implements MethodInterceptor {
* The identification of SPEL.
private static final String DYNAMIC_PREFIX = "#";
private static final DataSourceClassResolver RESOLVER = new DataSourceClassResolver();
@Setter
private DsProcessor dsProcessor;
public Object invoke(MethodInvocation invocation) throws Throwable {
// 這裡把擷取到的資料源辨別如master存入本地線程
DynamicDataSourceContextHolder.push(determineDatasource(invocation));
return invocation.proceed();
} finally {
DynamicDataSourceContextHolder.poll();
private String determineDatasource(MethodInvocation invocation) throws Throwable {
//獲得DS注解的方法
Method method = invocation.getMethod();
DS ds = method.isAnnotationPresent(DS.class) ? method.getAnnotation(DS.class)
: AnnotationUtils.findAnnotation(RESOLVER.targetClass(invocation), DS.class);
//獲得DS注解的内容
String key = ds.value();
//如果DS注解内容是以#開頭解析動态最終值否則直接傳回
return (!key.isEmpty() && key.startsWith(DYNAMIC_PREFIX)) ? dsProcessor.determineDatasource(invocation, key) : key;
這是它的advice通知,也可以說是方法攔截器,在要切換資料源的方法前,将切換的資料源放入了holder裡,方法執行完後在finally中釋放掉,也就是在這裡做了目前資料源的切換。下面的determineDatasource決定資料源的方法中判斷了以#開頭解析動态參數資料源,這個功能就是特性中說的使用spel動态參數解析資料源,如從session,header或參數中擷取資料源。
剩下的還有個DynamicDataSourceAdvisor,這個功能是特性八的提供不使用注解而使用正則或spel來切換資料源方案(實驗性功能),這裡就不介紹這塊了
在上一節AOP實作裡面的MethodInterceptor裡,在方法前後調用了DynamicDataSourceContextHolder.push()和poll(),這個holder類似于前一篇部落格使用AbstractRoutingDataSource做多資料源動态切換用的holder,隻是這裡做了點改造
public final class DynamicDataSourceContextHolder {
* 為什麼要用連結清單存儲(準确的是棧)
* <pre>
* 為了支援嵌套切換,如ABC三個service都是不同的資料源
* 其中A的某個業務要調B的方法,B的方法需要調用C的方法。一級一級調用切換,形成了鍊。
* 傳統的隻設定目前線程的方式不能滿足此業務需求,必須使用棧,後進先出。
* </pre>
private static final ThreadLocal<Deque<String>> LOOKUP_KEY_HOLDER = new NamedThreadLocal<Deque<String>>("dynamic-datasource") {
@Override
protected Deque<String> initialValue() {
return new ArrayDeque<>();
};
private DynamicDataSourceContextHolder() {
* 獲得目前線程資料源
* @return 資料源名稱
public static String peek() {
return LOOKUP_KEY_HOLDER.get().peek();
* 設定目前線程資料源
* <p>
* 如非必要不要手動調用,調用後確定最終清除
* </p>
* @param ds 資料源名稱
public static void push(String ds) {
LOOKUP_KEY_HOLDER.get().push(StringUtils.isEmpty(ds) ? "" : ds);
* 清空目前線程資料源
* 如果目前線程是連續切換資料源 隻會移除掉目前線程的資料源名稱
public static void poll() {
Deque<String> deque = LOOKUP_KEY_HOLDER.get();
deque.poll();
if (deque.isEmpty()) {
LOOKUP_KEY_HOLDER.remove();
* 強制清空本地線程
* 防止記憶體洩漏,如手動調用了push可調用此方法確定清除
public static void clear() {
LOOKUP_KEY_HOLDER.remove();
它使用了棧這個資料結構目前資料源,使用了ArrayDeque這個線程不安全的雙端隊列容器來實作棧功能,它作為棧性能比Stack好,現在不推薦用老容器
用棧的話,嵌套過程中push,出去就pop,實作了這個嵌套調用service的業務需求
現在來看切換資料源的核心類
在之前做動态資料源切換的時候,我們利用Spring的AbstractRoutingDataSource做多資料源動态切換,它實作了DataSource接口,重寫了getConnection方法
在這裡切換資料源原理也是如此,它自己寫了一個AbstractRoutingDataSource類,不是spring的那個,現在來看看這個類
public abstract class AbstractRoutingDataSource extends AbstractDataSource {
* 子類實作決定最終資料源
protected abstract DataSource determineDataSource();
public Connection getConnection() throws SQLException {
return determineDataSource().getConnection();
public Connection getConnection(String username, String password) throws SQLException {
return determineDataSource().getConnection(username, password);
@SuppressWarnings("unchecked")
public <T> T unwrap(Class<T> iface) throws SQLException {
if (iface.isInstance(this)) {
return (T) this;
return determineDataSource().unwrap(iface);
public boolean isWrapperFor(Class<?> iface) throws SQLException {
return (iface.isInstance(this) || determineDataSource().isWrapperFor(iface));
可以發現也是實作了DataSource接口的getConnection方法,現在來看下子類如何實作determineDataSource方法的
private static final String UNDERLINE = "_";
public DataSource determineDataSource() {
return getDataSource(DynamicDataSourceContextHolder.peek());
private DataSource determinePrimaryDataSource() {
log.debug("dynamic-datasource switch to the primary datasource");
return groupDataSources.containsKey(primary) ? groupDataSources.get(primary).determineDataSource() : dataSourceMap.get(primary);
/**
* 擷取資料源
public DataSource getDataSource(String ds) {
if (StringUtils.isEmpty(ds)) {
return determinePrimaryDataSource();
} else if (!groupDataSources.isEmpty() && groupDataSources.containsKey(ds)) {
log.debug("dynamic-datasource switch to the datasource named [{}]", ds);
return groupDataSources.get(ds).determineDataSource();
} else if (dataSourceMap.containsKey(ds)) {
return dataSourceMap.get(ds);
if (strict) {
throw new RuntimeException("dynamic-datasource could not find a datasource named" + ds);
return determinePrimaryDataSource();
之前creator生成的資料源連接配接池放入map維護後,現在擷取資料源就是從map中取就行了,可以發現這裡資料組優先于單資料源
在上一節中,DynamicRoutingDataSource的getDataSource方法裡
else if (!groupDataSources.isEmpty() && groupDataSources.containsKey(ds)) {
如果資料組不為空并且DS注解寫的資料組名,那麼就會在資料組中選取一個資料源,調用的determineDataSource方法
public class DynamicGroupDataSource {
private String groupName;
// 資料源切換政策
private DynamicDataSourceStrategy dynamicDataSourceStrategy;
private List<DataSource> dataSources = new LinkedList<>();
public DynamicGroupDataSource(String groupName, DynamicDataSourceStrategy dynamicDataSourceStrategy) {
this.groupName = groupName;
this.dynamicDataSourceStrategy = dynamicDataSourceStrategy;
public void addDatasource(DataSource dataSource) {
dataSources.add(dataSource);
public void removeDatasource(DataSource dataSource) {
dataSources.remove(dataSource);
// 根據切換政策,決定一個資料源
return dynamicDataSourceStrategy.determineDataSource(dataSources);
public int size() {
return dataSources.size();
}
這是資料組的DataSource,裡面根據政策模式來決定一個資料源,目前實作的就兩種,随機和輪詢,預設的是輪詢,在DynamicDataSourceProperties屬性中寫了預設值,也可以通過配置檔案配置
public class LoadBalanceDynamicDataSourceStrategy implements DynamicDataSourceStrategy {
* 負載均衡計數器
private final AtomicInteger index = new AtomicInteger(0);
public DataSource determineDataSource(List<DataSource> dataSources) {
return dataSources.get(Math.abs(index.getAndAdd(1) % dataSources.size()));
這是一個簡單的輪詢負載均衡,我們可以通過自己的業務需求,新增一個政策類來實作新的負載均衡算法
預設是從yml中讀取資料源配置的(YmlDynamicDataSourceProvider),實際業務中,我們可能遇到從其他地方擷取配置來建立資料源,比如從資料庫、配置中心、mq等等
想自定義資料來源可以自定義一個provider實作DynamicDataSourceProvider接口并繼承AbstractDataSourceProvider類就行了
public interface DynamicDataSourceProvider {
* 加載所有資料源
* @return 所有資料源,key為資料源名稱
Map<String, DataSource> loadDataSources();
如果想通過jdbc擷取資料源,它這裡有個抽象類AbstractJdbcDataSourceProvider,需要實作它的executeStmt方法,就是從其他資料庫查詢出這些資訊,url、username、password等等(就是我們在yml配置的那些資訊),然後拼接成一個配置對象DataSourceProperty傳回出去調用createDataSourceMap方法就行了
這個也是實際中很實用的功能,它的實作還是通過DynamicRoutingDataSource這個核心動态資料源元件來做的
/**
* 擷取目前所有的資料源
* @return 目前所有資料源
public Map<String, DataSource> getCurrentDataSources() {
return dataSourceMap;
* 擷取的目前所有的分組資料源
* @return 目前所有的分組資料源
public Map<String, DynamicGroupDataSource> getCurrentGroupDataSources() {
return groupDataSources;
// 儲存
// 對其進行分組
* 删除資料源
public synchronized void removeDataSource(String ds) {
if (!StringUtils.hasText(ds)) {
throw new RuntimeException("remove parameter could not be empty");
if (primary.equals(ds)) {
throw new RuntimeException("could not remove primary datasource");
if (dataSourceMap.containsKey(ds)) {
DataSource dataSource = dataSourceMap.get(ds);
try {
closeDataSource(ds, dataSource);
} catch (Exception e) {
throw new RuntimeException("dynamic-datasource - remove the database named " + ds + " failed", e);
dataSourceMap.remove(ds);
if (ds.contains(UNDERLINE)) {
String group = ds.split(UNDERLINE)[0];
if (groupDataSources.containsKey(group)) {
groupDataSources.get(group).removeDatasource(dataSource);
log.info("dynamic-datasource - remove the database named [{}] success", ds);
log.warn("dynamic-datasource - could not find a database named [{}]", ds);
可以發現它預留了相關接口給開發者,可友善的添加删除資料庫
添加資料源我們需要做的就是:
1、注入DynamicRoutingDataSource和DataSourceCreator
2、通過資料源配置(url、username、password等)建構一個DataSourceProperty對象
3、再通過dataSourceCreator根據配置建構一個真實的DataSource
4、最後調用DynamicRoutingDataSource的addDataSource方法添加這個DataSource就行了
同理,删除資料源:
1、注入DynamicRoutingDataSource
2、調用DynamicRoutingDataSource的removeDataSource方法
@PostMapping("/add")
@ApiOperation("通用添加資料源(推薦)")
public Set<String> add(@Validated @RequestBody DataSourceDTO dto) {
DataSourceProperty dataSourceProperty = new DataSourceProperty();
BeanUtils.copyProperties(dto, dataSourceProperty);
DynamicRoutingDataSource ds = (DynamicRoutingDataSource) dataSource;
DataSource dataSource = dataSourceCreator.createDataSource(dataSourceProperty);
ds.addDataSource(dto.getPollName(), dataSource);
return ds.getCurrentDataSources().keySet();
@DeleteMapping
@ApiOperation("删除資料源")
public String remove(String name) {
ds.removeDataSource(name);
return "删除成功";
}
通過閱讀這塊源碼,涉及到了一些spring aop、spring事務管理、spring boot自動配置等