您当前的位置:首页 > 电脑百科 > 数据库 > 百科

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!

时间:2023-12-11 12:56:47  来源:微信公众号  作者:勇哥Java实战

SpringBoot项目中,数据库连接池已经成为标配,然而,我曾经遇到过不少连接池异常导致业务错误的事故。很多经验丰富的工程师也可能不小心在这方面出现问题。

在这篇文章中,我们将探讨数据库连接池,深入解析其实现机制,以便更好地理解和规避潜在的风险。

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

1 为什么需要连接池

假如没有连接池,我们操作数据库的流程如下:

  1. 应用程序使用数据库驱动建立和数据库的 TCP 连接 ;
  2. 用户进行身份验证 ;
  3. 身份验证通过,应用进行读写数据库操作 ;
  4. 操作结束后,关闭 TCP 连接 。

创建数据库连接是一个比较昂贵的操作,若同时有几百人甚至几千人在线,频繁地进行连接操作将占用更多的系统资源,但数据库支持的连接数是有限的,创建大量的连接可能会导致数据库僵死。

当我们有了连接池,应用程序启动时就预先建立多个数据库连接对象,然后将连接对象保存到连接池中。当客户请求到来时,从池中取出一个连接对象为客户服务。当请求完成时,客户程序调用关闭方法,将连接对象放回池中。

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

相比之下,连接池的优点显而易见:

1、资源重用:

因为数据库连接可以重用,避免了频繁创建,释放连接引起的大量性能开销,同时也增加了系统运行环境的平稳性。

2、提高性能

当业务请求时,因为数据库连接在初始化时已经被创建,可以立即使用,而不需要等待连接的建立,减少了响应时间。

3、优化资源分配

对于多应用共享同一数据库的系统而言,可在应用层通过数据库连接池的配置,实现某一应用最大可用数据库连接数的限制,避免某一应用独占所有的数据库资源。

4、连接管理

数据库连接池实现中,可根据预先的占用超时设定,强制回收被占用连接,从而避免了常规数据库连接操作中可能出现的资源泄露。

2 JDBC 连接池

下面的代码展示了 JDBC 操作数据库的流程 :

//1. 连接到数据库
Connection connection = DriverManager.getConnection(jdbcUrl, username, password);
//2. 执行SQL查询
String sqlQuery = "SELECT * FROM mytable WHERE column1 = ?";
PreparedStatement preparedStatement = connection.prepareStatement(sqlQuery);
preparedStatement.setString(1, "somevalue");
resultSet = preparedStatement.executeQuery();
//3. 处理查询结果
while (resultSet.next()) {
    int column1Value = resultSet.getInt("column1");
    String column2Value = resultSet.getString("column2");
    System.out.println("Column1: " + column1Value + ", Column2: " + column2Value);
}
//4. 关闭资源
resultSet.close();
preparedStatement.close();
connection.close();

上面的方式会频繁的创建数据库连接,在比较久远的 JSP 页面中会偶尔使用,现在普遍使用 JDBC 连接池。

JDBC 连接池有一个标准的数据源接口JAVAx.sql.DataSource,这个类位于 Java 标准库中。

public interface DataSource  extends CommonDataSource, WrApper {

  Connection getConnection() throws SQLException;

  Connection getConnection(String username, String password) throws SQLException;
}

常用的 JDBC 连接池有:

  • HikariCP
  • C3P0
  • Druid

Druid(阿里巴巴数据库连接池)是一个开源的数据库连接池库,它提供了强大的数据库连接池管理和监控功能。

1)配置Druid数据源

DruidDataSource dataSource = new DruidDataSource();
dataSource.setUrl("jdbc:MySQL://localhost:3306/mydatabase");
dataSource.setUsername("yourusername");
dataSource.setPassword("yourpassword");
dataSource.setInitialSize(5); // 初始连接池大小
dataSource.setMinIdle(5); // 最小空闲连接数
dataSource.setMaxActive(20); // 最大活动连接数
dataSource.setValidationQuery("select 1 from dual");  // 心跳的 Query
dataSource.setMaxWAIt(60000); // 最大等待时间
dataSource.setTestOnBorrow(true); // 验证连接是否有效

2)使用数据库连接

Connection connection = dataSource.getConnection();
//使用连接执行数据库操作
// TODO 业务操作
// 使用后关闭连接连接
connection.close();

3)关闭数据源

dataSource.close();

3 连接池 Druid 实现原理

我们学习数据源的实现,可以从如下五个核心角度分析:

  • 初始化
  • 创建连接
  • 回收连接
  • 归还连接
  • 销毁连接

3.1 初始化

首先我们查看数据源实现「获取连接」的接口,初始化可以主动和被动两种方式。

主从是指显示的调用 init 方法,而被动是指获取连接时完成初始化。

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

调用getConnection方法时,返回的对象是连接接口的封装类 DruidConnectionHolder 。

在初始化方法内,数据源创建三个连接池数组 ,他们分别是:

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

  • connections:用于存放能获取的连接对象。
  • evictConnections:用于存放需要丢弃的连接对象。
  • keepAliveConnections:用于存放需要保活的连接对象。

初始化阶段,需要进行连接池的「预热」:也就是需要按照配置首先创建一定数量的连接,并放入到池子里,这样应用在需要获取连接的候,可以直接从池子里获取。

数据源「预热」分为同步和异步两种方式  ,见下图:

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

从上图,我们可以看到同步创建连接时,是原生 JDBC 创建连接后,直接放入到 connections 数组对象里。

异步创建线程需要初始化 createScheduler , 但默认并没有配置。

数据源预热之后,启动了两个任务线程:创建连接线程和销毁连接线程。

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

3.2 创建连接

这一节,我们重点学习 Druid 数据源如何创建连接。

CreateConnectionThread 本质是一个单线程在死循环中通过 condition 等待,被其他线程唤醒 ,并实现创建数据库连接逻辑。

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

笔者将 run 方法做了适当简化,当满足了条件之后,才创建数据库连接 :

  • 必须存在线程等待,才创建连接 。
  • 防止创建超过最大连接数 maxAcitve 。

创建完连接对象 PhysicalConnectionInfo 之后,需要保存到 Connections 数组里,并唤醒到其他的线程,这样就可以从池子里获取连接。

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

3.3 获取连接

我们详细解析了创建连接的过程,接下来就是应用如何获取连接的过程。

DruidDataSource#getConnection 方法会调用到 DruidDataSource#getConnectionDirect 方法来获取连接,实现如下所示。

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

核心流程是

1)在 for 循环内,首先调用 getConnectionDirect内,调用getConnectionInternal 从池子里获取连接对象;

2)获取连接后,需要根据 testOnBorrow 、testWhileIdle 参数配置判断是否需要检测连接的有效性;

3)最后假如需要判断连接是否有泄露,则配置 removeAbandoned 来关闭长时间不适用的连接,该功能不建议再生产环境中使用,仅用于连接泄露检测诊断。

接下来进入获取连接的重点:getConnectionInternal 方法如何从池子里获取连接。

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

getConnectionInternal()方法中拿到连接的方式有三种:

  • 直接创建连接(默认配置不会执行)需要配置定时线程池 createScheduler,当连接池已经没有可用连接,且当前借出的连接数未达到允许的最大连接数,且当前没有其它线程在创建连接 ;
  • pollLast 方法:从池中拿连接,并最多等待 maxWait 的时间,需要设置了maxWait;

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

pollLast 方法的核心是:死循环内部,通过 Condition 对象 notEmpty 的 awaitNanos 方法执行等待,若池子中有连接,将最后一个连接取出,并将最后一个数组元素置为空。

takeLast 方法:从池中拿连接,并一直等待直到拿到连接。

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!

和 pollLast 方法不同,首先方法体内部并没有死循环,通过 Condition 对象 notEmpty 的 await 方法等待,直到池子中有连接,将最后一个连接取出,并将最后一个数组元素置为空。

3.4 归还连接

DruidDataSource 连接池中,每一个物理连接都会被包装成DruidConnectionHolder,在提供给应用线程前,还会将 DruidConnectionHolder 包装成 DruidPooledConnection。

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

原生的 JDBC 操作, 每次执行完业务操作之后,会执行关闭连接,对于连接池来讲,就是归还连接,也就是将连接放回连接池。

下图展示了 DruidPooledConnection 的 close 方法 :

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

在关闭方法中,我们重点关注 recycle 回收连接方法。

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

我们可以简单的理解:将连接放到 connections 数组的 poolingCount 位置,并将其自增,然后通过 Condition 对象 notEmpty 唤醒等待获取连接的一个应用程序。

3.5 销毁连接

DruidDataSource 连接的销毁 DestroyConnectionThread 线程完成 :

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

从定时任务(死循环)每隔 timeBetweenEvictionRunsMillis 执行一次,我们重点关注destroyTask的run方法。

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

destroyTask的run方法 会调用DruidDataSource#shrink方法来根据设定的条件来判断出需要销毁和保活的连接。

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

核心流程:

1)遍历连接池数组 connections:

内部分别判断这些连接是需要销毁还是需要保活 ,并分别加入到对应的容器数组里。

2)销毁场景:

  • 空闲时间idleMillis  >= 允许的最小空闲时间 minEvictableIdleTimeMillis
  • 空闲时间idleMillis  >= 允许的最大空闲时间 maxEvictableIdleTimeMillis

3)保活场景:

  • 发生了致命错误(onFatalError == true)且致命错误发生时间(lastFatalErrorTimeMillis)在连接建立时间之后
  • 如果开启了保活机制,且连接空闲时间大于等于了保活间隔时间

4)销毁连接:

遍历数组 evictConnections 所有的连接,并逐一销毁 。

5)保活连接:

遍历数组 keepAliveConnections 所有的连接,对连接进行验证 ,验证失败,则关闭连接,否则加锁,重新加入到连接池中。

4 保证连接有效

本节,我们讲解如何合理的配置参数保证数据库连接有效。

很多同学都会遇到一个问题:“长时间不进行数据库读写操作之后,第一次请求数据库,数据库会报错,但第二次就正常了。"

那是因为数据库为了节省资源,会关闭掉长期没有读写的连接。

笔者第一次使用 Druid 时就遇到过这样的问题,有兴趣的同学可以看看笔者这篇文章:

https://www.javayong.cn/codelife/runningforcode.html

下图展示了 Druid 数据源配置样例:

再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!图片

我们简单梳理下 Druid 的保证连接有效有哪些策略:

1、销毁连接线程定时检测所有的连接,关闭空闲时间过大的连接 ,假如配置了保活参数,那么会继续维护待保活的连接;

2、应用每次从数据源中获取连接时候,会根据testOnBorrow、testWhileIdle参数检测连接的有效性。

因此,我们需要重点配置如下的参数:

A、timeBetweenEvictionRunsMillis 参数:间隔多久检测一次空闲连接是否有效。

B、testWhileIdle 参数:启空闲连接的检测,强烈建议设置为 true 。

C、minEvictableIdleTimeMillis 参数:连接池中连接最大空闲时间(毫秒),连接数 > minIdle && 空闲时间 > minEvictableIdleTimeMillis 。

D、maxEvictableIdleTimeMillis 参数:连接池中连接最大空闲时间,空闲时间 > maxEvictableIdleTimeMillis,不管连接池中的连接数是否小于最小连接数 。

E、testOnBorrow 参数:开启连接的检测,获取连接时检测是否有效,假如设置为 true ,可以最大程度的保证连接的可靠性,但性能会变很差 。

笔者建议在配置这些参数时,和 DBA、架构师做好提前沟通,每个公司的数据库配置策略并不相同,假如数据库配置连接存活时间很短,那么就需要适当减少空闲连接检测间隔,并调低最大和最小空闲时间。

5 总结

这篇文章,笔者整理了数据库连接池的知识点。

1)连接池的优点:资源重用、提高性能、优化资源分配、连接管理;

2)JDBC 连接池:实现数据源接口javax.sql.DataSource,这个类位于 Java 标准库;

3)连接池 Druid 实现原理:

  • 核心方法:初始化、创建连接、获取连接、归还连接、销毁连接。
  • 存储容器:连接池数组、销毁连接数组、保活连接数组。
  • 线程模型:独立的创建连接线程和销毁连接线程。
  • 锁机制:在创建连接、获取连接时,都会加锁,通过两个 Condition 对象 empty 、notEmpty 分别控制创建连接线程和获取连接线程的等待和唤醒。

4)连接池保活策略

配置连接池参数时,和 DBA、架构师做好提前沟通,每个公司的数据库配置策略并不相同,假如数据库配置连接存活时间很短,那么就需要适当减少空闲连接检测间隔,并调低最大和最小空闲时间。

最后,数据库连接池、线程池都是对象池的思想。对象池是一种设计模式,用于管理可重复使用的对象,以减少对象的创建和销毁开销。

笔者会在接下来的文章里为大家详解,敬请期待:

  • 如何使用池化框架 Commons Pool ;
  • .NETty 如何实现简单的连接池。

参考文章:

https://segmentfault.com/a/1190000043208041

https://blog.csdn.net/weixin_43790613/article/details/133940617

https://blog.csdn.net/yaomingyang/article/details/123145662



Tags:Druid   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
再有人问你数据库连接池 Druid 的原理,这篇文章甩给他!
SpringBoot项目中,数据库连接池已经成为标配,然而,我曾经遇到过不少连接池异常导致业务错误的事故。很多经验丰富的工程师也可能不小心在这方面出现问题。在这篇文章中,我们将探...【详细内容】
2023-12-11  Search: Druid  点击:(213)  评论:(0)  加入收藏
利用Apache Kafka、Flink和Druid构建实时数据架构
译者 | 陈峻审校 | 重楼如今,对于使用批处理工作流程的数据团队而言,要满足业务的实时要求并非易事。从数据的交付、处理到分析,整个批处理工作流往往需要大量的等待,其中包括:等...【详细内容】
2023-12-11  Search: Druid  点击:(227)  评论:(0)  加入收藏
SpringBoot整合Druid进行SQL监控、SQL慢查询
一、前言当我们在企业开发时,数据库连接池是一个至关重要的组成部分。一个优秀的数据库连接池可以显著提高应用程序的性能和可伸缩性。在Java生态系统中,有很多连接池:Druid、H...【详细内容】
2023-09-01  Search: Druid  点击:(348)  评论:(0)  加入收藏
Spring Boot、Druid、MyBatis Plus和Sharding JDBC分表技术详解
我们使用了Druid、MyBatis Plus和Sharding JDBC来实现分表功能。其中,Druid是一个高性能的数据库连接池,MyBatis Plus是一个基于MyBatis的ORM框架,Sharding JDBC是一个分库分表...【详细内容】
2023-03-13  Search: Druid  点击:(278)  评论:(0)  加入收藏
数据库连接池为什么首选Druid
Druid是阿里巴巴的一个开源项目,号称为监控而生的数据库连接池,在功能、性能、扩展性方面都超过其他,例如 DBCP、C3P0、BoneCP、Proxool、JBoss、DataSource 等连接池,而且Druid已经在阿里巴巴部署了超过600个应用,通过了...【详细内容】
2021-06-17  Search: Druid  点击:(367)  评论:(0)  加入收藏
OLAP引擎:基于Druid组件进行数据统计分析
一、Druid概述1、Druid简介Druid是一款基于分布式架构的OLAP引擎,支持数据写入、低延时、高性能的数据分析,具有优秀的数据聚合能力与实时查询能力。在大数据分析、实时计算、...【详细内容】
2021-04-06  Search: Druid  点击:(348)  评论:(0)  加入收藏
Apache Druid 高性能的实时分析型数据库
目前广为人知的Druid有两个,一个是阿里巴巴开源的Durid数据库连接池,一个是MetaMarkets开源的分布式、实时多维OLAP分析的数据处理系统。这篇文章将介绍后者,即Apache Druid。...【详细内容】
2021-01-12  Search: Druid  点击:(699)  评论:(0)  加入收藏
基于 Apache Druid 的实时分析平台在爱奇艺的实践
最近几年大数据技术在各行各业得到广泛应用,为企业的运营决策和各种业务提供支持。随着数据的增长,业务对数据时效性的要求,给企业的大数据分析带来了巨大挑战。针对海量数据的...【详细内容】
2020-06-11  Search: Druid  点击:(466)  评论:(0)  加入收藏
是什么使Apache Druid非常适合实时分析?
> Photo by Carlos Muza on Unsplash Apache druid是最流行的在线分析处理(OLAP)开源解决方案之一。 Airbnb和Netflix等许多科技公司都使用它来对每分钟包含数百万个事件的数...【详细内容】
2020-04-17  Search: Druid  点击:(372)  评论:(0)  加入收藏
详解三大数据库连接池c3p0,dbcp与druid的区别与联系
概述说到druid,这个还是以前在开源中国项目中看到的,说是比较好的数据连接池。今天就分享下常见的三大连接池--c3p0,dbcp与druid。功能1、DBCPDBCP是一个依赖Jakarta commons-p...【详细内容】
2019-09-03  Search: Druid  点击:(802)  评论:(0)  加入收藏
▌简易百科推荐
向量数据库落地实践
本文基于京东内部向量数据库vearch进行实践。Vearch 是对大规模深度学习向量进行高性能相似搜索的弹性分布式系统。详见: https://github.com/vearch/zh_docs/blob/v3.3.X/do...【详细内容】
2024-04-03  京东云开发者    Tags:向量数据库   点击:(4)  评论:(0)  加入收藏
原来 SQL 函数是可以内联的!
介绍在某些情况下,SQL 函数(即指定LANGUAGE SQL)会将其函数体内联到调用它的查询中,而不是直接调用。这可以带来显著的性能提升,因为函数体可以暴露给调用查询的规划器,从而规划器...【详细内容】
2024-04-03  红石PG  微信公众号  Tags:SQL 函数   点击:(3)  评论:(0)  加入收藏
如何正确选择NoSQL数据库
译者 | 陈峻审校 | 重楼Allied Market Research最近发布的一份报告指出,业界对于NoSQL数据库的需求正在持续上升。2022年,全球NoSQL市场的销售额已达73亿美元,预计到2032年将达...【详细内容】
2024-03-28    51CTO  Tags:NoSQL   点击:(13)  评论:(0)  加入收藏
为什么数据库连接池不采用 IO 多路复用?
这是一个非常好的问题。IO多路复用被视为是非常好的性能助力器。但是一般我们在使用DB时,还是经常性采用c3p0,tomcat connection pool等技术来与DB连接,哪怕整个程序已经变成以...【详细内容】
2024-03-27  dbaplus社群    Tags:数据库连接池   点击:(12)  评论:(0)  加入收藏
八个常见的数据可视化错误以及如何避免它们
在当今以数据驱动为主导的世界里,清晰且具有洞察力的数据可视化至关重要。然而,在创建数据可视化时很容易犯错误,这可能导致对数据的错误解读。本文将探讨一些常见的糟糕数据可...【详细内容】
2024-03-26  DeepHub IMBA  微信公众号  Tags:数据可视化   点击:(6)  评论:(0)  加入收藏
到底有没有必要分库分表,如何考量的
关于是否需要进行分库分表,可以根据以下考量因素来决定: 数据量和负载:如果数据量巨大且负载压力较大,单一库单一表可能无法满足性能需求,考虑分库分表。 数据增长:预估数据增长...【详细内容】
2024-03-20  码上遇见你  微信公众号  Tags:分库分表   点击:(13)  评论:(0)  加入收藏
在 SQL 中写了 in 和 not in,技术总监说要炒了我……
WHY?IN 和 NOT IN 是比较常用的关键字,为什么要尽量避免呢?1、效率低项目中遇到这么个情况:t1表 和 t2表 都是150w条数据,600M的样子,都不算大。但是这样一句查询 ↓select *...【详细内容】
2024-03-18  dbaplus社群    Tags:SQL   点击:(5)  评论:(0)  加入收藏
应对慢SQL的致胜法宝:7大实例剖析+优化原则
大促备战,最大的隐患项之一就是慢SQL,对于服务平稳运行带来的破坏性最大,也是日常工作中经常带来整个应用抖动的最大隐患,在日常开发中如何避免出现慢SQL,出现了慢SQL应该按照什...【详细内容】
2024-03-14  京东云开发者    Tags:慢SQL   点击:(4)  评论:(0)  加入收藏
过去一年,我看到了数据库领域的十大发展趋势
作者 | 朱洁策划 | 李冬梅过去一年,行业信心跌至冰点2022 年中,红衫的一篇《适应与忍耐》的报告,对公司经营提出了预警,让各个公司保持现金流,重整团队,想办法增加盈利。这篇报告...【详细内容】
2024-03-12    InfoQ  Tags:数据库   点击:(25)  评论:(0)  加入收藏
SQL优化的七个方法,你会哪个?
一、插入数据优化 普通插入:在平时我们执行insert语句的时候,可能都是一条一条数据插入进去的,就像下面这样。INSERT INTO `department` VALUES(1, '研发部(RD)', &#39...【详细内容】
2024-03-07  程序员恰恰  微信公众号  Tags:SQL优化   点击:(19)  评论:(0)  加入收藏
站内最新
站内热门
站内头条