走进JavaWeb技术世界3：JDBC的进化与连接池技术

本系列文章将整理到我在github上的《java面试指南》仓库，更多精彩内容请到我的仓库里查看

https://github.com/h2pl/java-tutorial

喜欢的话麻烦点下star哈

文章首发于我的个人博客：

www.how2playlife.com

本文是微信公众号【java技术江湖】的《走进javaweb技术世界》其中一篇，本文部分内容来源于网络，为了把本文主题讲得清晰透彻，也整合了很多我认为不错的技术博客内容，引用其中了一些比较好的博客文章，如有侵权，请联系作者。
该系列博文会告诉你如何从入门到进阶，从servlet到框架，从ssm再到springboot，一步步地学习javaweb基础知识，并上手进行实战，接着了解javaweb项目中经常要使用的技术和组件，包括日志组件、maven、junit，等等内容，以便让你更完整地了解整个java web技术体系，形成自己的知识框架。为了更好地总结和检验你的学习成果，本系列文章也会提供每个知识点对应的面试题以及参考答案。

如果对本系列文章有什么建议，或者是有什么疑问的话，也可以关注公众号【java技术江湖】联系作者，欢迎你参与本系列博文的创作和修订。

jdbc数据库连接池

谈谈连接池、线程池技术原理

做互联网研发，最早接触使用jdbc技术，为了数据库连接能够复用，会用到c3p0、dbcp等数据库连接池。应该是研发人员最早接触的数据库连接池，再到httpclient http连接池，再到微服务netty连接池，redis客户端连接池，以及jdk中线程池技术。

       这么多数据库、http、netty连接池，jdk线程池，本质上都是连接池技术，连接池技术核心是连接或者说创建的资源复用。

       连接池技术核心：通过减少对于连接创建、关闭来提升性能。用于用户后续使用，好处是后续使用不用在创建连接以及线程，因为这些都需要相关很多文件、连接资源、操作系统内核资源支持来完成构建，会消耗大量资源，并且创建、关闭会消耗应用程序大量性能。

       网络连接本身会消耗大量内核资源，在linux系统下，网络连接创建本身tcp/ip协议栈在内核里面，连接创建关闭会消耗大量文件句柄（linux中万物皆文件，一种厉害抽象手段）系统资源。当下更多是应用tcp技术完成网络传输，反复打开关闭，需要操作系统维护大量tcp协议栈状态。

       连接池本质上是构建一个容器，容器来存储创建好的线程、http连接、数据库连接、netty连接等。对于使用方相当于黑盒，按照接口进行使用就可以了。各个连接池构建、使用管理详细过程大概分成以下三部分。

       第一部分：首先初始化连接池，根据设置相应参数，连接池大小、核心线程数、核心连接数等参数，初始化创建数据库、http、netty连接以及jdk线程。

       第二部分：连接池使用，前边初始化好的连接池、线程池，直接从连接池、线程中取出资源即可进行使用，使用完后要记得交还连接池、线程池，通过池容器来对资源进行管理。

       第三部分：对于连接池维护，连接池、线程池来维护连接、线程状态，不可用连接、线程进行销毁，正在使用连接、线程进行状态标注，连接、线程不够后并且少于设置最大连接、线程数，要进行新连接、线程创建。

       通过上边可以了解到各种连接池技术以及线程池原理或者说套路，理解原理才能不被纷繁复杂表象掩盖。

       下面谈谈构建自己连接池，其实理解了连接池、线程原理，可以使用arraylist来构建自己连接池、线程池。初始化时创建配置连接数、线程，存储在arraylist容器中，使用时从arraylist从取出连接、线程进行使用，执行完任务后，提交回arraylist容器。前提条件是单线程，在多线程状态下要用线程安全容器。

       前边根据原理介绍了一个简单连接池、线程池怎样构建，实际工业级别线程池还要考虑到连接状态，短连接重连，线程池维护管理高效，线程池稳定等多个因素。

       需要用到连接池而又没有相关开源产品可用时，java连接池可以使用common-pool2来构建，比如google开源grpc技术，本身是高性能跨平台技术，但目前作为微服务使用，没有连接池、负载均衡等相应配套，这时可以根据需要自己基于java容器构建自己连接池。也可以利用common-pool2构建连接池来提升应用性能，以及保持高可用。common-pool2本身不仅仅可以构建连接池使用，还可以用来构建对象池。

       连接池还有一个副作用就是实现了高可用，在微服务场景下一个连接不可用，那么再从netty连接池中取出一个进行使用，避免了连接不可用问题。

       掌握原理从比较全面掌握各种池技术，避免数据库连接池，再到httpclient http连接池，再到微服务netty连接池，redis客户端连接池，以及jdk中线程池，对象池各种各样池技术，使我们眼花缭乱，花费过多时间，掌握原理机制以不变应万变。

       推广一下这个方法，其他技术也是类似，深入掌握其原理，就可以明白其他类似技术相似原理，避免疲于应对各种新技术。但每一种架构设计与实现又与领域有着关系，也不可讲原理不顾实际情况扩展。理论与架构设计、源码学习相结合才是最好的，希望有帮助。

jdbc 数据库连接池 

转自：

什么情况下使用连接池?

对于一个简单的数据库应用，由于对于数据库的访问不是很频繁。这时可以简单地在需要访问数据库时，就新创建一个连接，用完后就关闭它，这样做也不会带来什么明显的性能上的开销。但是对于一个复杂的数据库应用，情况就完全不同了。频繁的建立、关闭连接，会极大的减低系统的性能，因为对于连接的使用成了系统性能的瓶颈。

使用连接池的好处

1. 连接复用。通过建立一个数据库连接池以及一套连接使用管理策略，使得一个数据库连接可以得到高效、安全的复用，避免了数据库连接频繁建立、关闭的开销。
2. 对于共享资源，有一个很著名的设计模式：资源池。该模式正是为了解决资源频繁分配、释放所造成的问题的。把该模式应用到数据库连接管理领域，就是建立一个数据库连接池，提供一套高效的连接分配、使用策略，最终目标是实现连接的高效、安全的复用。

连接池的实现

数据库连接池的基本原理是在内部对象池中维护一定数量的数据库连接，并对外暴露数据库连接获取和返回方法。

外部使用者可通过 getconnection 方法获取连接，使用完毕后再通过 close 方法将连接返回，注意此时连接并没有关闭，而是由连接池管理器回收，并为下一次使用做好准备。

java 中有一个 datasource 接口, 数据库连接池就是 datasource 的一个实现

常用数据库连接池

• apache dbcp

• c3p0

• druid

  • github

一、jdbc数据库连接池的必要性

　　在使用开发基于数据库的web程序时，传统的模式基本是按以下步骤：

　　①在主程序（如servlet、beans）中建立数据库连接。
　　②进行sql操作
　　③断开数据库连接。

　　这种模式开发，存在的问题:

　　①普通的jdbc数据库连接使用 drivermanager 来获取，每次向数据库建立连接的时候都要将 connection 加载到内存中，再验证用户名和密码(得花费0.05s～1s的时间)。需要数据库连接的时候，就向数据库要求一个，执行完成后再断开连接。这样的方式将会消耗大量的资源和时间。数据库的连接资源并没有得到很好的重复利用.若同时有几百人甚至几千人在线，频繁的进行数据库连接操作将占用很多的系统资源，严重的甚至会造成服务器的崩溃。
　　②对于每一次数据库连接，使用完后都得断开。否则，如果程序出现异常而未能关闭，将会导致数据库系统中的内存泄漏，最终将导致重启数据库。
　　③这种开发不能控制被创建的连接对象数，系统资源会被毫无顾及的分配出去，如连接过多，也可能导致内存泄漏，服务器崩溃。

二、数据库连接池（connection pool）

　　数据库连接池简单介绍

　　为解决传统开发中的数据库连接问题，可以采用数据库连接池技术。

　　数据库连接池的基本思想就是为数据库连接建立一个“缓冲池”。预先在缓冲池中放入一定数量的连接，当需要建立数据库连接时，只需从“缓冲池”中取出一个，使用完毕之后再放回去。

　　数据库连接池负责分配、管理和释放数据库连接，它允许应用程序重复使用一个现有的数据库连接，而不是重新建立一个。

　　数据库连接池在初始化时将创建一定数量的数据库连接放到连接池中，这些数据库连接的数量是由最小数据库连接数来设定的。无论这些数据库连接是否被使用，连接池都将一直保证至少拥有这么多的连接数量。连接池的最大数据库连接数量限定了这个连接池能占有的最大连接数，当应用程序向连接池请求的连接数超过最大连接数量时，这些请求将被加入到等待队列中。

　　数据库连接池工作原理：

　　数据库连接池技术的优点

　　资源重用：

　　①由于数据库连接得以重用，避免了频繁创建，释放连接引起的大量性能开销。在减少系统消耗的基础上，另一方面也增加了系统运行环境的平稳性。

　　更快的系统反应速度：
　　数据库连接池在初始化过程中，往往已经创建了若干数据库连接置于连接池中备用。此时连接的初始化工作均已完成。对于业务请求处理而言，直接利用现有可用连接，避免了数据库连接初始化和释放过程的时间开销，从而减少了系统的响应时间

　　新的资源分配手段：
　　对于多应用共享同一数据库的系统而言，可在应用层通过数据库连接池的配置，实现某一应用最大可用数据库连接数的限制，避免某一应用独占所有的数据库资源

　　统一的连接管理，避免数据库连接泄露：
　　在较为完善的数据库连接池实现中，可根据预先的占用超时设定，强制回收被占用连接，从而避免了常规数据库连接操作中可能出现的资源泄露

三、两种开源的数据库连接池

　　jdbc 的数据库连接池使用 javax.sql.datasource 来表示，datasource 只是一个接口，该接口通常由服务器(weblogic, websphere, tomcat)提供实现，也有一些开源组织提供实现：
　　①dbcp 数据库连接池
　　②c3p0 数据库连接池

　　datasource 通常被称为数据源，它包含连接池和连接池管理两个部分，习惯上也经常把 datasource称为连接池

　　数据源和数据库连接不同，数据源无需创建多个，它是产生数据库连接的工厂，因此整个应用只需要一个数据源即可。

　　当数据库访问结束后，程序还是像以前一样关闭数据库连接：conn.close(); 但上面的代码并没有关闭数据库的物理连接，它仅仅把数据库连接释放，归还给了数据库连接池。

参考文章

微信公众号

个人公众号：黄小斜

黄小斜是跨考软件工程的 985 硕士，自学 java 两年，拿到了 bat 等近十家大厂 offer，从技术小白成长为阿里工程师。

作者专注于 java 后端技术栈，热衷于分享程序员干货、学习经验、求职心得和程序人生，目前黄小斜的csdn博客有百万+访问量，知乎粉丝2w+，全网已有10w+读者。

黄小斜是一个斜杠青年，坚持学习和写作，相信终身学习的力量，希望和更多的程序员交朋友，一起进步和成长！

原创电子书:
关注公众号【黄小斜】后回复【原创电子书】即可领取我原创的电子书《菜鸟程序员修炼手册：从技术小白到阿里巴巴java工程师》

程序员3t技术学习资源： 一些程序员学习技术的资源大礼包，关注公众号后，后台回复关键字 “资料” 即可免费无套路获取。

考研复习资料：
计算机考研大礼包，都是我自己考研复习时用的一些复习资料,包括公共课和专业的复习视频，这里也推荐给大家，关注公众号后，后台回复关键字 “考研” 即可免费获取。

技术公众号：java技术江湖

如果大家想要实时关注我更新的文章以及分享的干货的话，可以关注我的公众号【java技术江湖】一位阿里 java 工程师的技术小站，作者黄小斜，专注 java 相关技术：ssm、springboot、mysql、分布式、中间件、集群、linux、网络、多线程，偶尔讲点docker、elk，同时也分享技术干货和学习经验，致力于java全栈开发！

java工程师必备学习资源: 一些java工程师常用学习资源，关注公众号后，后台回复关键字 “java” 即可免费无套路获取。

​