Python 使用 PyMysql、DBUtils 创建连接池，提升性能

转自：

python 编程中可以使用 pymysql 进行数据库的连接及诸如查询/插入/更新等操作，但是每次连接 mysql 数据库请求时，都是独立的去请求访问，相当浪费资源，而且访问数量达到一定数量时，对 mysql 的性能会产生较大的影响。因此，实际使用中，通常会使用数据库的连接池技术，来访问数据库达到资源复用的目的。

解决方案：dbutils

dbutils 是一套 python 数据库连接池包，并允许对非线程安全的数据库接口进行线程安全包装。dbutils 来自 webware for python 。

原理：

1. 在程序创建连接的时候，可以从一个空闲的连接中获取，不需要重新初始化连接，提升获取连接的速度
2. 关闭连接的时候，把连接放回连接池，而不是真正的关闭，所以可以减少频繁地打开和关闭连接

例子

import pymysql
from dbutils.pooleddb import pooleddb

pool = pooleddb(pymysql,5,host='ip',user='user',passwd='passwd',db='db',port=3306,setsession=['set autocommit = 1']) # 5为连接池里的最少连接数，setsession=['set autocommit = 1']是用来设置线程池是否打开自动更新的配置，0为false，1为true

conn = pool.connection()  #以后每次需要数据库连接就是用connection（）函数获取连接就好了

cur=conn.cursor()

sql="select * from table"

count=cur.execute(sql)

results=cur.fetchall()

cur.close()

conn.close()

 

pooleddb 的参数：

pool = pooleddb(
creator=pymysql, # 使用链接数据库的模块
maxconnections=6, # 连接池允许的最大连接数，0和none表示不限制连接数
mincached=2, # 初始化时，链接池中至少创建的空闲的链接，0表示不创建
maxcached=5, # 链接池中最多闲置的链接，0和none不限制
maxshared=1, # 链接池中最多共享的链接数量，0和none表示全部共享。ps: 无用，因为pymysql和mysqldb等模块的 threadsafety都为1，所有值无论设置为多少，_maxcached永远为0，所以永远是所有链接都共享。
blocking=true, # 连接池中如果没有可用连接后，是否阻塞等待。true，等待；false，不等待然后报错
maxusage=none, # 一个链接最多被重复使用的次数，none表示无限制
setsession=[], # 开始会话前执行的命令列表。如：[“set datestyle to …”, “set time zone …”]
ping=0,
# ping mysql服务端，检查是否服务可用。
# 如：0 = none = never,
# 1 = default = whenever it is requested,
# 2 = when a cursor is created,
# 4 = when a query is executed,
# 7 = always
host=‘127.0.0.1’,
port=3306,
user=‘root’,
password=’’,
database=‘ziji’,
charset=‘utf8’
)

在 uwsgi 中，每个 http 请求都会分发给一个进程，连接池中配置的连接数都是一个进程为单位的（即上面的最大连接数，都是在一个进程中的连接数），而如果业务中，一个 http 请求中需要的 sql 连接数不是很多的话（其实大多数都只需要创建一个连接），配置的连接数配置都不需要太大。

连接池对性能的提升表现在：

1. 在程序创建连接的时候，可以从一个空闲的连接中获取，不需要重新初始化连接，提升获取连接的速度
2. 关闭连接的时候，把连接放回连接池，而不是真正的关闭，所以可以减少频繁地打开和关闭连接