Python实现从SQL型数据库读写dataframe型数据的方法【基于pandas】

本文实例讲述了python实现从sql型数据库读写dataframe型数据的方法。分享给大家供大家参考，具体如下：

python的pandas包对表格化的数据处理能力很强，而sql数据库的数据就是以表格的形式储存，因此经常将sql数据库里的数据直接读取为dataframe，分析操作以后再将dataframe存到sql数据库中。而pandas中的read_sql和to_sql函数就可以很方便得从sql数据库中读写数据。

参见pandas.read_sql的文档，read_sql主要有如下几个参数：

• sql:sql命令字符串
• con：连接sql数据库的engine，一般可以用sqlalchemy或者pymysql之类的包建立
• index_col: 选择某一列作为index
• coerce_float:非常有用，将数字形式的字符串直接以float型读入
• parse_dates:将某一列日期型字符串转换为datetime型数据，与pd.to_datetime函数功能类似。可以直接提供需要转换的列名以默认的日期形式转换，也可以用字典的格式提供列名和转换的，比如{column_name: format string}（format string："%y:%m:%h:%m:%s"）。
• columns:要选取的列。一般没啥用，因为在sql命令里面一般就指定要选择的列了
• chunksize：如果提供了一个整数值，那么就会返回一个generator，每次输出的行数就是提供的值的大小。
• params：其他的一些执行参数，没用过不太清楚。。。

以链接常见的mysql数据库为例：

import pandas as pd
import pymysql
import sqlalchemy
from sqlalchemy import create_engine
# 1. 用sqlalchemy构建数据库链接engine
connect_info = 'mysql+pymysql://{}:{}@{}:{}/{}?charset=utf8'.format(db_user, db_pass, db_host, db_port, database) #1
engine = create_engine(connect_info)
# sql 命令
sql_cmd = "select * from table"
df = pd.read_sql(sql=sql_cmd, con=engine)
# 2. 用dbapi构建数据库链接engine
con = pymysql.connect(host=localhost, user=username, password=password, database=dbname, charset='utf8', use_unicode=true)
df = pd.read_sql(sql_cmd, con)

解释一下 #1: 这个是sqlalchemy中链接数据库的url格式：dialect[+driver]://user:password@host/dbname[?key=value..]。dialect代表书库局类型，比如mysql, oracle, postgresql。driver代表dbapi的名字，比如psycopg2,pymysql等。具体说明可以参考。此外由于数据里面有中文的时候就需要将charset设为utf8。

to_sql

参见pandas.to_sql函数，主要有以下几个参数：

• name: 输出的表名
• con: 与read_sql中相同
• if_exits： 三个模式：fail，若表存在，则不输出；replace：若表存在，覆盖原来表里的数据；append：若表存在，将数据写到原表的后面。默认为fail
• index：是否将df的index单独写到一列中
• index_label:指定列作为df的index输出，此时index为true
• chunksize： 同read_sql
• dtype: 指定列的输出到数据库中的数据类型。字典形式储存：{column_name: sql_dtype}。常见的数据类型有sqlalchemy.types.integer(), sqlalchemy.types.nvarchar(),sqlalchemy.datetime()等，具体数据类型可以参考

还是以写到mysql数据库为例：

df.to_sql(name='table', 
   con=con, 
   if_exists='append', 
   index=false,
   dtype={'col1':sqlalchemy.types.integer(),
     'col2':sqlalchemy.types.nvarchar(length=255),
     'col_time':sqlalchemy.datetime(),
     'col_bool':sqlalchemy.types.boolean
   })

注：如果不提供dtype,to_sql会自动根据df列的dtype选择默认的数据类型输出，比如字符型会以sqlalchemy.types.text类型输出，相比nvarchar，text类型的数据所占的空间更大，所以一般会指定输出为nvarchar；而如果df的列的类型为np.int64时，将会导致无法识别并转换成integer型，需要事先转换成int类型（用map，apply函数可以方便的转换）。

参考：

http://docs.sqlalchemy.org/en/latest/core/type_basics.html#sql-standard-and-multiple-vendor-types
http://pandas.pydata.org/pandas-docs/stable/generated/pandas.read_sql.html
http://docs.sqlalchemy.org/en/latest/core/engines.html
http://docs.sqlalchemy.org/en/latest/core/type_basics.html#sql-standard-and-multiple-vendor-types
http://*.com/questions/30631325/writing-to-mysql-database-with-pandas-using-sqlalchemy-to-sql
http://*.com/questions/5687718/how-can-i-insert-data-into-a-mysql-database
http://*.com/questions/32235696/pandas-to-sql-gives-unicode-decode-error
http://*.com/questions/34383000/pandas-to-sql-all-columns-as-nvarchar

更多关于python相关内容感兴趣的读者可查看本站专题：《python常见数据库操作技巧汇总》、《python数学运算技巧总结》、《python数据结构与算法教程》、《python函数使用技巧总结》、《python字符串操作技巧汇总》、《python入门与进阶经典教程》及《python文件与目录操作技巧汇总》

希望本文所述对大家python程序设计有所帮助。