python和mysql交互操作实例详解【基于pymysql库】
本文实例讲述了python和mysql交互操作。分享给大家供大家参考,具体如下:
python要和mysql交互,我们利用pymysql
这个库。
下载地址:
https://github.com/pymysql/pymysql
安装(注意cd到我们项目的虚拟环境后):
cd 项目根目录/abc/bin/ #执行 ./python3 -m pip install pymysql
稍等片刻,就会把pymysql
库下载到项目虚拟环境abc/lib/python3.5/site-packages中。(注意我项目是这个路径,你的不一定)
文档地址:
使用:
import pymysql.cursors # 连接数据库 connection = pymysql.connect(host='localhost', user='root', password='root', db='test', charset='utf8mb4', cursorclass=pymysql.cursors.dictcursor) try: with connection.cursor() as cursor: # read a single record sql = "select * from news" cursor.execute(sql) result = cursor.fetchone() print(result) # {'id': 1, 'title': '本机新闻标题'} finally: connection.close()
我们连上了本地数据库test,从news表中取数据,数据结果为{'id': 1, 'title': '本机新闻标题'}
返回的结果是字典类型,这是因为在连接数据库的时候我们是这样设置的:
# 连接数据库 connection = pymysql.connect(host='localhost', user='root', password='root', db='test', charset='utf8mb4', cursorclass=pymysql.cursors.cursor)
我们把cursorclass
设置的是:pymysql.cursors.dictcursor
。
字典游标,所以结果集是字典类型。
我们修改为如下:
cursorclass=pymysql.cursors.cursor
结果集如下:
(1, '本机新闻标题')
变成了元组类型。我们还是喜欢字典类型,因为其中包含了表字段。
cursor对象
主要有4种:
cursor 默认,查询返回list或者tuple
dictcursor 查询返回dict,包含字段名
sscursor 效果同cursor,无缓存游标
ssdictcursor 效果同dictcursor,无缓存游标。
插入
try: with connection.cursor() as cursor: sql = "insert into news(`title`)values (%s)" cursor.execute(sql,["今天的新闻"]) # 手动提交 默认不自动提交 connection.commit() finally: connection.close()
一次性插入多条数据
try: with connection.cursor() as cursor: sql = "insert into news(`title`)values (%s)" cursor.executemany(sql,["新闻标题1","新闻标题2"]) # 手动提交 默认不自动提交 connection.commit() finally: connection.close()
注意executemany()
有别于execute()
。
sql绑定参数
sql = "insert into news(`title`)values (%s)" cursor.executemany(sql,["新闻标题1","新闻标题2"])
我们用%s
占位,执行sql的时候才传递具体的值。上面我们用的是list类型:
["新闻标题1","新闻标题2"]
可否用元组类型呢?
cursor.executemany(sql,("元组新闻1","元组新闻2"))
同样成功插入到数据表了。
把前面分析得到的基金数据入库
创建一个基金表:
create table `fund` ( `code` varchar(50) not null, `name` varchar(255), `nav` decimal(5,4), `accnav` decimal(5,4), `updated_at` datetime, primary key (`code`) ) comment='基金表';
准备插入sql:
注意%(code)s
这种占位符,要求我们执行这sql的时候传入的参数必须是字典数据类型。
mysql小知识:
在插入的时候如果有重复的主键,就更新
insert into 表名 xxxx on duplicate key update 表名
我们这里要准备执行的sql就变成这样了:
insert into fund(code,name,nav,accnav,updated_at)values (%(code)s,%(name)s,%(nav)s,%(accnav)s,%(updated_at)s) on duplicate key update updated_at=%(updated_at)s,nav=%(nav)s,accnav=%(accnav)s;
1、回顾我们前面分析处理的基金网站数据
#... codes = soup.find("table",id="otable").tbody.find_all("td","bzdm") result = () # 初始化一个元组 for code in codes: result += ({ "code":code.get_text(), "name":code.next_sibling.find("a").get_text(), "nav":code.next_sibling.next_sibling.get_text(), "accnav":code.next_sibling.next_sibling.next_sibling.get_text() },)
最后我们是把数据存放在一个result
的元组里了。
我们打印这个result
可以看到:
元组里每个元素 都是字典。
看字典是不是我们数据表的字段能对应了,但还少一个updated_at
字段的数据。
2、我们把分析的网页数据重新处理一下
from datetime import datetime updated_at = datetime.now().strftime("%y-%m-%d %h:%m:%s") result = () # 初始化一个元组 for code in codes: result += ({ "code":code.get_text(), "name":code.next_sibling.find("a").get_text(), "nav":code.next_sibling.next_sibling.get_text(), "accnav":code.next_sibling.next_sibling.next_sibling.get_text(), "updated_at":updated_at },)
3、最后插入的代码
try: with connection.cursor() as cursor: sql = """insert into fund(`code`,`name`,`nav`,`accnav`,`updated_at`)values (%(code)s,%(name)s,%(nav)s,%(accnav)s,%(updated_at)s) on duplicate key update `updated_at`=%(updated_at)s,`nav`=%(nav)s,`accnav`=%(accnav)s""" cursor.executemany(sql,result) # 手动提交 默认不自动提交 connection.commit() finally: connection.close()
4、完整的分析html内容(基金网站网页内容),然后插入数据库代码:
from bs4 import beautifulsoup import pymysql.cursors from datetime import datetime # 读取文件内容 with open("1.txt", "rb") as f: html = f.read().decode("utf8") f.close() # 分析html内容 soup = beautifulsoup(html,"html.parser") # 所有基金编码 codes = soup.find("table",id="otable").tbody.find_all("td","bzdm") updated_at = datetime.now().strftime("%y-%m-%d %h:%m:%s") result = () # 初始化一个元组 for code in codes: result += ({ "code":code.get_text(), "name":code.next_sibling.find("a").get_text(), "nav":code.next_sibling.next_sibling.get_text(), "accnav":code.next_sibling.next_sibling.next_sibling.get_text(), "updated_at":updated_at },) # 连接数据库 connection = pymysql.connect(host='localhost', user='root', password='root', db='test', charset='utf8mb4', cursorclass=pymysql.cursors.cursor) try: with connection.cursor() as cursor: sql = """insert into fund(`code`,`name`,`nav`,`accnav`,`updated_at`)values (%(code)s,%(name)s,%(nav)s,%(accnav)s,%(updated_at)s) on duplicate key update `updated_at`=%(updated_at)s,`nav`=%(nav)s,`accnav`=%(accnav)s""" cursor.executemany(sql,result) # 手动提交 默认不自动提交 connection.commit() finally: connection.close()
更多关于python相关内容感兴趣的读者可查看本站专题:《python常见数据库操作技巧汇总》、《python数学运算技巧总结》、《python数据结构与算法教程》、《python函数使用技巧总结》、《python字符串操作技巧汇总》、《python入门与进阶经典教程》及《python文件与目录操作技巧汇总》
希望本文所述对大家python程序设计有所帮助。
推荐阅读
-
python和mysql交互操作实例详解【基于pymysql库】
-
Python操作MySQL数据库实例详解【安装、连接、增删改查等】
-
PHP5.5基于mysqli连接MySQL数据库和读取数据操作实例详解
-
Python操作MySQL数据库的两种方式实例分析【pymysql和pandas】
-
python 3.6 +pyMysql 操作mysql数据库(实例讲解)
-
PHP5.5基于mysqli连接MySQL数据库和读取数据操作实例详解
-
Python操作MySQL数据库实例详解【安装、连接、增删改查等】
-
Python操作MySQL数据库的两种方式实例分析【pymysql和pandas】
-
python对mysql数据库操作的实例详解
-
python 3.6 +pyMysql 操作mysql数据库(实例讲解)