python爬取分析超级大乐透历史开奖数据第1/2页

程序员文章站 2022-06-27 20:32:50

博主作为爬虫初学者，本次使用了requests和beautifulsoup库进行数据的爬取爬取网站：http://datachart.500.com/dlt/history/history.shtml...

博主作为爬虫初学者，本次使用了requests和beautifulsoup库进行数据的爬取

爬取网站：http://datachart.500.com/dlt/history/history.shtml —500彩票网
（分析后发现网站源代码并非是通过页面跳转来查找不同的数据，故可通过f12查找network栏找到真正储存所有历史开奖结果的网页）

如图：

python爬取分析超级大乐透历史开奖数据第1/2页

爬虫部分：

from bs4 import beautifulsoup #引用beautifulsoup库
import requests     #引用requests
import os      #os
import pandas as pd
import csv
import codecs

lst=[]
url='http://datachart.500.com/dlt/history/newinc/history.php?start=07001&end=21018'
r = requests.get(url)      
r.encoding='utf-8'
text=r.text
soup = beautifulsoup(text, "html.parser")
tbody=soup.find('tbody',id="tdata")
tr=tbody.find_all('tr')
td=tr[0].find_all('td')
for page in range(0,14016):
 td=tr
                            12下一页阅读全文
                            
                                您可能感兴趣的文章:python爬虫实例——爬取美团美食数据python基于pandas爬取网页表格数据python 爬取疫情数据的源码用python爬取历史天气数据的方法示例基于python的post请求数据爬取的方法详解python3实现的爬虫爬取数据并存入mysql数据库操作示例

这篇文章主要介绍了python学习之编写查询ip程序 ,需要的朋友可以参考下
2016-02-02
numpy 数学函数及代数运算的实现代码

这篇文章主要介绍了numpy 数学函数及代数运算的实现代码,小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧
2018-07-07
在python中使用模块的教程

这篇文章主要介绍了在python中使用模块的教程,示例代码基于python2.x版本,需要的朋友可以参考下
2015-04-04
在python中表示一个对象的方法

这篇文章主要介绍了在python中表示一个对象的方法，本文通过实例代码给大家介绍的非常详细，具有一定的参考借鉴价值,需要的朋友可以参考下
2019-06-06
今天小编就为大家分享一篇pytorch 实现删除tensor中的指定行列，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2020-01-01
python 求数组局部最大值的实例

今天小编就为大家分享一篇python 求数组局部最大值的实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2019-11-11
python命令行click参数用法解析

这篇文章主要介绍了python命令行click参数用法解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
2019-12-12
解决python二维数组赋值问题

今天小编就为大家分享一篇解决python二维数组赋值问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2019-11-11
在本篇文章里小编给大家整理的是一篇关于python中子类与父类的关系基础知识点内容，对此有兴趣的朋友们可以学习下。
2021-02-02
这篇文章主要为大家详细介绍了pygame实现弹力球及其变速效果，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
2017-07-07