欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

Python抓取天气信息并存储原来这么简单

程序员文章站 2022-03-20 19:13:16
我们计划抓取的数据:杭州的天气信息 实现数据抓取的逻辑:使用python 请求 URL,会返回对应的 HTML 信息,我们解析 html,获得自己需要的数据。(很简单的逻辑) 第一步:创建 Python 文件 写第一段Python代码 这段代码类似于 Java 中的 Main 方法。可以直接鼠标右键 ......

我们计划抓取的数据:杭州的天气信息

实现数据抓取的逻辑:使用python 请求 url,会返回对应的 html 信息,我们解析 html,获得自己需要的数据。(很简单的逻辑)

第一步:创建 python 文件

Python抓取天气信息并存储原来这么简单
 

写第一段python代码

Python抓取天气信息并存储原来这么简单
 

这段代码类似于 java 中的 main 方法。可以直接鼠标右键,选择 run。

Python抓取天气信息并存储原来这么简单
 

第二步:请求rul

python 的强大之处就在于它有大量的模块(类似于java 的 jar 包)可以直接拿来使用。

我们需要安装一个 request 模块: file - setting - product - product interpreter

Python抓取天气信息并存储原来这么简单
 
Python抓取天气信息并存储原来这么简单
 

点击如上图的 + 号,就可以安装 python 模块了。搜索 requests 模块(有 s 噢),点击 install。

Python抓取天气信息并存储原来这么简单
 

我们顺便再安装一个beautifulsoup4 和 pymysql模块,beautifulsoup4 模块是用来解析 html 的,可以对象化 html 字符串。pymysql 模块是用来连接 mysql 数据库使用的。

Python抓取天气信息并存储原来这么简单
 
Python抓取天气信息并存储原来这么简单
 

  相关的模块都安装之后,就可以开心的敲代码了。

  定义一个 getcontent 方法:

Python抓取天气信息并存储原来这么简单
 

在 main 方法中调用:

Python抓取天气信息并存储原来这么简单
 

第三步:分析页面数据

定义一个 getdata 方法:

Python抓取天气信息并存储原来这么简单
 

上面的解析其实就是按照 html 的规则解析的。可以打开在开发者模式中(f12),看一下页面的元素分布。

Python抓取天气信息并存储原来这么简单
 

在 main 方法中调用:

Python抓取天气信息并存储原来这么简单
 

数据写入excel

现在我们已经在 python 中拿到了想要的数据,对于这些数据我们可以先存放起来,比如把数据写入 csv 中。

定义一个 writedate 方法:

Python抓取天气信息并存储原来这么简单
 

在 main 方法中调用:

Python抓取天气信息并存储原来这么简单
 

执行之后呢,再指定路径下就会多出一个 weather.csv文件,可以打开看一下内容。

Python抓取天气信息并存储原来这么简单
 
Python抓取天气信息并存储原来这么简单
 

  到这里最简单的数据抓取--储存就完成了。