Python爬虫与数据分析之爬虫技能：urlib库、xpath选择器、正则表达式
专栏目录：
python爬虫与数据分析之python教学视频、python源码分享，python
python爬虫与数据分析之基础教程：python的语法、字典、元组、列表
python爬虫与数据分析之进阶教程：文件操作、lambda表达式、递归、yield生成器
python爬虫与数据分析之模块：内置模块、开源模块、自定义模块
python爬虫与数据分析之爬虫技能：urlib库、xpath选择器、正则表达式
python爬虫与数据分析之京东爬虫实战：爬取京东商品并存入sqlite3数据库
python爬虫与数据分析之二手车平台数据获取和分析
python爬虫与数据分析之python开源爬虫项目汇总
http和https
http协议（hypertext transfer protocol，超文本传输协议）：是一种发布和接收 html页面的方法。
https（hypertext transfer protocol over secure socket layer）简单讲是http的安全版，在http下加入ssl层。
ssl（secure sockets layer 安全套接层）主要用于web的安全传输协议，在传输层对网络连接进行加密，保障在internet上数据传输的安全。
浏览器发送http请求的过程：
1. 当用户在浏览器的地址栏中输入一个url并按回车键之后，浏览器会向http服务器发送http请求。http请求主要分为“get”和“post”两种方法。
2. 当我们在浏览器输入url 的时候，浏览器发送一个request请求去获取 的html文件，服务器把response文件对象发送回给浏览器。
3. 浏览器分析response中的 html，发现其中引用了很多其他文件，比如images文件，css文件，js文件。 浏览器会自动再次发送request去获取图片，css文件，或者js文件。
4. 当所有的文件都下载成功后，网页会根据html语法结构，完整的显示出来了。
url（uniform / universal resource locator的缩写）
定义：统一资源定位符，是用于完整地描述internet上网页和其他资源的地址的一种标识方法。
基本格式：scheme://host[:port#]/path/…/[?query-string][#anchor]
- scheme：协议(例如：http, https, ftp)
- host：服务器的ip地址或者域名
- port#：服务器的端口（如果是走协议默认端口，缺省端口80）
- path：访问资源的路径
- query-string：参数，发送给http服务器的数据
- anchor：锚（跳转到网页的指定锚点位置）
客户端http请求
url只是标识资源的位置，而http是用来提交和获取资源。客户端发送一个http请求到服务器的请求消息，包括以下格式：
请求行、请求头部、空行、请求数据
一个典型的http请求
1 get https://www.baidu.com/ http/1.1 2 host: www.baidu.com 3 connection: keep-alive 4 upgrade-insecure-requests: 1 5 user-agent: mozilla/5.0 (windows nt 6.1; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/60.0.3112.101 safari/537.36 6 accept: text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8 7 accept-encoding: gzip, deflate, br 8 accept-language: zh,zh-cn;q=0.8,ar;q=0.6,zh-tw;q=0.4 9 cookie: baiduid=ae4d1da6b2d6689bb8c557b3436893e3:fg=1; bidupsid=ae4d1da6b2d6689bb8c557b3436893e3; pstm=1501466227; bd_upn=12314353; bd_ck_sam=1; psino=1; h_ps_pssid=1420_25548_21080_20929; bdorz=b490b5ebf6f3cd402e515d22bcda1598; bdsvrtm=0
http请求方法
序号 方法 描述
1 get 请求指定的页面信息，并返回实体主体。
2 head 类似于get请求，只不过返回的响应中没有具体的内容，用于获取报头
3 post 向指定资源提交数据进行处理请求（例如提交表单或者上传文件），数据被包含在请求体中。post请求可能会导致新的资源的建立和/或已有资源的修改。
4 put 从客户端向服务器传送的数据取代指定的文档的内容。
5 delete 请求服务器删除指定的页面。
6 connect http/1.1协议中预留给能够将连接改为管道方式的代理服务器。
7 options 允许客户端查看服务器的性能。
8 trace 回显服务器收到的请求，主要用于测试或诊断。
主要方法get和post请求
- get是从服务器上获取数据，post是向服务器传送数据
- get请求参数显示，都显示在浏览器网址上，http服务器根据该请求所包含url中的参数来产生响应内容，即“get”请求的参数是url的一部分。 例如：
http://www.baidu.com/s?wd=chinese - post请求参数在请求体当中，消息长度没有限制而且以隐式的方式进行发送，通常用来向http服务器提交量比较大的数据（比如请求中包含许多参数或者文件上传操作等），请求的参数包含在“content-type”消息头里，指明该消息体的媒体类型和编码.
http响应状态码
浏览器内核
浏览器 内核
ie trident
chrome webkit
firefox gecho
opera pesto
safari(apple) webkit
http代理工具fiddler
fiddler是一款强大web调试工具，它能记录所有客户端和服务器的http请求.
request部分详解
- headers —— 显示客户端发送到服务器的 http 请求的 header，显示为一个分级视图，包含了 web 客户端信息、cookie、传输状态等。
- textview —— 显示 post 请求的 body 部分为文本。
- webforms —— 显示请求的 get 参数 和 post body 内容。
- hexview —— 用十六进制数据显示请求。
- auth —— 显示响应 header 中的 proxy-authorization(代理身份验证) 和 authorization(授权) 信息.
- raw —— 将整个请求显示为纯文本。
- json - 显示json格式文件。
- xml —— 如果请求的 body 是 xml 格式，就是用分级的 xml 树来显示它。
responser部分详解
- transformer —— 显示响应的编码信息。
- headers —— 用分级视图显示响应的 header。
- textview —— 使用文本显示相应的 body。
- imagevies —— 如果请求是图片资源，显示响应的图片。
- hexview —— 用十六进制数据显示响应。
- webview —— 响应在 web 浏览器中的预览效果。
- auth —— 显示响应 header 中的 proxy-authorization(代理身份验证) 和 authorization(授权) 信息。
- caching —— 显示此请求的缓存信息。
- privacy —— 显示此请求的私密 (p3p) 信息。
- raw —— 将整个响应显示为纯文本。
- json - 显示json格式文件。
- xml —— 如果响应的 body 是 xml 格式，就是用分级的 xml 树来显示它 。
了解了这些知识后，接下来真正迈向爬虫之路.......
urllib2
所谓网页抓取，就是把url地址中指定的网络资源从网络流中读取出来，保存到本地。 在python中有很多库可以用来抓取网页，先学习urllib2。
urllib2模块直接导入就可以用，在python3中urllib2被改为urllib.request
开始爬虫需要准备的一些工具
（1）下载fiddeler抓包工具，百度直接下载安装就可以（抓包）
（2）下载chrome浏览器代理插件 proxy-switchyomega（代理）
（3）下载chrome浏览器插件xpath（解析html）
（4）工具网站：http://www.json.cn/ (json解析网站)
http://tool.chinaz.com/tools/urlencode.aspx （url编码解码网站）
先写个简单的爬虫百度页面
urlopen
1 # _*_ coding:utf-8 _*_
2 import urllib2
3
4 #向指定的url地址发送请求，并返回服务器响应的类文件对象
5 response = urllib2.urlopen('http://www.baidu.com/')
6 #服务器返回的类文件对象支持python文件对象的操作方法
7 #read()方法就是读取文件里的全部内容，返回字符串
8 html = response.read()
9 print html
urllib2默认的user-agent是python-urllib/2.7,容易被检查到是爬虫，所以我们要构造一个请求对象，要用到request方法。
模拟浏览器访问
浏览器访问时通过抓包工具获得的headers信息如下：
1 get https://www.baidu.com/ http/1.1 2 host: www.baidu.com 3 connection: keep-alive 4 cache-control: max-age=0 5 upgrade-insecure-requests: 1 6 user-agent: mozilla/5.0 (windows nt 6.1; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/60.0.3112.101 safari/537.36 7 accept: text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8 8 accept-encoding: gzip, deflate, br 9 accept-language: zh,zh-cn;q=0.8,ar;q=0.6,zh-tw;q=0.4 10 cookie: baiduid=ae4d1da6b2d6689bb8c557b3436893e3:fg=1; bidupsid=ae4d1da6b2d6689bb8c557b3436893e3; pstm=1501466227; bd_ck_sam=1; psino=1; bdorz=b490b5ebf6f3cd402e515d22bcda1598; bd_home=0; h_ps_pssid=1420_25548_21080_20929; bd_upn=12314353 11
我们要设置user-agent模仿浏览器去访问数据
1 # _*_ coding:utf-8 _*_
2 import urllib2
3
4 # user-agent是爬虫与反爬虫的第一步
5 ua_headers = {'user-agent':'mozilla/5.0 (windows nt 6.1; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/60.0.3112.101 safari/537.36'}
6 # 通过urllib2.request()方法构造一个请求对象
7 request = urllib2.request('http://www.baidu.com/',headers=ua_headers)
8
9 #向指定的url地址发送请求，并返回服务器响应的类文件对象
10 response = urllib2.urlopen(request)
11
12 # 服务器返回的类文件对象支持python文件对象的操作方法
13 # read()方法就是读取文件里的全部内容，返回字符串
14 html = response.read()
15
16 print html
17
request总共三个参数，除了必须要有url参数，还有下面两个：
1. data（默认空）：是伴随 url 提交的数据（比如要post的数据），同时 http 请求将从 "get"方式 改为 "post"方式。
2. headers（默认空）：是一个字典，包含了需要发送的http报头的键值对。
response的常用方法
1 # _*_ coding:utf-8 _*_
2 import urllib2
3
4 # user-agent是爬虫与反爬虫的第一步
5 ua_headers = {'user-agent':'mozilla/5.0 (windows nt 6.1; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/60.0.3112.101 safari/537.36'}
6 # 通过urllib2.request()方法构造一个请求对象
7 request = urllib2.request('http://www.baidu.com/',headers=ua_headers)
8
9 #向指定的url地址发送请求，并返回服务器响应的类文件对象
10 response = urllib2.urlopen(request)
11
12 # 服务器返回的类文件对象支持python文件对象的操作方法
13 # read()方法就是读取文件里的全部内容，返回字符串
14 html = response.read()
15
16 # 返回http的响应吗，成功返回200,4服务器页面出错，5服务器问题
17 print response.getcode() #200
18
19 # 返回数据的实际url,防止重定向
20 print response.geturl() #https://www.baidu.com/
21
22 # 返回服务器响应的http报头
23 print response.info()
24
25 # print html
26
随机选择一个use-agent
为了防止封ip，先生成一个user-agent列表，然后从中随机选择一个
1 # _*_ coding:utf-8 _*_
2 import urllib2
3 import random
4
5 url = 'http:/www.baidu.com/'
6
7 # 可以试user-agent列表，也可以是代理列表
8 ua_list = ["mozilla/5.0 (windows nt 6.1; wow64) applewebkit/537.1 (khtml, like gecko) chrome/22.0.1207.1 safari/537.1",
9 "mozilla/5.0 (x11; cros i686 2268.111.0) applewebkit/536.11 (khtml, like gecko) chrome/20.0.1132.57 safari/536.11",
10 "mozilla/5.0 (windows nt 6.1; wow64) applewebkit/536.6 (khtml, like gecko) chrome/20.0.1092.0 safari/536.6",
11 "mozilla/5.0 (windows nt 6.2) applewebkit/536.6 (khtml, like gecko) chrome/20.0.1090.0 safari/536.6",
12 "mozilla/5.0 (windows nt 6.2; wow64) applewebkit/537.1 (khtml, like gecko) chrome/19.77.34.5 safari/537.1",
13 "mozilla/5.0 (x11; linux x86_64) applewebkit/536.5 (khtml, like gecko) chrome/19.0.1084.9 safari/536.5",
14 "mozilla/5.0 (windows nt 6.0) applewebkit/536.5 (khtml, like gecko) chrome/19.0.1084.36 safari/536.5",
15 "mozilla/5.0 (windows nt 6.1; wow64) applewebkit/536.3 (khtml, like gecko) chrome/19.0.1063.0 safari/536.3",
16 "mozilla/5.0 (windows nt 5.1) applewebkit/536.3 (khtml, like gecko) chrome/19.0.1063.0 safari/536.3",
17 "mozilla/5.0 (macintosh; intel mac os x 10_8_0) applewebkit/536.3 (khtml, like gecko) chrome/19.0.1063.0 safari/536.3",
18 "mozilla/5.0 (windows nt 6.2) applewebkit/536.3 (khtml, like gecko) chrome/19.0.1062.0 safari/536.3",
19 "mozilla/5.0 (windows nt 6.1; wow64) applewebkit/536.3 (khtml, like gecko) chrome/19.0.1062.0 safari/536.3",
20 "mozilla/5.0 (windows nt 6.2) applewebkit/536.3 (khtml, like gecko) chrome/19.0.1061.1 safari/536.3",
21 "mozilla/5.0 (windows nt 6.1; wow64) applewebkit/536.3 (khtml, like gecko) chrome/19.0.1061.1 safari/536.3",
22 "mozilla/5.0 (windows nt 6.1) applewebkit/536.3 (khtml, like gecko) chrome/19.0.1061.1 safari/536.3",
23 "mozilla/5.0 (windows nt 6.2) applewebkit/536.3 (khtml, like gecko) chrome/19.0.1061.0 safari/536.3",
24 "mozilla/5.0 (x11; linux x86_64) applewebkit/535.24 (khtml, like gecko) chrome/19.0.1055.1 safari/535.24",
25 "mozilla/5.0 (windows nt 6.2; wow64) applewebkit/535.24 (khtml, like gecko) chrome/19.0.1055.1 safari/535.24"
26 ]
27
28 # 在user-agent列表中随机选择一个user-agent
29 user_agent = random.choice(ua_list)
30
31 # 构造一个请求
32 request = urllib2.request(url)
33
34 # add_header()方法添加/修改一个http报头
35 request.add_header('user-agent',user_agent)
36
37 #get_header()获取一个已有的http报头的值,注意只能第一个字母大写，后面的要小写
38 print request.get_header('user-agent')
urllib和urllib2的主要区别
urllib和urllib2都是接受url请求的相关模块，但是提供了不同的功能，最显著的区别如下：
（1）urllib仅可以接受url，不能创建，设置headers的request类实例；
（2）但是urllib提供urlencode()方法用来get查询字符串的产生，而urllib2则没有（这是urllib和urllib2经常一起使用的主要原因）
（3）编码工作使用urllib的urlencode()函数，帮我们讲key:value这样的键值对转换成‘key=value’这样的字符串，解码工作可以使用urllib的unquote()
函数
urllib.encode()的使用
urlencode（）里面必须是字典类型
1 # _*_ coding:utf-8 _*_
2 import urllib
3
4 dic = {'derek':'编码'}
5 print urllib.urlencode(dic) #derek=%e7%bc%96%e7%a0%81
6
7 m = urllib.urlencode(dic)
8
9 print urllib.unquote(m) #derek=编码
10
一般http请求提交数据，需要编码成 url编码格式，然后做为url的一部分，或者作为参数传到request对象中。
get请求一般用于我们向服务器获取数据，比如说，我们用百度搜索知乎：https://www.baidu.com/s?wd=知乎
发现gethttps://www.baidu.com/s?wd=%e7%9f%a5%e4%b9%8e，后面是一个长长的字符串,urldecode后发现就是知乎
用urllib.urlencode()进行转码，然后组合url
1 # _*_ coding:utf-8 _*_
2 import urllib,urllib2
3
4 url = 'http://www.baidu.com/s'
5 headers = {'useragent':'mozilla'}
6 keyword = raw_input('请输入关键字:')
7 wd = urllib.urlencode({'wd':keyword})
8 fullurl = url + '?' + wd
9 print fullurl
10 request = urllib2.request(fullurl,headers=headers)
11 response = urllib2.urlopen(request)
12 print response.read()
13
然后输入关键字，爬取下对应的内容
爬取贴吧内容
先了解贴吧url组成:
每个贴吧url都是以'https://tieba.baidu.com/f?'开头，然后是关键字 kw=‘’贴吧名字‘’，再后面是 &pn=页数 （pn=0第一页，pn=50第二页，依次类推）
1.先写一个main，提示用户输入要爬取的贴吧名，并用urllib.urlencode()进行转码，然后组合url
2.接下来，写一个百度贴吧爬虫接口tiebaspider()，需要传递3个参数给这个接口， 一个是main里组合的url地址，以及起始页码和终止页码，表示要爬取页码的范围。
3.前面写出一个爬取一个网页的代码。然后，将它封装成一个小函数loadpage（），供我们使用。
4.将爬取到的每页的信息存储在本地磁盘上，我们可以简单写一个存储文件的接口writepage()
1 # _*_ coding:utf-8 _*_
2 import urllib,urllib2
3
4 def loadpage(url,filename):
5 #根据url发送请求，获取服务器响应文件
6 print '正在下载' + filename
7 headers = {'user-agent':'mozilla/5.0 (windows nt 6.1; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/60.0.3112.101 safari/537.36'}
8 request = urllib2.request(url,headers = headers)
9 content = urllib2.urlopen(request).read()
10 return content
11 def writepage(html,filename):
12 #将html内容写入到本地
13 print '正在保存' + filename
14 with open(unicode(filename,'utf-8'),'w') as f:
15 f.write(html)
16 print '_' * 30
17
18 def tiebaspider(url,beginpage,endpage):
19 #贴吧爬虫调度器，负责组合处理每个页面的url
20 for page in range(beginpage,endpage + 1):
21 pn = (page - 1) * 50
22 filename = '第' + str(page) + '页.html'
23 fullurl = url + '&pn=' + str(pn)
24 # print fullurl
25 html = loadpage(fullurl,filename)
26 writepage(html,filename)
27
28 if __name__ == '__main__':
29 kw = raw_input('请输入贴吧名：')
30 beginpage = int(raw_input('请输入起始页：'))
31 endpage = int(raw_input('请输入结束页：'))
32
33 url = 'https://tieba.baidu.com/f?'
34 key = urllib.urlencode({'kw':kw})
35 fullurl = url + key
36 tiebaspider(fullurl,beginpage,endpage)
通过输入想要搜索的贴吧名字，爬取内容并保存到本地
获取ajax方式加载的数据
爬虫最需要关注的不是页面信息，而是页面信息的数据来源
ajax方式加载的页面，数据来源一定是json，直接对ajax地址进行post或get，拿到json，就是拿到了网页数据,
（1）先通过浏览器访问豆瓣电影排行榜
https://movie.douban.com/typerank?type_name=%e5%89%a7%e6%83%85&type=11&interval_id=100:90&action=
（2）浏览器访问后，通过抓包工具就可以获取我们想要的一些信息
只要response里面有 json数据，我们就可以找到服务器的数据来源
分析发现变动的是start value和limit value, type,interval_id,action，固定不变，这三个url中已经包含了，所以formdata只用传start和limit
1 import urllib
2 import urllib2
3
4 url = 'https://movie.douban.com/typerank?type_name=%e5%89%a7%e6%83%85&type=11&interval_id=100:90&action='
5 headers = {'user-agent':'mozilla/5.0 (windows nt 6.1; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/60.0.3112.101 safari/537.36'}
6
7 # start和limit可以自己随便设置
8 formdata = {'start':'20','limit':'100'}
9
10 data = urllib.urlencode(formdata)
11 request = urllib2.request(url,data = data,headers=headers)
12
13 response = urllib2.urlopen(request)
14 print response.read()
15
经历了爬取豆瓣电影top250数据我们会发现使用正则表达式其实并没有多么方便，有没有更加好的工具呢？答案当然是有的。接下来将使用三个篇幅分别介绍xpath,beautiful soup和pyquery这三个解析库。
xpath介绍
xpath即为xml路径语言，它是一种用来确定xml(标准通用标记语言的子集)文档中某部分位置的语言。xpath基于xml的树状结构，有不同类型的节点，包括元素节点，属性节点和文本节点，提供在数据结构树中找寻节点的能力。 起初 xpath 的提出的初衷是将其作为一个通用的、介于xpointer与xslt间的语法模型。但是 xpath 很快的被开发者采用来当作小型查询语言。*[来自360百科]*现在我们使用它对html文档进行搜索。
lxml的安装
lxml库是python的一个解析库，支持html和xml的解析，支持xpath。下面介绍在windows，linux和mac上的安装。
windows下的安装
首先使用命令`pip3 install lxml`进行安装。如果没有错误信息说明安装成功了；如果出现错误，比如缺少libxml2库，使用wheel文件离线安装。提供win64位，python3.6的lxml安装包：https://pan.baidu.com/s/1wm1xkxcxoh8qowclp6iasw。使用命令`pip3 install lxml-4.2.4-cp36-cp36m-win_amd64.whl`进行安装。
linux下的安装
首先也是使用命令`pip3 install lxml`进行安装。如果没有错误信息说明安装成功了。如果报错一般都是缺少必要的库，可以参考以下解决方案。
centos、red hat：
yum groupinstall -y development tools
yum install -y epel-release libxslt-devel libxml2-devel openssl-devel
ubuntu、debian和deepin：
sudo apt-get install -y python3-dev build-essential libssl-dev libffi-dev libxml2 libxml2-dev libxslt1-dev zlib1g-dev
1
安装好这些必要的类库后重试命令pip3 install lxml进行安装。
## xpath常用规则 ##
表达式 描述
nodename 选择这个节点名的所有子节点
/ 从当前节点选择直接子节点
// 从当前节点选取子孙节点
. 选择当前节点
… 选取当前节点的父节点
@ 选取属性
标签补全
以下是一段html：
<div>
<ul>
<li class="item-0"><a href="www.baidu.com">baidu</a>
<li class="item-1"><a href="https://blog.csdn.net/qq_25343557">myblog</a>
<li class="item-2"><a href="https://www.csdn.net/">csdn</a>
<li class="item-3"><a href="https://hao.360.cn/?a1004">hao123</a>
显然，这段html中的节点没有闭合，我们可以使用lxml中的etree模块进行补全。
1 from lxml import etree
2
3 text = '''
4
5 <div>
6
7 <ul>
8
9 <li class="item-0"><a href="www.baidu.com">baidu</a>
10
11 <li class="item-1"><a href="https://blog.csdn.net/qq_25343557">myblog</a>
12
13 <li class="item-2"><a href="https://www.csdn.net/">csdn</a>
14
15 <li class="item-3"><a href="https://hao.360.cn/?a1004">hao123</a>
16
17 '''
18
19 html = etree.html(text)
20
21 result = etree.tostring(html)
22
23 print(result.decode('utf-8'))
可以看见etree不仅将节点闭合了还添加了其他需要的标签。
除了直接读取文本进行解析，etree也可以读取文件进行解析。
1 from lxml import etree
2
3
4 html = etree.parse('./test.html',etree.htmlparser())
5
6 result = etree.tostring(html)
7
8 print(result.decode('utf-8'))
获取所有节点
根据xpath常用规则可以知道通过//可以查找当前节点下的子孙节点，以上面的html为例获取所有节点。
1 from lxml import etree
2
3 html = etree.parse('./test.html',etree.htmlparser())
4
5 result = html.xpath('//*')#'//'表示获取当前节点子孙节点，'*'表示所有节点，'//*'表示获取当前节点下所有节点
6
7 for item in result:
8
9 print(item)
10
11
如果我们不要获取所有节点而是指定获取某个名称的节点，只需要将*改为指定节点名称即可。如获取所有的li节点
1 from lxml import etree
2
3 html = etree.parse('./test.html',etree.htmlparser())
4
5 result = html.xpath('//li')#将*改为li，表示只获取名称为li的子孙节点
6
7 #返回一个列表
8
9 for item in result:
10
11 print(item)
获取子节点
根据xpath常用规则我们可以使用/或//获取子孙节点或子节点。现在我要获取li节点下的a节点。
1 from lxml import etree
2
3 html = etree.parse('./test.html',etree.htmlparser())
4
5 result = html.xpath('//li/a')#//li选择所有的li节点，/a选择li节点下的直接子节点a
6
7 for item in result:
8
9 print(item)
我们也可以使用//ul//a首先选择所有的ul节点，再获取ul节点下的的所有a节点，最后结果也是一样的。但是使用//ul/a就不行了，首先选择所有的ul节点，再获取ul节点下的直接子节点a，然而ul节点下没有直接子节点a，当然获取不到。需要深刻理解//和/的不同之处。/用于获取直接子节点，//用于获取子孙节点。
根据属性获取
根据xpath常用规则可以通过@匹配指定的属性。我们通过class属性找最后一个li节点。
from lxml import etree
html = etree.parse('./test.html',etree.htmlparser())
result = html.xpath('//li[@class="item-3"]')#最后一个li的class属性值为item-3,返回列表形式
print(result)
获取父节点
根据xpath常用规则可以通过..获取当前节点的父节点。现在我要获取最后一个a节点的父节点下的class属性。
1 from lxml import etree
2
3 html = etree.parse('./test.html',etree.htmlparser())
4
5 result = html.xpath('//a[@href="https://hao.360.cn/?a1004"]/../@class')
6
7 #a[@href="https://hao.360.cn/?a1004"]：选择href属性为https://hao.360.cn/?a1004的a节点
8
9 #..:选取父节点
10
11 #@class:选取class属性，获取属性值
12
13 print(result)
获取文本信息
很多时候我们找到指定的节点都是要获取节点内的文本信息。我们使用text()方法获取节点中的文本。现在获取所有a标签的文本信息。
1 from lxml import etree
2
3 html = etree.parse('./test.html',etree.htmlparser())
4
5 result = html.xpath('//ul//a/text()')
6
7 print(result)
属性多值匹配
在上面的例子中所有的属性值都只有一个，如果属性值有多个还能匹配的上吗？
1 from lxml import etree
2
3 text = '''
4
5 <div>
6
7 <ul>
8
9 <li class="item-0"><a href="www.baidu.com">baidu</a>
10
11 <li class="spitem-1"><a href="https://blog.csdn.net/qq_25343557">myblog</a>
12
13 <li class="item-2"><a href="https://www.csdn.net/">csdn</a>
14
15 <li class="item-3"><a href="https://hao.360.cn/?a1004">hao123</a>
16
17 '''
18
19 html = etree.html(text)
20
21 result = html.xpath('//li[@class="sp"]')
22
23 print(result)
24
25
第二个li节点的class属性有两个值：sp和item-1。如果我们的xpath匹配规则为//li[@class="sp"]匹配的仅仅是class属性值只为sp的li节点，这显然是不存在的。
遇到属性值有多个的情况我们需要使用contains()函数了，contains()匹配一个属性值中包含的字符串 。包含的字符串，而不是某个值。
1 from lxml import etree
2
3 text = '''
4
5 <div>
6
7 <ul>
8
9 <li class="item-0"><a href="www.baidu.com">baidu</a>
10
11 <li class="sp item-1"><a href="https://blog.csdn.net/qq_25343557">myblog</a>
12
13 <li class="item-2"><a href="https://www.csdn.net/">csdn</a>
14
15 <li class="item-3"><a href="https://hao.360.cn/?a1004">hao123</a>
16
17 '''
18
19 html = etree.html(text)
20
21 result = html.xpath('//li[contains(@class,"sp")]/a/text()')
22
23 print(result)
多属性匹配
属性多值匹配是节点属性有许多个值，我们根据一个值获取符合添加的节点。由于我们很多情况下无法仅仅根据一个属性值就获取到目标节点，往往要根据多个属性来获取目标节点。
1 from lxml import etree
2
3 text = '''
4
5 <div>
6
7 <ul>
8
9 <li class="sp item-0" name="one"><a href="www.baidu.com">baidu</a>
10
11 '''
12
13 html = etree.html(text)
14
15 result = html.xpath('//li[contains(@class,"item-0") and @name="one"]/a/text()')#使用and操作符将两个条件相连。
16
17 print(result)
18
19 也许你会说这个直接使用name的属性值就可以得到了，然而，这里只是作为演示。
20
21
22
23 from lxml import etree
24
25
26
27 text = '''
28
29 <div>
30
31 <ul>
32
33 <li class="sp item-0" name="one"><a href="www.baidu.com">baidu</a>
34
35 <li class="sp item-1" name="two"><a href="https://blog.csdn.net/qq_25343557">myblog</a>
36
37 <li class="sp item-2" name="two"><a href="https://www.csdn.net/">csdn</a>
38
39 <li class="sp item-3" name="four"><a href="https://hao.360.cn/?a1004">hao123</a>
40
41 '''
42
43
44
45 html = etree.html(text)
46
47 result = html.xpath('//li[2]/a/text()')#选择第二个li节点，获取a节点的文本
48
49 print(result)
50
51 result = html.xpath('//li[last()]/a/text()')#选择最后一个li节点，获取a节点的文本
52
53 print(result)
54
55 result = html.xpath('//li[last()-1]/a/text()')#选择倒数第2个li节点，获取a节点的文本
56
57 print(result)
58
59 result = html.xpath('//li[position()<=3]/a/text()')#选择前三个li节点，获取a节点的文本
60
61 print(result)
我们使用了last()和postion()函数，在xpath中还有很多函数，详情见：w3school 函数。
xpath 轴
我们可以通过xpath获取祖先节点，属性值，兄弟节点等等，这就是xpath的节点轴。轴可定义相对于当前节点的节点集。
轴名称 结果
ancestor 选取当前节点的所有先辈（父、祖父等）。
ancestor-or-self 选取当前节点的所有先辈（父、祖父等）以及当前节点本身。
attribute 选取当前节点的所有属性。
child 选取当前节点的所有直接子元素。
descendant 选取当前节点的所有后代元素（子、孙等）。
descendant-or-self 选取当前节点的所有后代元素（子、孙等）以及当前节点本身。
following 选取文档中当前节点的结束标签之后的所有节点。
following-sibling 选取当前节点之后的所有同级节点。
namespace 选取当前节点的所有命名空间节点。
parent 选取当前节点的父节点。
preceding 选取文档中当前节点的开始标签之前的所有同级节点及同级节点下的节点。
preceding-sibling 选取当前节点之前的所有同级节点。
self 选取当前节点。
【上表来源：[w3school xpath轴](https://www.w3cschool.cn/xpath/xpath-axes.html)】
使用示例：
1 from lxml import etree
2
3 text = '''
4
5 <div>
6
7 <ul>
8
9 <li class="sp item-0" name="one"><a href="www.baidu.com">baidu</a>
10
11 <li class="sp item-1" name="two"><a href="https://blog.csdn.net/qq_25343557">myblog</a>
12
13 <li class="sp item-2" name="two"><a href="https://www.csdn.net/">csdn</a>
14
15 <li class="sp item-3" name="four"><a href="https://hao.360.cn/?a1004">hao123</a>
16
17 '''
18
19 html = etree.html(text)
20
21 result = html.xpath('//li[1]/ancestor::*')#ancestor表示选取当前节点祖先节点，*表示所有节点。合：选择当前节点的所有祖先节点。
22
23 print(result)
24
25 result = html.xpath('//li[1]/ancestor::div')#ancestor表示选取当前节点祖先节点，div表示div节点。合：选择当前节点的div祖先节点。
26
27 print(result)
28
29 result = html.xpath('//li[1]/ancestor-or-self::*')#ancestor-or-self表示选取当前节点及祖先节点，*表示所有节点。合：选择当前节点的所有祖先节点及本及本身。
30
31 print(result)
32
33 result = html.xpath('//li[1]/attribute::*')#attribute表示选取当前节点的所有属性，*表示所有节点。合：选择当前节点的所有属性。
34
35 print(result)
36
37 result = html.xpath('//li[1]/attribute::name')#attribute表示选取当前节点的所有属性，name表示name属性。合：选择当前节点的name属性值。
38
39 print(result)
40
41 result = html.xpath('//ul/child::*')#child表示选取当前节点的所有直接子元素，*表示所有节点。合：选择ul节点的所有直接子节点。
42
43 print(result)
44
45 result = html.xpath('//ul/child::li[@name="two"]')#child表示选取当前节点的所有直接子元素，li[@name="two"]表示name属性值为two的li节点。合：选择ul节点的所有name属性值为two的li节点。
46
47 print(result)
48
49 result = html.xpath('//ul/descendant::*')#descendant表示选取当前节点的所有后代元素（子、孙等），*表示所有节点。合：选择ul节点的所有子节点。
50
51 print(result)
52
53 result = html.xpath('//ul/descendant::a/text()')#descendant表示选取当前节点的所有后代元素（子、孙等），a/test()表示a节点的文本内容。合：选择ul节点的所有a节点的文本内容。
54
55 print(result)
56
57 result = html.xpath('//li[1]/following::*')#following表示选取文档中当前节点的结束标签之后的所有节点。，*表示所有节点。合：选择第一个li节点后的所有节点。
58
59 print(result)
60
61 result = html.xpath('//li[1]/following-sibling::*')#following-sibling表示选取当前节点之后的所有同级节点。，*表示所有节点。合：选择第一个li节点后的所有同级节点。
62
63 print(result)
64
65 result = html.xpath('//li[1]/parent::*')#选取当前节点的父节点。父节点只有一个，祖先节点可能多个。
66
67 print(result)
68
69 result = html.xpath('//li[3]/preceding::*')#preceding表示选取文档中当前节点的开始标签之前的所有同级节点及同级节点下的节点。，*表示所有节点。合：选择第三个li节点前的所有同级节点及同级节点下的子节点。
70
71 print(result)
72
73 result = html.xpath('//li[3]/preceding-sibling::*')#preceding-sibling表示选取当前节点之前的所有同级节点。，*表示所有节点。合：选择第三个li节点前的所有同级节点。
74
75 print(result)
76
77 result = html.xpath('//li[3]/self::*')#选取当前节点。
78
79 print(result)
xpath helper插件
实话说我不想写xpath的匹配规则，在真正的网页解析中怎么可能那么短的规则。这时候我们就可以使用chrome的插件xpath helper了【下载地址】，使用它我们可以很快速的得到匹配规则。直接将下载下来的crx文件拖进chrome扩展程序界面安装即可。
出现红框内图标说明安装成功了。
运行xpath helper插件，安装shift选择我们需要的内容，自动生成匹配规则。
一、简介
正则表达式，又称正规表示式、正规表示法、正规表达式、规则表达式、常规表示法（英语：regular expression，在代码中常简写为regex、regexp或re），计算机科学的一个概念。正则表达式使用单个字符串来描述、匹配一系列匹配某个句法规则的字符串。在很多文本编辑器里，正则表达式通常被用来检索、替换那些匹配某个模式的文本。
compile 函数根据一个模式字符串和可选的标志参数生成一个正则表达式对象。该对象拥有一系列方法用于正则表达式匹配和替换。
二、使用方法
1、简单看一下写法
函数语法：
re.match(pattern, string, flags=0)
|
1 2 3 4 5 6 7 8 9 10 |
|
1 import re
2
3
4
5 p = re.compile('abcd')
6
7 print(type(p))
8
9 #<class '_sre.sre_pattern'>
10
11 print(dir(p))
12
13 #['__class__', '__copy__', '__deepcopy__', '__delattr__', '__dir__', '__doc__', '__eq__', '__format__', '__ge__', '__getattribute__', '__gt__', '__hash__', '__init__', '__le__', '__lt__', '__ne__', '__new__', '__reduce__', '__reduce_ex__', '__repr__', '__setattr__', '__sizeof__', '__str__', '__subclasshook__', 'findall', 'finditer', 'flags', 'fullmatch', 'groupindex', 'groups', 'match', 'pattern', 'scanner', 'search', 'split', 'sub', 'subn']
14
15 m = p.match('abcdef')
16
17 print(type(m))
18
19 #<class '_sre.sre_match'>
20
21 print(dir(m))
22
23 #['__class__', '__copy__', '__deepcopy__', '__delattr__', '__dir__', '__doc__', '__eq__', '__format__', '__ge__', '__getattribute__', '__gt__', '__hash__', '__init__', '__le__', '__lt__', '__ne__', '__new__', '__reduce__', '__reduce_ex__', '__repr__', '__setattr__', '__sizeof__', '__str__', '__subclasshook__', 'end', 'endpos', 'expand', 'group', 'groupdict', 'groups', 'lastgroup', 'lastindex', 'pos', 're', 'regs', 'span', 'start', 'string']
24
25 print(m.group())
26
27 #abcd
28
29 print(m.group(0))
30
31 #abcd
re.match()方法值匹配字符串的开头如果不满足，就返回一个none
|
1 2 3 4 5 6 |
|
神奇的.
|
1 2 3 4 5 6 |
|
特殊字符（元字符）
注意：\在里面是转义词的意思，例如，你想匹配一个re.compile('.'),这个.是匹配任意字符。但是我就想让它匹配一个.怎么办，re.compile('\.'),这样的话它就真的只匹配一个点。
re.findall（）
|
1 2 3 4 5 6 7 8 9 10 |
|
数量词：
贪婪模式和非贪婪模式
1、一个小例子
我们知道*表示匹配一个字符串0次或者多次，而+是匹配字符串1次或多次，所以*的时候匹配了0次也打印出来了，而+只找匹配1次的字符。
|
1 2 3 4 5 6 7 8 9 |
|
贪婪与非贪婪模式影响的是被量词修饰的子表达式的匹配行为，贪婪模式在整个表达式匹配成功的前提下，尽可能多的匹配.
而非贪婪模式在整个表达式匹配成功的前提下，尽可能少的匹配。
2、{}
根据下面的例子不难看出，数量词{m}表示的是匹配前面字符串的几个字符串
|
1 2 3 4 5 6 7 8 9 10 11 |
|
re.search方法
re.search 扫描整个字符串并返回第一个成功的匹配,否则返回的是none（注意findall返回的是list，而search返回的直接就是字符串）
|
1 2 3 4 5 |
|
检索和替换
python 的 re 模块提供了re.sub用于替换字符串中的匹配项。
语法：
|
1 |
|
参数：
- pattern : 正则中的模式字符串。
- repl : 替换的字符串，也可为一个函数。
- string : 要被查找替换的原始字符串。
- count : 模式匹配后替换的最大次数，默认 0 表示替换所有的匹配。
示例一：
替换一#开头的所有字符（匹配任意字符0次或者多次），替换成无。
|
1 2 3 4 5 |
|
示例一：扩展
找到所有非数字的字符，‘’代表着删除。
|
1 2 3 4 5 |
|
正则表达式修饰符 - 可选标志
正则表达式可以包含一些可选标志修饰符来控制匹配的模式。修饰符被指定为一个可选的标志。多个标志可以通过按位 or(|) 它们来指定。如 re.i | re.m 被设置成 i 和 m 标志：
现在拥有了正则表达式这把神兵利器，我们就可以进行对爬取到的全部网页源代码进行筛选了。
下面我们一起尝试一下爬取内涵段子网站：
http://www.neihan8.com/article/list_5_1.html
打开之后，不难看出里面一个一个非常有内涵的段子，当你进行翻页的时候，注意url地址的变化：
- 第一页url: http: //www.neihan8.com/article/list_5_1 .html
- 第二页url: http: //www.neihan8.com/article/list_5_2 .html
- 第三页url: http: //www.neihan8.com/article/list_5_3 .html
- 第四页url: http: //www.neihan8.com/article/list_5_4 .html
这样我们的url规律找到了，要想爬取所有的段子，只需要修改一个参数即可。
我们就开始一步一步将所有的段子爬取下来吧。
第一步：获取数据
1. 按照我们之前的用法，我们需要一个加载页面的方法。
这里我们统一定义一个类，将url请求作为一个成员方法处理。
我们创建了一个文件，叫duanzi_spider.py
然后定义一个spider类，并且添加一个加载页面的成员方法。
1 import urllib2
2
3 class spider:
4 """
5 内涵段子爬虫类
6 """
7 def loadpage(self, page):
8 """
9 @brief 定义一个url请求网页的方法
10 @param page需要请求的第几页
11 @returns 返回的页面url
12 """
13 url = "http://www.neihan8.com/article/list_5_" + str(page)+ ".html"
14 #user-agent头
15 user_agent = "mozilla/5.0 (compatible; msie 9.0; windows nt6.1; trident/5.0"
16 headers = {"user-agent":user_agent}
17 req = urllib2.request(url, headers = headers)
18 response = urllib2.urlopen(req)
19 print html
以上的loadpage的实现思想想必大家都应该熟悉了，需要注意定义python类的成员方法需要额外添加一个参数self.
2.写main函数测试一个loadpage方法
1 if __name__ == "__main__":
2 """
3 =====================
4 内涵段子小爬虫
5 =====================
6 """
7 print("请按下回车开始")
8 raw_input()
9
10 #定义一个spider对象
11 myspider = spider()
12 myspider.loadpage(1)
- 程序正常执行的话，我们会在皮姆上打印了内涵段子第一页的全部html代码。但是我们发现，html中的中文部分显示的可能是乱码。
那么我们需要简单的将得到的网页源代码处理一下：
1 def loadpage(self, page):
2 """
3 @bridf 定义一个url请求网页的方法
4 @param page 需要请求的第几页
5 @returns 返回的页面html
6 """
7
8 url = "http://www.neihan8.com/article/list_5_"+str(page)+".html"
9 #user-agent头
10 user-agent = "mozilla/5.0 (compatible; msie 9.0; windows nt6.1; trident/5.0"
11 headers = {"user-agent":user-agent}
12 req = urllib2.request(url, headers = headers)
13 response = urllib2.urlopen(req)
14 html = response.read()
15 gbk_html = html.decode("gbk").encode("utf-8")
16
17 return gbk_html
注意：对于每个网站对中文的编码各自不同，所以html.decode("gbk")的写法并不是通用的，根据网站的编码而异。
第二步：筛选数据
接下来我们已经得到了整个页面的数据。但是，很多内容我们并不关心，所以下一步我们需要筛选数据。如何筛选，就用到了上一节讲述的正则表达式
- 首先
- 然后，我们得到的gbk_html中进行筛选匹配。
import re
我们需要一个匹配规则
我们可以打开内涵段子的网页，鼠标点击右键"查看源代码"你会惊奇的发现，我们需要的每个段子的内容都是在一个<div>标签中，而且每个div标签都有一个属性class="f18 mb20"
根据正则表达式，我们可以推算出一个公式是：
<div.*?class="f18 mb20">(.*?)</div>
- 这个表达式实际上就是匹配到所有
div中class="f18 mb20"里面的内容(具体可以看前面介绍) - 然后这个正则应用到代码中，我们会得到以下代码：
- 这里需要注意一个是
re.s是正则表达式中匹配的一个参数。 - 如果没有re.s则是只匹配一行有没有符合规则的字符串，如果没有则下一行重新匹配。
- 如果加上re.s则是将所有的字符串按一个整体进行匹配，findall将匹配到的所有结果封装到一个list中。
- 如果我们写了一个遍历
item_list的一个方法printonepage()。ok程序写到这，我们再一次执行一下。
- 如果我们写了一个遍历
1 def loadpage(self, page):
2 """
3 @brief 定义一个url请求网页的办法
4 @param page 需要请求的第几页
5 @returns 返回的页面html
6 """
7 url = "http://www.neihan8.com/article/list_5_" +str(page) + ".html"
8 #user-agent头
9 user-agent = "mozilla/5.0 (compatible; msie 9.0; windows nt6.1; trident/5.0"
10
11 headers = {"user-agent":user-agent}
12 req = urllib2.request(url, headers=headers)
13 response = urllib2.urlopen(req)
14
15 html = response.read()
16
17 gbk_html = html.decode("gbk").encode("utf-8")
18
19 #找到所有的段子内容<div class="f18 mb20"></div>
20 #re.s 如果没有re.s,则是只匹配一行有没有符合规则的字符串，如果没有则匹配下一行重新匹配
21 #如果加上re.s,则是将所有的字符串按一个整体进行匹配
22 pattern = re.compile(r'<div.*?class="f18 mb20">(.*?)</div>', re.s)
23 item_list = pattern.findall(gbk_html)
24
25 return item_list
26
27 def printonepage(self, item_list, page):
28 """
29 @brief 处理得到的段子列表
30 @param item_list 得到的段子列表
31 @param page处理第几页
32 """
33
34 print("*********第%d页，爬取完毕...******"%page)
35
36 for item in item_list:
37 print("===============")
38 print ite
39 python duanzi_spider.py
我们第一页的全部段子，不包含其他信息全部的打印了出来.
- 你会发现段子中有很多
<p>,</p>很是不舒服，实际上这个是html的一种段落的标签。 - 在浏览器上看不出来，但是如果按照文本打印会有
<p>出现，那么我们只需要把我们的内容去掉即可。 - 我们可以如下简单修改一下printonepage()
- 我们可以将所有的段子存放在文件中。比如，我们可以将得到的每个item不是打印出来，而是放在一个叫duanzi.txt的文件中也可以。
- 然后我们将所有的print的语句改写成writetofile(), 当前页面的所有段子就存在了本地的duanzi.txt文件中。
- 接下来我们就通过参数的传递对page进行叠加来遍历内涵段子吧的全部段子内容。
- 只需要在外层加上一些逻辑处理即可。
- 最后，我们执行我们的代码，完成后查看当前路径下的duanzi.txt文件，里面已经有了我们要的内涵段子。
1 def printonepage(self, item_list, page):
2 """
3 @brief 处理得到的段子列表
4 @param item_list 得到的段子列表
5 @param page 处理第几页
6 """
7 print("******第%d页,爬取完毕*****"%page)
8 for item in item_list:
9 print("============")
10 item = item.replace("<p>", "").replace("</p>", "").replace("<br />", "")
11 print item
第三步：保存数据
1 def writetofile(self, text):
2 """
3 @brief 将数据追加写进文件中
4 @param text 文件内容
5 """
6
7 myfile = open("./duanzi.txt", "a") #a追加形式打开文件
8 myfile.write(text)
9 myfile.write("-------------------------")
10 myfile.close()
11 def printonepage(self, item_list, page):
12 """
13 @brief 处理得到的段子列表
14 @param item_list 得到的段子列表
15 @param page 处理第几页
16 """
17
18 print("***第%d页，爬取完毕****"%page)
19 for item in item_list:
20 item = item.replace("<p>", "").replace("</p>", "").replace("<br />". "")
21
22
相关文章:
-
-
Python爬虫与数据分析之进阶教程：文件操作、lambda表达式、递归、yield生成器
专栏目录： Python爬虫与数据分析之python教学视频、python源码分享，python Python爬虫与数据分析之基础教程：Python... [阅读全文] -
最近做公司新项目用的angular7，中碰到了一个很头疼的问题在绑定对象中的数据改变时，页面视图没有跟新，需点击页面中的时间元素后才会更新。以前使用... [阅读全文]
-
类就像一张图纸，如果不去实例化，制造出相应的零件，用处就不会那么大。 实例化类有两种，一个是从栈中实例化对象： 另一个是从堆中实例化对象： 这两种实... [阅读全文]
-
版权声明：本文内容由互联网用户贡献，该文观点仅代表作者本人。本站仅提供信息存储服务，不拥有所有权，不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 2386932994@qq.com 举报，一经查实将立刻删除。
发表评论