让Python更便捷-简介Python常用的标准库与介绍
首先介绍beautifulsoup这个库,因为最开始接触爬虫的时候,就看到大家强力推荐这个库。后来用了下,觉着确实不错。但是程序员嘛,哪能在一个库里闷死,哈哈。
几个库的安装过程就不再累述,参考anaconda。-_-.
后面几个实例,均用这个来测试。
html = """ <html><head><title>The Dormouse's story</title></head> <body> <p class="myclass" name="dromouse"><b>The Dormouse's story</b></p> <p class="story">Once upon a time there were three little sisters; and their names were <a href="http://example.com/elsie" class="myclass" id="box"><!-- Elsie --></a>, <a href="http://example.com/lacie" class="myclass" id="box1">Lacie</a> and <a href="http://example.com/tillie" class="myclass" id="box2">Tillie</a>; and they lived at the bottom of a well.</p> <p class="story">...</p> """
BeautifulSoup
Beautiful Soup支持Python标准库中的HTML解析器,还支持一些第三方的解析器。例如lxml HTML,lxml XML,html5lib。不过要安装这些库,否则它会使用python的内部标准库。
beautifulsoup的对象创建有两种方式。
1. soup=BeautifulSoup(html) #用变量内容来创建
2. soup=BeautifulSoup('mysite.html') #用本地文件来创建
BeautifulSoup是将HTML转化为一个复杂的树形结构,每个节点都是python对象,有前端基础的同学会知道,类似DOM对象。BeautifulSoup中的对象大致有四种,Tag、NavigableString、BeautifulSoup、Comment。由于我们平时操作大多数是针对一个个标签提取信息,所以我简略的叙述下常用到的Tag对象。
Tag
tag就是HTML的一个个标签。
例如HTML中的 head,title,a,p等等。
在实际操作中,我们会将所需要的标签通过选择器查找出来,然后通过操作Tag对象来获取所需信息。在BeautifulSoup中,常用的findAll()和find()来搜索文档树来获取自己所需的标签。同时,BeautifulSoup也支持CSS语法来搜索,select()方法,返回的类型是list。
ps:
1.findAll()等同于find_all()
2.对前端比较了解的,用select()方法比较顺手。
find()
find()相当于findAll()中limit=1的时候,不过find()返回的是结果,findAll()返回的是一个列表。
CSS选择器
beautifulsoup支持CSS语法的选择器来查找所需要的标签。
select(CSS选择器) 例: soup.select('.myclass #box') #后代选择器 soup.select('head>title') #子选择器 soup.select('div+p') #相邻兄弟选择器 soup.select('div~p’) #后续兄弟选择器
同时还可以加入属性查找。
soup.select('.myclass a[id="box"]')
select()方法返回的是列表形式。
以上差不多就是BeautifulSoup常用的功能
以上就是让Python更便捷-简介Python常用的标准库与介绍的详细内容,更多请关注其它相关文章!
上一篇: 请问个ASCII的有关问题