欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

python BeautifulSoup库的安装与使用

程序员文章站 2022-07-05 19:56:08
1.beautifulsoup简介beautifulsoup4和 lxml 一样,beautiful soup 也是一个html/xml的解析器,主要的功能也是如何解析和提取 html/xml 数据。...

1.beautifulsoup简介

beautifulsoup4和 lxml 一样,beautiful soup 也是一个html/xml的解析器,主要的功能也是如何解析和提取 html/xml 数据。

beautifulsoup支持python标准库中的html解析器,还支持一些第三方的解析器,如果我们不安装它,则 python 会使用 python默认的解析器,lxml 解析器更加强大,速度更快,推荐使用lxml 解析器。

beautiful soup自动将输入文档转换为unicode编码,输出文档转换为utf-8编码。你不需要考虑编码方式,除非文档没有指定一个编码方式,这时,beautiful soup就不能自动识别编码方式了。然后,你仅仅需要说明一下原始编码方式就可以了。

2.beautifulsoup的安装

首先我们需要安装一个beautifulsoup库。我安装的版本是python3。所以就可以直接在cmd下用pip3命令进行安装。

命令:

pip3 install beautifulsoup4

在安装好beautifulsoup后,我们可以通过导入该库来判断是否安装成功。

命令:

>>> from bs4 import beautifulsoup

 回车后不报错,这说明我们已经将其安装成功。

3.beautifulsoup常用功能

# beautiful soup 网页中提取信息的python库
#  beautifulsoup 对象表示的是一个文档的全部内容
#  prettify() 按照标准的缩进格式的结构输出
#  get_text() 会将html文档中的所有标签清除,返回一个只包含文字的字符串
from bs4 import beautifulsoup

text='''
<?xml version="1.0" encoding="iso-8859-1"?>

<bookstore>

<book>
 <title lang="eng">harry potter</title>
 <price>29.99</price>
</book>

<book>
 <title lang="eng">learning xml</title>
 <price>39.95</price>
</book>

</bookstore>
'''

# create 对象
bf=beautifulsoup(text)

# 按照标准缩进格式输出
print(bf.prettify())
# 会将html文档中的所有标签清除,返回一个只包含文字的字符串
print(bf.get_text())

# tag对象 
# 标签 表示html中的一个个标签
# name
# attrs

tag=bf.title # 获取title标签
print(tag)
print(type(tag)) # tag类型
print(tag.name) # 标签名称
print(tag.attrs) #标签属性
print(tag.attrs["lang"]) #单独获取某个属性 方法1
print(bf.title["lang"]) #单独获取某个属性 方法2

# navigablestring tag.string
# 表示标签中的文字
print(tag.string)
print(type(tag.string)) # 查看数据类型

# comment 注释部分
# 一个特殊类型的navigablestring对象
# 输出的内容不包括注释符号
string='''
<p><!-- 这是注释! --></p>
'''
sp=beautifulsoup(string)
print(sp)
print(sp.p.string) # 去获取标签中是文字
# 两个常用函数 


# find_all() 搜索当前tag的所有tag子节点,并判断是否符合给定的条件
# 返回结果是一个列,可以包含多个元素
print(soup.find_all('title'),end="\n-------\n")

#find() 直接返回第一个元素
print(soup.find("title"))

print(soup.find_all("title",lang="eng")) # 查找title标签 属性lang=eng
print(soup.find_all("title",{"lang":"eng"})) # 结果同上
print(soup.find_all(["title","price"])) #获取多个标签
print(soup.find_all("title",lang="eng")[0].get_text()) # 获取文本


# 三大常见节点
#  子节点 一个tag可能包含多个字符串或其他的tag,这些都是这个tag的子节点
#  父节点 配个tag或字符串都有父节点:被包含在某个tag中
#  兄弟节点 平级的节点
end="\n-------\n"
print(soup.book,end) # 获取book节点信息
print(soup.book.contents,end) # 获取book下的所有子节点
print(soup.book.contents[1],end) # 获取book下的所有子节点中的第一个节点

print(soup.book.children,end) # children 生成迭代器
for child in soup.book.children:
  print("===",child)
  
print(soup.title.parent,end)
print(soup.book.parent,end)
for parent in soup.title.parents: #注意parent和parents区别
  print("===",parent.name)
  
print(soup.title.next_sibling,end) # 获取该节点的下一个兄弟节点
print(soup.title.previous_sibling,end) # 获取该节点的上一个兄弟节点
print(soup.title.next_siblings,end) # 获取该节点的全部兄弟节点
for i in soup.title.next_siblings: 
  print("===",i)

以上就是python beautifulsoup库的安装与使用的详细内容,更多关于python beautifulsoup库的资料请关注其它相关文章!