Python使用爬虫爬取静态网页图片的方法详解
本文实例讲述了python使用爬虫爬取静态网页图片的方法。分享给大家供大家参考,具体如下:
爬虫理论基础
其实爬虫没有大家想象的那么复杂,有时候也就是几行代码的事儿,千万不要把自己吓倒了。这篇就清晰地讲解一下利用python爬虫的理论基础。
首先说明爬虫分为三个步骤,也就需要用到三个工具。
① 利用网页下载器将网页的源码等资源下载。
② 利用url管理器管理下载下来的url
③ 利用网页解析器解析需要的url,进而进行匹配。
网页下载器
网页下载器常用的有两个。一个是python自带的urllib2模块;另一个是第三方控件requests。选用哪个其实差异不大,下一篇将会进行实践操作举例。
url管理器
url管理器有三大类。
① 内存:以set形式存储在内存中
② 存储在关系型数据库mysql等
③ 缓存数据库redis中
网页解析器
网页解析器一共有四类:
1.正则表达式,不过对于太复杂的匹配就会有些难度,属于模糊匹配。
2.html.parser,这是python自带的解析工具。
3.beautiful soup,一种第三方控件,顾名思义,美味的汤,用起来确实很方便,很强大。
4.lxml(apt.xml),第三方控件。
以上的这些全部属于结构化解析(dom树)
什么式结构化解析(dom)?
document object model(dom)是一种树的形式。
beautiful soup的语法
html网页—>创建beautifulsoup对象—>搜索节点 find_all()/find()—>访问节点,名称,属性,文字等……
实现代码
说过了理论基础,那么现在就来实践一个,要爬取一个静态网页的所有图片。
这里使用的网页下载器是python自带的urllib2,然后利用正则表达式匹配,输出结果。
以下为源码:
//引入小需要用到的模块 import urllib2 import re def main(): //利用urllib2的urlopen方法,下载当前url的网页内容 req = urllib2.urlopen('http://www.imooc.com/course/list') //将网页内容存储到buf变量中 buf = req.read() //将buf中的所有内容与需要匹配的url进行比对。这里的正则表达式是根据静态网页的源码得出的,查看静态网页源码开启开发者模式,按f12即可。然后确定图片块,查看对应源码内容,找出规律,编写正则表达式。 listurl = re.findall(r'src=.+\.jpg',buf) i = 0 //将结果循环写入文件 for url in listurl: f = open(str(i)+'.jpg','w') req = urllib2.urlopen(url[5:]) buf1 = req.read() f.write(buf1) i+=1 if __name__ == '__main__': main()
至此一个静态网页的图片爬虫就完成了,下面来看下效果。
这是静态网页:
以下是爬取的结果:
更多关于python相关内容可查看本站专题:《python socket编程技巧总结》、《python正则表达式用法总结》、《python数据结构与算法教程》、《python函数使用技巧总结》、《python字符串操作技巧汇总》、《python入门与进阶经典教程》及《python文件与目录操作技巧汇总》
希望本文所述对大家python程序设计有所帮助。
推荐阅读
-
Python使用Scrapy爬虫框架全站爬取图片并保存本地的实现代码
-
Python爬虫将爬取的图片写入world文档的方法
-
Python爬虫爬取一个网页上的图片地址实例代码
-
Python使用爬虫爬取静态网页图片的方法详解
-
Python3爬虫学习之将爬取的信息保存到本地的方法详解
-
Python3爬虫之urllib携带cookie爬取网页的方法
-
Python 爬虫批量爬取网页图片保存到本地的实现代码
-
python爬虫:使用xpath和find两种方式分别实现使用requests_html库爬取网页中的内容
-
Python使用爬虫爬取静态网页图片的方法详解
-
Python爬虫将爬取的图片写入world文档的方法