欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

记一次Python爬虫入门

程序员文章站 2022-07-15 13:04:44
...

今天刚装好python环境,想要练练手。找了网上的教程敲了一个简单的爬虫代码,下载lofter的图片。

程序思路

(1)锁定目标网站
(2)提取HTML页面代码
(3)findall查找图片url
(4)保存图片

程序步骤

(1)确定目标网站
记一次Python爬虫入门

(2)分析该网页的代码
记一次Python爬虫入门
(3)findall查找出所有图片的url,保存到list中
(4)遍历list,保存到本地
记一次Python爬虫入门

程序源码

"""请求网页"""
import time
import requests
import re
import os
"""请求头部"""
headers = {
    'User-Agent' : 'lofter'
}
response = requests.get('https://xxx.com/',headers=headers)
html = response.text
"""解析网页"""
# 提取网页名,用于图片保存的文件夹名
dir_name = re.findall('<a class="f-trans" hidefocus="true" href="/">(.*?)</a>',html)[-1]
if not os.path.exists(dir_name):
    os.mkdir(dir_name)
# 提取所有图片的url
urls = re.findall('<img src="(.*?)" />',html)
print(urls)
"""保存图片"""
for i in range(len(urls)):
	# 延迟
    time.sleep(1)
    # 图片的名字
    file_name = str(i)
    response = requests.get(urls[i], headers=headers)
    with open(dir_name + '/' + file_name + '.jpg','wb') as f:
        f.write(response.content)
相关标签: Python python