利用python爬取淘宝的商品图片
程序员文章站
2022-03-11 10:13:22
利用python爬取淘宝的商品图片代码from selenium import webdriverfrom selenium.webdriver.common import keysimport timeimport requestsimport random# 创建浏览器def functions(): browser = webdriver.Chrome(r'G:\taobao\chromedriver.exe') # 让浏览器打开淘宝 browser.ge...
利用python爬取淘宝的商品图片
代码
from selenium import webdriver
from selenium.webdriver.common import keys
import time
import requests
import random
# 创建浏览器
def functions():
browser = webdriver.Chrome(r'G:\taobao\chromedriver.exe')
# 让浏览器打开淘宝
browser.get("https://www.taobao.com/")
# 找到搜索框输入内容并搜索
browser.find_element_by_xpath('//*[@id="q"]').send_keys("便携果汁杯", keys.Keys.ENTER)
time.sleep(1)
# 切换成二维码登录
browser.find_element_by_xpath('//*[@id="login"]/div[1]/i').click()
# 判断当前页面是否为登录页面
while browser.current_url.startswith("https://login.taobao.com/"):
print("等待用户输入")
time.sleep(1)
print("登录成功!!!")
n = 1
count = 1
while True:
items = browser.find_elements_by_css_selector('.m-itemlist .items > div')
for item in items:
# 获取这张图片的下载地址
img = item.find_element_by_css_selector(".pic-box .pic img").get_attribute("data-src")
# 拼接完成的下载地址
img_url = "http:" + img
# print(img_url)
# 通过requests下载这张图片
sleep_time = random.random()*10
time.sleep(sleep_time)
# 文件夹需要手动创建好
file = open(f"G:\\果汁杯-淘宝\\{n}.jpg", "wb")
file.write(requests.get(img_url).content)
print("下载图片" + str(n))
n += 1
# 翻页操作
browser.find_element_by_css_selector('.wraper:nth-last-child(1) .next > a').click()
time.sleep(2)
count += 1
# 爬取 4 页内容
if count == 6:
# file.close()
break
# 关闭浏览器
browser.quit()
if __name__ == '__main__':
functions()
下载Chromedriver
淘宝本身是有反爬虫机制的,需要使用到浏览器进行模拟人工爬取数据。
下载地址:http://npm.taobao.org/mirrors/chromedriver/86.0.4240.22/
将下载好的压缩包解压到你想要的某个文件夹中,并替换掉一下路径即可
之后运行脚本即可
本文地址:https://blog.csdn.net/WS16201224/article/details/110262687
下一篇: var与let的作用域及区别