欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

Python代码爬取下载应用宝所有APP软件

程序员文章站 2022-06-30 21:15:14
前言本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。PS:如有需要Python学习资料的小伙伴可以加点击下方链接自行获取python免费学习资料以及群交流解答点击即可加入基本环境配置python 3.6pycharmrequestsparsel打开开发者工具分析网页你怎么指导这个就是下载地址呢?1、选择一个应用的下载地址2、打开开发者工具,清空数据,选择Network3、点击立即下载4、就会发现下载地址把链接地址复...

前言

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。

PS:如有需要Python学习资料的小伙伴可以加点击下方链接自行获取

python免费学习资料以及群交流解答点击即可加入

基本环境配置

  • python 3.6
  • pycharm
  • requests
  • parsel

Python代码爬取下载应用宝所有APP软件
Python代码爬取下载应用宝所有APP软件
打开开发者工具分析网页
Python代码爬取下载应用宝所有APP软件
你怎么知道这个就是下载地址呢?

1、选择一个应用的下载地址
2、打开开发者工具,清空数据,选择Network
3、点击立即下载
4、就会发现下载地址

Python代码爬取下载应用宝所有APP软件
把链接地址复制,在网页源代码中搜索,查看是否网页是否有返回该数据

  • 有数据: 就可以直接请求网页获取地址;
  • 没有数据: 那就要在开发这工具里面找是否有接口数据,然后一步一步在进行分析;

实现效果

Python代码爬取下载应用宝所有APP软件
Python代码爬取下载应用宝所有APP软件

完整代码

import requests import parsel def download(url, title): path = 'D:\\python\\demo\\应用宝手机APP软件\\APP软件\\' + title + '.apk' response = requests.get(url=url, headers=headers) with open(path, mode='wb') as f: f.write(response.content) for page in range(100, 123): url = 'https://sj.qq.com/myapp/category.htm?orgame=1&categoryId={}'.format(page) headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36' } response = requests.get(url=url, headers=headers) selector = parsel.Selector(response.text) lis = selector.css('.main ul li') for li in lis: title = li.css('.app-info-desc a:nth-child(1)::text').get() apk_url = li.css('.app-info-desc a:nth-child(4)::attr(ex_url)').get() print(title, apk_url) download(apk_url, title) 

本文地址:https://blog.csdn.net/fei347795790/article/details/108851640