欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识！
您现在的位置是： 首页  >  IT编程

用Python爬取了妹子网100G的套图，值得收藏

程序员文章站 2022-06-22 08:11:46
前言最近在做监控相关的配套设施，发现很多脚本都是基于Python的。很早之前就听说其大名，人生苦短，我学Python，这并非一句戏言。随着人工智能、机器学习、深度学习的崛起，目前市面上大部分的人工智能的代码 大多使用Python 来编写。所以人工智能时代，是时候学点Python了。进军指南对于没有任 ......

 

用Python爬取了妹子网100G的套图，值得收藏


前言
最近在做监控相关的配套设施，发现很多脚本都是基于python的。很早之前就听说其大名，人生苦短，我学python，这并非一句戏言。随着人工智能、机器学习、深度学习的崛起，目前市面上大部分的人工智能的代码 大多使用python 来编写。所以人工智能时代，是时候学点python了。

进军指南
对于没有任何语言开发经验的同学，建议从头系统的学起，无论是书、视频还是文字教程都可以。
另外注意：不管你是为了python就业还是兴趣爱好，记住：项目开发经验永远是核心，如果你缺新项目练习或者没有python精讲教程，可以去小编的python交流.裙 ：七衣衣九七七巴而五（数字的谐音）转换下可以找到了，里面很多新教程项目，还可以跟老司机交流讨教！

如果是有其他语言开发经验的同学，建议从一个案例入手，比如爬取某个网站的套图。
因为语言都是想通的，语法之类的只要你要语感，代码基本能读个八九不离十。
所以不建议有经验的开发者从头学起，无论是视频还是书，对于开始学一门语言来说都是太浪费时间了。
当然，等你深入进去以后，还是要系统的去学习，这是后话。
软件工具
python3
这里选择的是最新版 python 3.7.1
安装教程推荐：

win下载地址：

linux下载地址：

pycharm
可视化开发工具：

案例
实现步骤
以妹子图为例，其实很简单，分以下四步：

  • 获取首页的页码数，并创建与页码对应的文件夹
  • 获取页面的栏目地址
  • 进入栏目，获取栏目页码数(每个栏目下有多张图片，分页显示)
  • 获取到栏目下对用标签中的图片并下载

注意事项
爬取过程中，还需要注意以下几点，可能对你有所帮助：
1）导库，其实就类似于java中框架或者是工具类，底层都被封装好了
安装第三方库

  1. # win下直接装的 python3
  2. pip install bs4、pip install requests
  3. # linux python2 python3 共存
  4. pip3 install bs4、pip3 install requests


导入第三方库

  1. # 导入requests库
  2. import requests
  3. # 导入文件操作库
  4. import os
  5. # bs4全名beautifulsoup，是编写python爬虫常用库之一，主要用来解析html标签。
  6. import bs4
  7. from bs4 importbeautifulsoup
  8. # 基础类库
  9. import sys
  10. # python 3.x 解决中文编码问题
  11. import importlib
  12. importlib.reload(sys)


2）定义方法函数，一个爬虫可能会几百行，所以尽量不要写成一坨

  1. def download(page_no, file_path):
  2. # 这里写代码逻辑


3）定义全局变量

  1. # 给请求指定一个请求头来模拟chrome浏览器
  2. global headers # 告诉编译器这是全局变量 headers
  3. headers = {'user-agent': 'mozilla/5.0 (windows nt 10.0; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/54.0.2840.99 safari/537.36'}
  4. # 函数内使用之前需要
  5. # 告诉编译器我在这个方法中使用的a是刚才定义的全局变量 headers ，而不是方法内部的局部变量。
  6. global headers


4）防盗链
有些网站加入了防盗链，无所不能的 python 解决方案

  1. headers = {'referer': href}
  2. img = requests.get(url, headers=headers)


5）切换版本
linux服务器使用的是阿里云服务器，默认版本 python2，python3 自行安装

  1. [root@ay140216131049z mzitu]# python2 -v
  2. python2.7.5
  3. [root@ay140216131049z mzitu]# python3 -v
  4. python3.7.1
  5. # 默认版本
  6. [root@ay140216131049z mzitu]# python -v
  7. python2.7.5
  8. # 临时切换版本 <whereis python>
  9. [root@ay140216131049z mzitu]# alias python='/usr/local/bin/python3.7'
  10. [root@ay140216131049z mzitu]# python -v
  11. python3.7.1


6）异常捕获
在爬取的过程中可能存在异常页面，这里我们进行捕获，不影响后续操作

  1. try:
  2. # 业务逻辑
  3. exceptexceptionas e:
  4. print(e)


代码实现
编辑脚本：vi mzitu.py

  1. #coding=utf-8
  2. #!/usr/bin/python
  3. # 导入requests库
  4. import requests
  5. # 导入文件操作库
  6. import os
  7. import bs4
  8. from bs4 importbeautifulsoup
  9. import sys
  10. import importlib
  11. importlib.reload(sys)
  12. # 给请求指定一个请求头来模拟chrome浏览器
  13. global headers
  14. headers = {'user-agent': 'mozilla/5.0 (windows nt 10.0; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/54.0.2840.99 safari/537.36'}
  15. # 爬图地址
  16. mzitu = 'http://www.mzitu.com/'
  17. # 定义存储位置
  18. global save_path
  19. save_path = '/mnt/data/mzitu'
  20. # 创建文件夹
  21. def createfile(file_path):
  22. if os.path.exists(file_path) isfalse:
  23. os.makedirs(file_path)
  24. # 切换路径至上面创建的文件夹
  25. os.chdir(file_path)
  26. # 下载文件
  27. def download(page_no, file_path):
  28. global headers
  29. res_sub = requests.get(page_no, headers=headers)
  30. # 解析html
  31. soup_sub = beautifulsoup(res_sub.text, 'html.parser')
  32. # 获取页面的栏目地址
  33. all_a = soup_sub.find('div',class_='postlist').find_all('a',target='_blank')
  34. count = 0
  35. for a in all_a:
  36. count = count + 1
  37. if (count % 2) == 0:
  38. print("内页第几页：" + str(count))
  39. # 提取href
  40. href = a.attrs['href']
  41. print("套图地址：" + href)
  42. res_sub_1 = requests.get(href, headers=headers)
  43. soup_sub_1 = beautifulsoup(res_sub_1.text, 'html.parser')
  44. # ------ 这里最好使用异常处理 ------
  45. try:
  46. # 获取套图的最大数量
  47. pic_max = soup_sub_1.find('div',class_='pagenavi').find_all('span')[6].text
  48. print("套图数量：" + pic_max)
  49. for j in range(1, int(pic_max) + 1):
  50. # print("子内页第几页：" + str(j))
  51. # j int类型需要转字符串
  52. href_sub = href + "/" + str(j)
  53. print(href_sub)
  54. res_sub_2 = requests.get(href_sub, headers=headers)
  55. soup_sub_2 = beautifulsoup(res_sub_2.text, "html.parser")
  56. img = soup_sub_2.find('div', class_='main-image').find('img')
  57. if isinstance(img, bs4.element.tag):
  58. # 提取src
  59. url = img.attrs['src']
  60. array = url.split('/')
  61. file_name = array[len(array)-1]
  62. # print(file_name)
  63. # 防盗链加入referer
  64. headers = {'referer': href}
  65. img = requests.get(url, headers=headers)
  66. # print('开始保存图片')
  67. f = open(file_name, 'ab')
  68. f.write(img.content)
  69. # print(file_name, '图片保存成功！')
  70. f.close()
  71. exceptexceptionas e:
  72. print(e)
  73. # 主方法
  74. def main():
  75. res = requests.get(mzitu, headers=headers)
  76. # 使用自带的html.parser解析
  77. soup = beautifulsoup(res.text, 'html.parser')
  78. # 创建文件夹
  79. createfile(save_path)
  80. # 获取首页总页数
  81. img_max = soup.find('div', class_='nav-links').find_all('a')[3].text
  82. # print("总页数:"+img_max)
  83. for i in range(1, int(img_max) + 1):
  84. # 获取每页的url地址
  85. if i == 1:
  86. page = mzitu
  87. else:
  88. page = mzitu + 'page/' + str(i)
  89. file = save_path + '/' + str(i)
  90. createfile(file)
  91. # 下载每页的图片
  92. print("套图页码：" + page)
  93. download(page, file)
  94. if __name__ == '__main__':
    main()


脚本在linux服务器下运行，执行以下命令

  1. python 3 mzitu.py
  2. # 或者后台执行
  3. nohup python3 -u mzitu.py > mzitu.log 2>&1 &


目前只爬取了一个栏目的套图，一共17g，5332张图片。

  1. [root@itstyle mzitu]# du -sh
  2. 17g .
  3. [root@itstyle mzitu]# ll -s
  4. total 5332


下面，请小伙伴们睁大眼睛，鸡冻人心的套图时刻来了。

用Python爬取了妹子网100G的套图，值得收藏

 

用Python爬取了妹子网100G的套图，值得收藏


小结
作为一个初学者，脚本肯定多多少少有一些问题或者待优化的地方，另外注意不管你是为了python就业还是兴趣爱好，记住：项目开发经验永远是核心，如果你缺新项目练习或者没有python精讲教程，可以去小编的python交流.裙 ：七衣衣九七七巴而五（数字的谐音）转换下可以找到了，里面很多新教程项目，还可以跟老司机交流讨教！
本文的文字及图片来源于网络加上自己的想法,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理。

上一篇： 汤姆是男人们的骄傲

下一篇： 忍鸟七人众

推荐阅读