python Scrapy爬虫框架的使用

　　导读：如何使用scrapy框架实现爬虫的4步曲？什么是crawspider模板？如何设置下载中间件？如何实现scrapyd远程部署和监控？想要了解更多，下面让我们来看一下如何具体实现吧！

scrapy安装（mac）

pip install scrapy

注意：不要使用commandlinetools自带的python进行安装，不然可能报架构错误；用brew下载的python进行安装。

scrapy实现爬虫

新建爬虫

scrapy startproject demospider，demospider为项目名。

确定目标

编写items.py，如添加目标字段：person = scrapy.field()

制作爬虫

scrapy genspider demo "baidu.com"，创建demo爬虫文件，指定爬取域。

修改demo.py里的start_urls的地址为自己想爬取的地址如：https://www.cnblogs.com/teark/

随意修改parse()方法，如保存所爬取的页面，可以这样：

def parse(self, response):
  with open("teark.html", "w") as f:
    f.write(response.text)

运行爬虫，看看效果：scrapy crawl demo

有了保存的页面后（可注释掉或删掉保存页面的代码），根据页面结构提取所需数据，一般用xpath表达式，如：

def parse(self, response):
  for _ in response.xpath("//div[@class='teark_article']"):
    item = itcastitem()
    title = each.xpath("h3/text()").extract()
    content = each.xpath("p/text()").extract()
    item['title'] = title[0]
    item['content'] = content[0]
    yield item

保存数据：scrapy crawl demo -o demo.json（以下格式都行：jsonl，jsonl，csv，xml）

注：该过程在取值中经常需要页面调试，使用scrapy shell（最好先安装ipython，有语法提示），调试好了再放到代码里，如：

scrapy shell "https://www.cnblogs.com/teark/"
response.xpath('//*[@class="even"]')
print site[0].xpath('./td[2]/text()').extract()[0]

处理内容

pipline常用来存储内容，pipline.py中必须实现process_item()方法，该方法必须返回item对象，如：

import json

class itcastjsonpipeline(object):

  def __init__(self):
    self.file = open('demo.json', 'wb')

  def process_item(self, item, spider):
    content = json.dumps(dict(item), ensure_ascii=false) + "\n"
    self.file.write(content)
    return item

  def close_spider(self, spider):
    self.file.close()

在settings.py中添加item_pipelines配置，如：

item_pipelines = {
  "demospider.pipelines.demojsonpipeline":300
}

重新启动爬虫：scrapy crawl demo，看看当前目录是否生成demo.json

crawlspiders

crawlspider是spider的派生类，为了从爬取的网页中获取link并继续爬取。

快速创建 crawlspider模板：scrapy genspider -t crawl baidu baidu.com

rule类制定了爬取规则；linkextractors类为了提取链接，如：

scrapy shell "http://teark.com/article.php?&start=0#a"

from scrapy.linkextractors import linkextractor

# 注意转义字符&
page_lx = linkextractor(allow=('comment.php?\&start=\d+'))
page_lx.extract_links(response)

测试完后就知道了allow和rules了，修改spider代码：

#提取匹配 'http://teark.com/article.php?&start=\d+'的链接
page_lx = linkextractor(allow = ('start=\d+'))

rules = [
  #提取匹配,并使用spider的parse方法进行分析;并跟进链接(没有callback意味着follow默认为true)
  rule(page_lx, callback = 'parsecontent', follow = true)
]

注：callback 千万不能写 'parse'

logging

添加日志功能：settings.py中添加如下：

log_file = "demospider.log"

# 还有critical, error, warning debug等级别
log_level = "info"

formrequest

该方法用来发送post请求，在spider.py中如下：

def start_requests(self):
    url = 'http://www.renren.com/plogin.do'
    yield scrapy.formrequest(
      url = url,
      formdata = {"email" : "teark@9133***34.com", "password" : "**teark**"},
      callback = self.parse_page
    )

模拟登陆：

import scrapy

class loginspider(scrapy.spider):
  name = 'demo.com'
  start_urls = ['http://www.demo.com/users/login.php']　　　　

  def parse(self, response):
    return scrapy.formrequest.from_response(
      response,
      formdata={'username': 'teark', 'password': '***'},
      callback=self.after_login
    )

  def after_login(self, response):
    # 检查登陆成功还是失败
    if "authentication failed" in response.body:
      self.log("login failed", level=log.error)
      return

downloader middlewares

防止爬虫被反策略

设置随机user-agent

禁用cookies，可以通过cookies_enabled 控制 cookiesmiddleware 开启或关闭

设置延迟下载降低频率

使用谷歌/百度等搜索引擎服务器页面缓存获取页面数据

使用ip地址池——vpn和代理ip

使用cralera（专用于爬虫的代理组件），配置中间件后请求都是通过crawlera发出的

设置下载中间件——downloader middlewares

键为中间件类的路径，值为其中间件的顺序(order)

downloader_middlewares = {
  'myspider.middlewares.mydownloadermiddleware': 543,
}

当请求通过下载中间件时，process_request方法被调用；当下载中间件完成请求后传递响应给引擎时process_response方法被调用。

在settings.py同级目录下创建middlewares.py文件，如：

import random
import base64
from settings import user_agents
from settings import proxies


class randomuseragent(object):
  def process_request(self, request, spider):
    useragent = random.choice(user_agents)
    request.headers.setdefault("user-agent", useragent)

class randomproxy(object):
  def process_request(self, request, spider):
    proxy = random.choice(proxies)
    if proxy['user_passwd'] is none:
      request.meta['proxy'] = "http://" + proxy['ip_port']
    else:
      base64_userpasswd = base64.b64encode(proxy['user_passwd'])
      request.headers['proxy-authorization'] = 'basic ' + base64_userpasswd
      request.meta['proxy'] = "http://" + proxy['ip_port']

与代理服务器连接需要使用base64编码，如果有需要身份验证的话还需要加上授权信息，

修改settings.py配置user_agents和proxies

免费代理ip上网搜，或购买可用的私密代理ip

user_agents = ["mozilla/5.0 (windows; u; windows nt 5.1; en-us; rv:1.8.1.2pre) gecko/20070215 k-ninja/2.1.1",
  "mozilla/5.0 (windows; u; windows nt 5.1; zh-cn; rv:1.9) gecko/20080705 firefox/3.0 kapiko/3.0",
  "mozilla/5.0 (x11; linux i686; u;) gecko/20070322 kazehakase/0.4.5"
  ]

proxies = [
　　{'ip_port': '111.8.60.9:8123', 'user_passwd': 'user1:pass1'},
　　{'ip_port': '101.71.27.120:80', 'user_passwd': 'user2:pass2'},
　　{'ip_port': '122.96.59.104:80', 'user_passwd': 'user3:pass3'},
　　]

# 禁用cookies
cookies_enabled = false

# 设置下载延迟
download_delay = 3

# 添加自己编写的下载中间件
downloader_middlewares = {
  #'myspider.middlewares.mycustomdownloadermiddleware': 543,
  'myspider.middlewares.randomuseragent': 1,
  'myspider.middlewares.proxymiddleware': 100
}

scrapyd - 爬虫的远程部署和监控

安装scrapyd

sudo pip install scrapyd
sudo pip install scrapyd-client

修改scrapyd的配置文件

启用scrapyd配置，在deploy后面指定当前项目的scrapyd配置名，配置scrapyd服务的ip和port，以及当前项目的项目名，如：

sudo vi /usr/local/lib/python3.8.6/site-packages/scrapyd/default_scrapyd.conf

# scrapy项目的settings文件位置，不用改动
[settings]
default = demo.settings

# scrapyd_tencent是配置名
[deploy:scrapyd_demo]    

# 若是本机scrapyd服务部署，则使用localhost即可否则使用服务主机的ip
url = http://localhost:6800/  

# 需要部署和监控的scrapy项目名
project = demo

通过scrapyd客户端工具挂载项目

指令：scrapyd-deploy scrapyd_demo -p demo

scrapyd-deploy 是客户端命令，参数是 scrapyd配置名，以及 -p 指定项目名

远程部署和停止爬虫

部署：curl http://localhost:6800/schedule.json -d project=demo -d spider=demo

停止：curl http://localhost:6800/cancel.json -d project=demo -d job=iundsw....

注：爬虫启动成功后，会生成job值，停止爬虫时需要通过job值停止。

以上就是python scrapy爬虫框架的使用的详细内容，更多关于python scrapy爬虫框架的资料请关注其它相关文章！