欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  后端开发

抓取时ip被封禁有关问题

程序员文章站 2022-04-30 17:06:11
...
抓取时ip被封禁问题
本帖最后由 zzfkyo 于 2013-11-24 22:36:33 编辑 最近需要抓取一个站点的内容,我是用的snoopy来抓的,一开始发现会封ip后,我按照网上的解决方案将user-agent换成了google的蜘蛛的,并且用snoopy进行了伪造了ip(每抓一条就换一个随机ip)但是抓取一百多个页面后还是被封ip导致无法抓取,有什么好的解决方法吗?
snoopy 抓取 封ip

网友评论

文明上网理性发言,请遵守 新闻评论服务协议

我要评论
  • 抓取时ip被封禁有关问题
  • 专题推荐

    作者信息
    抓取时ip被封禁有关问题

    认证0级讲师

    推荐视频教程
  • 抓取时ip被封禁有关问题javascript初级视频教程
  • 抓取时ip被封禁有关问题jquery 基础视频教程
  • 视频教程分类