欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  后端开发

怎么模拟IP

程序员文章站 2022-04-06 09:24:02
...
如果被封IP了,怎么模拟其它IP?

回复内容:

如果被封IP了,怎么模拟其它IP?

基本两个种情况吧
1.http header
考虑一下对方是如何取IP并封禁的。网上很多取IP的方法是先考虑陛 x-forward-for, x-real-ip 这些代理http头,取不到才会取 remote_addr这个tcp建连的真实IP。所以如果对方是一个懒散的程序员,可以手工设置这些头来试一试,看是否能够突破。

2.http proxy
当然,很多被搞过的站都有过类似经历,封禁用的IP大多会用tcp建连的IP,这时候你就需要找一些代理来用了。当然网上有一大堆免费代理,只是寿命都不长,而且稳定性堪忧。如果你是长期干这个事,推荐你自己维护一个代理库。

方法:
抓取:找一些提供免费代理的站点,写爬虫去抓上面的代理IP和端口。检测可用性然后入库。
过滤:另一个独立进程定时遍历这些代理,发现有不可用的就踢出库。
这样两个线程一起协同工作,一个抓取,一个过滤。基本就能给你提供一个相对稳定的代理IP库。
我现在就这样搞的,只跑了两个单线程,抓了四五个站,目前基本可用的代理大概在2000个左右。

php

这是之前抓取别人数据时候写的,你可以参考一下,就是获取用户IP,然后伪造用户的IP去访问站点抓取数据,成功突破限制

  1. 用代理服务器,最好是使用VPN的代理(socks5, open VPN),而HTTP的代理依然会有被发现你的IP可能性
  2. 修改你的爬虫所在的电脑的IP(一般不好搞,因为大多用的是私网IP,得修改公网IP才行)

    function curlPost($url, $post='', $autoFollow=0){
        $ch = curl_init();
        $user_agent = 'Safari Mozilla/5.0 (Macintosh; Intel Mac OS X 10_9_1) AppleWebKit/537.73.11 (KHTML, like Gecko) Version/7.0.1 Safari/5
        curl_setopt($ch, CURLOPT_USERAGENT, $user_agent);
        // 2. 设置选项,包括URL
        curl_setopt($ch, CURLOPT_URL, $url);
        curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
        curl_setopt($ch, CURLOPT_HEADER, 0); 
        curl_setopt($ch, CURLOPT_HTTPHEADER, array('X-FORWARDED-FOR:61.135.169.125', 'CLIENT-IP:61.135.169.125'));  //构造IP
        curl_setopt($ch, CURLOPT_REFERER, "http://www.baidu.com/");   //构造来路
        curl_setopt($ch, CURLOPT_CUSTOMREQUEST, 'GET');
        if($autoFollow){
            curl_setopt($ch, CURLOPT_FOLLOWLOCATION, true);  //启动跳转链接
            curl_setopt($ch, CURLOPT_AUTOREFERER, true);  //多级自动跳转
        }   
        //  
        if($post!=''){
            curl_setopt($ch, CURLOPT_POST, 1);//post提交方式
            curl_setopt($ch, CURLOPT_POSTFIELDS, $post);
        }   
        // 3. 执行并获取HTML文档内容
        $output = curl_exec($ch);
        curl_close($ch);
        return $output;
    }

CURLOPT_HTTPHEADER,

写爬虫必备,百试不爽

唉,就是你们这些人啊,我们每天被广告的东西烦死,真心防不胜防