PHP采集这个网站是如何防采集的
程序员文章站
2022-04-08 17:25:01
...
PHP采集高手进!这个网站是怎么防采集的?
最近采集一个网站,采集不了他的产品,但是我不知道他用了什么防采集的技术?求指教
http://www.leisurelakesbikes.com/ 怎样才能采集到他呢?
------解决方案--------------------
不知道你要采集什么内容,图片之类的可能用了防盗链,在你发送的访问请求中伪造Referer,伪造不是很难,你可以搜索一下相关资料很多的。
------解决方案--------------------
完整构建一个HTTP请求吧,只要IE能访问,肯定能采集。
------解决方案--------------------
最近采集一个网站,采集不了他的产品,但是我不知道他用了什么防采集的技术?求指教
http://www.leisurelakesbikes.com/ 怎样才能采集到他呢?
------解决方案--------------------
不知道你要采集什么内容,图片之类的可能用了防盗链,在你发送的访问请求中伪造Referer,伪造不是很难,你可以搜索一下相关资料很多的。
------解决方案--------------------
完整构建一个HTTP请求吧,只要IE能访问,肯定能采集。
------解决方案--------------------
- PHP code
$url='http://www.leisurelakesbikes.com/product/specializedtransitioncompracingbike2011.aspx?&id=16728'; $curl=curl_init($url); curl_setopt($curl,CURLOPT_AUTOREFERER,1); curl_setopt($curl,CURLOPT_RETURNTRANSFER,1); $html=curl_exec($curl); echo $html;
------解决方案--------------------
整个网页几乎都包含在一个hidden form里面,你留意一下,估计用了ajax和session相关文章
相关视频
推荐阅读
-
shell脚本联合PHP脚本采集网站的pv和alexa排名
-
如何使用MYIIS-VIF来限制和防采集功能 让你的站点少点负担
-
建站经验 你的网站该如何应对被采集
-
网站生成静态页面,及网站数据采集的攻、防原理和策略
-
干货丨大数据是如何被采集及应用的
-
如何查看一个网站首页是index.htm还是index.php 不用试的方法.或者有哪个浏览器可以直接显示的?
-
php 如何记住游客点击的是页面上的哪个链接 下次登陆了这个页面直接跳到那个链接
-
数据采集中用到的php插件,各位帮忙下吧!该如何解决
-
麻烦大哥帮看看这个PHP文件是用什么加密的?如何解密?
-
PHP正则去除采集页中的超级链接跟图片,参数如何写。