请问 寻找PHP采集大量网页高效可行的方法
但是很慢，采集到50个左右的时候就会停掉，然后网页卡住，第二次运行的时候就无法采集，应该是根据IP识别后，不允许采集了吧，所以基本上采集数据非常慢。
请问这种大数据的采集应该怎么做？
也有可能是我代码的问题。
以下是部分代码。
$j=0;
//起始ID
$id = 200000;
//采集1000条
//保存采集的数据
$data = array();
while($j $url = 'http://www.xiami.com/song/'.($id++);
$ch = curl_init();
$status = curl_getinfo($ch);
///$status['redirect_url'] ;// 跳转到的新地址
$header[]='Accept:text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8';
$header[]='Accept-Encoding:gzip,deflate,sdch';
$header[]='Accept-Language:zh-CN,zh;q=0.8';
$header[]='Cache-Control:max-age=0';
$header[]='Connection:keep-alive';
$header[]='Cookie:_unsign_token=a35437bd35c221c09a0e6f564e17c225; __gads=ID=7fcc242f6fd63d77:T=1408774454:S=ALNI_Mae8MH6vL5z6q4NlGYzyqgD4jHeEg; bdshare_firstime=1408774454639; _xiamitoken=3541aab48832ba3ceb089de7f39b9b0f; pnm_cku822=211n%2BqZ9mgNqgJnCG0Zu8%2BzyLTPuc%2B7wbrff98%3D%7CnOiH84T3jPCG%2FIr%2BiPOG8lI%3D%7CneiHGXz6UeRW5k4rRCFXIkcoTdd7ym3fZdO2FrY%3D%7Cmu6b9JHlkuGa5pDqnOie5ZDkmeqb4ZTule6V7ZjjlOib7JrmkvdX%7Cm%2B%2BT%2FGIUew96DXsUYBd4HawbrTOXOVI4iyOLIYUqT%2B9P%7CmO6BH2wDcB9rHGsYdwRrH2gfbAN%2FDH8QZBNkF3gDeQqqCg%3D%3D%7Cme6d7oHyneiH84Twn%2BmR64TzUw%3D%3D; CNZZDATA921634=cnzz_eid%3D1437506062-1408774274-%26ntime%3D1408937320; CNZZDATA2629111=cnzz_eid%3D2021816723-1408774274-%26ntime%3D1408937320; isg=075E6FBDF77039CEB63A1BA239420244';
$header[]='Host:www.xiami.com';
$header[]='User-Agent:Mozilla/5.0 (Windows NT 5.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/32.0.1653.0 Safari/537.36';
curl_setopt($ch, CURLOPT_URL, $url); //要访问的地址
curl_setopt($ch, CURLOPT_HTTPHEADER, $header); //设置http头
curl_setopt($ch, CURLOPT_HEADER, 0); //显示返回的Header区域内容
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //获取的信息以文件流的形式返回
curl_setopt($ch, CURLOPT_TIMEOUT, 20); //设置超时限制防止死循环
$content = curl_exec($ch); //执行操作
$curl_errno = curl_errno($ch);
$curl_error = curl_error($ch);
curl_close($ch); //关闭CURL会话
preg_match('/name="description"\s+content="《(.+)》演唱者(.+)，所属专辑《(.+)》/', $content,$matches);
//如果歌曲名字为空，跳过
if(empty($matches[1]) || trim($matches[1]) == ''){
continue;
}
//匹配出的数据
$data[$id]['song'] = empty($matches[1])?' ':$matches[1];
$data[$id]['songer'] = empty($matches[2])?' ':$matches[2];
$data[$id]['album'] = empty($matches[3])?' ':$matches[3];
preg_match('/album\/(\d+)/', $content,$matches);
$data[$id]['albumId'] = empty($matches[1])?0:$matches[1];
preg_match('/\/artist\/(\d+)/', $content,$matches);
$data[$id]['songerId'] = empty($matches[1])?0:$matches[1];
//歌词
preg_match('/(.*)/Us', $content,$matches);
$data[$id]['lrc'] = empty($matches[1])?' ':addslashes($matches[1]);
//分享 分享(3269)
preg_match('/分享\((\d+)\)/Us', $content,$matches);
$data[$id]['share'] = empty($matches[1]) ? 0:$matches[1];
//评论次数920
preg_match('/(\d+)/Us', $content,$matches);
$data[$id]['comment_count'] = empty($matches[1])?0:$matches[1];
//入库操作
//print_r($data);
//_____________________________
$j++;
usleep(3000);
}
------解决方案--------------------
亲，用snoopy类吧
------解决方案--------------------本帖最后由 PhpNewnew 于 2014-08-27 22:09:20 编辑 亲用 Ruby 或者 Go 吧
开玩笑，就算你要跑好歹你也弄成命令行的模式跑呀....
------解决方案--------------------
应该是xiami.com服务器有限制，禁止采集吧
1，每个url请求只采10-20打，然后做个跳转在继续采集，这样也可以防止页面超时，如果你在虚机上运行，长时间点用cpu，进程可能会被kill.
2，每次url请求header中的user-agent，cookies，最好都能改一下。
3，如果还不行，用火车头试试吧！
4，如果火车也不行，那就放弃这个站吧！
------解决方案--------------------
把foreach拆分成循环执行同一页面。
第一次浏览器或者cronrab定时执行 http://localhost/caiji.php?num=1 每次完成后，$_GET['num']+1；curl 重复l执行同一脚本，当$_GET['num']==1000后，退出，不再执行curl。if($_GET['num']){
$url = 'http://www.xiami.com/song/'.$_GET['num'];
//你的代码
$_GET['num'])++;
}
if($_GET['num'] $ch = curl_init();
curl_setopt($ch, CURLOPT_URL,"http://localhost/caiji.php?num=".$_GET['num']));
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_CONNECTTIMEOUT ,2);
curl_setopt($ch, CURLOPT_TIMEOUT ,2);
curl_exec($ch);
curl_close($ch);
}else{
exit;
}声明：本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系admin@php.cn核实处理。
相关文章
相关视频
专题推荐
独孤九贱-php全栈开发教程
全栈 170W+
主讲：Peter-Zhu 轻松幽默、简短易学，非常适合PHP学习入门
玉女心经-web前端开发教程
入门 80W+
主讲：灭绝师太 由浅入深、明快简洁，非常适合前端学习入门
天龙八部-实战开发教程
实战 120W+
主讲：西门大官人 思路清晰、严谨规范，适合有一定web编程基础学习
作者信息
- 最新文章
- 热门排行
网友评论
文明上网理性发言，请遵守 新闻评论服务协议
我要评论