基于curl数据采集之正则处理函数get_matches的使用
程序员文章站
2022-05-31 09:33:38
根据前两篇的博文:
已经可以得到了我们需要的html文件,现在需要处理得到的文件获取到我们需要的采集的数据。
对于html文档的解析,没有像xml那样的解析类,...
根据前两篇的博文:
已经可以得到了我们需要的html文件,现在需要处理得到的文件获取到我们需要的采集的数据。
对于html文档的解析,没有像xml那样的解析类,因为html文档有很多不成对的标签,很不严格。这个时候就需要采用其他的一些辅助类了,simplehtmldom是一个类似于jquery方式操作html文档的解析类。可以很方便的得到想要的数据,可惜速度慢。这里不是我们这里讨论的重点,我主要使用正则来匹配我所需要的采集的数据,可以很快速的得到我需要采集的信息。
考虑到get_html可以判断返回的数据,但是get_htmls没有办法判断,为了方便调式和调用写了如下两个函数:
复制代码 代码如下:
function get_matches($pattern,$html,$err_msg,$multi=false,$flags=0,$offset=0){
if(!$multi){
if(!preg_match($pattern,$html,$matches,$flags,$offset)){
echo $err_msg."! 错误信息: ".get_preg_err_msg()."\n";
return false;
}
}else{
if(!preg_match_all($pattern,$html,$matches,$flags,$offset)){
echo $err_msg."! 错误信息: ".get_preg_err_msg()."\n";
return false;
}
}
return $matches;
}
function get_preg_err_msg(){
$error_code = preg_last_error();
switch($error_code){
case preg_no_error :
$err_msg = 'preg_no_error';
break;
case preg_internal_error:
$err_msg = 'preg_internal_error';
break;
case preg_backtrack_limit_error:
$err_msg = 'preg_backtrack_limit_error';
break;
case preg_recursion_limit_error:
$err_msg = 'preg_recursion_limit_error';
break;
case preg_bad_utf8_error:
$err_msg = 'preg_bad_utf8_error';
break;
case preg_bad_utf8_offset_error:
$err_msg = 'preg_bad_utf8_offset_error';
break;
default:
return '未知错误!';
}
return $err_msg.': '.$error_code;
}
可以这样调用:
复制代码 代码如下:
$url = 'http://www.baidu.com';
$html = get_html($url);
$matches = get_matches('!<a[^<]+</a>!',$html,'没有找到链接',true);
if($matches){
var_dump($matches);
}
或者这样调用:
复制代码 代码如下:
$urls = array('http://www.baidu.com','http://www.hao123.com');
$htmls = get_htmls($urls);
foreach($htmls as $html){
$matches = get_matches('!<a[^<]+</a>!',$html,'没有找到链接',true);
if($matches){
var_dump($matches);
}
}
就可以得到所需的信息,无论单页面采集还是多页面采集,最终php还是只能处理一个页面,由于使用get_matches了,可以对返回的值进行判断真假,得到正确的数据,由于使用正则的时候遇到了超过正则回溯的问题,增加get_preg_err_msg来提示正则信息。
由于采集数据的时候,经常是采集列表页,根据列表页得到的内容页链接再采集内容页,或者更多的层次,那么循环嵌套会很多,对于代码的控制会感觉力不从心。那我们是否可以把采集列表页的代码和采集内容页的代码,或者更多的层次的采集代码分离开,甚至循环都简化呢?
上一篇: python 获取url中的参数列表实例
下一篇: 网站运营时如何优化用户体验
推荐阅读
-
基于curl数据采集之单页面采集函数get_html的使用
-
基于curl数据采集之正则处理函数get_matches的使用
-
基于curl数据采集之单页面并行采集函数get_htmls的使用
-
基于curl数据采集之单页面采集函数get_html的使用
-
基于curl数据采集之单页面并行采集函数get_htmls的使用_PHP
-
基于curl数据采集之正则处理函数get_matches的使用
-
基于curl数据采集之单页面并行采集函数get_htmls的使用
-
基于curl数据采集之单页面采集函数get_html的使用_PHP
-
基于curl数据采集之单页面采集函数get_html的使用_PHP
-
基于curl数据采集之单页面采集函数get_html的使用