欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  后端开发

php使用curl和正则表达式抓取网页数据示例_php实例

程序员文章站 2022-05-01 18:58:06
...
利用curl和正则表达式做的一个针对磨铁中文网非vip章节的小说抓取器,支持输入小说ID下载小说。
依赖项:curl
可以简单的看下,里面用到了curl ,正则表达式,ajax等技术,适合新手看看。在本地测试,必须保证联网并且确保php开启curl的mode

SpiderTools.class.php

复制代码 代码如下:

session_start();
//封装成类 开启这些自动抓取文章
#header("Refresh:30;http://www.test.com:8080");
class SpiderTools{
//////////////////////////////////////////////////////////////////////////////////////////////////////////
/*传入文章ID 解析出文章标题*/
//////////////////////////////////////////////////////////////////////////////////////////////////////////
public function getBookNameById($aid){
//初始化curl
$ch= curl_init();
//url
$url='http://www.motie.com/book/'.$aid;
if(is_numeric($aid)){
//正则表达式匹配
$ru="/

\s*(.*)\s*\s*/";
}
else{
//丧尸爆发之全家求生路_第一章 丧尸爆发  为吾友爱乐儿更新~_磨铁
$ru="/(.*)/";<br> }<br> //设置选项,包括URL<br> curl_setopt($ch, CURLOPT_URL, $url);<br> curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);//不自动输出内容<br> curl_setopt($ch, CURLOPT_HEADER, 0);//不返回头部信息<br> curl_setopt($ch, CURLOPT_CONNECTTIMEOUT_MS, 0); <br> //执行curl<br> $output = curl_exec($ch);<br> //错误提示<br> if(curl_exec($ch) === false){<br> die(curl_error($ch));<br> }<br> // 检查是否有错误发生<br> if(curl_errno($ch)){<br> echo 'Curl error: ' . curl_error($ch);<br> }<br> //释放curl句柄<br> curl_close($ch);<br> $arr=array();<br> preg_match_all($ru,$output,$arr);<br> return $arr[1][0];<br> }<br> ////////////////////////////////////////////////////////////////////////////////////////////////////////// <br> /*传入文章ID 解析文章内容*/<br> //////////////////////////////////////////////////////////////////////////////////////////////////////////<br> public function getBookContextById($aid){<br> //开始解析文章<br> $ids=array();<br> $ids=explode("_",$aid);<br> $titleId=trim($ids[0]);<br> $aticleId=trim($ids[1]);<br> $ch= curl_init();<br> $ru="/<div class='\"page-content\"'>[\s\S]*<pre ondragstart='\"return' false oncopy='\"return' oncut='\"return' oncontextmenu='\"return' class='\"note\"' id='\"html_content_\d*\"'>[\s\S]*(.*)<img onerror="this.src='/statics/superweb999/images/image_error.jpg'"src="/default/index/img?u=XCJcL2FqYXhcL2NoYXB0ZXJcLyR0aXRsZUlkXC8kYXRpY2xlSWRcIg==" class='\"hidden\"' alt="php使用curl和正则表达式抓取网页数据示例_php实例" title="php使用curl和正则表达式抓取网页数据示例_php实例">/ui"; <br> $url='http://www.motie.com/book/'.$aid;<br> //正则表达式匹配 <p> //设置选项,包括URL<br> curl_setopt($ch, CURLOPT_URL, $url);<br> curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);//不自动输出内容<br> curl_setopt($ch, CURLOPT_HEADER, 0);//不返回头部信息<br> curl_setopt($ch, CURLOPT_CONNECTTIMEOUT_MS, 0); <br> //执行curl<br> $output = curl_exec($ch);<br> //错误提示<br> if(curl_exec($ch) === false){<br> die(curl_error($ch));<br> }<br> // 检查是否有错误发生<br> if(curl_errno($ch)){<br> echo 'Curl error: ' . curl_error($ch);<br> }<br> $arr=array();<br> $arr2=array();<br> preg_match_all($ru,$output,$arr);<br> curl_close($ch);<br> #var_dump($arr);<br> $s=$arr[0][0];<br> $s=substr($s,180);<br> $arr2=explode("<img onerror="this.src='/statics/superweb999/images/image_error.jpg'"src="/default/index/img?u=" alt="php使用curl和正则表达式抓取网页数据示例_php实例" title="php使用curl和正则表达式抓取网页数据示例_php实例"> return trim($arr2[0]);<br> }</p> <p> ////////////////////////////////////////////////////////////////////////////////////////////////////////// <br> /*静态方法 @生成小说文件 可以直接调用 */<br> //////////////////////////////////////////////////////////////////////////////////////////////////////////<br> public static function createBookById($id){<br><br> if(!is_numeric($id)){</p> <p> echo "<br>INIT BEGIN START WRITE!";<br> $st=new self();<br> $cons=$st->getBookContextById($id);<br> $title=$st->getBookNameById($id);<br> $cons=trim($cons);<br> $t=explode(" ",$title);<br> //构造目录<br> $dir=array();<br> $dir=explode("_",$t[0]);<br> $wzdir=$dir[0]; //书名称 作为目录名称<br> $wzchapter=$dir[1]; //第几章<br> //创建目录<br> $wzdir2=iconv("UTF-8", "GBK", $wzdir);//目录编码 注意这里保留对$wzdir字符串的引用,用来构造文件名,不能用此处,防止二次编码<br> if(!file_exists($wzdir2)){<br> mkdir($wzdir2); //创建目录<br> }<br> //构造文件名<br> $wztitle="./".$wzdir."/"."$t[0]".".txt";<br> //保证保存的文件名称不是乱码<br> $wztitle=iconv("UTF-8", "GBK", $wztitle);<br> $f=fopen($wztitle,"w+");<br> fwrite($f,$cons);<br> echo "<font color="green">$wzdir </font>".$wzchapter."<font color="red">写入成功</font>";<br> fclose($f); <br><br> } <br> else{<br> $ids=self::getBookIdsById($id); <br><br> //这里服务器可能会掉线,所以最好用session记录循环<br> #for($i=$_SESSION["$id"."_fid"];$i<br> #self::createBookById($id."_".$ids[$_SESSION["$id"."_fid"]++]);//构造id<br> #}<br><br> for($i=$_SESSION["$id"."_fid"];$i<br> self::createBookById($id."_".$ids[$i]);//构造id<br> }<br><br> #echo "</p><hr><hr><br><h1>写入工作全部完成</h1>";<br> #echo $id."_".$ids[0]."<br>"; <br> #var_dump($ids);<br><br> } <p><br> }<br> /*<br> 获取小说的所有ID<br> @param $id 文章ID<br> @return array;<br> */<br> public static function getBookIdsById($aid){ <br> $ch= curl_init();<br> $url='http://www.motie.com/book/'.$aid."/chapter";<br> //注意这里的?可以获取最少匹配项<br> $ru='/[\s\S]*?</p></pre> <li class='\"\"' createdate='\"\d{4}\-\d{2}\-\d{2}'>[\s\S]*?<a href="/default/index/url?u=aHR0cHM6Ly93d3cucGhwLmNuXCJcL2Jvb2tcLycuJGFpZC4nXyhcZCo/KVwiXHN7MX0=" target="_blank" rel="nofollow">.*?.*?/u';//正则表达式匹配<br> //设置选项,包括URL<br> curl_setopt($ch, CURLOPT_URL, $url);<br> curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);//不自动输出内容<br> curl_setopt($ch, CURLOPT_HEADER, 0);//不返回头部信息<br> curl_setopt($ch, CURLOPT_CONNECTTIMEOUT_MS, 0); <br> //执行curl<br> $output = curl_exec($ch);<br> // 检查是否有错误发生<br> if(curl_errno($ch)){<br> echo 'Curl error: ' . curl_error($ch);<br> }<br> //释放curl句柄<br> curl_close($ch);<br> $arr=array();<br> preg_match_all($ru,$output,$arr,PREG_PATTERN_ORDER);<br> return $arr[1];<br> }<br>}<br>?><br></a> </li> </div> <p>getinfo.php<br></p> <div class="codetitle"> <span><a style="CURSOR: pointer" data="93004" class="copybut" id="copybut93004" onclick="doCopy('code93004')" target="_blank" rel="nofollow" href="/default/index/url?u=aHR0cHM6Ly93d3cucGhwLmNu"><u>复制代码</u></a></span> 代码如下:</div> <div class="codebody" id="code93004"> <br><?php <BR> session_start();<br>require_once("SpiderTools.class.php");<br>if($_REQUEST["bid"]){<br>if(is_numeric($_REQUEST["bid"])){<br> SpiderTools::createBookById(trim($_REQUEST["bid"]));<br> }<br> else{<br> echo "<br>请输入正确的文章ID<br>";<br> }<br>}<br>?><br> </div> <p>index.html<br></p> <div class="codetitle"> <span><a style="CURSOR: pointer" data="70978" class="copybut" id="copybut70978" onclick="doCopy('code70978')" target="_blank" rel="nofollow" href="/default/index/url?u=aHR0cHM6Ly93d3cucGhwLmNu"><u>复制代码</u></a></span> 代码如下:</div> <div class="codebody" id="code70978"> <br><br><meta http-equiv="Content-Type" content="text/html;charset=UTF-8"> <meta charset="utf-8"> <br><title>下载小说啦

输入磨铁中文网你想看到的小说ID号就可以下载小说啦








function stateChanged()
{
if(xmlHttp.readyState==1){

document.getElementById("info").innerHTML="正在准备工作,请耐心点哦~^_^~php使用curl和正则表达式抓取网页数据示例_php实例
";
}
if(xmlHttp.readyState==2){

document.getElementById("info").innerHTML="正在联系服务器,这可能需要一点时间啦^>php使用curl和正则表达式抓取网页数据示例_php实例";
}

if(xmlHttp.readyState==3){

document.getElementById("info").innerHTML="正在解析数据php使用curl和正则表达式抓取网页数据示例_php实例
";
}

if (xmlHttp.readyState==4 || xmlHttp.readyState=="complete")
{

document.getElementById("info").innerHTML=xmlHttp.responseText;
//xmlHttp.abort();

}


}

function GetXmlHttpObject()
{
var xmlHttp=null;
try
{
// Firefox, Opera 8.0+, Safari
xmlHttp=new XMLHttpRequest();
}
catch (e)
{
//Internet Explorer
try
{
xmlHttp=new ActiveXObject("Msxml2.XMLHTTP");
}
catch (e)
{
xmlHttp=new ActiveXObject("Microsoft.XMLHTTP");
}
}
return xmlHttp;
}



php使用curl和正则表达式抓取网页数据示例_php实例

声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn核实处理。

相关文章

相关视频


相关标签: curl 正则表达式 抓取网页数据

上一篇: substr以后,字符串显示为空的

下一篇: bootstrap和jquery区别有哪些

推荐阅读