自己写的php curl库实现整站克隆功能
程序员文章站
2022-11-15 12:38:03
有时候经常会用到一些在线手册,比如国内或国外的,有些是访问速度慢,有些是作者直接吧网站关闭了,有些是服务器总是宕机,所以还是全盘克隆到自己服务器比较爽。
库特点:
给定...
有时候经常会用到一些在线手册,比如国内或国外的,有些是访问速度慢,有些是作者直接吧网站关闭了,有些是服务器总是宕机,所以还是全盘克隆到自己服务器比较爽。
库特点:
给定一初始连接,初始链接以下的层级所有文件会拷贝到本地。
多次克隆可以配置是否覆盖。
可以配置是否下载图片。
所有链接替换为相对链接,所以可以随便rewrite。
绝对不会出现文件覆盖等问题。
最nb的特点是,没有比这更nb的库了。
svn:http://svn.phpdr.net/repos/ares/php/library/trunk/lib/curlmulti/mycurl/clone.php
下载:http://xiazai.jb51.net/201502/other/curlmulti.rar
克隆结果展示(这个克隆操作几秒钟就完成了):
克隆源网站:
克隆结果:
demo代码:
复制代码 代码如下:
<?php
class controller_spider extends myyaf_controller_base{
function init(){
parent::init();
if(!$this->getrequest()->iscli()){
ares_http::error403();
}
include 'curlmulti/curlmulti.php';
include 'curlmulti/mycurl.php';
include 'phpquery.php';
}
}
复制代码 代码如下:
<?php
class yafdoccontroller extends controller_spider {
function init() {
parent::init ();
include 'curlmulti/mycurl/clone.php';
}
function indexaction() {
$url = 'http://www.laruence.com/manual';
$dir = yaf_application::app ()->getappdirectory () . '/data/manual';
$cachedir = $this->getbasedir () . '/cache/curl';
if (! is_dir ( $cachedir )) {
mkdir ( $cachedir );
}
$curl = new curlmulti ();
$curl->maxthread = 10;
$curl->cache ['enable'] = true;
$curl->cache ['enabledownload'] = true;
$curl->cache ['dir'] = $cachedir;
$curl->cache ['compress'] = true;
$clone = new mycurl_clone ( $curl, $url, $dir );
$clone->overwrite = true;
$clone->start ();
return false;
}
}
上一篇: Golang学习笔记(三):控制流
下一篇: 猪骨营养价值居然有这么高?