php 调用远程url的六种方法小结

示例代码1: 用file_get_contents 以get方式获取内容


示例代码2: 用fopen打开url, 以get方式获取内容

示例代码3：用file_get_contents函数,以post方式获取url

示例代码4：用fsockopen函数打开url，以get方式获取完整的数据，包括header和body

示例代码5：用fsockopen函数打开url，以post方式获取完整的数据，包括header和body

示例代码6:使用curl库，使用curl库之前，你可能需要查看一下php.ini，查看是否已经打开了curl扩展

关于curl库：
curl官方网站http://curl.haxx.se/
curl 是使用url语法的传送文件工具，支持ftp、ftps、http htpps scp sftp tftp telnet dict file和ldap。curl 支持ssl证书、http post、http put 、ftp 上传，kerberos、基于htt格式的上传、代理、cookie、用户＋口令证明、文件传送恢复、http代理通道和大量其他有用的技巧

======================================================
php抓取远程网站数据的代码
现在可能还有很多程序爱好者都会遇到同样的疑问,就是要如何像搜索引擎那样去抓取别人网站的html代码,然后把代码收集整理成为自己有用的数据!今天就等我介绍一些简单例子吧.

ⅰ.抓取远程网页标题的例子:
以下是代码片段：

ⅱ.抓取远程网页html代码的例子:

以下是代码片段：
以上两个代码片段都直接copy回去运行就知道效果了,上面的例子只是抓取网页数据的雏形,要使其更适合自己的使用,情况有各异.所以,在此各位程序爱好者自己好好研究一下吧.

===============================

稍微有点意义的函数是：get_content_by_socket(), get_url(), get_content_url(), get_content_object 几个函数，也许能够给你点什么想法。
<?php

//获取所有内容url保存到文件
function get_index($save_file, $prefix="index_"){
$count = 68;
$i = 1;
if (file_exists($save_file)) @unlink($save_file);
$fp = fopen($save_file, "a+") or die("open ". $save_file ." failed");
while($i<$count){
$url = $prefix . $i .".htm";
echo "get ". $url ."...";
$url_str = get_content_url(get_url($url));
echo " ok\n";
fwrite($fp, $url_str);
++$i;
}
fclose($fp);
}

//获取目标多媒体对象
function get_object($url_file, $save_file, $split="|--:**:--|"){
if (!file_exists($url_file)) die($url_file ." not exist");
$file_arr = file($url_file);
if (!is_array($file_arr) || empty($file_arr)) die($url_file ." not content");
$url_arr = array_unique($file_arr);
if (file_exists($save_file)) @unlink($save_file);
$fp = fopen($save_file, "a+") or die("open save file ". $save_file ." failed");
foreach($url_arr as $url){
if (empty($url)) continue;
echo "get ". $url ."...";
$html_str = get_url($url);
echo $html_str;
echo $url;
exit;
$obj_str = get_content_object($html_str);
echo " ok\n";
fwrite($fp, $obj_str);
}
fclose($fp);
}

//遍历目录获取文件内容
function get_dir($save_file, $dir){
$dp = opendir($dir);
if (file_exists($save_file)) @unlink($save_file);
$fp = fopen($save_file, "a+") or die("open save file ". $save_file ." failed");
while(($file = readdir($dp)) != false){
if ($file!="." && $file!=".."){
echo "read file ". $file ."...";
$file_content = file_get_contents($dir . $file);
$obj_str = get_content_object($file_content);
echo " ok\n";
fwrite($fp, $obj_str);
}
}
fclose($fp);
}


//获取指定url内容
function get_url($url){
$reg = '/^http:\/\/[^\/].+$/';
if (!preg_match($reg, $url)) die($url ." invalid");
$fp = fopen($url, "r") or die("open url: ". $url ." failed.");
while($fc = fread($fp, 8192)){
$content .= $fc;
}
fclose($fp);
if (empty($content)){
die("get url: ". $url ." content failed.");
}
return $content;
}

//使用socket获取指定网页
function get_content_by_socket($url, $host){
$fp = fsockopen($host, 80) or die("open ". $url ." failed");
$header = "get /".$url ." http/1.1\r\n";
$header .= "accept: */*\r\n";
$header .= "accept-language: zh-cn\r\n";
$header .= "accept-encoding: gzip, deflate\r\n";
$header .= "user-agent: mozilla/4.0 (compatible; msie 6.0; windows nt 5.1; sv1; maxthon; infopath.1; .net clr 2.0.50727)\r\n";
$header .= "host: ". $host ."\r\n";
$header .= "connection: keep-alive\r\n";
//$header .= "cookie: cnzz02=2; rtime=1; ltime=1148456424859; cnzz_eid=56601755-\r\n\r\n";
$header .= "connection: close\r\n\r\n";

fwrite($fp, $header);
while (!feof($fp)) {
$contents .= fgets($fp, 8192);
}
fclose($fp);
return $contents;
}


//获取指定内容里的url
function get_content_url($host_url, $file_contents){

//$reg = '/^(#|javascript.*?|ftp:\/\/.+|http:\/\/.+|.*?href.*?|play.*?|index.*?|.*?asp)+$/i';
//$reg = '/^(down.*?\.html|\d+_\d+\.htm.*?)$/i';
$rex = "/([hh][rr][ee][ff])\s*=\s*['\"]*([^>'\"\s]+)[\"'>]*\s*/i";
$reg = '/^(down.*?\.html)$/i';
preg_match_all ($rex, $file_contents, $r);
$result = ""; //array();
foreach($r as $c){
if (is_array($c)){
foreach($c as $d){
if (preg_match($reg, $d)){ $result .= $host_url . $d."\n"; }
}
}
}
return $result;
}

//获取指定内容中的多媒体文件
function get_content_object($str, $split="|--:**:--|"){
$regx = "/href\s*=\s*['\"]*([^>'\"\s]+)[\"'>]*\s*(<b>.*?<\/b>)/i";
preg_match_all($regx, $str, $result);

if (count($result) == 3){
$result[2] = str_replace("<b>多媒体： ", "", $result[2]);
$result[2] = str_replace("</b>", "", $result[2]);
$result = $result[1][0] . $split .$result[2][0] . "\n";
}
return $result;
}

?>

======================================================

同一域名对应多个ip时，php获取远程网页内容的函数

fgc就是简单的读取过来，把一切操作封装了
fopen也进行了一些封装，但是需要你循环读取得到所有数据。
fsockopen这是直板板的socket操作。
如果仅仅是读取一个html页面，fgc更好。
如果公司是通过防火墙上网，一 般的file_get_content函数就不行了。当然，通过一些socket操作，直接向proxy写http请求也是可以的，但是比较麻烦。
如果你能确认文件很小，可以任选以上两种方式fopen ,join('',file($file));。比如，你只操作小于1k的文件，那最好还是用file_get_contents吧。

如果确定文件很大，或者不能确定文件的大小，那就最好使用文件流了。fopen一个1k的文件和fopen一个1g的文件没什么明显的区别。内容长，就可以花更长的时间去读，而不是让脚本死掉。

----------------------------------------------------
http://www.phpcake.cn/archives/tag/fsockopen
php获取远程网页内容有多种方式，例如用自带的file_get_contents、fopen等函数。

<?php

echo file_get_contents("http://img.jb51.net/abc.php");
?>
　但是，在dns轮询等负载均衡中，同一域名，可能对应多台服务器，多个ip。假设img.jb51.net被dns解析到 72.249.146.213、72.249.146.214、72.249.146.215三个ip，用户每次访问img.jb51.net，系统会根据负载均衡的相应算法访问其中的一台服务器。
　　上周做一个视频项目时，就碰到这样一类需求：需要依次访问每台服务器上的一个php接口程序（假设为abc.php），查询这台服务器的传输状态。

　　这时就不能直接用file_get_contents访问http://img.jb51.net/abc.php了，因为它可能一直重复访问某一台服务器。

　　而采用依次访问http://72.249.146.213/abc.php、http://72.249.146.214/abc.php、http://72.249.146.215/abc.php的方法，在这三台服务器上的web server配有多个虚拟主机时，也是不行的。

　　通过设置本地hosts也不行，因为hosts不能设置多个ip对应同一个域名。

　　那就只有通过php和http协议来实现：访问abc.php时，在header头中加上img.jb51.net域名。于是，我写了下面这个php函数：