欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

使用php判断网页是否gzip压缩

程序员文章站 2022-06-30 17:22:17
昨天晚上群里有朋友采集网页时发现file_get_contents 获得的网页保存到本地为乱码,响应的header 里 content-encoding:gzip但在浏览器...
昨天晚上群里有朋友采集网页时发现file_get_contents 获得的网页保存到本地为乱码,响应的header 里 content-encoding:gzip
但在浏览器里看是正常的。
因为我有过相关经验马上发现是网站开启了gzip而file_get_contents 获得的是压缩过的页面,而不是解压过的页面(不知道是不是要file_get_conttents 请求网页时带上相应的参数,直接获得没有被gzip压缩过的网页?)
刚好我前不久刚看到可以用读取文件的前2个字节判断文件类型。群里面的朋友也说gzip压缩过的网页(gbk编码)前2字节是 1f 8b 于是就可以判断网页是否gzip压缩过。
代码如下:
复制代码 代码如下:

//米尔军事网采用 gzip压缩网页
//file_get_contents 直接获得的网页是乱码。
header('content-type:text/html;charset=utf-8' );
$url = 'http://www.miercn.com';
$file = fopen($url, "rb");  
//只读2字节  如果为(16进制)1f 8b (10进制)31 139则开启了gzip ;
$bin = fread($file, 2); 
fclose($file);  
$strinfo = @unpack("c2chars", $bin);  
$typecode = intval($strinfo['chars1'].$strinfo['chars2']);  
$isgzip = 0;  
switch ($typecode)  
{
    case 31139:      
      //网站开启了gzip
        $isgzip = 1;
        break;
    default:  
        $isgzip = 0;
}  
$url = $isgzip ? "compress.zlib://".$url:$url; // 三元表达式
$mierhtml = file_get_contents($url); //获得米尔军事网数据
$mierhtml = iconv("gbk","utf-8",$mierhtml);
echo $mierhtml;