使用php判断网页是否gzip压缩
程序员文章站
2022-04-24 21:35:18
昨天晚上群里有朋友采集网页时发现file_get_contents 获得的网页保存到本地为乱码,响应的header 里 content-encoding:gzip但在浏览器...
昨天晚上群里有朋友采集网页时发现file_get_contents 获得的网页保存到本地为乱码,响应的header 里 content-encoding:gzip
但在浏览器里看是正常的。
因为我有过相关经验马上发现是网站开启了gzip而file_get_contents 获得的是压缩过的页面,而不是解压过的页面(不知道是不是要file_get_conttents 请求网页时带上相应的参数,直接获得没有被gzip压缩过的网页?)
刚好我前不久刚看到可以用读取文件的前2个字节判断文件类型。群里面的朋友也说gzip压缩过的网页(gbk编码)前2字节是 1f 8b 于是就可以判断网页是否gzip压缩过。
代码如下:
//米尔军事网采用 gzip压缩网页
//file_get_contents 直接获得的网页是乱码。
header('content-type:text/html;charset=utf-8' );
$url = 'http://www.miercn.com';
$file = fopen($url, "rb");
//只读2字节 如果为(16进制)1f 8b (10进制)31 139则开启了gzip ;
$bin = fread($file, 2);
fclose($file);
$strinfo = @unpack("c2chars", $bin);
$typecode = intval($strinfo['chars1'].$strinfo['chars2']);
$isgzip = 0;
switch ($typecode)
{
case 31139:
//网站开启了gzip
$isgzip = 1;
break;
default:
$isgzip = 0;
}
$url = $isgzip ? "compress.zlib://".$url:$url; // 三元表达式
$mierhtml = file_get_contents($url); //获得米尔军事网数据
$mierhtml = iconv("gbk","utf-8",$mierhtml);
echo $mierhtml;
但在浏览器里看是正常的。
因为我有过相关经验马上发现是网站开启了gzip而file_get_contents 获得的是压缩过的页面,而不是解压过的页面(不知道是不是要file_get_conttents 请求网页时带上相应的参数,直接获得没有被gzip压缩过的网页?)
刚好我前不久刚看到可以用读取文件的前2个字节判断文件类型。群里面的朋友也说gzip压缩过的网页(gbk编码)前2字节是 1f 8b 于是就可以判断网页是否gzip压缩过。
代码如下:
复制代码 代码如下:
//米尔军事网采用 gzip压缩网页
//file_get_contents 直接获得的网页是乱码。
header('content-type:text/html;charset=utf-8' );
$url = 'http://www.miercn.com';
$file = fopen($url, "rb");
//只读2字节 如果为(16进制)1f 8b (10进制)31 139则开启了gzip ;
$bin = fread($file, 2);
fclose($file);
$strinfo = @unpack("c2chars", $bin);
$typecode = intval($strinfo['chars1'].$strinfo['chars2']);
$isgzip = 0;
switch ($typecode)
{
case 31139:
//网站开启了gzip
$isgzip = 1;
break;
default:
$isgzip = 0;
}
$url = $isgzip ? "compress.zlib://".$url:$url; // 三元表达式
$mierhtml = file_get_contents($url); //获得米尔军事网数据
$mierhtml = iconv("gbk","utf-8",$mierhtml);
echo $mierhtml;