php curl函数采集网页程序代码
程序员文章站
2022-05-25 10:42:35
...
curl来抓取网页内容是一个性能比较好的函数了,我们通常会使用它来快速模仿用户去访问我们要抓取的网页了,下面看一个例子有兴趣的朋友可进入参考.
早上想写了一个抓取是京东618魅族专题页的抓取,然后想着自动下单购买,尼玛,算了,太多了,写到判断是否开始了,商品价格进行了变化,后边工程量有点大就懒的写了,如果要完善的话就需要写模拟登陆(这个不难)加入购物车,下单,下单的时候判断一下价格,如果价格个官方优惠价格相同就下单,不同就接着去抓,算了,懒的写了,下边是部分代码:
php 在curl抓取的时候出现乱码
用站长工具查看我们抓取的网而不是使用了gzip压缩了,如果有返回"Accept-Encoding:gzip,deflate" 就是打开了gzip了,我们只要如下操作,代码如下:
$res=curl_exec($ch1); if(!emptyempty($res)){ //save capcha echo gzdecode($res); }GBK或者UTF8汉字之类的乱码,代码如下:
mb_convert_encoding($str, 'utf-8', 'GBK,UTF-8,ASCII');就行了
我们设置页面为GBK兼容GB2312,GB2312是GBK的子集,所有GB2312编码的用GBK都能正确解出来.
教程网址:
欢迎收藏∩_∩但请保留本文链接。