php中get_meta_tags()、CURL与user-agent信息对比
程序员文章站
2022-03-08 21:34:40
...
下面来简单的介绍在php中get_meta_tags()、CURL与user-agent信息对比情况,如果你对于这篇文章有兴趣可进入参考学习。
get_meta_tags()函数用于抓取网页中形式的标签,并装入一维数组,name为元素下标,content为元素值,上例中的标签可以获得数组:array('A'=>'1', 'b'=>'2')。其他标签不处理,并且此函数只处理到标签时截止,之后的也不再继续处理,不过
之前的还是会处理。user-agent是浏览器在向服务器请求网页时,提交的不可见的头信息的一部分。头信息是一个数组,包含多个信息,比如本地缓存目录,cookies等,其中user-agent是浏览器类型申明,比如IE、Chrome、FF等。
今天在抓取一个网页的标签的时候,总是得到空值,但是直接查看网页源代码又是正常的,于是怀疑是否服务器设置了根据头信息来判断输出。先尝试使用get_meta_tags()来抓取一个本地的文件,然后这个本地文件将获取的头信息写入文件,结果如下(其中替换成了/,方便查看):
'192.168.30.205', 'PATH' => 'C:/Program Files/Common Files/NetSarang;C:/Program Files/NVIDIA Corporation/PhysX/Common;C:/Program Files/Common Files/Microsoft Shared/Windows Live;C:/Program Files/Intel/iCLS Client/;C:/Windows/system32;C:/Windows;C:/Windows/System32/Wbem;C:/Windows/System32/WindowsPowerShell/v1.0/;C:/Program Files/Intel/Intel(R) Management Engine Components/DAL;C:/Program Files/Intel/Intel(R) Management Engine Components/IPT;C:/Program Files/Intel/OpenCL SDK/2.0/bin/x86;C:/Program Files/Common Files/Thunder Network/KanKan/Codecs;C:/Program Files/QuickTime Alternative/QTSystem;C:/Program Files/Windows Live/Shared;C:/Program Files/QuickTime Alternative/QTSystem/; %JAVA_HOME%/bin;%JAVA_HOME%/jre/bin;', 'SystemRoot' => 'C:/Windows', 'COMSPEC' => 'C:/Windows/system32/cmd.exe', 'PATHEXT' => '.COM;.EXE;.BAT;.CMD;.VBS;.VBE;.JS;.JSE;.WSF;.WSH;.MSC', 'WINDIR' => 'C:/Windows', 'SERVER_SIGNATURE' => '', 'SERVER_SOFTWARE' => 'Apache/2.2.11 (Win32) PHP/5.2.8', 'SERVER_NAME' => '192.168.30.205', 'SERVER_ADDR' => '192.168.30.205', 'SERVER_PORT' => '80', 'REMOTE_ADDR' => '192.168.30.205', 'DOCUMENT_ROOT' => 'E:/wamp/www', 'SERVER_ADMIN' => 'admin@admin.com', 'SCRIPT_FILENAME' => 'E:/wamp/www/user-agent.php', 'REMOTE_PORT' => '59479', 'GATEWAY_INTERFACE' => 'CGI/1.1', 'SERVER_PROTOCOL' => 'HTTP/1.0', 'REQUEST_METHOD' => 'GET', 'QUERY_STRING' => '', 'REQUEST_URI' => '/user-agent.php', 'SCRIPT_NAME' => '/user-agent.php', 'PHP_SELF' => '/user-agent.php', 'REQUEST_TIME' => 1400747529, ) ?>
果然在数组中没有HTTP_USER_AGENT这个元素,apache在向另外一台服务器发送请求的时候是没有UA的。之后查了一下资料,get_meta_tags()函数没有伪造UA的能力,所以只能使用其他办法解决了。
后来使用CURL来获取,就获取到了网页,不过使用上稍微麻烦一点,首先伪造UA,获取之后在使用正则表达式分析
伪造办法:
文章网址:
随意转载^^但请附上教程地址。
上一篇: 深入理解JavaScript中按钮点击事件的处理方法
下一篇: 如何自学编程
推荐阅读
-
php中get_meta_tags()、CURL与user-agent用法分析
-
PHP中CURL技术模拟登陆抓取网站信息,用与微信公众平台成绩查询
-
php中get_meta_tags()、CURL与user-agent用法分析
-
PHP中CURL技术模拟登陆抓取网站信息,用与微信公众平台成绩查询
-
php中get_meta_tags()、CURL与user-agent用法分析_PHP
-
php中get_meta_tags()、CURL与user-agent用法分析_PHP
-
php中get_meta_tags()、CURL与user-agent用法分析
-
php中get_meta_tags()、CURL与user-agent用法分析,curlagent
-
php中get_meta_tags()、CURL与user-agent用法分析,curlagent
-
php中get_meta_tags()、CURL与user-agent用法分析_php技巧