爬虫获取AJax数据问题
程序员文章站
2023-12-28 17:19:22
...
想写一个爬取花瓣网图片的爬虫。遇到了Ajax获取数据的问题
图片中的请求的URL,Response的文本类型是json
可当我单独访问这个url的时候却是html
求教,怎么获取json数据
回复内容:
想写一个爬取花瓣网图片的爬虫。遇到了Ajax获取数据的问题
图片中的请求的URL,Response的文本类型是json
可当我单独访问这个url的时候却是html
求教,怎么获取json数据
这个是用header来控制的
你把对应的请求头加上就好了。附上我的代码
#coding=utf-8
import requests as RQ
hburl = "http://huaban.com/boards/28195582/?ipva9fpx&max=759391397&limit=20&wfl=1"
heads = {
'Host':"huaban.com",
'Referer':"{http://huaban.com/boards/28195582/",
'User-Agent':"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.84 Safari/537.36",
'X-Request':"JSON",
'X-Requested-With':"XMLHttpRequest"
}
print RQ.get(hburl, headers=heads).content
Rerferer是一个常见的用来防止网页被本站之外获取的Header,做爬虫时一定要确保Referer的设置
推荐阅读
-
爬虫获取AJax数据问题
-
有关$.ajax()方法中如何从服务器获取json数据
-
Select2 - Ajax 获取下拉框分页数据(鼠标滚动分页)
-
javascript - ajax 传值一直传的是获取到的数据的最后一个值
-
AJAX跨域请求之JSONP获取JSON数据教程
-
wap网站开发之解决Ajax跨域获取json数组的问题
-
ajax获取到的id数据,怎么通过post方式提交该数据到post页面去
-
vue对storejs获取的数据进行处理时遇到的几种问题小结
-
google file system 用PHP获取Google AJAX Search API 数据的代码
-
Select2在使用ajax获取远程数据时显示默认数据的方法