python爬取淘宝商品详情页数据
程序员文章站
2022-10-05 11:43:59
在讲爬取淘宝详情页数据之前,先来介绍一款 chrome 插件:toggle javascript (它可以选择让网页是否显示 js 动态加载的内容),如下图所示:
当...
在讲爬取淘宝详情页数据之前,先来介绍一款 chrome 插件:toggle javascript (它可以选择让网页是否显示 js 动态加载的内容),如下图所示:
当这个插件处于关闭状态时,待爬取的页面显示的数据如下:
当这个插件处于打开状态时,待爬取的页面显示的数据如下:
可以看到,页面上很多数据都不显示了,比如商品价格变成了划线价格,而且累计评论也变成了0,说明这些数据都是动态加载的,以下演示真实价格的找法(评论内容找法类似),首先检查页面元素,然后点击network选项卡,刷新页面,可以看到很多动态加载的数据,在里面找到包含商品价格的链接(可以使用ctrl+f查找),如下图所示:
将此链接在新的标签页打开,如下图所示,可以看到,被禁止访问了,所以爬取的时候要在headers中加上referer字段告诉服务器你是从哪个页面链接过来的,referer字段可以在这里查看:
评论数据的链接可以直接访问(和价格信息找法类似),这里我知己去访问它,如下图所示:
可以看到评论信息总共有7页,而且都是json格式的数据,所以可以用json反序列化去抽取数据,当然也可以用正则表达式,下面我将演示用正则去抽取数据,因为评论数据过多,这里只抓取第一页,如果需要所有评论数据,可以循环构造url,只需要修改currentpage参数的值就行。程序源码如下:
# filename:spider_taobao.py #!/usr/bin/env python # -*- coding=utf-8 -*- import re import urllib2 def spider_taobao(url): headers = { 'accept':'application/json, text/plain, */*', 'accept-language':'zh-cn,zh;q=0.3', 'referer':'https://item.taobao.com/item.htm', 'user-agent':'mozilla/5.0 (x11; linux x86_64) applewebkit/537.36 (khtml, like gecko) chrome/58.0.3029.110 safari/537.36', 'connection':'keep-alive', } goods_id = re.findall('id=(\d+)', url)[0] try: req = urllib2.request(url=url, headers=headers) res = urllib2.urlopen(req).read().decode('gbk', 'ignore') except exception as e: print '无法打开网页:', e.reason try: title = re.findall('<h3 class="tb-main-title" data-title="(.*?)"', res) title = title[0] if title else none line_price = re.findall('<em class="tb-rmb-num">(.*?)</em>', res)[0] # 30-42行为抓取淘宝商品真实价格,该数据是动态加载的 purl = "https://detailskip.taobao.com/service/getdata/1/p1/item/detail/sib.htm?itemid={}&modules=price,xmppromotion".format(goods_id) price_req = urllib2.request(url=purl, headers=headers) price_res = urllib2.urlopen(price_req).read() data = list(set(re.findall('"price":"(.*?)"', price_res))) # data列表中的价格可能是定值与区间的组合,也可能只是定值,而且不一定有序 real_price = "" for t in data: if '-' in t: real_price = t break if not real_price: real_price = sorted(map(float, data))[0] # 45-53行为抓取评论数据,该数据也是动态加载的 comment_url = "https://rate.tmall.com/list_detail_rate.htm?itemid={}&sellerid=880734502¤tpage=1".format(goods_id) comment_data = urllib2.urlopen(comment_url).read().decode("gbk", "ignore") temp_data = re.findall('("commenttime":.*?),"days"', comment_data) temp_data = temp_data if temp_data else re.findall('("ratecontent":.*?),"reply"', comment_data) comment = "" for data in temp_data: comment += data.encode('utf-8') comment = comment if comment else "暂无评论" except exception as e: print '数据抽取失败!!!' print '商品名:', title print '划线价格:', line_price print '真实价格:', real_price print '商品链接:', url print '部分评论内容:', comment if __name__ == '__main__': #url = 'https://item.taobao.com/item.htm?spm=a230r.1.14.30.43306a3foeuz0b&id=553787375606&ns=1&abbucket=10#detail' url = raw_input("请输入商品链接: ") spider_taobao(url)
运行结果如下:
更多内容请参考专题《python爬取功能汇总》进行学习。
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。