欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

scrapy爬虫踩的坑

程序员文章站 2022-07-08 08:08:45
1.爬取网页时,当我们爬取(table)中的内容时,用xpath解析不到表格中td的值 原因:浏览器会在table标签下添加tbody(注:在chrome、火狐测试都有这个情况。出现这种原因是因为浏览器会对html文本进行一定的规范化 ) 解决方法:解决方法:使用scrapy 时将分析出的xpath ......

1.爬取网页时,当我们爬取(table)中的内容时,用xpath解析不到表格中td的值

  原因:浏览器会在table标签下添加tbody(注:在chrome、火狐测试都有这个情况。出现这种原因是因为浏览器会对html文本进行一定的规范化 )

  解决方法:解决方法:使用scrapy 时将分析出的xpath 中的 tbody 去掉即可。

  参考自:https://blog.csdn.net/lishk314/article/details/44916827