scrapy爬虫踩的坑
程序员文章站
2022-03-30 13:50:17
1.爬取网页时,当我们爬取(table)中的内容时,用xpath解析不到表格中td的值 原因:浏览器会在table标签下添加tbody(注:在chrome、火狐测试都有这个情况。出现这种原因是因为浏览器会对html文本进行一定的规范化 ) 解决方法:解决方法:使用scrapy 时将分析出的xpath ......
1.爬取网页时,当我们爬取(table)中的内容时,用xpath解析不到表格中td的值
原因:浏览器会在table标签下添加tbody(注:在chrome、火狐测试都有这个情况。出现这种原因是因为浏览器会对html文本进行一定的规范化 )
解决方法:解决方法:使用scrapy 时将分析出的xpath 中的 tbody 去掉即可。