二十一、Python爬取百度文库word文档内容
程序员文章站
2022-07-03 21:02:49
...
@Author:Runsen
百度文库在我们需要查找复制一些文档的时候经常用到,下载要收费,开会员,一个字都不给复制,这个时候初学python的小伙伴肯定有个写个百度文库爬虫的想法,这里我给各位分享一下一个简易但实用的爬虫脚本,提供url,生成txt文件。
首先获得url(以这个为例子:https://wenku.baidu.com/view/4e29e5a730126edb6f1aff00bed5b9f3f90f72e7.html )
首先先get一下,我们确认需要爬取的数据是不是异步加载的;如果是异步加载的直接爬取网页是爬不到的。很明显就是前后端分离,
这应该是Ajax交互,所以我们直接找接口就好了。
这个就是纯肉眼找了,我自己找了挺久的发现数据都存在0.json的文件下
一旦我们构造好了url就能获取到json格式的数据了,之后的操作就是清洗文本了。
下面是一个json的网址
https://wkbjcloudbos.bdimg.com/v1/docconvert8356