欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

使用scrapy前的环境搭建

程序员文章站 2022-06-22 11:54:14
刚开始直接scrapy startproject [名称] 创建项目才遇到挺多问题的,执行这个又会提示那个问题,解决后就觉得还好还好啦 1.pip install scrapy 提示pip 版本要升级; You are using pip version 10.0.1, however versio ......

刚开始直接scrapy startproject [名称] 创建项目才遇到挺多问题的,执行这个又会提示那个问题,解决后就觉得还好还好啦

1.pip install scrapy 提示pip 版本要升级;

you are using pip version 10.0.1, however version 10.0.1 is available.
you should consider upgrading via the 'python -m pip install --upgrade pip' command.
--------------------- 

2.python -m pip install --upgrade pip 升级时又有新问题;

(venv) d:\fish>python -m pip install --upgrade pip

requirement already up-to-date: pip in d:\fish\venv\lib\site-packages (10.0.1)

--------------------- 

于是按照要求将d:\fish\venv\lib\site-packages (10.0.1) 中的pip-10.0.1.dist-info删除,再次运行python -m pip install --upgrade pip 后升级成功

3.再执行第1步以为万事大吉了,又有新的问题了

error: microsoft visual c++ 14.0 is required. get it with "microsoft visual c++ build tools": http://landinghub.visualstudio.com/visual-cpp-build-tools
---------------------
解决这个问题有两种方法:a.按提示安装visual studio (c盘至少需要6g空间,果断找其他方法解决);

            b.使用wheel安装;

使用wheel安装:pip install wheel

成功会提示successfull也可以使用wheel命令验证是否成功,成功后是这样

使用scrapy前的环境搭建

然后去https://www.lfd.uci.edu/~gohlke/pythonlibs/#lxml这个网站下载scrapy库, 
进到网站=>搜索’scrapy’=>下载

把下载的.whl文件放在一个容易寻找的地址(我放在了d:\) 
然后在控制台进入该地址 
在该地址下输入

pip install [whl]

注:[whl]表示你的.whl文件,一定要全名,xxxx.whl

然后,并没有结束。。。。。

安装过程还是有可能失败

可能会出现failed to build xxxx

为什么会这样那,因为scrapy框架基于twisted

所以,要做的就是去网站下载twisted之类的安装文件,先把它们装上,安装方法和上边的相同。

注意选择好版本号

使用scrapy前的环境搭建

cp代表python的版本号,32/64选择对应你电脑的位数

最后终于成功了。 
建个项目测试一下

 使用scrapy前的环境搭建