多线程爬虫介绍

一个进程里只有一个线程，我们称之为单线程爬虫。单线程爬虫每次只访问一个页面，不能充分利用电脑的网络带宽。一个页面最多也就几百kb，所以爬虫在爬取一个页面的时候，多出来的网速就浪费掉了。

而如果我们可以让爬虫同时访问10个页面，就相当于我们的爬取速度提高了10倍。这个时候就需要使用多线程技术了。

这里有一点要强调一下，python这门语言在设计上的时候，有一个gil锁。这个东西让python的多线程都是伪多线程。本质上还是只有一个线程，但是这个线程每个事情只做几毫秒，做完几秒救保存线程，换做其他事情几毫秒，换一轮下来继续回到第一件事上，恢复线程再做几秒，继续换……

在《x战警-天启》中，万磁王他儿子从教授的学院里面救出了非常多的人。由于他速度非常的快，所以虽然它是一个人一个人救的，但是对其他人来说，就感觉像是全部同时移动到了学校外面去了一样。

这样微观上的单线程，在宏观上看起来就像是同时在做几件事。这种机制在io密集型的操作上面影响也不大，但是在cpu计算密集型的操作上面，由于cpu本来十分繁忙，这就会对性能产生非常大的影响。所以涉及到计算密集型的程序，就需要使用多进程，python的多进程不受gil锁的影响。

爬虫属于io密集型的程序，所以使用多线程不会不会对性能造成太大的影响。

 

转载：极客学院某位老师的话（修改了一点点）。