详解Python中的GIL(全局解释器锁)详解及解决GIL的几种方案
先看一道gil面试题:
描述python gil的概念, 以及它对python多线程的影响?编写一个多线程抓取网页的程序,并阐明多线程抓取程序是否可比单线程性能有提升,并解释原因。
gil:又叫全局解释器锁,每个线程在执行的过程中都需要先获取gil,保证同一时刻只有一个线程在运行,目的是解决多线程同时竞争程序中的全局变量而出现的线程安全问题。它并不是python语言的特性,仅仅是由于历史的原因在cpython解释器中难以移除,因为python语言运行环境大部分默认在cpython解释器中。
通过一个案例了解单线程和多线程的cpu占用率:
打开ubuntu终端命令:输入htop,回车,红色箭头指向的2代表此时我的虚拟机中cpu有两个核心数
下面通过一个案例了解单线程死循环和多线程死循环的cpu占用率:
单线程死循环.py:
#coding=utf-8 while true: pass
运行该程序,出现以下界面:
此时新开一个窗口,输入htop,查看cpu占用率,其中一个cpu占用率几乎为100%:
两个线程死循环.py
#coding=utf-8 import threading #子线程死循环 def test(): while true: pass t1=threading.thread(target=test) t1.start() #主线程死循环, while true: pass
此时新开一个终端,输入htop查看cpu占用率,可以看到两个cpu任何一个并没有全部占满,而是交替执行的:
这也就验证了多线程下每个线程在执行的过程中都需要先获取gil,保证同一时刻只有一个线程在运行。
由于gil的存在,即使是多线程,事实上同一时刻只能保证一个线程在运行,既然这样多线程的运行效率不就和单线程一样了吗,那为什么还要使用多线程呢?
由于以前的电脑基本都是单核cpu,多线程和单线程几乎看不出差别,可是由于计算机的迅速发展,现在的电脑几乎都是多核cpu了,最少也是两个核心数的,这时差别就出来了:通过之前的案例我们已经知道,即使在多核cpu中,多线程同一时刻也只有一个线程在运行,这样不仅不能利用多核cpu的优势,反而由于每个线程在多个cpu上是交替执行的,导致在不同cpu上切换时造成资源的浪费,反而会更慢。即原因是一个进程只存在一把gil锁,当在执行多个线程时,内部会争抢gil锁,这会造成当某一个线程没有抢到锁的时候会让cpu等待,进而不能合理利用多核cpu资源。
例如在使用多线程抓取网页内容时,遇到io阻塞时,正在执行的线程会暂时释放gil锁,这时其它线程会利用这个空隙时间,执行自己的代码,因此多线程抓取比单线程抓取性能要好。
说到在这里要先介绍两个概念:计算密集型和io密集型
计算密集型:要进行大量的数值计算,例如进行上亿的数字计算、计算圆周率、对视频进行高清解码等等。这种计算密集型任务虽然也可以用多任务完成,但是花费的主要时间在任务切换的时间,此时cpu执行任务的效率比较低。
io密集型:涉及到网络请求(time.sleep())、磁盘io的任务都是io密集型任务,这类任务的特点是cpu消耗很少,任务的大部分时间都在等待io操作完成(因为io的速度远远低于cpu和内存的速度)。对于io密集型任务,任务越多,cpu效率越高,但也有一个限度。
解决gil问题的方案:
1.使用其它语言,例如c,java
2.使用其它解释器,如java的解释器jython
3.使用多进程
线程释放gil锁的情况:
1.在io操作等可能会引起阻塞的system call之前,可以暂时释放gil,但在执行完毕后,必须重新获取gil。
2.python 3.x使用计时器(执行时间达到阈值后,当前线程释放gil)或python 2.x,tickets计数达到100。
gil面试题参考答案:
- python语言和gil没有什么关系。仅仅是由于历史原因在cpython虚拟机(解释器),难以移除gil。
- gil:全局解释器锁。每个线程在执行的过程都需要先获取gil,保证同一时刻只有一个线程可以执行代码。
- 线程释放gil锁的情况: 在io操作等可能会引起阻塞的system call之前,可以暂时释放gil,但在执行完毕后,必须重新获取gil python 3.x使用计时器(执行时间达到阈值后,当前线程释放gil)或python 2.x,tickets计数达到100。
- python使用多进程是可以利用多核的cpu资源的。
- 多线程爬取比单线程性能有提升,因为遇到io阻塞会自动释放gil锁。
到此这篇关于详解python中的gil(全局解释器锁)详解及解决gil的几种方案的文章就介绍到这了,更多相关python gil全局解释器锁内容请搜索以前的文章或继续浏览下面的相关文章希望大家以后多多支持!
上一篇: JS中循环遍历数组的四种方式总结