荐 Python垃圾回收机制
Python垃圾回收
- 引用计数器为主
- 标记清除和分代回收为辅
- + 缓存机制
1. 引用计数器
1.1 环状双向链表 refchain
在python程序中创建的任何对象都会放在refchain链表中。
#define PyObject_HEAD PyObject ob_base;
#define PyObject_VAR_HEAD PyVarObject ob_base;
// 宏定义,包含 上一个、下一个,用于构造双向链表用。(放到refchain链表中时要用到)
#define _PyObject_HEAD_EXTRA \
struct _object *_ob_next; \
struct _object *_ob_prev;
name = "阿玮"
age = 18
hobby = ["健身", "美女"]
内部会创建一些数据 [ 上一个对象、下一个对象、类型、引用个数 ]
name = "阿玮"
new = name # 引用个数变成2
内部会创建一些数据 [ 上一个对象、下一个对象、类型、引用个数、val=18 ]
age = 18
内部会创建一些数据 [ 上一个对象、下一个对象、类型、引用个数、items=元素、元素个数 ]
hobby = ["健身", "美女"]
#define PyObject_HEAD PyObject ob_base;
#define PyObject_VAR_HEAD PyVarObject ob_base;
// 宏定义,包含 上一个、下一个,用于构造双向链表用。(放到refchain链表中时要用到)
#define _PyObject_HEAD_EXTRA \
struct _object *_ob_next; \
struct _object *_ob_prev;
typedef struct _object {
_PyObject_HEAD_EXTRA; // 用于构造双向链表
Py_ssize_t ob_refcnt; // 引用计数器
struct _typeobject *ob_type; // 数据类型
} PyObject;
typedef struct {
PyObject ob_base; // PyObject对象
Py_ssize_t ob_size; // Number of items in variable part,即:元素个数
} PyVarObject;
在C源码中如何体现每个对象中都有的相同的值:PyObject结构体(4个值)。
有多个元素组成的对象:PyObject结构体(4个值)+ ob_size = PyVarObject。
1.2 类型封装结构体
- float类型
typedef struct {
PyObject_HEAD;
double ob_fval;
};
data = 3.14;
内部会创建:
_ob_next = refchain中的下一个对象
_ob_prev = refchain中的上一个对象
ob_refcnt = 1
ob_type = float
ob_fval = 3.14
- int类型
struct _longobect {
PyObject_VAR_HEAD;
digit ob_dit[1];
};
/* Long (arbitrary precision) integer object interface */
typedef struct _longobject PyLongObject; /* Revealed in longintrepr.h */
- list类型
typedef struct {
PyObject_VAR_HEAD;
PyObject ** ob_item;
Py_ssize_t allocated;
} PyListObject;
- tuple类型
typedef struct {
PyObject_VAR_HEAD;
PyObject *ob_item[1];
} PyTupleObject;
- dict类型
typedef struct {
PyObject_HEAD;
Py_ssize_t ma_used;
PyDictKeyObject *ma_keys;
PyObject **ma_values;
} PyDictObject;
1.3 引用计数器
v1 = 3.14
v2 = 999
v3 = (1,2,3)
当python程序运行时,会根据数据类型的不同找到其结构体,根据结构体中的字段来进行创建相关的数据,然后将对象添加到refchain双向链表中。
在C源码中有两个关键的结构体:PyObject、PyVarObject。
每个对象中有 ob_refcnt 就是引用计数器,值默认为1,当有其他变量引用这个对象时,引用计数器就会发生变化。
-
引用
a = 99999 b = a # 此时 99999 这个对象引用计数器的值为2 ''' 下面情况会导致引用计数器+1: 1.对象被创建,如 a = 2 2.对象被引用,如 b = a 3.对象被作为参数,传入到一个函数中 4.对象作为一个元素,存储在容器中 可以通过sys包中的getrefcount()来获取一个名称所引用的对象当前的引用计数器的值(注意这里getrefcount()本身会使得引用计数器+1) '''
-
删除引用
a = 99999 b = a # b变量删除,b对应对象的引用计数器-1 def b # a变量删除,a对应对象的引用计数器-1 ''' 下面情况会导致引用计数器-1: 1.变量被显示销毁 del 2.变量被赋予新的对象 3.一个对象离开它的作用域 4.对象所在的容器被销毁或从容器中删除对象 ''' # 当一个对象的引用计数器为0时,意味着没有人再使用这个对象了,这个对象就是垃圾,垃圾回收。 # 回收:1.对象从rechain链表移出。2.将对象销毁,内存归还。
1.4 循环引用问题
由于 v1 指向的对象引用了 v2,v2 指向的对象也引用了 v1,当将 v1、v2 两个变量删除时,虽然引用计数器会减1,但是两个对象间还存在循环引用,而此时已经没有变量能去指向它们,这两个对象就会在内存中常驻无法处理。
2. 标记清除
-
目的:为了解决引用计数器循环引用的问题。
-
实现:在python的底层再维护一个链表,链表中专门放哪些可能存在循环应用的对象(容器类对象:list、tuple、dict、set)。
在Python内部某种情况
下触发,会去扫描可能存在循环引用的链表
中的每个元素,检查是否有循环引用,如果有则让双方的引用计数器-1;如果是0则垃圾回收。
2.1 标记阶段
遍历所有对象,如果是可达的(reachable),也就是还有对象引用它,那么就将该对象标记为可达
该阶段从某个对象开始扫描(而不是从变量),如果变量A引用了变量B,则将变量B的引用计数器-1(指的是gc_ref),然后扫描变量B
如图所示,link1、link2、link3形成了一个引用环,link4自引用。从link1开始扫描,link1引用了link2,则link2的gc_ref-1,接着扫描link2…
像这也将链表中所有对象考察一遍后,两个链表中的对象ref_count和gc_ref图如所示,这一步操作就相当于解除了循环引用对引用计数器的影响
如果gc_ref为0,则将对象标记为 GC_TENTATIVELY_UNREACHABLE,并且被移至”Unreachable“链表中,如下图link3、link4(我觉得link2应该也是)
如果gc_ref不为0,那么这个对象会被标记为可达的GC_REACHABLE,同时当gc发现有一个节点是可达的,那么它会递归式的从该节点触发将所有可达的节点标记为GC_REACHABLE,这样把link2、link3救回来
2.2 清除阶段
将被标记成 GC_UNREACHABLE 的对象销毁,内存归还(也就是Unreachable链表中的对象)
2.3 标记清除的问题
在标记清除算法开始后,会暂停整个应用程序,等待标记清除结束后才会恢复应用的运行,且对循环引用的扫描代价大,每次扫描耗时可能很久
3. 分代回收
将可能存在循环引用的对象维护成3个链表:
- 0代:0代中对象个数达到700个扫描一次
- 1代:0代扫描10次,则1代扫描一次
- 2代:1代扫描10次,则2代扫描一次
4. 小结
在python中维护了一个refchain的双向环状链表,这个链表中存储程序创建的所有对象,每种类型的对象都有一个ob_refcnt引用计数器的值,当引用计数器变为0时会进行垃圾回收(对象销毁、refchain中移出)。
但是,在python中对于那些可以有多个元素组成的对象可能会存在循环引用的问题,为了解决这个问题,python又引入了标记清除和分代回收,在其内部维护了4个链表,分别为:
- refchain
- 2代
- 1代
- 0代
在源码内部,当达到各自的阈值时,就会触发扫描链表进行标记清除的动作(有循环引用则各自-1)。
But,源码内部在上述流程中提出了优化机制。
5. Python缓存机制
5.1 代码块&小数据池
5.2 free_list
本文地址:https://blog.csdn.net/weixin_42511320/article/details/106037958
上一篇: CentOS6.8 安装webssh
下一篇: 在OpenCV里实现高斯拉普拉斯变换