欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

荐 Python垃圾回收机制

程序员文章站 2024-01-22 21:44:46
Python垃圾回收引用计数器为主标记清除和分代回收为辅+ 缓存机制1. 引用计数器1.1 环状双向链表 refchain在python程序中创建的任何对象都会放在refchain链表中。#define PyObject_HEADPyObject ob_base;#define PyObject_VAR_HEADPyVarObject ob_base;// 宏定义,包含 上一个、下一个,用于构造双向链表用。(放到refchain链表中时要用到)#define _PyObj...

Python垃圾回收

  • 引用计数器为主
  • 标记清除和分代回收为辅
  • + 缓存机制

1. 引用计数器

1.1 环状双向链表 refchain

荐
                                                        Python垃圾回收机制

在python程序中创建的任何对象都会放在refchain链表中。

#define PyObject_HEAD		PyObject ob_base;
#define PyObject_VAR_HEAD		PyVarObject ob_base;

// 宏定义,包含 上一个、下一个,用于构造双向链表用。(放到refchain链表中时要用到)
#define _PyObject_HEAD_EXTRA			\
	struct _object *_ob_next;			\
	struct _object *_ob_prev;
name = "阿玮"
age = 18
hobby = ["健身", "美女"]
内部会创建一些数据 [ 上一个对象、下一个对象、类型、引用个数 ]
name = "阿玮"
new = name		# 引用个数变成2

内部会创建一些数据 [ 上一个对象、下一个对象、类型、引用个数、val=18 ]
age = 18

内部会创建一些数据 [ 上一个对象、下一个对象、类型、引用个数、items=元素、元素个数 ]
hobby = ["健身", "美女"]
#define PyObject_HEAD		PyObject ob_base;
#define PyObject_VAR_HEAD		PyVarObject ob_base;

// 宏定义,包含 上一个、下一个,用于构造双向链表用。(放到refchain链表中时要用到)
#define _PyObject_HEAD_EXTRA			\
	struct _object *_ob_next;			\
	struct _object *_ob_prev;

typedef struct _object {
    _PyObject_HEAD_EXTRA;	// 用于构造双向链表
    Py_ssize_t ob_refcnt;	// 引用计数器
    struct _typeobject *ob_type;	// 数据类型
} PyObject;

typedef struct {
    PyObject ob_base;		// PyObject对象
    Py_ssize_t ob_size;		// Number of items in variable part,即:元素个数
} PyVarObject;

在C源码中如何体现每个对象中都有的相同的值:PyObject结构体(4个值)。

有多个元素组成的对象:PyObject结构体(4个值)+ ob_size = PyVarObject。

1.2 类型封装结构体

  • float类型
typedef struct {
    PyObject_HEAD;
    double ob_fval;
};

data = 3.14;

内部会创建:
    _ob_next = refchain中的下一个对象
    _ob_prev = refchain中的上一个对象
    ob_refcnt = 1
    ob_type = float
    ob_fval = 3.14
  • int类型
struct _longobect {
    PyObject_VAR_HEAD;
    digit ob_dit[1];
};
/* Long (arbitrary precision) integer object interface */
typedef struct _longobject PyLongObject; /* Revealed in longintrepr.h */
  • list类型
typedef struct {
    PyObject_VAR_HEAD;
    PyObject ** ob_item;
    Py_ssize_t allocated;
} PyListObject;
  • tuple类型
typedef struct {
    PyObject_VAR_HEAD;
    PyObject *ob_item[1];
} PyTupleObject;
  • dict类型
typedef struct {
    PyObject_HEAD;
    Py_ssize_t ma_used;
    PyDictKeyObject *ma_keys;
    PyObject **ma_values;
} PyDictObject;

1.3 引用计数器

v1 = 3.14
v2 = 999
v3 = (1,2,3)

当python程序运行时,会根据数据类型的不同找到其结构体,根据结构体中的字段来进行创建相关的数据,然后将对象添加到refchain双向链表中。

在C源码中有两个关键的结构体:PyObject、PyVarObject。

每个对象中有 ob_refcnt 就是引用计数器,值默认为1,当有其他变量引用这个对象时,引用计数器就会发生变化。

  • 引用

    a = 99999
    b = a
    # 此时 99999 这个对象引用计数器的值为2
    
    '''
    下面情况会导致引用计数器+1:
    	1.对象被创建,如 a = 2
    	2.对象被引用,如 b = a
    	3.对象被作为参数,传入到一个函数中
    	4.对象作为一个元素,存储在容器中
    可以通过sys包中的getrefcount()来获取一个名称所引用的对象当前的引用计数器的值(注意这里getrefcount()本身会使得引用计数器+1)
    '''
    
  • 删除引用

    a = 99999
    b = a
    # b变量删除,b对应对象的引用计数器-1
    def b
    # a变量删除,a对应对象的引用计数器-1
    
    '''
    下面情况会导致引用计数器-1:
    	1.变量被显示销毁 del
    	2.变量被赋予新的对象
    	3.一个对象离开它的作用域
    	4.对象所在的容器被销毁或从容器中删除对象
    '''
    
    # 当一个对象的引用计数器为0时,意味着没有人再使用这个对象了,这个对象就是垃圾,垃圾回收。
    # 回收:1.对象从rechain链表移出。2.将对象销毁,内存归还。
    

荐
                                                        Python垃圾回收机制

1.4 循环引用问题

荐
                                                        Python垃圾回收机制

由于 v1 指向的对象引用了 v2,v2 指向的对象也引用了 v1,当将 v1、v2 两个变量删除时,虽然引用计数器会减1,但是两个对象间还存在循环引用,而此时已经没有变量能去指向它们,这两个对象就会在内存中常驻无法处理。

2. 标记清除

  • 目的:为了解决引用计数器循环引用的问题。

  • 实现:在python的底层再维护一个链表,链表中专门放哪些可能存在循环应用的对象(容器类对象:list、tuple、dict、set)。

荐
                                                        Python垃圾回收机制

在Python内部某种情况下触发,会去扫描可能存在循环引用的链表中的每个元素,检查是否有循环引用,如果有则让双方的引用计数器-1;如果是0则垃圾回收。

2.1 标记阶段

遍历所有对象,如果是可达的(reachable),也就是还有对象引用它,那么就将该对象标记为可达

该阶段从某个对象开始扫描(而不是从变量),如果变量A引用了变量B,则将变量B的引用计数器-1(指的是gc_ref),然后扫描变量B

如图所示,link1、link2、link3形成了一个引用环,link4自引用。从link1开始扫描,link1引用了link2,则link2的gc_ref-1,接着扫描link2…

荐
                                                        Python垃圾回收机制

像这也将链表中所有对象考察一遍后,两个链表中的对象ref_count和gc_ref图如所示,这一步操作就相当于解除了循环引用对引用计数器的影响

荐
                                                        Python垃圾回收机制

如果gc_ref为0,则将对象标记为 GC_TENTATIVELY_UNREACHABLE,并且被移至”Unreachable“链表中,如下图link3、link4(我觉得link2应该也是)

荐
                                                        Python垃圾回收机制

如果gc_ref不为0,那么这个对象会被标记为可达的GC_REACHABLE,同时当gc发现有一个节点是可达的,那么它会递归式的从该节点触发将所有可达的节点标记为GC_REACHABLE,这样把link2、link3救回来

荐
                                                        Python垃圾回收机制

2.2 清除阶段

将被标记成 GC_UNREACHABLE 的对象销毁,内存归还(也就是Unreachable链表中的对象)

2.3 标记清除的问题

在标记清除算法开始后,会暂停整个应用程序,等待标记清除结束后才会恢复应用的运行,且对循环引用的扫描代价大,每次扫描耗时可能很久

3. 分代回收

荐
                                                        Python垃圾回收机制

将可能存在循环引用的对象维护成3个链表:

  • 0代:0代中对象个数达到700个扫描一次
  • 1代:0代扫描10次,则1代扫描一次
  • 2代:1代扫描10次,则2代扫描一次

4. 小结

在python中维护了一个refchain的双向环状链表,这个链表中存储程序创建的所有对象,每种类型的对象都有一个ob_refcnt引用计数器的值,当引用计数器变为0时会进行垃圾回收(对象销毁、refchain中移出)。

但是,在python中对于那些可以有多个元素组成的对象可能会存在循环引用的问题,为了解决这个问题,python又引入了标记清除和分代回收,在其内部维护了4个链表,分别为:

  • refchain
  • 2代
  • 1代
  • 0代

在源码内部,当达到各自的阈值时,就会触发扫描链表进行标记清除的动作(有循环引用则各自-1)。

But,源码内部在上述流程中提出了优化机制。

5. Python缓存机制

5.1 代码块&小数据池

Python 代码块、缓存机制

5.2 free_list

缓存机制


一文搞定Python垃圾回收机制

垃圾回收机制剖析

本文地址:https://blog.csdn.net/weixin_42511320/article/details/106037958