欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

从yield 到yield from再到python协程

程序员文章站 2022-06-20 08:38:26
yield 关键字 yield 是在:PEP 255 -- Simple Generators 这个pep引入的 yield 只能在函数内部使用,包含yield语句的函数称为生成器函数 当调用生成器函数时,并不会执行函数体中的代码,而是返回一个生成器对象 每次调用生成器对象的next()方法时,才会 ......

yield 关键字

def fib():
    a, b = 0, 1
    while 1:
       yield b
       a, b = b, a+b

 

yield 是在:pep 255 -- simple generators 这个pep引入的

yield 只能在函数内部使用,包含yield语句的函数称为生成器函数

当调用生成器函数时,并不会执行函数体中的代码,而是返回一个生成器对象

每次调用生成器对象的next()方法时,才会执行生成器函数中的代码,直到遇到yield 或者return 语句。

如果遇到yield 语句, 怎会挂起函数的运行状态,并将yield 右边的表达式的值返回给next()的调用者, 挂起的时候会保存所有本地状态,包括局部变量,指令指针和内部堆栈信息,这样当下次再次调用next()时, 看起来yield 部分就像是调用了一个外部调用一样,可以接着往下执行

注意:try/ finnally 结构中的try子句中不允许使用yield语句, 问题是因为无法保证生成器被恢复,因此无法保证finally块将被执行

 

yield from 关键字

yield from关键字是在:pep 380 -- syntax for delegating to a subgenerator 中提出的

用于生成器将其部分操作委托给另外一个生成器,这允许将包含yield的一段代码分解出来并放在另外一个生成器中,此外,允许子生成器返回一个值,这个值可供委派生成器使用

 

上述描述听起来可能还是不是特别清楚,我们先看一下语法:

yield from <expr>

 

yield from expr 表达式中,做的第一件事就是调用iter(expr) 从中获取迭代器,因此expr可以是任何可迭代的对象

通过下面的下例子把yield 和yield from 做对比

from collections import namedtuple


result = namedtuple("result", "count average")

li = [40.9, 38.5, 44.3, 42.2, 45.2, 41.7, 44.5, 38.0, 40.6, 44.5]

# 子生成器
def averager():
    total = 0.0
    count = 0
    average = none
    while true:
        term = yield
        if term is none:
            break
        total += term
        count += 1
        average = total/count
    return result(count, average)

# 委派生成器
def grouper(result, key):
    while true:
        result[key] = yield from averager()

# 调用方
def main():
    results = {}
    group = grouper(results, "kg")
    next(group)
    for value in li:
        group.send(value)
    group.send(none)


if __name__ == "__main__":
    main()

yield from的主要功能是打开双向通道,把最外层的调用方与最内层的子生成器连接起来,这样二者可以直接发送和产出值,还可以直接传入异常

yield from 的六个重要意义

关于yield from 六点重要的说明:

  1. 子生成器产出的值都直接传给委派生成器的调用方(即客户端代码)
  2. 使用send()方法发送给委派生成器的值都直接传给子生成器。如果发送的值为none,那么会给委派调用子生成器的__next__()方法。如果发送的值不是none,那么会调用子生成器的send方法,如果调用的方法抛出stopiteration异常,那么委派生成器恢复运行,任何其他异常都会向上冒泡,传给委派生成器
  3. 生成器退出时,生成器(或子生成器)中的return expr表达式会出发stopiteration(expr)异常抛出
  4. yield from表达式的值是子生成器终止时传给stopiteration异常的第一个参数。yield from 结构的另外两个特性与异常和终止有关。
  5. 传入委派生成器的异常,除了generatorexit之外都传给子生成器的throw()方法。如果调用throw()方法时抛出stopiteration异常,委派生成器恢复运行。stopiteration之外的异常会向上冒泡,传给委派生成器
  6. 如果把generatorexit异常传入委派生成器,或者在委派生成器上调用close()方法,那么在子生成器上调用clsoe()方法,如果它有的话。如果调用close()方法导致异常抛出,那么异常会向上冒泡,传给委派生成器,否则委派生成器抛出generatorexit异常

python协程

python的生成器函数和python的协程非常接近 ,但并不完全 - 因为生成器然允许暂停执行以生成值,但是不提供在执行恢复时传递的值或异常。

并且生成器不允许在try / finally块的try部分中暂停执行,因此使中止的协程很难在其自身之后进行清理。

 

  1. 将yield重新定义为表达式,而不是语句。当前的yield语句将成为一个yield值表达式,其值将被丢弃。每当通过正常的next()调用恢复生成器时,yield表达式的值为none
  2. 为generator-iterators 添加了一个新的方法send(), 它可以恢复生成器并发送给生成一个值,该值称为yield - expression的结果,send()方法返回生成器产生的下一个值,如果生成器退出而不产生另一个值,则引发stopiteration。
  3. 为generator-iterators 添加了一个新的方法throw(), 它在生成器暂停时引发异常,并返回生成器产生的下一个值,如果生成器退出而不产生另一个值,则引发stopiteration(如果生成器没有捕获传入的异常,或者引发另外的一个异常,那么该异常会传播给调用者)
  4. 为generator-iterators 添加了一个新的方法close(), 在生成器暂停的位置引发一个generatorexit 异常,如果一个生成器引发了stopiteration 异常或者generatorexit 异常, close()方法将返回给它的调用者,如果生成是yield 一个值,会引发runtimeerror 异常。如果一个生成器引发了任何其他异常,则会传给他的调用者 ,如果生成器,由于异常退出或者已经正常退出,那么close()不执行任何操作。
  5. 确保了当生成器被垃圾回收的时候执行close()
  6. 因为垃圾回收或者clsoe被调用将允许允许yield在try / finally块中使用。

send方法

send方法只有一个参数,就是发送值到生成器,调用send(none)相当于调用生成器的next()方法

因为我们开始执行生成器函数的时候,并没有实际执行生成器函数中的代码而是返回一个生成器对象,所以我们需要调用next()或者send(none)来激活协程

与next()方法一样,send()方法返回generator-iterator产生的下一个值,如果生成器正常退出或已经退出,则引发stopiteration。如果生成器引发未捕获的异常,它将传播到send()的调用者

 

throw方法

让生成器在被挂起的位置抛出指定的异常,如果生成器捕获了异常并且返回的另外一个值,那么这个值就是g.throw()返回的值

如果生成器没有捕获异常,那么throw()将会引发传递相同的异常,如果生成器引发了另外一个异常,throw调用将引发异常,总之throw()的行为类似next()或者send()

除了它在挂起的时候引发异常。如果生成器已经处于关闭状态,throw() 只会引发它传递的异常,而不执行任何生成器的代码

 

generator.throw:会让生成器在暂停的yield表达式处抛出指定的异常,如果生成器处理了抛出的异常,代码会向前执行到下一个yield表达式,而产出的值会成为调用generator.throw方法代码的返回值。如果生成器没有处理抛出的异常,异常会向上冒泡,传到调用方的上下文中。
generator.close:会让生成器在暂停的yield表达式处抛出generatorexit异常。如果生成器没有处理这个异常,或者抛出了stopiteration异常,调用方不会报错,如果收到generatorexit异常,生成器一定不能产出值,否则解释器会抛出runtimeerror异常。生成器抛出的异常会向上冒泡,传给调用方。

 

早期的python协程,语法上协程和生成器看起来也非常类似,也是通过yield关键字如:num = yield

def simple_coroutine():
    print("coroutine start")
    x = yield
    print("coroutine receive [%s]" %x)


coroutine = simple_coroutine()
print(coroutine)
next(coroutine)
coroutine.send(888)

 

上面的例子中yield 的右边没有表达式,所以默认产出的值为none,通过之前将yield 关键字的时候我们已经知道当我们执行函数的时候

并不会运行生成器函数中的代码,而是返回一个生成器对象,所以我们需要通过调用next(...)来激活协程,这个时候开始运行生成器函数,

当运行到x = yield的时候,yield的右边如果有表达式,则会先进行右边表达式的计算,然后再进行赋值,所以当上面函数执行next()之后,

程序会停在yield那里,当我们调用send方法后yield会收到这个值并赋值给x,而当程序运行到协程定义体的末尾时和用生成器的时候一样会抛出stopiteration异常

如果协程没有通过next(...)激活(同样我们可以通过send(none)的方式激活),但是我们直接send,则会出错

 

关于调用next(...)函数这一步通常称为”预激(prime)“协程,即让协程向前执行到第一个yield表达式,准备好作为活跃的协程使用

协程在运行过程中有四个状态:

  1. gen_create:等待开始执行
  2. gen_running:解释器正在执行,这个状态一般看不到
  3. gen_suspended:在yield表达式处暂停
  4. gen_closed:执行结束