Python3中yield理解与使用

原文链接:https://blog.csdn.net/u011318077/article/details/93749143

Python3中yield对初学者一直是一个难点存在,网上很多教程,噼里啪啦写了很多,也举了很多例子,但是读完之后还是不知所以然,下面问题还是不知道如何回答,内容有点多,有些地方可能有点啰嗦,但都是满满的干货。

yield究竟是干嘛的?

yield是怎么执行的?

yield的好处是什么?

文章结构

1. 迭代器与可迭代对象

2. yield简单案例及执行步骤

3. yield中的send函数

4. yield的好处是什么

1. 迭代器与可迭代对象

开始之前,先理解一下迭代器与可迭代对象,因为yield其实是一种特殊的迭代器,不过这种迭代器更加优雅。

可迭代对象

# 可迭代对象:列表为例

s = 'ABC'

l = list(s)

print(l)

1

2

3

4

['A', 'B', 'C']

1

迭代器

# 迭代器对象l1

s = 'ABC'

l = list(s)

l1 = iter(l)

print(l1)

# 取出迭代器容器中的值,没有值后就抛出异常

print(next(l1))

print(next(l1))

print(next(l1))

print(next(l1))

1

2

3

4

5

6

7

8

9

10

<list_iterator object at 0x0000020D793D95C0>

A

B

C

StopIteration

1

2

3

4

5

上面案例中l是一个列表,是一个可迭代对象

l1是一个迭代器,直接打印,结果是<list_iterator object at 0x0000020D793D95C0>,访问其中的值可以使用for循环或者next函数,所有值都被访问后,最后会抛出StopIteration异常

关于迭代器与可迭代对象参考我另一篇博文,里面有详细解释:

https://blog.csdn.net/u011318077/article/details/93754013

yield生成器就是一个优雅的迭代器,访问也会用到next函数,理解迭代器后可以更轻松的理解yield生成器的执行过程和原理。

2. yield简单案例及执行步骤

下面进入正题,如果你还没有对yield有个初步分认识,那么你先把yield看做“return”,

这个是直观的,它首先是个return,普通的return是什么意思,就是在程序中返回某个值,返回之后程序就不再往下运行了。看做return之后再把它看做一个是生成器(generator)的一部分

(带yield的函数才是真正的迭代器),好了,如果你对这些不明白的话,那先把yield看做return,然后直接看下面的程序,你就会明白yield的全部意思了(只是先当做return,本质向后看就会明白)。

先看一个普通函数

# 一个普通函数:

def foo():

    print('Starting.....')

# 调用函数,直接执行语句

g = foo()

print("*" * 100)

1

2

3

4

5

6

Starting.....

****************************************************

1

2

生成器函数

# 包含yield关键字,就变成了生成器函数

# 调用函数并不会执行语句

def foo():

    print('Starting.....')

    while True:

        res = yield 4

        print("res:", res)

# 下面调用函数并没有执行,可以先将后面的语句注释掉

# 逐行运行代码观察效果

g = foo()

print("第一次调用执行结果:")

print(next(g))

print("*" * 100)

print("第二次调用执行结果:")

print(next(g))

print("*" * 100)

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

第一次调用执行结果:

Starting.....

4

********************************************************************

第二次调用执行结果:

res: None

4

********************************************************************

1

2

3

4

5

6

7

8

下面解释代码运行顺序,相当于代码单步调试():

程序开始执行以后,因为foo函数中有yield关键字,所以foo函数并不会真的执行,

而是先得到一个生成器g(相当于一个对象),函数的一个状态,函数相当于暂停了

执行第一次调用,直到遇到next方法,foo函数正式开始执行,先执行foo函数中的print方法,然后进入while循环

程序遇到yield关键字,然后把yield想想成return,return了一个4之后,程序停止,

但是,程序只是返回了一个值4,并没有执行将4赋值给res操作,此时next(g)语句执行完成,

所以第一次调用后的结果有两行(第一个是while上面的print的结果,第二个是return出的结果)

也就是执行print(next(g))先调用函数,最后打印出了返回值4

程序执行print("" * 100),输出100个

执行第二次调用,又开始执行下面的print(next(g)),这个时候和上面那个差不多,不过不同的是,这个时候是从刚才那个next程序停止的地方开始执行的,也就是要执行res的赋值操作语句,

这时候要注意,yield 4返回值4后就停止了,并没有赋值给前面的res, (因为刚才那个是return出去了,并没有给赋值操作的左边传参数),此时代码实际是从print(“res:”, res)开始执行,

这个时候res赋值是空,是None,所以接着下面的输出就是res:None,

程序会继续在while里执行,又一次碰到yield,这个时候同样return出4,然后程序停止,print函数输出的4就是这次return出的4.

到这里你可能就明白yield和return的关系和区别了,带yield的函数是一个生成器,而不是一个函数了,这个生成器有一个函数就是next函数,next就相当于“下一步”生成哪个数,这一次的next开始的地方是接着上一次的next停止的地方执行的,所以调用next的时候,生成器并不会从foo函数的开始执行,只是接着上一步停止的地方开始,然后遇到yield后,return出要生成的数,此步就结束。

总结

上面的foo()就是一个生成器函数,当一个生成器函数调用yield,生成器函数的“状态”会被冻结,所有的变量的值会被保留下来,下一行要执行的代码的位置也会被记录,就是yield这行代码结束的位置直到再次调用next()。一旦next()再次被调用,生成器函数会从它上次离开的地方开始。如果永远不调用next(),yield保存的状态就被无视了。

generator是用来产生一系列值的,yield则像是generator函数的返回结果,(yield也可以看似return),yield唯一所做的另一件事就是保存一个generator函数的状态

yield和return的区别,return执行后会继续执行后面的代码,但是yield会停止之后的代码继续执行,注意,只是停止生成器函数内部的代码,生成器函数外部代码不受影响

generator就是一个特殊类型的迭代器(iterator)和迭代器相似,我们可以通过使用next()来从generator中获取下一个值

3. yield中的send函数

yield生成器函数中另外一重要函数就是send(),可以传入一个值作为返回值,看下面案例,第二次调用时候传入数字7

# 包含yield关键字,就变成了生成器函数

def foo():

    print('Starting.....')

    while True:

        res = yield 4

        print("res:", res)

# 下面调用函数并没有执行,可以先将后面的语句注释掉

# 逐行运行代码观察效果

g = foo()

print("第一次调用执行结果:")

print(next(g))

print("*" * 100)

print("第二次调用执行结果(传入参数):")

print(g.send(7))

print("*" * 100)

print("第三次调用执行结果:")

print(next(g))

print("*" * 100)

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

第一次调用执行结果:

Starting.....

4

*****************************************************************

第二次调用执行结果(传入参数):

res: 7

4

******************************************************************

第三次调用执行结果:

res: None

4

******************************************************************

1

2

3

4

5

6

7

8

9

10

11

12

send函数的概念:003案例中第二次调用时res的值为什么是None,这个变成了7,到底为什么?

这是因为,send是发送一个参数给res的,因为上面讲到,return的时候,并没有把4赋值给res,下次执行的时候只好继续执行赋值操作,只好赋值为None了,而如果用send的话,开始执行的时候,先接着上一次(return 4之后)执行,先把7赋值给了res,然后执行next的作用,遇见下一回的yield,return出结果后结束(return的结果都是4,每次代码最后的结果都是4)。

上面代码执行步骤:

程序执行g.send(7),程序会从yield关键字那一行继续向下运行,send会把7这个值赋值给res变量

由于send方法中包含next()方法,所以程序会继续向下运行执行print方法,然后再次进入while循环

程序执行再次遇到yield关键字,yield会返回后面的值后,程序再次暂停,直到再次调用next方法或send方法。

深层次补充:(上面的案例描述只是为了容易理解,描述为暂停和赋值)

比如说“send方法中包含next()”send先赋值然后在执行next,从一些代码直观上来讲好像是这样,但其实并不是,

第一,其实并不是赋值,

第二,底层send和next其实都是调用gen_send_ex(PyGenObject *gen,PyObject *arg,int exc)这个函数,只是第二个参数不一样,send也不一定要带参数,尤其是第一次使用send来启动生成器,send带参数还是不允许的。

如果对中断了解的话,其实不要把这个当成return来看,因为根本就不是,应该当成中断来理解,

因为底层的实现就是中断的原理,保存栈帧,加载栈帧。

4. yield的好处是什么?

通过上面的阅读和敲代码已经理解了什么是yield,和整个执行原理都应该很清楚了,单究竟为什么要使用yield,而不是用return???

我们以列表list为例,为什么用这个生成器,是因为如果用List的话,会占用更大的空间, 比如说取0,1,2,3,4,5,6…1000,下面举例,只取到10,1000结果太长了

for n in range(10):

    a=n

    print(a) # 相当于return a

print("*" * 100)

1

2

3

4

0

1

2

3

4

5

6

7

8

9

1

2

3

4

5

6

7

8

9

10

生成器实现上面功能

# 生成器实现

def foo(num):

    print("starting...")

    while num<10:

        num=num+1

        yield num

for n in foo(0):

    print(n)

1

2

3

4

5

6

7

8

9

starting...

1

2

3

4

5

6

7

8

9

10

1

2

3

4

5

6

7

8

9

10

11

上面两种方式都可以得到0-10之间的数字,但是占用内存不同:

第一种直接使用for循环:

for循环运行时,所有的0-10之间数字都存在内存之中需要消耗极大的内存,如果数字是10000,可能for循环直接就将电脑内存消耗完了后面的代码,其它程序就无内存可用了

第二种,虽然也是for循环,但是内部加入了yield:for循环每次调用时,yield生成器(generator)能够迭代的关键是它有一个next()方法,工作原理就是通过重复调用next()方法,直到捕获一个异常,for循环自动结束

每次执行到yield,因为底层的实现就是中断的原理,保存栈帧,加载栈帧。 每次执行结束内存释放,执行的时候占用一点内存,消耗的内存资源就很少

上面for循环执行过程,并没有写next函数,其实自动调用的next函数(参考迭代器与迭代对象中详细解释):

for循环执行过程:

调用可迭代对象的__iter__方法返回一个迭代器对象(iterator)

不断调用迭代器的__next__方法返回元素

直到迭代完成后,处理StopIteration异常

yield的好处总结:

不会将所有数据取出来存入内存中;而是返回了一个对象;可以通过对象获取数据;用多少取多少,可以节省内容空间。

除了能返回一个值,还不会终止循环的运行;

每次执行到yield,因为底层的实现就是中断的原理,保存栈帧,加载栈帧。

每次执行结束内存释放,执行的时候占用一点内存,消耗的内存资源就很少

补充:

通常yield都是放在一个函数中,该函数就变成了生成器函数,该函数就变成了一个迭代器

生成器函数一般都是通过for循环调用,for循环自带next方法

分布式爬虫会经常使用yield,yield直接放在for循环的内部

爬虫代码运行时候,for循环自动调用next方法,yield就会不断执行,直到爬取结束

使用yield也会大大减少爬虫运行时候的内存消耗

————————————————

版权声明:本文为CSDN博主「夏树柏」的原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接及本声明。

原文链接:https://blog.csdn.net/u011318077/article/details/93749143

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,219评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,363评论 1 293
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,933评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,020评论 0 206
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,400评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,640评论 1 219
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,896评论 2 313
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,597评论 0 199
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,327评论 1 244
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,581评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,072评论 1 261
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,399评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,054评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,083评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,849评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,672评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,585评论 2 270

推荐阅读更多精彩内容