python中的yield是什么_python yield关键字与生成器工作原理解析

穿越時空
发布: 2025-09-12 16:40:02
原创
1007人浏览过
生成器通过yield实现惰性计算,调用时返回生成器对象,迭代时逐个生成值并暂停执行,保留状态,按需计算,减少内存占用。

python中的yield是什么_python yield关键字与生成器工作原理解析

Python中的

yield
登录后复制
关键字,简单来说,它能把一个普通的函数变成一个“生成器函数”。这意味着这个函数不再是执行一次就返回一个结果,而是可以暂停执行,返回一个值,然后在需要的时候从上次暂停的地方继续执行,直到所有值都生成完毕。它提供了一种高效处理序列数据,尤其是在处理大量数据时,可以显著节省内存的方式。

解决方案

yield
登录后复制
的核心魅力在于它实现了“惰性计算”或者说“按需生成”。当我们调用一个包含
yield
登录后复制
的函数时,它并不会立即执行函数体内的所有代码,而是返回一个生成器对象。这个生成器对象是一个迭代器,只有当我们对它进行迭代(比如通过
for
登录后复制
循环、调用
next()
登录后复制
函数),函数体内的代码才会开始执行,直到遇到第一个
yield
登录后复制
表达式。此时,
yield
登录后复制
会将它后面的值返回给调用者,同时函数的状态(包括局部变量和执行位置)会被冻结。

下一次迭代时,函数会从上次

yield
登录后复制
离开的地方继续执行,直到遇到下一个
yield
登录后复制
,或者函数执行完毕。如果函数执行完毕,或者遇到
return
登录后复制
语句(没有指定返回值),迭代就会停止,生成器会抛出
StopIteration
登录后复制
异常。

这种机制的巨大优势在于内存管理。常规函数如果需要返回一个大的列表或序列,它会一次性在内存中构建出整个序列。而生成器则是一个一个地生成元素,每次只在内存中保留当前正在处理的元素的状态,极大地减少了内存占用,特别适用于处理文件、网络流或者无限序列等场景。

立即学习Python免费学习笔记(深入)”;

def simple_generator():
    print("开始生成...")
    yield 1
    print("生成了1,继续...")
    yield 2
    print("生成了2,即将结束...")
    yield 3
    print("生成完毕。")

# 调用生成器函数,得到一个生成器对象
gen = simple_generator()

# 第一次next()调用
print(next(gen))
# 第二次next()调用
print(next(gen))
# 第三次next()调用
print(next(gen))

# 尝试第四次next()调用会抛出StopIteration
# print(next(gen))
登录后复制

Python生成器是如何实现惰性计算和内存优化的?

生成器实现惰性计算和内存优化的秘密,在于其独特的“暂停与恢复”机制。当一个函数中包含

yield
登录后复制
关键字时,Python 解释器会将其识别为一个生成器函数。调用这个函数并不会像普通函数那样直接执行并返回一个值,而是返回一个生成器对象。这个对象本身是一个迭代器,它知道如何根据需要逐步生成值。

每次我们请求生成器提供下一个值(通过

next()
登录后复制
函数或
for
登录后复制
循环),生成器函数就会从它上次暂停的地方恢复执行。它会执行代码直到遇到下一个
yield
登录后复制
表达式,然后将
yield
登录后复制
后面的值返回给请求者,同时“冻结”自身的状态——包括所有局部变量的值、当前的执行点等等。这意味着在两次
yield
登录后复制
之间,函数内部的局部变量并不会被销毁,而是被保留下来,等待下一次恢复。这种状态的保存和恢复,使得生成器能够记住它“上次做到哪里了”,从而按需、逐步地生成数据,而不是一次性生成所有数据。

考虑一个处理大型日志文件的例子。如果我们需要筛选出文件中所有包含特定关键词的行:

def read_large_log_file(filepath, keyword):
    with open(filepath, 'r', encoding='utf-8') as f:
        for line in f:
            if keyword in line:
                yield line.strip() # 找到一行就返回,而不是等待整个文件处理完

# 假设有一个非常大的日志文件 'server.log'
# log_lines = list(read_large_log_file('server.log', 'ERROR')) # 这种方式会一次性加载所有匹配行到内存
# 更好的方式是直接迭代:
for error_line in read_large_log_file('server.log', 'ERROR'):
    print(f"发现错误: {error_line}")
    # 这里可以对每一行进行进一步处理,而不需要将所有错误行都存入内存
登录后复制

在这个例子中,

read_large_log_file
登录后复制
函数不会一次性读取整个文件到内存,也不会一次性构建一个包含所有匹配行的列表。它会一行一行地读取文件,一旦发现匹配的行,就通过
yield
登录后复制
返回该行,然后暂停。只有当外部代码需要下一行时,它才会继续读取文件,直到找到下一个匹配项。这种“用一点取一点”的策略,是实现内存优化和处理大数据集的关键。

yield from在Python中有什么独特作用,它与yield有何不同?

yield from
登录后复制
是 Python 3.3 引入的一个语法糖,它的主要作用是“委托”给另一个生成器或可迭代对象。简单来说,当你有一个生成器需要从另一个生成器或可迭代对象中获取所有值时,
yield from
登录后复制
提供了一种更简洁、更高效的方式来处理这种委托关系,避免了手动迭代和
yield
登录后复制
的繁琐。

yield from
登录后复制
yield
登录后复制
的核心区别在于:

阿里云-虚拟数字人
阿里云-虚拟数字人

阿里云-虚拟数字人是什么? ...

阿里云-虚拟数字人 2
查看详情 阿里云-虚拟数字人
  1. 委托子生成器:
    yield
    登录后复制
    只能返回单个值,如果你想从另一个生成器中获取所有值,你需要手动在一个循环中
    yield
    登录后复制
    出每一个值。而
    yield from
    登录后复制
    可以直接将控制权和数据流委托给子生成器。
  2. 双向通信:
    yield from
    登录后复制
    不仅能从子生成器中获取值,还能将
    send()
    登录后复制
    throw()
    登录后复制
    close()
    登录后复制
    等方法直接传递给子生成器,并且能接收子生成器的返回值。这在构建复杂的协程和异步编程时尤其重要。
    yield
    登录后复制
    则无法直接实现这种双向通信和异常传递。
  3. 代码简洁性: 它显著简化了生成器链式调用的代码。

我们来看一个例子:

def sub_generator(start, end):
    for i in range(start, end):
        yield i

def main_generator():
    print("开始主生成器")
    # 使用 yield 逐个委托
    # for value in sub_generator(1, 3):
    #     yield value
    # for value in sub_generator(10, 12):
    #     yield value

    # 使用 yield from 委托
    yield from sub_generator(1, 3)
    print("子生成器1完成")
    yield from sub_generator(10, 12)
    print("子生成器2完成")
    yield 99 # 主生成器自己的值
    print("主生成器结束")

# 迭代主生成器
for item in main_generator():
    print(f"从主生成器得到: {item}")
登录后复制

在这个例子中,

main_generator
登录后复制
需要依次生成来自两个
sub_generator
登录后复制
的值。如果使用普通的
yield
登录后复制
,就需要写两个
for
登录后复制
循环来遍历子生成器并逐个
yield
登录后复制
。而
yield from
登录后复制
则直接将迭代责任交给了
sub_generator
登录后复制
,代码更清晰,意图也更明确。它就像是把子生成器的迭代逻辑“嵌入”到了主生成器中,使得主生成器能够直接与子生成器进行交互,包括接收其
yield
登录后复制
的值,以及处理其最终的
return
登录后复制
值(虽然这里没有展示)。这种委托机制在处理嵌套的异步操作或复杂的数据流管道时,能极大地提升代码的可读性和维护性。

在哪些实际场景中,我们应该优先考虑使用Python生成器和yield?

生成器和

yield
登录后复制
在许多实际编程场景中都展现出其独特的优势,尤其是在需要高效处理大量数据或构建灵活数据流时。以下是一些常见且推荐优先考虑使用生成器和
yield
登录后复制
的场景:

  1. 处理大型文件或数据流: 这是最典型的应用场景。当文件内容(如日志文件、CSV 文件、JSON Lines 文件)过大,无法一次性加载到内存时,生成器可以逐行或逐块读取并处理,显著减少内存占用。例如,一个Web服务器的访问日志文件可能达到GB级别,使用生成器逐行解析,可以避免内存溢出。

    def parse_large_csv(filepath):
        with open(filepath, 'r', encoding='utf-8') as f:
            header = next(f).strip().split(',') # 读取标题行
            for line in f:
                values = line.strip().split(',')
                # 假设每行数据与标题对应
                yield dict(zip(header, values))
    
    # 遍历大型CSV文件,逐条处理数据
    # for row_data in parse_large_csv('large_data.csv'):
    #     process_data_record(row_data)
    登录后复制
  2. 生成无限序列或大数据集: 某些序列在逻辑上是无限的(如斐波那契数列、素数序列),或者数据集非常庞大,预先生成所有数据不切实际。生成器可以按需生成这些值,避免了内存限制。

    def fibonacci_sequence():
        a, b = 0, 1
        while True: # 无限生成
            yield a
            a, b = b, a + b
    
    # for _ in range(10):
    #     print(next(fibonacci_sequence())) # 每次取一个斐波那契数
    登录后复制
  3. 构建数据处理管道(Pipelines): 在数据分析或ETL(提取、转换、加载)过程中,数据往往需要经过一系列的转换。生成器可以很自然地构建这种管道,一个生成器的输出作为下一个生成器的输入,形成一个高效、惰性求值的链条。每个阶段只处理它当前需要的数据,而不是将所有中间结果都存储起来。

  4. 自定义迭代器: 当你需要实现一个自定义的、可迭代的数据结构时,使用生成器函数通常比手动编写一个带有

    __iter__
    登录后复制
    __next__
    登录后复制
    方法的类要简单得多。

  5. 异步编程的早期模式(协程):

    async/await
    登录后复制
    语法糖出现之前,
    yield
    登录后复制
    曾被广泛用于实现协程和异步任务调度(例如,通过
    yield from
    登录后复制
    )。虽然现在
    async/await
    登录后复制
    更为推荐和方便,但理解
    yield
    登录后复制
    在此领域的应用有助于深入理解Python的并发模型。

  6. 内存敏感型应用: 任何对内存使用有严格要求的应用,例如嵌入式系统、大数据处理的边缘节点,或者需要同时运行大量任务的服务器端应用,生成器都是一个强大的工具

选择

yield
登录后复制
和生成器,通常意味着你在权衡内存使用和计算时间。当你面对的数据量巨大,或者数据是流式的、无限的,或者你需要构建一个清晰、高效的数据处理管道时,生成器无疑是Python提供的一个优雅而强大的解决方案。它让你的代码在处理大规模问题时,既保持了简洁性,又兼顾了性能和资源效率。

以上就是python中的yield是什么_python yield关键字与生成器工作原理解析的详细内容,更多请关注php中文网其它相关文章!

python速学教程(入门到精通)
python速学教程(入门到精通)

python怎么学习?python怎么入门?python在哪学?python怎么学才快?不用担心,这里为大家提供了python速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载
来源:php中文网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号