【从零学习python 】59.迭代器:优化数据遍历的高效工具

简介: 【从零学习python 】59.迭代器:优化数据遍历的高效工具

迭代器

迭代是访问集合元素的一种方式。迭代器是一个可以记住遍历的位置的对象。迭代器对象从集合的第一个元素开始访问,直到所有的元素被访问完结束。迭代器只能往前不会后退。

1. 可迭代对象

我们已经知道可以对 listtuplestr 等类型的数据使用 for...in... 的循环语法从其中依次拿到数据进行使用,我们把这样的过程称为遍历,也叫迭代。

但是,是否所有的数据类型都可以放到 for...in... 的语句中,然后让 for...in... 每次从中取出一条数据供我们使用,即供我们迭代吗?

for i in 100:
    print(i)

上述代码会报错 TypeError: 'int' object is not iterable,即整型 int 不是 iterable,即整型不是可以迭代的。

我们把可以通过 for...in... 这类语句迭代读取一条数据供我们使用的对象称之为可迭代对象(Iterable)。

2. 如何判断一个对象是否可以迭代

可以使用 isinstance() 判断一个对象是否是 Iterable 对象:

from collections import Iterable
print(isinstance([], Iterable))  # True
print(isinstance({}, Iterable))  # True
print(isinstance('abc', Iterable))  # True
print(isinstance(mylist, Iterable))  # False
print(isinstance(100, Iterable))  # False

3. 可迭代对象的本质

我们分析可迭代对象进行迭代使用的过程,发现每次迭代一次(即在 for...in... 中每循环一次)都会返回对象中的下一条数据,一直向后读取数据直到迭代了所有数据后结束。那么,在这个过程中就应该有一个“人”去记录每次访问到了第几条数据,以便每次迭代都可以返回下一条数据。我们把这个能帮助我们进行数据迭代的“人”称为迭代器(Iterator)。

可迭代对象的本质就是可以向我们提供一个这样的中间“人”即迭代器帮助我们对其进行迭代遍历使用。

可迭代对象通过 __iter__ 方法向我们提供一个迭代器,我们在迭代一个可迭代对象的时候,实际上就是先获取该对象提供的一个迭代器,然后通过这个迭代器来依次获取对象中的每一个数据。

一个具备了 __iter__ 方法的对象,就是一个可迭代对象。

from collections.abc import Iterable
class Demo(object):
    def __init__(self, n):
        self.n = n
        self.current = 0
    def __iter__(self):
        pass
demo = Demo(10)
print(isinstance(demo, Iterable))  # True
for d in demo:  # 重写了 `__iter__` 方法以后,demo 就是一个一个可迭代对象了,可以放在 `for...in` 的后面
    print(d)
# 此时再使用 `for...in` 循环遍历,会提示 `TypeError: iter() returned non-iterator of type 'NoneType'`
# 这是因为,一个可迭代对象如果想要被 `for...in` 循环,它必须要有一个迭代器

4. 迭代器(Iterator)

通过上面的分析,我们已经知道,迭代器是用来帮助我们记录每次迭代访问到的位置,当我们对迭代器使用next() 函数的时候,迭代器会向我们返回它所记录位置的下一个位置的数据。实际上,在使用 next() 函数的时候,调用的就是迭代器对象的 __next__ 方法(Python3 中是对象的 __next__ 方法,Python2 中是对象的 next() 方法)。所以,我们要想构造一个迭代器,就要实现它的 next 方法。但这还不够,Python 要求迭代器本身也是可迭代的,所以我们还要为迭代器实现 __iter__ 方法,而 __iter__ 方法要返回一个迭代器,迭代器自身正是一个迭代器,所以迭代器的 __iter__ 方法返回自身即可。

一个实现了 iter 方法和 next 方法的对象,就是迭代器。

class MyIterator(object):
    def __init__(self, n):
        self.n = n
        self.current = 0
    # 自定义迭代器需要重写 `__iter__` 和 `__next__` 方法
    def __iter__(self):
        return self
    def __next__(self):
        if self.current < self.n:
            value = self.current
            self.current += 1
            return value
        else:
            raise StopIteration
my_it = MyIterator(10)
for i in my_it:  # 迭代器重写了 `__iter__` 方法,它本身也是一个可迭代对象
    print(i)

5. 如何判断一个对象是否是迭代器

调用一个对象的 __iter__ 方法,或者调用 iter() 内置函数,可以获取到一个可迭代对象的迭代器。

names = ['hello', 'good', 'yes']
print(names.__iter__())  # 调用对象的 `__iter__()` 方法
print(iter(names))  # 调用 `iter()` 内置函数

可以使用 isinstance() 判断一个对象是否是 Iterator 对象:

from collections.abc import Iterator
names = ['hello', 'good', 'yes']
print(isinstance(iter(names), Iterator))

6. for...in... 循环的本质

for item in Iterable 循环的本质就是先通过 iter() 函数获取可迭代对象 Iterable 的迭代器,然后对获取到的迭代器不断调用 next() 方法来获取下一个值并将其赋值给 item,当遇到 StopIteration 的异常后循环结束。

7. 迭代器的应用场景

迭代器最核心的功能就是可以通过 next() 函数的调用来返回下一个数据值。如果每次返回的数据值不是在一个已有的数据集合中读取的,而是通过程序按照一定的规律计算生成的,那么也就意味着可以不用再依赖一个已有的数据集合,也就是说不用再将所有要迭代的数据都一次性缓存下来供后续依次读取,这样可以节省大量的存储(内存)空间。

举个例子,比如,数学中有个著名的斐波数列(Fibonacci sequence),每个数字是前两个数字之和。如果我们要生成斐波那契数列的前n个数字并进行迭代,使用迭代器就非常方便。

class FibonacciIterator:
    def __init__(self, n):
        self.n = n
        self.current = 0
        self.a = 0
        self.b = 1
    def __iter__(self):
        return self
    def __next__(self):
        if self.current < self.n:
            value = self.a
            self.a, self.b = self.b, self.a + self.b
            self.current += 1
            return value
        else:
            raise StopIteration
fib_iter = FibonacciIterator(10)
for num in fib_iter:
    print(num)

上述代码中,定义了一个斐波那契数列迭代器 FibonacciIterator,根据提供的数量 n,每次迭代返回斐波那契数列中的下一个数字。我们可以通过 for...in... 循环来遍历迭代器并打印每个数字。

迭代器还有其他许多应用场景,例如处理大型数据集时,可以使用迭代器逐行读取文件而不需要一次性将整个文件加载到内存中;在生成器函数中,yield语句可以用于构建迭代器,以节省内存等。总之,迭代器提供了一种高效、节省资源的迭代方式,使得我们可以逐个访问并处理数据,而无需事先生成或存储整个数据集合。

相关文章
|
1天前
|
XML 前端开发 数据格式
BeautifulSoup 是一个 Python 库,用于从 HTML 和 XML 文件中提取数据
BeautifulSoup 是 Python 的一个库,用于解析 HTML 和 XML 文件,即使在格式不规范的情况下也能有效工作。通过创建 BeautifulSoup 对象并使用方法如 find_all 和 get,可以方便地提取和查找文档中的信息。以下是一段示例代码,展示如何安装库、解析 HTML 数据以及打印段落、链接和特定类名的元素。BeautifulSoup 还支持更复杂的查询和文档修改功能。
6 1
|
2天前
|
小程序 程序员 开发者
Python学习心得——小白的成长之路
Python学习心得——小白的成长之路
9 0
|
2天前
|
SQL 测试技术 网络安全
Python之SQLMap:自动SQL注入和渗透测试工具示例详解
Python之SQLMap:自动SQL注入和渗透测试工具示例详解
11 0
|
2天前
|
前端开发 文件存储 Python
python之xhtml2pdf: HTML转PDF工具示例详解
python之xhtml2pdf: HTML转PDF工具示例详解
7 0
|
2天前
|
存储 数据处理 Python
python 之map、zip和filter迭代器示例详解
python 之map、zip和filter迭代器示例详解
7 0
|
2天前
|
存储 JSON 数据挖掘
python序列化和结构化数据详解
python序列化和结构化数据详解
10 0
|
3天前
|
数据采集 数据可视化 数据挖掘
Python 与 PySpark数据分析实战指南:解锁数据洞见
Python 与 PySpark数据分析实战指南:解锁数据洞见
|
3天前
|
Python
Python 中的异常处理机制是一种强大的错误处理工具
Python的异常处理机制借助try/except结构管理错误,提高程序健壮性。异常是中断正常流程的问题,可由多种原因引发。基本结构包括try块(执行可能出错的代码)和except块(处理异常)。通过多个except块可捕获不同类型的异常,finally块确保无论是否异常都执行的代码。此外,raise语句用于主动抛出异常,自定义异常通过继承Exception类实现。with语句配合上下文管理器简化资源管理并确保异常情况下资源正确释放。
14 2
|
3天前
|
缓存 并行计算 Serverless
优化Python代码性能的5个技巧
在日常Python编程中,代码性能的优化是一个重要的议题。本文介绍了5个实用的技巧,帮助你提高Python代码的执行效率,包括使用适当的数据结构、优化循环结构、利用内置函数、使用生成器表达式以及并行化处理。通过这些技巧,你可以更高效地编写Python代码,提升程序的性能和响应速度。
|
3天前
|
存储 程序员 Python
深入理解Python中的生成器和迭代器
本文将深入探讨Python中生成器和迭代器的概念、原理以及它们在编程中的应用。通过详细解析生成器和迭代器的工作机制,读者将能够更好地理解Python中的迭代器协议、生成器函数以及生成器表达式的使用方法。同时,本文还将介绍生成器和迭代器在Python中的一些常见应用场景,并提供一些实用的编程技巧和最佳实践。