原帖使用 PyTorch 1.13.0,修改 num_workers 后仍得到同一属性错误:
AttributeError: '_MultiProcessingDataLoaderIter' object has no attribute 'next'
worker 数变了,错误却没变
原题在 PyTorch 1.13 上调用历史 .next(),无论单进程还是多进程都会受到迭代接口影响。报错中的内部类名反映当前实现,不意味着要给它补方法或退回旧版本。先改为 Python 内置 next,再分别处理迭代耗尽和数据目标格式。
这是迭代器调用方式问题,不是 worker 数量造成的。Python 迭代器通过内置 next() 取下一项,不应依赖历史 .next() 别名。
假设 train_loader 已由原题 WineDataset 创建:
iterator = iter(train_loader)
print("josh050608")
print("iterator type:", type(iterator))
features, labels = next(iterator)
print("features:", features.shape, features.dtype)
print("labels:", labels.shape, labels.dtype)
把原来的 dataiter.next() 改为 next(dataiter)。若要完整遍历,直接使用 for features, labels in train_loader:,无需自己操作内部迭代器。
耗尽后 next 会抛 StopIteration,这与缺少 next 属性是不同问题;重新调用 iter(train_loader) 可以开启新一轮。不要修改 _MultiProcessingDataLoaderIter 这类内部类。
原帖展示的 dataset = WineDataset()、创建 DataLoader 的代码应放在类定义之外。若 Windows 使用 workers,再放入主入口保护,避免子进程重新执行训练代码。
能读出 batch 后,还应按任务处理 wine 的目标:原题标签为 [N,1] 浮点,若用于交叉熵,需要确认原始类别编码,再转换成 [N] long;不能把迭代器修复与损失输入格式混为一谈。
一次取样与整轮遍历的完整例子
下面使用合成 wine 特征,不读取 CSV。为了便于直接运行先设 workers=0,取 batch 的接口同样适用于支持多进程的 loader:
import torch
from torch.utils.data import TensorDataset, DataLoader
features = torch.arange(15, dtype=torch.float32).reshape(5, 3)
labels = torch.tensor([0, 1, 2, 0, 1], dtype=torch.long)
loader = DataLoader(TensorDataset(features, labels), batch_size=4, shuffle=False)
iterator = iter(loader)
first_x, first_y = next(iterator)
last_x, last_y = next(iterator)
assert first_x.shape == (4, 3) and last_x.shape == (1, 3)
try:
next(iterator)
except StopIteration:
print("iteration finished")
assert sum(len(x) for x, _ in loader) == 5
print("first/last target:", first_y.tolist(), last_y.tolist())
next(iter(loader)) 每次都会创建新迭代器,适合快速查看第一批;若要连续取第二、第三批,要保存同一个 iterator。训练通常直接用 for 循环,循环结束后下一轮会重新迭代。
原题 WineDataset 的标签是 [N,1] 浮点。如果用于互斥分类,先核对 CSV 中编号是否从 0 开始,再按真实映射变成 [N] long。不能为修 next 随意减 1,也不能据教程数据名假设编码。
脚本中的 dataset 与 loader 创建应位于类定义外;Windows 多进程再加 main 保护。先验证本例的尾批和迭代终止,再验证真实 CSV 与损失,能够把 API 调用、进程入口和标签格式三个问题分开。
参考:原始求助帖;技术依据:PyTorch 数据加载(2.5)、Python multiprocessing、Python next。