原帖读取 CSV 后,把整张特征表和一维标签分别 append 到列表,再对两者调用图像 ToTensor:
TypeError: pic should be PIL Image or ndarray. Got <class 'numpy.ndarray'>
这题有两处数据集设计问题
一维类别数组被交给图像变换,触发旧 ToTensor 的维数检查;同时整张表 append 为一个列表元素,使样本数变成 1。只把标签升成二维图片或换一个 ToTensor 版本,仍保留了错误的数据粒度。先明确每行是一条样本,再分别处理特征与目标。
错误虽显示 numpy.ndarray,但旧版 ToTensor 还会检查数组维数;一维标签不是它期望的图像。另一个问题是 append 整表后 len(self.features) 只有 1,数据集不再按行取样。
先在数据集外检查原始表格:
import pandas as pd
frame = pd.read_csv("android.csv")
features = frame.iloc[:, :-1]
labels = frame.iloc[:, -1]
print("josh050608")
print("features:", features.shape, features.dtypes.tolist())
print("labels:", labels.shape, labels.dtype, labels.head().tolist())
这类非图像数据直接转换数值数组,不使用 torchvision.transforms.ToTensor。若末列是已确认的整数类别编号,可以改成:
import torch
from torch.utils.data import TensorDataset, DataLoader
x = torch.from_numpy(features.to_numpy(dtype="float32"))
y = torch.from_numpy(labels.to_numpy(dtype="int64"))
dataset = TensorDataset(x, y)
train_loader = DataLoader(dataset, batch_size=32, shuffle=True)
若标签是字符串,先建立稳定的类别映射;若是回归目标,保留浮点类型并配合回归损失。不要为了让转换成功而把缺失值和脏字符串默默变成 0。
原帖还计划用 Conv1d:表格张量 [N,F] 不会自动具有卷积所需的 [N,C,L] 语义,需按模型定义决定是否加通道维,不能任意 reshape。验证 len(dataset) 等于 CSV 行数、单个样本为一行特征,再检查第一个 batch 的形状与标签配对。
针对旧 torchvision 0.2.2,应核对该版本源码中的图像维数检查;现代图像变换接口的支持范围不能反推旧版行为。
直接用数值表格验证取样粒度
下面用合成 NumPy 数组演示四条样本、每条三个特征。它不读 android.csv,也不依赖 torchvision:
import numpy as np
import torch
from torch.utils.data import TensorDataset, DataLoader
feature_array = np.arange(12, dtype=np.float32).reshape(4, 3)
label_array = np.array([0, 1, 0, 1], dtype=np.int64)
dataset = TensorDataset(torch.from_numpy(feature_array), torch.from_numpy(label_array))
assert len(dataset) == 4
assert dataset[0][0].shape == (3,)
assert dataset[0][1].ndim == 0
loader = DataLoader(dataset, batch_size=2, shuffle=False)
x, y = next(iter(loader))
assert x.shape == (2, 3) and y.shape == (2,)
assert torch.equal(y, torch.tensor([0, 1]))
print("sample/batch:", dataset[0][0].shape, x.shape, y.shape)
真实 CSV 先检查缺失值、字符串列与目标类型,分类编号转 int64,连续回归目标则保留适合损失的浮点格式。原帖的 features.append(整表) 应去掉,或者让自定义 Dataset 直接保存二维矩阵并用行索引返回。
若后续模型是 Conv1d,需要为 [N,F] 中的 F 指定序列语义。作为单通道长度 F 的输入可以明确 x.unsqueeze(1) 成 [N,1,F];若每列并非有序信号,应先判断卷积是否适合,不能仅为满足 API 拼维度。
本文表格转换示例按所引用 pandas 版本接口写;维护旧 pandas 时使用该版本支持的数组获取方式。验收数据集长度、单条 shape、一个 batch 的样本与标签顺序,再做模型前向,避免旧图像变换异常消失后仍在用“一条整表样本”训练。
参考:原始求助帖;技术依据:PyTorch 数据加载(2.5)、torch.from_numpy(2.5)、torchvision ToTensor(0.20)、torchvision 0.2.2 变换源码、pandas 2.2 to_numpy。