The size of tensor a (133) must match tensor b (10):分类任务换 MSELoss 后先查标签含义

简介: 该文详解PyTorch中133分类任务使用CrossEntropyLoss的正确接口:logits需为`[N,133]`,标签为`[N]`整数索引(0–132);误用MSELoss会导致广播维度冲突(如133 vs 10)。配套工具`j050608_class_loss_contract`提供可验证的最小训练步示例,助快速定位与修复损失层对接错误。(239字)

133类logits与类别编号应按分类损失的接口连接,不能因MSE广播冲突把类别数改成batch大小。

对应这条排查路径的配套代码

运行配套示例 python -m j050608_class_loss_contract:用133类输出、整数类别标签和CrossEntropyLoss演示一个完整训练step。

j050608_class_loss_contract 对应本文这一个问题的演示或检查步骤,具体行为是:用133类输出、整数类别标签和CrossEntropyLoss演示一个完整训练step。下文仍保留检查依据和示例代码,可直接在自己的脚本中使用;也可以通过仓库取得同一份配套实现。

配套组件 j050608-class-loss-contract 的源码与说明、wheel 下载在作者仓库中公开提供。它不是 PyTorch 官方依赖,也没有注册同名 PyPI 包。已有所需依赖的项目可在下载文件后安装:

python -m pip install --no-deps ./j050608_class_loss_contract-0.1.0-py3-none-any.whl

--no-deps 保留项目原有依赖,不自动更换 torch、CUDA 或其他库。环境缺包时仍要按文章适用版本配置,安装配套组件本身不会修复驱动或硬件。

python -m j050608_class_loss_contract

对照 j050608_class_loss_contract 的输出验证:类别范围、样本数量、标量损失和梯度均通过;若采用MSE,必须另行明确目标的数值表示。 不把合成输入演示通过等同于原项目故障已修复。

原帖网络输出 133 个类别分数,CrossEntropyLoss 可以训练,换成 MSELoss 后在计算 loss 时失败:

RuntimeError: The size of tensor a (133) must match the size of tensor b (10) at non-singleton dimension 1.

这次错误出现在损失计算,和优化器选择分开看

网络最后一层为 Linear(1024,133),失败行是 criterion(outputs,target)。原题同时换了损失和优化器,但 Adam 还没有执行 step,因此应先检查损失的输入约定。数字 10 可能来自当前批次大小,需要实际打印确认,不能据此把 133 类输出层改成 10 类。

这次区别来自损失函数对目标的要求。若 outputs 是 [10,133],target 是 [10] 类别编号,MSE 的逐元素比较不能把编号自动理解为 133 类标签;133 与 10 会在广播时冲突。先在 criterion(outputs, target) 前检查:

print("outputs:", outputs.shape, outputs.dtype)
print("target:", target.shape, target.dtype)
print("target sample:", target[:5])

如果这是每张图片只有一个类别的任务,保留最后的 133 个原始 logits,并改回交叉熵。下面 target 必须是已经确认过含义的类别索引:

import torch
criterion = torch.nn.CrossEntropyLoss()
loss = criterion(outputs, target.long())

标签应为 [N] 且范围为 0 到 132,模型末尾不要再加 softmax。Adam 或 SGD 不会改变这种输入约定,可以独立选择。

如果研究设计明确要求对类别概率做均方误差,需显式构造同形状目标,而非随意 reshape:

import torch.nn.functional as F
one_hot = F.one_hot(target.long(), num_classes=outputs.shape[1]).to(outputs)
loss = F.mse_loss(outputs.softmax(dim=1), one_hot)

这改变了训练目标,不能当作与交叉熵等价的修复。先确认实际形状,再选择任务对应的方案。最后用一个批次检查 loss 为有限标量、能反向传播,预测仍通过类别轴 outputs.argmax(dim=1) 获得。

133 类、10 个样本:完整走通一个训练 step

下面的合成数据保留 [10,133] 输出与 [10] 类别标签的关系,用一个小 Linear 代替原题 CNN。可在 CPU 直接运行;它验证的是损失接口与更新流程:

import torch
from torch import nn
torch.manual_seed(8)
model = nn.Linear(6, 133)
features = torch.randn(10, 6)
labels = torch.arange(10, dtype=torch.long)
optimizer = torch.optim.Adam(model.parameters(), lr=1e-3)
optimizer.zero_grad()
logits = model(features)
assert logits.shape == (len(labels), 133)
assert 0 <= labels.min() and labels.max() < logits.shape[1]
loss = nn.CrossEntropyLoss()(logits, labels)
assert torch.isfinite(loss)
loss.backward()
assert model.weight.grad is not None
optimizer.step()
print("classification loss:", float(loss.detach()))

原题数据若是多标签、每张图可同时属于多类,就不能照用每样本一个编号的方案,需要重新确认目标矩阵和损失定义。若明确研究概率的 MSE,则对 logits 做 softmax 并配同形 one-hot 目标,是另一个有明确含义的目标,而不是把 [10] 广播成 [10,133]。

为什么错误会提到维度 1?广播从末尾对齐,[10] 的那一维要和 [10,133] 的末维 133 对齐,10 与 133 都不是 1,因此无法逐元素比较。即使碰巧 batch_size=133 让广播不再报错,样本标签仍没有变成正确的类别概率矩阵。

回到完整 CNN,先只取一个 batch,确认标签含义、范围、输出形状,再走通 backward 和 step;最后恢复整轮训练。这样可以分别判断损失接口、数据批次和优化器是否正常,避免同时改多处后无法解释是哪一处奏效。

使用 class_loss_contract.py 时,把示例范围与真实故障验证分开:类别范围、样本数量、标量损失和梯度均通过;若采用MSE,必须另行明确目标的数值表示。

参考:原始求助帖;技术依据:MSELoss(2.5)、CrossEntropyLoss(2.5)。

相关文章
|
8天前
|
Linux Go 开发工具
手机上跑 DeepSeek 智能体:开源安卓客户端 DSH Go 安装与使用指南
DSH Go 是一款开源安卓客户端,将 DeepSeek Harness 智能体引擎装进手机:免 Root、免 Termux,一键安装即用;支持本机运行(内置 Ubuntu+Node.js)或远程接管电脑会话;具备插话打断、过程折叠、屏幕操控、端到端加密分享等特色功能,真正实现智能体“口袋化”。
9174 24
|
8天前
|
弹性计算 人工智能 API
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
建议收藏本教程,2026 全年各版本更新随时回来查阅。如果你在搭建过程中遇到任何问题,欢迎结合 阿里云工单系统 提交技术支持请求,或在 阿里云开发者社区 搜索 Codex 相关话题交流。 祝你编码愉快,效率翻倍!
2707 14
|
3天前
|
人工智能 安全 应用服务中间件
NGINX 爆出两处高危漏洞 可导致未经身份验证的远程代码执行
NGINX曝出两个高危漏洞(CVE-2026-123633和CVE-2026-123007),CVSS 9.2分,均属HTTP/2内存安全缺陷,无需认证即可远程执行代码。影响自2015年起的多个版本,静态站点亦受威胁。修复版本为开源版1.30.7/1.31.9。(239字)
1298 0
NGINX 爆出两处高危漏洞 可导致未经身份验证的远程代码执行
|
6天前
|
传感器 安全 区块链
Windows 电脑运行安卓应用教程:开源工具 ApkStart 双击 APK 即装、独立窗口运行
ApkStart 是一款开源Windows工具,让安卓APP像原生软件一样运行:双击APK即安装、生成真实图标、独立窗口启动、开始菜单可搜索。无需传统模拟器,内置QEMU运行时,支持数据互通、ARM兼容与命令行操作。(239字)
|
10天前
|
人工智能 前端开发 API
阿里云Qwen4-Max 大模型详解:定位、特征、能力、适用场景与相对Qwen3-Max差异解析
2026年11月11日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问AI平台Token Plan并接入千问办公、Qoder等入口。该版本聚焦知识理解、世界感知、编程与Agentic四项升级,主打复杂编程、专业办公、前端设计与专业软件操作等真实任务。预览期为11月11日10:00至11月25日24:00,仅支持Token Plan调用,到期后模型标识下线;限时2折、新用户再享5折,最低1折可体验。
|
10天前
|
JSON 前端开发 API
阿里云最新Qwen4-Max大模型介绍:模型定位、特征、能力、适用场景解析
2026 年 11 月 11 日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问 AI 平台 Token Plan,并同步接入千问办公、Qoder 等入口。该版本聚焦知识理解、世界感知、编程与 Agentic 四项升级,主打复杂编程、专业办公、前端设计与专业软件操作。预览期至 11 月 25 日 24:00,到期后模型标识下线;限时 2 折、新用户再享 5 折,最低 1 折可体验。
|
23天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
11184 59
|
6天前
|
人工智能 弹性计算 开发工具
零成本玩各大模型!DeepSeek Harness dsh-our-free-model 插件,13 个厂商模型直接用
总结一下:装这个插件,你不用注册、不用绑卡、不用填一个 Key,就能在 DeepSeek Harness 里用上 DeepSeek V4.1 Flash、Kimi K3 这一批前沿模型,而且是白嫖的、还不限量。三步搞定:下载插件,复制包含 `package.json` 的插件目录路径,在「添加插件」里粘贴路径安装并重启。无论是在阿里云 ECS 上通过命令行部署的 Web 版,还是本地的 Electron 桌面端,都能顺利跑通,快速搭建一套零成本的免费模型使用环境。
1334 1
|
4天前
|
人工智能 弹性计算 IDE
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
适合团队落地代码规范,每次提交自动生成评审报告,降低人工CR工作量。同时支持自定义技能脚本,接入团队内部SDK说明文档,让Codex生成符合团队编码规范的代码。Codex三大客户端覆盖本地开发、服务器远程编码、自动化流水线场景,搭配阿里云百炼的Token Plan、Coding Plan,能够低成本搭建稳定可控的AI编码助手。新手建议先从IDE插件入手,熟悉交互逻辑,再尝试CLI版本部署在阿里云ECS,实现云上项目远程编码、批量脚本处理。只要按照步骤完成环境准备、版本选型、密钥对接、项目初始化,就可以把Codex融入日常开发流程,大幅提升代码编写、问题排查、项目重构的效率。
951 0
|
9天前
|
Linux API iOS开发
【DSH】DeepSeek Harness新手保姆教程(下载+安装+配置+使用,2026最新实测)
DeepSeek Harness(dsh)是DeepSeek AI开源的智能体框架,秉持“一切皆插件”理念,支持读文件、改代码、跑命令、处理表格、联网搜索等操作。免费开源,兼容Windows/macOS/Linux,提供桌面端与网页端,可灵活安装插件扩展能力。