模型预测 21 分钟,实际 25 分钟:一本“错题本“,讲透 AI 是怎么学会的、又是怎么学废的

简介: 本文用外卖配送预测为例,通俗解析AI训练本质:不是“猜对”,而是“知错能改”的五步闭环(前向传播→算损失→反向归因→参数更新→重复)。重点警示:训练loss持续下降≠学得好,验证loss回升即过拟合!强调数据分三份、早停是“免费午餐”、大模型与微调策略迥异。技术讲透,管理亦受用。(239字)

摘要:模型一开始是一堆随机数,预测全靠猜。它凭什么越猜越准?答案是一个五步闭环:猜 → 打分 → 归因 → 改 → 再来。但真正值得警惕的是最后一环:训练分数一路下降,模型可能已经学废了。这篇文章把"学习"这件事,从技术讲到管理。


一、"知道自己错了",其实一点用都没有

先讲个场景。

模型预测一份外卖要 21 分钟,实际送了 25 分钟。

错了。然后呢?

一个正在学 AI 的人在这里卡住了,他问的问题特别好:模型怎么知道错在哪儿?更重要的是,它怎么知道该改什么?

"知道自己错了"这件事,本身毫无价值。

你考试得了 60 分,知道自己考砸了——然后呢?如果不分析是哪类题错了、错在哪个步骤、下次该往哪个方向调整,那"知道自己错了"就只是一句情绪。

模型也一样。它需要的不是"错了"这个判断,而是一个数学上可执行的改进方案。

这就是"训练"要解决的问题。而解决它的办法,是一套朴素到令人意外的闭环。


二、开工前先分卷子:练习题、模拟考、期末考

在讲训练之前,得先说一件最容易被忽略、也最容易被做错的事:数据要分成三份。

|
数据集
|
干什么用
|
类比

|
| --- | --- | --- |
|
训练集
|
学参数
|
平时的练习册
|
|
验证集
|
调参数、看进度
|
模拟考
|
|
测试集
|
最终评估
|
期末考
|

这三者必须严格分开。尤其是期末考那份卷子,平时一次都不能看。

为什么?因为如果你用期末考的题当练习题,考出来的高分毫无意义——你只是把答案背下来了。

这个道理特别朴素,但现实中踩坑的极多:拿同一批数据既调参又验收,最后报告一个漂亮的数字,上线就翻车。

数据准备还有几步:清洗(去掉错误数据)、转成数字、必要时归一化(把不同量纲拉到可比范围)。我们前面讲过"5 公里 × 2 = 5000 米 × 0.002",归一化就是为了避免这类量纲陷阱。


三、起点:一堆随机数

训练开始前,模型所有的权重和偏置,都是小的随机数。

这时候它做的预测,基本等于瞎猜。图里那个小机器人说得挺可爱:"我还不知道……但我会从数据里学!"

所以一个重要的认知是:架构本身不携带任何知识。 同样的架构,装上随机数,预测出来的配送时间可能是 −13 分钟(负数,荒谬);装上训练好的参数,才能给出 23 分钟这种有用的答案。

我们在上一篇讲过这句话——架构是容器,权重是内容。训练,就是往容器里装内容的过程。


四、五步闭环:AI 的"错题本"

训练的核心,是一个不断重复的五步循环。

第一步:前向传播(先猜一个) 用当前的权重和偏置,把输入算一遍,得到一个预测。

距离 5 公里、拥堵 1、快速通道 1 → 预测 21 分钟

第二步:算损失(打分) 把预测和真实答案比一比,用一个函数算出"错了多少"。

图里用的是均方误差(MSE):

Loss = (21 − 25)² = 16

为什么非要算这个数?因为它把"错了"这个模糊的感觉,变成了一个可以最小化的单一数字。有了这个数字,学习才有了明确的目标:想办法把它降下去。

这一步看着简单,其实是整个 AI 的枢纽。没有损失函数,"学习"就无从谈起——你不能优化一个你无法度量的东西。

第三步:反向传播(归因) 算出每个参数对这次错误的"贡献":∂Loss/∂w、∂Loss/∂b。

这一步回答的是:谁该背锅?背多少?往哪个方向改能减轻?

从损失出发,一层层往回倒推,用微积分的链式法则,把责任分配到每一个参数头上。这就是反向传播。

第四步:更新参数(改) 优化器拿着梯度,按学习率调整参数:

w = w − α × 梯度

减号很关键:梯度指向"损失上升最快"的方向,我们要往反方向走。

那个 α 就是学习率,相当于油门:

  • 太小 → 挪得极慢,可能几百年也到不了,还可能卡在半路的小坑里

  • 太大 → 一步跨过头,来回震荡,极端情况直接发散(损失变成 NaN,训练崩了)

参考量级:用 Adam 类优化器做 NLP 任务,常见在 1e-4 到 1e-3;SGD 做视觉任务常在 1e-2 到 1e-1。具体取决于模型、数据和优化器,没有万能值。

第五步:重复 对一批又一批数据、一遍又一遍地重复上面四步,直到模型在验证集上的表现不再变好。

就这样。整个"学习",就是这五步跑几百万次。

(至于优化器具体怎么选——SGD、Momentum、Adam、AdamW 各自的脾气和适用场景,我们前面专门写过一篇"下山策略",这里不重复。)


五、三个必须搞懂的词:batch、epoch、learning rate

Batch(批):一次拿多少道题,改一次参数。

不看完全部数据再改(太慢),也不看一道就改(太抖),而是取一小批——常见的 16、32、64、128、256。批越大,梯度估计越稳、GPU 利用率越高,但显存吃得多,而且有研究认为过大反而可能损害泛化。工程上还有条经验:批大小放大 k 倍,学习率通常也要相应放大。

Epoch(轮):把整个训练集完整过一遍,叫一个 epoch。

一般任务要跑十几到上百个 epoch;而微调大模型,往往只有 1 到 3 轮。

顺带一个细节:每个 epoch 开始前,数据要重新打乱。否则如果数据是按类别排好序的(先全是 A 类,再全是 B 类),模型会学到"顺序"这种伪规律,而不是真正的规律。

学习率(α):每次参数改多少,就是那个油门。

而且现代训练几乎不会让它从头到尾固定不变,而是用调度策略:

  • Warmup(预热):开头几百到上万步,从接近 0 慢慢升到目标值。这对 Transformer 尤其关键——起步时梯度统计不可靠,一上来就猛踩容易出事。

  • Cosine 衰减:预热之后,按余弦曲线平滑降到很小的值。前期大步快跑,后期小步精修。

这套"先慢、再快、最后慢"的节奏,本质是对"不确定性"的管理:刚开始你不了解地形,别猛冲;快到终点了,别再大步跨。


六、最关键的一节:loss 一路下降,模型可能已经学废了

终于到本篇最想讲的地方。

图里画了三条曲线,标出了三种状态:

|
状态
|
训练损失
|
验证损失
|
含义

|
| --- | --- | --- | --- |
|
欠拟合
|
高
|
高
|
根本没学会,容量不够或练得不够
|
|
良好拟合
|
低
|
低
|
学到了可泛化的规律
|
|
过拟合
|
低
|
高
|
死记硬背,换个新题就不会
|

看第三行:训练损失很低,验证损失很高。

这就是最危险的情形——你在练习册上拿了满分,一上考场就废。

典型的过程是这样的:训练损失一路下降,验证损失也跟着降,降到某个最低点之后,开始掉头向上,而训练损失还在继续降。

这条验证损失的曲线,形状像一个 U。

U 的底部,就是泛化最好的那个点。 底部右边的所有训练,都是在让模型变得更擅长"做旧题"、更不擅长"做新题"。

两条曲线之间的差距,叫泛化差距(generalization gap)。差距越大、越还在扩大,就说明模型越在拟合训练集特有的噪音,而不是普遍规律。

一个让人后背发凉的实验

关于"训练 loss 低到底说明什么",有个实验值得所有人知道。

Zhang 等人在 2017 年(这篇拿了 ICLR 最佳论文)做了一件事:把图像数据集的标签全部换成随机乱码,然后拿标准深度网络去训练。

结果:网络依然能把训练误差降到 0。也就是说,它能把一堆毫无意义的随机标签,完美地"背"下来。

这个实验的含义极其尖锐:

"训练损失降到零"这件事,完全可以是"死记硬背"的证据,而不是"学会了"的证据。

研究者还发现,把正则化(dropout、权重衰减、数据增强)全部去掉,模型在真实数据上的测试表现也没怎么变差——也就是说,显式正则化既不是网络能泛化的必要条件,也不是充分条件。

所以:只要没有一份模型从没见过的数据在旁边盯着,你根本无法区分"学会了"和"背下来了"。

这大概是对"分数高=学得好"这个直觉,最彻底的一次打脸。


七、知道什么时候停:最便宜的一顿免费午餐

既然 U 型底部才是最好的,那答案就很简单:在底部停下来。

这就是早停(early stopping):盯着验证集表现,一旦不再变好就停,哪怕训练损失还在降。

工程上有两个小设计:

  • 耐心值(patience):连续多少轮没有改善才算真的停(常见 3–10 轮,中小模型 3–6 居多)。因为验证曲线本身会抖动,不能一看到反弹就慌。

  • 保存最佳 checkpoint:你最终部署的,是验证表现最好的那一次,不是最后那一次。 这一点很多人搞错。

Hinton 有句被广泛引用的评价,早停是一顿"美丽的免费午餐"——几乎不花成本,效果却常常抵得上显式的正则化惩罚。数学上,在线性模型里,早停等价于一种 L2 正则化;直观理解是:少走几步,参数就离初始值更近,也就更"简单"。

一个反直觉的补充

但有个重要例外,值得单独说:

大模型的预训练,通常不做早停。

因为预训练是在一个事先定好的 token 预算上跑的,海量数据,模型基本每个 token 只看一遍。既然没"重复刷题",那条 U 型曲线就不会出现——训练损失和验证损失一起单调下降,直到算力用尽。

在这种情形下,最好的 checkpoint,往往就是最后一个。

而微调恰恰相反:数据量小、Epoch 少、极易过拟合,早停在这里最能发挥作用(常见 1–3 轮,每几百步评估一次,保存最佳)。

同一个技术,在两种场景下的结论完全相反。这说明了一件事:任何方法论都有它的适用边界,脱离场景谈"最佳实践",都是耍流氓。


八、放到大模型上:这五步闭环变成了什么?

图里最后给了个衔接。大模型的训练,本质上还是那个五步闭环,只是"答案"不需要人给:

  • 预训练:用海量文本做"预测下一个 token"。标签就是文本本身,不需要人工标注——这是一切规模化的前提。

  • 微调(Fine-tuning):用标注样本或指令数据,让模型专精某个任务。

  • 指令微调 / RLHF:用人类反馈对齐偏好,让模型不仅"会答",还"答得像人想要的"。

训练结束后,学到的参数被存成 checkpoint(比如 safetensors 格式),推理时再加载进 GPU 显存。

所以你每一次和 AI 对话,背后都是这一整套流程的最终产物——一堆被反复打磨过的数字,躺在显卡里,等着被乘一遍。


九、讲给不做算法的人:四条可以立刻用上的

第一,"知道错了"没有价值,"知道怎么改"才有。

损失函数干的事,是把"这次不太好"这种模糊感受,变成一个可以度量、可以归因、可以最小化的数字。很多团队的复盘之所以无效,就是因为停在了"这次做砸了",而没人能回答:砸在哪个环节、该往哪个方向调、调多少。

先定义清楚你的"损失",再谈改进。 一个不可度量的目标,是不可优化的。

第二,练习题、模拟考、期末考,必须分开。

用期末考的卷子当练习题,考出满分也说明不了任何问题。企业里最常见的自欺,就是拿同一批数据既调参又验收,然后对外报告一个漂亮数字。

一定要留一份从没参与过任何决策的数据,在最后做一次真正的验收。

第三,指标一路向好,可能只是在拟合噪音。

Zhang 2017 那个实验值得每个看报表的人记住:一个足够复杂的系统,可以把完全随机的东西也"背"到满分。

所以当你看到某个指标持续改善时,多问一句:这是在新数据上改善,还是在同一批数据上精修? 前者叫学习,后者叫背答案。

第四,知道什么时候停,是一种稀缺能力。

早停被称作"免费的午餐",因为它几乎不花额外成本,却能避免最典型的浪费——在噪音上继续精修。

很多项目不是做得不够,是做得太久。当验证信号已经不再改善,继续投入的每一分资源,都在让系统更适应过去,而不是更能应对未来。


十、结语

回到开头那个场景:模型预测 21 分钟,实际 25 分钟。

现在你知道接下来会发生什么了——

它会把"错了 4 分钟"变成一个数字(16),把责任分配到每一个参数头上,然后按学习率往反方向挪一小步。这个过程重复几百万次,它就学会了。

但真正值得记住的,是这个闭环之外的那句话:

训练损失下降,不等于学得好。只有在新题上依然有效,才叫学到了。

这话放在技术里成立,放在人身上,也一样成立。

一个人是不是真的掌握了什么,不看他把旧题做得多熟,看他遇到没见过的问题时,还能不能用得上。

"学习"这件事的终点,从来不是把已知的东西重复到满分,而是——对未知依然有效。


互动话题:你有没有过这种经历——反复练习某套题、某份材料,分数越来越高,但真到实战时却发现用不上?后来你是怎么意识到"我其实只是在背"的?欢迎评论区聊聊。


免责说明:本文核心框架整理自社交平台「100 Days of AI Inference」系列 Day 6/100 公开信息图《Training in Plain English》(图内仅标注系列名,未署个人作者,故不臆造出处)。图中示例与流程(配送预测 21 分钟 vs 目标 25 分钟、Loss = (21−25)² = 16、梯度 ∂Loss/∂w 与 ∂Loss/∂b、更新式 w = w − α×梯度、早停标记、欠拟合/良好拟合/过拟合三态、预训练→微调→指令微调/RLHF、checkpoint 加载进 GPU)均以原图为准。补充的工程细节与学术结论经多源交叉核实:batch 常见取值 16–256 及与学习率的缩放经验;epoch 为完整遍历训练集,一般任务十余至上百轮、大模型微调常 1–3 轮,且每轮需打乱数据;学习率典型量级(Adam 类做 NLP 常见 1e-4–1e-3,SGD 做视觉常见 1e-2–1e-1,视模型而定)与 warmup + cosine 衰减调度;过拟合的 U 型验证曲线与泛化差距、早停的 patience 常见 3–10 轮及"部署最佳 checkpoint 而非最后一个";早停被学界广泛引述为"免费的午餐"(Hinton);Zhang et al. (2017, ICLR 最佳论文) 证明深度网络可将随机标签拟合至零训练误差,且显式正则化对解释泛化既非必要也非充分;LLM 预训练因单 epoch 固定 token 预算通常不做早停,而微调场景早停价值最大——此二者的分野已在文中明确标注适用边界。本文与本项目第 31 篇(优化器选型)、第 34 篇(模型与参数)、第 37 篇(权重与偏置、知识分布式存储)相互呼应。本文为技术科普与思维类比,不构成训练配置或投资决策建议。

相关文章
|
11天前
|
人工智能 并行计算 API
秋叶 ComfyUI‑v9.5 整合包本地部署|8G 显存 AI 漫剧绘图与图生图批量渲染实操
本文详解秋叶ComfyUI-v9.5整合包在AI漫剧生产中的实战应用:解决Windows环境配置繁琐、节点安装困难、8G显存OOM及批量API调用等痛点;提供启动参数优化、中文界面支持、IP-Adapter角色锁定与FFmpeg成片合成全流程方案,兼顾易用性与专业性。(239字)
296 1
|
1月前
|
弹性计算 人工智能 数据库
阿里云优惠活动大全:阿里云活动怎么参与?新客户云产品特惠推荐
初次接触上云的个人开发者、初创团队,最关心的就是如何用更低成本获取云资源。阿里云优惠活动包含新客户首购特价、免费试用资源、代金券、算力补贴等多种福利,覆盖 阿里云轻量应用服务器、阿里云ECS云服务器、阿里云GPU云服务器、阿里云大模型服务平台 、数据库、对象存储、AI大模型服务等产品,大幅降低新手入门门槛。本文完整梳理活动参与方法、新客户特惠产品清单,搭配命令行实操示例,同时整理选购避坑要点,帮助大家顺利领取优惠,挑选匹配自身业务的云产品。
222 3
|
1月前
|
人工智能 安全 机器人
Agent到底该怎么测?这4个评测方法可以直接用
本文详解Agent评测四大核心维度:回答质量、工具调用准确性、执行轨迹合规性、环境状态真实性。突破传统LLM“说对不对”的局限,转向验证“做没做对”,为测试工程师提供可落地的四层评测体系与工程化实践路径。
Agent到底该怎么测?这4个评测方法可以直接用
|
1月前
|
存储 弹性计算 缓存
在阿里云 ECS 部署 dsh-knowledge 的版本、许可与磁盘准备
本文详解在阿里云ECS上部署DeepSeek Harness知识库插件(dsh-knowledge v0.4.1)的实战要点,聚焦四大关键坑:Node.js版本门槛(≥22.19)、pnpm构建许可配置、模型磁盘落点规划、批量导入上限(20文件/22MB),附安全组收紧与真实安装验证。
294 1
|
2月前
|
弹性计算 缓存 运维
阿里云上跑 dsh-free-search 的四条收敛实践
dsh-free-search 是阿里云ECS上轻量部署的多引擎搜索插件,支持Bing等免费引擎及百度、豆包等额度型引擎,通过引擎分层、出网收敛、凭据集中与数据边界管控,实现低成本、高可控的长期稳定运行。(239字)
366 2
|
2月前
|
人工智能 自然语言处理 小程序
阿里云万小智3.0版本AI建站产品详细介绍:产品能力提升、适用场景、价格与最新活动参考
万小智3.0是阿里云推出的AI建站升级产品,支持通过自然语言生成包含前端、后端、数据库的完整网站与微信小程序,提供一键部署能力,覆盖企业官网、内容站点、轻量业务应用等场景。产品按体验版、轻量版、标准版、高级版分档订阅,以灵感值计量AI功能调用,新用户可享限时赠2000灵感值、组合套餐低至15元/月等优惠。
|
2月前
|
弹性计算 人工智能 编解码
阿里云服务器多少钱一年?2026年9月20日最新优惠服务器配置排行榜,共10台!
2026年9月阿里云服务器优惠来袭!轻量应用服务器低至¥38/年,ECS多款高性价比配置上榜。涵盖入门博客、企业官网、AI推理、GPU渲染等全场景,新老用户同价,支持三年付与地域折扣,助您省钱上云。(239字)
349 1
|
1月前
|
缓存 安全 测试技术
阿里云轻量应用服务器优惠活动价格及测评:2核2G、2核4G、4核8G、4核16G全配置清单
在选购 阿里云轻量应用服务器 时,优先按照业务内存需求选择机型,而不是单纯看CPU核心数量。业务以数据库、缓存、模型推理为主,优先选择大内存机型;简单静态网站,2核2G足够使用。下单前确认账号是否为新用户,确认目标地域库存,充分理解带宽峰值、续费价格、实例IP回收等限制。购买完成后,通过bench脚本、top、dd等命令完成性能自测,做好服务器安全防护,合理规划业务部署,避免资源不足或者配置过剩造成成本浪费。轻量应用服务器简化运维门槛,只要合理匹配配置,就能低成本搭建各类Web应用、开发环境,满足个人开发者和小微企业的上云需求。
401 0
|
2月前
|
存储 人工智能 自然语言处理
阿里云千问办公QwenWork产品解析:六大核心能力、典型适用场景、适配端口与最新活动介绍
本文主要介绍阿里云千问办公QwenWork这款AI Agent智能办公产品,解析其区别于传统单点AI工具的核心特征:依托通义千问大模型,实现多步任务自动拆解与闭环执行,覆盖文档创作、表格分析、PPT生成、企业知识库问答、多模态解析等全场景办公能力。同时详解其多端使用形态与新用户注册赠积分、企业版限时加赠等专属权益,展现AI办公从被动响应指令向主动执行工作流的行业演进趋势。
|
3月前
|
人工智能 安全 调度
DeepSeek Harness,为什么国内海外的评价两极分化?
老金来给你讲讲DeepSeek Harness到底是什么,应该怎么看带他。

热门文章

最新文章