大模型入门(三):SFT、LoRA、RAG、MoE、Agent 这些缩写在解决什么

简介: 本期详解AI领域高频缩写,按用途分为四组:训练侧(SFT/RLHF/DPO/LoRA)、使用侧(RAG/Function Calling/Agent/MCP)、结构与成本(MoE/量化/KV cache)、评测指标(MMLU/GSM8K/HumanEval),并给出实用选型原则——先厘清需求本质(知识/形式/能力),再匹配工具。

前两期讲清了名字和原理,这一期讲缩写。

缩写本身不难记,难的是知道自己该用哪个。见过太多团队,一个检索能解决的问题,非要去微调,调完发现知识还是旧的;也有反过来,把该微调的东西硬塞进提示词,提示词越堆越长,效果越来越差。

下面按用途分四组,每组说清楚它解决什么问题、什么场景该用、什么场景别用。

第一组:训练侧的四个缩写

SFT 指监督微调。拿成对的"输入加期望输出"继续训练,让模型学会特定任务的形式和口径。适合任务边界清晰、有稳定标注来源的场景,比如固定格式的工单分类、固定的报告结构。代价是需要几百到几千条高质量样本,脏样本比没样本更糟。

RLHF 指基于人类反馈的强化学习。先让人给多个回答排序,再训练一个奖励模型,用它来给模型打分并优化。适合"好不好很难写成规则"的场景,比如对话的自然度。代价是流程重、周期长。

DPO 指直接偏好优化。它绕开了奖励模型这一步,直接用偏好数据优化。这几年在中型团队里用得更多,因为它把成本压到了能接受的范围。

LoRA 指低秩适配。它不改原来的权重,只在旁边挂两个小矩阵,训练量能降到原来的百分之几。要换任务就把这层拔掉换一个,底座共用。QLoRA 是把量化和 LoRA 叠起来,让单张消费级显卡也能微调。这套东西的意义是,微调从"必须有钱有卡"变成了"一个工程师周末能试"。

第二组:使用侧的三个缩写

RAG 指检索增强生成。做法是把资料切块、转成向量存起来,提问时先检索最相关的几块,连同问题一起交给模型。它解决的是知识时效和私域知识问题,也顺手解决了"引用可追溯"。

什么时候该上 RAG:资料会变、需要出处、量很大但结构不规整。什么时候别上:任务本身就是模型能力问题,比如让它学会一种写作风格,检索再多也没用。

Function calling 指函数调用,也有人叫工具调用。模型不直接执行,而是输出一个结构化请求,由外部代码去执行,再把结果交回模型。这是把模型从"聊天"变成"能干活"的关键一步。

Agent 指智能体。本质是把上面的循环包起来,让它自己决定下一步做什么:先调工具,看结果,再调下一个,直到任务完成。工程上真正难的从来不是模型多聪明,而是权限、错误处理和死循环。

MCP 指模型上下文协议,作用是统一"模型调工具"的接口格式。以前每接一个系统就写一套胶水,现在按协议写一次,多个客户端都能用。对做设备侧的人来说这个概念值得关注,它迟早会出现在本地助手与工控设备的对接上。

第三组:结构与成本

MoE 指混合专家。模型里有很多专家子网络,每次只激活其中一小部分。好处是同等算力下能堆更大的参数量,坏处是对显存和调度更挑。

量化是把权重从高精度压到低精度,常见的是 FP16 到 INT8 再到 INT4。精度越低模型越小、跑得越快,但能力会掉。真要上端侧,量化几乎是绕不开的一步,关键是要在自己的任务上实测掉多少,而不是看论文里的平均分。

KV cache 是推理时缓存注意力中间结果的技术。不做缓存的话每生成一个词都要重算前面全部内容,慢到不可用。它占的显存不小,长对话显存暴涨多半是它。

上下文窗口前面说过,这里只补一句:窗口大不等于用得好,长上下文里模型对中段信息的注意力会下降,重要内容放开头和结尾更稳。

第四组:评测里的几个名字

MMLU 是学科知识题集合,偏通识。GSM8K 是小学数学应用题,专门检验推理步骤。HumanEval 是代码补全任务。这三个名字经常出现在模型发布页上,看的时候要明白,它们测的是能力倾向,不是你的场景。

真实选型别只看榜单。做法是拿自己的一百条真实任务做成小测集,跑一遍看通过率,这个数字比任何榜单都对你有意义。

一张选型表,收个尾

想让它改说话方式、调格式,先写提示词,成本最低。想让它知道你的资料,用 RAG,别微调。想让它稳定执行一类任务,样本够就上 SFT 或 LoRA。想让它自动跑流程,用 function calling 加 agent,但先把权限和超时卡死。

最后一句提醒。这套东西更新很快,缩写会变,思路不太会变:先问清楚自己缺的是知识、是形式、还是能力,再决定用哪个工具。顺序反了,花多少钱都白花。

相关文章
|
7天前
|
JavaScript API iOS开发
DeepSeek Harness下载、安装、配置一篇搞定(2026整理,送常用插件)
DeepSeek Harness(DSH)是DeepSeek于2026年开源的MIT协议AI Agent框架,支持插件化组装模型、工具、沙箱与UI,兼容主流大模型。本文提供免Node.js的桌面端安装包(Win/macOS),含详细图文教程及热门插件推荐。
3141 28
|
6天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
|
2天前
|
云安全 人工智能 安全
|
7天前
|
iOS开发 Docker MacOS
【2026实测】Docker Desktop下载、安装、汉化、配置教程(附官网安装包)
Docker Desktop 是 Docker 官方推出的桌面容器管理工具,集成引擎、CLI、图形界面与 Kubernetes,支持 Win/macOS/Linux。2026 最新版 4.88.1 强化 ARM 原生运行、镜像加速及资源可视化,附中文汉化与国内镜像配置指南。
1390 5
|
云安全 安全 网络安全
|
7天前
|
安全 算法 定位技术
《高性价比人生指南》完整原版:普通人用最少的资源,过好这一生的底层逻辑~How To Live Better
📖《高性价比人生指南》是一份基于实证、拒绝焦虑的生存手册,倡导以“人生时薪”为视角,重新计算时间、金钱与精力的成本与收益。它不承诺逆袭,只教人算清账:省下的钱若耗掉时间便亏;买体验比买物品更值;睡眠是最高杠杆的健康投资;关系贵在情绪价值而非表面热络;学习重在改变行为而非自我安慰。核心理念:用低成本、高回报的微小行动,换取长期的选择权——不是成为谁,而是掌控自己人生的主动权。
|
20天前
|
人工智能 API 开发工具
DeepSeek Harness 神插件:白嫖 13 家大厂模型
`dsh-our-free-model` 是 DeepSeek Harness 神级插件:零配置、零API Key、零账号,聚合13家大厂免费模型(含DeepSeek V4.1 Flash、Kimi K3等),支持本地网关、用量看板与自动降级,真正实现“白嫖即用”。
3512 53
|
12天前
|
人工智能 JSON Linux
【保姆级】ComfyUI部署教程(下载+安装+配置+工作流,2026最新)
ComfyUI 是一款开源节点式AI生成工具,支持图像、视频、音频及3D内容创作。通过拖拽连线组合模型加载、提示词、采样等节点,构建可复用、易修改的工作流,兼容SD1.5、SDXL、Flux、Qwen Image等主流模型。