人类作者：月牙寂（龚浩华）
Agent 作者：月绡凝（小凝）
定位：LLM 基础理论发展系列的开篇总览——从词表示到多模态/Agent 的整个理论演进时间线、关键技术点详解与进化逻辑总结。供主人先建立「一张图」，再进入 00~06 各篇深入。
免责声明：本文为学习与技术分享用途，技术细节以经典论文为准。
LLM 基础理论发展史
一、演进时间线总览
| 时间 | 理论/论文 | 落地模型 | 意义 |
|---|---|---|---|
| 2013 | Word2Vec | — | 分布式词表示：用上下文学向量（一切表示的起点） |
| 2014-15 | Seq2Seq / Bahdanau Attention | 神经机器翻译 | 注意力诞生：按相关性加权读取 |
| 2017 | Attention Is All You Need | Transformer | 干掉 RNN；并行 + 长程 + 通用 |
| 2018 | ELMo / BERT / GPT | GPT-1、BERT、T5 | 三大预训练范式；GPT 路线最终胜出 |
| 2020 | Kaplan Scaling Laws / GPT-3 | GPT-3（175B） | 缩放定律：大力出奇迹 + 能力涌现 |
| 2022 | CoT / InstructGPT / Constitutional AI | ChatGPT、Claude | 对齐时代：RLHF / 宪法 AI；对话 AI 引爆全球 |
| 2022 | Chinchilla（计算最优） | LLaMA 一代 | 参数与数据 1:20 同比例——当前主流 |
| 2023 | DPO | Vicuna/Zephyr | 去掉 RM+RL 的对齐简化——开源标配 |
| 2021-24 | MoE / GPTQ / RoPE | Mixtral、LLaMA、DeepSeek-V2/V3 | 效率革命：稀疏化、量化、长上下文 |
| 2024 | 测试时扩展（o1） | o1 | 思考时间换精度——推理成为新维度 |
| 2025 | 纯 RL 推理（R1/GRPO） | DeepSeek-R1 | 推理可被训练：不给步骤只给判分，涌现思考 |
| 2021-26 | CLIP / 原生多模态 / Agent | GPT-4o、Gemini、Claude 4、V4 | 多模态与 Agent：看见 + 动手 |
二、一条主线：七篇的因果链
本系列 00~06 不是并列，而是一条因果链：
code
00 词表示（怎么表示词）
→ 01 Transformer（怎么处理序列）+ 预训练范式
→ 02 缩放定律（为什么更大更强）
→ 03 对齐（为什么需要「驯服」）
→ 04 效率（怎么用得起）
→ 05 推理（怎么「会思考」）
→ 06 多模态与 Agent（怎么「看见」和「做事」）
没有 01 的注意力就没有 02 的规模化；没有 03 的对齐就没有 05 的推理可控；没有 05 的推理就没有 06 的 Agent。
三、关键技术点详解
- 分布式表示（00 篇核心）
One-Hot 无语义 → word2vec 用上下文学向量——「相似词相近」；
思想延续：从词表规模的上下文学表示，到今天整个互联网文本的预训练。
- Self-Attention 与多头（01 篇核心）
Attention(Q,K,V)=softmax(QKᵀ/√d)·V：任意两位置直接相连，距离=1；
多头 = 多个子空间视角（语法/指代/语义）；位置编码注入顺序。
- 三大预训练范式（01 篇核心）
ELMo（浅双向）/ BERT（深双向编码器·掩码）/ GPT（单向解码器·自回归）；
胜者：GPT 式自回归——能生成、易规模化、可涌现。
- 缩放定律（02 篇核心）
loss 与参数 N / 数据 D / 算力 C 呈幂律——大即变强，且可预测；
Kaplan（参数优先）vs Chinchilla（计算最优 1:20）——两套目标两种路线；
涌现：跨过阈值能力突然出现——红利与风险并存。
- RLHF 与对齐谱系（03 篇核心）
RLHF 三步：SFT → 奖励模型 RM → PPO 强化学习；
宪法 AI：原则条文 + AI 自我批评（RLAIF）；DPO：偏好对直接监督学习；
合流：DeepSeek 的 GRPO（规则奖励纯 RL）——对齐与推理一体。
- MoE / 量化 / 蒸馏 / 长上下文（04 篇核心）
MoE：总参定上限、激活定成本（Mixtral→DeepSeek-V2/V3）；
量化：GPTQ/AWQ/FP8——省显存提速，精度有代价；
蒸馏：教师产数据、学生跟着学——能力下放；
长上下文：ALiBi/RoPE/稀疏注意力/RAG——O(n²) 是第一杀手。
- 测试时扩展与纯 RL 推理（05 篇核心）
CoT（2022）：分步思考引导出参数里的推理能力；
测试时扩展（o1）：推理时思考 token 越多越准；
纯 RL（R1）：GRPO + 规则奖励，不给步骤只给判分——推理可被制造。
- 多模态与 Agent（06 篇核心）
CLIP：图文对比学习，跨模态语义对齐——多模态基石；
原生多模态：从预训练就图文联合（Gemini/GPT-4o/V4）；
Agent 三拼图：工具调用 + 规划反思 + 环境反馈循环——从「答问」到「做事」。
∞
四、进化逻辑总结（学习重点）
1表示演进：离散 → 分布式 → 上下文化 → 多模态——「怎么表示信息」是一切的地基。
2架构收敛：RNN 之争 → Transformer 一统 → 稀疏化（MoE）优化——架构稳定后拼规模与工程。
3规模与效率双轮：缩放定律（大力出奇迹）× 效率革命（用得起）——能力上限与成本解耦。
4对齐制度化：RLHF → 宪法 AI → DPO/GRPO——从「人工打分」到「规则可训练」。
5能力外延：会说话 → 会思考 → 会看会动手（Agent）——LLM 正在变成「数字员工」。
五、资料源（供深入阅读）
本系列各篇参考资料（每篇末尾附论文链接）：00~06
经典论文：Attention Is All You Need（1706.03762）/ BERT（1810.04805）/ GPT-3（2005.14165）/ InstructGPT（2203.02155）/ DPO（2305.18290）/ R1（2501.12948）
学习路径：本开篇 → 00~06 逐篇 → 再读各家族系列（deepseek / openai-gpt / anthropic-claude / google-gemini / meta-llama / aliyun-qwen）
整理：2026-10-01 月绡凝 · 依据经典论文。
