外观
学习路径:三条路线
一句话定位:学习路径是全站的地图——它不回答"大语言模型是什么"(那是什么是大语言模型的事),也不展开任何具体技术,而是回答三个更前置的问题:我该按什么顺序读?每阶段读到什么程度?读完怎么知道自己学会了?
本站七个模块(导读 / 核心知识 / 经典案例 / 论文精读 / 实践指南 / 求职与 JD / 资源)大约有 40 个页面。任何人从头读到尾都不现实,也不必要。三条路线帮你做减法:同一座山,有三条不同的上法。
一、三条路线总览
| 维度 | 路线 A:求职冲刺 | 路线 B:系统精进 | 路线 C:案头速查 |
|---|---|---|---|
| 目标人群 | 准备面试、时间有限 | 想建立系统知识体系 | 已在做 LLM 相关工作 |
| 核心目标 | 面试能答、项目能讲 | 概念通透、能动手复现 | 遇到问题快速定位答案 |
| 建议时长 | 4~6 周 × 每天 3~4 小时 | 8 周 × 每周 10~15 小时 | 无固定时长,按需查阅 |
| 主线页面 | 概念页 + 面试题库 | 概念页 + 案例页 + 实践页 | 实践页 + 资源页 |
| 阅读深度 | 要结论,能复述 | 要推导,能拆解 | 要答案,能照做 |
| 检验标准 | 面试题能做对八成 | 能从零讲清任一核心概念 | 无需再向别人求助 |
text
三条路线不是三个等级,而是三种投入方式:
求职冲刺: 概念 ──→ 面试题 ──→ 能答
系统精进: 概念 ──→ 案例 ──→ 实践 ──→ 能造
案头速查: 问题 ──→ 页面 ──→ 答案 ──→ 能查怎么选?
把"一个月后我要交付什么"问清楚。下个月要面试 → 选 A;下个月要负责一个微调/RAG 项目 → 选 B;下个月要上线一个服务 → 选 C 起步,遇到瓶颈再补 B 的概念页。A 和 B 不是互斥的:绝大多数认真求职的人,实际走的是"B 的简化版 + A 的面试强化"。本文以 B 为主线给出完整 8 周计划,A 是它的裁剪,C 是它的反查索引。
二、路线 A:求职冲刺(4~6 周)
1. 目标与原则
求职冲刺的投入产出比最高,但前提是抓大放小:只读面试高频考点,放弃冷门细节。大模型岗位面试的高频面覆盖四个区块——架构、训练、推理、应用,详见面试题库。冲刺的原则是"每个考点都能用自己的话讲两分钟",而不是"看过的页面最多"。
2. 四周安排
| 周次 | 主题 | 必读页面 | 每日产出 |
|---|---|---|---|
| W1 | 概念与地基 | 什么是大语言模型、语言建模、分词与词表 | 用一段话给"什么是 LLM"下定义;手写 next-token 流程 |
| W2 | 架构与训练 | Transformer 架构详解、预训练、规模法则 | 能画出 QKV 计算流程;能解释为什么缩放因子是 √d_k |
| W3 | 后训练与推理 | 微调、对齐、推理基础 | 能复述 LoRA 的 W=W₀+BA;能画出 RLHF 三步 |
| W4 | 应用与冲刺 | RAG、基于 LLM 的 Agent、面试题库 | 每天过 10 道面试题;把项目经历写成"背景→难点→方案→结果" |
3. 检验标准
- 不看笔记,能画出 Transformer 结构图并标出 Q、K、V、残差、LayerNorm;
- 能讲清 RLHF 的 SFT → 奖励模型 → PPO 三步,并说出 DPO 为什么可以省掉奖励模型;
- 能说出 RAG 与微调各自解决什么问题、什么时候选哪个(参见RAG 与长上下文的权衡);
- 面试题模拟:从面试题库随机抽 10 题,能当场答对 8 题。
求职冲刺最常见的坑
把时间花在"背更多术语"而不是"讲清已有概念"上。面试官判断深浅的方式是追问,追问靠的是机制理解而不是术语量。宁可把Transformer一页读三遍,也不要囫囵吞下十页。
4. 面试高频考点速览
四周路线对应的考点地图(即面试题库的压缩版,用于自检):
| 区块 | 高频考点 | 对应页面 |
|---|---|---|
| 架构 | QKV 计算与缩放因子 √d_k、多头注意力动机、位置编码外推、因果掩码 | Transformer |
| 训练 | next-token 目标与交叉熵、数据配比、规模法则、LoRA 的 W=W₀+BA | 语言建模、规模法则、微调 |
| 对齐 | RLHF 三步、奖励模型训练、PPO 与 KL 惩罚、DPO 为什么可以省掉奖励模型 | 对齐 |
| 推理 | 自回归与 KV Cache、温度与 top-p、量化、continuous batching、显存估算 | 推理基础、部署 |
| 应用 | RAG 三阶段、Agent 循环、提示注入与安全 | RAG、Agent |
用法:每天挑一行"用自己的话讲 2 分钟",讲不通就回看对应页面。四周下来,这个表就是你的面试提纲。
三、路线 B:系统精进(8 周)
这是本手册的主线。它按"地基 → 架构 → 训练 → 对齐 → 评测 → 应用 → 部署 → 收口"的次序组织,与总体架构解剖的生命周期一一对应。每周三块内容:概念页打底、案例页找手感、实践页动手做。
1. 八周计划表
| 周次 | 主题 | 概念页 | 案例页 | 实践页 | 检验标准 |
|---|---|---|---|---|---|
| W1 | 导读 + 语言建模 | 什么是大语言模型、演进简史、语言建模、分词与词表 | — | — | 能解释"为什么预测下一个词能学到知识" |
| W2 | 架构 | Transformer 架构详解、上下文与长文本 | GPT 系列、BERT 与编码器家族 | — | 能手推 self-attention 复杂度 O(n²);能对比编码器/解码器 |
| W3 | 训练与规模 | 预训练、规模法则、MoE | MoE 与超大规模模型 | 从零构建一个大模型 | 本地训练出一个小模型,损失曲线肉眼可见下降 |
| W4 | 后训练与对齐 | 微调、对齐 | ChatGPT 与对话模型 | 微调实战:LoRA 全流程 | 用 LoRA 完成一次微调并对比微调前后效果 |
| W5 | 评测与安全 | 评测与基准、幻觉、安全与风险 | — | 评估实战 | 能解释 MMLU/GSM8K/HumanEval 各测什么;能设计一个自建评测集 |
| W6 | 提示与应用 | 提示工程、推理基础 | RAG、基于 LLM 的 Agent | 提示工程实践、RAG 实战 | 独立搭出一个带检索的问答系统 |
| W7 | 部署与服务 | — | — | 部署与服务化、框架与工具选型、常见陷阱 | 能估算一个模型的显存占用;能说出 continuous batching 解决了什么 |
| W8 | 论文与收口 | — | — | 阅读路径、论文地图、经典论文精读 | 精读 2~3 篇核心论文,能复述方法并指出局限 |
2. 每周的固定节奏
每天 60 分钟读概念页(细读,做笔记)
每周一个晚上看案例页(只读,找"这个技术长什么样")
每周一个下午动手(跑代码,改参数,看变化)
每周日 30 分钟自检(对照"检验标准"列)3. 八个可复用的产出物
系统精进的最终收获不是"读完"而是八件可展示的东西:
- 自己的"什么是 LLM"讲解稿(含一句定义 + 三层面拆解);
- 手绘的 Transformer 结构图(可复述 QKV 与多头注意力);
- 一个本地训练出来的小语言模型(哪怕只有几百万参数);
- 一次完整的 LoRA 微调记录(含损失曲线与前后对比);
- 一个自建的小评测集(10~20 条 golden set,附评判标准);
- 一个跑通的 RAG demo(文档 → 分块 → 向量检索 → 生成);
- 一份推理/部署选型笔记(框架对比 + 显存估算);
- 2~3 篇论文的精读笔记(按经典论文精读的模板)。
为什么按这个顺序?
W1→W7 的次序就是模型生命周期的顺序:先有数据与目标,再有架构,然后训练、对齐、评测,最后部署与应用。倒过来学(先玩 API 再补原理)当然可以,但"原理错了还能玩,玩熟了却补不齐原理"——前者损失一次性的挫败感,后者损失系统理解。另外,W8 的论文阅读需要前七周的概念储备,放在最后读效率最高。
4. 每周配比的选择逻辑
八周表里每一列都不是随便放的,背后的选择逻辑值得讲透,方便你自己调整:
| 周次 | 为什么这么配 |
|---|---|
| W1 | 先立"定义与目标"(什么是 LLM、为什么预测下一个词),再进机制,否则后续全部悬空 |
| W2 | 架构是全部机制的载体,且编码器/解码器对比(案例页)能让架构抽象落地 |
| W3 | 理解了架构再看"怎么训练",训练完再看"怎么规模更大"(规模法则),逻辑顺 |
| W4 | 预训练给出能力,后训练给出形态;SFT/对齐与 LoRA 是本阶段工程上最常用的技术 |
| W5 | 评测与安全在"动手改模型"之前建立,避免"闭眼调参、上线裸奔" |
| W6 | 提示是零代码的入门应用,RAG/Agent 是当前最主流的两类系统形态 |
| W7 | 部署把模型变成服务;连续批处理、量化等概念在此处才真正有意义 |
| W8 | 论文给"一手源头",面试是"检验输出",两者都是收口而非新开 |
可调整性原则:每周内部顺序可换(先看案例再看概念也行),但周与周的依赖(先 W2 后 W3)不建议打破。若某周投入不足,宁可顺延一周,也不要跳过——跳过的章节会在后续所有周里反复挡路。
四、路线 C:案头速查
1. 使用方式
案头速查不需要"读",只需要知道每一页解决什么问题。先花 30 分钟把总体架构解剖过一遍(它是全站的索引),之后遇到问题直接翻对应页面:
| 工作中遇到 | 直接查阅 |
|---|---|
| 模型输出质量差,想改进 | 提示工程实践 → 常见陷阱 |
| 需要私有知识问答 | RAG 实战 |
| 需要让模型按格式输出 JSON | 提示工程 |
| 模型生成重复/乱码/胡说 | 幻觉 → 推理基础 |
| 想要模型变小变快 | 部署与服务化 |
| 选框架/选模型 | 框架与工具选型、主流模型档案 |
| 查术语/查数据集 | 术语表、数据集与基准档案 |
| 追前沿 | 前沿进展 |
2. 速查的进阶形态
工作半年后,案头速查会自然升级为**"先查自己、再查手册"**:遇到问题先复述问题本身(往往复述完就知道答案在哪),再决定查术语表确认名词,还是查实践页找流程,还是查论文找原理。这个习惯比记住任何一页的内容都值钱。
五、三条通用建议
无论走哪条路线,五条建议通吃:
- 动手先于阅读。概念页读完 80% 的效果,不如把从零构建一个大模型的小模型跑一遍。代码会强迫你面对"我以为我懂了"的幻觉。
- 主线 + 支线。主线每周只推一个主题;支线(术语表、资源清单、模型档案)只在需要时翻,不占用主线时间。
- 以输出检验输入。每周结束时,试着给一个朋友(或一面墙)讲本周主题,卡住的地方就是下周要补的地方。
- 给知识标失效日期。大模型领域 18 个月淘汰一代结论,书页上的"最新"很快会变旧。涉及模型规格与榜单时,以主流模型档案等页面的 dataAsOf 标注为准,并随时回看前沿进展。
- 先定检验标准,再开始读。三条路线每阶段都写了"检验标准"列,把目标翻译成可验证的行为("能手推注意力复杂度"比"读完 Transformer 页"可检验得多)。
检验标准的用法
检验标准不是"读完自测的考试",而是决定何时停下的信号灯:达标就进入下一阶段,不达标就回头重读,而不是硬着头皮赶进度。大模型知识是网状的——某一页读不动,常常是前置页没读透(比如读微调吃力,多半是Transformer没消化)。允许自己回退,进度才会真的推进。
六、全站地图:七个模块一览
| 模块 | 一句话 | 典型页面 | 什么时候读 |
|---|---|---|---|
| 导读 guide | 定义、历史、地图与概念边界 | 什么是大语言模型、演进简史 | 第一周必读 |
| 核心知识 concepts | 14 页把 LLM 拆成可独立理解的知识点 | Transformer、对齐 | 系统精进的主干 |
| 经典案例 case-studies | 把知识点落回具体模型与系统 | GPT 系列、Llama 与开源生态 | 每学一个概念,配一个案例 |
| 论文精读 papers | 回到一手论文,建立"原理的源头" | 论文地图、经典论文精读 | W8 及进阶 |
| 实践指南 practice | 从代码与流程层面"照做能成" | 微调实战、RAG 实战 | 动手时同步查阅 |
| 求职与 JD career | 岗位版图、JD 拆解与面试题库 | 面试题库 | 求职冲刺专用 |
| 资源 resources | 术语、数据集、模型、精选资源档案 | 术语表、主流模型档案 | 随时查阅 |
七、常见学习误区与对策
三条路线的共性误区,提前排雷:
| 误区 | 典型表现 | 对策 |
|---|---|---|
| 只读概念不碰代码 | 能复述 LoRA 原理,却跑不出一行微调代码 | 每周强制一段动手时间,从从零构建开始 |
| 只追新模型不建地基 | 天天刷发布新闻,但说不清注意力机制 | 新模型当"案例"读,落回Transformer等概念页理解 |
| 贪多求快 | 一周读完 10 页,没有一页消化 | 按检验标准放慢;"读完"不等于"学会" |
| 只背结论不追原因 | 记得住"数据/参数约 1:20",说不出为什么 | 问"这个数字从哪来、怎么推导",回看规模法则 |
| 忽视评测与安全 | 模型跑通了就交付,不建评测集不看风险 | 把评估实战与安全与风险纳入必读,而非可选项 |
一句话总结
求职冲刺用 4 周把高频考点讲成自己的话,系统精进用 8 周从地基走到论文与面试,案头速查让手册成为随身工具。三条路线共用同一套页面,区别只在顺序、深度与检验方式。
延伸阅读
- 什么是大语言模型 —— 全书最重要的一页:定义三层面、能力盘点与实证刻度
- 总体架构解剖 —— 全站地图:模型生命周期七个环节各对应哪些页面
- 演进简史 —— 从信息论到 ChatGPT 的七十年,以及"三次范式跃迁"
- 从零构建一个大模型 —— 系统精进路线 W3 的动手核心
- 面试题库 —— 求职冲刺路线 W4 的检验工具
- 论文地图 —— W8 进入一手文献的起点
参考资料
- Andrej Karpathy · nanoGPT(GitHub 仓库) —— 几百行代码训练 GPT,系统精进 W3 的标配动手项目
- Hugging Face · LLM Course(免费课程) —— 与本站配套的开源课程,含大量可运行 notebook
- DeepLearning.AI · Short Courses —— 吴恩达团队的系列短课(提示工程、RAG、Agent 等),适合路线 C 查漏补缺
- OpenAI · 官方博客 —— GPT 系列、ChatGPT、o1 等里程碑的第一手发布说明
- EleutherAI · Language Model Evaluation Harness —— 评测实战的标配工具,配合评估实战使用