非科班读LLM底层原理：15章PDF顺序与Transformer拆解

简介这份 PDF 文档定位为面向非科班读者的大语言模型底层技术入门指南尤其适合投资人、商科研究者以及希望理解 ChatGPT 原理的零基础学习者也提醒读者至少具备导数、链式法则、条件概率和向量矩阵等数学常识。内容由多层感知器、CNN、RNN 及其变体起步延伸到强化学习、seq2seq、自监督学习、Transformer、GPT 系列与 BERT并覆盖 Prompting、InstructGPT、思维链、涌现等主题作者建议从第六章切入再回看第二与第四章第十五章还用总结表格梳理技术演进方便快速跳转与建立知识框架。整包仅含 1 个 PDF 文件约 15.1MB适合电脑端阅读和检索。已有 542 人学习文档保持迭代配有大量引用、延伸资料索引和底色标注区分重点、定义、常识与示例对需要补齐数学与模型常识、撰写研究报告或系统梳理 LLM 技术脉络的读者具有较高参考价值。1. 一份 15 章的 LLM 底层技术原理 PDF为什么值得非科班的人先啃第六章拿到一份号称零门槛的 LLM 底层技术原理入门指南大部分人的第一反应是从第一章顺着往下读这恰好是最容易半途放弃的读法。这份 15 章的 PDF 出自一位财务出身、没正经学过算法的作者之手前五章铺的是人工智能概念、机器学习范式、浅层学习与深度学习信息密度不高但概念铺得很散真正的高密度内容从第六章才开始。所以我的建议有点反直觉先翻到第六章把「神经元—权重—前向传播」这条线走通再回头补第二、第四章。这份文档最对口的不是算法岗而是带着研究任务来的非科班人群——要写研报的商科生、做技术调研的产品、需要判断路线可行性的投资人以及想搞明白 Transformer 到底在算什么的后端工程师。2. 拆骨架15 章怎么排阅读顺序才不会在第三章放弃2.1 章节依赖关系哪些章是地基哪些章是装修一份 15 章的文档最怕的不是难是「读到一半发现自己缺前置」。这份 PDF 的章节编排其实是有向无环的前面的章是后面的前置但作者自己在正文里承认15 章被他折叠了理由是「不然耐心会在进入正题前先被用完」。这句话信息量很大——它说明前五章属于背景铺垫不是必经之路。按文档里的路径说明和关键词索引反推各章的大致定位可以这样归组。注意这张表是我读完之后自己整理的依赖图不是文档目录的逐字复刻章号对得上主题描述是概括性的章号主题定位前置依赖是否可跳第 1 章人工智能概念、机器学习四大范式无可跳当词典查第 2 章多层感知器 MLP无不可跳地基第 35 章深度学习背景、表征学习、端到端第 1 章可跳卡住再回第 6 章神经网络正门作者指定的起点无不可跳第一优先第 7 章序列建模通往 Transformer 的前置第 2、4 章不可跳第 8 章预训练与自监督第 7 章不可跳第 10 章Transformer 结构主体第 6、7 章不可跳第 12 章GPT 与解码器堆叠第 8、10 章不可跳第 13 章BERT 与双向编码器路线第 10 章可延后第 14 章强化学习与人类反馈相关章节第 12 章可延后第 15 章技术演进归纳大表带页内跳转索引全部随时可查这张表真正有用的地方不在章号而在最后一列。很多人读技术长文档翻车不是因为看不懂某一段是因为在「可跳」的章节里死磕把精力耗在了不承重的地方。第 35 章讲表征学习、局部表示与分布式表示、端到端学习这些概念在后面的 Transformer 章节里会反复以「embedding」「端到端训练」的形式出现但你完全可以先带着疑问往后读等第 10 章遇到 embedding 这个词卡住了再回头翻第 5 章那两页效率比顺着啃高一个量级。还有一处容易误判文档里作者一边说「先去看第六章」一边又在第二章标题上写着「入门多层感知器 MLP」。这两个说法看着打架其实不矛盾——第 2 章是 MLP 的标准讲法第 6 章是作者认为更适合零基础的第一入口。我的处理方式是先把第 6 章读完建立「神经网络不过是一堆加权求和加非线性」的直觉再回第 2 章看形式化的 MLP 定义这时那些公式就不再是天书而是你已经见过的东西的严谨版本。2.2 三条学习路径的参数时间预算、前置知识、跳读规则文档作者给的官方路径是第六章 → 第二章 → 第四章 → 第七章 → 第八章 → 第十章 → 第十二章 → 第十三章其余为可选项。这条路径是给「只想快速搞懂 ChatGPT 原理」的人设计的。但实际上读这份文档的人诉求差别很大我按自己带人读的经验拆成三条每条给一个明确的时间预算和止损点。路径 A快速入门目标是一周内能跟人讲清楚「GPT 是怎么训出来的」。预算 810 小时按作者给的顺序走第 14 章强化学习部分只看概念不看数学第 13 章 BERT 直接跳到结论段。止损点设在第七章如果第七章读完还是说不清「为什么序列模型要处理长距离依赖」就退回第 2 章把 MLP 的前向传播手推一遍别硬着头皮进 Transformer。路径 B补齐数学适合数学底子薄但想做点实现的人。预算 2530 小时。文档开篇明确说了绕不开微积分、概率论和线性代数至少要懂导数与极小值、多元函数求导的链式法则、条件概率及其链式展开、向量与矩阵运算。这条路径的做法是把第 6 章和第 10 章各读两遍第一遍只看文字和图第二遍遇到公式就停下来用纸笔把维度标上去。路径 C深挖训练链路适合要评估模型方案或做技术选型的人。预算 40 小时以上重点是第 8 章预训练、第 12 章 GPT、第 14 章强化学习这三块其余章节速读。这条路径的关键动作不是读是画——把「预训练 → 指令微调 → 奖励建模 → 强化学习优化」四个阶段各自的输入、输出、损失函数画成一张图画不出来就说明没读懂。三条路径有一个共同的硬规则任何一章如果连续两页完全看不懂标记后跳过不许停。技术文档的阅读体验是非线性的第 10 章看不懂的东西往往在第 12 章讲具体应用时突然就通了。这份文档还有个天然优势第 15 章有一张带索引的归纳表跳读之后随时能从表里跳回对应章节补课。2.3 颜色标注当信号灯用六种底色各管什么这份文档有一个很少见的工程化设计作者用六种底色给文字打了语义标签。这不是装饰是阅读优先级的编码用好了能省掉大量「这句要不要记」的判断成本。橙红底色标记的是「这份文档重点包括什么、省略什么」本质是范围声明读一遍知道边界就行。黄色底色是常识性结论作者不对其做论证比如「神经网络可以很好地拟合各种概率函数」这类内容只需要知道结论成立不需要追推导看到黄色就当定理用。橙色底色是作者主观认为重要的段落通常是某个转折点或者某句容易被忽略但影响理解的话。蓝色底色是定义这是全书最需要动笔的部分——定义看不懂后面全是白读。绿色底色永远跟着蓝色出现是帮助理解定义的具体例子比如讲局部表示时用颜色命名做例子。灰色底色是作者自己写着玩的内容可以完全跳过。实际读的时候我的做法是先花十分钟把所有蓝色底色的定义扫一遍抄成一张定义清单再回头正常阅读。原因是定义之间往往互相引用先有一张全局的定义地图后面读到「自注意力」「分布式表示」这些词时不会被反复打断。绿色例子则留到第二遍看第一遍看例子容易产生「我懂了」的错觉其实懂的是例子不是定义。3. 把 Transformer 读成一道计算题从 MLP 到自注意力的最小闭环3.1 先补 MLP 和 RNN作者为什么把顺序倒过来作者的阅读路径里第 6 章之后紧接着是第 2 章和第 4 章才轮到第 7 章和第 10 章。这个顺序乍看别扭其实非常讲究第 6 章负责破恐惧第 2 章和第 4 章负责补结构第 7 章和第 10 章才是正餐。第 6 章的作用是「祛魅」。作者的描述很直白说那一章会直接揭开神经网络的神秘面纱让人产生「原来也不过如此」的感觉。这话听着像营销但从教学角度看是对的神经网络最吓人的地方是名字一旦你看到它本质上就是一串「乘权重、求和、过非线性函数」的操作堆起来恐惧感会掉一大半。第一遍读第 6 章不要纠结反向传播的链式求导细节先把前向传播走通输入向量怎么变成隐藏层隐藏层怎么变成输出权重矩阵的形状怎么对应。第 2 章补的是形式化。MLP 的经典讲法会带出激活函数、损失函数、梯度下降这套东西。这里有个血泪经验不要一上来就啃反向传播的完整推导先把「损失函数衡量预测和真实差多远梯度下降沿梯度反方向调权重」这句话落实成能画出来的图。文档里提到手写数字识别的例子一张 28×28 的灰度图被拉成 784 维向量每个像素值归一化到 0 到 1 之间越黑越接近 0越白越接近 1——这个「把图表示成向量」的动作是整条链路里最容易被跳过但最关键的一步因为后面所有的矩阵运算都建立在「输入是向量」这个前提上。第 4 章补的是序列建模也就是 RNN 及其变体 LSTM、GRU。这一章的价值在于让你先体会到「处理变长序列很麻烦」这件事。RNN 的隐藏状态要一个时间步一个时间步地传长序列上梯度会消失LSTM 用门控机制缓解这个问题但没根治。等你带着「序列依赖太难搞」的怨气翻到 Transformer 那一章看到它直接用注意力把任意两个位置连起来、彻底绕开循环结构那种「原来还能这么干」的冲击感是顺着读绝对得不到的。第 7 章和第 10 章放在一起读作者的判断是这两章能帮你快速弄懂 Transformer 是什么。第 7 章大概率讲的是 seq2seq 那一套编码器—解码器架构第 10 章才是自注意力和多头机制。这个组合的逻辑是先知道没有注意力的时候机器翻译是怎么做的再知道注意力补上了哪个洞。3.2 自注意力的四个矩阵Q、K、V、W 各自的参数含义Transformer 那一章最劝退的是公式但公式本身只有一行softmax(QKᵀ/√d_k)V。真正需要搞清楚的是 Q、K、V 这三个矩阵从哪来、为什么要三个而不是一个、那个 √d_k 是干什么的。Q、K、V 全部由同一个输入矩阵 X 乘上三个不同的可学习权重矩阵得到也就是 Q XW_QK XW_KV XW_V。W_Q、W_K、W_V 就是这一层真正要训练的参数。之所以要拆成三份是因为注意力的语义是「查询—匹配—取值」Q 代表当前位置想找什么K 代表每个位置能提供什么标签两者点积得到相关性分数分数归一化后作为权重去加权求和 V也就是每个位置的实际内容。如果只用一个矩阵那「我想找什么」和「我能提供什么」就被绑死了表达能力会明显下降。点积为什么要除以 √d_k是个典型的「不看解释就会一直玄学」的点。Q 和 K 的每个分量如果近似独立、均值 0 方差 1那它们的点积方差会随着维度 d_k 线性增长。维度一大点积结果的绝对值就容易跑到很大送进 softmax 之后会变成一个接近 one-hot 的分布——梯度几乎为零训练直接卡死。除以 √d_k 就是把方差拉回 1 量级让 softmax 工作在梯度健康的区间。这个细节在文档里如果只是一句话带过很容易被忽略但它是实际训练能不能收敛的关键之一。多头注意力则是把上面这套流程并行做 h 次每次用一组独立的 W_Q、W_K、W_V维度切成 d_model/h最后把 h 个输出拼接起来再乘一个输出投影矩阵 W_O。多头的意义不是「更强大」是「可以同时关注不同类型的 relations」——一个头可能学到指代关系另一个头可能学到句法依存这是单头很难兼顾的。读这一章的方法建议是拿一张纸把 batch size 设为 1、序列长度设为 3、d_model 设为 4、头数设为 2把所有矩阵的形状标一遍。标得出来说明你真懂了标不出来说明还停在「看懂了文字」的层面。这个动作花费二十分钟收益比再读三遍正文都大。3.3 二十行 numpy 复现 scaled dot-product attention验证书里的图光看图容易产生错觉跑一遍代码是最快的验伪手段。下面这段不依赖任何框架只用 numpy目的是把公式里的每一步和矩阵形状对应起来。实际工程里当然用框架但手写一遍能让你在调模型时一眼看出维度不匹配错在哪。import numpy as np def attention(Q, K, V, maskNone): Q: (seq_q, d_k) 查询矩阵 K: (seq_k, d_k) 键矩阵与 Q 的最后一维必须相同 V: (seq_k, d_v) 值矩阵行数必须与 K 一致 mask: (seq_q, seq_k)0 表示该位置不可见 d_k Q.shape[-1] scores Q K.T / np.sqrt(d_k) # 缩放点积防止 softmax 饱和 if mask is not None: scores np.where(mask 0, -1e9, scores) # 屏蔽位置给极小值 scores scores - scores.max(axis-1, keepdimsTrue) # 数值稳定防溢出 weights np.exp(scores) weights weights / weights.sum(axis-1, keepdimsTrue) return weights V, weights # 三个 token每个 token 的向量维度为 4 np.random.seed(0) X np.random.randn(3, 4) W_q, W_k, W_v (np.random.randn(4, 4) for _ in range(3)) Q, K, V X W_q, X W_k, X W_v out, attn attention(Q, K, V) print(注意力权重形状:, attn.shape) # (3, 3)每行和为 1 print(每行权重和:, attn.sum(axis-1)) print(输出形状:, out.shape) # (3, 4)与 V 的最后一维一致这段代码对应三个必须说清楚的点。第一scores的形状是 (seq_q, seq_k)也就是每个查询位置对每个键位置的打分行方向做 softmax 之后每行加起来等于 1这个 3×3 的矩阵就是可视化里常见的注意力热力图可以直接打印出来对照文档里的图看。第二V的行数是 seq_k 而不是 seq_q因为加权求和是在「被关注的序列」上做的输出行数才是 seq_q。这是新手最容易写反的地方写反了不会报错只会悄悄给出错误结果。第三减最大值那一步是纯数值技巧数学上等价但不减的话 exp 一个大数会直接溢出成 inf训练日志里出现 nan 时第一个要查的就是这里。跑完之后建议做一个小实验把W_k换成单位矩阵、W_q也换成单位矩阵看注意力权重退化成什么样。你会发现权重分布变得非常均匀或者非常尖锐这个直观感受比看十页文字解释都管用。这就是所谓的「读懂」和「能改」之间的分界线也是这份文档里讲 Transformer 那部分被认为质量高的原因——它把结构拆到了你能自己动手复现的粒度。4. 预训练到 RLHF 的四段式把 GPT 那一章和训练管线对上号4.1 四个阶段的输入输出对照表文档里作者给了一句很好用的判断GPT 就是堆叠了很多很多解码器的、以大号语言模型任务预训练的 Transformer。这句话把三件事串起来了——结构上是 Transformer 解码器规模上是「很多很多」训练目标是语言模型。理解了这句第 12 章就没什么神秘的了。真正容易被读糊的是后面那一串缩写IFT、SFT、RLHF、CoT。这几个词在文档的不同位置出现如果不成体系地读很容易记成一团。我在读的时候把四个阶段的输入、输出、目标函数整理成一张表读完之后对着表回忆能回忆出八成就算过关阶段输入输出优化目标常见误解预训练大规模无标注文本基座模型下一个 token 的预测损失以为基座模型就能直接对话SFT/IFT 指令微调人工撰写的「指令—回答」对会听话的模型同样是 token 级交叉熵只是数据变了以为换了个新损失函数奖励建模同一问题的多个回答及人类排序奖励模型排序损失让好回答得分更高以为奖励模型就是打分器忽略它是另一套参数RLHF 强化学习优化策略模型与奖励模型的在线交互对齐后的模型奖励最大化 与初始模型的 KL 约束以为可以无限优化忽略 KL 惩罚这张表里最值得琢磨的是第二行。很多人以为指令微调引入了某种新算法实际上它用的还是预训练那套下一个 token 预测变的只是数据分布——从「随便一段文本」变成「指令加回答」。这个认知很重要因为它解释了为什么指令微调的数据质量比数量更关键模型在学的是「在这种问法下该怎么接着说」数据里如果混了大量低质量回答模型就照着学。第四行的 KL 约束也是高频误区。强化学习阶段如果没有约束模型会朝着奖励模型的高分方向一路狂奔找到各种钻空子的退化输出人类看起来莫名其妙但奖励模型给高分。KL 惩罚项的作用就是把优化后的模型拴在初始模型附近防止它跑偏。这个设计思路在文档里如果只是提了一句建议自己去查一下原始论文的公式理解「为什么要限制」比记住「限制多少」重要得多。4.2 Prompting、CoT 与涌现读第十三章别跳过实验描述文档 5 月更新补了 Prompting、InstructGPT、Chain of Thoughts、涌现这几块内容。这几节的特点是实验描述多、公式少很多人读得快反而是损失最大的一段。思维链那部分重点是理解它为什么有效。它不是让模型「想得更深」而是通过强制生成中间推理步骤把原本一步到位的复杂映射拆成了几步简单的映射每一步都踩在模型已经见过的分布上。这个解释和前面第 3 章讲的深度、表征、端到端是一脉相承的——你如果认真读了前面这里会有明显的贯通感。涌现那部分要留意一个常见误读把「模型规模到某个量级后某项能力突然出现」理解成「只要堆参数就行」。文档里如果有能力随规模变化的曲线图建议对着横纵坐标看清楚横轴是什么、纵轴是什么评测指标、曲线是不是真的阶跃。很多所谓的涌现换个更平滑的评测指标就变成渐变了这是学界一直在讨论的事。文件里作者标注了大多数图不是自己画的、每章末尾会引注原文来源遇到关键结论顺着引注去查原始出处是这份文档能给你的最大附加值。4.3 用第十五章的索引表做反向检索第 15 章那张归纳技术发展路径的大表很多人当成附录跳过其实它是整份文档最实用的部分。表里带页内跳转索引意味着你可以把它当检索入口用。我的用法是反向的读完一个概念之后不看正文先回忆它在这张表里的位置——它前面是什么、后面是什么、为什么要在这个位置。回忆不出来说明你只记住了定义没记住脉络。技术演进这个东西孤立地记「Transformer 在 2017 年提出」意义不大记住「它替代了 RNN 那种逐步传递的序列建模方式使得训练可以并行」才有意义因为你以后遇到新的架构判断标准就是它在解决哪个老问题。具体操作上建议把这张表复制出来改造成自己的版本左边一列是技术名中间加一列「它解决了上一代的什么问题」右边加一列「它自己留下了什么问题」。第二列和第三列必须自己写不许抄原文。写不出来就是没读懂回去补对应章节。这个动作做一遍相当于把整份文档压缩成了一张纸以后跟人讨论或者写调研材料看这张纸就够了。5. 避坑读这类长文档最常见的 5 个翻车点5.1 现象从第一章硬读读到第三章就停了原因很明确。文档前几章是概念铺陈缺少能立刻上手的抓手大脑得不到正反馈就会疲劳。再加上作者自己把 15 章标成了可折叠说明他也知道这块容易劝退。解决方式是物理隔离把 PDF 的第 15 章直接折叠或跳过从第六章开始允许自己在前五章留下认知空洞。等第六章读完、产生「想看更多」的冲动时再回头补第 2 章和第 4 章。顺序反了体验天差地别。5.2 现象笔记抄了一整本合上文档什么都不记得原因在于抄的是原文不是理解。摘抄是一种低成本的「我在学习」的错觉尤其这份文档文笔流畅、AI 辅助写作痕迹明显读起来很顺更容易产生「我都懂了」的幻觉。解决办法是强制改写每读完一节关上文档用自己的话写三句话——这节讲了什么、它解决了什么问题、和上一节什么关系。写不出来就回去重读那一段。笔记的价值在于「重写」这个动作本身不在于最后那几行字。5.3 现象公式能看懂但一换符号就懵原因是你把公式当成字符串背下来了没绑定维度。Transformer 那套公式里Q、K、V 的形状关系是整个理解的骨架符号换成 W、H 或者别的字母骨架其实没变。解决办法是每遇到一个矩阵运算就在旁边标出形状。比如 Q 是 (n, d_k)Kᵀ 是 (d_k, m)乘出来是 (n, m)再乘 V 的 (m, d_v) 得到 (n, d_v)。形状对不上推导一定错了形状对得上剩下的是语义问题。这个习惯养成之后看任何新模型的论文都能快速定位关键计算。5.4 现象把文件里的彩色标注当成排版装饰原因很直接PDF 阅读器里高亮就是高亮不会告诉你它分六种颜色。但这份文档的底色是有语义的橙红是范围声明、黄是常识、橙是重点、蓝是定义、绿是配套例子、灰是闲笔。解决办法是先花十分钟建立颜色规则表然后按颜色决定阅读深度。蓝色定义优先抄绿色例子第二遍看灰色直接跳过。不做这一步等于把作者精心设计的阅读引导全部浪费用同样的时间只能吸收一半信息。5.5 现象读的时候觉得懂了跟人一讲就卡壳原因是没有经过「输出」这一关。输入端的理解是模糊的只有组织成语言讲出来模糊地带才会暴露。解决办法是找一个完全不懂的人讲十分钟。讲到某个地方卡住那里就是你真正的知识缺口回头精准补那一节不要整章重读。这份文档的第十五章那张表特别适合当讲述提纲——讲的时候按表演进路径走卡在哪一步就跳回哪一章。6. 进阶用法把一份 PDF 变成可检索的个人知识库6.1 给每个公式做一次反写校验读完 Transformer 和 GPT 那几章之后我一般会做一件事把关键公式反着写一遍。正向是从输入推输出反向是从输出倒推「这一层到底在做什么变换」。自注意力那一层的反写就是给定输出向量它其实是 V 的若干行的加权平均权重由 Q 和 K 的相似度决定。这么一反写很多原本含糊的地方立刻就清楚了——比如为什么注意力的输出维度等于 V 的维度而不是 K 的维度答案在实际是加权求和保留下来的那个维度里。6.2 把 15 章标题抽成可跳转索引这份 PDF 有页内跳转但很多人用的阅读器不支持或者跳转锚点没生成。与其抱怨不如自己抽一份标题索引。如果没有现成的目录可以用下面这段脚本抽一级标题输出成 Markdown 锚点列表贴在自己笔记的顶部当快速导航。import fitz # PyMuPDF doc fitz.open(llm_guide.pdf) toc [] for page_no, page in enumerate(doc, start1): for block in page.get_text(dict)[blocks]: for line in block.get(lines, []): # 按字号筛选标题正文一般小于 13标题大于等于 14 spans [s for s in line[spans] if s[size] 14] if not spans: continue text .join(s[text] for s in spans).strip() if text: toc.append((page_no, text)) for page_no, text in toc: print(f- [{text}](#page-{page_no}) )这段脚本里有两个参数值得调。size 14是标题判定的字号阈值不同的 PDF 排版差别很大可以先打印一页所有 span 的字号分布看看再定get_text(dict)按块和行返回结构化信息比直接抽纯文本多了字号和位置是筛选标题的关键。跑完之后人工扫一遍把页码和误判的正文行剔掉通常十分钟能得到一份可用的目录。我自己还会额外维护一张「概念—章节」的反向索引左边写概念名比如 KV Cache、位置编码、层归一化右边写它在文档里的章节号和我自己的理解一句话。这张表积累到三十行左右你就可以脱离 PDF 跟人讨论这套东西了。提示脚本只做辅助抽出来的标题一定要人工核对一遍。机器识别出来的「标题」里经常混进图表标题和页眉直接拿去当目录会跳错位置。从那以后我每读一份超过五十页的技术文档都会先跑一遍目录抽取、再手写一张概念对照表才允许自己开始精读。跳过这两步直接读看起来省了半小时实际上会在返工上多花几个小时。这份 LLM 底层技术原理入门指南的结构已经算友好但工具和习惯还是得自己有。希望帮到你。本文还有配套的精品资源点击获取