表示先于模型：从表征学习到Transformer的大模型入门

简介面向零基础读者的大语言模型底层技术原理入门PDF主要服务非科班出身的投资人、创业者以及希望理解ChatGPT等大语言模型如何运作的学习者帮助其建立从神经网络到GPT的完整技术脉络。内容由浅入深覆盖多层感知器、卷积神经网络、循环神经网络及其变体、强化学习、序列到序列架构、自监督学习、Transformer、GPT与BERT并更新了提示工程、InstructGPT、监督微调、人类反馈强化学习、思维链与涌现等主题文中提供章节学习路径、颜色重点标注和总结性大表格并给出入门阅读顺序建议能减少初学者在庞杂概念前迷路也便于按路线跳转、快速定位与复习。压缩包内共1个PDF文件大小约15.1MB适合在PC端阅读和检索。目前已有542人学习可作为零基础入门、技术概念梳理及研报写作的参考资料。1. 表示先于模型为什么大模型底层原理入门的第一课不是 Transformer在讨论大语言模型底层技术原理时最反直觉的一点是真正让初学者卡住的地方几乎从来不是注意力公式而是两件更朴素的事——世界怎么变成向量以及标签从哪来。一份面向零基础的 LLM 入门指南把多层感知器、卷积网络、循环网络、强化学习、seq2seq、自监督学习、Transformer 一直排到 GPT 与对齐方法它给人的启发不在于覆盖了多少名词而在于把「机器压根看不懂世界」这个前提摆在了最前面。很多人学不下去是因为一上来就啃注意力矩阵跳过了「像素如何变成向量」「标签如何自动产生」。这两件事一旦想通Transformer 只是把它们放大并并行化GPT 只是把 Transformer 堆得更深、再用对齐方法修剪一下输出偏好。整份资源的机制主线就是沿着这条因果链铺开的。2. 语义鸿沟一张手写数字为什么要摊成 784 维向量2.1 语义鸿沟人看到的「3」和机器看到的像素同一张手写数字人眼一眼认出是 3哪怕换一种笔迹、换一个倾斜角度也照样认。但把这张图丢给计算机它拿到的是 28×28 个灰度值看不到「笔画」「闭合曲线」「语义」这些层级的东西。人能从图像里抽出形状、纹理、空间关系这类高级语义特征机器只能摸到像素值、颜色直方图、边缘这类低级视觉特征——这个落差就是语义鸿沟。语义鸿沟解释了为什么早期的识别系统那么脆写歪两度、笔画粗一点结果就翻车。也解释了深度学习的整个动机——如果特征必须由人来描述那人的表达能力就是系统的天花板。2.2 从特征工程到表征学习喂给模型的东西换了浅层学习的做法是特征工程人先想清楚该看哪些量把这些量算成浮点数喂进去。文档里那个财务舞弊识别的例子说得很清楚——一份财报机器读不懂于是人先算出资产负债率、流动比率、速动比率再把这几列数塞给模型。选哪些指标、选几个直接决定模型的上限这一步全靠人的经验。深度学习换了思路不做特征工程做表征学习。原始数据进去中间层一层层做非线性变换底层特征攒成中层特征中层再攒成高层特征最后由模型自己产出可用的表示。深度在这里不是修辞——它指原始数据经过非线性特征转换的次数把表示学习系统看成一个有向图深度就是从输入节点到输出节点最长路径的长度。提示这里的关键词是「非线性」。连续多次线性变换等价于一次线性变换堆多少层都塌成一层这也是后面理解 MLP 为什么必须挂激活函数的原因。2.3 局部表示与分布式表示one-hot 的维度爆炸与 RGB 的稠密表示方式本身有优劣。局部表示用离散符号描述对象一个颜色一个名字落到向量上就是 one-hot词表多大向量就多长第 i 个词的第 i 维是 1其余全 0。它解释性强、可以人工归纳组合用于线性模型时算得飞快。代价有两个一是维度爆炸新加一种颜色就多一维二是任意两个向量正交相似度恒为 0。分布式表示把对象投到低维稠密空间像用 RGB 三分量描述所有颜色。所有颜色共用同样的三个维度新颜色不需要扩容相似度也不再是恒等于 0可以直接算余弦或欧氏距离。import numpy as np # 局部表示词表里每个词独占一个正交方向 vocab [红, 中国红, 天蓝, 咖啡] onehot np.eye(len(vocab)) # 4 个词 → 4 维任意两个向量点积为 0 # 分布式表示每个词是一个低维稠密向量示意值真实值来自训练 dense np.array([ [0.90, 0.10, 0.10], # 红 [0.85, 0.15, 0.12], # 中国红 [0.20, 0.40, 0.90], # 天蓝 [0.45, 0.28, 0.20], # 咖啡 ]) def cos(a, b): return float(a b / (np.linalg.norm(a) * np.linalg.norm(b))) print(cos(onehot[0], onehot[1])) # 0.0 —— 红与中国红的语义关系被抹平 print(cos(dense[0], dense[1])) # ≈0.99 —— 相近语义落在相近方向 print(cos(dense[0], dense[2])) # ≈0.38 —— 红与天蓝明确拉开距离这段代码只说明一件事向量维度不是存储格式而是信息容量。one-hot 的每一维只回答「是不是这个词」分布式表示的每一维都在回答「在这个语义属性上偏多少」。后者才使得「红」和「中国红」的距离小于「红」和「天蓝」的距离而这种距离关系正是后续词嵌入、注意力打分乃至整个检索式生成的地基。参数上唯一需要注意的是归一化方式余弦相似度只看方向不看模长欧氏距离两者都看选哪个取决于你要不要惩罚向量长度。3. 多层感知器为什么「原来也不过如此」恰恰是最难的一步3.1 神经元一次加权求和加一次非线性机器学习里的神经元借了生物神经细胞的名做的事情却极简把输入向量和一组权重做点积、加个偏置再过一个非线性函数。多个神经元并排就是一层层与层全连接就是多层感知器。一个 784 维的手写数字输入第一层就配 784 个输入位隐藏层每个神经元各自学一组「关注哪些像素」的权重。单看一个神经元它只能画一条直线做切分。堆叠之后能力才出现第一层把输入空间切成若干半空间第二层在第一层的输出上再切组合出来的边界可以任意曲折。所谓「神经网络的神秘面纱被揭开」说的就是这个——没有玄学只有大量可调的斜率和阈值。3.2 反向传播贡献度分配问题怎么被链式法则解开一次前向传播能算出预测但预测错了该怪哪一层的哪个权重这就是贡献度分配问题。端到端学习之所以能成立靠的是链式法则把最终损失对每个参数的偏导一层层往回传输出层的误差先算出梯度再乘上上一层激活函数的导数传给前一层如此递推。import numpy as np rng np.random.default_rng(0) X rng.normal(size(64, 784)) # 一个 batch64 张图每张摊成 784 维 W1 rng.normal(scale0.01, size(784, 128)) # 第一层权重784 → 128 b1 np.zeros(128) W2 rng.normal(scale0.01, size(128, 10)) # 输出层权重128 → 10 类 b2 np.zeros(10) y rng.integers(0, 10, size64) # 这批图的真实标签 def relu(z): return np.maximum(z, 0) def forward(X): z1 X W1 b1 # 线性变换 h relu(z1) # 非线性缺了它整个网络等价于一层 logits h W2 b2 # 未归一化的打分 return z1, h, logits def backward(X, z1, h, logits, y, lr0.1): # softmax 交叉熵 对 logits 的梯度预测概率减 one-hot 标签 p np.exp(logits - logits.max(axis1, keepdimsTrue)) p / p.sum(axis1, keepdimsTrue) d_logits p.copy() d_logits[np.arange(len(y)), y] - 1 d_logits / len(y) dW2 h.T d_logits # 输出层权重的梯度 db2 d_logits.sum(axis0) d_h d_logits W2.T # 误差回传到隐藏层 d_z1 d_h * (z1 0) # ReLU 的导数正区间为 1负区间为 0 dW1 X.T d_z1 db1 d_z1.sum(axis0) W1 - lr * dW1; b1 - lr * db1 W2 - lr * dW2; b2 - lr * db2 return W1, b1, W2, b2代码里最值得盯的是d_z1 d_h * (z1 0)这一行。ReLU 的导数是个开关正区间原样透传梯度负区间直接截断为 0。这带来一个血泪经验如果某个神经元的输入长期为负它的梯度永远是 0权重再也不更新这个神经元就「死」了——学习率设太大时尤其容易成片发生。参数上lr决定每步走多远scale0.01的初始化决定起点两者配合不好损失曲线就会平得像一条直线。3.3 深度为什么必须非线性线性堆叠会坍缩假设两层之间不挂激活函数第一层是 W1x第二层是 W2(W1x)等价于 (W2W1)x还是一个矩阵。堆十层和堆一层没有区别参数再多也只是在拟合同一个线性映射。加入非线性之后复合函数的表达能力才会随深度指数级增长——这也是文档里反复强调「连续多次线性转换归根到底等价于一次线性转换」的作用。注意判断一个网络是不是「真深」不看层数看非线性变换的次数。有些实现里把归一化、残差、激活拆开写数层数很容易数错。4. 自监督学习没有标注的数据怎么自己长出标签4.1 完形填空Ground Truth 藏在输入里有监督学习要人打标签成本高且规模有限。自监督的巧处在于监督信号本来就在数据里只是被遮住了拿一段文本随机盖掉几个词让模型预测被盖住的是什么。答案不需要任何人判断原文就是标准答案。import numpy as np def mask_tokens(tokens, mask_id, p0.15): 随机遮盖 15% 的 token返回输入序列与被遮盖位置的真值 tokens tokens.copy() labels np.full_like(tokens, -100) # -100 是忽略位不算损失 for i in range(len(tokens)): if np.random.rand() p: labels[i] tokens[i] # 真值 原始 token无需人工标注 tokens[i] mask_id # 输入里换成 [MASK] return tokens, labelsp0.15是遮盖比例-100是交叉熵里约定俗成的忽略索引保证只对被遮住的位置计算损失。这段逻辑的精髓是labels[i] tokens[i]标签不是外部给的是从输入自身复制出来的。一个语料库有多少 token就有多少个可训练的监督点规模瓶颈从此不在标注而在算力和数据量。4.2 预训练与微调一次昂贵的表示学习多次廉价的任务适配自监督解决了「训练信号从哪来」于是可以先用海量无标注语料做一次昂贵的大规模训练让模型学会语言的一般规律这就是预训练之后针对具体任务用少量标注数据微调。理解预训练和 Transformer 之后再看 GPT路径就很自然GPT 就是在语言模型任务上预训练、堆了很多层解码器的大号 Transformer。这套两段式结构解释了为什么同一个底座能衍生出无数应用昂贵的那部分可以复用便宜的那部分按需定制。也解释了为什么「预训练损失下降」和「任务表现变好」不是一回事——前者衡量的是下一个 token 的预测准确度后者衡量的是任务完成度。4.3 为什么这套机制能 scale数据、目标、架构的三角自监督不是新点子能撑起今天这个规模靠的是三个条件同时满足。数据侧互联网文本天然海量且不需要清洗成标注格式目标侧下一 token 预测和完形填空这类任务足够难逼着模型学到句法、语义、事实关联这些副产品架构侧注意力机制让长序列训练可以并行不会像循环网络那样必须按时间步串行。三者缺一不可。目标太简单模型学不到东西数据不够模型只能背训练集架构不能并行训练成本会高到没人愿意做。常见的实现思路是先用小模型和小语料验证目标函数是否可学损失能不能降下去再放大规模。跳过这一步直接上大集群翻车概率极高。5. 常见问题排查Transformer 与预训练里最容易搞错的五件事5.1 现象以为注意力在「理解」其实它在做加权检索现象读完注意力公式觉得模型在「关注重点」于是期待它能解释自己的判断结果发现注意力权重和人类直觉对不上。原因Q 与 K 的点积只是相似度打分softmax 把它归一化成权重再对 V 做加权求和——本质是一次可微的软检索不是语义理解。import numpy as np def softmax(x, axis-1): e np.exp(x - x.max(axisaxis, keepdimsTrue)) return e / e.sum(axisaxis, keepdimsTrue) def attention(Q, K, V, causal_maskTrue): # Q: (B, T_q, d_k) K: (B, T_k, d_k) V: (B, T_k, d_v) d_k Q.shape[-1] scores Q K.transpose(0, 2, 1) / np.sqrt(d_k) # (B, T_q, T_k) 相似度打分 if causal_mask: T_q, T_k scores.shape[-2], scores.shape[-1] mask np.tril(np.ones((T_q, T_k), dtypebool)) # 下三角为 True scores np.where(mask, scores, -1e9) # 未来位置压到负无穷 weights softmax(scores, axis-1) # 每行和为 1 return weights V, weights # 加权求和 权重矩阵/ np.sqrt(d_k)是缩放项防止维度变高后点积数值过大、softmax 饱和成 one-hot 导致梯度消失-1e9是因果掩码的实现方式保证第 t 个位置只能看到 1 到 t。解决调试时把weights打出来看形状和熵——如果每行几乎均匀说明打分区分度太低如果几乎 one-hot说明缩放或初始化有问题。5.2 现象以为堆得越深越好结果训练不收敛现象照抄结构把层数翻倍损失不降反升或者前几层梯度接近 0。原因误差要穿过几十层往回传连乘效应让梯度指数级衰减或爆炸同时深层网络的每层输入分布不断漂移后面层疲于追赶。常见的实现思路是残差连接加层归一化残差给梯度开一条恒等捷径归一化把每层输入拉回稳定尺度。解决先确认归一化放在残差分支之前还是之后再把学习率配合 warmup 逐步抬升排查时打印每一层梯度的范数看是哪一层先塌。5.3 现象把预训练损失下降当成任务能力提升现象训练日志上困惑度一路走低但模型回答具体问题时仍然胡说。原因预训练目标是下一个 token 的条件概率它奖励的是「像人写的文本」不是「答对」。这两者在分布上确有重叠但目标函数的形状决定了模型会优先学会高频句式而不是罕见事实。解决把评估拆成三层——困惑度看语言建模质量任务指标看指令跟随人工抽查看事实性三者的曲线不同步是常态别用一条曲线下结论。5.4 现象以为对齐阶段在教模型知识现象经过偏好对齐后模型说话更好听了但知识问答的正确率几乎没变甚至因为过度保守而下降。原因这一阶段优化的目标是人类偏好排序奖励信号来自一个学出来的奖励模型而不是真实答案。奖励模型是个代理模型很快会学会钻它的空子——输出那种评分高但内容空的话。解决对齐训练时加上对原模型的散度约束别让它跑太远评估时固定一组知识题做前后对比专门看有没有为讨好评分而牺牲事实。5.5 现象以为思维链是模型真的在「推理」现象让模型先写步骤再给答案复杂算术和逻辑题的准确率明显上升但换成纯知识回忆题加了步骤反而更啰嗦甚至更错。原因思维链不是打开了一个内部推理引擎而是把中间计算写成了 token让后续 token 的条件分布建立在更充分的前文上。对需要多步计算的任务这些中间 token 就是脚手架对一次检索就能答的知识题脚手架没有信息可加只会引入新的出错机会。解决按任务类型决定要不要触发分步输出别把所有请求都默认加一句「请一步步思考」。6. 设计取舍为什么是解码器堆叠加两段式对齐从循环网络走到 Transformer本质是一次取舍循环结构天生适合序列第 t 步依赖第 t-1 步的状态顺序信息免费拿到代价是训练必须串行、长距离依赖会衰减。注意力把任意两个位置的距离压成常数代价是顺序信息不再免费——必须额外注入位置编码而且计算量随序列长度平方增长。选择注意力等于用算力换并行度和长程建模能力在训练规模能撑起来的前提下这笔交易划算。第二层取舍在结构形态。编码器-解码器适合输入输出明显分离的任务翻译就是典型纯解码器把输入和输出拼成同一条序列只做下一 token 预测结构更简单、目标更统一也更容易在超大规模上稳定训练。代价是丢掉了一部分显式的双向编码能力需要靠更长的上下文和更强的预训练来补。第三层取舍是把训练切成两段预训练负责学语言与知识对齐负责调偏好与表达。合成一段做不是不行只是目标互相干扰很难同时优化好。我判断一个模型是不是真按这套逻辑搭出来的习惯只做一件事拿一条极短的输入把每一层的注意力权重和中间激活打出来看形状、看熵、看有没有整片均匀或整片 one-hot。这比读十篇解读都管用。从那以后我每次评估一个号称「理解了大模型」的方案都强制走一遍这个检查因为翻车基本都发生在这些没人愿意打印的地方。希望帮到你。本文还有配套的精品资源点击获取