大模型系统入门路线：从机器学习到Transformer与微调部署

大模型这个词这两年几乎成了技术圈的硬通货不管你是做后端、做前端、做数据还是做算法面试里不聊两句Transformer和微调好像都不好意思说自己是搞技术的。但问题也恰恰出在这里——网上关于大模型的资料多到爆炸从论文到博客到视频课铺天盖地可真正想系统入门的人反而更迷茫了到底该从哪开始先学机器学习还是直接上深度学习Transformer那堆注意力机制看不懂怎么办PyTorch要学到什么程度才能跑通一个微调我自己走过一遍这条路也带过几个刚转方向的朋友踩过的坑不算少。这篇内容就是把我认为最合理的一条大模型系统性入门路径完整拆开从数学和机器学习的地基到深度学习与Transformer的核心机制再到PyTorch实操、大模型微调、提示词工程和部署每一块都讲清楚为什么学这个学到什么程度怎么验证自己学会了。适合零基础想转大模型方向的开发者也适合有工程背景但没系统补过机器学习理论的程序员。1. 入门之前先把路线图想明白1.1 为什么大多数人学大模型会半途而废我观察下来半途而废的原因基本不是智商问题而是路线问题。最常见的两种错误路线一种是论文派一上来就啃Attention Is All You Need结果数学符号看不懂梯度推导跟不上三天就放弃了另一种是调包派直接pip install transformers跑了个demo觉得大模型不过如此但一旦要改模型结构、排查loss不收敛、理解为什么某个参数要那样设就完全懵了。这两种路线的共同问题是跳过了中间层。大模型不是一个孤立的技术它是机器学习、深度学习、序列建模、注意力机制这条线上长出来的果实。你跳过根直接摘果子果子是能摘到但你不知道它为什么长这样遇到新问题就没法迁移。所以我的建议是路线要分层但不要每层都学到博士水平。入门阶段的目标是建立完整的认知地图能动手跑通关键环节而不是精通每一个数学细节。下面这张表是我给朋友规划路线时用的分层框架你可以对照自己的基础决定每层投入多少时间。层级内容入门目标建议投入第一层机器学习基础理解监督/无监督、损失函数、过拟合、评估指标2-3周第二层深度学习基础理解神经网络、反向传播、CNN/RNN、优化器3-4周第三层Transformer与注意力能手推注意力计算、理解位置编码、多头机制2-3周第四层PyTorch实操能自己写训练循环、搭一个mini Transformer3-4周第五层大模型微调与提示工程能跑通LoRA微调、会写结构化提示词3-4周第六层部署与工程化能本地部署推理服务、理解量化与显存优化2-3周这张表不是让你严格按周执行而是让你心里有数整个入门周期大概三到四个月每天投入两小时左右。如果你已经有Python和深度学习基础第一二层可以快速过。1.2 数学要补到什么程度才算够这是被问得最多的问题。我的答案是入门阶段线性代数和概率统计要能看懂公式微积分要理解梯度这个概念但不需要你会手推矩阵求导的每一个步骤。具体来说线性代数你需要掌握向量和矩阵的乘法、转置、点积、矩阵的秩和特征值的基本概念。为什么因为Transformer里到处都是矩阵乘法Q乘K的转置、注意力权重乘V这些如果看不懂维度变化你连代码里的shape都对不上。概率统计你需要掌握条件概率、贝叶斯公式、期望和方差、常见分布正态、均匀、类别分布。为什么因为语言模型本质是在建模一个概率分布softmax输出的就是下一个token的概率交叉熵损失就是最大似然估计的变形。微积分你需要掌握偏导数、链式法则、梯度的几何意义。为什么因为反向传播就是链式法则的工程实现你不理解链式法则就永远搞不懂为什么梯度会消失、为什么要用残差连接。提示不要专门花一个月去啃数学教材再回来学大模型。正确的做法是用到什么补什么在学Transformer时遇到softmax不懂就回去看softmax的数学定义和求导这样学得又快又牢。1.3 编程语言和工具链的选择逻辑大模型领域的事实标准是Python这个没有争议。但Python生态里工具很多入门阶段不要贪多。我的建议是Python基础语法过关之后直接上PyTorch不要先学TensorFlow再转。原因很简单现在开源大模型和微调框架绝大多数是PyTorch生态Hugging Face的transformers库、peft库、accelerate库全是PyTorch优先你学TensorFlow再转过来是浪费时间。除了PyTorch你还需要熟悉几个基础工具NumPy用于数组操作pandas用于数据处理matplotlib用于画loss曲线。这些不需要精通会查文档会用就行。至于框架这个词热词里出现了springboot框架、若依框架、pytest框架、agent框架等等这些和深度学习框架不是一回事。如果你是从Java后端转过来的要注意区分Spring Boot是Web开发框架pytest是测试框架而大模型语境下的框架通常指PyTorch、TensorFlow这类深度学习框架或者LangChain、LlamaIndex这类大模型应用框架。别把概念混在一起。2. 机器学习地基怎么打才不虚2.1 从机器学习是什么到它解决什么问题机器学习这个词听起来玄乎本质就一句话让程序从数据里自动找规律而不是人把规则一条条写死。传统编程是你写if-else机器学习是你给数据和答案让它自己拟合出一个函数。举个例子你要做一个垃圾邮件分类。传统做法是你总结规则包含中奖就判垃圾但骗子换个词你就失效了。机器学习做法是你给它一万封标注好的邮件它自己学出一个从邮件文本到是否垃圾的映射函数。这个函数可能很复杂但它是从数据里学出来的泛化能力比手写规则强得多。入门阶段你需要搞清楚几个核心概念监督学习有标签、无监督学习无标签、损失函数衡量预测和真实差距、优化让损失变小、过拟合训练集表现好测试集差。这几个概念是后面所有内容的基石。热词里有个计算机视觉和机器学习区别这其实是个常见混淆。机器学习是大范畴计算机视觉是机器学习的一个应用领域专门处理图像。深度学习是实现机器学习的一种方法用多层神经网络。所以关系是机器学习 深度学习 具体应用CV、NLP等。大模型属于深度学习也属于机器学习只是规模特别大。2.2 周志华《机器学习》这本书到底该怎么读热词里出现了机器学习周志华和机器学习期末复习说明很多人是学生在准备考试或者系统学习。周志华老师的《机器学习》俗称西瓜书确实是中文世界里最好的机器学习入门教材之一但我要说句实话这本书不适合从头到尾硬啃。西瓜书的特点是覆盖面广、数学推导严谨但正因为严谨对初学者不太友好。我的建议是把它当字典用先看前几章的绪论、模型评估与选择、线性模型把基本概念建立起来然后跳到你需要的那一章。比如你学Transformer时想补注意力机制的前身可以去看神经网络那一章想理解损失函数可以看线性回归和逻辑回归的推导。配合西瓜书我强烈建议同时看一些更通俗的材料。热词里的图解机器学习算法 pdf就是一个方向图解类资料用图代替公式帮你先建立直觉再回头看西瓜书的推导会顺畅很多。另外吴恩达的机器学习课程也是经典虽然偏老但概念讲得极清楚适合打地基。2.3 评估指标为什么准确率经常骗人入门阶段最容易忽略但又最重要的是评估指标。很多人训练完模型一看准确率95%觉得大功告成结果上线发现完全不能用。问题出在准确率在不平衡数据集上会骗人。举个经典例子你要检测一种发病率1%的疾病模型什么都不学全部预测健康准确率也有99%。但这个模型毫无价值因为它一个病人都没查出来。这时候你需要看精确率Precision、召回率Recall和F1值。精确率预测为正的样本里真正为正的比例。高精确率意味着宁可漏报不可误报。召回率真正为正的样本里被预测出来的比例。高召回率意味着宁可误报不可漏报。F1值精确率和召回率的调和平均综合衡量。在大模型语境下评估更复杂。语言模型常用困惑度Perplexity分类任务用准确率/F1生成任务用BLEU、ROUGE现在还有用另一个大模型当裁判的LLM-as-a-Judge。入门阶段先把分类指标搞懂后面再扩展。注意不要只盯着一个指标优化。实际项目里指标选择取决于业务目标。医疗检测重召回垃圾邮件过滤重精确推荐系统看AUC和NDCG。指标选错模型训得再好也是白费。2.4 过拟合与正则化模型不是越复杂越好过拟合是机器学习里最核心的问题之一也是面试高频考点。简单说过拟合就是模型把训练数据的噪声也学进去了导致在新数据上表现差。类比一下你背题背的是答案而不是解题方法换一道题就不会了。判断过拟合的方法训练集loss持续下降但验证集loss先降后升两者出现明显分叉。这时候模型开始记忆训练数据了。解决过拟合的常见手段增加数据量、降低模型复杂度、L1/L2正则化、Dropout、早停Early Stopping、数据增强。这些手段背后的逻辑都是限制模型记忆能力逼它学通用规律。L2正则化是在损失函数里加上权重的平方和让权重尽量小模型更平滑。Dropout是训练时随机丢弃一部分神经元逼网络不依赖某几个特定神经元。早停是验证集loss不再下降就停止训练。这些概念在后面学深度学习时会反复出现现在先建立印象。3. 深度学习从神经网络到CNN和RNN3.1 神经网络本质上在做什么深度学习是机器学习的子集核心是神经网络。一个神经网络就是多层函数的复合输入经过一层线性变换加非线性激活再经过一层最后输出。所谓深度就是层数多。为什么需要非线性激活因为如果全是线性变换多层叠加还是线性变换等于一层没有意义。激活函数ReLU、Sigmoid、Tanh引入非线性让网络能拟合复杂函数。反向传播是训练神经网络的核心算法。前向传播算出预测值损失函数算出误差反向传播用链式法则从后往前算每个参数的梯度然后用梯度下降更新参数。这个过程反复迭代损失逐渐下降模型逐渐变好。热词里有个深度学习里的parameter应该不是mb吧这其实是在问模型参数量和显存的关系。参数量是模型里可学习的权重数量单位是个不是MB。但每个参数在显存里占多少字节取决于精度FP32占4字节FP16占2字节INT8占1字节。所以一个70亿参数的模型FP16精度下光权重就要占约14GB显存。这个换算后面部署时会用到。3.2 CNN为什么它擅长处理图像CNN卷积神经网络是深度学习的第一个大成功专门处理图像。它的核心是卷积操作用一个小的卷积核在图像上滑动提取局部特征。为什么CNN适合图像因为图像有两个重要特性局部相关性和平移不变性。局部相关性是说相邻像素关系密切卷积核只看局部就能提取边缘、纹理等特征。平移不变性是说猫在左上角还是右下角都是猫卷积核滑动的方式天然具备这个性质。CNN的典型结构是卷积层提取特征池化层降维最后全连接层分类。经典网络有LeNet、AlexNet、VGG、ResNet。ResNet引入残差连接解决了深层网络梯度消失问题这个残差思想后来被Transformer继承。热词里深度学习模型cnn识别恶意软件是一个具体应用把恶意软件的二进制文件转成图像字节序列按灰度图排列然后用CNN分类。这类应用说明CNN不只处理自然图像任何有局部结构的数据都可以。3.3 RNN与序列建模的困境图像是空间数据语言是序列数据。处理序列的经典网络是RNN循环神经网络。RNN的核心是记忆每个时间步的输出不仅取决于当前输入还取决于上一步的隐藏状态。RNN的问题很明显长序列上梯度容易消失或爆炸导致它记不住太久之前的信息。LSTM和GRU通过门控机制缓解了这个问题但本质上还是串行计算无法并行训练慢。这就是Transformer出现的背景。Transformer用注意力机制替代循环结构实现了并行计算和长距离依赖建模。可以说没有RNN的困境就没有Transformer的动机。理解这一点你才能理解为什么Transformer是革命性的而不是又一个网络结构。3.4 深度学习入门该看什么材料热词里深度学习入门和python深度学习教程是高频搜索。我的推荐是先看《深度学习入门基于Python的理论与实现》鱼书这本书用纯Python和NumPy从零实现神经网络不依赖框架能让你彻底理解反向传播。看完鱼书再看《动手学深度学习》李沐这本基于PyTorch覆盖CNN、RNN、注意力、Transformer而且有免费在线版和视频。两本书的定位不同鱼书帮你理解原理动手学帮你上手框架。先鱼书后动手学顺序不要反。如果你时间紧至少把鱼书的前五章和动手学的Transformer章节看完。4. Transformer大模型的真正起点4.1 注意力机制到底在注意什么Transformer的核心是自注意力Self-Attention。用一句话解释序列里每个词都去看其他所有词根据相关性决定从它们那里取多少信息。具体计算分三步每个词生成Query查询、Key键、Value值三个向量。用当前词的Query去和所有词的Key做点积得到相关性分数softmax归一化成权重再用权重对所有Value加权求和得到当前词的新表示。类比一下你在图书馆找书Query是你的需求Key是每本书的标签Value是书的内容。你拿需求去匹配所有标签匹配度高的书你多读匹配度低的少读最后综合得到你要的知识。这就是注意力的直觉。为什么要除以根号d_k因为点积的方差随维度增大而增大softmax会变得极端一个权重接近1其他接近0梯度消失。除以根号d_k把方差拉回1附近训练更稳定。这个细节面试常问。4.2 多头注意力为什么要多个头单个注意力头只能学一种相关性模式。多头注意力是并行跑多个注意力每个头有自己的Q、K、V投影矩阵学不同的关注模式。比如一个头关注语法关系一个头关注语义相似一个头关注位置邻近。多个头的输出拼接后再做一次线性变换得到最终输出。头的数量是超参数常见8头、12头、16头。每个头的维度是总维度除以头数保证总计算量不变。热词里transformer架构模型参数计算是很多人关心的。以标准Transformer为例多头注意力的参数量大约是4 * d_model^2Q、K、V、输出投影各一个d_model x d_model矩阵前馈网络参数量约8 * d_model^2两个线性层中间维度通常是4倍。所以一层Transformer大约12 * d_model^2参数。这个估算在你想理解模型大小时很有用。4.3 位置编码没有它Transformer就是词袋注意力机制本身是位置无关的把句子打乱注意力计算结果不变。但语言是有顺序的狗咬人和人咬狗完全不同。所以需要位置编码把位置信息注入。原始Transformer用正弦余弦位置编码用不同频率的三角函数生成位置向量加到词嵌入上。这种编码的好处是可以外推到训练时没见过的长度。后来BERT用可学习的位置嵌入GPT系列也用可学习的。现在还有旋转位置编码RoPE被Llama等模型采用效果更好。理解位置编码的关键是它不是可有可无的装饰而是Transformer能处理序列的必要条件。没有位置编码Transformer就退化成一个复杂的词袋模型。4.4 编码器-解码器与三种架构流派原始Transformer是编码器-解码器结构编码器处理输入解码器生成输出中间用交叉注意力连接。这种结构适合翻译这类输入输出都是序列的任务。后来演化出三个流派Encoder-only代表是BERT只保留编码器适合理解类任务分类、抽取、情感分析。Decoder-only代表是GPT系列、Llama只保留解码器适合生成类任务也是当前大模型的主流架构。Encoder-Decoder代表是T5、BART适合序列到序列任务翻译、摘要。为什么现在大模型都是Decoder-only因为生成任务更通用而且Decoder-only结构在规模化上更简单、更容易扩展。理解这三个流派的区别你就能看懂为什么不同模型的用法不一样。4.5 图解Transformer和手写代码的价值热词里the illustrated transformer和transformer手写是高频。The Illustrated Transformer是Jay Alammar的经典博客用图把Transformer讲得极清楚强烈建议看。看完图之后一定要手写一遍Transformer。手写的价值在于你会被迫面对每一个维度、每一个矩阵乘法的shape、每一个mask的细节。看图和看代码是两回事只有自己写一遍才能真正理解。建议用PyTorch手写一个mini Transformer跑一个简单的序列复制任务验证它能工作。手写时最容易踩的坑mask写错导致模型看到未来信息、位置编码维度对不上、多头拼接时维度顺序搞错。这些坑踩一遍比看十遍教程都管用。5. PyTorch实操从张量到训练循环5.1 张量操作PyTorch的基本功PyTorch的核心是张量Tensor可以理解为GPU上的NumPy数组。入门阶段要熟练掌握创建张量、形状变换view、reshape、permute、广播机制、索引和切片、矩阵乘法。最容易出错的是维度。Transformer里到处都是batch、sequence、hidden三个维度的变换permute用错顺序结果就完全错了。我的建议是每写一步都print shape养成习惯。别嫌麻烦这是最快的调试方式。设备管理也是基本功。模型和数据必须在同一个设备上CPU或GPU否则报错。用.to(device)统一管理device用torch.device(cuda if torch.cuda.is_available() else cpu)自动判断。5.2 自动求导与优化器PyTorch的自动求导autograd是它最强大的功能。你只需要定义前向计算PyTorch自动构建计算图调用.backward()就自动算出所有梯度。训练循环的标准写法for epoch in range(epochs): for batch in dataloader: inputs, labels batch inputs, labels inputs.to(device), labels.to(device) optimizer.zero_grad() # 清空上一步梯度 outputs model(inputs) # 前向传播 loss criterion(outputs, labels) # 计算损失 loss.backward() # 反向传播 optimizer.step() # 更新参数这四步是铁律清空梯度、前向、反向、更新。新手最常犯的错是忘记zero_grad()导致梯度累加训练发散。优化器入门用Adam或AdamW就够了学习率从1e-3或1e-4开始试。学习率太大会震荡太小会收敛慢。可以配合学习率调度器如余弦退火动态调整。5.3 用PyTorch搭一个mini Transformer搭mini Transformer是检验学习成果的最好方式。结构包括词嵌入、位置编码、多层Transformer Block每层含多头注意力和前馈网络、输出层。关键实现细节注意力要加mask防止看到未来token。残差连接和LayerNorm不能少否则深层网络训不动。Dropout在训练时开启推理时关闭。搭完之后用一个简单任务验证比如序列反转或复制。如果模型能学会说明你的实现是对的。这个过程可能反复调试但调通的那一刻你对Transformer的理解会上一个台阶。5.4 调试技巧loss不降怎么办loss不降是新手最常遇到的问题。排查顺序检查数据标签对不对输入有没有归一化有没有NaN。检查学习率太大导致震荡太小导致不动。先试1e-3。检查模型参数量是否合理有没有梯度消失打印梯度范数。检查损失函数分类用交叉熵回归用MSE别用错。检查设备模型和数据是否在同一设备。还有一个万能技巧先用一个极小数据集比如10条过拟合。如果模型连10条都记不住说明实现有bug如果能记住说明模型没问题是数据或超参的问题。这个技巧能快速定位问题所在。6. 大模型微调与提示词工程6.1 全量微调、LoRA和QLoRA怎么选大模型微调是当前最热的方向。热词里大模型微调实战和大模型微调说明需求很旺。微调分几种全量微调更新所有参数效果最好但显存需求极大。70亿参数模型全量微调需要上百GB显存个人基本玩不起。LoRA冻结原模型只训练低秩矩阵参数量减少到原来的千分之一甚至更少显存需求大幅降低效果接近全量微调。QLoRA在LoRA基础上把原模型量化到4bit进一步降低显存单张消费级显卡就能微调70亿模型。选择逻辑显存充足追求极致效果用全量显存有限用LoRA显存极有限用QLoRA。对个人开发者QLoRA是最实用的选择。6.2 LoRA微调的完整流程用Hugging Face的peft库做LoRA微调流程大致是加载预训练模型和分词器。配置LoRA参数rank、alpha、target_modules。用get_peft_model包装模型。准备数据集格式化成模型需要的输入。配置训练参数学习率、batch size、epochs。用Trainer或自己写循环训练。保存LoRA权重很小几十MB。推理时加载原模型LoRA权重。关键参数rank决定低秩矩阵的维度越大容量越强但参数越多常用8到64。alpha是缩放因子通常设为rank的2倍。target_modules指定哪些层加LoRA通常加在注意力的Q、V投影上。注意LoRA微调的学习率要比全量微调大常用1e-4到3e-4。因为只训练少量参数需要更大的步长才能有效更新。6.3 提示词工程不训练也能用好大模型提示词工程是不改模型参数、只通过设计输入来引导模型输出的技术。热词里大模型提示词工程与上下文工程是当前热点。核心技巧明确指令告诉模型做什么而不是让它猜。比如把下面这段话翻译成英文比处理这段话好。提供示例few-shot给几个输入输出示例模型会模仿。分步思考让模型一步步推理Chain of Thought复杂任务准确率显著提升。角色设定给模型一个角色比如你是一个资深Python工程师输出风格会变化。结构化输出要求JSON格式方便程序解析。上下文工程是提示词工程的延伸关注的是如何组织上下文窗口里的信息包括系统提示、历史对话、检索到的文档等。核心挑战是上下文长度有限要决定放什么、怎么排序。6.4 微调数据准备质量比数量重要微调效果好不好数据占七成。常见问题数据量少、质量差、格式不统一。我的经验几百条高质量数据就能让模型在特定任务上明显提升前提是数据干净、格式一致、覆盖任务的主要模式。数据准备步骤明确任务定义输入输出格式。收集或构造数据确保多样性。清洗数据去掉噪声和错误标注。划分训练集和验证集9:1或8:2。格式化成模型需要的模板。数据格式通常是instruction-input-output三段式或者对话式的messages列表。不同模型有不同模板用错模板效果会大打折扣一定要看模型的文档。7. 部署、量化与显存优化7.1 本地部署大模型的几种方案热词里大模型部署和大模型下载平台是高频。本地部署大模型常见方案transformers PyTorch最灵活适合研究和调试但推理速度一般。vLLM高吞吐推理框架用PagedAttention优化显存适合服务化部署。llama.cppC实现支持CPU推理和量化适合资源受限环境。Ollama封装好的本地部署工具一条命令跑模型适合快速体验。选择逻辑研究调试用transformers生产服务用vLLM个人电脑用Ollama或llama.cpp。7.2 量化用精度换显存量化是把模型参数从高精度FP32/FP16降到低精度INT8/INT4减少显存占用和加速推理。代价是精度损失但通常很小。常见量化方法GPTQ、AWQ、GGUF。GGUF是llama.cpp用的格式支持CPU和GPU混合推理个人电脑最常用。4bit量化的70亿模型显存占用从14GB降到约4GB消费级显卡就能跑。量化的取舍4bit通常够用3bit开始明显掉点2bit基本不可用。如果任务对精度要求高用8bit如果只是聊天体验4bit完全够。7.3 显存不够时的排查与优化显存不够是部署和微调时的常见问题。排查思路算清楚模型权重占多少参数量 × 精度字节数。算清楚激活值和梯度占多少这部分和batch size、序列长度强相关。算清楚优化器状态占多少Adam优化器每个参数要存两个状态显存翻倍。优化手段降低batch size、缩短序列长度、用梯度累积模拟大batch、用梯度检查点用计算换显存、用LoRA减少可训练参数、用量化降低权重精度。提示微调时如果显存不够优先试梯度累积和梯度检查点这两个不需要改模型结构效果立竿见影。7.4 推理服务的工程化考量把模型部署成服务要考虑的不只是能跑起来。吞吐量、延迟、并发、成本都是问题。关键优化点批处理把多个请求合并成一个batch推理、KV Cache缓存注意力计算的中间结果避免重复计算、连续批处理vLLM的核心优化动态合并请求。这些技术能把吞吐量提升几倍到几十倍。监控也很重要记录每个请求的延迟、显存占用、GPU利用率。上线前做压力测试搞清楚系统的瓶颈在哪。8. 一些踩坑经验和学习建议8.1 不要陷入教程地狱我见过太多人收藏了几十个教程买了好几门课但一行代码没写过。这是典型的教程地狱一直在输入从不输出。正确的做法是看一个概念立刻动手验证。学注意力就手写注意力学微调就跑一个LoRA学部署就本地起一个服务。写代码遇到问题再回去查资料这种问题驱动的学习效率远高于从头看到尾。8.2 论文要读但不要一开始就读论文是知识的源头但入门阶段读论文效率低。建议的顺序是先看博客和图解建立直觉再看代码理解实现最后读论文补理论。这样读论文时你已经有框架了能快速定位重点。必读的论文Attention Is All You NeedTransformer原始论文、BERT、GPT-3。这三篇读完大模型的主线就清楚了。其他论文按需读。8.3 建立自己的知识体系大模型领域变化快今天的技术明天可能就过时。但底层原理变化慢注意力机制、梯度下降、概率建模这些是长期有效的。把精力放在底层原理上上层工具和模型更新时你能快速迁移。建议维护一个自己的笔记库把学到的概念、踩过的坑、跑通的代码都记下来。不用很正式能让自己回顾就行。我自己的笔记里最有价值的不是概念解释而是当时为什么这么选和踩了什么坑这些是教程里不会写的。8.4 找项目练手别只学不练学到最后一定要做项目。项目不用大能跑通就行。几个适合入门练手的项目用LoRA微调一个小模型做特定分类任务。搭一个RAG检索增强生成问答系统。部署一个本地聊天服务加上流式输出。复现一个经典论文的核心实验。做项目的过程中你会遇到各种教程里没讲的问题解决这些问题的过程就是真正成长的过程。做完一个项目你对大模型的理解会比看十篇教程都深。最后分享一个我自己的体会大模型入门最难的不是某个具体技术而是建立从数据到模型到部署的完整链路认知。你不需要每个环节都精通但要知道每个环节在干什么、为什么这么干、出了问题去哪查。有了这个认知地图剩下的就是按需深入遇到什么学什么。这条路我走过不快但踏实。