从零入门AI工程：避开自学的坑，掌握RAG与微调实战

常年带人入门的人都有一个共识AI工程这个词已经被用烂了但多数人对它的理解是错的。热搜上挂着ai-engineering的时候我看到大量新手提问集中在我数学不好能不能学是不是每天调接口就行要不要一开始就学Transformer源码。这些问题我在从零起步的那一年全都踩过所以这篇东西不是教科书式的入门指南而是把我自己从连Anaconda都不会装到能独立交付AI功能的全过程、路线、翻车记录和事后复盘一次性讲清楚。我从头到尾没有科班背景靠的是下班之后每天两到三小时的投入。如果你正在纠结从零开始到底先学什么、怎么练、学多少才算够这篇文章大概率能帮你省下至少三个月的试错时间。我会把每个阶段该做什么、为什么这么做、做到什么程度就该停全部拆开讲。1. 先把AI工程掰开揉碎它和热搜里的想象完全不是一回事我见过太多人被AI工程这四个字带偏。有人以为它是搞科研天天啃论文推导公式有人以为它是写前端页面的升级版会用Python调个接口就完事。两个方向都极端真实世界里AI工程师干的事介于两者之间而且偏工程的比例远比你想象的高。1.1 大多数公司里的AI工程师日常工作长什么样我复盘了自己这一年实际交付的活儿排在前面的不是训练模型而是这些从各种格式混乱的数据源里清洗、去重、构造训练或评测数据集拿开源模型做适配最常见的是LoRA微调或Prompt调优而不是从零预训练搭RAG检索增强生成管线把内部文档变成能问答的知识库设计离线评测集用LLM-as-judge或规则打分评估模型效果把模型封装成服务处理并发、延迟、成本和稳定性问题上线之后持续监控输入输出发现效果退化就重新调数据或调参你会发现AI工程师的核心能力不是发明模型而是让已有模型在真实业务里稳定、可控、省地干活。这和算法研究员有本质区别研究员的目标是论文里的SOTA数字工程师的目标是线上用户的满意度、成本和可维护性。1.2 从零开始到底是指什么标题里的from scratch经常被误解为从写一个神经网络开始不用任何现成库。真这么学三个月就会放弃。我理解的from scratch是从零基础不懂机器学习、不熟Python、没做过工程项目起步最终具备独立完成AI功能交付的能力。这个定义决定了你的学习策略你不需要推导所有论文公式的能力但必须具备读懂代码、改造代码、发现和修复问题的能力。把这句话记在脑子里后面所有的路线设计都围绕它展开。2. 自学路线图编程、数学、理论各学多少才算够从零开始最常见的死法是贪多学完一门课还有一门刷完一本书还有一本始终不敢动手。我自己的经验是这三块都有各自够用的最小边界过了边界就是在用低效率的方式自我感动。2.1 Python编程语法是基础工程习惯才是分水岭Python语法部分不需要啃完那些一千页的教材。你需要熟练掌握的是变量与数据结构、函数与类、文件读写、异常处理以及NumPy和Pandas的基本操作。这些够你处理数据和读写模型代码了。真正的分水岭是工程习惯。我见过太多代码写得像一次性脚本的学员环境装得乱七八糟代码只在能运行的那台机器上能跑改了两版之后就回不去了。所以在你学Python的第一周就应该同步学三样东西虚拟环境conda或venv都行确保每个项目依赖隔离Git至少会clone、add、commit、push以及最基础的branch操作Docker能读懂Dockerfile、会构建镜像和跑容器为什么编程基础这一节里混进了Docker因为现在的开源模型项目几乎标配Docker部署你不会这个复现一个项目都会卡在第一步。这不是进阶技能是生存技能。2.2 数学别去上考研数学班按需学就行很多零基础的人一上来就被数学劝退这非常可惜。必须澄清的是AI工程工作需要你掌握的不是推导能力而是直觉和读代码能力。真正高频用到的数学掰手指头都数得过来线性代数矩阵乘法、转置、形状变换。90%的调试错误都和shape不匹配有关概率统计分布、期望、条件概率的基本概念以及评测时你要懂的准确率、召回率、置信区间微积分链式法则的直觉用来理解反向传播和梯度下降在干什么学习的正确姿势是遇到了再补。我第一次调学习率调不明白的时候花了半天把梯度下降的直观原理搞清楚效果比当初啃一个月教材好得多。遇到看不懂的公式先去Stack Overflow或博客搜XX直觉解释通常十分钟就能建立概念然后回到代码里验证。2.3 深度学习理论读得懂、改得动不需要从零造轮子理论部分有一个最小可行集学完之后你能看懂主流开源项目里80%的代码损失函数交叉熵、MSE、优化器Adam、SGD、正则化、过拟合与欠拟合Transformer的核心组件注意力机制、QKV、位置编码、Tokenizer。这部分至少要有直觉层面的理解因为RAG、微调、Prompt的很多坑都源于此不要一上来就去读从头实现一个GPT这类硬核教程。我是把这类文章当成字典用的——遇到一个不认识的组件就去查对应的那一小节搞清楚它解决什么问题就放下。等到第三阶段做项目时这些东西会自然串起来。这个阶段的具体安排我推荐用两三周语法一周末矩阵概率三四周深度学习基础的节奏总时长控制在两个月以内。超过这个时间还停留在学理论阶段就是需要警惕的信号。3. 三阶段练手法复现、改造、独立设计理论知识如果没有实践锚定遗忘速度会快到让你怀疑人生。但实践也不是拿到什么做什么而是按贴地飞行的顺序来先完完整整跑通别人的项目再有意识地改造它最后逼自己独立设计一个小系统。三个阶段分别对应三种能力的养成。3.1 复现阶段目标不是学会了是跑通了第一阶段选项目很重要我给三个筛选标准README清晰、配置简单、社区活跃且有Issue记录。我当时选的是一个基于开源大模型的中文对话微调项目因为它同时覆盖了数据处理、训练脚本、推理demo三段内容。具体操作步骤我给你梳理一下照着做就行用conda创建干净的Python环境按README安装依赖把模型和数据集下载到本地确认路径配置无误先跑通推理demo确认模型能正常输出再跑一次最小规模的微调把训练轮数调到很小确认训练流程完整记录每一步的耗时、显存占用和报错哪怕成功也要记录报错这一阶段的目的有且只有一个建立对AI项目长什么样的整体认知。你会第一次看到config文件里那些参数、数据预处理脚本、训练日志和checkpoint管理这些在教程里都被抽象成一行字在真实项目里才是主体。复现过程中必然报错这是好事。我当时遇到的典型报错包括CUDA版本不匹配、tokenizer加载失败、显存溢出。处理报错的通用思路是先读完整错误信息再搜索最后看repo的Issue区。遇到的每个报错都值得记进你自己的排错笔记里后面你会发现很多坑是结构性的换个项目还会再踩。3.2 改造阶段给项目提出你自己的需求跑通一次就停能力停留最多一周。第二阶段要做的是破坏然后重建给项目加一个README里没有的需求。给你三个具体练法由易到难换数据集把训练数据换成另一批主题相近的语料观察模型输出变化顺便体验数据清洗全过程调整Prompt模板改写推理阶段的Prompt测试它对输出格式和内容的影响加一个评测模块拿几十条测试问题写脚本统计回答准确率或相似度形成最朴素的评测闭环这三个练法的共同价值是让你区分哪些参数是模型内核哪些是工程外壳。换数据你知道要重新预处理和训练调Prompt你知道不用重训模型只要改推理代码。这种判断力是AI工程师和只会跑教程的人的根本差别。我强烈建议在这个阶段把训练日志、实验记录、效果对比都写进一个简单的表格里。哪怕就是Excel你的实验管理习惯也是从这个时候开始建立的。将来你面对几十组实验配置时会发现这个习惯救了你的命。3.3 独立设计阶段从零拼一个RAG问答系统第三阶段是真正的毕业设计不参考任何现成教程独立实现一个RAG问答系统。为什么选RAG因为它同时涉及嵌入模型、向量存储、大模型调用、服务封装四块核心工程能力而且它就是你找工作面试时最常被问到的实战场景。我的建议路线是这样每一步都不要跳过选一批你自己的语料比如工作文档或学习笔记整理成markdown写脚本把文档切片调用嵌入模型生成向量存入向量数据库实现检索逻辑根据用户问题和文档向量的相似度召回Top-K片段把召回片段拼进Prompt模板调用大模型生成回答用FastAPI把整个流程包成一个HTTP服务让用户能通过接口提问准备20-30个测试问题手动标注检索是否相关、回答是否正确形成你的评测集做到第6步时你其实已经经历了一个完整的AI应用交付周期。你写出的代码量不大但每一行都是自己设计、自己调试的这种经验密度远超十几个教程的搬运。我当时做完这个项目之后再去看任何RAG框架的文档都感觉它们在我脑子里已经有地基了。4. 模型落地上线时你才会遇到的那些工程问题很多人练手项目停在notebook里所以永远不会遇到AI工程真正的难点。我做完RAG项目后信心满满地要上线结果被一系列工程问题教了一课。这些问题是每一个从零开始的人迟早要面对的我提前帮你趟一遍。4.1 数据管线才是真正的时间黑洞我做微调项目时训练本身只跑了几小时但数据清洗、格式转换、去重和标签修正花了大半个月。真实比例就是这样——你在生产环境里花在数据上的时间是训练和推理的好几倍。常见的数据坑包括文本里面混入乱码和特殊字符同一个语义被多种表达重复记录导致模型在重复模式上过拟合标签或答案标注不一致让模型学到错误关联。这些问题都不会在教程数据里出现但只要你换自己的数据马上就原形毕露。解决思路不是更仔细而是建立数据管线的自动化检查写脚本统计文本长度分布、检测近似重复样本、检查字段缺失率把检查脚本作为数据预处理的标准步骤。数据质量报告比你自己肉眼扫一遍要可靠得多。4.2 部署与性能GPU不是万能解药第一次部署大模型时我默认买个好点的GPU就完事了结果被现实教育了。真实服务需要考虑延迟、吞吐和成本的三角平衡。量化是最直接的优化手段把模型从FP16压到INT8或INT4显存占用能降一半以上速度还有提升。我当时把7B模型量化后单卡推理延迟从1.5秒降到0.8秒效果损失在可接受范围。开发时用大模型测试时用小模型线上流量大再切回大模型这类按场景分级选模型的思路是工程优化的常规操作。还有一个容易被忽视的决策本地部署永远不是唯一选项。如果你的瓶颈是GPU成本托管推理服务按Token计费可能是更优解反过来如果你对数据隐私要求高、交互频率高本地部署才划算。我的经验是先用托管服务验证产品逻辑再决定要不要自建。4.3 评测是AI应用的灵魂但很多人不重视这是我认为整条路上最容易被低估的环节。没有评测你就无法判断一次Prompt改动是变好还是变坏无法向团队证明新模型比旧模型强也无法及时发现线上效果退化。评测体系分三层第一层是离线评测集固定一批测试题每次改动都跑一遍拿分数第二层是自动化评估用规则或更强大的大模型给回答打分把评测成本从人工降到批量脚本第三层是线上监控记录用户的真实反馈或业务指标。我踩过最疼的坑是评测集只有二三十条改了一版Prompt后分数涨了觉得大功告成结果上线后真实用户反馈变差了。原因是评测集太窄覆盖不到长尾场景。后来我把评测集扩到几百条按业务场景分层效果评判才变得可靠。5. 从零开始这一年我最想撤回的五个决定最后说点真话。那些三个月成为AI工程师的标题党不会告诉你的是我踩过的这些可以避免的坑。第一我曾花三周时间系统补数学差点劝退自己。这三周里我学到的东西后来发现两周就能通过边做边查补回来。正确做法是尽早进入代码环节数学靠项目驱动按需补而不是在动手前追求完备的基础。人脑对没有使用场景的抽象概念遗忘极快这个反直觉的事实越早接受越好。第二我跟完了太多手把手教程却独立完成得太少。手把手教程给你一种懂了的幻觉但实际上手生疏。每跟一个教程我都逼自己隔三天不看答案从头独立实现一遍核心流程这才把知识变成技能。第三我一度把能跑通等同于做完了。跑通只是证明代码没报错完全没触及效果好坏、边界情况和稳定性。现在我的完成标准是跑通、评测通过、异常情况有预案三件事都做完才算一个任务闭环。第四我不写笔记三个月后回头看一片空白。这是我最大的教训。AI工程的细节量大到惊人一个学习日志或博客哪怕只是记录踩坑和决策思路也能让三个月后的你快速回到状态。后来我每周输出一篇学习记录效果远好于收藏夹里的一千个网页。第五我一开始迷信自建部署忽略成本账。早期一个简单功能我就上GPU自建月成本高得离谱。后来养成了先算账的习惯预估请求量、单次推理耗时、单位Token成本再决定是自建还是走托管。工程决策的本质是权衡不是技术崇拜。现在回头看我那条from scratch的路最关键的转折点其实不是掌握了什么高深算法而是把学习方式从看完再动手改成边动手边补。AI这个领域的知识是网状的不是线性的你永远不可能准备充分之后再开始。你能做的就是把第一个小项目的边界画得足够小小到保证自己能独立走完然后从那里开始滚动扩张。如果你也准备开始我给最后一个具体建议不要从学会AI这种宏大目标出发请从我要让一个模型回答关于XX的50个问题这种小目标出发。你需要的所有数学、理论和工程技能都会在完成这个目标的过程中被你主动补上——到那个时候你会发现自己已经在路上了。