两小时从零搭建AI Agent：Dify与DeepSeek实战全记录

周末本来想躺平刷剧结果刷着刷着刷到有人用AI Agent自动整理日报、抓取数据、回邮件手一痒就翻开了文档。说好随便看看结果一折腾就是两个小时从零到能跑中间还踩了好几个坑。装完之后最大的感受是这玩意儿没有热搜里吹得那么玄乎但也没有某些教程里讲的那么无脑。这篇就把我这两个小时里做的事、踩的坑、以及顺手理清楚的概念一次性写清楚适合想入门的开发者也适合被Agent、LLM、AI模型到底是什么关系这类热搜词绕晕的同学。1. 先搞明白Agent、LLM、AI模型到底啥关系1.1 DeepSeek到底算哪一类最近DeepSeek热度非常高很多人问的第一个问题就是DeepSeek是Agent吗AI模型是什么LLM又是什么我尽量用人话解释。AI模型是最大的范畴泛指用大量数据训练出来的程序能完成分类、预测、生成这类任务。LLMLarge Language Model大语言模型是AI模型里专门处理语言的那一类DeepSeek、GPT、Claude、Qwen、Llama这些都属于LLM。而Agent是另一层概念它不是一个模型而是把模型当成大脑来用的一套程序系统。打个比方。LLM像个刚从名校毕业的高材生知识储备丰富但你问一句他答一句你不说他不动。Agent像个雇来的私人助理你只需要交代帮我安排下周的会议并准备材料他会自己拆成多个步骤去查日历、搜资料、写文档、逐项确认最后给你交付结果。所以DeepSeek属于大脑这一层属于LLM是Agent的核心组件之一但它本身不是Agent。1.2 一个Agent到底由哪些部分组成网上面试和教程里关于Agent组成结构的说法很乱其实拆开来看就五块模型LLM负责理解意图、拆解任务、生成内容是整个系统的大脑。记忆Memory短期记忆就是多轮对话的上下文长期记忆一般存在向量数据库里让Agent记住用户偏好和历史结论。工具ToolsAgent能调用的外部能力比如搜索引擎、数据库、文件系统、各种API接口。编排循环Agent Loop决定下一步做什么的核心逻辑Agent之所以是Agent就靠这个循环。技能Skill把常用任务的提示词、工具调用方式打包成一套可复用的流程按需加载。流程大致是这样用户输入 → 模型理解并判断是否需要工具 → 如果需要就调用工具并拿到结果 → 模型观察结果再做下一步决策 → 循环直到任务完成 → 输出最终答案。你可能会发现这个循环和人在做项目时的PDCA很像本质就是计划-执行-检查-再行动的自动化版本。1.3 为什么说Agent不是高级聊天机器人聊天机器人的核心是你说一句、我回一句模型本身没有目标感。Agent的核心是有一个目标自己拆解自己执行自己验证。差就差在编排循环和工具调用这两个环节上。举个实际的例子。普通聊天机器人你问帮我看看这周有哪些未读的紧急邮件它只能回我没办法访问你的邮箱。而Agent可以调用邮件API拉取未读邮件列表再写一段代码按标题关键词和发件人筛选出紧急程度高的邮件最后用模型总结出三封最紧急的邮件并附上处理建议。整个过程是模型驱动的但它不止动嘴还动手。这也是为什么很多企业级场景Spring AI、Jenkins AI Agent这类都在往Agent方向走因为只有能调用工具的AI才真正产生了生产力。2. 动手前的思路拆解两小时怎么规划2.1 方案选型为什么先选Dify而不是从零写LangGraph决定开干之前我在两条路线之间犹豫了一下。一条是代码路线用LangChain/LangGraph或者AutoGen从零写一个Agent灵活度高能精确控制每一步逻辑另一条是平台路线用Dify这类开源平台通过界面配置完成Agent搭建部署快、可视化适合先跑通再深挖。说实话在两小时这个限制下我选了Dify。理由有三个第一Dify自带模型接入、知识库、工具编排、对话流和工作流省去大量底层代码第二它支持接入DeepSeek这类对OpenAI兼容的模型接口配置很简单第三跑通之后还能导出来看底层逻辑后续深入学习不耽误。等你理解了Agent的运行机制再回头用LangGraph从零写会轻松很多。如果你本来就是Java技术栈也可以关注Spring AI结合Spring Cloud那套企业化方案落地会更贴近现有架构。但新手入门我建议先从Dify或者Coze这类平台切入别一上来就啃框架源码容易劝退。2.2 模型选型本地Ollama还是DeepSeek API模型选择是个绕不开的问题。本地方案我用Ollama跑过Qwen和较小尺寸的Llama好处是数据不出内网、不花钱、延迟可控缺点是笔记本带不动大参数模型效果差距明显。API方案我用了DeepSeek的接口速度快、效果稳定成本按量计费对个人实验来说非常低。我的建议是如果你机器配置一般别纠结直接用API。本地跑7B或14B的模型做问答还能凑合但做Agent任务拆解和工具调用时小模型的判断力明显不够经常该调工具不调不该调工具瞎调。Agent对模型的要求比聊天高得多不要在模型这一步省。2.3 先定一个最小功能清单两个小时能做的事是有限的所以我给自己定了三个目标做完就算成功部署好Dify成功接入DeepSeek模型。创建一个基础的对话型Agent能进行多轮对话。给Agent挂上知识库和至少一个外部工具让它能查数据和检索文档。至于多Agent协作、技能编排、复杂工作流这些属于进阶内容等基础跑通再玩。目标定得小一点反而容易跑完也容易获得成就感。3. 实操记录从零到能跑的完整过程3.1 第一步准备环境Dify官方推荐用Docker Compose部署所以第一步是确认机器上有Docker。我是在一台8核16G的Linux服务器上操作的其实4核8G也够用因为主要计算量在API那边Dify本身只是跑编排服务。安装Docker和Composecurl -fsSL https://get.docker.com -o get-docker.sh sudo sh get-docker.sh sudo systemctl enable docker sudo systemctl start docker装完之后验证一下docker --version docker compose version注意Dify部署时会拉取多个镜像API、Worker、PostgreSQL、Redis、向量数据库等网络环境不好时拉取会比较慢。如果拉取超时可以给Docker配置镜像加速地址这一步能省不少时间。3.2 第二步拉取Dify并启动git clone https://github.com/langgenius/dify.git cd dify/docker cp .env.example .env docker compose up -d启动过程会拉一堆镜像耐心等。起来之后访问 http://服务器IP/install 初始化管理员账号然后进后台。第一次登录后建议先看一眼系统设置把时区、模型密钥这些基础项配好后面会省很多事。3.3 第三步接入DeepSeek模型这一步是我花时间最多的地方因为一开始对模型供应商这个配置不熟。Dify的设置 → 模型供应商里能找到DeepSeek点击后填入API密钥即可。如果列表里没有DeepSeek选项就用OpenAI-API-compatible的方式填把Base URL指向DeepSeek兼容接口模型名填deepseek-chat。配置要点API Key需要在DeepSeek开放平台创建按量计费需要实名认证并充值几块钱足够个人玩很久。模型名称建议填 deepseek-chat这是对话模型deepseek-reasoner 输出带推理过程适合复杂任务但速度和费用都更高一些。填完之后在Dify里随便建一个应用选对话型把模型切到DeepSeek发一句你好能正常回话就说明通了。这个验证动作别跳过模型不通后面全白搭。3.4 第四步创建第一个AgentDify里创建应用时选择Agent类型然后在编排界面配置模型选刚接好的DeepSeek。提示词写清楚角色和任务边界。我写的是你是一个个人助理负责帮我查资料、整理信息、回答工作问题。 回答问题前先确认信息是否充分必要时调用工具获取数据。 涉及计算时务必使用计算器工具不要直接心算。工具Dify自带一些内置工具如计算器、维基百科搜索也可以自定义API工具或者接入MCP服务。记忆打开对话记忆开关并选择存储方式。Dify默认支持数据库存储会话记录也支持接入向量库做长期记忆。配置完发布然后测试。我第一个测试是让它用计算器工具算2537乘以168再除以3看它会不会主动调用工具。第一次它直接硬算答案算错了加上提示词引导涉及计算时务必使用计算器工具之后才正确走工具流程。这个细节让我意识到Agent的智能程度很大一部分取决于你给它的使用说明书写得好不好。3.5 第五步挂上知识库知识库是我这次觉得最值的功能。我把手头几十篇技术笔记整理成TXT和Markdown传到Dify知识库里让它自动分段和向量化。然后在Agent设置里关联这个知识库配置检索模式为向量检索或混合检索。这一步完了之后我试了一个问题按照我的笔记总结一下Kubernetes排障的常用命令。Agent会先从知识库检索相关片段再基于片段整理答案而不是凭空编。对比通用模型的回答知识库方案明显更贴我想要的粒度还会引用来源。对于做个人知识管理、团队FAQ、私有文档问答的场景这套组合非常实用。4. 踩坑实录与排查技巧4.1 问题一模型服务地址配置错误第一次测试对话直接报模型调用失败。查日志发现是模型提供商的地址填错了。Dify里选DeepSeek官方集成时如果版本比较老或者区域网络环境有差异可能需要手动配置。我后来把Base URL改成了DeepSeek兼容地址并且确认模型名与平台上实际可用的模型名完全一致问题才解决。排查方法先在设置 → 模型供应商里点对应模型的测试按钮看原生请求是否通不通就看日志里的HTTP状态码401基本是Key问题404多半是地址或模型名不对。注意模型名必须和供应商平台上的一字不差多一个空格都会报错。4.2 问题二Agent死活不调用工具这是最典型的Agent问题。模型明明有工具可用但它就是不用或者用错参数。我遇到过两次一次是上面说的计算器问题模型选择硬算另一次是让Agent查知识库结果它凭自己的训练数据瞎编答案完全没有检索RAG。解决思路有三个方向。第一优化系统提示词明确告诉它当任务涉及XX时必须调用XX工具不要凭记忆回答第二检查工具的描述是否清晰模型是靠工具的description来决定是否调用的描述写得含糊它就不敢用第三换更强的模型deepseek-chat不够果断的话可以试试deepseek-reasoner或者更大的模型推理模型在工具选择上通常更准确。4.3 问题三上下文一长就失忆多轮对话到二十几轮后Agent开始忘记前面聊过什么。这不是模型笨而是上下文窗口被消耗完早期的内容被截断了。解决方法是分层处理短期记忆靠系统自动保存最近对话长期记忆则用向量数据库保存重要结论和历史偏好每次对话开始时检索相关片段注入提示词。Dify里可以在应用设置的记忆选项卡里配置默认的会话总结功能体验还行。但如果你的场景是知识密集型问答强烈建议挂知识库让Agent以检索结果为准而不是过度依赖对话历史。记住一句话上下文窗口再大也是有限的把记忆放到外部存储里Agent才能真正记住事情。4.4 问题四API费用心里没底用API最怕的是费用失控。我的经验是在供应商后台设置用量预警定期看账单控制工具调用频率减少无意义的循环合理设置最大迭代轮数防止Agent在某些任务上无限循环调用。Dify里可以配置对话的最大迭代次数我一般设为10轮以内既够用又不烧钱。另外一个省钱技巧是简单的日常问答用轻量小模型复杂任务才切到DeepSeek这类大模型。Dify支持给不同应用配置不同模型也能在工作流里按节点指定模型灵活度很高。对个人玩家来说一个月正常玩玩成本也就是一杯咖啡钱。5. 装完之后它能干什么以及我的一点体会5.1 实测的几种用法跑通之后我实测了三个场景效果都不错。第一个是知识库问答。把平时攒的技术笔记导进Dify知识库分段后让Agent基于笔记内容回答具体问题。比起直接问通用模型答案明显更贴合我的实际场景而且会引用来源基本不瞎编。这个场景对个人知识管理非常实用。第二个是网页内容整理。通过自定义工具接了一个抓取网页摘要的API我告诉Agent总结一下这篇文章的要点并提炼行动项。它自己决定调用工具、拿到内容、再总结整个过程完全不需要我干预。这一下让我感受到Agent和聊天机器人的本质差异。第三个是自动生成周报。我写了一个简单工作流收集本周的提交记录和会议纪要 → 用Agent整理成结构化周报 → 输出Markdown。跑通的那一瞬间确实有点上头但我也清楚这个工作流很浅主要是把固定流程自动化离真正的智能体还有很长的路。5.2 MCP、Skill、Memory这些热词到底是什么最近MCPModel Context Protocol热度很高简单理解就是给Agent统一了外接工具的协议标准。以前每个Agent接工具都要自己写一套接口MCP出来后工具可以按统一标准暴露Agent按统一方式调用。就像USB-C统一了充电口MCP想统一Agent的工具接口。Dify较新版本已经支持配置MCP服务虽然我目前用得还比较糙但方向是对的。Skill可以理解为一包提示词工具调用流程使用条件的集合按需装上技能包Agent在对应场景就能自动用。Memory就是我们前面反复提到的记忆机制分短期和长期。这三个词会被反复提起是因为它们分别解决了Agent的工具扩展、能力复用和个性化记忆问题是Agent走向实用的三个关键点。5.3 给新手的一些建议根据我这次两小时的经历给想入坑的朋友几条建议。第一别一上来就啃源码。先用Dify或Coze这类平台把概念跑通理解模型、工具、记忆、工作流之间的配合关系再决定要不要深入代码层。第二模型选型上个人实验直接用DeepSeek这种现成API省时间效果也好。第三规划好功能边界一个最小可行的Agent远比一个设计复杂但半成品的东西有价值。第四也是我最想强调的一点Agent不是把模型接进系统就完事了关键在提示词设计和工具编排。同样的模型提示词写得好不好工具描述清不清楚效果能差出好几个档次。我在测试计算器工具时改了一次提示词从硬算错答案到正确调用工具只花了一分钟这就是提示词工程的价值。毕竟智商是模型给的活儿是真的需要人去安排的。