Windows 本地部署 DeepSeek-R1：Ollama 与 ChatBox 配置避坑指南

简介这份课程资源围绕DeepSeek本地部署展开面向受在线服务中断困扰、重视隐私保护与低延迟体验的使用者也适合希望熟悉大模型实际应用流程的爱好者。压缩包仅含1个docx文档大小约1.28MB以图文教程形式集中整理部署所需的软件安装、模型版本选择与客户端配置等内容便于按章节查阅。教程覆盖Ollama安装、1.5B/7B/32B等模型规格的硬件匹配建议、ChatBox图形化界面连接设置以及常见问题与工具、模型获取路径并明确当前版本暂不具备联网检索能力。文档还给出必要安装工具与各部分最新版本模型的具体获取路径并对部署过程中容易遇到的配置问题进行说明方便读者对照检查。已有3698人学习适合希望搭建个人本地AI环境、减少对线上平台依赖并补齐排错思路的读者参考。1. 从一条拉到一半停住的进度条说起晚上十点多命令行里ollama run deepseek-r1:7b的进度条爬到一半不动了光标闪了半天最后甩出一行超时。这不是个例DeepSeek 本地部署这套组合——Ollama 拉模型、ChatBox 做界面——门槛低到一台普通笔记本就能跑但真正卡人的地方从来不是“会不会装”而是版本挑错、端口填错、模型名少个后缀这类小事。装对了断网也能问装不对界面转圈、命令行报错、显存爆掉折腾一晚上还在原地。这篇写给我自己踩过的这条路径从零到能在自己机器上稳定对话每一步都给到能直接抄的命令和参数适合第一次在 Windows 上跑本地大模型的人也适合装过一次但没跑通、想弄清到底哪一步出问题的人。2. 装 OllamaWindows 上的安装路径、后台服务与端口2.1 为什么顺序不能反Ollama 是底座ChatBox 只是壳很多人第一反应是先去下个聊天客户端装完发现里面空空如也没有模型可选又回头找模型怎么来。这套东西是分层的Ollama 干三件事——管理本地模型文件、加载模型做推理、在后台起一个 HTTP 服务把推理能力暴露出去ChatBox 只负责把请求发到这个服务上再把返回的文字排版好看。换句话说ChatBox 本身不具备任何推理能力它连的是一个本机地址。理解这一点后面所有报错都好定位界面里发不出消息八成是 Ollama 那个服务没起来或者地址填错命令行能跑但界面不行问题一定在客户端配置那一侧。我一般会先把 Ollama 装好、命令行确认能对话再动客户端这样出问题时排查范围直接砍一半。Ollama 官方站点是 ollama.com首页那个 Download 按钮会按你的系统给对应安装包。Windows 上拿到的是一个 exe双击一路下一步就行不需要单独装 Python、不需要配 CUDA显卡驱动是系统里现成的就直接用。装完托盘区会出现一个羊驼形状的图标这个图标不是装饰它代表后台服务进程正在跑。2.2 安装完成的三个确认动作装完别急着拉模型先花两分钟确认三件事能省掉后面大量“为什么连不上”的疑惑。打开 PowerShell不是 cmdPowerShell 里查端口更方便依次执行# 1. 确认 ollama 命令已经进了 PATH能打印版本号 ollama --version # 2. 确认后台服务真的在监听 11434 端口 Get-NetTCPConnection -LocalPort 11434 -State Listen # 3. 列出当前已有的模型全新安装应该是一张空表 ollama list第一条返回类似ollama version is 0.x.x的字符串说明命令能找到如果提示“不是内部或外部命令”要么是安装没走完要么是 PATH 没刷新把终端关掉重开一次基本就恢复。第二条如果有输出LocalAddress一般是127.0.0.1State是Listen这就是客户端要连的地址这条查不到说明羊驼图标没在托盘里手动从开始菜单启动一次 Ollama。第三条新装机器会输出表头但没有数据行这是正常的模型还没拉。提示ollama list的输出有四列——NAME、ID、SIZE、MODIFIED。后面在 ChatBox 里填的模型名必须和 NAME 这一列一字不差包括冒号后面的 tag。2.3 装到非系统盘模型目录和三个值得改的环境变量Ollama 默认把模型放在用户目录下路径大致是C:\Users\你的用户名\.ollama\models。DeepSeek-R1 的 7B 这一档模型文件在 45GB32B 那一档直接冲到二十多 GBC 盘空间紧张的机器很容易在拉到一半的时候报磁盘不足。我的习惯是装机第一步就把模型目录挪到数据盘。Ollama 读取的是用户级环境变量改完必须重启 Ollama 进程才生效。在 PowerShell 里这样设# 模型文件存放位置改成你有空间的盘 [Environment]::SetEnvironmentVariable(OLLAMA_MODELS,D:\ollama\models,User) # 模型空闲多久后从内存里卸载默认 5m机械硬盘机器建议拉长 [Environment]::SetEnvironmentVariable(OLLAMA_KEEP_ALIVE,30m,User) # 服务监听地址只在本机用就保持默认不要随便改成 0.0.0.0 [Environment]::SetEnvironmentVariable(OLLAMA_HOST,127.0.0.1:11434,User)OLLAMA_MODELS是模型仓库根目录设完之后新拉的模型才会落进去之前已经下好的模型不会自动搬过去需要重新拉一次或者手动挪目录。OLLAMA_KEEP_ALIVE控制模型在显存/内存里驻留的时间设成30m意味着半小时内第二次提问不用重新加载代价是这段时间显存一直被占着机器显存小、还要干别的活就设成5m甚至0。OLLAMA_HOST决定服务绑在哪个网卡上默认只听本机回环这对个人电脑是最合适的设置改成对外监听等于把推理接口暴露给同网段所有人不建议。设完环境变量从托盘右键退出 Ollama再重新启动一次然后执行ollama list看是否正常返回确认新配置被读进去了。3. 拉模型deepseek-r1 选 1.5B、7B 还是 32B3.1 三个档位的硬件对照与选择逻辑同一套代码模型参数量差一个数量级体验完全是两回事。DeepSeek-R1 在 Ollama 的模型库页面ollama.com/library/deepseek-r1里给了多个尺寸按官方给出的硬件建议整理成下面这张表版本大致文件体积内存要求显存要求适合的机器deepseek-r1:1.5b12GB4GB 以上无核显可跑轻薄本、老机器、只想体验流程deepseek-r1:7b45GB8GB4GB 左右主流独显笔记本、台式机deepseek-r1:32b20GB 上下32GB12GB 左右工作站、大显存显卡选型的判断标准其实只有一条显存放不放得下。放得下模型整层跑在显卡上回答速度是每秒十几个字放不下Ollama 会自动把一部分层卸载到内存里用 CPU 算速度掉到每秒两三个字风扇还会狂转。7B 这一档是绝大多数机器的甜点位置官方也把它作为推荐档我自己的主力机就是 7B日常问答、写代码片段、整理文档完全够用。1.5B 不是“凑数的低配”它在一种场景里反而更合适你只想验证整条链路通不通。文件小、拉得快、加载快装完五分钟就能确认 Ollama 和 ChatBox 到底能不能配合工作等链路验证完再换 7B出问题的时候你就知道不是环境的问题。注意模型不是越大越聪明就一定越划算。32B 在消费级显卡上跑起来每次提问前的加载等待可能就有十几秒日常对话的节奏感会被打断除非你确实需要更强的推理能力。3.2 一条命令完成拉取与首次对话确认好版本直接一条命令Ollama 会自动完成“下载 → 校验 → 加载 → 进入交互”四件事# 拉取并直接进入对话tag 不能省略 ollama run deepseek-r1:7b命令里的deepseek-r1是模型名冒号后面的7b是 tag版本标签。这一步最常见的翻车是省掉 tag 直接写ollama run deepseek-r1Ollama 会去拿默认标签拉下来的可能不是你想要的尺寸甚至直接报模型不存在。养成习惯名字带 tag一次写全。执行后终端会出现拉取进度分成多个 blob 分层下载。中途按 CtrlC 中断不要紧重新执行同一条命令会复用已经下完的层不会从头再来这点比很多下载工具省心。拉完之后光标会变成直接输入问题回车即可比如敲一句“你是谁”它会先输出一段思考过程再给答案。退出交互用/bye不是 CtrlCCtrlC 只是打断当前这次生成。3.3 查看、切换与清理模型管理的四条常用命令模型越拉越多之后磁盘和显存都会被吃掉几条管理命令得记住# 看本地有哪些模型注意 NAME 列的完整写法 ollama list # 看当前有哪些模型被加载进了内存/显存以及占用情况 ollama ps # 看某个模型的详细参数包括参数量、量化方式、模板 ollama show deepseek-r1:7b # 删掉不用的模型释放磁盘 ollama rm deepseek-r1:1.5bollama ps是排查性能问题最有用的一个命令它的输出里有一列PROCESSOR会写明模型是100% GPU还是100% CPU或者是xx%/yy% CPU/GPU的混合状态。看到混合或者纯 CPU就说明显存放不下要么换小模型要么关掉其他吃显存的程序。这一列是判断“为什么这么慢”的第一现场比看任务管理器直观。ollama show的输出里有context length一项默认通常是 4096 或者更大它决定模型一次能“记住”多少字。上下文开太大同样吃显存机器吃紧的时候可以在请求里用参数把num_ctx调小这个参数在后面接客户端的时候还会用到。3.4 想换盘或者换机器模型目录的迁移做法前面改过OLLAMA_MODELS的新模型会落到新目录已经下在旧目录里的模型不会自动搬。两种处理方式一是直接在旧目录里删掉ollama rm在新目录重新拉一遍反正是本地网络下载几分钟的事二是把整个models文件夹剪切到新位置再确认环境变量指向那里重启 Ollama 后用ollama list验证还能不能识别。第二种方式有个前提目录结构不能被破坏。models下面分blobs和manifests两层blobs存的是实际权重文件manifests存的是索引只搬blobs不搬manifestsollama list会是一张空表模型等于白下。整目录搬别挑着搬。4. 接 ChatBox自定义提供方的四项参数怎么填4.1 安装与那个容易被手快关掉的引导窗口ChatBox 的下载页在 chatboxai.app选 Windows 版本拿到安装包安装过程没什么可说的。第一次启动时会弹一个引导窗口里面有一个选项叫「使用自己的 API Key 或本地模型」这就是我们要走的路因为 Ollama 跑在本机不需要任何在线账号。选它然后在提供方列表里挑 Ollama API。手快点了别的选项、或者直接把这个窗口关了也不用重装。主界面左下角进「设置」找到「添加自定义提供方」一样能配。新版界面里这个入口的位置略有差别有的版本叫「模型提供方」找带“自定义”字样的那一项就对了。配置之前先在命令行确认 Ollama 服务活着ollama list能出结果再往下走。客户端配得再对底座没起也是白搭。4.2 四项参数逐条填名称、模式、地址、模型自定义提供方要填的东西不多但每一项都有坑逐条对着填配置项填什么说明名称随便起比如本地DeepSeek只用于界面显示不影响连接API 模式Ollama API别选成 OpenAI API两者路径规则不同API 域名http://127.0.0.1:11434不要加/v1不要加结尾斜杠模型deepseek-r1:7b必须和ollama list里 NAME 列完全一致填完点保存回到对话界面在模型下拉里选中刚才那项发一句“你是谁”测试。正常的话它会先吐一段思考过程再回答自己是 DeepSeek-R1。第一次提问会慢几秒因为模型要被加载进显存第二次开始就快了。地址那一栏是最容易出错的地方。有人习惯性填http://localhost:11434/v1因为看过 OpenAI 兼容接口的文档。Ollama 确实提供/v1兼容路径但 ChatBox 选的是原生 Ollama API 模式它会自己拼/api/chat你再加/v1就变成了/v1/api/chat服务端不认识这个路径直接返回 404。要么按上表填纯地址要么把模式切成 OpenAI 兼容、地址带上/v1两种配法选一种别混着来。如果想跳过界面先验证服务端用一条命令就能确认# 直接打 Ollama 的原生接口streamfalse 表示一次性返回完整结果 curl http://127.0.0.1:11434/api/generate -d {\model\:\deepseek-r1:7b\,\prompt\:\你是谁\,\stream\:false}Windows 的 cmd 对引号转义很挑剔同样的请求在 PowerShell 里更省事$body { model deepseek-r1:7b; prompt 你是谁; stream $false } | ConvertTo-Json Invoke-RestMethod -Uri http://127.0.0.1:11434/api/generate -Method Post -Body $body -ContentType application/json返回的 JSON 里有个response字段里面就是模型的话。这条能通说明服务端完全没问题剩下所有毛病都在客户端配置上这条不通别在客户端上瞎试回去查 Ollama 进程和端口。4.3 会话参数温度、上下文和系统提示词能对话之后值得调的就三个东西。温度控制随机性DeepSeek-R1 是推理模型答案本身有推导链条温度开高反而容易让思路发散我一般设在 0.6 上下写创意文案的时候才往上抬到 1.0。上下文条数决定这次对话带多少轮历史进去带得越多越吃显存机器吃紧就限制在十轮以内。系统提示词是给模型定角色的地方比如固定成“回答用中文代码块标注语言”省得每次重复。ChatBox 里这些参数按会话单独保存换个会话就是一套新设置不会互相污染。这一点比命令行舒服命令行每次都要重新把上下文喂一遍。4.4 多个模型并存时怎么切机器上同时装了 1.5B 和 7B 是很正常的配置小模型用来快速验证和跑简单任务大模型用来处理复杂问题。ChatBox 里可以建两个自定义提供方名称分别写清楚模型那一栏填不同的 tag需要的时候在顶部下拉切换。切换的代价是模型要重新加载第一次提问会等几秒这是正常的不是卡死。如果切换后报模型不存在回去ollama list对一遍名字八成是 tag 写错了大小写或者少了后缀。Ollama 的模型名对大小写不敏感但 tag 必须对得上。5. 避坑与排查五条我真实踩过的记录5.1 拉取到一半中断重跑又从零开始现象ollama run deepseek-r1:7b下到一半网络抖了一下报错退出重新执行发现进度还是从很低的位置开始。原因Ollama 拉模型是按层blob下载的已经完整落盘的层会被复用但正在下载的那个大层没有断点续传中断就得重来。看起来像“从头开始”其实是那一个层重下。解决不用清缓存、不用重装直接重跑同一条命令多试两次通常就过去了。反复失败的话先把模型换成 1.5B 那档把流程走通确认环境没问题再回来拉 7B。5.2 界面一直转圈命令行却是好的现象命令行里问什么都正常ChatBox 发消息一直转圈或者提示连接失败。原因地址填错。要么填了localhost:11434/v1这种多一段的路径要么端口写成了 11435 之类的错数字要么 Ollama 进程根本没在托盘里。解决先在浏览器里打开http://127.0.0.1:11434能看到一行Ollama is running就说明服务活着打不开就是服务的问题去托盘重启。能打开就回来对地址只填http://127.0.0.1:11434不加任何路径后缀。5.3 模型名少写 tag客户端报模型不存在现象ollama list里明明有模型ChatBox 里一发消息就报找不到模型。原因ollama list的 NAME 列是deepseek-r1:7b客户端里只填了deepseek-r1或者填成了deepseek-r1:7B之外的其他写法。解决复制 NAME 列整串贴进去别手打。这一条听起来很傻但它是新手最高频的报错我自己也犯过。5.4 回答慢得像打字机风扇还很响现象每秒钟只蹦两三个字任务管理器里显卡占用很低CPU 却跑满了。原因显存不够Ollama 把一部分层卸载到内存用 CPU 算。用ollama ps一看PROCESSOR那列显示的是混合比例而不是100% GPU。解决三条路——换 1.5B 那档、关掉浏览器和其他吃显存的程序、把上下文长度调小。前两条立竿见影第三条属于微调。硬扛着跑 32B 在 8GB 显存的卡上等待时间会让人失去耐心。5.5 改了 OLLAMA_MODELS模型还是往 C 盘塞现象环境变量设好了ollama run拉新模型C 盘空间照样往下掉。原因环境变量设的是用户级但 Ollama 托盘进程是在设置之前启动的读的还是旧值。只关窗口不算退出进程还在后台。解决托盘图标右键退出确认任务管理器里没有 ollama 相关进程再从开始菜单重新启动。重启后拉一个小模型验证落盘位置确认新目录里出现了blobs和manifests两层才算真的生效。6. 装完怎么验证这一套是真的跑通了装完最后一步不是“能回一句话”就完事得确认它跑在什么状态下。我一般按下面这张表走一遍四项全绿才算收工验证项命令或动作正常表现服务在线浏览器打开http://127.0.0.1:11434页面返回Ollama is running模型已落地ollama listNAME 列出现deepseek-r1:7bSIZE 在 45GB推理走显卡ollama psPROCESSOR 列显示100% GPU客户端连通ChatBox 里发“你是谁”先输出思考过程再回答是 DeepSeek-R1第三项最容易被忽略但它决定了你后面每一次提问要等三秒还是三十秒。如果ollama ps里显示的是 CPU先去把前面 5.4 那条处理掉再谈体验。第四项做完可以再补一个反向验证把网线拔了或者关掉 Wi-Fi再问一句答案照样出得来说明整个链路确实跑在本机没有任何在线依赖。还有个细节值得确认——这套部署目前不具备联网检索能力。模型的知识停在训练数据截止的那个时间点问它今天的新闻、最新的版本号它要么答不上来要么会编。这不是装错了是这一版的固有边界想要联网得另外接检索模块那是另一套东西。从那以后我每次装完这套环境都会强制走一遍上面这张表尤其是ollama ps那一行——它像一个仪表盘把“装好了”和“装好了但跑得很憋屈”这两种状态区分开。很多人抱怨本地模型慢其实只是模型没进显存改一个参数就能救回来。这套东西的坑不多但都集中在版本和路径这两件小事上把这两处抠干净剩下的就是安心用了。希望帮到你。本文还有配套的精品资源点击获取