Open WebUI 本地部署 3 分钟跑通完全离线的多模型 AI 对话界面【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui公司内网完全断网却要在周五前给团队一个能切换模型、能传文档的对话界面还不能写一行前端代码。Open WebUI 本地部署解决的就是这件事。它是一个自托管的 AI 对话 Web 界面对话记录、上传文件、向量数据全部落在本地 Docker 卷里不经过任何第三方服务。边界讲清楚它不做模型推理模型服务Ollama 或 OpenAI 兼容 API得你自备它负责界面、RAG 检索检索增强生成即让模型先查你的文档再回答和存数据。跑起来后浏览器打开 3000 端口顶部是模型下拉框左侧是对话列表底部是输入框你注册的第一个账号自动成为管理员。 3 条路径让 Open WebUI 跑起来最快路径是仓库根目录的 compose 文件一条命令起两个容器Ollama跑模型的运行时和 Open WebUI对话界面。git clone https://gitcode.com/GitHub_Trending/op/open-webui cd open-webui docker compose up -d启动后访问 http://localhost:3000注册账号即可对话无需额外配置。端口映射 3000 到容器内 8080Ollama 地址OLLAMA_BASE_URL已指向容器内 http://ollama:11434都定义在 docker-compose.yaml。没有 Docker 就换 pip 路径前置条件是 Python 3.11pip install open-webui open-webui serve启动后服务地址是 http://localhost:8080注意比 Docker 路径多一个 80。第三条路径适合 compose 用不了的环境官方镜像有:ollama标签单容器内置 Ollama同时干两件事。docker run -d -p 3000:8080 -v open-webui:/app/backend/data ghcr.io/open-webui/open-webui:ollama验证方式同样是打开 http://localhost:3000。OLLAMA_BASE_URL、OPENAI_API_KEY等全部环境变量集中在 backend/open_webui/config.py想调参数先翻它。 接 Ollama 与 OpenAI 兼容 API 的两种方式compose 启动后Open WebUI 已通过OLLAMA_BASE_URL指向容器内的 Ollama但 Ollama 容器里还没有模型。进容器拉一个docker compose exec ollama ollama pull llama3.2拉完页面顶部下拉框里就出现 llama3.2。选中它发一句话模型逐字流式返回全程不离开内网。有多台 Ollama 实例时用OLLAMA_BASE_URLS配多个分号分隔的地址它们会同时出现在同一个下拉列表里。第二种方式是 OpenAI 兼容 API启动容器时传入OPENAI_API_BASE_URL和OPENAI_API_KEYvLLM、LM Studio、OpenRouter 都只是改个 URL。已有推理集群、不想再跑 Ollama 的团队走这条改完不用动一行代码。 把文档读进对话RAG 检索三步实操第一步让文档进来。新建对话后把 PDF 直接拖进输入区或先传到左侧知识库让它向量化。系统用内置嵌入模型默认 sentence-transformers/all-MiniLM-L6-v2完成分块和嵌入数据落在本地向量库。第二步提问。问总结这份文档并列出关键数据回答会带出文档里的具体内容。输入框里敲#能检索整个文档库也能把网页 URL 拉进上下文。第三步认清边界。RAG 只做检索加引用不会重新训练或微调你的模型。检索引擎在 backend/open_webui/retrieval/支持 9 种向量库后端可选ChromaDB、PGVector、Qdrant、Milvus 等。 部署后最常见的 4 个问题自查现象页面提示 Server connection error模型列表为空。原因容器内的 localhost 不指向宿主机容器够不到 Ollama。解法compose 方式已默认处理好单独 docker run 时加--networkhost此时端口变成 8080或显式设置OLLAMA_BASE_URL。请求如何被后端转发TROUBLESHOOTING.md 有原理说明。现象对话生成到一半断开。原因Ollama 响应超时默认 300 秒5 分钟CPU 上跑大模型来不及算完。解法调大AIOHTTP_CLIENT_TIMEOUT单位秒再启动容器或换更小的模型。现象容器重建后对话和上传文件全没了。原因没挂数据卷数据写进了容器内部文件系统。解法运行命令里保留-v open-webui:/app/backend/data官方 README 明确警告了这一步。现象完全离线的机器上首次启动迟迟完不成初始化。原因默认嵌入模型首次使用需要从 Hugging Face 下载断网就卡住。解法先在联网机器上预热把模型缓存搬进离线环境具体缓存位置见官方文档。 跑起来之后的 4 个定制点想备份或迁移数据记录、上传文件、向量数据都在 open-webui 卷容器内 /app/backend/data里把卷快照或整个搬到新机器即可原样恢复。想改快捷键定义在 src/lib/shortcuts.ts直接改那里。想加自定义 Tools 或 Filters用 Python 写放到 backend/open_webui/tools/ 下注册目录里的 builtin.py 和 knowledge_fs.py 可以当样例读。想换向量数据库选择由VECTOR_DB环境变量控制9 种后端实现在 backend/open_webui/retrieval/vector/dbs/ 下改值重启即可。 接下来做什么Open WebUI 本质是一个跑在浏览器里的本地模型调度台界面它负责模型你负责。两个可执行的下一步先读一遍内置工具的写法弄清 Tools 的注册模式再回到管理页接第二个模型或注册一个你自己的工具。【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
企业数字化 ERP 产品动态
相关推荐
tiktok美国数据转移实战：面试必问的性能优化避坑指南 tiktok美国数据转移实战：面试必问的性能优化避坑指南 满屏红色的 StackTrace 让你头皮发麻？在 TikTok 美国站的数据迁移项目中，这种场景简直是家常便饭。很多开发者一遇到 OutOfMemoryError 或者… · 2026/9/22 22:04:32
AI编程工作台实战：本地LLM分层架构与工程化配置 1. 项目概述：这不是一个“玩具”，而是一套可落地的AI编程工作台实践体系“我的 AI 编程工作台：工具、模型与基础配置”——这个标题乍看平实，但背后藏着一个正在被大量开发者默默验证、反复迭代的真实工作流。它不是某个商业SaaS产… · 2026/9/22 22:04:26
CARLA ROS2 原生传感器参考：Topic 命名规则、消息类型与源码级原理全指南 自动驾驶科研仿真 【免费下载链接】carla Open-source simulator for autonomous driving research. 项目地址： https://gitcode.com/gh_mirrors/ca/carla 点击查看 免费下载 CARLA 模拟器（CARLA Simulator）从服务端原生支持 ROS2 通信&… · 2026/9/22 22:04:26
英语偏旁部首入门到精通：揭秘代码里的字符拆解逻辑 英语偏旁部首入门到精通：揭秘代码里的字符拆解逻辑 复制来的代码跑不通，报错信息满屏红字，你盯着屏幕抓耳挠腮，根本不知道从哪下手调。这种“黑盒”体验，是每个开发者从新手迈向 入门到精通… · 2026/9/23 8:37:19
vray渲染器踩坑实录 V-Ray渲染器性能优化避坑：3个让出图慢10倍的致命错误 复制来的V-Ray渲染参数跑不通，或者跑出来的图黑乎乎一片、噪点满天飞，是不是让你抓狂？别急，这通常是场景设置和硬件配置的冲突，不是你的错。很多新手卡在第一步，因为直接套用网上通用… · 2026/9/23 8:37:19
无线运动耳机性能优化实战：告别堆栈报错 无线运动耳机性能优化实战：告别堆栈报错 盯着满屏红色的StackTrace，眼睛都花了还是找不到Bug在哪？别急，这行代码没报错，但你的无线运动耳机在剧烈运动时音频断连、延迟高企，这才是真正的“性能优化”噩梦。很多开发者一上来就调参数，结果… · 2026/9/23 8:36:54
FPGA进位链实现高精度TDC的原理与工程实践 /* MD / 富文本中的 .toc（含博客园搬家等嵌套结构）；.toc-box 在侧栏，不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p（:empty 仍占 20px），一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/23 8:36:47
Link Park避坑指南：从报错到精通的保姆级教程 Link Park避坑指南：从报错到精通的保姆级教程 刚接完一个 Link Park 相关的后端需求，测试环境跑起来，日志直接吐了满屏的 java.lang.NullPointerException 和… · 2026/9/23 8:36:47
3招搞定手机怎么下载微信面试难题实战项目解析 3招搞定手机怎么下载微信面试难题实战项目解析 面试被问“手机怎么下载微信”背后的原理，90%的人答不上来。别笑，这看似弱智的问题，实则是考察你对移动应用分发机制、安全校验及网络协议理解的试金石。我带过不少校招新人，他们背了八股文，却连一个A… · 2026/9/23 0:00:03
你有新短消息请注意查收：3个新手避坑指南搞定消息系统选型 你有新短消息请注意查收：3个新手避坑指南搞定消息系统选型 面试被问“高并发下如何保证消息不丢失”，你张口就是“用Redis”，结果面试官追问“如果Redis宕机了怎么办”，你瞬间卡壳。这种场景太常见了，很多新手在背八股文时，只记住了技术名词… · 2026/9/23 0:00:29
