SillyTavern 后端 API 连接 3 条路云密钥、本地模型与排错教程【免费下载链接】SillyTavernLLM Frontend for Power Users.项目地址: https://gitcode.com/GitHub_Trending/si/SillyTavern想在 SillyTavern 里接上 AI 后端这篇 API 连接教程按你实际要做的事分四步走先选云 API 还是本地部署再配密钥、填服务器地址最后学会看版本号和排查连不上的问题。先选路三条接入路径怎么挑 路径你要准备的东西适合谁详见云端商业 API一个 API key 服务商的服务器 URL不想折腾硬件按量付费云端 API 接入本地部署KoboldCpp 等本地跑起来的推理服务器 URL要数据留在本地、按次免费本地模型接入聚合平台平台 API key一个端点试多家模型配置方式同云端只是 URL 换成平台地址区别只有一点云服务和聚合平台都走 OpenAI 兼容的 chat completions 格式本地模型走 KoboldAI 协议。SillyTavern 会在后端帮你把请求翻译成对应格式你只管填对地址和密钥。所有凭据最终都落在secrets.json里每个服务商对应一个api_key_*命名的标识后面会展开讲。云端 API 接入教程先配密钥再对请求格式 ☁️云 API 密钥快速配置打开设置面板里的 API 密钥管理区域选择服务商OpenAI、Mistral AI、Groq、DeepSeek、Together AI 等把申请到的 key 粘贴进去保存。保存动作就是往secrets.json写一条记录例如 OpenAI 对应api_key_openaiGroq 对应api_key_groq。然后去后端设置里选同一服务商填入服务器 URL多数情况用默认地址即可。点保存时 SillyTavern 会自动发起一次状态探测能返回模型列表就说明连通了。请求格式长什么样所有 OpenAI 兼容服务共用一个约定向/chat/completions发 POST请求头带Authorization: Bearer 你的key。实际发出的请求体大致是这样{ model: gpt-4o, messages: [ { role: system, content: 你是有帮助的助手 }, { role: user, content: 你好 } ], temperature: 0.7, max_tokens: 1000 }你不需要手写这些内容SillyTavern 按你在预设里的采样参数自动组装。了解格式的价值在于当某家服务报错时你知道该检查模型名、消息结构还是认证头。自定义端点把请求指向任意 OpenAI 兼容服务如果你的模型托管在自建网关、内网服务或第三方中转上后端类型选 Custom 即可它读取api_key_custom这把密钥没有 key 的服务填个占位值也行具体看对方要求。Custom 提供三个调节旋钮都是可选的custom_include_body往请求体里追加任意参数比如私有服务特有的开关custom_include_headers追加自定义请求头custom_exclude_body删掉标准参数里你不想要的字段如max_tokens改完先用一条最短对话测试确认对方能接受你的参数组合再投入正常使用。本地模型接入实战KoboldCpp 从 0 连通 服务器配置地址怎么填先在本地把 KoboldCpp或其他 KoboldAI 协议服务器跑起来并加载模型然后在 SillyTavern 后端设置里选择 KoboldCpp填入服务器 URL例如http://127.0.0.1:5001。填localhost也没关系SillyTavern 会自动帮你改写成127.0.0.1。保存后系统会并发探测三个接口来判断连接质量/extra/version拿 KoboldCpp 版本号、/v1/model拿当前加载的模型名、/v1/info/version兼容 Kobold United 的老版本服务器。模型名返回no_connection就说明服务没起来或端口不对先检查本地控制台日志。生成参数有哪些可调项KoboldAI 协议和 OpenAI 的参数名不同本地模型常用的有temperature温度、top_p、top_k、typicaltypical_p、tfs、min_p、rep_pen重复惩罚、rep_pen_range、mirostat及其配套的mirostat_tau、mirostat_eta、sampler_order采样器顺序、stop_sequence停止序列。这些参数在预设里调整SillyTavern 会原样转发给服务器。建议的起步值temperature1.0、top_p0.9、rep_pen1.1。想要输出更稳就提高rep_pen想要更有创意就调高温度但注意重复率会上升。流式生成与版本兼容先看版本号 ⚠️这是本地接入最容易踩的坑。不同版本的 KoboldCpp 支持的功能不一样SillyTavern 会根据探测到的版本号决定是否放出对应选项门槛如下功能最低版本KoboldCpp / United停止序列 stop_sequenceUnited ≥ 1.2.2流式生成KoboldCpp ≥ 1.30MirostatKoboldCpp ≥ 1.35语法约束 grammarKoboldCpp ≥ 1.44min_p 采样KoboldCpp ≥ 1.48流式生成开启后SillyTavern 向/extra/generate/stream发请求服务端以事件流逐段回传文本前端边收边渲染长回答的体验明显更好。旧版本只能走/v1/generate一次性返回耐心等即可。另外 KoboldCpp 还支持语音转录/api/extra/transcribe和向量嵌入/api/extra/embeddings需要在对应扩展里单独填同一个服务器地址。进阶配置自定义后端与多模态能力 自定义端点除了上一节说的三个调节项还有一个组合技巧当你的私有服务既改了模型名又要求额外头时custom_include_body管请求体、custom_include_headers管请求头两者互不干扰可以同时生效。多模态能力取决于你选的后端图像描述OpenAI、OpenRouter 等支持在 chat completions 的content里混入image_url条目SillyTavern 的附件功能会替你拼装语音转录OpenAI 走专用音频接口本地用户可用 KoboldCpp 的转录端点文本转语音OpenAI、Azure TTS对应api_key_azure_tts都提供TTS 扩展里单独配置原则是先用纯文本跑通对话再逐项开启多模态出问题时容易定位是哪一环。密钥安全与常见故障排查 secrets.json 是怎么保管你的 key 的secrets.json位于每个用户数据根目录下写入走原子操作write-file-atomic中途断电或崩溃也不会把文件写坏成半截 JSON。较新版本里同一把 key 支持存多个带标签的凭据/rotate接口让你在服务端一键切换激活哪一把适合定期轮换密钥时不停机交接。默认情况下界面只能看到掩码后的 key中间打星号、保留末尾 3 位。如果你确实需要完整查看把config.yaml里的allowKeysExposure设为true——注意这会让密钥出现在页面数据里局域网多人使用时慎开。此外 SillyTavern 内置 CSRF token 机制/csrf-token接口下发防止跨站伪造请求改你的配置。连接测试与故障对照保存后端配置时会自动发起状态探测这就是内置的连接测试。如果对话时出问题按这个顺序查403 / 503 反复出现KoboldAI 类服务器在忙SillyTavern 会每 2.5 秒自动重试上限 50 次。持续重试到上限说明服务器真的卡住了去本地看是不是上下文太长或显存不足保存时探测不到模型URL 少了端口、服务器只绑定了 127.0.0.1 而你从别的机器访问、或者防火墙拦了key 保存后不生效确认界面里这把 key 的状态是已激活同 key 多凭据时只有 active 那条会被使用401 / 认证错误先回密钥管理区确认凭据没过期再检查服务商后台的用量与权限密钥轮换的正确姿势在密钥管理里新增一把新 key旧的暂时保留测试新 key 连通后用 rotate 切到新的再删掉旧的——全程不用改secrets.json文件。写在最后三条路的核心差异只有协议格式配置思路完全一致填地址、给 key、保存时看探测结果。给日常使用几个小建议云 API 和聚合平台优先测短对话再放量本地模型把 KoboldCpp 升过 1.44能解锁的功能多一半密钥轮换用内置的 rotate 接口完成别手改文件。跑通之后你就可以在预设里安心调采样参数了。【免费下载链接】SillyTavernLLM Frontend for Power Users.项目地址: https://gitcode.com/GitHub_Trending/si/SillyTavern创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
企业数字化 ERP 产品动态
相关推荐
风电发电机控制代码太卡?3步优化从入门到精通 风电发电机控制代码太卡?3步优化从入门到精通 看了一堆教程还是不会写项目?别慌，这是很多应届生入职后的第一道坎。理论背得滚瓜烂熟，真到了风电场现场，面对发电机转速波动导致的控制延迟，脑子直接死机。… · 2026/9/22 19:06:03
CDQ分治避坑指南：新手环境配置不卡壳实战 CDQ分治避坑指南：新手环境配置不卡壳实战 刚拿到offer的应届生，最怕的不是算法难，而是配置环境时那种“卡半天没反应”的绝望。很多教程只讲理论，不说Windows下C++编译器的坑，导致你连个Hello… · 2026/9/22 19:06:03
基于电热联合调度的区域并网型微电网MATLAB优化模型解析 一开始做微电网优化调度的时候，我踩过一个大坑。当时给一个园区做并网型微电网的调度方案，团队里所有人盯着电功率调来调去，储能、光伏、柴发都用上了，结果一到冬季采暖期，运行成本怎么都压不下来。后来把热力系统也拉… · 2026/9/23 4:31:56
插入排序算法详解：从Java实现到工程优化 1. 插入排序的直觉与本质：从打扑克说起如果你问我学排序算法第一步该学什么，我大概率会回答是插入排序，而不是很多人以为的冒泡排序。理由很简单：插入排序的思考方式和你日常生活中的行为习惯是最接近的，几乎不需要额外… · 2026/9/23 4:31:50
CELSMA黏菌算法求解分布式置换流水车间调度问题（Matlab实现） 做调度优化的同行应该都有体会，论文里算法名字越来越长，本质上都是换着花样在“局部最优”这个泥潭里挣扎。今天聊一个我实际复现过的组合：用混沌增强领导者黏菌算法（CELSMA）去解分布式置换流水车间调度问题࿰… · 2026/9/23 4:31:44
diff2html 实战：从 git diff 到代码差异可视化与性能优化 第一次把代码差异做进网页时，我以为这事挺简单：把git diff的结果扔进<pre>里，再加上红绿背景色不就行了？真正动手之后才发现，diff 的可视化远不止着色。行级变更和词级变更混在一起、大文件加载卡顿、增删行在并… · 2026/9/23 4:31:44
基于SSM的足球联赛管理系统与商城模块设计实现 1. 项目概述与设计思路1.1 这个系统到底要解决什么问题如果你在准备 Java 课程设计或者毕业设计，应该对“xx管理系统”这种题目不陌生。图书馆管理系统、学生管理系统、宿舍管理系统，满大街都是。但“足球联赛管理系统”加上“商城”两个关键词组合在一起… · 2026/9/23 4:31:44
C语言二维数组传参：三种方法、类型退化与选型指南 简介：这份PDF资料面向C语言初学者与需要巩固指针、数组知识的开发者，系统讲解二维数组作为函数参数传递的三种常见写法，帮助解决形参声明与实参匹配时容易混淆的问题。资源共1个PDF文件，约36KB，内容以示例代码和文字说… · 2026/9/23 4:31:44
3招搞定手机怎么下载微信面试难题实战项目解析 3招搞定手机怎么下载微信面试难题实战项目解析 面试被问“手机怎么下载微信”背后的原理，90%的人答不上来。别笑，这看似弱智的问题，实则是考察你对移动应用分发机制、安全校验及网络协议理解的试金石。我带过不少校招新人，他们背了八股文，却连一个A… · 2026/9/23 0:00:03
你有新短消息请注意查收：3个新手避坑指南搞定消息系统选型 你有新短消息请注意查收：3个新手避坑指南搞定消息系统选型 面试被问“高并发下如何保证消息不丢失”，你张口就是“用Redis”，结果面试官追问“如果Redis宕机了怎么办”，你瞬间卡壳。这种场景太常见了，很多新手在背八股文时，只记住了技术名词… · 2026/9/23 0:00:29
