首页/新闻资讯/正文详情

RPM、TPM,名词解释

发布时间:2026/9/26 12:15:53 来源:云帆数科 栏目:资讯中心
RPM、TPM,名词解释
RPM和TPM是 AI 大模型 API 中常见的速率限制单位。RPM(Requests Per Minute)含义每分钟请求数(Requests Per Minute)解释一分钟内最多可以发送多少次 API 请求。例子如果限额是 60 RPM就意味着平均每秒只能发 1 次请求超过就会被限流(返回 429 错误)。TPM(Tokens Per Minute)含义每分钟 Token 数(Tokens Per Minute)解释一分钟内最多可以处理多少个 Token(包括输入 输出)。例子如果限额是 100,000 TPM那么输入和输出加起来不能超过这个数量否则也会被限流。简单对比缩写全称限制对象常见影响RPMRequests Per Minute请求次数并发调用、频繁小请求TPMTokens Per MinuteToken 用量长文本、大模型输出、高并发两者通常会同时存在任何一个超限都会触发限流。实际使用时建议同时关注这两个指标并做好重试和排队策略。

相关推荐

Unity Shader Graph 2D电波扩散效果实现详解
Unity Shader Graph 2D电波扩散效果实现详解

在2D游戏里做电波扩散效果,我第一个想到的是那种角色踩到机关、地面突然震开一圈能量涟漪的瞬间。如果用序列帧动画,先不说美术那边要花多少时间导图,光是循环对帧对齐就够头疼的。后来我改用Unity Shader Graph 2D直接写这个效果&#xff0c… · 2026/9/26 12:15:53

GLM-4.5 推理、编程与 Agent 能力全面突破:TaoToken 统一 Key 接入配置实战
GLM-4.5 推理、编程与 Agent 能力全面突破:TaoToken 统一 Key 接入配置实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/26 12:15:47

商品素材制作平台:宠物用品主图批量生成的工业化方案
商品素材制作平台:宠物用品主图批量生成的工业化方案

1. 这不是修图,是批量“造图”——宠物用品跨境主图的工业化生产逻辑你是不是也经历过这样的深夜:刚上架20款猫砂垫,每款都要配5张主图——场景图、细节图、尺寸对比图、包装图、卖点标签图;凌晨两点还在Photoshop里抠第17只猫爪的… · 2026/9/26 12:15:41

开源AI健康数据引擎:统一体检、穿戴与基因数据的标准化方案
开源AI健康数据引擎:统一体检、穿戴与基因数据的标准化方案

1. 为什么健康数据急需一个“通用翻译层”我去年帮家人整理体检报告时,遇到了一个几乎所有认真对待健康的人都绕不开的困境:抽屉里躺着三份完全不同语言的数据——某三甲医院的PDF体检报告、智能手表同步到手机App里的一大堆趋势曲线、以及两年前在消费级… · 2026/9/26 13:24:23

SpringBoot整合SSM实现超市果蔬销售商城管理系统
SpringBoot整合SSM实现超市果蔬销售商城管理系统

做这种“超市果蔬销售商城管理系统”,已经是这两年 Java 后端练手项目里最常见的需求之一。标题里的springboot_ssm880,看着像随机编号,其实就是某个课程设计项目库里的索引号,核心技术栈说的是 SpringBoot 整合 SSM(S… · 2026/9/26 13:24:23

Codex CLI 本地运行指南:用 TaoToken 统一 Key 打通开源 Coding Agent 配置
Codex CLI 本地运行指南:用 TaoToken 统一 Key 打通开源 Coding Agent 配置

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/26 13:24:23

WorkBuddy迁移D盘实战:mklink路径映射与NTFS权限详解
WorkBuddy迁移D盘实战:mklink路径映射与NTFS权限详解

1. 为什么WorkBuddy必须迁移到D盘?——不是“能不能”,而是“不得不” WorkBuddy作为一款集代码辅助、本地知识库索引、AI上下文管理于一体的开发工具,其底层运行逻辑决定了它对磁盘空间和I/O性能存在刚性依赖。我接触过至少37个真实案例&… · 2026/9/26 13:24:22

WorkBuddy迁移D盘:符号链接实战指南
WorkBuddy迁移D盘:符号链接实战指南

1. 项目概述:为什么WorkBuddy必须迁移到D盘? WorkBuddy不是普通软件,它是个典型的“缓存吞噬者”——安装后默认把所有模型文件、临时数据、日志和用户配置一股脑塞进C盘的 AppData\Local\WorkBuddy 目录。我接手过三个客户的真实案例&… · 2026/9/26 13:24:22

机器学习赋能自组织网络鲁棒性:从预测到仿真的完整实践
机器学习赋能自组织网络鲁棒性:从预测到仿真的完整实践

简介:这份2020年本科毕业设计资料包,聚焦自组织网络的鲁棒性研究,运用机器学习与深度学习方法,面向计算机、人工智能相关专业学生、网络研究者及毕业设计参考者。资源共27个文件,压缩包仅2.07MB,核心包括8个… · 2026/9/26 13:24:16

数据库课后习题答案别硬背:当测试用例集刷,效率翻倍
数据库课后习题答案别硬背:当测试用例集刷,效率翻倍

简介:万常选版《数据库原理与设计》课后习题答案资源,覆盖第2至6章及第9章,适合正在学习关系模型、数据库建模、关系数据理论与模式求精的本科生、自学者作为复习与自测材料。压缩包共7个文件,含3个doc参考答案、2个sql示例脚本、… · 2026/9/26 0:00:21

OpenClaw 替代品?Hermes Agent 踩坑实录:macOS 飞书接入 TaoToken 配置
OpenClaw 替代品?Hermes Agent 踩坑实录:macOS 飞书接入 TaoToken 配置

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/26 0:00:40

向下兼容与向上兼容:接口设计中的兼容性策略与工程实践
向下兼容与向上兼容:接口设计中的兼容性策略与工程实践

一次版本升级事故,是很多团队绕不过去的坎。线上环境里,服务端明明已经上线了新版接口,老的移动端还在照着旧文档传参数。请求一到网关,校验直接拒绝,用户操作失败,客服群炸了锅,开发群里开始互… · 2026/9/26 0:00:46

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码