Jev模型：不写文章、不聊天的“决策机器”

前言最近有一个叫 Jev 的模型在开发者圈子里刷屏了。它由前 OpenAI 研究员 Diogo Almeida 创办的 TypeSafe AI 发布上线 24 小时内Vercel AI Gateway 上近 13% 的付费团队就开始用它速度是之前所有新模型上线首日的两倍以上。有意思的是这个创下最快采用纪录的模型不会说话。它不能写文章、不能写代码、不能陪你聊天甚至连一句完整的话都生成不出来。你给它一段文字它只会回给你几个数字和标签。但恰恰是这个“哑巴模型”可能代表了 AI 的一个新方向。它能做什么Jev 的 API 简单到只有三种“问题类型”Choice从你预设的选项里挑一个。比如“这封客服邮件该转给哪个部门”它返回每个选项的概率分布和最终选择。Score在你定义的等级尺度上打分。比如“客户愤怒程度1 分平静4 分要跑路”它返回一个连续值。Noul是非判断题返回一个 0 到 1 之间的概率值。举个简单的例子。你输入一条短信让它判断是否为垃圾短信它会输出这样的 JSON{ decision: { isSpam: true }, probabilities: { isSpam: { true: 0.982, false: 0.018 } } }它只做结构化输出。你需要在输入时定义 Schema定义好之后模型按照预设的决策槽位输出。因为选项和字段都是预先定义好的模型只能在给定的槽位里选择所以输出格式大概率不会跑偏不会出现无效 JSON。官方文档里有一句话把这件事说得很清楚大语言模型是为人类阅读而设计的。当你需要模型做出一个代码要消费的判断时就产生了一种错配。你在强迫一个文本生成系统输出结构化决策然后再把结果解析回代码能依赖的东西。Jev 不生成文本直接返回类型化结果和概率分布你的代码可以直接分支、排序、路由。原子化提问的思路官方文档里有一个建议是每个问题只问一件具体的事。不要问“给这个创业公司打分”而是拆成市场大小、技术可行性、差异化三个独立问题分别打分再用你自己的公式组合。这样每个单独评估都可靠权重也完全由你控制。优先级变了改代码里的系数就行不用重写提示词。这种思路和传统大模型的使用习惯不太一样。大模型习惯“一段提示词把所有要求塞进去”而 Jev 的设计哲学是把判断拆到最小单元组合逻辑交给你自己。为什么它值得关注到目前为止听起来好像跟普通文本大模型没太大区别。但关键在这句话从输入到输出最快只需要 70 毫秒。70 毫秒是什么概念主流大模型的响应时间通常在 3 到 329 秒之间。Jev 比它们快了 40 到 200 倍。再加上价格输入每百万 token 0.042 美元输出免费。这个价格和速度让它可以直接用在高频的生产级场景里。比如接到堡垒机里实时判断用户输入的 shell 命令有没有危险比如 rm -rf /这种场景传统大模型根本来不及反应。它为什么这么快自回归 LLM 在生成文本时需要逐 token 进行解码每一步都需要执行模型计算因此生成长度会直接影响端到端延迟。Jev 采用的是一种用于快速决策的并行采样架构它针对结构化决策进行了专门的推理设计可以在一次请求中并行评估多个问题而不是像自回归语言模型一样逐 token 生成答案。官方把这种训练方法称为 RLCD校准决策强化学习目标是解决 RLHF 固有的模式丢失、幻觉和可靠性不足问题。简单概括就是RLHF 教模型“怎么回答得像人”RLCD 教模型“怎么判断得更准”。用 Jev 创始人自己的话说它是一个 “前沿智能的函数调用”非结构化状态进类型化概率决策出。目前的限制TypeSafe 在官网很诚实地列出了 Jev 的短板不擅长 System 2 任务System 2 是卡尼曼在《思考快与慢》里提出的概念对应“慢思考”需要推理、分析、权衡多个因素负责规划、推理、写作这类任务的模型就属于 System 2 模型比如 GPT、Claude。官方把它定位为 System One 模型理想搭配还需要一个 System Two 模型来做战略判断然后生成策略当作提示词输入进去。没有专门领域训练它没有针对某个垂直领域做专门优化。不是生成式聊天模式不能跟它聊天要问它问题必须定义答案的形状。目前只支持文本输入图片、音频这些还不行。没有本土节点虽然模型本身只需要 70ms但到美西的光缆延迟至少 120ms所以实际使用至少要 200ms 打底。另外有独立测试显示Jev 在中文客服场景的完整准确率约 64% 到 65%在便宜小模型组里只排第二。它的优势在速度和成本不在“更聪明”。怎么使用官网可以直接申请 API Key拿到后就能在控制台的 Playground 里测试。官方资源官网https://typesafe.ai/控制台申请 API Keyhttps://console.typesafe.ai/官方文档https://docs.typesafe.ai/在官网创建API Key之后最快的验证方式是控制台里的 Playground游乐场不用写代码就能直接试控制台里的 Playground 分上下两块上面的 state 是要判断的文本。比如输入一条客服消息“我的订阅被扣了两次钱三天了还没人回复非常着急。”下面的 questions 是要问的问题。可以选 Noul、Score、Choice 三种类型填好 instructions 和 criteria 就行。点右下角的“跑请求”右边会立刻返回结果。截图里同时问了“这条消息表达紧急程度了吗”Noul和“该转给哪个团队处理”ChoiceJev 并行返回两个结果紧急程度 97%部门分类 100% 选择 billing。没有生成任何文字。这种一次提交多个问题的用法正好体现了 Jev 的设计思路把判断拆成原子问题并行评估代码直接消费结果。结语Jev 不是要取代 GPT 或 Claude它走的是另一条路不生成文字只做判断。在需要快速决策的场景里比如安全检测、实时分类、Agent 的工具选择它的速度和成本优势非常明显。业内有一种观点认为Jev 验证了 Agent 架构的“快慢分工”昂贵的大模型负责规划等“慢思考”高频、原子化的“快判断”交给轻量决策模型完成。如果接下来有更多模型沿着这个方向走“判断模型”可能会成为一个独立的分支。