Jev ：Agent 又慢又贵的根因，是决策环节的冗余调用？-云帆数科

Agent 每走一步都在做判断这条消息紧急吗、这个工单转给哪个部门、这条命令该直接执行还是先问人。这些题的答案就是个结构化结论——是/否、A 还是 B——模型根本不需要写一段话来推理。 Agent每做一次判断就得把整段上下文喂给大模型、等它生成一整段文本进行一次完整的 LLM 调用。一个 agent 跑几十步就有几十次这种冗余。Jev 和 JevHarness 要做的就是给这层判断单独造一个便宜的引擎。一、Jev 是什么一个只做判断、不说话的模型 Jev 是 TypeSafe AI 九月发布的模型官方叫System One 模型。名字借自 Kahneman 的「快慢系统」聊天大模型是慢思考系统二边想边逐字生成Jev 是快思考系统一不生成文本只给结构化判断。它怎么用——你给它一个state当前上下文和一组questions关于这个 state、你事先定义好的问题它返回类型化答案加概率。一次请求里三种问题可以混着问、并行评估加问题几乎不增加延迟。三种问题类型Noul这句话为真的概率0~1。例这条消息紧急吗 → 0.999。Choice从你给的选项里挑一个返回每个选项概率加置信度最多 255 个选项。例工单转哪个部门 → {账单 0.92, 技术 0.05, 销售 0.03}。Score按你定的有序等级打分返回连续分数。例紧急程度低/中/高 → 0.78 偏「高」。关键设计输出结构是你事先定义的。statequestions进去模型只能在你列的 A/B/C 里选。它不可能凭空编个 D也不可能突然吐一段小作文。为什么快又便宜非自回归传统 LLM 一个 token 一个 token 往外蹦每步依赖前一步Jev 一次前向计算并行输出所有决策的概率分布端到端 70~500ms。RLCD 训练用「面向校准决策的强化学习」替代 RLHF优化目标不是「人类更喜欢」而是「校准过的概率」——它说 70% 把握真实准确率就约 70%。这点是自动化工作流的关键因为你敢按置信度分流高置信自动、低置信人工。定价输入 $0.042 / 百万 token输出免费输出是概率分布不值得计费。官方称同类任务比前沿 LLM 快 40~200 倍、便宜约两个数量级。二、Jev 怎么接进你的 Agent 接 Jev 不用重做你的 Agent只在那些「规则写不死、又不想为它再调一次 LLM」的判断点上用官方 SDK typesafe_sdk把当前上下文塞进state把要判断的题列进questions拿回带概率的答案直接进if。code-snippet__jsfrom typesafe_sdk import Choice, Noul, Score, TypeSafeClientclient TypeSafeClient() # 读 TYPESAFE_API_KEY默认 jev-latestticket “我连 Stripe 三天了还失败急”resp client.system_one(stateticket,questions{“is_urgent”: Noul(instructions“这条消息是否表达了紧急或时效压力”),“department”: Choice(instructions“该转给哪个团队”,criteria{“billing”: “支付/发票/退款”,“technical”: “Bug/故障/对接”,“sales”: “报价/升级/新开”},),“frustration”: Score(instructions“客户有多生气”,criteria[“平静陈述”, “不满但克制”, “暴怒”],),},)总结 Agent 运行时真正烧钱的大头是决策环节的冗余调用。Jev 把决策层从执行层剥开便宜的做便宜的判断贵的只在真要深想时出场。这层以前被大厂闭源藏起来现在成了谁都能装的开源件。未来 Agent 架构会分层——规则、决策Jev、推理LLM、执行、复核各司其职而不是一个万能 LLM 硬扛。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

企业数字化 ERP 产品动态

相关推荐

ENSP校园网组网实战：从VLAN规划到静态路由的完整配置指南

/* MD / 富文本中的 .toc（含博客园搬家等嵌套结构）；.toc-box 在侧栏，不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p（:empty 仍占 20px），一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/24 5:30:32

ESP32-C3小彩屏翻页时钟：从硬件选型到动画实现

MemOS 参数记忆（Parametric Memory）全解析：Memory³ 架构中的隐式知识载体与 LoRA 能力模块设计

人工智能大模型Agent 记忆AI AgentRAG知识图谱dsh-plugin 【免费下载链接】MemOS Self-evolving memory OS for LLM & AI Agents: ultra-persistent memory, hybrid-retrieval, and cross-task skill reuse, with 35.24% token savings and DeepSeek Harness support. 项目… · 2026/9/24 5:30:20

Flink Native Kubernetes 部署实战：会话模式、应用模式与 Pod 模板配置全指南

大数据流处理批处理数据工程【免费下载链接】flink 项目地址： https://gitcode.com/gh_mirrors/fli/flink 点击查看免费下载本指南基于 Apache Flink 的 Kubernetes 原生集成（Native Kubernetes）资源提供方，完整讲解如何将 Fl… · 2026/9/24 6:20:09

电流检测电路六种方案详解：原理、对比与选型指南

PHPStan 错误指南：如何理解并修复 “Unsafe usage of new static()“

开发工具代码质量静态分析【免费下载链接】phpstan PHP Static Analysis Tool - discover bugs in your code without running it! 项目地址： https://gitcode.com/gh_mirrors/ph/phpstan 点击查看免费下载本篇技术指南围绕 PHPStan 错误标识符 new.static 展开… · 2026/9/24 6:20:09

Presto Release 0.161 技术详解：ORDER BY 语义变更、EXCEPT 正确性修复与连接器增强

大数据数据库后端【免费下载链接】presto The official home of the Presto distributed SQL query engine for big data 项目地址： https://gitcode.com/gh_mirrors/pre/presto 点击查看免费下载导读本文基于 Presto 官方发布说明 release-0.161.rst&#xf… · 2026/9/24 6:19:56

Vega Voronoi 变换完全指南：基于 vega-voronoi 计算数据点单元路径

数据可视化【免费下载链接】vega A visualization grammar. 项目地址： https://gitcode.com/gh_mirrors/ve/vega 点击查看免费下载 vega-voronoi 是 Vega 生态中专门负责计算 Voronoi（沃罗诺伊）图变换的独立数据流（dataflow&am… · 2026/9/24 6:19:50

TC387 MCMCAN Message RAM配置全解析：从RAM结构到Tx/Rx FIFO实战

基于YOLOv8的渔船作业监控系统：从环境搭建到边缘部署全流程

简介：这是一套面向计算机、人工智能、自动化等专业学生与教师的毕业设计级项目资源，围绕YOLOv8实现渔船作业监控系统，可用于毕设、课程设计、大作业或项目立项演示。压缩包共97个文件，约24.21MB，以70个Python源码文件为… · 2026/9/24 0:00:13

1D-CNN时间序列建模实战：从Conv1d原理到工业落地

简介：面向时间序列数据建模的一维卷积神经网络完整实现，适合深度学习入门者及需要快速验证时序模型的研究者，能够从音频、文本、传感器或股价等序列中挖掘局部特征与时间依赖。压缩包体积很小，只有3KB，内含3个Python脚… · 2026/9/24 0:00:26

柔软的L：汉语语流中被忽视的舌肌张力控制

1. 这个“L”不是字母表里的L，而是舌尖上的L最近在几个方言群和语音教学社群里，反复看到有人发一句：“也说字母L：柔软的长舌”。初看以为是英语发音课笔记，点开才发现全是方言爱好者、播音系学生、语言康复师甚至戏曲演… · 2026/9/24 0:00:44

Jev ：Agent 又慢又贵的根因，是决策环节的冗余调用？

相关推荐

了解更多？预约专属演示