首页/新闻资讯/正文详情

120、Agent的可观测性:Metrics与Tracing

发布时间:2026/9/23 22:19:46 来源:云帆数科 栏目:资讯中心
120、Agent的可观测性:Metrics与Tracing
120、Agent的可观测性:Metrics与Tracing昨天下午我盯着监控面板,发现那个Agent在凌晨开始不断重试同一个工具调用,日志里全是“timeout”,可面板上延迟曲线却是一条直线。不是不报,时候未到——因为当时只打了log,没打metrics,也没trace。后来把请求路径串起来才发现,是某个中间层把上下文长度撑爆了,每次重试都在重复同样的事。这让我意识到,Agent和普通服务在可观测性上是两个物种。普通API的调用是有限的、可预测的,请求进来,响应出去,你只需要知道状态码、延迟、QPS就够了。Agent不是这样。一个Agent任务内部会发起多轮LLM调用、工具调用、知识库检索,甚至多个子任务并行。每一步都依赖上一步的结果,而LLM本身又是概率性的,同一个任务可能两次走完全不同的路径。没有Metrics和Tracing,你就等于蒙着眼睛开车,只能靠用户反馈说“它好像疯了”。先说说Metrics。Agent里的指标,我分三类。第一类是资源指标,CPU、内存、队列长度、并发数,这些和普通服务一样,但Agent尤其要关注并发和排队,因为LLM API有并发限制,queue一长,整个Agent就“卡死”了。第二类是性能指标,LLM调用耗时、工具调用耗时、总延迟。注意,我特意说“耗时分布”而不是“平均耗时”。LLM延迟是爆炸形态的,平均值没有意义,有一次调用可能20秒,剩下都在2秒以内,平均值可能只有3秒,但p99可能是15秒。所以我们要用Histogram来记录分布。第三类是业务指标,token消耗、工具调用次数、任务成功率、重试率、上下文长度。这些才是Agent独有的。实际采集的时候,用prometheus_c

相关推荐

传统师承证哪家培训机构靠谱?从报名学习到考试拿证,报考全攻略
传统师承证哪家培训机构靠谱?从报名学习到考试拿证,报考全攻略

近两年,传统师承证的报考热度持续上升,想考的人不少,但绝大多数人卡在了同一个问题上:培训机构那么多,到底哪家靠谱?网上搜一圈,广告铺天盖地、说法互相矛盾,越看越不知道信谁。本文… · 2026/9/23 22:19:15

国内主流主数据管理平台推荐,2026年选型避坑指南
国内主流主数据管理平台推荐,2026年选型避坑指南

摘要 随着企业数智化转型步入深水区,主数据管理已从"锦上添花"变为"刚需基建"。数据编码不统一、一物多码、信息孤岛等问题持续困扰着集团型企业。本文聚焦2026年国内主数据管理平台市场,从技术架构、落地能力、行业适配等维度&… · 2026/9/23 22:19:09

人工智能训练工程师证哪家培训机构靠谱?从报名学习到考试拿证,报考全攻略
人工智能训练工程师证哪家培训机构靠谱?从报名学习到考试拿证,报考全攻略

近两年,人工智能训练工程师证的报考热度持续上升,想考的人不少,但绝大多数人卡在了同一个问题上:培训机构那么多,到底哪家靠谱?网上搜一圈,广告铺天盖地、说法互相矛盾,越看越不知道… · 2026/9/23 22:19:09

ALOHA协议吞吐率仿真与优化:从18.4%到时隙ALOHA的工程实践
ALOHA协议吞吐率仿真与优化:从18.4%到时隙ALOHA的工程实践

简介:这份资源围绕ALOHA与时隙ALOHA多址接入协议的性能仿真展开,面向无线通信、卫星通信及局域网方向的学习者与研究人员,帮助理解时隙划分、随机发送、碰撞检测与捕获效应等核心机制。压缩包共2个文件,均为m脚本文件,… · 2026/9/23 23:02:06

C# UHF RFID上位机开发:从DEMO到实战的串口通信与EPC解析
C# UHF RFID上位机开发:从DEMO到实战的串口通信与EPC解析

简介:这份资源是面向C#开发者与RFID入门者的UHF RFID阅读器演示工程,围绕UHFReader09型号设备,展示如何在.NET环境下完成标签读取、写入、解码及阅读器参数控制等核心操作。压缩包共52个文件、约660KB,以cs源代码为主体&#xff0… · 2026/9/23 23:02:06

LSTM时间序列预测实战:Python源码解析与调参避坑指南
LSTM时间序列预测实战:Python源码解析与调参避坑指南

简介:基于LSTM的时间序列分析预测Python源码,面向数据科学、人工智能方向的学习者与开发者。项目以空气污染数据为例,完整覆盖数据加载与归一化、LSTM模型构建(基于Keras/TensorFlow)、模型训练、评估与未来值预测等环… · 2026/9/23 23:01:53

长尾商品销量预测:基于DNN的时序预测与特征工程实战
长尾商品销量预测:基于DNN的时序预测与特征工程实战

简介:面向供应链备货中的长尾商品销量预测难题,这份基于TensorFlow 1.13编写的DNN项目源码,提供了7天、30天和60天三档预测的实现思路,适合有一定Python基础、希望借助低阶API掌握模型训练与部署的开发者。压缩包共6个文件&#x… · 2026/9/23 23:01:53

EverOS 记忆工作原理:Markdown 为源、SQLite 与 LanceDB 为派生索引的分层存储与同步管线
EverOS 记忆工作原理:Markdown 为源、SQLite 与 LanceDB 为派生索引的分层存储与同步管线

EverOS 记忆工作原理:Markdown 为源、SQLite 与 LanceDB 为派生索引的分层存储与同步管线 【免费下载链接】EverOS One portable memory layer for every AI agent: local-first, Markdown-native, user-owned, and self-evolving across apps, tools, and workflow… · 2026/9/23 23:01:41

鸵鸟目标检测数据集:419张VOC+YOLO双格式标注
鸵鸟目标检测数据集:419张VOC+YOLO双格式标注

简介:本资源是一份面向计算机视觉初学者与目标检测实践者的鸵鸟图像数据集,适用于YOLO、Faster R-CNN等主流检测模型的训练与验证。数据集共419张高质量JPG图像(1–500KB),全部标注为单一类别“ostrich”,并… · 2026/9/23 23:01:35

3招搞定手机怎么下载微信面试难题实战项目解析
3招搞定手机怎么下载微信面试难题实战项目解析

3招搞定手机怎么下载微信面试难题实战项目解析 面试被问“手机怎么下载微信”背后的原理,90%的人答不上来。别笑,这看似弱智的问题,实则是考察你对移动应用分发机制、安全校验及网络协议理解的试金石。我带过不少校招新人,他们背了八股文,却连一个A… · 2026/9/23 0:00:03

你有新短消息请注意查收:3个新手避坑指南搞定消息系统选型
你有新短消息请注意查收:3个新手避坑指南搞定消息系统选型

你有新短消息请注意查收:3个新手避坑指南搞定消息系统选型 面试被问“高并发下如何保证消息不丢失”,你张口就是“用Redis”,结果面试官追问“如果Redis宕机了怎么办”,你瞬间卡壳。这种场景太常见了,很多新手在背八股文时,只记住了技术名词… · 2026/9/23 0:00:29

Win7无线热点配置工具源码解析:解决API失效的3个实战技巧
Win7无线热点配置工具源码解析:解决API失效的3个实战技巧

Win7无线热点配置工具源码解析:解决API失效的3个实战技巧 Win7无线热点配置工具在Win10/11上跑不动?不是你的问题,是版本升级后 API 全变了。很多老项目里的 netsh wlan… · 2026/9/23 0:00:36

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码