首页/新闻资讯/正文详情

110、WebSocket实时通信Agent

发布时间:2026/9/23 6:56:38 来源:云帆数科 栏目:资讯中心
110、WebSocket实时通信Agent
110、WebSocket实时通信Agent最近在调一个Agent服务,前端页面上的对话气泡总是卡在“思考中……”半天不动,后端日志里却能看到LLM的token早就流完了。我一开始怀疑是SSE的缓存问题,后来抓包一看,WebSocket连接早就断了,前端还在傻乎乎地等onmessage。这种问题很典型——Agent的实时通信不能简单套用传统的请求-响应模型,尤其是当你的Agent需要同时处理流式输出、工具调用状态回传、多客户端广播的时候,WebSocket的坑一个接一个。今天就把我调这个问题的全过程记录下来,顺带聊聊Agent场景下WebSocket到底该怎么用。先说那次调试的现场。服务端用的是FastAPI + WebSocket,客户端是React的useWebSocket库。Agent每轮回复包含三个阶段:先推送一个“开始思考”事件,然后逐字推流LLM的token,最后推送一个“工具调用完成”事件。问题就出在第二阶段,token推流稍微慢一点,比如超过60秒,浏览器端的连接就被断了。为什么?因为WebSocket是长连接,但中间任何一层代理(Nginx、云负载均衡)都可能有一个空闲超时时间,默认60秒或更短。你的连接没有数据流动,代理就认为是空闲连接,直接给你掐了。解决方式很简单,但很容易被忽略——必须定期发心跳包。注意心跳包不能和业务消息混在一起,得单独定义一个事件类型,比如{"type":"ping"},服务端收到后回{"type":"pong"}。而且心跳间隔要小于代理超时时间,但也不能太频繁,否则白白消耗资源。我一般设置30秒一次,写个定时器,在onopen里启动,

相关推荐

基于STM32的便携式污水检测船设计与实现
基于STM32的便携式污水检测船设计与实现

1. 项目缘起与整体设计思路1.1 为什么选择STM32做污水检测船的主控做水质监测这个方向,我前前后后折腾过好几套方案。最早用树莓派,算力是够,但功耗和成本摆在那里,野外部署要配大容量电池,整体下来一套轻松过千。后来… · 2026/9/23 6:56:32

AI如何重构SEO技术栈与实战策略
AI如何重构SEO技术栈与实战策略

1. 搜索引擎优化的传统困境与AI破局点过去十年间,SEO从业者主要依靠关键词密度、外链建设和内容更新频率等传统手段提升排名。我2015年运营的第一个技术博客,就是靠每周三篇2000字长文加论坛签名外链,硬生生把"Java教程"这个关键词… · 2026/9/23 6:56:32

DC/DC电源选型:效率、体积、隔离与EMI的多目标权衡
DC/DC电源选型:效率、体积、隔离与EMI的多目标权衡

1. 为什么“选DC/DC电源”从来不是一道单选题,而是一场多目标动态博弈?刚接手一个工业边缘计算网关项目时,我原以为只是照着规格书挑个5V/3A的DC/DC模块——结果光是电源部分就卡了三周。PCB打样回来,温升超标、CAN总线通信偶发丢… · 2026/9/23 6:56:32

WOA-CNN小样本回归预测:Matlab工程级实现与避坑指南
WOA-CNN小样本回归预测:Matlab工程级实现与避坑指南

简介:本资源是一套面向深度学习初学者与MATLAB实践者的CNN回归预测完整实现方案,聚焦时间序列、工程参数估计等连续数值预测场景。资源基于鲸鱼优化算法(WOA)自动调优卷积神经网络(CNN)超参,在M… · 2026/9/23 13:52:04

IronClaw Google Sheets 扩展 create_spreadsheet 能力全解析:参数契约、WASM 调用链与安全模型
IronClaw Google Sheets 扩展 create_spreadsheet 能力全解析:参数契约、WASM 调用链与安全模型

IronClaw Google Sheets 扩展 create_spreadsheet 能力全解析:参数契约、WASM 调用链与安全模型 【免费下载链接】ironclaw IronClaw is an Agent OS focused on privacy, security and extensibility 项目地址: https://gitcode.com/gh_mirrors/iro/ironclaw … · 2026/9/23 13:52:04

TVM 部署到 Adreno GPU 全指南:OpenCL 纹理增强、OpenCLML 加速与 Android 端到端部署实战
TVM 部署到 Adreno GPU 全指南:OpenCL 纹理增强、OpenCLML 加速与 Android 端到端部署实战

TVM 部署到 Adreno GPU 全指南:OpenCL 纹理增强、OpenCLML 加速与 Android 端到端部署实战 【免费下载链接】tvm Open deep learning compiler stack for cpu, gpu and specialized accelerators 项目地址: https://gitcode.com/gh_mirrors/tvm7/tvm 本指南系… · 2026/9/23 13:52:04

3步搞定qq改密保逻辑,从入门到精通避坑指南
3步搞定qq改密保逻辑,从入门到精通避坑指南

3步搞定qq改密保逻辑,从入门到精通避坑指南 配置环境就卡半天,调试半天报错,是不是你也经历过这种崩溃时刻?别急,今天咱们不整虚的,直接拆解【qq改密保】背后的前端逻辑。很多兄弟觉得改密码就是个简单表单,实则不然。想从入门到精通,必须搞懂数… · 2026/9/23 13:52:04

使用 Zeit Now 部署 Prisma GraphQL 服务器:从基础 `now` 到环境变量驱动的 `.env` 进阶实战
使用 Zeit Now 部署 Prisma GraphQL 服务器:从基础 `now` 到环境变量驱动的 `.env` 进阶实战

后端数据库GraphQL 【免费下载链接】prisma1 💾 Database Tools incl. ORM, Migrations and Admin UI (Postgres, MySQL & MongoDB) [deprecated] 项目地址: https://gitcode.com/gh_mirrors/pr/prisma1 点击查看 免费下载 导读 本文基于 Prisma 官… · 2026/9/23 13:52:03

JavaWeb图书系统:MVC分层、事务控制与数据库设计实战
JavaWeb图书系统:MVC分层、事务控制与数据库设计实战

简介:本资源是一套完整、高分通过的JavaWeb期末大作业级在线图书销售系统,面向计算机及相关专业本科生,解决课程设计与期末项目实战中对MVC架构、数据库交互及前后端协同开发的综合训练需求。压缩包共125个文件,含43个Java业务逻辑… · 2026/9/23 13:51:57

3招搞定手机怎么下载微信面试难题实战项目解析
3招搞定手机怎么下载微信面试难题实战项目解析

3招搞定手机怎么下载微信面试难题实战项目解析 面试被问“手机怎么下载微信”背后的原理,90%的人答不上来。别笑,这看似弱智的问题,实则是考察你对移动应用分发机制、安全校验及网络协议理解的试金石。我带过不少校招新人,他们背了八股文,却连一个A… · 2026/9/23 0:00:03

你有新短消息请注意查收:3个新手避坑指南搞定消息系统选型
你有新短消息请注意查收:3个新手避坑指南搞定消息系统选型

你有新短消息请注意查收:3个新手避坑指南搞定消息系统选型 面试被问“高并发下如何保证消息不丢失”,你张口就是“用Redis”,结果面试官追问“如果Redis宕机了怎么办”,你瞬间卡壳。这种场景太常见了,很多新手在背八股文时,只记住了技术名词… · 2026/9/23 0:00:29

Win7无线热点配置工具源码解析:解决API失效的3个实战技巧
Win7无线热点配置工具源码解析:解决API失效的3个实战技巧

Win7无线热点配置工具源码解析:解决API失效的3个实战技巧 Win7无线热点配置工具在Win10/11上跑不动?不是你的问题,是版本升级后 API 全变了。很多老项目里的 netsh wlan… · 2026/9/23 0:00:36

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码