首页/新闻资讯/正文详情

AI Agent 上生产前,这五道安全门你关了吗

发布时间:2026/9/27 17:51:31 来源:云帆数科 栏目:资讯中心
AI Agent 上生产前,这五道安全门你关了吗
Agent 应用从 demo 走向生产的路上功能问题好解安全问题容易被跳过。结合 OWASP 最新的 Agent 威胁分类和我们自己的上线检查单五道安全门一一道来。第一道提示注入的隔离用户输入直接拼进 system prompt 是最常见的坑。攻击者一句「忽略之前的指令」就能让 Agent 变剧本杀。防线指令与数据分层——用户输入永远走独立的消息角色system 区只放你写死的指令对用户输入做意图白名单校验这个 Agent 允许做什么超出即拒。第二道工具调用的最小权限Agent 能调的每个工具都是一个攻击面。防线按会话授权不按 Agent 授权——一次会话里 Agent 只拿得到本次任务需要的工具子集高危工具删数据、对外发送、支付必须二次确认且确认由人触发而非模型判断。第三道输出内容的围栏Agent 的输出会流回用户界面、写进数据库、触发下游动作。防线输出过同一套过滤——你的 Web 应用对用户输入做什么 XSS/敏感词过滤对 Agent 输出就做什么它本质是个「会自动生成内容的用户」。别因为内容是自己生成的就跳过校验。第四道记忆污染有长期记忆的 Agent记忆本身就是攻击目标——污染一条记忆「用户喜欢 XX」后续所有会话都被带偏。防线记忆分级来源标记——核心偏好类记忆只能从「确认过的行为」提取临时上下文定期清理记忆写入记审计日志。第五道成本与行为的熔断安全不只防黑客也防失控——Agent 循环调用工具卡死、token 消耗暴走、异常重试风暴。防线三重熔断——单会话调用次数上限、单日 token 预算上限、异常行为模式告警如同一工具连续失败 N 次。熔断是运维安全也是钱包安全。结语五道门的共同思路不信任任何单一环节——输入不可信、输出不可信、模型判断不可信、记忆不可信、行为不可控每一环都设独立防线。Agent 的安全不是加一个过滤器是换一种架构思维。

相关推荐

Codex入门13-Codex对比ClaudeCode:终端AI编程工具选型,配置文件与报错处理全解析
Codex入门13-Codex对比ClaudeCode:终端AI编程工具选型,配置文件与报错处理全解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/27 17:51:25

苍南最好的网站建设公司怎么选:保姆级建站教程避坑指南
苍南最好的网站建设公司怎么选:保姆级建站教程避坑指南

苍南最好的网站建设公司怎么选:保姆级建站教程避坑指南 备案流程一头雾水,是很多苍南老板找建站公司时最头疼的事。 别慌,这份保姆级建站教程直接拆解底层逻辑。 选对技术,备案通过率能提升30%以上,不再被反复退回。… · 2026/9/27 17:51:19

项目改造日记:用 Trae cn + venv 给 FastAPI 项目配 TaoToken 环境骨架
项目改造日记:用 Trae cn + venv 给 FastAPI 项目配 TaoToken 环境骨架

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/27 17:51:01

从0开始做混音实战③:音量调好了,人声为什么还是听不清?用EQ给人声腾位置
从0开始做混音实战③:音量调好了,人声为什么还是听不清?用EQ给人声腾位置

上一篇,我们只用音量调节,让人声和伴奏建立了基本的主次关系。但实际试听时,可能会遇到一个矛盾:伴奏降低后,人声清楚了,音乐却失去了力量;伴奏恢复到合适音量,人声又变得模糊。这说… · 2026/9/27 18:32:07

【深度长文】2026年了,为什么我劝你放弃网页版 ChatGPT 编程?用 TaoToken 统一 Key 打通 IDE 与 Agent
【深度长文】2026年了,为什么我劝你放弃网页版 ChatGPT 编程?用 TaoToken 统一 Key 打通 IDE 与 Agent

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/27 18:32:07

选产品图案设计网站哪家好,3招防挂马保数据
选产品图案设计网站哪家好,3招防挂马保数据

选产品图案设计网站哪家好,3招防挂马保数据 昨晚三点,我盯着后台监控报警,心跳快得像跑完马拉松。客户的产品图案设计网站突然满屏弹窗,广告图换成了博彩链接,浏览器直接标红“不安全”。那一刻才懂,选对产品图案设计网站哪家好,真不是看界面多漂亮,… · 2026/9/27 18:32:07

Claude Code 文档 Skill 第二弹:一句话生成专业 Word 文档,排版目录页眉全自动
Claude Code 文档 Skill 第二弹:一句话生成专业 Word 文档,排版目录页眉全自动

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/27 18:32:01

Anthropic ant CLI 实战:用 TaoToken 统一 Key 管理 Claude Agent 的 config.toml 骨架
Anthropic ant CLI 实战:用 TaoToken 统一 Key 管理 Claude Agent 的 config.toml 骨架

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/27 18:32:01

新建网站的缺点揭秘:避开性能优化坑
新建网站的缺点揭秘:避开性能优化坑

新建网站的缺点揭秘:避开性能优化坑 模板网站太丑,功能还卡,这是很多新手建站后最头疼的事。你以为买个模板就能开工,结果上线后流量惨淡,页面加载慢得像蜗牛。其实,新建网站的缺点往往藏在细节里,尤其是性能优化没做好,直接劝退访客。别急,今天咱们… · 2026/9/27 18:31:55

MATLAB雷达信号脉冲压缩仿真:LFM线性调频、匹配滤波与距离分辨率实现
MATLAB雷达信号脉冲压缩仿真:LFM线性调频、匹配滤波与距离分辨率实现

简介:这套Matlab仿真工具完整呈现雷达信号脉冲压缩过程,从线性调频(LFM)信号生成、目标回波仿真到匹配滤波压缩处理均有可运行代码支撑,面向电子信息工程、计算机、数学等专业学生,适用于课程设计、期末大作… · 2026/9/27 0:00:01

汕头网站建设制作厂家避坑指南:5大注意事项救急
汕头网站建设制作厂家避坑指南:5大注意事项救急

汕头网站建设制作厂家避坑指南:5大注意事项救急 改个需求建站公司拖一周,这种憋屈事我见得太多了。 很多汕头老板找本地建站团队,签合同前看着方案挺美,一上线就变脸。 今天不聊虚的,直接拆解找 汕头网站建设制作厂家 时的5个核心 注意事项… · 2026/9/27 0:00:01

多模态虚假新闻检测实战:BERT+ResNet双塔与对比学习
多模态虚假新闻检测实战:BERT+ResNet双塔与对比学习

简介:基于PyTorch的多模态虚假新闻检测项目完整代码包,面向自然语言处理与计算机视觉交叉方向的开发者、科研人员及毕业设计选题者,解决社交媒体中文本与图像联合识别虚假新闻的问题。系统以BERT预训练模型提取文本语义特征,以Res… · 2026/9/27 0:00:01

MATLAB雷达信号脉冲压缩仿真:LFM线性调频、匹配滤波与距离分辨率实现
MATLAB雷达信号脉冲压缩仿真:LFM线性调频、匹配滤波与距离分辨率实现

简介:这套Matlab仿真工具完整呈现雷达信号脉冲压缩过程,从线性调频(LFM)信号生成、目标回波仿真到匹配滤波压缩处理均有可运行代码支撑,面向电子信息工程、计算机、数学等专业学生,适用于课程设计、期末大作… · 2026/9/27 0:00:01

汕头网站建设制作厂家避坑指南:5大注意事项救急
汕头网站建设制作厂家避坑指南:5大注意事项救急

汕头网站建设制作厂家避坑指南:5大注意事项救急 改个需求建站公司拖一周,这种憋屈事我见得太多了。 很多汕头老板找本地建站团队,签合同前看着方案挺美,一上线就变脸。 今天不聊虚的,直接拆解找 汕头网站建设制作厂家 时的5个核心 注意事项… · 2026/9/27 0:00:01

多模态虚假新闻检测实战:BERT+ResNet双塔与对比学习
多模态虚假新闻检测实战:BERT+ResNet双塔与对比学习

简介:基于PyTorch的多模态虚假新闻检测项目完整代码包,面向自然语言处理与计算机视觉交叉方向的开发者、科研人员及毕业设计选题者,解决社交媒体中文本与图像联合识别虚假新闻的问题。系统以BERT预训练模型提取文本语义特征,以Res… · 2026/9/27 0:00:01

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码