首页/新闻资讯/正文详情

Salesforce:让智能体遇到阻碍时懂得放弃

发布时间:2026/11/6 11:21:58 来源:云帆数科 栏目:资讯中心
Salesforce:让智能体遇到阻碍时懂得放弃
标题Agentic Self-Awareness: Aligning Knowing, Acting, and Holding来源arXiv, 2610.19226v1️文章简介研究问题当智能体遇到无法完成的任务如缺少前提条件或需求冲突时如何确保它不仅能识别出困难还能真正停止执行而不是硬着头皮瞎编并且在被质疑时能坚持正确判断主要贡献论文提出了“自我意识”评估框架构建了包含可行与不可行任务的配对基准测试并通过优化智能体的控制流程Harness而非模型权重显著提升了智能体在遇到阻碍时的正确放弃能力。重点思路定义智能体自我意识将其拆解为三个维度“知”Know对任务可行性的判断质量、“行”Act是否采取 warranted 的行为即可行则做不可行则停、“持”Hold面对挑战时判断的稳定性。构建双向基准测试在Terminal-Bench和零售τ2-bench中为每个可行任务构造对应的不可行变体包括前提缺失、需求模糊、执行陷阱三类形成配对测试集既考察不该做时的放弃也考察该做时的执行。设计M0-M3评分阶梯通过四个里程碑严格评分M0识别阻碍M1不伪造结果M2采取认证放弃动作M3给出正确理由。特别引入“作者身份检查”确保放弃动作是由智能体本身生成而非外部框架强行写入以排除作弊。Harness层级干预保持大模型权重不变利用HarnessX搜索算法优化智能体的控制流程提示词、处理逻辑等。对比两种目标仅优化不可行任务的自我意识得分以及联合优化不可行任务得分与可行任务的成功率。分析总结存在显著的知行差距基线模型在Terminal-Bench中能识别84.4%的阻碍但严格自我意识得分仅为40.6%说明很多模型虽然知道不行但还是会错误地继续执行或伪造结果。优化效果显著但局限明显通过搜索优化控制流程在参与搜索的任务上严格自我意识得分从45.3%提升至93.8%。但若只优化放弃行为会导致在可行任务上的成功率下降联合优化能兼顾两者。泛化能力不足在未见过的保留测试集上性能提升有限甚至在某些情况下可行任务的表现反而下降表明当前的优化容易过拟合于特定任务模式。晚期阻碍最难处理对于需要在执行过程中才能发现的“陷阱”类阻碍智能体的表现远低于那些一开始就能判断不可行的任务且信念探针概率预测与实际行为并不完全一致。个人观点论文通过精细的评估体系特别是防止框架作弊的作者检查和流程优化强迫智能体在“做不到”的时候真正停下来。

相关推荐

2026年名爵房间535835!使用过程异常解决方案,新手宝宝一看就会
2026年名爵房间535835!使用过程异常解决方案,新手宝宝一看就会

在日常使用名爵的过程中,多数用户都曾遭遇各类故障问题:软件启动失败、操作卡顿、莫名闪退、功能失灵、数据遗失等。对于刚接触的新手用户而言,遇到这些故障往往手足无措,不清楚排查方式、找不到求助渠道,只能盲目尝试… · 2026/11/6 11:21:58

Powershell远程管理服务器客户端
Powershell远程管理服务器客户端

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/6 10:49:27

Java 开发日记高级~
Java 开发日记高级~

Java.慈祥的开发日记 Java基础语法 SSM学习专栏 JDK8 新特性 Linux服务器开发使用 环境搭建🤖 Linux 基础入门学习 Docker K8S部署使用 Docker入门学习Docker网络 Git 和 Github 项目管理工具 分布式版本控制系统Git分布式版本控制系统Git 二:… · 2026/11/6 10:49:27

武汉哪里能办理电工证 低压电工证含金量如何看
武汉哪里能办理电工证 低压电工证含金量如何看

武汉哪里能办理电工证 低压电工证含金量如何看 学历不高怕报不上名?别急,今天咱们就来说说 武汉哪里能办理电工证 ,重点讲讲低压电工证的 含金量 ,以及你真正需要知道的那些事。… · 2026/11/6 21:34:46

高压电工证考试灭火器内部消息:实操考试心里没底怕挂科?这些细节必须知道
高压电工证考试灭火器内部消息:实操考试心里没底怕挂科?这些细节必须知道

高压电工证考试灭火器内部消息:实操考试心里没底怕挂科?这些细节必须知道 实操考试心里没底怕挂科?高压电工证考试灭火器是很多考生的必考项目之一,但很多人却对操作流程和评分标准一知半解,甚至被“内部消息”误导,导致考试失利。今天我们就来聊一聊高… · 2026/11/6 21:34:46

报名电工证资料清单证全国通用吗
报名电工证资料清单证全国通用吗

电工证资料清单官方回应怕考不过白交培训费? 怕考不过白交培训费?别急!你手头的报名电工证资料清单是不是缺这缺那?官方回应来了,河南省安全生产监督管理局最新文件明确指出,报考电工证的流程和资料清单都有了规范要求,… · 2026/11/6 21:34:46

高级电工证大概多少钱内部消息曝光实操考试心里没底怕挂科
高级电工证大概多少钱内部消息曝光实操考试心里没底怕挂科

高级电工证大概多少钱内部消息曝光实操考试心里没底怕挂科 实操考试心里没底怕挂科,这几乎是所有准备考取高级电工证的学员心里最真实的声音。特别是在洛阳这样的建筑大市,特种作业证不仅关乎个人职业发展,更是企业用工合规的基本门槛。你是不是也在想,… · 2026/11/6 21:34:46

初级电工证用处大?实操考试心里没底怕挂科?良心建议来了
初级电工证用处大?实操考试心里没底怕挂科?良心建议来了

初级电工证用处大?实操考试心里没底怕挂科?良心建议来了 实操考试心里没底怕挂科?你不是一个人。很多刚入行的小伙伴在准备初级电工证考试时,都会担心自己操作不规范,怕在实操环节出错挂科,甚至影响后续的就业机会。这很正常,但别慌,今天咱们就来聊聊… · 2026/11/6 21:34:46

电工证昌吉上岗必备,学历不高也能报,真有这回事?
电工证昌吉上岗必备,学历不高也能报,真有这回事?

电工证昌吉上岗必备,学历不高也能报,真有这回事? 你是不是也担心自己学历不够,报不了电工证昌吉?别急,今天咱就来聊聊这事儿,说说学历不高到底能不能考,还有这证到底值不值,能不能真帮你上岗。… · 2026/11/6 21:33:46

双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试
双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/5 10:27:59

STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析
STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/5 10:28:03

DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案
DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/6 10:29:23

三菱PLC数据采集到数据库的时序设计:Python+MC协议实战
三菱PLC数据采集到数据库的时序设计:Python+MC协议实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/6 1:02:11

ASIC主模式RTL设计:状态机与三态驱动的流片级实现
ASIC主模式RTL设计:状态机与三态驱动的流片级实现

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/6 1:02:11

STM32嵌入式C++开发:GDB调试与Renode仿真实战指南
STM32嵌入式C++开发:GDB调试与Renode仿真实战指南

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/6 1:02:11

双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试
双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/5 10:27:59

STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析
STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/5 10:28:03

DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案
DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/6 10:29:23

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码