首页/新闻资讯/正文详情

Understanding and Enhancing Backdoor Persistency in LLM Agent Post‑Training 论文总结与翻译

发布时间:2026/11/17 2:06:17 来源:云帆数科 栏目:资讯中心
Understanding and Enhancing Backdoor Persistency in LLM Agent Post‑Training 论文总结与翻译
# Understanding and Enhancing Backdoor Persistency in LLM Agent Post‑Training 论文总结与翻译 论文arXiv:https://arxiv.org/abs/2610.07510 会议:EMNLP 2026 Findings## 一、论文主要内容本文研究**大语言模型Agent供应链安全威胁:预植入后门在开发者后续后训练流程中的存活能力**。现实场景中开发者经常基于第三方开源模型,通过良性的有监督微调(SFT)、任务强化学习(RL)来构建软件工程类LLM Agent;攻击者可以提供已经植入后门的预训练模型,后门在特定触发输入下输出恶意行为。1. **核心现象发现**:良性SFT会显著降低后门攻击成功率,但紧随其后的RL往往会保留SFT之后残余的后门行为,甚至会提升攻击成功率,后门并不会被后训练完全消除。2. **影响后门存活的两大关键因素**:①初始后门强度;②后门梯度与良性训练任务的**梯度兼容性**。这两个因素决定后门在SFT过程中是否容易被擦除。3. **提出PersistBD方法**:攻击者视角的增强后门持久化算法。在带后门模型对外发布之前对模型做二次精炼,提升后门抵抗开发者SFT+RL的能力,同时尽量不破坏模型正常业务性能。4. **实验结果(Qwen2.5‑Coder‑7B)**:普通后门经过SFT后攻击成功率仅20%,SFT+RL之后仍20%;经过PersistBD处理后,SFT后攻击成功率提升至74%,SFT‑RL流程后达到76%,模型良性任务性能基本保持不变。5. **安全启示**:第三方模型继承而来的后门可以在开发者全套良性后训练之后依然生效,存在真实供应链风险;需要新

相关推荐

达梦数据复制软件DMDRS控制台命令:DMDRS跟踪命令
达梦数据复制软件DMDRS控制台命令:DMDRS跟踪命令

关键词:DMDRS跟踪命令、添加源DMDRS跟踪、添加目标DMDRS跟踪、查看DMDRS跟踪、数据同步跟踪摘要:本文介绍DMDRS控制台的跟踪命令,含添加源DMDRS跟踪、添加目标DMDRS跟踪及查看DMDRS跟踪三个命令的功能、语法、参数说明与使用示例,… · 2026/11/13 12:31:06

Windows 64位 ImageJ 安装包选型:Java 与插件配置全攻略
Windows 64位 ImageJ 安装包选型:Java 与插件配置全攻略

简介:面向Windows 64位系统的Fiji/ImageJ集成安装包,适合生物医学成像、物理学、工程学及材料分析等科研场景,解决图像查看、测量、滤波与批量处理需求。压缩包约320MB,内含Fiji.app自包含目录,解压后双击启动脚本即可… · 2026/11/16 17:15:34

Folia 移动端部署完整指南:如何把全屏歌词动画播放器装进手机主屏幕
Folia 移动端部署完整指南:如何把全屏歌词动画播放器装进手机主屏幕

Folia 移动端部署完整指南:如何把全屏歌词动画播放器装进手机主屏幕 【免费下载链接】folia-major 专注于绚丽的歌词动画效果的本地音乐/navidrome/第三方多平台在线音乐播放器 项目地址: https://gitcode.com/GitHub_Trending/fo/folia-major 手机里缺一个能… · 2026/11/14 8:25:14

抚宁区在哪里办电工证 以前的证能转吗 含金量高不高
抚宁区在哪里办电工证 以前的证能转吗 含金量高不高

抚宁区在哪里办电工证 以前的证能转吗 含金量高不高 之前考的证在外省能不能转过来?这个问题我见过太多人问了。特别是像你这样,之前在外省考的电工证,现在想在抚宁区这边用,担心不被认可,还怕含金量不够。别急,我来给你说清楚,怎么转、怎么考、怎么… · 2026/11/17 2:05:31

来宾高压电工证培训怎么转?证书含金量你得知道
来宾高压电工证培训怎么转?证书含金量你得知道

来宾高压电工证培训怎么转?证书含金量你得知道 之前考的证在外省能不能转过来,这事儿我真见过不少人被卡住。有个朋友在河南许昌干了几年电工,后来跟着项目调到广西来宾,结果一到新地方就被问:“你这证能用不?”那一刻他才知道, 高压电工证的含金量… · 2026/11/17 2:05:31

富顺电工作业怎么报名?急需特种作业证才能上岗找工作
富顺电工作业怎么报名?急需特种作业证才能上岗找工作

富顺电工作业怎么报名?急需特种作业证才能上岗找工作 你是不是正准备找电工相关的工作,却因为没有【富顺电工作业】证书而被拒之门外?别急,现在就告诉你怎么报名,以及这本证书到底值不值得考。别让一张证件,耽误了你整个职业生涯。… · 2026/11/17 2:05:31

怎么在网上学习电工证证全国通用吗
怎么在网上学习电工证证全国通用吗

电工证过期了不知道怎么复审延期?网上学习+考前押题全攻略 证书过期了不知道怎么复审延期?你不是一个人在战斗,这种情况在特种作业证书持有者中并不少见。尤其是像电工证这种全国通用的证件,一旦过了有效期,不仅影响日常工作,还可能面临被单位辞退甚至… · 2026/11/17 2:05:31

低压电工证 基本知识全流程办理指南
低压电工证 基本知识全流程办理指南

低压电工证基本知识全知道:上岗必备,别再被坑钱了 怕考不过白交培训费?你不是一个人,郑州金水区的劳务班组负责人老李就曾被培训机构坑过,花了3000多块培训费,结果考试挂了,证书也拿不到,还得重新报名。这事儿不是个例,很多人因为不了解低压电工… · 2026/11/17 2:05:31

郑州考电工证的机构怎么考?内部消息:证书过期了不知道怎么复审延期?别慌!
郑州考电工证的机构怎么考?内部消息:证书过期了不知道怎么复审延期?别慌!

郑州考电工证的机构怎么考?内部消息:证书过期了不知道怎么复审延期?别慌! 证书过期了不知道怎么复审延期?这是很多郑州电工朋友的共同困扰。特别是像你这样在平顶山从事市政公用工程的,经常需要面对项目变更、岗位调动、证书过期等突发情况,一不小心就… · 2026/11/17 2:04:31

长春初级电工证怎么考?通过率揭秘全在这里
长春初级电工证怎么考?通过率揭秘全在这里

长春初级电工证怎么考?通过率揭秘全在这里 之前考的证在外省能不能转过来?这几乎是每个想从事电工工作的人都会问的问题。特别是那些在外地打拼多年、手里握着一张“外地电工证”的人,到了长春想继续干这一行,第一反应就是“我的证能用吗?”。今天我们就… · 2026/11/16 3:21:55

国内电工证报考条件与考试时间
国内电工证报考条件与考试时间

低压电工证怎么考?学历不高也能报名,官方报名入口全在这 你是不是经常听说“电工证是入行门槛”,但又担心自己学历不够、经验不足,根本报不了名?别急,今天就带你从零了解【国内电工证】的报考流程、考试内容,还有怎么在 官方报名入口… · 2026/11/16 3:01:18

电工作业时如何断电?电子证书到底能不能全国通用?
电工作业时如何断电?电子证书到底能不能全国通用?

电工作业时如何断电?电子证书到底能不能全国通用? 实操考试心里没底怕挂科,特别是电工作业时如何断电这一操作,不仅关系到你能不能拿到证书,更关系到以后能不能顺利上岗。很多人觉得这不过就是“断个电”,但其实这里面的门道可不少,稍有不慎就可能出错… · 2026/11/16 8:30:17

安徽特种工考证学校千万别踩坑,学历不高也能考证上岗
安徽特种工考证学校千万别踩坑,学历不高也能考证上岗

安徽特种工考证学校千万别踩坑,学历不高也能考证上岗 你是不是总觉得学历不高就考不了证,连报名资格都够不上?其实,很多人和你一样,学历不占优势,但想通过考证转行或提升自己的职业竞争力。安徽特种工考证学校虽然门槛不高,但千万别踩坑,稍有不慎就会… · 2026/11/17 0:00:20

你没学历也能考福田特种作业操作证?真实经历告诉你怎么干
你没学历也能考福田特种作业操作证?真实经历告诉你怎么干

你没学历也能考福田特种作业操作证?真实经历告诉你怎么干 你是不是觉得学历不高就考不上福田特种作业操作证?其实不然,我有个老乡,初中毕业,现在在安阳干焊工,每月拿8000多,还评上了高级技师。他的经历我今天就给你说说,看看你能不能照着走。… · 2026/11/17 0:00:20

低压电工证哪里盖章怎么报名 过期了别慌教你一步步复审
低压电工证哪里盖章怎么报名 过期了别慌教你一步步复审

低压电工证哪里盖章怎么报名 过期了别慌教你一步步复审 证书过期了不知道怎么复审延期?低压电工证是很多电工从业者必须持有的证件,一旦到期未及时办理复审,不仅影响工作,还可能面临被单位辞退甚至罚款。今天我就从南阳地区培训机构学员的角度,详细告诉… · 2026/11/17 0:00:20

双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试
双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/16 16:48:43

STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析
STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/16 16:48:57

DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案
DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/16 16:48:48

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码