首页/新闻资讯/正文详情

Mitigating LLM Over‑Refusal via Dynamic Semantic Routing Calibration 论文笔记

发布时间:2026/11/2 21:21:15 来源:云帆数科 栏目:资讯中心
Mitigating LLM Over‑Refusal via Dynamic Semantic Routing Calibration 论文笔记
# Mitigating LLM Over‑Refusal via Dynamic Semantic Routing Calibration 论文笔记 论文信息:arXiv:2609.25049|EMNLP 2026 Main Conference|作者:Zixuan Wang, Bingjie Zhang, He Zhao, Dandan Guo## 一、论文主要内容该论文针对经过安全对齐的大语言模型普遍存在的**过度拒绝(Over‑Refusal)**问题展开机理研究与算法设计。过度拒绝指模型错误拒绝本身无害、但和不安全提示存在词汇/语义重叠的合法用户指令(论文称为Hard‑Safe提示),会严重损害模型的可用性与推理能力。1. **机理分析**:过往研究大多把过度拒绝归因于静态表征空间的重叠,本文从Transformer注意力内部路由冲突角度做机理剖析。作者发现存在一小部分**高敏感安全注意力头(Hypersensitive Safety Heads)**,在处理Hard‑Safe无害提示时会异常激活;产生异常注意力纠缠,强行将无害实体绑定到拒绝语义上,引发高熵的路由冲突,目标实体得不到应有的注意力分配,最终触发错误拒绝输出。2. **方法提出**:提出**SRC(Semantic Routing Calibration,语义路由校准)**,是一套轻量、**无需重新训练、仅推理时生效**的框架。核心两步:①推理阶段精准定位并动态抑制高敏感安全头;②双分支Logits融合作为安全正则器,校正解码过程,恢复模型正常推理输出,不会破坏原有安全能力。3. **实验验证**:在多模型、多基准上开展大量实验,SRC可以有效缓解过度拒绝问题,同时尽可能保留模型原生的安全防御性能,在“减少误拒绝”和“拦

相关推荐

Folia 歌词动画播放器安装指南:Windows、macOS、Linux 三平台从取包到启动
Folia 歌词动画播放器安装指南:Windows、macOS、Linux 三平台从取包到启动

Folia 歌词动画播放器安装指南:Windows、macOS、Linux 三平台从取包到启动 【免费下载链接】folia-major 专注于绚丽的歌词动画效果的本地音乐/navidrome/第三方多平台在线音乐播放器 项目地址: https://gitcode.com/GitHub_Trending/fo/folia-major Folia 是… · 2026/11/2 21:19:15

【28】道路破损坑洼数据集(有v5/v8模型)/YOLO道路破损坑洼检测
【28】道路破损坑洼数据集(有v5/v8模型)/YOLO道路破损坑洼检测

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/2 21:13:12

Amlogic S9xxx 盒子装 Armbian:变身 7x24 家用 Linux 服务器的完整教程
Amlogic S9xxx 盒子装 Armbian:变身 7x24 家用 Linux 服务器的完整教程

Amlogic S9xxx 盒子装 Armbian:变身 7x24 家用 Linux 服务器的完整教程 【免费下载链接】amlogic-s9xxx-armbian Supports running Armbian on Amlogic, Allwinner, and Rockchip devices. Support a311d, s922x, s905x3, s905x2, s912, s905d, s905x, s905w, s905,… · 2026/11/2 21:13:12

【高等数学】第五章习题:二重积分
【高等数学】第五章习题:二重积分

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 1:16:10

【高等数学】第六章知识点:微分方程及其应用
【高等数学】第六章知识点:微分方程及其应用

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 1:16:10

【设计模式之美】改善代码质量之:代码可读性
【设计模式之美】改善代码质量之:代码可读性

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 1:16:10

【设计模式之美】策略模式方法论:解耦策略的定义、创建和使用
【设计模式之美】策略模式方法论:解耦策略的定义、创建和使用

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 1:16:10

【python基础】基本数据类型
【python基础】基本数据类型

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 1:16:10

ComfyUI WanVideo模型仓库:一站式AI视频生成模型集合与部署指南
ComfyUI WanVideo模型仓库:一站式AI视频生成模型集合与部署指南

ComfyUI WanVideo模型仓库:一站式AI视频生成模型集合与部署指南 在AI视频生成技术快速发展的今天,WanVideo作为业界领先的视频生成框架,为创作者提供了强大的文本到视频(T2V)、图像到视频(I2V)… · 2026/11/3 1:15:10

双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试
双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/2 13:10:28

STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析
STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/2 4:42:45

DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案
DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/2 5:17:18

STM32F411RE与MAX14431实现SPI隔离:工业现场抗共模干扰实战
STM32F411RE与MAX14431实现SPI隔离:工业现场抗共模干扰实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 1:01:59

ESP32+大模型AI硬件开发:从Demo到产品的8个工程问题
ESP32+大模型AI硬件开发:从Demo到产品的8个工程问题

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 1:01:59

基于MAX14431BAEE+与PIC18F85J10的SPI隔离方案设计与实践
基于MAX14431BAEE+与PIC18F85J10的SPI隔离方案设计与实践

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 1:01:59

双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试
双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/2 13:10:28

STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析
STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/2 4:42:45

DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案
DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/2 5:17:18

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码