首页/新闻资讯/正文详情

共享块存储双机切换:Device-Mapper映射残留清理实战

发布时间:2026/11/19 11:53:41 来源:云帆数科 栏目:资讯中心
共享块存储双机切换:Device-Mapper映射残留清理实战
简介面向 Linux 运维与系统管理人员的存储排错资料聚焦同一存储设备挂载到两台服务器后一台正常、另一台无法挂载或提示“存储正忙”的典型故障帮助读者理解多机共享存储时的设备映射冲突与占用问题。包内仅含 1 个 docx 文档约 11KB篇幅精简便于快速查阅与归档适合作为日常运维排障的参考笔记。内容围绕 Device-Mapper 框架与 dmsetup 命令展开涉及存储设备映射关系的查看与清理、remove_all 的适用场景以及快照、克隆、镜像等数据保护能力的介绍并给出从冲突成因到处理思路的整理。已有 1650 人学习下载可作为理解 Linux 存储管理机制、补充多服务器挂载排错经验的轻量资料。1. 存储正忙不是玄学双机挂同一块盘的僵局与破局点一台服务器宕机或被下线另一台明明看到设备节点还在mount却报device is busy或者干脆卡在挂载阶段不返回——这个场景在共享块存储环境里非常经典。根因往往不是文件系统坏了而是 Device-Mapper 的映射关系还挂在这台机器的内核里没退干净设备节点名可能已经变了/dev/mapper下的条目还在I/O 路径还指向一块已经不属于自己的盘。这篇笔记拆的是一个常被当成“重启治百病”的问题实际操作只需要两步看清映射再清映射。适合管共享存储、做双机切换、碰过dmsetup但不敢乱敲的人。2. Device-Mapper 的映射残留为什么重启能好、不重启怎么好2.1 先厘清“同一块存储挂两台”到底是什么状态先把一个容易混淆的点摆平Linux 里“同一块存储挂到两台服务器”本身不违法违法的是两台同时读写同一个文件系统。块设备层面的多路径、集群文件系统、只读挂载都是设计允许的用法。真正出事的是那种“我以为是 A 机在用B 机其实一直留着映射”的半吊子状态。典型的时间线是这样的存储通过光纤或 iSCSI 映射给两台机器A 机先做了 LVM 或直接mountB 机也扫到了同一块盘。此时 B 机上会多出/dev/mapper下的条目、/dev/dm-N设备节点甚至pvs能看到 PV 的元数据。等到 A 机故障、需要把业务切到 B 机时B 机去mount内核发现这个块设备的 holder 链没断或者 multipath 的队列还压着未完成的 I/O于是返回正忙。这里有个认知偏差要纠正很多人以为“我没敲过mount就不算挂载”。Device-Mapper 的映射在dmsetup create、multipath 自动发现、LVM 激活lvchange -ay时就已经建立了跟文件系统挂载是两回事。映射层在设备就是“被占用”的。判断当前处于哪种状态先看三样东西设备节点、映射表、谁在持有设备。# 1. 看块设备拓扑确认盘是不是被 dm 接管 lsblk -o NAME,MAJ:MIN,SIZE,TYPE,MOUNTPOINT # 2. 看 device-mapper 里有哪些映射以及它们的状态 dmsetup ls --tree dmsetup info -c # 3. 看谁在持有这个块设备关键holders 目录 ls -l /sys/class/block/dm-*/holders/ 2/dev/null # 4. 反查映射被哪个进程或挂载点占着 fuser -m /dev/mapper/vg-lv 2/dev/null第一行lsblk里如果看到某个mpatha、vg-lv的TYPE是dm或lvm说明映射存在。dmsetup ls --tree的树状输出能看清上层是 multipath 还是 LVM底层是不是(8,16)这类真实盘符。holders目录最有诊断价值——里面如果有dm-3这种子设备说明有上层映射压着你直接删底层会失败或留下脏状态。参数上要注意dmsetup info -c的列Name、Maj、Min、Open。Open计数大于 0代表这个映射有打开者可能是挂载、可能是 LVM、也可能是某个还在跑的进程。这个数字是判断“能不能安全删”的第一道闸门。2.2 dmsetup remove_all 到底删了什么、不删什么dmsetup remove_all执行的动作很干脆遍历当前所有 device-mapper 设备对每一个调用remove。语义等价于对所有dm-N循环跑dmsetup remove。它能清掉的是映射表项——multipath 的 mpath 设备、LVM 的 linear/striped 映射、crypt 设备、thin 的顶层映射都会被摘掉。它不碰的东西同样要清楚物理盘上的分区表纹丝不动文件系统超级块不动LVM 的元数据还在 PV 头部multipath 的配置文件/etc/multipath.conf不改/etc/fstab也不动。所以remove_all是“拆管道”不是“拆水管”数据本身不会因为这个命令丢——前提是你没在映射上跑着业务。这也解释了为什么重启能好重启过程中内核态 dm 表随内核一起销毁udev 重新扫描映射被重建或不再建立残留自然消失。但重启的代价是整机业务中断而且如果 multipath 配置了自动发现重启后映射又回来了问题可能复发。这就是为什么要学“不重启怎么好”。还有一处容易翻车remove_all对正在使用中的映射会返回device-mapper: remove ioctl on xxx failed: Device or resource busy并且继续尝试下一个。也就是说它不保证原子性可能出现“删了一半”的中间态——部分映射没了部分还在。这时候盲目重跑或者直接重启故障现场就丢了。所以标准动作不是上来就remove_all而是先做一次“只读勘查”把映射树、打开计数、挂载点、multipath 状态全记下来再决定是整体清还是定点清。我给自己的规矩是任何一次remove_all之前dmsetup table的完整输出必须落盘留档# 留档把当前所有映射的定义存下来出问题能对照 mkdir -p /tmp/dm-backup cd /tmp/dm-backup dmsetup table dm-table-$(date %F-%H%M).txt dmsetup ls --tree dm-tree-$(date %F-%H%M).txt multipath -ll mpath-$(date %F-%H%M).txt 2/dev/null cp -a /etc/multipath.conf /tmp/dm-backup/ 2/dev/nulldmsetup table输出的是每个映射的 target 类型、起止扇区、底层设备号这是重建映射的唯一依据。如果你只有dmsetup ls的名单删掉之后想恢复就得靠 LVM 元数据或 multipath 重扫虽然通常能恢复但多一层不确定性。归档这一步花十秒省的是后面半小时的猜测。2.3 完整处理流程从勘查到清映射再到重挂下面这条流程是我在双机切换场景里反复用过的顺序按它走基本不会把盘搞成悬空状态。前提是已确认业务侧可以停A 机不再写这块盘。# 步骤一确认没有进程和挂载点占着目标设备 mount | grep -E mapper|mpath fuser -vm /dev/mapper/vg-lv # 有任何输出先解决占用别往下走 # 步骤二如果挂了文件系统先正常卸载 umount /data 2/dev/null || umount -l /data # -l 是懒卸载仅在前一步失败且确认无写入时使用 # 步骤三停掉可能自动重建映射的服务避免边删边建 systemctl stop multipathd 2/dev/null # LVM 场景下同时关闭自动激活 # 编辑 /etc/lvm/lvm.conf 中 activation/auto_activation_volume_list 或临时 vgchange -an vg # 步骤四清空 device-mapper 映射 dmsetup remove_all # 若有残留逐个处理并看报错 dmsetup ls # 步骤五重新发现并挂载 systemctl start multipathd 2/dev/null multipath -r # 重载 multipath 映射 vgscan vgchange -ay vg mount /dev/mapper/vg-lv /data逐条说关键点。步骤一里fuser -vm比lsof更贴近块设备层能看到持有设备的内核线程mount | grep要连mpath一起过滤因为挂载点可能写的是/dev/mapper/mpatha1而不是 LVM 路径。步骤二的umount -l是后悔药也是陷阱它只是把挂载点从命名空间摘掉底层 I/O 可能还在跑只有在确认无人写入时才用。步骤三是全流程里最容易被跳过、也最容易导致“删了又回来”的一步。multipathd 在跑的时候可能在你remove_all之后几百毫秒内重新创建 mpath 设备LVM 的 autoactivation 同理。所以先停服务、先vgchange -an再清映射顺序反了整个流程就白做。步骤五的multipath -r是重载而非重启比重启 multipathd 温和vgscan要在 multipath 重载之后跑否则扫到的还是旧路径。如果步骤四里remove_all报 busy 且有明确设备名说明那个映射还有 holder。此时不要硬删先用dmsetup info -c name看Open计数再回步骤一查占用实在查不到就用dmsetup udevcomplete_all清 udev 事件队列再重试。整个过程里最忌讳的是“报错了就重启”因为重启会掩盖真实原因下次换台机器照样复发。3. 双机争用的避坑清单五条血泪经验与排查顺序3.1 现象remove_all 报 busy但 mount 里什么都没有原因通常不在文件系统层而在 holder 链或者 udev 事件没处理完。设备被某个 LVM 映射引用、被 multipath 的队列持有或者 udev 的cookie还挂着都会让 remove 返回 busy。解决顺序先dmsetup info -c name看Open计数再ls /sys/class/block/dm-N/holders/看子设备然后dmsetup udevcomplete_all清事件队列最后重试dmsetup remove name。不要用remove_all -f之类的强制手段也不要用dmsetup wipe_table绕过——那是清 I/O 表而不是删设备会把状态搞得更乱。3.2 现象删完映射重挂时报“找不到卷组”原因多半是vgchange -an之后没重新vgscan或者 multipath 映射还没重建就去激活 LVM。LVM 的 PV 定位依赖底层路径路径没回来元数据自然读不到。解决严格按multipath -r→vgscan→vgchange -ay的顺序走。如果vgscan报Duplicate VG name说明两台机器同时看到了同一个 VG 且都被激活过这属于双机争用的本质问题靠dmsetup治标不治本得回到集群文件系统或单活策略上。3.3 现象A 机重启后映射自动回来B 机又被挡原因是有自动发现机制在跑——multipath 的find_multipaths、LVM 的 autoactivation、systemd的lvm2-activation服务任何一个都可能在你操作完把映射建回去。解决切换期间把这些自动行为临时关掉别指望它们“应该不会”。systemctl stop multipathd、vgchange -an必要时在lvm.conf里用auto_activation_volume_list白名单限制。做完切换再恢复。这条是我吃过最多次亏的命令执行完看着干净过一分钟再看又乱了。3.4 现象umount 成功但 remove 时提示资源忙原因是有进程的工作目录或打开的文件句柄还落在挂载点下umount只是摘了挂载点进程没退。也可能是有内核线程在做回写。解决fuser -vm mountpoint找出进程确认可杀再杀sync之后再umount如果报target is busy先查lsof D mountpoint。实在紧急才用umount -l并且必须紧接着dmsetup remove中间不要停留否则懒卸载的延迟会让映射处于半挂状态。3.5 现象清完映射后盘符顺序变了脚本挂错盘原因/dev/sdX这类命名不稳定remove_all之后重新扫描设备字母可能整体后移写死/dev/sdb1的脚本直接挂到别的盘上。解决一律用/dev/disk/by-id/、/dev/disk/by-uuid/或/dev/mapper/下的稳定路径别在脚本里写sdX。这条跟dmsetup没直接关系但它是双机切换里最容易造成二次事故的隐形坑。切完盘先lsblk -f确认挂的是对的那块再执行mount。4. 把切换做成可回滚的脚本验证与加固的六个细节前面给的是手工流程真正在双机上反复切得把它固化成带校验的脚本否则每次靠人记顺序迟早出错。下面这段是我平时用的骨架核心思路是每一步都“先验证再执行”任何一步不满足就退出不做半截操作。#!/usr/bin/env bash set -euo pipefail VGvg_data; LVlv_data; MNT/data LOG/var/log/dm-switch-$(date %F-%H%M).log exec (tee -a $LOG) 21 # 前置校验挂载点必须干净否则拒绝继续 if mountpoint -q $MNT; then echo 挂载点仍被占用终止; exit 1 fi # 留档删之前先存 dmsetup table /tmp/dm-table-$(date %s).txt dmsetup ls --tree # 停自动重建防止边删边建 systemctl stop multipathd 2/dev/null || true vgchange -an $VG 2/dev/null || true # 清映射失败时输出诊断而不是直接退出 if ! dmsetup remove_all; then dmsetup info -c ls -l /sys/class/block/dm-*/holders/ 2/dev/null || true dmsetup udevcomplete_all || true dmsetup remove_all || { echo 映射清理失败保留现场; exit 2; } fi # 重新发现并校验 systemctl start multipathd 2/dev/null || true multipath -r vgscan vgchange -ay $VG lsblk -f /dev/mapper/${VG}-${LV} # 确认文件系统类型与 UUID 对得上 mount /dev/mapper/${VG}-${LV} $MNT findmnt $MNT脚本里值得展开的有几处。set -euo pipefail让任何未被处理的失败立即中断避免脚本带着错误继续往下挂载。exec (tee -a $LOG)把全流程输出同时落日志事后能复盘——切换出问题的时候日志比记忆可靠。mountpoint -q做前置闸门比在脚本里mount | grep更稳因为grep会误匹配相近路径。vgchange -an前的|| true是有意的卷组本来就没激活时它返回非零不应该因此中断流程但失败又不该被完全忽略所以配合日志看。dmsetup remove_all的失败分支是全脚本信息量最大的部分——它不直接退出而是先把info -c、holders 目录、udev 队列全打出来再重试一次还不行才保留现场退出。这个设计来自一个教训早期版本我一失败就exit结果日志里只有一个“busy”完全不知道是谁占着。最后的校验环节有两层。lsblk -f看文件系统类型、UUID、挂载状态确认挂的是预期的那块盘而不是同名的另一块findmnt确认最终挂载点生效。这两步别省尤其在多路径环境下lsblk的NAME列会显示mpatha而不是sdX正好用来复核路径没走错。再补两个加固细节。其一脚本不要在 A 机还活着的时候在 B 机上跑——remove_all只管本机内核管不了 A 机的写入双写风险它解决不了。真正的判断依据是存储侧或仲裁侧确认 A 机已下线。其二切换完成后把multipathd和 LVM 自动激活恢复回去否则下次重启机器时映射不会自动建反而变成新的故障。我给自己的习惯是脚本结尾加一句恢复服务状态的提示人工确认后再执行不自动恢复——宁可多一步也不让自动化替我做主。从那以后我每次碰共享块存储的切换都强制先跑一遍只读勘查、把dmsetup table和multipath -ll落盘再谈动手这个习惯救过我不止一次因为真正让人翻车的从来不是remove_all这条命令本身而是删之前没看清盘现在归谁。希望帮到你。本文还有配套的精品资源点击获取

相关推荐

网线速率上限由物理特性决定:CAT5e到CAT6a标准解析
网线速率上限由物理特性决定:CAT5e到CAT6a标准解析

简介:《ANSI-TIA-568-C.2-2009》是2009年由ANSI与TIA发布的平衡双绞线电信布线与组件标准,面向网络布线设计、施工与验收人员,以及需要选型CAT5e、CAT6、CAT6a线缆的工程技术人员。标准围绕三类双绞线的带宽与传输能力展开:CAT5e支… · 2026/11/19 11:53:38

WiFi基础知识入门:802.11协议、路由器参数与抓包排查
WiFi基础知识入门:802.11协议、路由器参数与抓包排查

简介:「Wifi 基础知识讲解」是一份面向无线网络入门者与网络运维初学者的整理型文档,围绕 IEEE 802.11 协议体系梳理 Wifi 的工作原理与常见概念,帮助读者在阅读英文协议文档前先建立整体框架。文档先从有线与无线网络的差异切入,… · 2026/11/19 14:34:11

Agent AI 综述解读:从大模型幻觉到具身智能的范式转移
Agent AI 综述解读:从大模型幻觉到具身智能的范式转移

简介:这份PDF综述面向人工智能研究者、研究生及多模态智能方向的技术从业者,系统梳理Agent AI(智能代理人工智能)这一被视作通往AGI有前景路径的研究领域,帮助读者建立从基础模型到具身代理的完整认知框架。资源包共1个… · 2026/11/19 14:35:42

章丘考电工证含金量高吗?怕考不过白交培训费的别慌
章丘考电工证含金量高吗?怕考不过白交培训费的别慌

章丘考电工证含金量高吗?怕考不过白交培训费的别慌 怕考不过白交培训费?你不是一个人。尤其是像濮阳这些工程类应届生,考电工证的时候总想着:这证真的有那么重要吗?含金量到底高不高?今天就用真实案例告诉你,为什么章丘考电工证,尤其是低压电工证,含… · 2026/11/19 21:41:17

金坛有电工证电工师傅怎么避坑?含金量高的证怎么考
金坛有电工证电工师傅怎么避坑?含金量高的证怎么考

金坛有电工证电工师傅怎么避坑?含金量高的证怎么考 你是不是正愁找不到靠谱的报名点?担心被中介忽悠?金坛有电工证电工师傅,含金量高的证书怎么考、怎么避免踩坑?今天就来给你说清楚,省心省力不踩雷。 金坛电工证的含金量到底有多高?… · 2026/11/19 21:41:17

高压电工证开封报名费多少钱
高压电工证开封报名费多少钱

之前考的证在外省能不能转过来?2026河南最新政策解读来了! 之前考的证在外省能不能转过来?你不是一个人。随着2026年河南最新政策的落地,越来越多的外地持证人开始关注高压电工证在开封能否顺利转入的问题。作为在濮阳市政公用工程一线从业多年的… · 2026/11/19 21:41:17

何家够的电工证在哪考 外省证书转过来有啥讲究
何家够的电工证在哪考 外省证书转过来有啥讲究

何家够的电工证在哪考 外省证书转过来有啥讲究 之前考的证在外省能不能转过来?这个问题在三门峡不少转岗的电工师傅心里都挺纠结。特别是像何家够这样的电工证, 在外省考的能不能在当地用… · 2026/11/19 21:41:17

电工证复审图章多少钱?实操考试心里没底怕挂科怎么办
电工证复审图章多少钱?实操考试心里没底怕挂科怎么办

电工证复审图章多少钱?实操考试心里没底怕挂科怎么办 你是不是正愁着电工证复审图章怎么弄?又怕实操考试挂科?别急,今天咱们就来聊聊电工证复审图章的那些事,帮你把关考试流程,顺便看看 多少钱 能搞定这件事。… · 2026/11/19 21:41:17

漯河电工证在哪里查询别怕挂科,郑州报考避坑指南全在这
漯河电工证在哪里查询别怕挂科,郑州报考避坑指南全在这

漯河电工证在哪里查询别怕挂科,郑州报考避坑指南全在这 实操考试心里没底怕挂科?这是很多电工学员的真实写照。尤其是在漯河这样的二三线城市,报考电工证的流程、考试内容、补办流程,都让不少学员感到困惑。今天,我们就以商丘某培训机构学员的实际经历为… · 2026/11/19 21:40:16

长春初级电工证怎么考?通过率揭秘全在这里
长春初级电工证怎么考?通过率揭秘全在这里

长春初级电工证怎么考?通过率揭秘全在这里 之前考的证在外省能不能转过来?这几乎是每个想从事电工工作的人都会问的问题。特别是那些在外地打拼多年、手里握着一张“外地电工证”的人,到了长春想继续干这一行,第一反应就是“我的证能用吗?”。今天我们就… · 2026/11/19 16:06:02

国内电工证报考条件与考试时间
国内电工证报考条件与考试时间

低压电工证怎么考?学历不高也能报名,官方报名入口全在这 你是不是经常听说“电工证是入行门槛”,但又担心自己学历不够、经验不足,根本报不了名?别急,今天就带你从零了解【国内电工证】的报考流程、考试内容,还有怎么在 官方报名入口… · 2026/11/19 17:40:37

电工作业时如何断电?电子证书到底能不能全国通用?
电工作业时如何断电?电子证书到底能不能全国通用?

电工作业时如何断电?电子证书到底能不能全国通用? 实操考试心里没底怕挂科,特别是电工作业时如何断电这一操作,不仅关系到你能不能拿到证书,更关系到以后能不能顺利上岗。很多人觉得这不过就是“断个电”,但其实这里面的门道可不少,稍有不慎就可能出错… · 2026/11/19 17:50:07

姑苏区哪里考电工证好考前押题怎么找
姑苏区哪里考电工证好考前押题怎么找

姑苏区哪里考电工证好考前押题怎么找 工地太忙根本没时间复习考试,电工证考前还总找不到靠谱的 考前押题 资源,真让人头疼。如果你也是在苏州姑苏区从事建筑或电力行业的,那这些建议你一定要看完。 为什么姑苏区考电工证的人这么多?… · 2026/11/19 0:00:12

罗定能考电工证吗?外省证转过来流程全解析+郑州报考避坑指南
罗定能考电工证吗?外省证转过来流程全解析+郑州报考避坑指南

罗定能考电工证吗?外省证转过来流程全解析+郑州报考避坑指南 之前考的证在外省能不能转过来?这几乎是每个特种作业证书持有者都会遇到的问题,特别是像你这样已经在外地工作多年,想回老家罗定发展或者重新规划职业路径的人。别急,今天就给你一条清晰的路… · 2026/11/19 0:00:12

罗定能考电工证吗 电工证含金量到底有多少?
罗定能考电工证吗 电工证含金量到底有多少?

罗定能考电工证吗 电工证含金量到底有多少? 之前考的证在外省能不能转过来,这几乎是每个准备考电工证的朋友最先想到的问题。特别是在罗定这样的地方,很多人的电工证都是在外地考的,现在想在当地继续使用,但不知道怎么办。实际上,电工证的 含金量… · 2026/11/19 0:00:12

双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试
双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/19 6:33:25

STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析
STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/19 6:33:32

DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案
DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/19 0:22:38

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码