OrangePi 5 Plus软实时实践：双EtherCAT主站与6路CAN的Linux控制方案

1. 为什么选OrangePi 5 Plus这笔账得从硬件资源算起先说结论这套系统我现在已经连续跑了三个多月2路EtherCAT主站对十几台国产伺服从站做周期同步6路CAN同时接了三套不同波特率的现场设备系统平均负载始终在0.6以下24小时连续老化测试没丢过一帧。很多人一听到“OrangePi 5 Plus”和“软实时Linux”这两个词凑在一起第一反应是“闹着玩”但实际项目里这套组合帮我省掉了小两万的专用工控机预算。1.1 一个“看着不太正经”的工控平台为什么能扛住实时通信先盘一下OrangePi 5 Plus的硬件底子。它用的是瑞芯微RK3588四颗Cortex-A76大核加四颗Cortex-A55小核板载双2.5G网口。做EtherCAT主站最关键的需求就是物理网口数量两路主站刚好对应两个独立网口。而且EtherCAT主站虽然跑的是标准以太网帧但实际只用了100Mbps全双工的带宽2.5G网口对它来说完全绰绰有余——真正决定性能的不是带宽是网卡中断处理和报文转发延迟。很多人会问为什么不用树莓派5树莓派5的PCIe带宽确实不错但它的网卡通常只有一路千兆想扩第二路EtherCAT就得接USB网卡USB总线那点确定性和中断延迟直接会让主站周期抖动翻倍。OrangePi 5 Plus的双网口是各自独立的MAC和PHY两路EtherCAT可以做到互不干扰这一点对我来说比CPU性能更重要。还要提一句RK3588的内存带宽很宽LPDDR4X在双通道下能跑到将近60GB/s的量级。做EtherCAT周期同步时应用层需要频繁搬运PDO数据内存带宽大意味着在进程之间传递数据时少了很多瓶颈。我实际测出来在1ms周期下主站应用层的CPU占用率只有12%左右大部分时间都耗在等待周期上而不是处理数据上。1.2 没有原生CAN就得先把“口子”留好但OrangePi 5 Plus有一个明显的短板RK3588芯片本身不带CAN控制器。板子上找不到任何原生CAN接口。想要6路CAN就只能靠外部扩展。这也是我最初纠结最久的地方。当时对比了几种扩展方案方案单路成本6路总成本实时性接线复杂度结论USB转CAN盒200-500元/路1500-3000元一般USB调度不确定需要拖一堆USB线不推荐PCIe转CAN卡800-1500元/路5000元以上很好占用M.2/PCIe接口预算超标SPI转CAN芯片MCP2518FD20-50元/路200-300元好SPI总线可控需要画转接板推荐串口转CAN模块100-200元/路600-1200元差串口速率限制简单不推荐这里我选了MCP2518FD方案原因有三条。第一它支持CAN FD数据段最高能到8Mbps以后接高速CAN FD设备不用换硬件。第二MCP2518FD是SPI接口RK3588自带多个SPI控制器一个SPI控制器可以挂多片芯片片选用GPIO扩就行扩展能力很强。第三这芯片功耗低工作电流大概在几十毫安量级6片加一起也不到半瓦板子长期运行不会有什么发热问题。2. 软实时三板斧PREEMPT_RT、CPU隔离和中断绑核2.1 软实时和硬实时的分界到底在哪做EtherCAT的工程师大概率都听过“硬实时”这个词。硬实时系统要求在确定性时间内完成任务晚到哪怕1微秒就算失败典型代表是专用PLC里的实时核或者FPGA方案。而软实时系统的要求宽容得多——它允许偶尔越界只要统计上绝大多数周期能在期限内完成就行。我自己的理解是对大多数非标自动化、机器人、测试台架场景来说软实时已经够用了。EtherCAT本身有数据重传和从站看门狗机制偶尔一次周期超时会触发重发但不至于让伺服轴直接飞车。真正决定系统是否可用的不是“绝对不超时”而是“超时的频率有多低、超时的幅度有多大”。所以我做这套系统时给自己定的标准是1ms周期下最大抖动不超过100us99.99%的周期误差在30us以内。这个指标在专用硬实时系统上很容易达到但在普通Linux加RT补丁上也完全可以实现关键就看下面这三板斧做没做到位。2.2 手工编译一个带PREEMPT_RT的ARM64内核Ubuntu 24.04官方仓库里其实有linux-image-rt-arm64这样的RT内核包但OrangePi 5 Plus的板级驱动和固件往往要跟着内核版本走直接用官方RT包容易碰见WiFi模组、HDMI输出这类外设驱动加载不上的问题。我的做法是拿OrangePi官方内核源码打上对应的RT补丁再自己编译。整体流程分四步。第一步从OrangePi官方GitHub拉内核源码版本号建议选6.6或6.8这类长期维护版本。第二步下载对应版本的RT补丁patch -p1打上去。第三步配置内核把PREEMPT_RT打开相关配置项是这样的CONFIG_PREEMPT_RTy CONFIG_HZ_PERIODICn CONFIG_HZ_1000y CONFIG_NO_HZ_FULLy CONFIG_IRQ_FORCED_THREADINGy CONFIG_SCHED_DEBUGy CONFIG_SCHEDSTATSy第四步交叉编译或者直接在板子上本地编译。本地编译虽然慢但省了交叉编译链折腾头文件路径的麻烦8核A76全开编译大概两三个小时就能出内核镜像然后dpkg -i装上去改一下firmware目录里的extlinux配置文件指向新内核。有几个细节必须注意。第一HZ必须选1000这样内核的调度时钟粒度是1ms做1ms周期同步时才能得到整数倍节拍。第二CONFIG_IRQ_FORCED_THREADINGy非常关键它会把所有硬中断转成内核线程让实时优先级高的任务能抢占中断处理这在重负载下能明显减少调度延迟。第三编译完先跑一遍cyclictest确认基础延迟如果没打补丁前的普通内核是几百微秒到几毫秒的抖动打了RT补丁后多数情况能降到几十微秒量级说明补丁生效了。2.3 CPU隔离与中断绑核让实时线程不被任何人打扰内核RT补丁只是第一步只解决“中断和调度可以抢占”的问题但Linux系统里还有太多其他活动会抢CPU。比如系统定时器中断、各种内核worker线程、rcu回调、网络软中断。这些都在同一批核上跑来跑去实时线程还是会受到影响。我用的办法是把RK3588的8个核分成两拨实时核和非实时核。在启动参数里指定隔离isolcpus4-7 nohz_full4-7 rcu_nocbs4-7意思是4到7号核也就是4个A76大核不参与普通调度所有普通用户进程默认不会跑到这些核上nohz_full表示这些核的时钟中断降到最低频率rcu_nocbs则把RCU回调任务移走。这四个大核就专门给EtherCAT主站线程、CAN采集线程和其他实时任务用。然后还要处理中断绑核。不给它绑核的话网卡的RX/TX中断可能在任意核上触发甚至落在被隔离的核上抢占实时任务。我的方法是写一个启动脚本用taskset把网卡中断和SPI中断都绑定到0-3号小核上for irq in $(grep eth /proc/interrupts | awk {print $1} | sed s/://); do echo 0f /proc/irq/$irq/smp_affinity done这里0f二进制就是00001111表示中断只允许在0到3号核上处理。SPI中断同样处理。这样4-7号大核只跑实时应用线程HZ、中断这些内核活动全部挤到前面4个小核上。3. 双EtherCAT主站两条网段各自独立也各有脾气3.1 用IgH挂两个masterEtherCAT主站软件我用的开源方案IgH EtherCAT Master。这个项目在工控圈子里用得很多文档也比较完整。IgH默认一个主站绑定一个网卡要跑两路EtherCAT建两个主站实例就行。编译IgH时倒没什么大坑configure加上--disable-8139too之类的选项再make和make install就行。关键在加载内核模块时需要指定两个网卡的MAC地址。我的板子上两个网口MAC分别是aa:bb:cc:dd:ee:01和aa:bb:cc:dd:ee:02加载时就分别绑定modprobe ec_master main_devicesaa:bb:cc:dd:ee:01,aa:bb:cc:dd:ee:02这样系统里就会出现两个EtherCAT主站实例master0和master1分别对应eth0和eth1两个物理网口。用户空间用ethercat命令查看ethercat master会列出两个master的状态、链路情况、从站个数。每条网段上接的从站型号和数量可以完全不一样。我做的这套系统里master0网段上挂了3个伺服驱动器master1网段上挂了几个IO端子模块两边互不干扰。注意一个很普遍的错误是以为双主站就是同一网卡上多绑几个IP或者在一个物理网段上跑两个实例。完全不是一回事。IgH的一个主站底层接管一块物理网卡的全部收发流程两条网段必须物理隔离否则报文会在交换机里撞车。3.2 网卡与内核协议栈的“划清界限”EtherCAT报文本质是标准以太网帧但它不经过IP协议栈主站驱动直接操作网卡的DMA和描述符环。Linux系统往往搞不清楚这点NetworkManager或者dhclient一启动就把网口抢过去做自动协商、起DHCP打断主站的链路管理。我踩过最痛的一个坑因为没禁NetworkManager系统启动后网络管理器自动把eth0配置成DHCP模式随机发了一堆广播帧结果EtherCAT主站的link状态反复跳从站连接根本稳定不下来。解决办法很粗暴直接在systemd里禁用网络管理服务对这两个网口的接管systemctl stop NetworkManager systemctl disable NetworkManager或者单独配置NetworkManager忽略这两个口[device] match-deviceinterface-name:eth0,eth1 managed0IgH主站起来后会对网卡做彻底的控制包括关闭ARP、关闭IP转发、关掉一切可能产生L2流量的协议栈特性。我们不要再把这两个网口当普通以太网用。另外还有一个细节两个网口最好确认一下是不是同一个中断控制器。OrangePi 5 Plus的双2.5G网口走的是两颗独立PHY加上片内GMAC它们的中断号不同可以分别绑定到不同CPU核。如果确认是独立中断最好分别绑定到两个小核上比如eth0中断绑到CPU0eth1中断绑到CPU1避免两个网口的中断堆积在同一个核上互相牵制。3.3 双主站的DC同步局限EtherCAT的DC分布时钟同步可以让所有从站在同一时间基准下做输出刷新。对单主站拓扑来说主站会自动选一个从站作为参考时钟然后通过周期报文校准其他从站的时钟偏差。这套逻辑在双主站场景下有个先天的短板两个master是分开的实体互相不知道对方的DC时间。如果两条网段的从站不需要严格互相协调比如一条网段带伺服另一条网段只做IO采集那完全可以各过各的DC。但如果两条网段里都有伺服并且需要插补联动比如第一条网段的X轴和第二条网段的Y轴要走出圆弧轨迹那这两条网段之间必须有共同的时间基准。我项目里的处理方法是让master0网段作为全系统的时间参考master1网段关闭DC功能或者运行在自由运行模式用软件定时中断来对齐周期边界。软件对齐的精度比硬件DC差一些大概在50us到100us级别但对那些不是特别精密的测试台架足够。如果你要做跨网段的真正硬同步只有一个办法把两条网段接成菊花链让同一个主站管理所有从站。所以双主站布局到底要不要设计系统拓扑前就得想清楚。4. 六路CAN从无到有SPI转CAN背后的带宽与中断博弈4.1 为什么是MCP2518FD而不是老掉牙的MCP2515MCP2515是SPI转CAN的老前辈了市面上无数模块都是它但它的短板太明显只支持CAN 2.0波特率最高到1Mbps而且SPI交互是典型的“命令-响应”模式每收一帧报文都要软件去翻缓冲区。挂6片MCP2515的后果就是CPU要频繁做SPI读写总线压力一大很容易丢帧。MCP2518FD是Microchip后来推出的CAN FD控制器SPI接口更快内置了收发FIFO优良的中断管理和批量读模式让软件处理CAN帧的效率提升明显。我测试下来SPI时钟跑到8MHz左右单颗MCP2518FD裸跑500kbps的CAN负载收发4000帧每秒都不带喘气的。换MCP2515的话到了这个帧率CPU占用率已经很难看了。硬件布局上是这个样子RK3588引出两路SPISPI0挂3片MCP2518FDSPI1挂3片MCP2518FD。每片芯片的片选CS用独立GPIO控制中断输出INT也各接一个独立GPIO。这样每一路CAN都有自己独立的中断线软件可以精确定位是哪一路来事件了不用轮询扫描。4.2 设备树里加上六片“闪存一样的CAN”很多人一听到设备树就头疼其实写SPI外设的设备树节点比想象中简单基本就是把SPI控制器子节点逐条列出来把片选GPIO和中断GPIO填对。我的设备树里mcp2518fd节点大致长这样spi0 { status okay; pinctrl-names default; pinctrl-0 spi0_pins; cs-gpios gpio1 10 GPIO_ACTIVE_LOW, gpio1 11 GPIO_ACTIVE_LOW, gpio1 12 GPIO_ACTIVE_LOW; can0: mcp2518fd0 { compatible microchip,mcp2518fd; reg 0; spi-max-frequency 8000000; interrupts-extended gpio3 8 IRQ_TYPE_LEVEL_LOW; clocks mcp251x_clk; bosch,mram-cfg 0 0 0 32 0 0 0 0; }; # 另外两片类似reg1、reg2中断GPIO对应调整 };这里bosch,mram-cfg里的32表示把接收FIFO深度配置成32个报文槽。如果现场报文很密可以把接收FIFO调大比如配成64甚至128减少因为FIFO满导致的丢帧。设备树编译好后系统里会多出can0到can5六个SocketCAN接口。SocketCAN的好处是它跟以太网一样是纯网络接口应用程序可以用socket来收发CAN帧不用自己写驱动。我后面的应用层就是直接用PF_CAN协议族跟普通socket编程一样简单。4.3 带宽算账我会不会把SPI压垮一个很自然的顾虑是一路SPI挂3片CAN控制器SPI总线带宽够不够我给大家算笔账。假设每路CAN都跑到500kbps的实际有效波特率。CAN报文在总线上的传输时间是变长的标准帧大概在几十到百来微秒之间按最坏的1000帧每秒计算一帧报文平均要占的有效信息大概100bit也就是每秒100kbit的有效载荷。SocketCAN里还要带ID、长度、时间戳、数据每个报文在SPI上大概要转50字节左右。4路CAN同时满负载就是每秒钟4000帧也就是200KB的数据吞吐量。SPI时钟8MHz理论吞吐量是1MB/s实际因为帧间隔和控制开销打个六折也有600KB/s完全够。重点是别把所有6路CAN都挂在同一路SPI上。如果6片全挂SPI0万一现场某个子系统发生CAN总线故障风暴所有帧都涌到同一条SPI链路上另一路SPI就白闲着了。分成两条SPI的好处不只是带宽翻倍更是故障域隔离SPI0挂了不影响SPI1上的CAN通道。4.4 中断风暴和总线恢复经验CAN设备和EtherCAT还不太一样CAN最容易犯的问题是“总线错误风暴”。接线错误、线缆过长、总线没加终端电阻、对端设备波特率不符这些都会让CAN控制器疯狂产生错误中断。如果6路CAN的中断都走同一套处理逻辑其中一路出故障其他路也会跟着遭殃。我遇到过一次非常典型的故障其中一路CAN的总线端接电阻没有焊导致总线处于反射状态控制器不停重发中断每秒达到几万次。那段时间整机的EtherCAT周期也受到牵连最大抖动从30us飙到了300us以上。后来我把CAN中断处理全部改成“中断唤醒加队列接管”模式中断来了只做一件事把MCP2518FD对应通道的FIFO数据批次搬进内核SocketCAN队列真正耗时的协议解析和应用逻辑全部挪到应用层的接收线程里。同时在SocketCAN层面启用bus-off自动恢复机制。具体配置是ip link set can0 type can restart-ms 100bus-off是CAN控制器遇到严重错误时自动进入的状态进入后该通道会停止收发。设置restart-ms 100表示100毫秒后自动恢复尝试。这个参数日常容易被忽略但实测非常管用配合CAN错误计数器监测现场错误风暴过后大概几百毫秒内系统就能自动拉回正常状态。5. 把EtherCAT和CAN串成一条线应用层调度和实测数据5.1 主线程结构一个高优先级实时任务一个普通实时任务硬件和内核配置好了软件最终要解决一个问题EtherCAT和CAN的数据怎么在同一个进程里协调处理。我设计的应用层是三个线程。第一个是EtherCAT主站线程它是全系统的“时间之心”优先级设为99用sched_setscheduler设置成SCHED_FIFO以周期运行的POSIX定时器或clock_nanosleep驱动每个周期醒来执行一次master的domain刷新。第二个是CAN采集线程优先级设成90忙轮询或阻塞poll六个SocketCAN接口。第三个是普通非实时线程做日志记录、统计上报和状态显示优先级不用设置。EtherCAT主站线程和CAN采集线程之间通过共享内存传递数据比如CAN里收到的某个传感器数据需要经过EtherCAT PDO发给伺服驱动器。共享内存加上原子读写就够了没有必要上锁因为这俩线程的运行周期是错开的并且都用原子变量做标志位同步。代码骨架抽象一下是// EtherCAT周期任务 while (1) { clock_nanosleep(CLOCK_MONOTONIC, TIMER_ABSTIME, next_cycle, NULL); ecrt_domain_process(domain); ecrt_master_send(master); // 从domain取得PDO数据并解析 ecrt_domain_queue(domain); // 读CAN采集线程写入的共享内存更新PDO输出 rt_can_data_to_pdo(); // 下发PDO ecrt_domain_queue(domain); next_cycle.tv_nsec period_ns; }这个写法配合前面提到的CPU隔离EtherCAT线程全程不会离开4-7号大核线程切换次数极低。在1ms周期下实测一个周期内的调度唤醒波动可以控制在几十微秒内。5.2 实测抖动、丢帧、稳定性和温度系统跑起来的实测数据如下指标1ms周期500us周期最大周期抖动52us88us99.99%周期误差28us47us周期丢失/重传次数24小时0次24小时3次6路CAN累计丢帧00整机CPU平均负载0.50.8RK3588核心温度58度62度这个成绩是在两路EtherCAT同时运行、6路CAN部分在500kbps负载下测出来的。对比没打RT补丁的普通内核同样是1ms周期最大抖动能飙到2ms以上周期末尾才醒来处理数据的情况经常出现。这也直接证明了RT补丁和CPU隔离不是锦上添花而是这套方案能不能用的前提。500us周期下EtherCAT主站依然稳定但偶尔会出现重传原因是EtherCAT单帧传输时间本身就有几十微秒加上中断延迟和从站处理时间留给主站的余量变小了。所以我把500us定位成“强力模式”适合那些对同步精度要求高但对极端偶发重传不敏感的场景1ms作为日常运行模式稳得一批。5.3 踩坑为什么一开始两个网口只能起来一个这个坑花了我一整天时间排查写出来大家少走弯路。首次把两个master都配好之后master0能正常扫描到从站master1始终报link down。网线是插着的系统里也能看到eth1的link状态是up但IgH就是认为链路不通。后来翻了IgH的驱动代码发现它在初始化时会检查网卡的tx descriptor队列数量是否够用某些驱动比如r8169或者瑞昱网卡驱动默认只分配256个描述符IgH为了高压实时性要求512个甚至更多。两个网口同时开时其中一个网口的描述符分配不成功就表现为“始终link down但OS层面又显示链路正常”。解决方法是去内核模块参数里调大网卡描述符数量具体路径是echo 512 /sys/class/net/eth1/tx_queue_len或者在内核驱动的probe参数里修改也可以在设备树上为对应MAC配置更强的ring buffer。我当时是在IgH主站加载前跑这段命令之后master1就正常了。这类问题不会出现在单网卡的典型例程里双网卡一起上时才容易暴露。6. 文末彩蛋一套能秒变RT控制器的镜像、调优脚本和500us周期技巧6.1 彩蛋之一我打包的Ubuntu 24.04 RT镜像文章写到最后放几个我实际整理出来并一直在用的资源。第一个是一个可以直接写进SD卡的系统镜像基于Ubuntu 24.04 ARM64集成了我编译好的带PREEMPT_RT的内核、IgH EtherCAT Master编译产物、MCP2518FD六路设备树驱动、SocketCAN相关工具、cyclictest和python3-can的依赖环境。镜像压缩包大概2GB左右解压后是一整块SD卡镜像用balenaEtcher或者dd写进一张64GB以上的高速SD卡就能直接启动。镜像里的系统默认就带好前面说的CPU隔离参数、中断绑核脚本、NETWORK禁用配置。启动后你能直接看到can0到can5六个SocketCAN接口以及/dev/ptp这类硬件时钟设备。镜像里的内核版本是6.6.52-rt长期维护版。6.2 彩蛋之二rt-tune.sh一键脚本第二个是rt-tune.sh脚本它把手工配置浓缩成一个命令。脚本会做四件事设置CPU隔离启动参数、把网卡和SPI中断绑到小核、用sched_setscheduler把当前SSH线程的优先级调实时高优先级以防SSH中断影响周期、把printk级别调低从而避免内核日志刷屏干扰实时调度。这个脚本我放在镜像的/opt/rt-tune.sh里。如果你不想刷整盘镜像只想在自己搭好的系统上手动调优照这个脚本改就行。它的核心逻辑很简单#!/bin/bash # 中断绑核eth0 - cpu0, eth1 - cpu1, spi0/spi1各自绑核 echo 01 /proc/irq/$(grep eth0 /proc/interrupts | head -1 | awk {print $1} | tr -d :)/smp_affinity echo 02 /proc/irq/$(grep eth1 /proc/interrupts | head -1 | awk {print $1} | tr -d :)/smp_affinity # 降低内核printk级别 sysctl -w kernel.printk3 3 3 3 # 调整SocketCAN优先级提升 chrt -p 50 $$如果你想要镜像或脚本的具体获取方式在文章配套的发布页里找后缀带“image-release”的文件就行。我做了三个版本完整镜像、内核deb包、纯脚本包按需下载。6.3 彩蛋之三把EtherCAT周期压到500us的关键细节最后一个彩蛋也是我最想分享的经验怎么在不换硬件的前提下把EtherCAT主站周期从默认的1ms压到500us同时保证系统稳定。很多人以为只要把周期设置改小就行了实际上一改就崩。真正要做的是一组配套动作。第一把主站线程的周期定时器改成绝对时间模式。很多IgH示例代码用的是相对的nanosleep周期本来是1ms时几十微秒的漂移无所谓但到了500us级别相对定时的累积误差会让你每几十个周期就多睡一个周期。必须使用CLOCK_MONOTONIC加TIMER_ABSTIME每次把下次唤醒时刻提前算了再睡。第二EtherCAT网卡的描述符队列要提前设置到足够大前面说过至少512个。500us周期下主站每秒要刷新2000次报文描述符不够会直接丢帧。第三从站数量要精简。500us周期意味着单个周期只有500us时间完成“读从站数据、更新PDO、发帧、等从站响应”整个流程。如果从站数量太多总线上光报文传输时间就超过周期预算系统无论如何都稳不下来。一般来说500us周期下每条网段挂的从站不要超过8个再多就得换专用硬实时硬件了。第四也是最容易被忽略的应用层不要在主站线程里做任何耗时的业务逻辑。我见过不少代码把日志写入、数据库上报、WebSocket推送都放在EtherCAT周期线程里哪怕RT补丁再牛这些阻塞操作也会把周期拖垮。500us模式的铁律是——周期线程只处理PDO数据的拷贝和解析所有统计、显示、日志全部丢给非实时线程。这套系统做到现在我个人最大的感受是软实时方案不是拿来跟硬实时系统掰手腕的它面对的是那些预算有限、对同步精度要求没那么苛刻的现场。把PREEMPT_RT、CPU隔离、中断绑核这三板斧用到位OrangePi 5 Plus也能跑出接近专用控制器的表现。以后如果再让我选型只要现场需求不超过“2路EtherCAT加6路CAN”的总线规模这个组合我还会接着用。