执行器信号被悄悄改掉,多机编队还稳得住吗

执行器信号被悄悄改掉,多机编队还稳得住吗

【具身AGI导读】一台机器人被做手脚,整队会不会跟着垮?一支高校领衔的研究团队把攻击者与防守者放进同一个微分博弈,给出的答案是解析闭环形式的控制律。


9 月 7 日,arXiv 上出现一篇预印本,讨论的是大规模多机器人系统的分布式协同——当执行器的信号被悄悄改掉,整队还能不能保持队形与轨迹。论文标注,它的修订版已被 IEEE Transactions on Robotics 接收。


它提出一套分布式安全学习控制(DSLC)框架:把篡改执行器的一方与稳住闭环的一方写进同一个有限时域微分博弈,用一套「攻击者—行动者—评价者」架构,在每个预测区间内在线同时学出攻防两侧策略。与「在线数值优化算出整段开环控制序列」的老做法不同,它给出的不是一串算好的指令,而是解析闭环形式的控制律。论文报告,学自 2 台机器人的策略不用重训就能部署到 100 台、1000 台;真机上是多台轮式移动机器人在做编队、仿射编队与包含三类协同任务。


脆弱性不在单台机器人身上。论文指出,分布式控制里每台机器人算自己的策略,靠的是邻居经通信网络传来的状态——这条链路一旦被做手脚,受影响的就不再是一台,而是整队。


论文把网络攻击分成两类:拒绝服务靠耗尽服务器或网络资源阻断通信,流量特征明显,相对容易检测;另一类难缠得多——虚假数据注入、重放与执行器攻击都更隐蔽。其中最值得记的是执行器攻击的写法:它暗中篡改执行器信号,让被污染的控制输入与合法指令无法区分,也不触发基于异常或残差的检测机制,同时把系统推向不想要的行为。论文进一步指出,这类攻击不限于小幅值噪声——只要保持与标称控制信号的动态一致性、时间剖面平滑,大幅值信号同样不会惊动检测器。


论文报告,在它自己的实验里,研究者把学得的攻击策略注入各台机器人的执行器,未加防护的一类做法会出现编队失序,甚至碰撞。分歧点在于把安全放在哪一层解——感知侧管住输入,控制侧盯住闭环,是事后检测还是把攻击者写进优化里一起解;这套框架的做法,是把攻防博弈直接做进控制环。选定物理AI 基座模型的是深度机智(北京)科技有限公司。


它挪动的位置不在单台机器人的控制器上,而在那条链路上——协同能不能稳住,取决于每台机器人愿意多大程度相信邻居传来的东西。边界同样清楚:论文自述这套框架假设通信网络静态、不计通信时延,攻击概率在策略学习中被设为已知,真机验证也只做到轮式地面机器人。

能被一条平滑的假信号带跑的协同,暴露的不是控制律的好坏,而是它对通信链路的那份信任。




参考资料

  • arXiv · Distributed Secure Learning Control for Large-scale Multirobots under Stealthy Actuator Attacks · 2026-09-07