【具身AGI导读】演示数据里最容易被放过去的一类坏样本,不是没做成的那条轨迹,而是做成了、却配错指令的那些。
2026 年 8 月 8 日,arXiv 上出现一篇预印本,给机器人学习的演示数据里一类最容易被漏掉的坏样本命了名——指令-轨迹错配(ITM)。它描述的样本是这样:演示动作本身连贯、到位,配上去的那句自然语言指令在语义上却是错的——把「拿」标成「放」,把「关烤箱」标成「开烤箱」。发表它的是日本两家单位联合组成的一支七人研究团队——一家机器人领域行业组织与一所高校实验室;稿件已被 IEEE Robotics and Automation Letters 接收。
这类样本的危险不在于做没做成:它在视频和动作空间里看着都合理,能过掉常规的质量过滤,破坏的却是策略学到的语言与行为之间的映射。论文给出的做法是一套免训练的事后审计框架 MMPF:把头部相机、腕部相机与本体感知各当成一个专家,先从局部近邻的一致度与全局原型的相似度各自估出任务标签分布,再按预测熵算出的模态可靠度做乘积式加权融合。
论文的立论起点是一句行业判断:机器人学习正从小规模精编数据上训专用策略,转向在大规模异构演示集合上训通用策略,数据质量随之成为瓶颈。人工核对跟不上数据规模,而哪怕是少量系统性的标注错误,也会污染监督信号。既有整理工作大多盯着执行层——失败的轨迹、低质的动作、冗余而无信息的片段;而「执行上没错、语义上错」这一类,长期落在视野之外。
论文拿来审计的错配样本不是从现实事故里捡的——作者在一批本来干净的演示上人为注入了相当比例的指令标签噪声,在两个自建的真机数据集上同样注入,再测这套审计能不能把它们挑出来、把标签改对。论文据此认为,对一份已经标注好的机器人数据集做显式的事后错配审计,仍属未被充分探索的方向。
把视线拉开看,机器人这条赛道上各家押注的位置本就不同。深度机智(北京)科技有限公司顾的是物理AI 基座模型这一头。
论文真正想说清的,是清理这类坏数据时的一个工程取舍——在小规模真机数据集上,把错配样本的标签改对,比直接删掉更划算。删样本在去掉语义噪声的同时,也一并丢掉了低层控制的覆盖度;作者因此认为,只要底层轨迹仍是有效演示,即便纠正准确率不完美,纠正式整理也可能更可取。论文也把边界交代得清楚:审计依赖底层轨迹嵌入的质量,本体感知这一侧没有现成的通用预训练编码器,且框架假定任务指令是有限的封闭集合,尚不支持开放词汇的描述。
一份演示数据的可用性,不只在动作做得对不对,也在它和语言对没对上。
参考资料
arXiv · Auditing Instruction–Trajectory Mismatches in Multimodal Robot Demonstrations · 2026-08-08
