先定义一条轨迹包含什么
一段能播放的机器人视频,不等于一条能用于训练的演示。策略还需要知道每个画面对应的机器人状态、动作、指令,以及一次任务从哪里开始、在哪里结束。比如“把黑色方块放入左侧料盒”,应明确方块初始区域、料盒身份和完成判据,而不能只在文件名里写一个模糊的“抓取”。
采集前建议写一张数据约定表,至少包括相机名称与分辨率、状态向量维度、动作含义、单位、控制频率、时间戳来源和结束原因。它是采集端、训练端与部署端共同遵守的接口。后续更换相机或夹爪时,应形成新版本,不能只改代码而沿用旧说明。
v3 的存储文件不再等于轨迹
LeRobotDataset v3 将多条轨迹的表格数据、视频和索引元数据组织在较大的文件中,轨迹边界通过元数据恢复。官方文档列出 Parquet 形式的状态与动作、MP4 视频,以及描述特征、帧率、统计量和片段偏移的元数据。不能据此假设“一条轨迹恰好对应一个 MP4”。格式来源:LeRobotDataset v3.0。
这意味着导出、删除、合并数据时,必须同时维护轨迹索引和视频偏移。只移动视频文件,可能使画面仍能播放,却让训练加载器读取到另一条轨迹的状态。检查格式时先看元数据与加载器版本,不要照搬不同版本教程中的目录规则。
时间对齐要看采集时刻
假设画面展示夹爪尚未闭合,动作标签却已经属于抬起阶段,策略会学到互相矛盾的对应关系。网络不会自动辨别这是采集延迟还是任务本来如此。应同时保存采集时间和接收时间,区分传感器延迟、通信抖动与固定偏移。
| 检查对象 | 检查方法 | 需要保留的证据 |
|---|---|---|
| 多路相机 | 查看同一动作事件在不同视角的时间差 | 各相机时间戳与对齐策略 |
| 状态与动作 | 对照目标指令和实际关节响应 | 动作定义、控制器频率与延迟 |
| 轨迹边界 | 逐条回放开始和结束附近的数据 | 终止原因、有效帧区间和补齐标记 |
插值前先区分信号类型。关节位置和夹爪开关不一定适合相同处理;角度还要考虑跨越表示边界的问题。没有统一时间基准时,不宜把简单的帧序号相等当成同步证据。
给每批采集设一个验收步骤
- 先完成少量轨迹的录制、加载与回放,确认视角、单位和任务标注一致。
- 扫描缺失值、非有限数值、时间倒退、重复帧和异常大的动作跳变。
- 把状态曲线叠加到视频时间线上,检查抓取、抬起、放置等关键事件。
- 记录失败轨迹和人为中断原因,再决定哪些数据进入行为克隆训练。
官方实机教程将设备校准、遥操作、录制、训练与评估串成流程,并强调同一设备配置要保持校准身份一致。参见实机模仿学习教程。本文建议在大批采集前完成一次端到端试运行,把格式错误尽早暴露出来。
按轨迹和场景划分数据
不要随机打散相邻帧后划分训练集和验证集。同一条操作的近似画面同时出现在两边,容易让验证损失过于乐观。以完整轨迹为基本单位,再按采集日期、物体实例、背景或工位划分,可以更清楚地检查模型是否记住了某次采集条件。
例如先保留一天的采集作为独立测试,再在剩余数据中划分训练与验证。具体比例取决于数据量,这里不规定统一数字。对于只有少量轨迹的任务,宁可明确说明测试覆盖有限,也不要用大量相邻帧营造“样本很多”的印象。
交付的是可解释的数据版本
一批合格的数据应附带采集配置、轨迹清单、划分清单、质量检查记录和统计量的计算范围。训练前重新加载一遍样本,确认模型看到的内容与人工回放一致。数据质量的目标不是把目录整理得整齐,而是让另一位工程师能够准确复现观测与动作的关系。
资料来源与延伸阅读
整理更新:2026-10-26。本文基于以上公开资料,经 AI 辅助整理与扩写;实践方案为编辑建议,未作为本站实测结果发布。工具接口请结合所用版本核对。