LeRobot 数据采集:从可播放视频到可训练轨迹

数据与评估 · 资料解读与实践 · 整理更新 2026-10-26

先定义一条轨迹包含什么

一段能播放的机器人视频,不等于一条能用于训练的演示。策略还需要知道每个画面对应的机器人状态、动作、指令,以及一次任务从哪里开始、在哪里结束。比如“把黑色方块放入左侧料盒”,应明确方块初始区域、料盒身份和完成判据,而不能只在文件名里写一个模糊的“抓取”。

采集前建议写一张数据约定表,至少包括相机名称与分辨率、状态向量维度、动作含义、单位、控制频率、时间戳来源和结束原因。它是采集端、训练端与部署端共同遵守的接口。后续更换相机或夹爪时,应形成新版本,不能只改代码而沿用旧说明。

v3 的存储文件不再等于轨迹

LeRobotDataset v3 将多条轨迹的表格数据、视频和索引元数据组织在较大的文件中,轨迹边界通过元数据恢复。官方文档列出 Parquet 形式的状态与动作、MP4 视频,以及描述特征、帧率、统计量和片段偏移的元数据。不能据此假设“一条轨迹恰好对应一个 MP4”。格式来源:LeRobotDataset v3.0。

这意味着导出、删除、合并数据时,必须同时维护轨迹索引和视频偏移。只移动视频文件,可能使画面仍能播放,却让训练加载器读取到另一条轨迹的状态。检查格式时先看元数据与加载器版本,不要照搬不同版本教程中的目录规则。

时间对齐要看采集时刻

假设画面展示夹爪尚未闭合,动作标签却已经属于抬起阶段,策略会学到互相矛盾的对应关系。网络不会自动辨别这是采集延迟还是任务本来如此。应同时保存采集时间和接收时间,区分传感器延迟、通信抖动与固定偏移。

检查对象检查方法需要保留的证据
多路相机查看同一动作事件在不同视角的时间差各相机时间戳与对齐策略
状态与动作对照目标指令和实际关节响应动作定义、控制器频率与延迟
轨迹边界逐条回放开始和结束附近的数据终止原因、有效帧区间和补齐标记

插值前先区分信号类型。关节位置和夹爪开关不一定适合相同处理;角度还要考虑跨越表示边界的问题。没有统一时间基准时,不宜把简单的帧序号相等当成同步证据。

给每批采集设一个验收步骤

  1. 先完成少量轨迹的录制、加载与回放,确认视角、单位和任务标注一致。
  2. 扫描缺失值、非有限数值、时间倒退、重复帧和异常大的动作跳变。
  3. 把状态曲线叠加到视频时间线上,检查抓取、抬起、放置等关键事件。
  4. 记录失败轨迹和人为中断原因,再决定哪些数据进入行为克隆训练。

官方实机教程将设备校准、遥操作、录制、训练与评估串成流程,并强调同一设备配置要保持校准身份一致。参见实机模仿学习教程。本文建议在大批采集前完成一次端到端试运行,把格式错误尽早暴露出来。

按轨迹和场景划分数据

不要随机打散相邻帧后划分训练集和验证集。同一条操作的近似画面同时出现在两边,容易让验证损失过于乐观。以完整轨迹为基本单位,再按采集日期、物体实例、背景或工位划分,可以更清楚地检查模型是否记住了某次采集条件。

例如先保留一天的采集作为独立测试,再在剩余数据中划分训练与验证。具体比例取决于数据量,这里不规定统一数字。对于只有少量轨迹的任务,宁可明确说明测试覆盖有限,也不要用大量相邻帧营造“样本很多”的印象。

交付的是可解释的数据版本

一批合格的数据应附带采集配置、轨迹清单、划分清单、质量检查记录和统计量的计算范围。训练前重新加载一遍样本,确认模型看到的内容与人工回放一致。数据质量的目标不是把目录整理得整齐,而是让另一位工程师能够准确复现观测与动作的关系。

资料来源与延伸阅读

整理更新:2026-10-26。本文基于以上公开资料,经 AI 辅助整理与扩写;实践方案为编辑建议,未作为本站实测结果发布。工具接口请结合所用版本核对。

继续阅读

浏览全部文章

SelfEvolv

自进化(长沙)科技有限公司

客户经理

主营业务

  • 机器人算法研发
  • 算法培训
  • 机器人硬件代理
selfevolv.com

湖南省长沙市岳麓区中南大学计算机楼

机器人仿真演示