LightningNO1/J_VLA_V0_Complete

J_VLA_v0 Task-Complete 数据集说明

概览

本目录是 /public/home/zhuyuchen530/J_VLA_v0 的任务完成版副本。原数据在 蓝色方块已经放入绿色碗后，还包含机械臂撤回并接近初始位姿的较长动作。本次 转换将 episode 终点改为“任务成功已经明确可见”，不再等待机械臂完全回位。

• 源目录：/public/home/zhuyuchen530/J_VLA_v0
• 输出目录：/public/home/zhuyuchen530/J_VLA_v0_task_complete
• 转换脚本： /public/home/zhuyuchen530/projects/le-wm/scripts/trim_j_vla_to_task_success.py
• 数据格式：LeRobot v2.1
• 任务：Put the blue cube into the green bowl
• 帧率：30 FPS
• Episodes：20
• 相机：video.cam_high、video.cam_right_wrist
• 帧数：9,615 -> 6,276
• 删除：3,339 帧，约 34.7%

源数据目录不会被脚本写入或覆盖。

任务完成检测

当前数据是单一 pick-and-place 任务，因此使用抓手释放作为可复现的任务完成 候选事件：

1. 读取 observation.state[..., 6] 的连续抓手状态。
2. 从每条 episode 的 35% 之后开始搜索，排除起始阶段张开抓手的动作。
3. 将 gripper[t+1] - gripper[t] > 0.00015 视为张开变化。
4. 将间隔不超过 15 帧的张开变化合并为同一个事件。
5. 选择第一个累计张开量不小于 0.002 的事件。
6. 在释放结束后额外保留 20 帧，约 0.67 秒。

额外保留的 20 帧用于记录方块已经稳定落入碗中，以及机械臂开始撤离。随后 回到初始位姿的动作被删除。20/20 条 episode 的主相机裁剪终点均已人工审查。

该规则依赖“释放物体即完成任务”的语义，不能不经检查地用于推、拉、开门或 无需松开抓手的任务。

每条 Episode 的长度

Episode	原长度	释放区间	新长度	删除
0	500	262-288	309	191
1	464	285-295	316	148
2	500	264-273	294	206
3	458	283-295	316	142
4	420	250-275	296	124
5	458	239-249	270	188
6	405	260-269	290	115
7	500	258-266	287	213
8	500	302-310	331	169
9	500	282-288	309	191
10	466	253-264	285	181
11	472	299-308	329	143
12	500	303-320	341	159
13	500	341-350	371	129
14	500	262-272	293	207
15	500	283-298	319	181
16	500	286-295	316	184
17	484	261-284	305	179
18	500	307-318	339	161
19	488	330-339	360	128

更完整的参数、候选释放事件和生成记录见 conversion_manifest.json；简要转换报告见 CONVERSION_REPORT.md。

转换内容

脚本对所有时序数据使用同一个裁剪长度：

• 截断两个相机的 MP4，并重新编码为 H.264、yuv420p。
• 截断对应 parquet 中的 observation.state、action 和索引字段。
• 重置 episode 内的 frame_index 与 timestamp。
• 重建跨 episode 连续的全局 index。
• 更新 meta/episodes.jsonl 和 meta/info.json。
• 重建 meta/steps_data_index.pkl。
• 使用裁剪后的全部帧重新计算 meta/stats.json。
• 同步重建 meta/stats_gr00t.json。

视频先在节点本地 /tmp 完成封装，再顺序复制到输出目录，以避免 /public 文件系统上的 MP4 随机写问题。整个数据集先写入同级临时目录，全部成功后再 原子 rename。目标目录已存在时脚本会直接退出，防止误覆盖。

复现转换

因为当前目录已经存在，复现时应指定新的输出目录：

cd /public/home/zhuyuchen530/projects/le-wm
source .venv/bin/activate

python scripts/trim_j_vla_to_task_success.py \
  --source /public/home/zhuyuchen530/J_VLA_v0 \
  --output /public/home/zhuyuchen530/J_VLA_v0_task_complete_rebuild \
  --visual-audit-status "manual review required"

关键参数可通过以下选项调整：

--release-search-fraction
--positive-delta
--merge-gap
--min-release-gain
--post-success-frames

LeWM 训练

对应的数据配置为：

/public/home/zhuyuchen530/projects/le-wm/config/train/data/j_vla_v0_task_complete_fs2.yaml

它保持原 J_VLA 设置：frameskip=2、7D 连续 action/state、min_max 归一化，以及 episode-level 90/10 train/val 划分。使用已有两阶段微调脚本：

cd /public/home/zhuyuchen530/projects/le-wm

DATA_ROOT=/public/home/zhuyuchen530/J_VLA_v0_task_complete \
RUN_NAME=j_vla_task_complete_run01 \
scripts/run_j_vla_v0_finetune.sh

方法依据

• DROID 使用任务 success 标注区分可用于训练的成功示范： https://www.jiajunwu.com/papers/droid_rss.pdf
• LIV 使用语言条件视觉表示追踪任务视频中的进度： https://proceedings.mlr.press/v202/ma23b/ma23b.pdf
• RoboCLIP 和 RoboReward 展示了使用视频模型或 VLM 构造任务进度奖励的 路径：https://arxiv.org/abs/2310.07899、 https://arxiv.org/abs/2601.00675

对于当前仅 20 条、单任务且释放事件明确的数据，机器人状态检测加全量人工 审查比引入 learned reward 更直接，也更容易复现。