XizoB/FastWAM-TDAA
FastWAM-TDAA
新增:2026-09-18 的 25 epoch 训练产物
2026-09-21 上传了两组 25 epoch / 13,625 步训练产物,与下方旧版 5 epoch 结果分别归档。
新版 Frozen 必须使用对应的 160k codec,与旧版 80k codec 不同。视频为训练开环监控;本次没有发布这两份新权重的完整闭环成功率,不能沿用下方旧版分数。
25 epoch 训练说明、超参数和下载方法 · 文件校验清单
以下为 2026-09-17 的 5 epoch 实验归档
本仓保存 RoboTwin 实测模型、TDAA codec、原始结果和 4,000 个视频。
GitHub 代码 · 方法与复现 README · 完整结果表
方法与模式
在 FastWAM 中接入预训练 TDAA version3_bin24 编解码器,将 [32,14] 动作块编码为 [8,16] latent。策略在 latent 空间做 flow matching,再解码为 32 步绝对关节动作。decoder 使用任务向量和由已执行动作历史的 DCT24 特征生成的 phase;每个 episode 重置历史。
frozen 控制整个 TDAA codec,FastWAM 策略仍参与训练。联合训练额外加入动作重构与进度预测损失。动作 token 从 32 个变为 8 个,仅表示动作表示压缩;本次没有端到端加速测量。
模型与资产
本节为旧版 5 epoch 模型及 80k codec。
- TDAA codec 与配置:
codec.pt、config.json、metadata.json、dataset_statistics.json、task_embeddings.json,来自 80,000 步 AE。 - 基线归一化统计。
- 完整评测目录与视频:基线、TDAA Frozen。
代码仓的下载工具按固定版本获取文件并校验 SHA-256。在代码仓安装环境后运行:
python scripts/download_models.py --model both
# 仅下载 codec 和统计等辅助资产
python scripts/download_models.py --assets-only
# 校验本地文件
python scripts/download_models.py --verify-only权重保存到 checkpoints/released/{official,tdaa_frozen}/step_002725.pt。Wan VAE/T5/tokenizer 等基础模型、训练数据和 RoboTwin 仿真资产需另外准备,详见 GitHub 复现说明。本次不包含 optimizer/scheduler 完整训练状态。
训练超参数
本节仅记录旧版 5 epoch 配方;新增 25 epoch 配方见上方链接。
以下为 FastWAM 基线与 TDAA Frozen=True 两组实测训练的共同设置,已与各自保存的 config.yaml 和 train.log 核对。Frozen=False 入口继承这些默认值,但本次没有该模式的完整训练与评测记录。
2,725 = ceil(69,732 / 128) × 5。max_steps 原配置为 null,由数据量和 epoch 自动计算;本次发布的是最终 step_002725.pt。训练内监控使用已参与训练的 episode 0,不是独立验证集。
模型结构、归一化、调度推导与配置来源见 完整训练超参数说明。
RoboTwin 实验结论
本节成功率仅对应旧版 5 epoch 权重。
实验为 robotwin_eval_20260917_sh_uv:10 个任务,每任务 clean/random 各 100 次,每模型 2,000 次;seed=42、instruction_type=unseen、32 步动作 horizon、24 步重规划、10 步去噪。
TDAA Frozen 在 clean、random 上分别提高 20.2、2.3 个百分点,合并提高 11.25 个百分点。official 是本项目重训练对照组的目录名,以上不是 FastWAM 官方论文分数。
两组策略共享 10 个任务、500 条训练轨迹与 69,732 个完整窗口;训练内 val 是监控数据。上表来自独立 simulator 闭环评测,unseen 指指令类型,不表示未见任务。
改善存在任务差异:clean 的 press_stapler 从 33% 降至 3%,open_laptop 从 45% 降至 43%;random 均值仍为 6.3%。本次没有多次独立训练的均值/方差,也未隔离动作表示、历史条件、任务向量及归一化各自的贡献,不能解释为单组件消融结论。
代码、模型与第三方组件的来源说明见 GitHub README及 TDAA 来源记录。
