前沿雷达|RESETTLE:冻结策略的两次采样持续分歧才介入,按示范参考只执行一个纠正动作

预印本 RESETTLE 在冻结策略的动作接口上做恢复:两次采样持续分歧才介入,检索同任务示范,只执行一个纠正动作。作者报告 LIBERO-Plus 上 FastWAM 从 49.3% 升到 58.0%,恢复计算 83.6 ms。

时间线示意图:四个带编号的实心圆从左到右排成一行,由箭头依次相连,每个圆下方有一段文字说明。四步依次为:同一条件下采样两次动作块,分歧连续两次超过 P95 阈值才触发;用 V-JEPA 编码当前画面,检索同任务示范中最近的参考帧;状态伺服先验加受约束残差,只执行一个原生控制动作;把控制交还冻结的基础策略,以新观测重新采样。
RESETTLE 一次干预的四个步骤。依据 arXiv 2610.12185 第 4 节与附录 B(作者报告)绘制;编号和箭头表示论文记述的步骤顺序;四个圆大小、颜色相同,不表示测量值或排名。

机器人策略在执行中走偏后,靠 VLM 反复判断或在线优化来纠正,可能带来可观的延迟。香港科技大学等机构的预印本 RESETTLE(arXiv 2610.12185,2026-10-08)把恢复放在冻结策略的动作执行接口上:同一观测下独立采样两个动作块,分歧连续两次超过阈值才介入;用改造过的 V-JEPA 2 编码器在同任务成功示范里检索最近的一帧,按“状态伺服先验 + 受约束的视觉残差”只执行一个控制动作,再把控制交还基础策略。作者报告,六个基础策略在 LIBERO-Plus、Meta-World 和 RoboCasa Tabletop 上的绝对成功率提升最高分别为 8.70、6.28、6.83 个百分点,真机四项任务也有提升;在 QwenPI 上测得的监测加恢复计算耗时为 83.6 ms。以下数字均为作者报告 [R],本站未复现。

论文把已有的恢复方法分为三类。第一类用额外监督训练纠错行为,如 DAgger 在学习者到达的状态上收集专家标签、IntervenGen 从人类干预生成恢复轨迹,都需要额外数据和策略更新。第二类由 VLM 监督恢复,如 Agentic Robot 用视觉验证触发纠正与重试、VoLoAgent 在策略执行和恢复工具之间切换,反复验证和恢复计算带来延迟。第三类在推理时修正动作而不改权重,如 LPB 和 VLA-Corrector,但依赖梯度引导,增加计算;作者还报告,在泛化的 VLA/WAM 上,LPB 用的专家特征距离在成功和失败执行之间重叠更大。RESETTLE 属于第三类,但不做梯度引导或在线轨迹优化,也不额外调用 VLM,并且不需要访问基础策略的内部表示。

何时介入:同一条件采样两次,分歧持续才算数

许多生成式策略用扩散或 flow matching 从噪声采样动作块,同一观测、同一指令下换一个噪声样本,得到的动作块可能不同。RESETTLE 在每个名义决策点用两个独立噪声样本生成两个动作块,按具体机器人定义的动作距离计算时间加权分歧,靠后动作的权重可以递减;对 GR1,γ = 0.8 使越早的动作权重越大。对笛卡尔动作的策略,距离只取平移分量的欧氏距离,不计旋转和夹爪;RoboCasa 的 GR1 则用全部 29 个归一化坐标(两臂各 7、两手各 6、腰部 3)上的差值平方计算距离。

阈值取该基础策略在训练数据上离线推理得到的分歧分数的第 95 百分位(P95),不使用评测结果;每个基础策略单独标定。LIBERO-Plus 用一个阈值覆盖全部扰动类型和任务,其余基准用全基准共享的阈值。连续两个决策点都超过阈值才触发,用来压掉单次采样的波动;没有触发时执行第一个样本,每次干预后计数清零。

作者给出的依据是:在 QwenPI 上,训练数据推理和成功执行的分歧集中在低分歧区,失败执行的尾部更重。按“连续两次超过 P95”的规则,在 LIBERO-Plus 七类扰动中,失败轨迹有 77.89%–100.00% 被触发,成功轨迹也有 9.22%–42.81% 被触发。作者的说法是:持续分歧有信息量,但不是确定的失败标签,所以设计成短暂纠正后重新观测。论文还报告,只用 5 条训练轨迹标定,得到的分歧分布与用 100 条或全部训练集时相近;单样本与双样本推理的实测延迟在所报告精度上相同,FastWAM 约 297 ms,QwenPI 约 109 ms,因此在这些实现里监测几乎不增加延迟。

怎么纠正:检索示范帧,伺服先验加受约束残差

触发后,改造过的编码器把当前画面映射成池化、归一化的表示,在同一任务的成功训练示范中按余弦距离找最近的一帧;这一帧同时提供参考画面和对应的机器人状态。没有同任务参考时,控制留在基础策略手里。编码器是约 1B 参数的 ViT-g/16,从在 DROID 上做过动作条件预训练的 V-JEPA 2-AC 检查点初始化,再在专家示范上用残差动作监督、动态预测等目标联合训练;部署时动态预测器不运行。LIBERO-Plus、Meta-World、RoboCasa 和真机各训练一个恢复模块,在同一设置的多个基础策略之间共用。

纠正动作分两部分。从当前状态到参考状态的位移,在原生控制坐标中给出一个有界的 state-servo prior(状态伺服先验);视觉残差头以当前与参考画面的表示、机器人状态、上一步动作和这个先验为条件,对先验做调整。守卫(guard)要求残差与先验的余弦相似度不低于下限、残差与先验的范数比不超过上限,LIBERO 上平移和旋转分开检查。通过的残差加到先验上,再裁剪到原生指令限幅;不通过就只执行有界的伺服动作。每次干预都丢弃基础策略尚未执行的动作,只执行一个原生控制步,然后以新观测交还基础策略。

作者在附录中写明:示范参考是成功行为的经验锚点,不保证物理上可达,也不定义基础策略完整的可行范围。

成功率:三个仿真基准、分层规划与真机

每组对比使用相同的冻结权重、相同的评测条件和执行预算,差值是两个百分数的绝对差(百分点)。LIBERO-Plus 共 10,030 个用例、七类扰动,三个基础策略都在标准 LIBERO 上训练,未额外微调,均值按各类用例数加权;Meta-World 为全部 50 个任务、每任务 10 回合,共 500 回合,均值是四个难度组成功率的不加权平均;RoboCasa 为 24 个任务的 GR1 Tabletop 套件;LIBERO-Pro Swap 为 10 个任务 × 10 个种子的同一组 100 次试验。

基准基础策略基线(%)+RESETTLE(%)差(百分点)
LIBERO-PlusFastWAM49.358.0+8.7
LIBERO-Plusπ0.570.073.7+3.7
LIBERO-PlusQwenPI80.284.6+4.4
Meta-WorldQwenPI60.6665.99+5.33
Meta-WorldSmolVLA59.2065.48+6.28
RoboCasa TabletopLDA50.3352.42+2.09
RoboCasa TabletopQwenGR00T53.6760.50+6.83
LIBERO-Pro Swapπ0.515.0024.00+9.00
LIBERO-Pro SwapGPT-5.5 + π0.5(Harness VLA)42.0050.00+8.00

LIBERO-Plus 上提升最大的是机器人初始位姿扰动:FastWAM、π0.5、QwenPI 分别 +16.7、+17.8、+21.4 个百分点;π0.5 和 QwenPI 在光照扰动下各降 0.2 个百分点。只用伺服先验、不加残差时,三者的总成功率为 55.9%、72.9%、83.1%,加上受约束残差后为 58.0%、73.7%、84.6%。论文表 1 上半部分 OpenVLA 等基线的数字取自各自论文,不是本文的配对评测。

LIBERO-Pro Swap 的后两行来自 Harness VLA:GPT-5.5 规划器根据指令、观测和记忆协调执行,π0.5 负责局部操作,RESETTLE 加在底层策略的动作执行接口上。作者据此认为局部纠正与高层规划可以互补。

真机:Franka Research 3 上的四项任务

真机实验用 Franka Research 3 和外部、腕部相机,基础策略是 QwenPI 和 VLAct(都用 Qwen3-VL 骨干),两者共用一个真机恢复模块,阈值各自标定。每种配置每个任务 20 次,初始臂型和物体布局随机,共 320 次。

任务(指标)QwenPI 基线QwenPI +RESETTLEVLAct 基线VLAct +RESETTLE
Press-button(成功率)9010090100
Cube-up(成功率)55708590
Carrot-in-pot(成功率)85959095
Use Spoon(阶段完成度)36.7508086.7
四项平均66.6778.7586.2592.92

前三项是二元成功率,Use Spoon 是长程任务的归一化阶段完成度,“四项平均”把两种指标直接平均。每任务 20 次时,一次试验对应 5 个百分点(本站换算):VLAct 在 Cube-up 和 Carrot-in-pot 上的 5 个百分点提升,各相当于 20 次里多成功 1 次。本站所读的正文没有给出真机结果的置信区间。

延迟:83.6 ms 衡量的是计算,不是响应时间

论文表 6 在 QwenPI 上实现几种方法并测量;论文写明本地的策略与恢复推理在 NVIDIA RTX 4090D 上运行。“监测”指超出名义策略推理的额外耗时;“合计”是监测加恢复,不含名义推理、轮询延迟和物理执行。两种智能体方法都用 Qwen3-VL-4B-Instruct 做监测;LPB 是作者在自己的 QwenPI+V-JEPA 框架里改写的版本。

方法监测(ms)恢复(ms)合计(ms)相对 RESETTLE
RESETTLE≈ 0.083.6≈ 83.61.0×
Agentic Robot107.0109.0216.02.6×
VoLoAgent107.0215.0–1193.0322.0–1300.03.9–15.6×
LPB(作者改写)56.2423.5479.75.7×

合计耗时比 Agentic Robot 低 61.30%,比改写的 LPB 低 82.57%,比 VoLoAgent 的放置与抓取分支低 74.04%–93.57%;VoLoAgent 区间的下限是放置分支,上限是抓取分支。几种方法的产出不同:RESETTLE 一次产出一个动作,VoLoAgent 准备一段轨迹。作者也写明,RESETTLE 只在名义决策点检查,响应受决策频率和“连续两次超阈值”规则限制;表中的合计衡量的是计算,不是端到端的响应时间。

和站内已有内容的关系

课程物理AI实验室 1.6:模仿学习讲过,行为克隆的误差会累积,让机器人滚出示范覆盖的范围。RESETTLE 针对的正是这类状态,但不重新训练策略:它在运行时把“分歧持续偏高”当作可能进入陌生状态的信号,再把机器人朝最近的示范状态推一步。前沿雷达专题|仿真与评测介绍的恢复基准衡量策略本身能否从偏差中恢复;RESETTLE 则是在策略之外加一个恢复模块,一个是评测,一个是方法。

读它的评测时有两点可以对照。RESETTLE 用的 LIBERO-Plus,与前沿雷达|Is Success All You Need?用的是同一个扰动基准;那篇文章提醒,成功率相近不等于成功轨迹相同,而 RESETTLE 只报告成功率,本站所读的正文没有报告纠正后轨迹的时长或平滑度。物理AI实验室 1.8:评测讲过一个总数会把变好和变坏抵消掉;RESETTLE 的触发统计显示成功轨迹也会被干预,本站所读的正文没有给出逐对的变好、变坏数。

局限 / 注意

  • 这是 arXiv 预印本,全部数字为作者报告 [R]。作者来自香港科技大学、香港中文大学、SmartMore、哈尔滨工业大学(深圳)与 Shenzhen Loop Area Institute。本站没有复现任何结果;论文称代码已公开,本站没有核对。
  • 分歧衡量的是动作选择是否不稳定,不直接检验物理可行性或任务是否正确。论文写明:策略给出一致的动作时,空间或指令理解错误可能不会触发干预;触发后也可能因物理状态无法解决或目标不匹配而恢复失败。
  • 守卫只限制残差相对先验的方向和大小。作者说结果支持视觉修正,但不证明能避免碰撞;仿真结果和 320 次真机试验都不是硬件安全验证。
  • 恢复依赖同任务的成功示范和任务标识,没有参考时不干预;恢复模块按设置分别训练,换任务或换机器人需要相应的示范数据。
  • 成功轨迹在各类扰动中有 9.22%–42.81% 被触发。本站所读的论文 HTML 正文止于附录 B,不含附录 C–E 中的训练细节、触发统计、消融、延迟细节和失败案例。
  • 真机每任务 20 次,正文没有给出置信区间,“四项平均”混合了两种指标。延迟只在基于 QwenPI 的实现上测得(论文写明本地推理用 RTX 4090D),对比方法是作者的实现或改写。

链接