为什么机器人还只是一个遥控大玩具

2026年8月16日

embodied-airoboticsVLAscalingworld-models
目录

背景

模型与病症

语言模型每周都有十亿人在用[1]——图像和视频模型也随处可见。而那台本该帮你洗碗做家务的机器人,却还是干不成这些活儿。所谓的人形机器人,也只不过是一个会跑跑跳跳的遥控大玩具。为什么?

机器人智能(具身智能)里”智能”的部分,主要有这几类模型:

  1. VLA(视觉-语言-动作模型):输入是摄像头画面和一条文字指令,输出动作指令——可以是关节电机/舵机信号,也可以是抽象的高阶运动指令[3]。其中的视觉编码器和语言主干,通常直接继承自互联网规模预训练的多模态大模型;
  2. WAM(世界-动作模型):不只预测动作,也同时学习预测未来的观测[2]

学习的方法主要有两条路:

  1. 行为克隆(Behavior Cloning):录下”任务被完成”的过程,让模型照着学。
    • 遥操作:一个人像提线木偶一样操控机器人,全程记录机器人视角的视频、任务描述和电机状态;
    • 人类视频:录下人做各种活儿的视频,解析出手部关节运动和端点坐标来训练。
  2. 强化学习(RL):在仿真里探索动作空间、反复尝试,靠反馈和奖励来训练。

视觉-语言-动作模型示意图:摄像头画面和一条文字指令进入同一个网络,网络里装着网络预训练的视觉编码器和语言主干(两者都被标注为"可泛化"),还有一个靠行为克隆训练的动作头(被标注为"泛化止步之处");输出电机指令

以 VLA 为例的一套机器。视觉和语言部件带着互联网级预训练进场;动作头则靠记录下来的演示数据做行为克隆训练。

不论什么模型,什么学习方法,观察到的是:视觉和语言部件泛化得很好,而动作部件正是泛化止步的地方[5],[6],[7]。而泛化止步的地方,规模化(Scaling)也止步:一条规模曲线追踪的是模型在从未见过的数据上的误差[8],所以更多数据只能通过模型从这些数据中泛化出的东西来改进它——没有泛化的改进就是死记硬背,什么也买不来[9]。无法泛化的部件,就是无法扩展的部件。正如莫拉维克悖论:“难的事其实容易,容易的事其实难”[10]。语言模型有着优美的 loss 曲线,正是得益于其泛化能力;如果模型只是在死记,验证 loss 曲线就会在某个位置上下震荡,均值不再下降。为什么需要深度思考、逻辑推理的问题模型可以做得很好,一些简单的日常家务模型却无法胜任?我这篇文章试图给出一些解释和思考。方便不熟悉的朋友阅读,先铺垫一些必要的背景知识。

(如果您已经熟悉这些背景,可以直接跳到《为什么动作头会过拟合:五个论断》。)

鼎鼎大名的 “Scaling Law”

2020 年,Kaplan 等人测量到,随着数据和算力增长,语言模型的测试误差沿一条平滑的幂律下降[8]

L(D) ≈ k · D−α + L

其中:L(D) 是用 D 单位数据训练后的误差;L 是地板——无论再加多少数据都无法跌破的误差;指数 α 说的是误差中高于地板的那部分随数据增长缩得多快(D 每翻一倍,它就被削掉同一个固定比例);而 k 对这个收缩部分做整体缩放——它是 D = 1 时高于地板的那部分误差,把它翻倍,每一个 D 处高于地板的误差都翻倍,而决定它跌落快慢的只有 α。在对数-对数坐标图上,这是一条直线,而语言模型在七个数量级的算力跨度上一直保持直线。现在各个模型厂商自己的曲线已经足够精确到可以照着这条曲线给九位数的训练预算下单[11]。GPT-3 就是这套计划会奏效的证明:少样本学习、泛化之类的本领是随着训练规模的扩大出现的,而不是任何新架构的产物[12]。视觉也是类似的套路:从 AlexNet 在 120 万张标注照片上学习[13],到 CLIP 从网上爬来的 4 亿图文对上学习[14],再到 LAION 的 58.5 亿[15]。(我们在此就不过多介绍了,这不是本文的主题,如果您对Scaling Law感兴趣,请看 Lilian Weng 的《Scaling Laws, Carefully》[16]。)

Scaling,一方面是数据集的scaling。具身智能各主要开源数据集里记录下来的机器人动作基本上是几万小时的数量级的[17],[18]——而那些在 2026 年达到百万小时的语料[5](仍然远低于网络文本的规模[19])是不依靠机器人本体采集的:人类戴着摄像头记录自己完成各种操作的场景,数据里没有机器人动作,而是人手的骨架运动[20],[21],[22]

2019–2026 数据采集的对数散点图,带虚线最小二乘趋势线:机器人动作数据集从 RoboTurk 的 111 小时,经 DROID 的 350 小时、AgiBot World 的 2,976 小时,大约每年 1.7 倍增长,旁边绘有 11,000 小时的开源数据集总量;而人类无机器人参与的语料——Ego4D 3,670 小时、Ego-Exo4D 1,286 小时、EgoDex 829 小时,再到小米 100,000、GEN-0 270,000、GEN-1 500,000、Dyna-2 1,000,000 小时——大约每年 3.4 倍增长,图中一个括注标明约 90 倍的差距里没有一条机器人动作

这场采集竞赛,对数坐标,最小二乘拟合的趋势线。橙色:记录下来的机器人动作[23],[24],[25],[18]。蓝色:从人类采集、无机器人在回路[26],[27],[28],[22],[20],[21],[5]。图中只展示公布了小时数的语料;开源数据集总量为体现规模而绘出,但不参与橙色拟合,蓝色趋势主要由 2025–26 年的商业语料决定。约 90 倍的差距,是”无机器人在回路”采集的数据——尽管戴夹爪的语料确实记录了人手动作;这一替换的代价见《具身鸿沟》一节。

另一方面是模型参数量的 scaling up。这边的数字更能说明问题:主流 VLA 的参数量普遍在 2B–10B 之间——GR00T N1 是 2.2B[63],π0 约 3B[62],OpenVLA 是 7B[61]——迄今最有名的”大”模型还是 2023 年的 RT-2,55B[60]。更有意思的是,7B 的 OpenVLA 在评测里反超了 55B 的 RT-2-X[61]:参数堆上去并没有换来对应的能力,所以这个领域甚至没有被推着往更大做。作为对照,开源 LLM 已经做到了 405B[19]——差着一到两个数量级。

机器人的数据和模型都在快速增长,但是和LLM的巨大成功相比,依然是玩具级别的模型,是什么原因呢?我们在后续的文章中的主要观点是,在动作这个维度上,人们依然观察不到LLM那种泛化能力[5],[6],[7]

问题的精确表述

具身智能领域的数据集——比如 Open X-Embodiment[17],通常包括任务描述,视频,动作。VLA 用这些数据训练预测动作;WAM 则同时训练预测动作和视频。一个很容易观察到的现象是:对于 VLA,动作预测在固定场景表现很好,训练集曲线正常,但极容易受环境影响,验证集曲线很快过拟合。对于 WAM,视觉预测部分的训练损失和验证损失一起正常下降,动作预测则不然:训练误差一路下降,验证误差先下降、后上升。Dyna Robotics 的消融实验报告了同样的特征——5,000 到 100,000 小时的动作标注数据,在一个 39 任务的机器人套件上零样本评测:仅动作训练”随着数据规模增长,表现出严重且难以预测的过拟合模式”[5]

下面把问题写得严谨一点,先定义几个记号。一次演示记录下来,就是一条轨迹:

τ = (o1, a1, o2, a2, …, oT)

其中 ot 是第 t 步的观测——传感器记录的一切:摄像头画面、关节角度、夹爪状态,少数平台还会有腕部力或触觉读数——而 at 是第 t 步记录的动作(电机指令)。

动作是演示者选的:

at = π(ot, z) + εt

其中 π 是演示者的决策规则——也就是他们的策略:把当前所见 ot 变成一个电机指令。另外两个符号才是麻烦所在。z 是演示者的私有状态——他们的意图、习惯、决定从哪一侧绕行——它左右着他们的选择,却从不出现在录像里。而 εt 是执行噪声:叠加在意图指令之上的手抖。

观测是世界产生的:

ot+1 = f(ot, at)

其中 f 是物理:它接收当前状态 ot 和已执行的动作 at,返回下一个状态。与演示者不同,物理什么都不藏,而且只要不发生接触,几乎不引入随机性:同样的状态加同样的动作,几乎给出同样的下一个状态。

在这个数据集上训练,就是学习去预测这两半中的一半,于是每个头都有一个它要逼近的函数。视觉头预测下一个观测 ot+1;一个完美的视觉头,就等于把物理 f 完整学了下来,而 f 所依赖的一切在数据里都可见。动作头预测记录的动作 at;一个完美的动作头,本该把策略 π 学下来——但 π 读取 z,而 z 不在数据里。(这里要区分一下:这个视觉头是在机器人数据本身上训练的下一个帧预测器——不是 VLA 继承的那个网络预训练视觉编码器。编码器的泛化能力归功于网络级预训练;而下文里视觉头的好表现,靠的只是机器人数据本身。)

两个头接收同样的输入 xt:第 t 步可用的观测。在下面的玩具实验里,xt 就是最近两个位置,xt = (ot−1, ot)——用两个,是因为两个位置既能显示机械臂哪里,也能显示它正朝哪里动。这只是为了让实验够小,不是什么隐藏假设:真实模型读取更长的历史和一条语言指令,而论断一会解释为什么两者都找不回 z

为了把两个头放到同一把尺子上比较,用归一化均方误差给任何预测打分:

NMSE = E‖ŷ − y‖² / Var(y)

其中 y 是被预测的真值——对视觉头是 ot+1,对动作头是 at——ŷ 是模型对它的预测。分子是平均平方偏差;除以 Var(y)(目标本身的自然散布)之后,不同目标就落到了同一把尺子上:0 是完美,1 意味着不比永远猜平均值强。(如果目标被 token 化,对应的损失就是交叉熵;对扩散头则是去噪损失。下面的论证不依赖这个选择:每一种训练损失都是预测与标签之间距离的某种度量——在数值上或在分布上——并且各有各的地板。NMSE 只是在这个实验台上最好测的一种;论断二会回到其他损失上。)

下面这个定义是全文最关键的:

B = E[Var(y | x)] / Var(y)

其中 Var(y | x) 是在输入 x 看起来完全相同的情形下,真值的散布。把 B 称为地板(floor):即便把输入用到极致,目标中仍然无法确定的那一部分占比。如果相同的输入之后可以跟着不同的真值,那么任何模型——无论多大、训练得多好——都无法预知哪一个会来,所以任何模型的验证 NMSE 都无法平均到 B 以下。把动作头的地板记为 BA,视觉头的记为 BV

本文回答的问题,用一句话:为什么在同样的数据、同样的输入、同样的网络上,验证误差与训练误差之间的差距对视觉头接近零,对动作头却很大、而且越来越大? 等价地问:为什么 f 的地板极小,而 π 的地板很大——以及梯度训练会拿数据没能确定的那部分目标怎么办?

为了回答它,我搭了一个能复现这一现象的最小实验台[29]。一个模拟的二维机器人横穿桌面走向目标,绕开一个障碍物。每条演示都携带隐藏状态——就是上面的 zε——观测从不显示它们:演示者选了哪一侧(抛硬币)、他们”转弯偏早还是偏晚”的风格,以及他们指令信号上的抖动。“机械臂”有惯性,所以观测到的位置是原始指令的平滑版本——摄像头看到的是被滤波过的机械臂;遥操作日志存下的是原始信号。视觉头预测下一个位置;动作头预测原始指令。

实验设置:左图,模拟演示在障碍物两侧分叉、左绕或右绕,按隐藏的硬币着色;右图,同一次运动的两种记录——锯齿状的原始指令对平滑的惯性滤波轨迹

实验台。左:演示在一个隐藏硬币上分叉,并叠加转弯偏早/偏晚的风格散布。右:同一次运动的两种记录——动作标签是那条锯齿状的橙色指令;观测是那条平滑的蓝色响应。两个头看到完全相同的输入。

仿真的核心(完整脚本各约 100 行)
# 一步演示。每个回合隐藏:side(硬币)、turn_dist(风格)。
if x < OBS_X and (OBS_X - x) < turn_dist and abs(y) < 1.0:
    target = (x + 0.5, side * 1.2)        # 绕行航点
else:
    target = GOAL
d = unit_vector(target - pos)
cmd = SPEED * d + gauss(0, 0.05)          # 动作标签:意图 + 抖动
exec_v = 0.6 * exec_v + 0.4 * cmd         # 机械臂惯性(低通滤波)
pos = pos + exec_v                        # 观测:被滤波后的响应

# 两个头,同样的输入(最近两个位置):
#   视觉头预测 pos_next   -> 逼近物理 f
#   动作头预测 cmd        -> 逼近策略 pi(o, z)
# 模型 1:最近邻(纯死记),200 训练 / 200 验证回合
# 模型 2:MLP 4 -> 240 tanh -> 2,梯度下降,8 训练 / 150 验证回合

那个问题的答案分三部分:

  • 动作目标内部统计问题
  • 真实规模上的一次检验——这个诊断能否经受住该领域自己的记录?
  • 一个让整件事难以看清的测量问题

本文的其余部分依次展开。

为什么动作头会过拟合:五个论断

统计问题——三部分里的第一个——分解成五个论断:每一个都是动作目标的一个性质,每一个都经过了检验——前四个在这个实验台上,第五个既在实验台上、也对着真实机器人数据在规模上检验。

先定两条实验台的规矩。它的隐藏变量是手工塞进去的——这正是实验台的意义——但每一个都已在真实机器人上得到验证:演示者风格在工业规模上是被实打实测出来过的训练隐患[30],而过拟合本身在高达 100,000 动作小时的工业消融实验中有记录[5];这个实验台是为了隔离机制,不是为了证明现象。另外,实验台的参数决定了各个倍数的大小——所以请记住每个结果的趋势,别把具体常数带走。

论断一:动作标签记录的是决策,观测记录的是决策的后果

核心的不对称:两个目标分别位于演示者决策的上下游。 每个时间步都遵循同一条因果链:演示者决定 → 手执行 → 世界显示结果。

预测下一帧是一个下游问题:给定到目前为止的运动,接下来会发生什么?等你发问时,决策已经做出,其后果已经可见——两帧之间的速度,就是最近指令被执行后的记录。

预测动作是一个上游问题:这个人此刻会做什么决定?在一个真正的决策点上,观测并不包含答案。两个演示者在相同的位置绕开障碍物,走的却是相反的方向。同一个演示者周一转弯偏早、周二偏晚,上面还叠着手抖。用上面的记号说:目标依赖 zε,而输入 x 两者都不含。(再多的条件信息也消不掉 z。一条语言指令命名的是任务,不是抓取点或绕行侧——实验台的目标是固定且已知的,硬币还是被藏起来了。而且在真正的分叉处,历史也帮不上忙:在转弯开始之前,这个选择不出现在任何一帧里。)信息论给这件事起了个名字——条件熵 H(a|o),即把观测用尽之后、对动作还剩下的不确定性——以及一个分解:

H(a|o) = H(a) − I(a; o)

——读作:动作的总困惑,减去观测揭示掉的那部分。对动作头来说,这个余项很大,而它的平方误差对应物正是上面定义的地板:演示者隐藏状态所贡献的一切,都落进了 BA。对视觉头来说,物理 f 是一个函数——动作一旦执行,下一帧本质上就已注定,而输入已经显示了执行后的运动——所以 BV 几乎为零,只留下一个小口子,论断三会把它算清楚。

单时间步的因果链:隐藏状态 z 与抖动 ε 产生动作——原始指令——机械臂的惯性滤波把它平滑成下一个观测;动作头的目标位于滤波之前、实测地板 0.29,视觉头的目标位于其后、方差占比上限 0.0027

每个头各自接在链条的哪一段。动作头的目标在机械臂滤波器的上游:z 和 ε 原封不动地落在它身上,其方差的三成(BA ≈ 0.29,论断二实测)不被输入所确定。视觉头的目标在下游:同样的未知量经滤波器缩放、被动量掩埋,未被确定的比例至多千分之二点七(BV ≤ 0.0027——一个方差占比上限,不同于实测的 BA;见论断三)。两个头都看不到 z 或 ε——链条决定了这份无知让它们各付多少代价。

检验。 用一个纯死记模型(最近邻)拟合 200 条演示,在 200 条全新演示上评测。训练误差:两个头都是零——死记模型对一切都一视同仁地死记。验证误差:视觉 0.0033,动作 0.631——大约差 190 倍,来自相同的输入、相同的数据、相同的模型。(先给这个惊人的倍数泼一盆冷水:它几乎全是评分尺度造成的——视觉目标把难的部分埋在一个很大的分母下面,论断三会展示两个头在决策内容上的得分完全一样。换个不依赖尺度的说法:两个头都不知道 z;只是只有动作头在为此被扣分。)然后逐个关掉隐藏变量,把验证误差分解成它的 εz 两部分:

变体动作头视觉头
全部隐藏(硬币 + 风格 + 抖动)0.620.003
仅抖动(只有 ε)——纯噪声0.360.002
仅决策(只有 z)——到处零噪声0.280.001
全部隐藏,但预测已执行的速度0.220.003

(关于这张表的三条脚注。第一行在分解脚本里重跑了”全部隐藏”条件;它 0.62 与上面 0.631 的差异来自逐种子之间的抖动,不是笔误。死记模型的验证误差会高出地板本身约一倍——它的误差把新回合的隐藏抽取叠在存储邻居的隐藏抽取之上——所以请把各行读作各变体之间的同类比较;地板本身在论断二里直接测量。还有一个顺手的自洽检查:仅抖动行加仅决策行,几乎正好等于全部隐藏行(0.36 + 0.28 ≈ 0.62)——独立的误差源本就该这样相加,而这两个来源本来就是独立构造的。)

有两行最要紧。第三行:移除一切随机来源——一个完全确定性的世界——动作头仍然差约 240 倍(四舍五入前是 0.278 对 0.00115),因为未被观测的决策造成的伤害和噪声一模一样,而且与噪声不同,它清不掉:它就是信号。第四行:把同样的运动往下游挪一步再预测——用已执行的、被滤波的速度替代原始指令——误差降到三分之一,剩下的部分仍然是视觉头的七十来倍。难的不是”动作”这个类别。难的是上游的距离:目标离隐藏决策越近,它含有的 zε 就越多,它的地板就越高——业界在动作目标上做的工程化改造,正是在沿这个方向走:用分块轨迹、末端执行器航点、平滑过的目标,替代逐帧的原始指令。

演示者的意图只是缺失信息清单上的第一项。 把这条原则一般化地说一遍:地板由动作所依赖、而输入不携带的每一个原因构成——不管是什么类型。意图是一种。其他的是物理和感官上的:指尖的力和压强、物体的重量、摩擦和柔顺性、温度、零件入位时的声音、摄像头被遮挡的一切,甚至深度本身。还有一种是语言上的:指令说”拿起马克杯”,从不说从哪儿抓、用多大力——语言给任务设了条件,却仍然不能确定动作。每一个未被观测的原因都往 BA 里添一份。接触密集的操作不是一个独立的问题;它是这份清单上最多条目同时缺失的那个场景。

摄像头看不见力。 看一段手拿纸杯的视频:这抓握是稳当的,还是差一牛顿就把杯子捏碎?像素完全一样。抓握力、摩擦、初滑——这些决定精细操作的变量,对摄像头(几乎所有机器人训练数据所来源的那个传感器)都是不可见的。承载它们的通道——触觉——从未被大规模数字化:一篇 2026 年的触觉论文把它的 100 小时数据集称为”大规模”,而在那个领域内部,它确实是[31]。一百小时,对一百万小时的视频。(触觉并非严格必需——外科医生在力反馈 2024 年随机器上市前,完成了数百万台达芬奇手术[32]——但凡是精度撞上不确定性的地方,它都大有用处。)这也不是纸上谈兵:当 VLA 在接触密集任务上失败时,的失败自成一路,与任何视觉或精度所能解释的失败都不同[33]

接触物理放大了微小的差异。 这个在家也能验证[29]

设置。 模拟推一块重物:力逐渐加大,块卡住,然后挣脱滑出——就是你推家具时感到的那种粘滑顿挫。跑 400 次试验,摩擦力变动 ±1%(一张略潮湿的桌子白送你这个),对照一个带平滑阻尼、同样 ±1% 的控制系统。

结果。 平滑系统的结果大约变动 1%——噪声进、噪声出。而贴近阈值的粘滑系统散布宽了 83 倍;有些试验压根没挣脱,另一些滑出的距离是典型的好几倍。远离阈值时,这个效应几乎消失。

结论。 在接触转变附近,视觉上完全相同的情形会产生截然不同的结果——真实硬件的测量也显示同样:对同一个物体重复做相同的推,得到一整个分布的结果[34]。这就是为什么接触任务需要很多次演示(每次落点都不同)、为什么模拟器恰恰在这里和现实对不上(1% 的建模误差会被放大成 83 倍)、以及为什么评测需要很多次试验(单次运行毫无意义)。一个现象,三笔账。而且它恰好能记进论断一的账上——只是记的位置未必如你所料。世界在接触处的抛硬币,先落进观测:结果方差也抬高视觉地板,削薄了论断三的缓冲垫,所以在接触处两个头的不对称实际上收窄了。让动作头即便在那里也更糟的,是它一点缓冲都没有——而且演示者在任何东西出现在画面里之前就会对自己感到的力做出反应,所以这个反应进入了动作目标,而其成因对输入仍然不可见,于是 H(a|o) 再次升高。

同样的放大也回答了那个显而易见的反例——“那就像足式运动那样,直接在仿真里训练好了。” 足式运动的 sim-to-real 成功是真的,但它划定了边界,而不是越过了边界:在足式运动里,结果取决于机器人自身的状态——这是模拟器知道的——加上随机化能够覆盖的地形;而操作把成功押在任意物体隐藏的性质上——几何、质量、摩擦、软硬——恰好押在 1% 误差变成 83 倍散布的那些转变处。

论断二:模型预测不了的东西,就会去死记

这个论断回应您读到这里多半想提的反驳:如果动作真的不可预测——如果地板 BA 很高——训练误差难道不该也卡在地板上吗?

如果网络必须去预测那不可预测的部分,那确实会。但在训练集上,它可以改成去记住它。第 137 回合的那次抛硬币不再是一个随机变量;它是一个被记录的事实,而一个容量有富余的网络会把它存下来,用任何能标识这个回合的附带特征做索引。于是训练误差沉到地板以下——是存储,不是学习。在新的验证回合里,硬币重新抛过,没有东西可查——而一个被硬掰着去穿过这些噪声点的函数,点与点之间的每一处都被带歪了。示意性地写出来,随训练进行:

NMSEtrain(t) → 低于 B      NMSEval(t) → B + damage(t)

——读作:训练曲线潜到地板之下(按定义,任何低于 B 的东西都是死记),而验证曲线触底——数据充足时在地板处,数据稀缺时在地板之上——然后随着死记扭曲函数而积累损伤。这是网络在噪声标签上训练时有据可查的行为——先学真正的模式,再死记噪声,验证误差在死记开始的那一刻掉头向上[9],[35]

如果您觉得这个机制在语言模型里似曾相识——没错,幻觉跑的就是同一套算术:当输入无法决定答案时,即便一个校准良好的模型有时也不得不产出它毫无根据的自信内容——对训练中只出现一次的事实,这甚至是可证明的[36]——而奖励”作答”胜过”弃权”的训练,教会了模型去猜[37]。动作头在每一个决策点都面对这种处境:被要求给出一个输入无法确定的输出,它照样作答,凭记忆。这里的过拟合和那里的幻觉是同一种病——凡是信息缺失的地方,记忆就冒充推理。

检验。 把死记模型换成一个用梯度下降训练的小网络,并且——为了贴近机器人单任务数据量的现实——只给它条演示。视觉头几乎不在乎数据这么少:训练和验证误差一起降到 0.0014 和 0.0019,并且在四千个 epoch 里一直重叠。八个回合就够了,因为目标是共享的物理。动作头画出了每个从业者都见过的曲线:验证误差几乎立刻触底(0.53,第 45 个 epoch),然后在整个训练过程中趋势向上——再也回不到那个最小值——而训练误差持续下降:到最后是 0.31 对 0.60。

把这些数字对着地板读,而地板可以在实验台上直接测:用在匹配输入处动作标签的散布来估计 Var(y|x)——二十五万个全新样本,把匹配半径缩到估计不再移动为止——得到 BA ≈ 0.29。这也反过来核对了论断一:它的死记模型落在 0.63,差不多是地板的两倍,正落在最近邻理论预言的位置。所以那个最佳验证误差 0.53,是地板加上八个回合还教不会的东西。训练误差 0.31,几乎贴着地板——它从这儿往后甩掉的几乎全是死记。而验证误差最终停在 0.60,地板的两倍:从 0.53 往上爬的那一段,就是死记造成的损伤。

训练曲线:视觉头的训练和验证误差在 4,000 个 epoch 里于零附近重叠;动作头面板里一条虚线水平线标出 0.29 的实测地板——验证误差在第 45 个 epoch 触底于 0.53,然后缓缓上飘,而训练误差几乎贴着地板、并且仍在下降

同样的数据、同样的网络、同样的训练——只有目标不同。左:视觉头的两条曲线在它的地板处重叠,接近零。右:虚线是动作头的实测地板,BA ≈ 0.29。验证(橙)触底于 0.53——地板加上八个回合教不会的东西——然后上飘;训练(蓝,虚线)几乎贴着地板、而且仍在下降——它在这条线之下甩掉的一切都是死记,不是学习。

一次把论点两半掰开的消融实验。 如果缺失信息真的是动作目标不可预测的原因,那么把缺失信息交给模型,就该移除不可预测性。对死记模型来说,确实如此:把隐藏状态本身——硬币和风格参数作为两列额外输入——交给动作头,验证误差从 0.62 掉到 0.38,和论断一表格里纯抖动单独产生的 0.36 几乎重合;由决策驱动的误差消失了[29]。(同样的策略、与论断一检验相同的 200 条演示;只有输入变了。)

对八回合那个梯度训练网络,同样的消融适得其反:训练误差跌到 0.12,而验证误差爬到 8.7——是隐藏 z 网络 0.60 的十四倍。只有八个回合时,风格参数身兼回合 ID 之用——论断四的因果混淆陷阱——于是网络把死记的回合都挂到它上面,对新的值疯狂外推。把数据集加到 200 回合,那时两百个互不相同的风格值不再能标识任何东西,病症就消失了:验证误差在全部 1,500 个训练 epoch 里单调下降——没有触底、没有上翘——到达 0.41 且仍在下降,训练在 0.32 紧随其后[29]——朝着”揭示 z”的地板而去,那个地板大约在 0.19(死记模型 0.38 的一半,按论断一脚注里的两倍规则)。揭示 z 的目标只是还没完全学会;它本身没有任何会误导模型的东西。而这张网格的第四格把结论钉死:一个隐藏 z 的网络在同样的 200 回合上同样训练,到达 0.48——0.29 是它永远不可能再低的下限——而它那个揭示 z 的双胞胎,已经在 0.41,正朝大约 0.19 而去[29]。同样的数据、同样的网络、同样的训练;唯一的差别是缺失信息是否在输入里,而这个差别决定了曲线最终能停在哪里。

训练与验证曲线的 2×2 网格:z 隐藏时,验证在 8 回合和 200 回合都被 0.29 的地板压着,8 回合时过拟合;z 作为输入被揭示时,8 回合时验证炸到 8.7,但 200 回合时单调降向 0.19 的地板

真实训练曲线上的 2×2。列:8 对 200 回合。行:z 隐藏对 z 揭示为输入。隐藏 z 在任何规模都被 0.29 的地板压着;揭示 z 在 8 回合时爆炸(风格参数身兼回合 ID),在 200 回合时持续学习。地板决定终点;回合数决定沿途的表现。

这个反例值得认真对待,因为它逼着我们把话说得更准:地板和过拟合是两件不同的事。地板说的是从给定的输入永远学不到什么——只要 z 还藏着,再多的数据也不能把动作头的验证误差降到 BA 以下。过拟合曲线说的是网络会拿数据还没能确定的部分做什么——而隐藏状态在任何数据集规模下都保证有这样的余项,即便一个完全可学的目标在回合很少时也会产生一个。缺失信息定下失败中永久的那部分;回合稀缺定下临时的那部分;论断二的曲线是这两者叠在一起。

关于”头”说一句,因为自然的反驳是:这不就只是损失函数的事吗?动作 token 上的交叉熵头可以把分叉表示成一个分布——左 50%、右 50%——然后干净地采一个分支。 它可以,而该领域正是为此换了头[4]:分布式的头修掉了模式平均——那种确定性网络把左右两种走法取平均、然后直直撞上障碍物的部署失败。但它修的是表示,不是学习。交叉熵有它自己的地板——论断一的那个条件熵 H(a|o);没有任何损失能预测输入无法确定的东西。而它也有自己钻到地板之下的方式:一个富余容量的网络不是老老实实校准在 50/50,而是逐回合地锐化分布,把概率压到那个被记录下的硬币上,挂到任何能标识该回合的特征上——正是随机标签实验在交叉熵下记录的那个机制[9],也正是上面幻觉所运行的那个机制。实测的记录也一致:Dyna 的过拟合消融[5]和下面更巧妙动作表示的零结果[6],都来自现代的生成式头,而不是拿 MSE 当靶子打。地板本身也不是葬送策略的元凶——在分叉处走哪个分支都行,一个恰好得 B 分的校准采样器完全可以完美行动。伤害是”追逐地板以下的训练误差”塞进网络的东西:死记下来的回合,和论断四的捷径——而这些确实会一路跟着进入部署。

论断三:视觉损失把同样的无知埋在了平均值下面

如果物理是确定性的,视觉头的地板为什么不是恰好为零?因为下一帧里确实混进了一样非物理的成分:最新的那个动作,它带着这一步新产生的那一小片 zε。视觉头预测不了那一片,正如动作头一样。它的指标不显示这一点,纯粹是算术。把视觉目标写成

ot+1 = m(xt) + c · ut

——读作:一个输入完全决定的动量部分 m(x)(机械臂保持它原来的运动),加上新息(innovation)u——真正新的、承载决策的内容——被机械臂的惯性滤波器 c(实验台里是 0.4)缩小。因为 NMSE 除以目标的总方差,新息的贡献被稀释了:

NMSEfull ≈ NMSEinnov × [c²·Var(u) / Var(ot+1)]

——读作:可见的分数等于难的那部分的分数,乘以难的那部分在目标方差里的微小占比。同样的误差,更大的分母。(对死记模型还会出现第二项良性的——邻居之间的动量失配——在下面的检验里分离出来。)真实数据集里的一帧是几十万个数字,其中大多数——背景、桌子、光照——都属于 m(x)。一个动作是 7–24 个数字——大致每个电机一个——没有可比的填充。在这个实验台上,动作目标方差里承载决策的占比就是地板本身,BA ≈ 0.29:动作目标的三成,对视觉目标的千分之二点七。动作的误差以高出百倍左右的密度落在要害上;几乎每一个像素的”命中”都是动量。

两根水平条对比方差构成:视觉目标 99.7% 是可预测的动量,加一丝 0.27% 的承载决策的新息;动作目标 71% 可预测,隐藏决策与噪声占 29%,也就是它的地板

同样的无知,不同的分母。两个目标都带着同一片不可预测的决策;视觉目标把它埋在动量的填充之下,动作目标则把它直接扛成了自己的地板。

检验。 取论断一里那个一模一样的死记模型——什么都不重训——只对新息重新打分:从预测和真值里各减去每个样本自己的动量部分,把剩下的部分对着新息的方差打分。在这个实验台上,新息就是指令里那片不可预测的东西,所以一次干净的重新打分必须复现动作头的分数——而它确实做到了,精确到小数点后第三位:新息 NMSE 0.618,动作头 0.618[29]。这个恒等式是分解本身要求的对账,不是什么新发现。在承载决策的内容上,两个头同样无知;不同的只有分母。新息在视觉目标方差里的占比,直接测得,是 0.0027——就是上面声称的千分之二点七——而视觉头那个微小的总分(本次运行 0.0032)干净地拆成 0.0017 的新息误差加 0.0015 的邻居间动量失配,一个训练过的网络多半能学掉的良性项。稀释就是整个缓冲垫。视觉头对决策所知道的,动作头也都知道;视觉头只是被放在一个”决策不过是舍入误差”的目标上打分罢了。(真实模型的类比,是把视觉损失掩码到夹爪与物体的像素——那个承载决策的区域;稀释恒等预测,训练/验证差距的一部分会出现在那里。缓冲垫填平的是平均值;它不解决操作。)

对数字有两点提醒。第一,0.0027 是新息的方差占比——是视觉地板的一个上限,不是实测地板。新息本身有一部分是可预测的,这就是为什么论断二的视觉验证误差 0.0019 落在上限之下;并不矛盾。第二,缓冲垫的厚度是实验台的性质:我们机械臂的滤波器每个指令只把 c = 0.4 传进下一个观测。在一台刚硬的、位置控制的、观测里含关节角的机械臂上,下一个读数几乎就是指令——c 接近 1——缓冲垫就相应变薄。而像素的情形无论哪种都保住了它的填充:一帧是几十万个被动量主导的数字。

那么这个论断有哪些部分能带出实验台?拆分的方式和结论的方向能带走;具体数字不能。真实一帧的填充比实验台的更大,而不是更小——实验台压根没有背景,而真实一帧大多是静态像素——所以稀释在现实里跑得更强,这正是为什么视频损失在工业规模上看起来稳定,而动作损失过拟合[5]。带不出去的,是那个整齐的恒等:真实一帧还含有与演示者决策无关的不可预测内容——其他人、影子、传感器噪声——所以真实的视觉地板不纯粹是动作的那一片,任何真实的重新打分都不会恰好落在动作头的分数上。

视频生成文献从它自己那一侧撞上了同样的缺失信息,而它的历史印证了这个论断。训练一个确定性的、无动作输入的视频模型,它产出模糊的未来——它对各种可能的延续取平均,因为接下来发生什么取决于它看不见的决策;清晰的预测需要潜变量模型去采样一个未来,而不是对它们取平均[38]——这正是动作头模式平均问题(以及论断二那个分布式修补)在像素空间里的孪生兄弟。而最强的无动作世界模型走得更远:Genie,在未标注视频上训练,被迫发明一个内部潜动作——一个它从未见过动作标签却自己发现的可控动作变量[39]。从另一个方向看到同一个事实:要能预测视频,模型就必须去建模那个缺失的动作。那视频生成为什么还是规模化了?恰恰因为本论断点名的那两条豁免:缺失的那片对视频目标是舍入误差,而生成式采样器是采样它而不是平均它。动作目标两样都不沾。

论断四:开环分数可以上涨,而策略原地不动

死记不是”不懂也能拿高分”的唯一途径;动作目标还招来捷径。动作在时间上是平滑的,所以训练集里对当前动作最好的单个预测器,是上一个动作。一个有历史输入的模型可以靠照抄自己的惯性拿高分,而对运动为什么发生一无所知。这种失败模式有据可查,叫”照抄者问题”(copycat)[40],而它还有一个更大的家族:任何能标识这是哪个回合的附带特征——背景细节、光照——都能解锁一段被死记的序列,这一病理被命名为”因果混淆”[41]

真实系统正是这样失败的:在 LIBERO 基准上超过 90% 的 VLA,当物体、初始状态、指令或环境被扰动时掉到 0%,被诊断为死记硬背的动作序列[7];而池化语料让事情更糟——在多实验室碎片化数据集上训练的策略学会从背景和具身线索里认出自己在哪个子数据集里,然后重放那一段的习惯[42]。(这个诊断的一个对照:在纯粹视觉变化下——挪了摄像头、换了光照——VLA 的失败很大一部分追溯到视觉编码器,而且可以在动作策略保持冻结的情况下修复[43]。上面的崩塌不是那一类:诊断是死记的动作序列,是动作头自己的病。)视觉头也有它自己的照抄把戏——重复上一帧——但那只是论断三的动量项,明码标价,而且老实说,它就是答案的大部分。

麻烦在于,这些分数上占的便宜要到哪里才会露馅。机器人学给两种评测设定起了名字:开环(open-loop)评测逐帧地拿预测对着一份录像打分——在那里,照抄惯性看起来是准确的;闭环(closed-loop)评测让策略去行动,它的输出反馈回它看到的东西——就像拿行车记录仪录像给司机打分,与把方向盘交到他手里之间的差别。只有第二种能把分数与能力分开。形式上:开环指标在专家(演示者)的状态分布 dexpert 上对损失取平均,但部署性能由学习到的策略 π̂ 通过行动所产生的分布 dπ̂ 决定。没有什么把两者绑在一起——一个模型可以在第一个分布上进步,却在第二个上原地踏步,甚至崩塌。

两幅示意图:开环评测逐帧给策略的预测对着一段记录的回合打分,它的误差永远不会回到它身上;闭环评测是一个循环——策略行动,世界回应,策略看到结果,误差被复利放大

给同一个策略打分的两种方式。开环(左):策略的误差永不反馈,照抄惯性或预测记录下来的噪声都能得分。闭环(右):输出变成输入回来,小误差把机器人推出演示过的状态,只有能力活得下来。

检验。 两个相同的网络在同样的一百条演示上训练;其中一个额外接收上一个原始指令作为输入,实验台的操作员抖动被重新着色成真实的低频漂移(真实操作员的噪声是自相关的[40];白抖动会让上一个指令变得毫无信息量)。历史输入现在携带了真实信息——关于操作员的漂移:一个录像里确实存在、却对控制毫无用处的信号。开环指标照样奖励它:验证误差从 0.414 掉到 0.287,31% 的改进,任何基准表格都会为之欢呼。然后让两个策略真正去驱动机械臂,把自己的输出反馈回去:普通网络 70% 成功率,历史网络 73%——在 200 次滚动里统计上不可区分(误差棒有多宽,测量一节会算:宽到足以在任一方向藏下好几个百分点)。整个开环增益都是噪声预测;没有一分是控制。(注意和文献里照抄者(copycat)的区别:那里网络渐渐忽略观测[40]——本检验没有显示这一点。这里的教训更温和也更宽:开环分数还会为预测与任务无关的噪声付钱,而分数的那一部分在回路里什么也买不来。)

实验的第一个版本把这个道理说得更粗暴:在对称的起点下,两个网络都拿到了体面的开环分数,却在 1% 的滚动里成功——确定性网络在决策边界处把两种绕行模式取了平均,直直开进障碍物,而开环分数对此毫无提示。

论断五:动作数据的有效样本比看起来少得多

最后一个论断从每个样本的质量转向它们的数量。每个回合的每一帧都在采样同一个共享的物理——那个函数跨回合、跨任务、甚至跨数据集是共通的。动作只在决策点携带新信息:何时转弯、从哪儿抓、用多大力捏。决策之间的每一件事都是自相关的填充物,大多能从上一步预测。作为经验法则:

Neff ≈ (回合数) × (每回合决策数) ≪ (帧数)

——读作:动作头的有效样本数是数据集中独立选择的个数,而不是被记录时间步的个数。一条 200 步的轨迹可能只含五个真正独立的选择——这已经是四十倍的收缩,而真实轨迹以 30–50 Hz 记录,把这个比例拉进数百——这意味着动作头在任何规模曲线上的位置,都远比原始数据量所暗示的更靠左。

检验。 论断的一部分能在实验台上检验:固定帧预算,用帧换回合。在大约 170 帧训练数据下,死记模型的动作验证误差从 8 回合时的 0.85 降到 16 回合时的 0.76——并在 32 回合时饱和(0.75),一旦实验台那几个隐藏条件被覆盖——而把同样 8 个回合的帧砍半几乎不动它,0.85 到 0.88(30 个种子)[29]。回合内部的帧近乎冗余;回合才是承载信息的。(一个诚实的说明:那种冗余是任何平滑时间序列都有的性质——实验台的观测流也这样——所以这个检验确立的是收缩,不是任何动作特有的东西。动作特有的内容是上面的决策算术,而多样性指数超出了一个单障碍物世界的范围。)另一半——泛化随条件而扩展——需要真实规模,而记录里最干净的真实机器人数据规模研究提供了它:40,000+ 条演示、15,000+ 次评测滚动;每个环境的演示在大约五十条处饱和,而泛化随环境和物体数量的幂律增长[44]。按真正要紧的方式来数,一个数据集的大小是它覆盖的条件数,不是它的帧数。

五个论断一览:

#论断机制检验关键数字
1动作标签记录决策;观测记录后果目标依赖隐藏的 zε;输入两者都不含,故 BA 很高最近邻死记模型;逐个关闭隐藏变量验证 NMSE:动作 0.631 对视觉 0.0033(约 190 倍,几乎全是评分尺度——见论断三)
2预测不了的东西就死记富余容量存储每个回合的噪声;所存噪声在别处扭曲函数小 MLP,八条演示,4,000 epoch动作验证触底 0.53(第 45 epoch),收于 0.60,而训练降到 0.31
3视觉损失把同样的无知埋进平均值承载决策的新息被动量项的方差占比稀释只对新息重新给同样的视觉预测打分新息占视觉方差 0.0027;视觉总分拆为 0.0017 新息 + 0.0015 动量失配
4开环分数可涨而策略不动指标也奖励预测与任务无关的噪声和重放回合线索;那些增益不转化为控制给一个网络上一个指令;然后让两者都去驱动开环误差 −31%;闭环 70% 对 73%
5动作数据的有效样本更少只有决策点携带新信息;其余是自相关填充实验台上固定帧预算(回合胜过帧);真实数据规模研究[44]帧数相同时,回合翻倍胜过保住帧(0.85 → 0.76);每环境演示在约 50 处饱和

各大实验室已经在做什么

旗舰系统不再单独训练动作头;该领域自己的习惯已经默认了这个诊断。Dyna-2 用视频联合训练来稳定它的动作学习[5];Physical Intelligence 更进一步,挡住动作头的梯度,不让它碰语言主干,改为在网络数据上联合训练主干,因为原始动作梯度会可测量地损害它[45]。视觉和语言目标相当于给动作目标当”压舱物”——动作这个目标太薄、噪声太大,独自撑不起训练。

受控的证据在 2026 年到来。丰田研究院跑了迄今最严格的联合训练研究——89 个策略、58,000 次模拟加 2,835 次真实机器人试验——发现的正是一模一样的模式:在视觉-语言数据上联合训练持续改善机器人策略的泛化,而纯机器人训练可测量地侵蚀主干的能力[6]。同一研究还带出一个结果,足以刺痛所有押注”更聪明的动作表示”的人:离散动作 token 和从视频提取的潜动作都没有产生统计显著收益,而一种动作 token 方案还主动降低了泛化[6]

而实验台的隐藏风格变量,正是 AgiBot 实测过的那个:操作员多样性——不同遥操作员在完全相同情境下的个人风格——会实实在在地伤害训练,而给操作员的速度曲线做去偏则有所帮助[30]。用我们的术语说:他们降低了 H(a|o),并因此得到了更好的策略。

这就是统计问题:每个动作样本教得更少、误导得更多。不过至此的一切,都还只是一个实验台和一份论断清单。自然的问题是,该领域自己在规模上的记录是否同意——它同意,下一节就逐一走过;再下一节则问,我们的仪器到底能看见什么。

离开实验台:更多数据到底买来了什么

“那就多采点数据不就行了?“该领域确实这么做了——过去三年出现了机器人历史上最大规模的数据采集潮——而所发生之事的记录,就是那些论断在规模上的重放。走一遍,瓶颈的位置就一目了然:卡在学习上,而不是卡在采集上。

同质数据再多也没用

在记录里最干净的真实机器人数据规模研究中,每个环境的演示在大约五十条处饱和[44]。而在 Dyna-2 跨越 5,000 到 100,000 小时动作标注数据的消融里,仅动作训练随数据增长而更严重、更不可预测地过拟合[5]——论断二的死记动力学,在工业流水线上被观察到。如果真缺的只是数据量,画出来的就不该是这样的曲线。

多样性有用,而且原因正如论断所预言

同一研究发现,泛化随训练环境和物体的数量呈幂律[44],还有一个很直观的换算:四个数据采集员,一个下午,三十二个环境-物体配对——在全新的环境、未见的物体上,大约 90% 的成功率[44]。AgiBot 的百万轨迹研究同意这一点——任务多样性胜过单任务数量[30]——而一项受控的后续研究发现,最要紧的多样性维度是些不炫的东西:摄像头位姿和空间布局[46]。这就是从数据一侧看到的过拟合故事:同一个条件下的又一条演示,大多只是重新采样同一批隐藏硬币——更多可死记的噪声——而一个环境则添加了共享的、可学习的层能真正吸收的结构。规模在共享起作用的地方起作用,别处都不起作用。

最大规模的语料替换撞上了具身鸿沟

要绕开机器人语料太小的问题,最显眼的出路是人类视频:人类整天都在动,而 Dyna-2 的百万小时自我中心语料确实产出了一条真真切切的规模定律——更多人类小时,可测量地更好的机器人[5]。只不过这条定律很平缓:拟合的误差指数约为 D−0.018,比 Kaplan 为语言数据测得的约 D−0.095 浅了五倍[5],[8]

双面板图:左,Dyna-2 在对数-对数坐标上的两条拟合幂律——零样本机器人误差、指数 −0.071,在留出的人类误差之上、指数 −0.018,两者之间的差距从一千小时处的约 3 倍收窄到一百万小时处的约 2.2 倍;右,归一化的已发表指数——驾驶开环 −0.188(虚线,闭环失败)、Kaplan 语言 −0.095、Dyna 机器人迁移 −0.071、Dyna 人类视频 −0.018

该领域已发表的规模定律,并排看。左:Dyna-2 自己的两条拟合定律[5]——具身鸿沟就是那段垂直距离,随视频多出一千倍而从 ≈3 倍收窄到 ≈2.2 倍。右:每个指数都归一化到同一起点。语言[8]每 1,000 倍数据误差大约砍半;Dyna 可用的机器人迁移定律只做到 39%,它的人类视频定律 12%——而图上最陡的曲线,驾驶的开环定律[47],恰恰是模型真去开车时失败的那条。代理指标上的陡峭不是能力。

但那条规模定律为机器人买来的东西,被一道迁移折损封了顶:同一个模型对机器人动作的零样本预测,比它对人类动作的预测差两到三倍——在 Dyna-2 数据量阶梯的低端约 3 倍,到一百万小时处收窄到约 2.2 倍[5]。(注意,这是一个开环数字——按下面测量一节的标准,它给预训练目标打分,不给部署打分。)这就是具身鸿沟(embodiment gap):看一千小时的用筷子,能教会你很多关于食物和抓握策略的东西,却仍然不会把一个双指橡胶夹爪的电机程序塞进它手里。身体不共享肌肉记忆。注意,这是论断一跨越身体在运作:在同一个身体内部,演示者的电机通道对摄像头已经是隐藏的;从人类身体到机器人身体之间,还有更多是隐藏的。对动作头来说,人类视频大多只是更多的视觉数据。(也不尽然:Dyna 从它的视频里挖掘类动作的标签,这个映射值得完整一看。被追踪的手腕位姿变成机器人的末端执行器轨迹;拇指与食指之间的距离变成一个夹爪开合信号[5]。这就是整座桥:一只人手被压缩成一个位姿加一个开度数字,重放到一个双指夹爪上。上面 2–3 倍的折损,就是重定向之后仍然留下的差距——而且注意,它是对着平行夹爪测的,还是容易的情形;一只五指的灵巧手没有这样的两数字摘要,手越复杂,映射问题就越大。)

每一项技能仍然需要一个锚点

不管预训练怎么配,每一个已发表的系统里都有同一样东西:一小份在真实机器人上、做真实任务采集的数据。称之为锚点(anchor)。在 Dyna-2 的情形里,每个任务十小时或更少[5];在已发表的记录里,没有任何精密技能——毫米级插接、开闩、小心放置——是离了它做成的。

锚点有两个别扭的性质。它不迁移:十小时的锁箱数据买来的是开锁箱,不是叠衬衫——就像一位钢琴家每学一首新曲都要练十小时,而且每台钢琴都要单独练。规模替代不了它,但规模通过它起作用:Dyna-2 的锁箱任务,锚点保持固定时,视频语料 100,000 小时得 0 分,一百万小时得 90 分[5]。(注意,是十次试验的评测——0/10 和 9/10——但这一跳大到足以在测量一节最严苛的标准下存活:费希尔精确检验给出 p ≈ 10⁻⁴。)

所以锚点不是一个该被优化掉的麻烦;它是结构里绕不开的一块——技能中只有机器人自己的身体、在真实任务里才能补上的那一片。这暗示了正确的工程问题:不是如何删掉锚点,而是如何让它动态——由部署系统自身的运转来采集、刷新、生长,而不是每个任务采一次就冻结。基于经验数据的训练配方已经指向这个方向:在策略自己的滚动和纠正上做 RECAP 式训练,实际上就是一个自我维持的锚点[48]

就在本文修订期间,对锚点最直接的一次现场检验来了。Generalist 的 GEN-1.5 报告了一次性的上下文内学习:给机器人看一段 3 到 12 秒的演示,它不做任何梯度更新就尝试任务——十个任务平均 59%(±10%)的成功率,在五分钟数据上走十个梯度步后升到 83%(±9%)——建立在 GEN-1 背后那个可穿戴夹爪数据引擎之上[21],[49]。对着本节读:锚点没有消失,它缩小了。每个任务的一次演示仍是必需的;用 Generalist 自己的话说,这些任务”简单、时间短”,成功率”中等”,而上下文内技能”比微调过的模型更脆”[49]。但一个能装进十二秒的锚点,是一个正在变成提示词的锚点——上面那个动态锚点的方向,来得比预想的还快。如果上下文内机器人学习像上下文内语言学习那样规模化,下面观察清单的第二项就要开始松动了。

而具身鸿沟至少是否在随规模收窄?未知。已发表的曲线只落在四个语料规模上;拟合它,问人类视频预训练何时追上机器人原生性能,统计上一致的答案从一千万小时一直跑到约 10¹⁷——后者是人类有史以来活过的所有小时(约 3×10¹⁶)的好几倍[50]。这不是预测;这是一句带着巨大误差棒的”不知道”。所以看到任何”还差 N 亿小时就到人类水平”的标题,都请照此打折。

(要摆脱专门采集,目前唯一看得见的出口是数据尾气(exhaust)——机器人在干活的同时顺带产出数据,这个飞轮已经有了雏形[48]——但尾气只有在机器人值得被部署之后才会出现,而这恰恰是本节所描述的那个引导问题。)

测量问题:代理指标会说谎,而真实试验很贵

统计问题说信号很糟;规模上的记录说更多同样的信号修不好它。第三个问题不那么显眼:在机器人学里,甚至知道自己是否进步都要花钱——而廉价的替代品会误导人。

在错误的指标上画出漂亮的曲线

那些看着像 LLM 一样干净的曲线,都建立在代理指标上。小米的机器人基础模型,在 100K+ 小时手持夹爪数据上预训练,报告验证动作误差在其受控的数据规模和模型规模运行中稳步下降——这些运行用的是该语料的子集——一条货真价实的 Chinchilla 形曲线[22]。但验证误差是一个开环数字——按论断四的记号,是对 dexpert 取平均,而你真正在乎的东西在 dπ̂ 上。而且这个数字的分布内版本区分模型的能力出奇地差:TRI 的联合训练研究在泛化测试里找到了它的收益,分布内分数却几乎不动[6],而 Dyna-1 和 Dyna-2 都在内部评测上”接近 100%“通过——到了客户现场却分别落在 46% 和 87%[5]

代理指标能否预言一台能用的机器人,正是问题所在——而目前最有说服力的答案来自自动驾驶:一项 30,000 小时的研究拟合了一条近乎完美的开环幂律(相关 −0.963),然后平铺直叙地报告,这个关系在模型真正开车的闭环评测里并不成立[47]。曲线是真的;它暗示的能力不是。(论断四的检验在微型尺度上展示了同样的分歧:31% 的开环改进,零闭环收益。)不过要诚实地补一句:驾驶的裁决是有争议的——一项 500,000 小时的 Waymo 研究报告,闭环指标也随规模改善[51]。把这种分歧读作代理指标的一项持久隐患,而不是”闭环无法规模化”的定律。

测试是隐藏的税

代理指标的问题之下,还压着一个更朴素的问题:贵。测一个语言模型几乎免费:一次评测就是一个脚本——几千道题、几分钟、几毛钱、可重复。一次机器人评测是一次物理事件:摆好场景,跑策略,看它成功还是摔了杯子,复位,重复,全程有个人站在那儿。

而闭环是唯一算数的评测,因为一个策略——不像聊天机器人基准——会生成它自己的测试分布。每个小错误都把机器人推进一个略在演示之外的状态,在那里它错得多一点,产生一个更陌生的状态。模仿学习理论算过这笔复利账:

Jexpert − J(π̂) = O(δ · T²)

——读作:如果学习到的策略在专家的状态上每步以概率 δ 出错,那么它在一个 T 步任务上的不足,增长不是像 δT(误差叠加),而是像 δT²——因为第 t 步的一个错误可以毒害剩下的全部 T − t 步,而犯错的机会有约 T[52]。(这是模仿文献里经典的 O(εH²) 复利界,其中 H 是任务时长(horizon)——改用 δT 重述,是因为本文已经把 ε 花在了演示者的手抖上、把 H(·) 花在了熵上;它对离散动作、0–1 损失成立,所以连续控制下请把它当作定性的结论。)那个二次项可证明是任何离线方法的最坏情形下界,不是弱算法的假象——缺失的信息是恢复行为,而演示数据集里没有它[53]

几条已知的出路,恰好对应这个领域当前的努力方向。改用学习校准分布(而不是点估计)的损失,在容错的环境里能抵消这笔罚金[54]。这也是为什么语言模型出错时是缓慢变差,而回归训练的策略是直接崩掉:语言模型用对数损失训练,而且训练语料里到处都是书面的自我纠正。而在策略自己的滚动加纠正上训练,直接补上了分布差距——Physical Intelligence 的 RECAP 配方,报告它最难的几个任务失败率大约减半[48]

一个可信的结论需要多少次闭环试验?统计是不讲情面的。测得成功率的不确定度只随试验次数的平方根缩小:

N ≈ p(1−p) · (1.96 / w)²

——读作:要把真实成功率 p 卡在 ±w 以内、置信 95%,你大致需要那么多次试验;在 p = 0.9、w = 0.02 时,估计约为 860,而精确的二项(Clopper-Pearson)区间把它推到约 1,030[55],[56]。我核对了这在领域实际样本量下意味着什么[29]

设置。 两个模拟策略,真实成功率 80% 和 75%。各用 N 次试验”评测”,宣布得分高者更好,把这个比较重复 40,000 次,数出错误裁决。

结果。 每个策略 N=10 时——在该领域已发表的常规范围之内——发表的评测通常”每个条件 N ≤ 25 次滚动,几乎从不带置信区间”[57]——裁决错或打平的概率约一半。N=20 时,42%。N=100 时,仍有 22%。

结论。 在领域典型的样本量下,一个号称 5 个点的改进接近抛硬币。把它做对,每次比较要花一天的机器人时间,而 LLM 基准只要几秒。规模化靠的是快速迭代;机器人学每一圈都交一次过路费。

折线图:评测把更差的策略排成更好或打平的概率,对每个策略的试验次数(对数坐标):10 次试验 50%、20 次 42%、100 次仍有 22%,带一条虚线的抛硬币参考线

一个可信结论的价码。两个模拟策略,真实成功率 80% 和 75%,各由 N 次试验评判,40,000 次重复比较。在领域典型的 N ≤ 25 下,排名接近抛硬币。

仿真部分管用:SIMPLER 基准以相关 r=0.924 复现了真实策略的排名[58],而自动化单元如今无需人类就能跑真实机器人评测[59]。但 SIMPLER 自己的范围声明把它能做的任务限定在”动力学能被现代物理模拟器合理近似的大体刚性物体”[58]。刚性物体正是缺失信息最少的那些任务。在输入最不完整的地方——对任意、无传感器的物体的操作——仿真的逃生门也关上了。

那为什么动作是个例外?

因为三个问题叠在一起,而其中任何一个单独出现,都还能熬过去。

信号更糟。 动作预测是一个上游问题:它必须在决策做出的那一刻去猜决策,抢在其后果出现在任何观测之前。它的地板 BA 很高——隐藏的意图、风格、手抖——而在训练数据上,那个未被确定的部分招来捷径并被死记。这就是为什么在完全相同的数据上,动作头过拟合,而视觉头——每一个决策的下游、躲在厚实的动量缓冲垫后面——肉眼可见地不过拟合:对着它自己微小的上限去测,就连视觉头也带着同样的差距(论断三);是缓冲垫把它藏了起来。

更多数据,单靠它,修不好。 该领域自己的记录与实验台吻合:同条件的体量会饱和或过拟合;增益跟随条件的多样性,因为只有共享的结构才能被吸收;人类视频自带约 3 倍的具身折损;而每个任务的锚点,在迄今发表的每一种语料规模下都没能省掉。

测量是瞎的或贵的。 规模化得最干净的指标,是在错误分布上取平均的开环代理——而凡是被真正测过闭环规模化之处,裁决仍有争议;算数的那个评测是物理的、缓慢的、对试验次数极其贪婪的——而复利误差的算术(δT²)意味着每步之间微小的差异无比重要,恰好又发生在测量噪声最大的地方。

而且这三者在信息缺失最多的地方同时最糟——对任意物体的操作,力、材料、意图,全都同时不在镜头里。注意缺了什么:这里没有什么不可能,没有悖论,也不缺天才。只有一个信号质量问题、一笔测试成本、和一个测量缺口。这是乐观的读法。悖论不向工程屈服;问题会——噪声可以被建模,捷径可以被正则化掉,成本会沿着已发表的曲线下降,而更好的评测器本身就是一项正在进行的工程。

如果您在训练这些模型

这个诊断可以直接转成实践;下面每一条习惯都是上面的一个结果,掉转方向,面向您自己的训练运行。

  • 先量地板,再谈规模化。 在匹配输入处估计动作标签的局部散布——正是那个把实验台地板定在 BA ≈ 0.29 的直接测量[29]。低于地板的训练误差按定义就是死记;进步是验证误差逼近地板,而不是训练误差沉到地板之下。
  • 在源头压低 H(a|o) 给操作员风格去偏[30],并优先选择离逐帧原始指令更远的动作目标——该领域最强策略已经在用的分块和轨迹级目标[4]。(实验台的版本——用已执行的速度替代原始指令,从 0.62 到 0.22 的三倍下降——按后面”验证动作误差”那条的标准只是个开环数字;请把它当机制证据,别当能力证明。)
  • 永远不要单独训练动作头。 在视频或视觉-语言数据上联合训练主干[5],[6],并把它与原始动作梯度隔离开[45]——纯机器人训练会可测量地侵蚀它[6]
  • 把采集预算花在条件上,而不是重复上。 每个环境的演示在大约五十条处饱和,而泛化随环境和物体的数量呈幂律[44]——而回报最高的多样性是不炫的那些:摄像头位姿和空间布局[46]
  • 把锚点算进预算,而不是想办法抹掉它。 已发表的记录显示,没有逐任务的机器人数据,就没有任何被展示的精密技能,而规模是通过锚点起作用的,不是绕过它[5]——所以要么把锚点当作一项输入来规划,要么更好,把它设计成能通过部署自我刷新。
  • 把验证动作误差当作调试工具来读,永远别当作能力声明。 它对 dexpert 取平均,不是 dπ̂:实验台 31% 的开环改进买来零闭环收益,而驾驶近乎完美的开环幂律(r = −0.963)没能熬过把方向盘交给模型的那一刻[47]——尽管 Waymo 更大的研究质疑了这个裁决[51],所以把这种分歧当作一项要去检验的隐患,而不是任一方向的定论。
  • 按真实价码去买结论。 把 90% 的成功率钉在 ±2 点之内需要约 1,030 次试验[55],[56];在 N=10、即领域典型 N ≤ 25 之内[57],5 个点的改进接近抛硬币。只声称试验次数支撑得起的结论。

这些没有一样能解决瓶颈;它们只是”尊重它”该有的样子。

值得关注什么

如果出现以下信号,说明本文的图景开始站不住了:

  1. 一个干净规模化的纯动作模型——不靠视频联合训练当压舱物、也不靠梯度隔离——意味着统计问题已经在目标层面被解决,而不是被打补丁。
  2. 一个无锚点的精密演示:零任务特定机器人数据的毫米级作业。没有已发表的系统做到过;哪一天有一个做到了,“逐任务采数据”这一项就开始退场了。
  3. 人类视频语料达到约一千万小时,在那里,关于具身鸿沟的竞争理论可以被可测量地区分开[50]。Dyna 已经把它的一百万小时称为那条轴线上”仅仅是个开始”[5]
  4. 一个能在布料或可变形体上正确给策略排名的模拟器——这正是 SIMPLER 作者今天明确划出范围之外的结果[58]
  5. 一个自我维持的锚点——一个部署系统,它的逐任务机器人数据由它自己的运转来采集和刷新,而不是采一次就冻结。锚点变成使用副产物的那一刻,最后一项逐任务的要求也就开始消失了。

最后带走一句提醒:本文里承重的那些 2026 年数字——Dyna-2 的、GEN-1 的——是生产它们的实验室自己报告的,而没人能独立复现一次百万小时的训练。我核实了这些来源说了什么;它能否复现是另一个问题。说来也巧,这份不确定本身又是一个测量问题——而它也是我预计本文过时得最快的部分。

参考文献(点击展开)
  1. DemandSage,"ChatGPT Statistics",2026 年 8 月(据 OpenAI,ChatGPT 达到十亿周活用户)。demandsage.com/chatgpt-statistics
  2. Wang 等,"World Action Models: The Next Frontier in Embodied AI"(综述),2026。arXiv:2605.12090
  3. Liang 等,"Code as Policies: Language Model Programs for Embodied Control",2022。arXiv:2209.07753
  4. Chi 等,"Diffusion Policy: Visuomotor Policy Learning via Action Diffusion",RSS 2023。arXiv:2303.04137
  5. Dyna Robotics,"Dyna-2: A 1-Million-Hour Scaling Law for Robot Manipulation",2026 年 8 月。dyna.co/dyna-2。仅动作训练的过拟合引文(来自 5k–100k 动作小时目标消融)、伪动作来源、约 2–3 倍的零样本人类→机器人差距、每个任务 ≤10 小时锚点、以及锁箱 0%→90% 阶梯,均出自该报告。
  6. Lin 等(丰田研究院),"A Systematic Study of Data Modalities and Strategies for Co-training Large Behavior Models for Robot Manipulation",2026(89 个策略,58K 仿真 + 2,835 次真实试验)。arXiv:2602.01067
  7. Zhou 等,"LIBERO-PRO: Towards Robust and Fair Evaluation of Vision-Language-Action Models Beyond Memorization",2025(LIBERO 上 >90% 的模型在物体/布局扰动下崩到 ~0%;被诊断为动作序列的死记硬背)。arXiv:2510.03827
  8. Kaplan 等,"Scaling Laws for Neural Language Models",2020。arXiv:2001.08361
  9. Zhang 等,"Understanding Deep Learning Requires Rethinking Generalization",ICLR 2017。arXiv:1611.03530
  10. Hans Moravec,《Mind Children》,1988;概述:Moravec's paradox — Wikipedia
  11. Hoffmann 等,"Training Compute-Optimal Large Language Models"(Chinchilla),NeurIPS 2022。arXiv:2203.15556
  12. Brown 等,"Language Models are Few-Shot Learners"(GPT-3),NeurIPS 2020。arXiv:2005.14165
  13. Krizhevsky, Sutskever & Hinton,"ImageNet Classification with Deep Convolutional Neural Networks"(AlexNet),NeurIPS 2012。proceedings.neurips.cc
  14. Radford 等,"Learning Transferable Visual Models From Natural Language Supervision"(CLIP),ICML 2021。arXiv:2103.00020
  15. Schuhmann 等,"LAION-5B: An Open Large-Scale Dataset for Training Next Generation Image-Text Models",NeurIPS 2022(从 Common Crawl 过滤出的 58.5 亿图文对)。arXiv:2210.08402
  16. Lilian Weng,"Scaling Laws, Carefully",2026 年 6 月。lilianweng.github.io
  17. Open X-Embodiment Collaboration,"Open X-Embodiment: Robotic Learning Datasets and RT-X Models",2023(约 1M 轨迹、22 种机器人、34 个实验室)。arXiv:2310.08864
  18. Yuan 等,"Qwen-RobotManip Technical Report: Alignment Unlocks Scale for Robotic Manipulation Foundation Models",2026(九个主要开源机器人数据集共约 11,000 小时)。arXiv:2606.17846
  19. Grattafiori 等,"The Llama 3 Herd of Models",2024(约 15T 训练 token)。arXiv:2407.21783
  20. Generalist AI,"GEN-0",2025 年 11 月(270K+ 小时操作数据,每周约增长 10K 小时)。generalistai.com/blog/gen-0
  21. Generalist AI,"GEN-1",2026("预训练数据集不含机器人数据";可穿戴设备语料)。generalistai.com/blog/gen-1
  22. 小米机器人团队,"Xiaomi-Robotics-1: Scaling Vision-Language-Action Models with over 100K Hours of Real-World Trajectories",2026。arXiv:2607.15330
  23. Mandlekar 等,"Scaling Robot Supervision to Hundreds of Hours with RoboTurk: Robotic Manipulation Dataset through Human Reasoning and Dexterity",IROS 2019(111+ 小时遥操作)。arXiv:1911.04052
  24. Khazatsky 等,"DROID: A Large-Scale In-The-Wild Robot Manipulation Dataset",RSS 2024(76k 轨迹,约 350 小时)。arXiv:2403.12945
  25. Bu 等(AgiBot),"AgiBot World Colosseo: A Large-scale Manipulation Platform for Scalable and Intelligent Embodied Systems",2025(1M+ 轨迹,约 2,976 小时)。arXiv:2503.06669
  26. Grauman 等,"Ego4D: Around the World in 3,000 Hours of Egocentric Video",CVPR 2022(3,670 小时)。arXiv:2110.07058
  27. Grauman 等,"Ego-Exo4D: Understanding Skilled Human Activity from First- and Third-Person Perspectives",CVPR 2024(1,286 视频小时)。arXiv:2311.18259
  28. Hoque 等(Apple),"EgoDex: Learning Dexterous Manipulation from Large-Scale Egocentric Video",2025(829 小时,338k 回合)。arXiv:2505.11709
  29. 我自己的实验,2026。本文的仿真——隐藏变量分解;按局部标签方差直接估地板;训练曲线;可观测 z 消融;回合对帧的比较;缓冲垫重新打分;闭环作弊;评测统计;粘滑散布——都是纯 Python,各约 100 行,设置如正文所述。
  30. Shi, Chen 等(AgiBot),"Is Diversity All You Need for Scalable Robotic Manipulation?",2025(任务多样性胜过单任务数量;操作员多样性去偏有帮助)。arXiv:2507.06219
  31. Niu 等,"T-Rex: Tactile-Reactive Dexterous Manipulation",2026(其约 100 小时语料在触觉通道上被称为大规模)。arXiv:2606.17055
  32. Intuitive Surgical,"Intuitive Announces FDA Clearance of da Vinci 5",2024 年 3 月(第一代带力反馈的达芬奇)。isrg.intuitive.com
  33. "FACT: Demystifying When and Why VLAs Fail in Contact-Rich Tasks and How to Fix Them",2026(力失败自成一路,与视觉或精度误差都不同)。arXiv:2608.01402
  34. Bauza & Rodriguez,"A Probabilistic Data-Driven Model for Planar Pushing",2017(真实硬件上重复相同的推,产出一个结果分布)。arXiv:1704.03033
  35. Arpit 等,"A Closer Look at Memorization in Deep Networks",ICML 2017(网络先学模式,再死记噪声)。arXiv:1706.05394
  36. Kalai & Vempala,"Calibrated Language Models Must Hallucinate",2023(对训练中只出现一次的事实,幻觉在统计上是强制的)。arXiv:2311.14648
  37. Kalai 等(OpenAI),"Why Language Models Hallucinate",2025(训练和评测奖励猜测胜过弃权)。arXiv:2509.04664
  38. Denton & Fergus,"Stochastic Video Generation with a Learned Prior",ICML 2018(确定性视频模型把各种可能的未来平均成模糊;潜变量采样修好它)。arXiv:1802.07687
  39. Bruce 等(Google DeepMind),"Genie: Generative Interactive Environments",ICML 2024(一个在未标注互联网视频上训练的世界模型,从未见过动作标签却学出一个可控的潜动作空间)。arXiv:2402.15391
  40. Wen 等,"Fighting Copycat Agents in Behavioral Cloning from Observation Histories",NeurIPS 2020。arXiv:2010.14876
  41. de Haan, Jayaraman & Levine,"Causal Confusion in Imitation Learning",NeurIPS 2019。arXiv:1905.11979
  42. Xing 等,"Shortcut Learning in Generalist Robot Policies: The Role of Dataset Diversity and Fragmentation",CoRL 2025。arXiv:2508.06426
  43. Li, Zhang 等,"VLA Models Are More Generalizable Than You Think: Revisiting Physical and Spatial Modeling",2025(视角转移的失败定位到视觉 token,可用一个小适配器修复,而策略保持冻结)。arXiv:2512.02902
  44. Lin, Hu 等,"Data Scaling Laws in Imitation Learning for Robotic Manipulation",ICLR 2025 oral(泛化是环境/物体多样性的幂律;每条件演示在约 50 处饱和)。arXiv:2410.18647
  45. Driess 等(Physical Intelligence),"Knowledge Insulating Vision-Language-Action Models: Train Fast, Run Fast, Generalize Better",2025(动作梯度损害 VLM 主干;修复:梯度隔离 + 网络联合训练)。arXiv:2505.23705
  46. Saxena, Bronars 等,"What Matters in Learning from Large-Scale Datasets for Robot Manipulation"(MimicLabs),ICLR 2025。arXiv:2506.13536
  47. Zheng 等,"Data Scaling Laws for Imitation Learning-Based End-to-End Autonomous Driving",2024(开环幂律,r = −0.963,未能迁移到闭环)。arXiv:2412.02689
  48. Physical Intelligence,"π*0.6: a VLA That Learns From Experience"(RECAP),2025。arXiv:2511.14759 · pi.website/blog/pistar06
  49. Generalist AI,"GEN-1.5",2026 年 8 月(从 3–12 秒演示的一次性上下文内提示:十个任务平均 59% ±10% 成功率;在五分钟数据上走 10 个梯度步后 83% ±9%;告诫逐字引用)。generalistai.com/blog/gen-1.5
  50. 我自己的计算,2026,来自 [5] 中的规模披露(带地板项的曲线重拟合、自助置信区间):差距闭合的外推区间(约 10⁷–10¹⁷ 小时)和 10⁷ 小时的判别器。
  51. Baniodeh 等(Waymo),"Scaling Laws of Motion Forecasting and Planning",2025(500,000 小时驾驶数据集;"闭环指标也随规模化改善")。arXiv:2506.08228
  52. Ross & Bagnell,"Efficient Reductions for Imitation Learning",AISTATS 2010(行为克隆的 T²ε 复利界,定理 2.1;DAgger 后续,Ross, Gordon & Bagnell 2011,arXiv:1011.0686,达到线性速率)。PMLR 9:661–668
  53. Rajaraman 等,"Toward the Fundamental Limits of Imitation Learning",NeurIPS 2020(离线模仿误差随任务时长平方增长的下界)。arXiv:2009.05990
  54. Foster, Block & Misra,"Is Behavior Cloning All You Need? Understanding Horizon in Imitation Learning",2024(在可恢复的环境里,对数损失的行为克隆可以不随任务时长恶化)。arXiv:2407.15007
  55. NVIDIA 技术博客,"How to Evaluate General-Purpose Robot Policies for Real-World Deployment",2026(Clopper-Pearson 试验计数算术)。developer.nvidia.com
  56. 丰田研究院,"A Careful Examination of Large Behavior Models for Multitask Dexterous Manipulation",2025(大规模盲法随机 A/B 评测)。toyotaresearchinstitute.github.io/lbm1
  57. Sergey Arkhangelskiy,"PhAIL: A Real-Robot VLA Benchmark and Distributional Methodology",2026(评测实践调查:真实机器人 VLA 评测"仍建立在固定超时下的二值成功率、每条件 N ≤ 25 次滚动、几乎总是不带置信区间"之上)。arXiv:2605.29710
  58. Li 等,"Evaluating Real-World Robot Manipulation Policies in Simulation"(SIMPLER),CoRL 2024。arXiv:2405.05941 · simpler-env.github.io
  59. Zhou 等,"AutoEval: Autonomous Evaluation of Generalist Robot Manipulation Policies in the Real World",2025。arXiv:2503.24278
  60. Brohan 等(Google DeepMind),"RT-2: Vision-Language-Action Models Transfer Web Knowledge to Robotic Control",2023(55B 参数,PaLI-X 主干)。arXiv:2307.15818
  61. Kim 等,"OpenVLA: An Open-Source Vision-Language-Action Model",2024(7B 参数;评测中超过 55B 的 RT-2-X)。arXiv:2406.09246
  62. Black 等(Physical Intelligence),"π0: A Vision-Language-Action Flow Model for General Robot Control",2024(约 3B 参数)。arXiv:2410.24164
  63. NVIDIA,"GR00T N1: An Open Foundation Model for Generalist Humanoid Robots",2025(2.2B 参数)。arXiv:2503.14734
← 返回文章列表