VLN 任务与评测:数据集、动作空间与评价指标

视觉语言导航的评价取决于任务如何定义:沿指定路线到达、寻找描述中的物体、根据对话继续行动,分别需要不同的输入、输出与成功条件。本文梳理代表性数据集和动作空间,推导终点成功、路径效率与路线忠实度指标,并用可复算的轨迹例子解释这些指标之间的差异。

“先经过靠窗的餐桌,再穿过走廊,在书架旁停下。”如果智能体绕开餐桌,直接走到书架,它完成了多少任务?终点正确,运动也可能更高效,但指定的路线没有完整执行。再把指令换成“找到客厅窗边的那盏落地灯”,评价还要检查智能体是否认对了物体。

这两种情形说明,模型结构之前需要先确定任务协议:语言提供什么信息,策略能看到什么,动作如何执行,评测器依据什么判定成功。系列综述给出了研究版图,本篇进一步建立阅读数据集、模型实验和评测代码所需的共同定义。

一、任务定义与信息边界

1.1 语言条件下的闭环决策

设语言输入为 xx,时刻 tt 的观测为 oto_t,此前执行的动作为 a<ta_{<t}。一个通用的导航策略可以写成

at∼πθ(⋅∣x,o≤t,a<t).a_t\sim\pi_\theta(\cdot\mid x,o_{\le t},a_{<t}).

πθ\pi_\theta 表示参数为 θ\theta 的动作分布。观测可以包含 RGB、深度、朝向、局部候选等,但具体有哪些内容,必须由任务协议限定。策略执行一个动作后,环境产生新的观测;动作序列因此依赖实际经历,无法仅凭一句指令提前固定下来。

令环境状态为 sts_t,这一过程可抽象为

st+1∼T(⋅∣st,at),ot+1∼O(⋅∣st+1).s_{t+1}\sim\mathcal T(\cdot\mid s_t,a_t), \qquad o_{t+1}\sim\mathcal O(\cdot\mid s_{t+1}).

T\mathcal T 是状态转移机制,O\mathcal O 是观测机制。状态可能包括完整布局与机器人位姿,策略只取得其中允许观测的部分。这组表达式既能描述导航图上的移动,也能描述连续空间执行;差别在于状态、观测与动作的具体定义。

完成一次回合后,策略输出执行轨迹 PP 和终止结果。目标指代任务还需要物体预测 y^\hat y;交互任务可能允许追加求助动作,并使语言输入随对话更新。

1.2 策略输入、训练监督与评测真值

一个数据文件可能同时保存完整参考路线、终点、物体标注和相机位姿。这些字段具有不同用途,不能因为它们存在于文件中,就全部作为测试策略的输入。

信息 训练或评测中的用途 测试策略的使用条件
指令、当前视觉 理解任务与当前环境 按任务协议提供
当前合法候选、相对方向 构造动作集合 图导航可提供;其他设定需自行预测或构建
参考路线、专家动作 监督学习、路线对齐评分 不能作为自主导航的真值提示
目标位置、完整距离表 生成教师动作、计算误差和最短路 评测器可用,不自动向策略开放
物体候选框 候选级视觉指代 取决于基准是否提供;不等于告知正确目标

由此还要区分三个对象:场景资源提供环境,模拟器提供交互,数据集提供任务实例与标注。 例如 Matterport3D、Matterport3D Simulator 与 R2R 分别承担这三种职责。换模拟器、增加深度输入或提供更准确的候选位置,都可能改变模型需要解决的问题。R2R 论文

二、数据集与任务能力

2.1 路线跟随:R2R、R4R 与 RxR

R2R(Room-to-Room)将室内扫描环境中的路线与自然语言对应起来。它的典型任务是从指定起点出发,依据逐步描述经过地标,并在目标附近停止。原数据包含 7,189 条路线,每条有三份描述,共 21,567 条指令;路线来自满足长度限制的最短路径采样。R2R

这一构造使“跟随参考路线”与“高效到达终点”经常具有一致方向,但两者在定义上仍有区别。如果模型只依赖终点词语或路线分布,也可能取得一定成功;成功率本身无法说明它使用了多少中间指令。

R4R(Room-for-Room)把两条端点相近的 R2R 路线通过连接路径组合,同时拼接语言描述。组合路线可能包含折返和非最短路段,要求模型保留先后顺序与中间地标。此时,到终点的捷径可能偏离指令,评测需要考虑整条参考路线。R4R

RxR(Room-Across-Room)进一步扩展语言与标注方式,包含英语、印地语和泰卢固语,并将词语时间与标注者的相机姿态对齐。它支持研究多语言泛化,以及语言片段与沿途视觉之间的联系。时间对齐提供了“说到这里时看向哪里”的线索,并不直接等价于逐词对应的物体分割真值。RxR

三者的关系可以从研究变量理解:R2R 建立基本的指令跟随任务;R4R 强化路线忠实度;RxR 扩展语言覆盖及视觉语言对齐。它们不是可以仅凭规模大小排列的难度等级。

2.2 目标寻找:REVERIE 与 SOON

路线描述通常依赖起点和行走方向。“离开房间后右转”换一个起点就可能失去意义;“客厅窗边、沙发左侧的落地灯”则主要描述目标及其环境关系。

REVERIE要求智能体寻找起点不可见的目标物体,并完成视觉指代。评测需要区分:是否停在能观察目标的位置,以及是否选择了正确对象。对于提供候选框的设置,核心输出是正确候选;对于直接预测框的设置,还要按照规定检查框的重合度。两种设置承担的检测与定位工作量不同。REVERIE

SOON强调与起点相对独立的目标描述,使用对象属性、对象关系、所在区域及邻近区域引导探索。例如,房间线索先缩小搜索范围,对象关系再区分具体目标。其定位评价检查预测方向是否落在目标框内,因此不能直接套用另一数据集的框检测规则。SOON

目标寻找允许智能体自行选择合理路线。若语言没有规定必须经过某处,就不能仅因为它未复现某一条示范路线而认定失败。参考路线在这类任务中可能服务于训练或效率计算,其角色应与路线跟随任务分别说明。

2.3 交互式导航:CVDN 与 HANNA

CVDN采集导航者与协助者的对话。其 Navigation from Dialog History(NDH)任务使用目标提示、已有对话和当前观测,预测接下来的行动。这里主要检验理解已有对话后的导航能力;“何时主动提问、如何生成问题”还需要相应的交互任务设计。CVDN

HANNA允许智能体请求帮助,并获得语言与视觉形式的辅助信息。因此,导航能力之外,还需要分析求助时机、次数、助手信息和交互预算。拥有更多外部辅助的策略,即使成功率更高,也不能据此认定其自主导航能力更强。HANNA

2.4 街景导航:Touchdown

Touchdown使用街景全景图,研究长距离语言导航与空间描述解析。其导航任务要求到达目标节点或邻接节点;Spatial Description Resolution(SDR)则根据语言,在图像中预测被指代的位置。后者的输出是像素坐标,评价尺度也随之改变。Touchdown

街景图来自现实采集,但在图中移动仍是仿真交互。该协议没有自动包含动态行人避让、交通规则或真实底盘控制。

2.5 数据集的对照维度

任务或数据集 语言主要提供什么 额外输出或信息 评价重点
R2R 逐步路线描述 轨迹与停止 到达、路径效率
R4R 组合后的长路线描述 参考路线 中间地点覆盖、访问顺序
RxR 多语言路线描述 带时间与姿态关联的标注 到达、路线忠实度、多语言泛化
REVERIE 远程物体指代 目标物体预测 导航与物体接地
SOON 目标属性、关系与区域 目标方向预测 自主探索与目标定位
CVDN/NDH 目标提示与对话历史 历史问答 根据对话向目标推进
HANNA 目标及按需辅助 求助动作、语言与视觉帮助 导航成功与求助行为
Touchdown 街景路线及空间描述 导航轨迹或图像坐标 街景到达、空间描述解析
VLN-CE 连续环境中的路线指令 低层动作与执行轨迹 到达、路线质量及运动执行

VLN-CE 的主要变化发生在环境与动作接口,下面单独展开。表中每一行都需要配合具体版本的输入权限、划分和评测器理解。

三、动作空间与环境假设

3.1 导航图与全景候选

图导航将环境表示为加权图 G=(V,E)G=(V,E):节点对应可观察位置,边表示可通行连接。在常见的全景候选接口中,动作集合可抽象为

At=N(vt)∪{STOP},\mathcal A_t=\mathcal N(v_t)\cup\{\mathrm{STOP}\},

其中 vtv_t 是当前节点,N(vt)\mathcal N(v_t) 是允许选择的邻接节点。策略选择一个候选后,环境把智能体移动到对应位置。

这是一种高层接口概括。原始 R2R 基线还包含转头、抬头、低头和受当前视野约束的移动;后续全景方法改变了观测和候选组织。使用同一个 R2R 数据集,不代表使用同一种动作接口。 R2R 模拟器与任务定义

已给出的连边至少提供了局部可通行性先验,节点间移动也屏蔽了沿途的低层控制过程。策略获取相邻候选,不等于已经获得整栋建筑的完整地图;这两种信息权限仍需分别记录。

3.2 连续环境中的离散控制

VLN-CE 将路线执行放入连续三维环境。其原始低层动作包括前进 0.25 m0.25\,\mathrm m、左转 15∘15^\circ、右转 15∘15^\circ 和停止。位置在连续空间变化,但动作集合仍然有限。VLN-CE

同一导航意图在图节点选择、连续环境离散步进及连续值控制中的三种表示

图 1:动作接口示意。图中节点与轨迹为解释概念而绘制;连续值控制一栏表示通用机器人接口,不是原始 VLN-CE 的动作定义。 查看原图

与图上选择邻点相比,连续执行需要处理沿途观测、局部障碍、转向与停止。VLN-CE 的原始设定移除了预给拓扑、节点间短程代走和完美定位等强假设,但仿真的低层运动仍有自身简化,不能由“连续”直接推导出已经验证真实机器人动力学。

3.3 连续值动作与分层执行

如果策略直接输出底盘线速度和角速度,可以写成 at=(ut,ωt)∈R2a_t=(u_t,\omega_t)\in\mathbb R^2,其中 utu_t 是线速度,ωt\omega_t 是角速度。也可以先预测路点,再由规划器和控制器执行。速度命令通常还受机体能力约束,其可取范围和执行周期都是接口定义的一部分。

接口 一次决策输出 局部执行由谁承担 必须记录的条件
图节点选择 邻接节点或 STOP 导航图交互接口 候选来源、全景范围、位置权限
连续环境离散步进 前进、转动或 STOP 仿真运动与碰撞机制 步长、转角、机体尺寸、碰撞配置
连续值运动控制 速度、角速度等实数 控制器与机体 单位、频率、速度限制、动力学
路点与分层执行 目标路点或中层动作 规划器与低层控制器 路点可达性、执行容差、失败反馈

步数不能跨这些接口直接比较。一次图跳转与一次 0.25 m0.25\,\mathrm m 前进的空间尺度不同;连续值控制还依赖持续时间。要评价执行效率,需要进一步报告实际路程、时间与相关计算成本。

四、终点成功、路径效率与路线忠实度

4.1 距离、轨迹与符号约定

下文对单个回合使用:执行路径 P=(p1,…,pn)P=(p_1,\ldots,p_n)、参考路径 R=(r1,…,rm)R=(r_1,\ldots,r_m)、目标 g=rmg=r_m,以及成功距离阈值 δ\delta。d(u,v)d(u,v) 表示协议规定的最短可通行距离;图任务通常使用加权最短路,连续环境则依具体评测器确定。

隔墙的两点可能直线距离很小,可通行距离却很长。自行实现指标时,替换距离函数会改变任务含义。

对于由合法相邻图移动构成的路径,其长度为

L(P)=∑j=1n−1d(pj,pj+1).L(P)=\sum_{j=1}^{n-1}d(p_j,p_{j+1}).

连续执行则应按协议累计实际运动轨迹长度。把稀疏日志点之间的最短距离相加,可能漏掉两次记录之间的绕行。同一地点的纯旋转在路径长度中可以贡献零,但仍消耗时间。

4.2 NE、SR 与 OSR:终点和停止行为

导航误差 Navigation Error 衡量最终位置到目标的距离:

NE=d(pn,g).\mathrm{NE}=d(p_n,g).

原始 R2R 采用严格小于 3 m3\,\mathrm m 的成功条件。令第 ii 个回合的成功指示为 SiS_i,则

Si=1[NEi<δ],SR=1N∑i=1NSi.S_i=\mathbf1[\mathrm{NE}_i<\delta], \qquad \mathrm{SR}=\frac1N\sum_{i=1}^{N}S_i.

NN 是评测回合数,1[⋅]\mathbf1[\cdot] 在条件成立时取 1,否则取 0。更换基准时,应使用它规定的阈值、边界不等号和终止条件。R2R 评价定义

Oracle Success Rate 检查轨迹是否曾经进入目标范围:

OSR=1N∑i=1N1 ⁣[min⁡jd(pi,j,gi)<δ].\mathrm{OSR}=\frac1N\sum_{i=1}^{N} \mathbf1\!\left[\min_j d(p_{i,j},g_i)<\delta\right].

这里的 oracle 只在评价时利用目标真值。它不能作为策略运行时的自动停止器。同一阈值与轨迹集合下,OSR≥SR\mathrm{OSR}\ge\mathrm{SR};较大的差距提示智能体曾到过附近却没有正确结束,但仍需查看轨迹,才能判断是停止识别、回退还是步数耗尽导致失败。

4.3 SPL:成功与最短路效率

令 ℓi\ell_i 为起点到目标的最短路径长度,LiL_i 为实际执行长度。Success weighted by Path Length 定义为

SPL=1N∑i=1NSiℓimax⁡(ℓi,Li).\mathrm{SPL}=\frac1N\sum_{i=1}^{N} S_i\frac{\ell_i}{\max(\ell_i,L_i)}.

失败回合贡献零;成功回合再按长度效率加权。分母取最大值,使得因成功半径而提前停止、实际路程短于到精确目标的最短路时,得分仍不超过 1。该指标由导航评测建议提出。

例如,四个回合中三个成功,三条成功路径分别为对应最短路的 1、2、2 倍,那么

SR=34=0.75,SPL=1+1/2+1/2+04=0.50.\mathrm{SR}=\frac34=0.75, \qquad \mathrm{SPL}=\frac{1+1/2+1/2+0}{4}=0.50.

因此 SPL 同时混合了成功与效率,不能把它直接解释成“平均绕路比例”。它满足 0≤SPL≤SR0\le\mathrm{SPL}\le\mathrm{SR}。若允许起点就是目标、最短长度为零,还必须遵循评测器的退化情况约定。

SPL 的效率基准是起终点最短路。对于明确要求经过中间地点的非最短路线,这个基准与指令忠实度可能冲突。

4.4 CLS:路径覆盖与长度匹配

Coverage weighted by Length Score 使用参考路径的全部位置。首先定义覆盖得分

PC(P,R)=1m∑k=1mexp⁡ ⁣(−d(rk,P)δ),d(rk,P)=min⁡jd(rk,pj).\mathrm{PC}(P,R)=\frac1m\sum_{k=1}^{m} \exp\!\left(-\frac{d(r_k,P)}{\delta}\right), \qquad d(r_k,P)=\min_jd(r_k,p_j).

每个参考位置都寻找执行路径中的最近位置。距离为零时贡献 1,距离增大时贡献衰减;δ\delta 在这里控制衰减尺度。PC 为软覆盖分数,不是“经过了多少比例的节点”的硬计数。

然后用覆盖程度缩放参考路径长度,得到期望长度 EPL\mathrm{EPL},并构造长度得分:

EPL=PC(P,R) L(R),\mathrm{EPL}=\mathrm{PC}(P,R)\,L(R),

LS=EPLEPL+∣EPL−L(P)∣,CLS=PC⋅LS.\mathrm{LS}=\frac{\mathrm{EPL}} {\mathrm{EPL}+|\mathrm{EPL}-L(P)|}, \qquad \mathrm{CLS}=\mathrm{PC}\cdot\mathrm{LS}.

长度项防止智能体通过大量无目的探索获得高覆盖。分子与分母均为长度,最终分数无量纲。这套定义来自 R4R 论文第 3.3 节。

CLS 中的最近点匹配没有显式要求先后顺序。因此,相同地点集合与相同长度的路径,即使访问顺序不同,也可能得到相同得分。顺序约束需要进一步引入序列对齐。

4.5 nDTW:保持顺序的轨迹对齐

Dynamic Time Warping(DTW,动态时间规整)将两条序列按顺序对齐,同时允许一个点对应另一条路径中的多个点。它从两条路径的起点开始,到两条路径的终点结束,中间不能把较晚的位置倒过来匹配到较早的位置。

令 Dk,jD_{k,j} 表示参考前 kk 个点与执行前 jj 个点的最小累计代价:

Dk,j=d(rk,pj)+min⁡{Dk−1,j,Dk,j−1,Dk−1,j−1}.D_{k,j}=d(r_k,p_j)+ \min\{D_{k-1,j},D_{k,j-1},D_{k-1,j-1}\}.

初始化为 D0,0=0D_{0,0}=0,其余边界 Dk,0=D0,j=+∞D_{k,0}=D_{0,j}=+\infty(k,j>0k,j>0)。三项分别允许推进参考序列、推进执行序列或同时推进;最终 DTW(R,P)=Dm,n\mathrm{DTW}(R,P)=D_{m,n}。

将其按参考点数与距离阈值归一化,再取负指数:

nDTW(R,P)=exp⁡ ⁣(−Dm,nmδ).\mathrm{nDTW}(R,P)= \exp\!\left(-\frac{D_{m,n}}{m\delta}\right).

累计偏离越大,分数越低;完全匹配时为 1。mm 是参考路径的采样点数,不能换成参考路程的米数。精确递推需要 O(mn)O(mn) 时间;仅计算分数时可以用滚动行降低存储量。nDTW 论文及算法

按顺序对齐容纳了路径长度与采样的差异,但实现仍需固定距离函数、轨迹采样和归一化尺度。尤其在连续环境中,不能把一方的每帧位姿与另一方少数路点任意混用。

4.6 统一算例:相同终点,不同路线

考虑下图的四节点无向图,每条边长 4 m4\,\mathrm m,只有画出的四条边可通行。指令要求沿 S→A→B→GS\rightarrow A\rightarrow B\rightarrow G 行走,参考路线长 12 米;起点到终点的最短路 S→GS\rightarrow G 只有 4 米。设 δ=3 m\delta=3\,\mathrm m。

同一四节点图中的参考路线与捷径

图 2:自定义教学算例。蓝色路线经过两个指定地点,橙色虚线直接到达终点;所有分数由图中边长和本文公式计算,不是模型实验结果。

执行路线 长度 / 米 SPL CLS nDTW
S,A,B,GS,A,B,G 12 0.3333 1.0000 1.0000
S,GS,G 4 1.0000 0.4291 0.5134

表中为单回合得分。两条路线均在目标处停止,所以成功指示均为 1,终点误差均为零。捷径的 SPL 更高,而参考路线的忠实度更高。

对捷径,参考点 S,A,B,GS,A,B,G 到执行点集合 {S,G}\{S,G\} 的最近距离依次是 0,4,4,00,4,4,0 米,因此

PC=2+2e−4/34≈0.6318,EPL=12 PC≈7.5816 m.\mathrm{PC}=\frac{2+2e^{-4/3}}4\approx0.6318, \qquad \mathrm{EPL}=12\,\mathrm{PC}\approx7.5816\,\mathrm m.

代入长度得分,LS≈0.6792\mathrm{LS}\approx0.6792,得到 CLS≈0.4291\mathrm{CLS}\approx0.4291。

同一捷径的 DTW 递推如下。行对应 S,A,B,GS,A,B,G,列对应执行点 S,GS,G;左侧是距离矩阵,右侧是累计代价矩阵:

C=[04488440],D=[0448128168].C=\begin{bmatrix}0&4\\4&8\\8&4\\4&0\end{bmatrix}, \qquad D=\begin{bmatrix}0&4\\4&8\\12&8\\16&8\end{bmatrix}.

最终累计代价为 8 米,故 nDTW=e−8/(4×3)≈0.5134\mathrm{nDTW}=e^{-8/(4\times3)}\approx0.5134。这个结果来自整段路径的有序匹配,不能由终点距离推算。

该算例也说明了指标选择必须服从语言任务:若指令只要求到 GG,捷径合理;若要求先经过 AA、BB,省略中间地点就改变了任务。

4.7 sDTW:成功与忠实度的联合统计

成功加权的 nDTW(sDTW,也写作 SDTW)先对每个回合相乘,再取均值:

sDTW=1N∑i=1NSi nDTWi.\mathrm{sDTW}=\frac1N\sum_{i=1}^{N} S_i\,\mathrm{nDTW}_i.

它同时要求终点成功和路线匹配,失败回合贡献零。需要注意,总体 SR 与总体平均 nDTW 的乘积通常不等于 sDTW。指标定义

例如两个回合的 nDTW 为 0.9、0.7,只有第一个成功,则 sDTW 为 0.9/2=0.450.9/2=0.45;总体 SR 为 0.5、平均 nDTW 为 0.8,相乘却是 0.4。存在成功回合时,正确分解是

sDTW=SR×nDTW‾成功回合.\mathrm{sDTW}=\mathrm{SR}\times \overline{\mathrm{nDTW}}_{\text{成功回合}}.

4.8 各项指标的解释边界

指标 主要衡量内容 单独使用时遗漏的内容
NE 最终位置到目标的距离 是否按指定路线行动
SR 在规定条件下最终成功 绕路程度、中间地标与顺序
OSR 是否曾到过目标附近 是否能自主正确停止
TL / PL 实际路径长度 是否成功;越短不一定越好
SPL 成功与最短路效率 非最短指令路线的忠实度
CLS 参考路线覆盖与长度匹配 显式访问顺序、终点成功门槛
nDTW 有序轨迹匹配 严格成功条件、物体是否认对
sDTW 成功条件下的有序匹配 失败回合中取得的部分进展

CLS 和 nDTW 都把参考路线当作语言执行的代理。如果一句指令允许多条合理路线,单参考评价可能惩罚另一种有效执行。解释结果时,应同时查看语言、轨迹和参考标注,而非把几何匹配分数直接等同于完整语言理解。

五、任务专属指标与实验可比性

5.1 目标定位与交互进展

目标寻找需要明确导航成功与物体定位成功的关系。可以用一般性的联合指标表达这种分工:

Ji=SinavSiloc,J‾=1N∑iJi.J_i=S_i^{\mathrm{nav}}S_i^{\mathrm{loc}}, \qquad \overline J=\frac1N\sum_iJ_i.

SinavS_i^{\mathrm{nav}} 表示满足该任务的导航条件,SilocS_i^{\mathrm{loc}} 表示目标预测正确。这是联合成功的通用表示,具体可见性、距离、候选或定位容差仍由数据集定义。REVERIE 中“停在目标可见的位置”与“选对目标”需要分别检查;SOON 的方向定位也不能替换为同名的检测框指标。

对 NDH 一类任务,目标进展可以写成

GP=d(p1,G)−d(pn,G),d(p,G)=min⁡g∈Gd(p,g),\mathrm{GP}=d(p_1,\mathcal G)-d(p_n,\mathcal G), \qquad d(p,\mathcal G)=\min_{g\in\mathcal G}d(p,g),

其中 G\mathcal G 是可接受目标位置的集合。正值表示接近目标,单位为米;从 12 米外走到 8 米外,进展是 4 米,却未必成功。对话帮助次数和信息预算应与进展一起记录。CVDN

Touchdown 则需要分别评价街景节点上的任务完成与图像位置解析。图节点距离、米制距离和像素误差的量纲不同,不应放在同一列作数值排名。Touchdown 任务定义

5.2 Seen 与 unseen 的划分

在原始 R2R 中,训练和 val-seen 共享建筑环境,但使用不同任务;val-unseen 与 test 使用不同于训练的建筑。原论文给出的划分为:

划分 建筑关系 指令数 主要用途
train 61 个训练环境 14,025 参数学习
val-seen 与训练共享环境 1,020 已见环境中的任务泛化
val-unseen 独立的 11 个环境 2,349 未见环境验证与模型选择
test 独立的 18 个环境 4,173 隐藏目标的测试评价

数量依据 R2R 原论文;具体复现使用对应版本的划分文件。

换一条指令不会自动产生未见环境;在相同建筑里更换路线,也不等于跨建筑泛化。另一方面,反复使用 val-unseen 选择超参数后,它承担了模型选择作用,仍需要独立测试检验最终结果。

5.3 比较模型之前的协议记录

比较维度 应明确记录的内容 缺失时可能产生的误判
任务和数据版本 数据集、split、语言、样本过滤 不同任务子集被当作同一难度
观测权限 RGB、深度、全景、位姿、候选框 额外信息收益被归入模型结构
地图与动作 预给或在线地图、动作粒度、控制器 图导航结果被当作完整运动能力
训练数据 人工、合成、预训练与目标域数据 数据优势被当作训练算法优势
推理过程 搜索、回溯、重试、步数和调用预算 更多探索换来的成功被忽略
成功和距离 阈值、边界条件、停止、测地距离 同名指标实际使用不同定义
统计方式 回合数、随机种子、逐回合聚合 小样本波动或聚合错误被当作提升

此外,报告长度效率时要统计实际执行的探索与回退路程,说明路径输出的含义。保留最终选中的短路径、删去此前走过的分支,会改变对执行代价的评价。导航评测建议

同一批数据上的指标还提供了基本一致性约束:在本文的成功定义与非退化长度条件下,OSR≥SR≥SPL\mathrm{OSR}\ge\mathrm{SR}\ge\mathrm{SPL},且 sDTW≤SR\mathrm{sDTW}\le\mathrm{SR}。若表格违反这些关系,应先检查样本集合、归一化、评测版本和实现,而不是直接解释为模型特性。

完整的 VLN 结果应回答三个层次的问题:是否完成任务,是否按照语言约束完成,以及为此使用了什么信息和执行代价。 数据集规定问题边界,动作空间规定决策责任,评价指标则决定哪些行为得到奖励。把这三者对齐,后续关于模型结构、策略学习与机器人部署的比较才有明确含义。

参考资料

  1. Vision-and-Language Navigation: Interpreting Visually-Grounded Navigation Instructions in Real Environments:R2R、模拟器接口与原始评价协议。
  2. On Evaluation of Embodied Navigation Agents:SPL 与导航评测条件。
  3. Stay on the Path: Instruction Fidelity in Vision-and-Language Navigation:R4R 与 CLS。
  4. General Evaluation for Instruction Conditioned Navigation using Dynamic Time Warping:nDTW、sDTW 与动态规划计算。
  5. Beyond the Nav-Graph: Vision-and-Language Navigation in Continuous Environments:VLN-CE 的环境和低层动作。
  6. Room-Across-Room: Multilingual Vision-and-Language Navigation with Dense Spatiotemporal Grounding:RxR 的语言与对齐标注。
  7. REVERIE: Remote Embodied Visual Referring Expression in Real Indoor Environments:远程物体指代及导航、定位评价。
  8. SOON: Scenario Oriented Object Navigation with Graph-based Exploration:目标导向探索与定位。
  9. Vision-and-Dialog Navigation:CVDN、NDH 与目标进展。
  10. Help, Anna! Visual Navigation with Natural Multimodal Assistance via Retrospective Curiosity-Encouraging Imitation Learning:按需多模态协助。
  11. Touchdown: Natural Language Navigation and Spatial Reasoning in Visual Street Environments:街景导航与空间描述解析。

VLN 任务与评测:数据集、动作空间与评价指标
https://ethanyliang.github.io/2026/10/13/VLN任务与评测-数据集动作空间与评价指标/
作者
EthanYLiang
发布于
2026年10月13日
更新于
2026年10月14日
许可协议