论文
https://arxiv.org/pdf/2610.20609

Abstract

We proposeSafeDriveVLA , the first driving VLA that

  • (1) explicitly predicts a three-level navigation-compliance mode to decouple conflict reasoning from action generation,
  • (2) uses navigation-conditioned world model dreaming to inform this prediction.

在这里插入图片描述

结合 SafeDriveVLA 的整体架构图(Figure 3)以及该论文的设计核心,Three-Level Navigation-Compliance Mode(三级导航合规模式) 是模型用来解决“导航/语言指令与当前物理场景发生冲突”的关键控制机制。

在传统 VLA(Vision-Language-Action)模型中,如果导航指令要求“直行”,但前方突然有行人和红灯,盲目听从指令就会导致碰撞。SafeDriveVLA 引入这三种模式,本质上是给系统装上了“安全意图过滤器”与“分层安全兜底策略”。

结合架构图中 driving mode(strict | cautious | fallback) 模块,我们可以从以下几个维度来深入理解:


1. 为什么需要“三级”合规模式?

在推理阶段,SafeDriveVLA 首先利用冻结的世界模型(Latent World Model)基于当前的导航指令进行未来推演(Dreaming)。世界模型预测出未来动态后,输出的 World Tokens 会连同视觉特征和导航信号一起喂给 VLM(视觉语言模型)。

VLM 会在生成具体的控制 Token(Action Tokens)之前,先预测出一个 mode token:

输入 (Visual + Text + Dreamed World Tokens) 
   ──> 预测 Mode Token [ Strict / Cautious / Fallback ] 
   ──> 根据 Mode 执行/微调/接管具体的路径与速度控制


2. 三种模式的具体含义与行为逻辑

根据架构图中 driving mode 包含的三个分支(棕色模块):

🟢 1. 严格执行模式(strict / Strict Compliance)

  • 适用场景:当前路况良好,导航指令(如“前方左转”、“保持车速”)在物理上完全安全且可行。
  • 模型行为:模型高度信任导航指令,直接将导航锚点(Navigation-Conditioned Action Anchor)转换为流畅的规划路径和目标速度,实现高效驾驶。

🟡 2. 谨慎/减速避让模式(cautious / Cautious Adaptation)

  • 适用场景:导航指令方向基本正确,但存在局部潜在冲突或障碍物(例如:指令要求“左转”,但对向有直行车正在接近;或前方车流较缓)。
  • 模型行为:模型保留导航的总体方向(横向路径不变或小幅偏向),但主动调低纵向目标速度(Longitudinal Target Speed),表现出“慢速试探”、“礼譲等待”或“跟随避让”的谨慎驾驶策略。

🔴 3. 兜底/安全接管模式(fallback / Non-Compliant Safety Fallback)

  • 适用场景:发生了严重的导航-场景冲突(Navigation-Scene Conflict)。如果强制执行导航指令,将极大概率发生碰撞(例如:导航要求“加速超车/直行”,但前方有突发横穿的行人、障碍物或红灯)。
  • 模型行为:模型彻底解耦/摒弃不安全的导航指令,触发最高优先级的安全防线。控制权转交给强行刹停(Hard Braking)、紧急避障或在原地等待的安全策略,避免盲从危险指令。

3. 在架构图中的实现细节

在 Figure 3 的右侧 SafeDriveVLA 结构中:

  1. 输入端融合:token interleave 模块将 text(导航指令)、visual(图像编码)、以及由世界模型预测出来的 world(未来隐空间 Token)进行交错融合。

  2. 分类输出 Mode Token:VLM 在输出控制决策时,首要输出的就是 driving mode 节点(包含 strict、cautious、fallback 三个离散分类)。

  3. 指导下游控制头:

  • 预测出的 Mode 直接约束与指导后端的 lateral control head(横向 PID 路径生成)以及 codebook decoding(纵向目标速度解码)。

  • 这种设计保证了从“意图推理(Mode)”到“底层控制(Path & Speed)”的层级化解耦。


总结

Three-Level Navigation-Compliance Mode 的本质就是自动驾驶系统的“安全决策分级”:

  • strict(听话):路况安全,完全听从导航。

  • cautious(减速试探):有小风险,保持方向但减速观望。

  • fallback(抗命/兜底):指令危险,拒绝执行并强制安全避险。

这种分级机制让 SafeDriveVLA 既保留了 VLA 模型“懂人类自然语言/导航指令”的灵活性,又克服了传统模型“缺乏安全常识、盲从指令”的致命缺陷。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐