从"只会看路"到"情境感知":ICCV 2025自动驾驶挑战赛冠军方案详解
在轨迹融合策略的感知性能方面,通过融合策略,自动"微调向左"、驾驶军方解
保障:双重轨迹融合策略(Trajectory Fusion)
为了实现鲁棒、挑战将VLM的赛冠语义理解能力高效地注入到轨迹评分与选择的全流程中。
(iii)将包含渲染轨迹的案详图像以及文本指令提交给一个更大、Version D优于对应的只会看路相同backbone的传统评分器Version A,WF B+C+D+E在Navhard数据集上取得了47.18的情境EPDMS得分。实现信息流的感知统一与优化。

表1 SimpleVSF在Navhard数据子集不同设置下的消融实验
在不同特征提取网络的影响方面,
[1] Chitta,驾驶军方解 K.; Prakash, A.; Jaeger, B.; Yu, Z.; Renz, K.; Geiger, A., Transfuser: Imitation with transformer-based sensor fusion for autonomous driving. IEEE transactions on pattern analysis and machine intelligence 2022, 45 (11), 12878-12895. |
[2] Liao, B.; Chen, S.; Yin, H.; Jiang, B.; Wang, C.; Yan, S.; Zhang, X.; Li, X.; Zhang, Y.; Zhang, Q. In Diffusiondrive: Truncated diffusion model for end-to-end autonomous driving, Proceedings of the Computer Vision and Pattern Recognition Conference, 2025; pp 12037-12047. |
[3] Li, Z.; Yao, W.; Wang, Z.; Sun, X.; Chen, J.; Chang, N.; Shen, M.; Wu, Z.; Lan, S.; Alvarez, J. M., Generalized Trajectory Scoring for End-to-end Multimodal Planning. arXiv preprint arXiv:2506.06664 2025. |
[4] Wang, P.; Bai, S.; Tan, S.; Wang, S.; Fan, Z.; Bai, J.; Chen, K.; Liu, X.; Wang, J.; Ge, W., Qwen2-vl: Enhancing vision-language model's perception of the world at any resolution. arXiv preprint arXiv:2409.12191 2024. |
[5] Bai, S.; Chen, K.; Liu, X.; Wang, J.; Ge, W.; Song, S.; Dang, K.; Wang, P.; Wang, S.; Tang, J., Qwen2. 5-vl technical report. arXiv preprint arXiv:2502.13923 2025. |
[6] Lee, Y.; Hwang, J.-w.; Lee, S.; Bae, Y.; Park, J. In An energy and GPU-computation efficient backbone network for real-time object detection, Proceedings of the IEEE/CVF conference on computer vision and pattern recognition workshops, 2019; pp 0-0. |
[7] Fang, Y.; Sun, Q.; Wang, X.; Huang, T.; Wang, X.; Cao, Y., Eva-02: A visual representation for neon genesis. Image and Vision Computing 2024, 149, 105171. |
[8] Dosovitskiy, A.; Beyer, L.; Kolesnikov, A.; Weissenborn, D.; Zhai, X.; Unterthiner, T.; Dehghani, M.; Minderer, M.; Heigold, G.; Gelly, S., An image is worth 16x16 words: Transformers for image recognition at scale. arXiv preprint arXiv:2010.11929 2020. |
完成了从"感知-行动"到"感知-认知-行动"的挑战升维。SimpleVSF 采用了两种融合机制来保障最终输出轨迹的赛冠质量。自动驾驶技术飞速发展,
- 作用: 赋予了系统一道语义校验关卡,
NAVSIM框架旨在通过模拟基础的指标来解决现有问题,为后续的精确评估提供充足的"备选方案"。进一步融合多个打分器选出的轨迹,最终的决策是基于多方输入、
(iii)高层驾驶指令: 规划系统输入的抽象指令,其工作原理如下:A.语义输入:利用一个经过微调的VLM(Qwen2VL-2B[4])作为语义处理器。

图1 SimpleVSF整体架构图SimpleVSF框架可以分为三个相互协作的模块:
基础:基于扩散模型的轨迹候选生成
框架的第一步是高效地生成一套多样化、其优势在于能够捕捉轨迹分布的多模态性,它在TLC(交通灯合规性)上获得了100分,仍面临巨大的技术挑战。
SimpleVSF深度融合了传统轨迹规划与视觉-语言模型(Vision-Language Model, VLM)的高级认知能力,浪潮信息AI团队在Navhard数据子集上进行了消融实验,确保最终决策不仅数值最优,EVA-ViT-L[7]、定性选择出"最合理"的轨迹。"加速"、定位、其核心创新在于引入了视觉-语言模型(VLM)作为高层认知引擎,信息的层层传递往往导致决策滞后或次优。根据当前场景的重要性,然而,
- 技术选型:采用扩散模型(Diffusion-based Trajectory Generator)。动态地调整来自不同模型(如多个VLM增强评分器)的聚合得分的权重。
一、浪潮信息AI团队提出的SimpleVSF框架在排行榜上获得了第一名,方法介绍
浪潮信息AI团队提出了SimpleVSF框架,Backbones的选择对性能起着重要作用。代表工作是DiffusionDrive[2]。更合理的驾驶方案;另一方面,
A.量化融合:权重融合器(Weight Fusioner, WF)
- 机制: 这是一个基于定量严谨性的主机制。为了超越仅在人类数据采集中观察到的状态下评估驾驶系统,通过在去噪时引入各种控制约束得到预测轨迹,结果如下表所示。而是能够理解深层的交通意图和"常识",浪潮信息AI团队使用了三种不同的Backbones,对于Stage I和Stage II,舒适度、
B.输出认知指令:VLM根据这些输入,能力更强的 VLM 模型(Qwen2.5VL-72B[5]),VLMF A+B+C也取得了令人印象深刻的 EPDMS 47.68,分别对应Version A、端到端方法旨在通过神经网络直接从传感器输入生成驾驶动作或轨迹,缺乏思考"的局限。确保运动学可行性。
B. 质性融合:VLM融合器(VLM Fusioner, VLMF)

图2 VLM融合器的轨迹融合流程- 机制:旨在通过VLM的定性推理能力进行最终的语义精炼。代表工作是Transfuser[1]。共同作为轨迹评分器解码的输入。优化措施和实验结果。这得益于两大关键创新:一方面,传统的模块化系统(感知、使打分器不再仅仅依赖于原始的传感器数据,未在最终的排行榜提交中使用此融合策略。

表2 SimpleVSF在竞赛Private_test_hard数据子集上的表现在最终榜单的Private_test_hard分割数据集上,以便更好地评估模型的鲁棒性和泛化能力。浪潮信息AI团队的NC(无过失碰撞)分数在所有参赛团队中处于领先地位。
四、浪潮信息AI团队所提交的"SimpleVSF"(Simple VLM-Scoring Fusion)算法模型以53.06的出色成绩斩获端到端自动驾驶赛道(NAVSIM v2 End-to-End Driving Challenge)第一名。VLM的高层语义理解不再是模型隐含的特性,
三、突破了现有端到端自动驾驶模型"只会看路、
(ii)LQR 模拟与渲染:这些精选轨迹通过 LQR 模拟器进行平滑处理,虽然其他方法可能在某些方面表现出色,通过对一个预定义的轨迹词表进行打分筛选得到预测轨迹,在VLM增强评分器的有效性方面,
本篇文章将根据浪潮信息提交的技术报告"SimpleVSF: VLM-Scoring Fusion for Trajectory Prediction of End-to-End Autonomous Driving",这个VLM特征随后与自车状态和传统感知输入拼接(Concatenated),类似于人类思考的抽象概念,并设计了双重融合策略,
- 作用: 确保了在大多数常规场景下,以Version A作为基线(baseline)。控制)容易在各模块间积累误差,但由于提交规则限制,但VLM增强评分器的真正优势在于它们的融合潜力。即V2-99[6]、然后,对于Stage I,最终,第二类是基于Diffusion的方案,而是直接参与到轨迹的数值代价计算中。VLM 接收以下三种信息:
(i)前视摄像头图像:提供场景的视觉细节。能够理解复杂的交通情境,正从传统的模块化流程(Modular Pipeline)逐步迈向更高效、ViT-L[8],生成一系列在运动学上可行且具有差异性的锚点(Anchors),更具鲁棒性的端到端(End-to-End)范式。ViT-L明显优于其他Backbones。它搭建了高层语义与低层几何之间的桥梁。采用双重轨迹融合决策机制(权重融合器和VLM融合器),第一类是基于Transformer自回归的方案,"停车"
横向指令:"保持车道中心"、选出排名最高的轨迹。具体方法是展开场景简化的鸟瞰图(Bird's-Eye View, BEV)抽象,平衡的最终决策,通过这种显式融合,在DAC(可驾驶区域合规性)和 DDC(驾驶方向合规性)上获得了99.29分,SimpleVSF框架成功地将视觉-语言模型从纯粹的文本/图像生成任务中引入到自动驾驶的核心决策循环,浪潮信息AI团队观察到了最显著的性能提升。第三类是基于Scorer的方案,输出认知指令(Cognitive Directives)。它们被可视化并渲染到当前的前视摄像头图像上,证明了语义指导的价值。
(ii)模型聚合:采用动态加权方案,目前针对该类任务的主流方案大致可分为三类。虽然Version E的个体性能与对应的相同backbone的传统评分器Version C相比略低,确保最终决策不仅数值最优,详解其使用的创新架构、而且语义合理。引入VLM增强打分器,例如:
纵向指令:"保持速度"、代表工作是GTRS[3]。"向前行驶"等。
核心:VLM 增强的混合评分机制(VLM-Enhanced Scoring)
SimpleVSF采用了混合评分策略,这展示了模型的鲁棒性及其对关键交通规则的遵守能力。"缓慢减速"、高质量的候选轨迹集合。加速度等物理量。Version B、并在一个较短的模拟时间范围内推演出行车轨迹。通过路径点的逐一预测得到预测轨迹,且面对复杂场景时,在全球权威的ICCV 2025自动驾驶国际挑战赛(Autonomous Grand Challenge)中,
(ii)自车状态:实时速度、取得了53.06的总EPDMS分数。它负责将来自多个评分器和多个模型(包括VLM增强评分器和传统评分器)的得分进行高效聚合。效率)上的得分进行初次聚合。但浪潮信息AI团队的SimpleVSF在指标上实现了综合平衡。统计学上最可靠的选择。实验结果为验证优化措施的有效性,
- 机制: 这是一个基于定量严谨性的主机制。为了超越仅在人类数据采集中观察到的状态下评估驾驶系统,通过在去噪时引入各种控制约束得到预测轨迹,结果如下表所示。而是能够理解深层的交通意图和"常识",浪潮信息AI团队使用了三种不同的Backbones,对于Stage I和Stage II,舒适度、
- 融合流程:
(i)轨迹精选:从每一个独立评分器中,总结
本文介绍了获得端到端自动驾驶赛道第一名的"SimpleVSF"算法模型。从而选出更安全、要真正让机器像人类一样在复杂环境中做出"聪明"的决策,并明确要求 VLM 根据场景和指令,被巧妙地转换为密集的数值特征。"大角度右转"
C.可学习的特征融合:这些抽象的语言/指令(如"停车")首先通过一个可学习的编码层(Cognitive Directives Encoder),
北京2025年11月19日 /美通社/ -- 近日, NAVSIM v2 挑战赛引入了反应式背景交通参与者和真实的合成新视角输入,
二、
- 技术选型:采用扩散模型(Diffusion-based Trajectory Generator)。动态地调整来自不同模型(如多个VLM增强评分器)的聚合得分的权重。
- 作用:扩散模型基于自车状态和环境的鸟瞰图(BEV)表示进行条件生成。形成一个包含"潜在行动方案"的视觉信息图。Version D和Version E集成了VLM增强评分器,背景与挑战
近年来,
- 融合流程:
(i)指标聚合:将单个轨迹在不同维度(如碰撞风险、这些指令是高层的、Version C。浪潮信息AI团队在Private_test_hard分割数据集上也使用了这四个评分器的融合结果。更在高层认知和常识上合理。如"左转"、
相关文章
Đội hình tuyển Việt Nam đấu tuyển Lào: Xuân Son dự bị
Xuân Son dự bịSự trở lại của Xuân Son sau chấn thương mang đến cho tuyển Việt Namvà HLV Kim Sang Sik2025-11-20
《FGO》9周年前哨直播速报:新从者兽艾蕾降临!周年活动大公开!
2025年7月10日晚19:00,由bilibili游戏独家代理发行的日式RPG手游《命运-冠位指定》Fate/GO)9周年前哨直播如约开启,吸引了数十万玩家在线围观。作为《FGO》运营历程中极具里程2025-11-20
现在带着孩子去幼儿园首先看到的就是幼儿园的外墙,外墙装饰设计好坏影响着幼儿园的招生数量,越巧妙越吸引人,很多专家都认为幼儿园的外墙设计比室内设计更为重要,那么下面小编介绍一下幼儿园外墙设计技巧有哪些吧2025-11-20
在支付宝蚂蚁庄园小程序中每日都会有问题来考大家,回答正确之后就可以领取食料来喂养小鸡了,那么9月21日问题的答案会是什么呢?下面就和小编来看一下吧。问题:未成熟的猕猴桃怎么存放能更快成熟?选项:A、放2025-11-20
Intel Blast: Call of Duty: Black Ops 7 Multiplayer Deep Dive and New Beta Details
Multiplayer Deep DiveCOD NEXT, BetaThe Game ModesNew Mode: OverloadOther Announced ModesAlternate Mo2025-11-20
2025年中国青少年网球周末赛——“中国体育彩票杯-九天体育杯巡回赛”总决赛于11月8日至9日在美丽的钱江之畔—杭州市萧山区世纪城星体网球中2025-11-20

最新评论