无主之地2配置高吗|看真人裸体BBBBB|秋草莓丝瓜黄瓜榴莲色多多|真人強奷112分钟|精品一卡2卡3卡四卡新区|日本成人深夜苍井空|八十年代动画片

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

理想發(fā)布MindVLA-o1:一個模型,如何真正理解3D世界?

0
分享至



文/熊逾格

編輯/子夜

3月17日,NVIDIA GTC 2026大會,理想汽車基座模型負責人詹錕發(fā)表演講,發(fā)布了下一代自動駕駛基礎(chǔ)模型MindVLA-o1。

18日,理想汽車董事長兼CEO李想在B站發(fā)布了其與基座模型負責人詹錕的對話,對MindVLA-o1進行了進一步的解讀。

這是一個將視覺、語言與行動統(tǒng)一進同一架構(gòu)的原生多模態(tài)模型,采用多模態(tài)MoE Transformer架構(gòu),融合3D視覺編碼、世界模型與推理能力。

理想給出MindVLA-o1的能力:讓自動駕駛看得更遠、想得更深、行得更穩(wěn)、進化更快、部署更高效。

作為一個VLA(Vision-Language-Action Model)模型,MindVLA-o1帶來的想象空間格外大。

“當視覺、語言和行動統(tǒng)一到一個模型中時,它不再只是自動駕駛模型,而是在逐漸演化為面向物理世界的通用智能體。基于同一套VLA模型,不僅可以控制車輛,也能夠擴展到機器人。”詹錕在GTC上總結(jié)。

聚光燈下,理想朝著具身智能企業(yè)又邁進了一步。

1、感知、思考與行為,通往物理AI的三把鑰匙

要理解MindVLA-o1,需要先理解當下自動駕駛主流技術(shù)的問題。

最初,智駕技術(shù)的邏輯相當“樸素”。工程師給駕駛系統(tǒng)寫清楚規(guī)則,遇到不同的路況執(zhí)行不同規(guī)則,再配上一張把每條路都畫清楚的高精地圖——但規(guī)則無窮無盡,永遠會有下一個“例外”。

2021年前后,自動駕駛行業(yè)第一場技術(shù)轉(zhuǎn)型開始:工程師直接把大量人類駕駛數(shù)據(jù)喂給模型,讓模型自己學習。端到端模型輸入視覺信號,輸出實際操作,直接學習人類駕駛行為。

這恰好也符合行業(yè)的直覺,越多的駕駛數(shù)據(jù),效果越好,數(shù)據(jù)價值得到強調(diào)。

正是從這一年,理想開始自研輔助駕駛,并在2024年轉(zhuǎn)向端到端模型,但這條路走到2025年,理想發(fā)現(xiàn),當訓練數(shù)據(jù)到達更大規(guī)模,天花板逐漸浮現(xiàn)。

理想透露,當訓練數(shù)據(jù)積累到1000萬條Clips之后,公司研發(fā)團隊等了5個月,模型平均接管里程只增長了2倍左右,遠低于預期。

李想曾對端到端模型打了個不客氣的比喻:“猴子開車”——端到端的本質(zhì)是模仿學習,模型能學會開車的動作,但永遠不理解物理世界。

沒有因果推理,模型無法理解違反常理的行為;沒有深度思考,只憑模式匹配無法進行復雜決策;安全意識不足,遇到復雜場景無法進行預防性判斷。

“今天無論是具身的AI在工作,在訓練,都是看著2D視頻。但這并不是人類在物理世界真正的工作方式。”李想解釋,“大部分搞模型的,都想直接做成年以后要做的事,拼命訓練。但0-6歲孩子最重要的訓練空間、訓練能力,根本沒解決。”

人類在童年建立起對世界認知,在三維空間跌倒再爬起,通過真實的感知和反饋,校準對距離和速度的判斷。而AI跳過了這個階段,無論如何學不會理解“開車”。

這是VLA出現(xiàn)的背景。感知、思考與行為,從架構(gòu)設(shè)計之初,三種模態(tài)就被放入同一表示空間中進行統(tǒng)一訓練。

2025年8月,理想隨理想i8交付推出全球首個量產(chǎn)上車的VLA司機大模型。而MindVLA-o1是在其基礎(chǔ)上的最新成果。



MindVLA-o1核心設(shè)計 ,圖源GTC演講

這一次更新,整個架構(gòu)基于MoE(混合專家架構(gòu)),在擴大模型容量的同時控制激活參數(shù)規(guī)模,被重新設(shè)計為三層:

首先是感知層。

理想設(shè)計了自監(jiān)督的3D ViT(3D Vision Transformer,三維視覺轉(zhuǎn)換器)視覺編碼器。訓練時同時引入視覺與LiDAR(激光探測與測距)兩路數(shù)據(jù)——前者提供豐富的語義信息,后者提供準確的三維幾何結(jié)構(gòu),讓模型在同一表示空間中同時學習幾何與語義。



自監(jiān)督3D視覺編碼器架構(gòu),圖源GTC演講

為進一步提升場景理解能力,訓練中還引入了前饋式3DGS(3D Gaussian Splatting,三維高斯?jié)姙R)場景表示:系統(tǒng)將場景分解為靜態(tài)環(huán)境與動態(tài)物體分別建模,以“下一狀態(tài)預測”作為自監(jiān)督信號,驅(qū)動模型同時學習深度信息、語義結(jié)構(gòu)與物體運動。

最終得到的3D ViT表示融合了空間結(jié)構(gòu)與時間上下文信息,為后續(xù)的思考與行動層提供高質(zhì)量的三維世界表示。

針對3D感知,訓練數(shù)據(jù)配比也完成重構(gòu),大量融入3D數(shù)據(jù)和自動駕駛圖文數(shù)據(jù),主動壓縮文史類數(shù)據(jù)比例,并加入未來幀預測生成和稠密深度預測任務,專門激發(fā)模型對3D空間的理解與推理能力。

其次是思考層。

思考層由三個相互配合的機制構(gòu)成:顯式推理、未來預測和快慢思考協(xié)同。

語言模型引入了 System-2式(慢思考系統(tǒng))的顯式推理機制——區(qū)別于直覺式的快速反應,模型能在復雜場景中進行更深入的分析與決策。

在此基礎(chǔ)上,模型還內(nèi)嵌了Predictive Latent World Model(預測式隱世界模型),讓自動駕駛不只理解“當前發(fā)生了什么”,還能模擬“接下來會發(fā)生什么”。

由于直接生成未來圖像的計算成本過高,理想選擇在Latent Space(隱空間)中完成預測:系統(tǒng)首先將當前視覺輸入編碼為一組Latent Tokens(隱變量令牌),作為場景的緊湊表示,再由世界模型基于這些令牌推演未來狀態(tài)。



預測式隱世界模型架構(gòu),圖源GTC演講

這套世界模型經(jīng)歷了三階段訓練:第一階段用海量視頻打底,讓模型學會在隱空間里表征未來;第二階段在MindVLA-o1框架內(nèi)強化未來推演能力;第三階段則將世界模型、多模態(tài)推理與駕駛行為三者拉到同一目標下聯(lián)合優(yōu)化。

快慢思考機制也被整合進同一模型:簡單場景下,模型直接輸出Action Token(動作令牌),不走推理鏈;復雜場景下,先經(jīng)過一段固定簡短的CoT(思維鏈)模板,再輸出動作。

在效率設(shè)計上,針對思維鏈采用小詞表加投機推理大幅提速;動作令牌在同一Transformer內(nèi)以雙向注意力機制一次性并行輸出,思維鏈推理則在因果注意力機制下逐字解碼,兩者并存于同一模型中。

最后是行動層。

行動層采用三層遞進設(shè)計:Action Expert(動作專家模塊)負責生成軌跡,Parallel Decoding(并行解碼)保證輸出速度,Discrete Diffusion Refinement(離散擴散優(yōu)化)負責精修質(zhì)量。



統(tǒng)一行為生成架構(gòu),圖源GTC演講

具體來看,Action Expert從3D場景特征、導航目標、駕駛指令中提取關(guān)鍵信息,結(jié)合多模態(tài)推理生成初始駕駛軌跡。軌跡生成后,Parallel Decoding讓所有軌跡點同時輸出,而非逐點生成,在長序列軌跡預測場景中,效率優(yōu)勢尤為突出。

Discrete Diffusion Refinement隨后對并行生成的軌跡進行多輪迭代優(yōu)化,類似逐步去噪,最終使軌跡在空間上連續(xù)、時間上穩(wěn)定,并滿足車輛動力學約束——整個Diffusion(擴散)過程通過ODE(常微分方程)采樣器壓縮至2-3步完成。

Diffusion模型還同時預測自車與周圍車輛、行人的軌跡,通過聯(lián)合建模提升復雜交通場景中的博弈能力。對于仍存在偏差的長尾工況,則通過RLHF(基于人類反饋的強化學習)加以修正:篩選大量接管數(shù)據(jù)建立人類偏好數(shù)據(jù)集,微調(diào)模型的采樣過程,使其逐步對齊人類駕駛行為,安全下限隨偏好數(shù)據(jù)的積累持續(xù)提升。

從看得到,到想得到,再到做得到,這是一場從感知層開始的重建,最終落地于行動層的執(zhí)行,形成一個完整的閉環(huán)。但對于實際應用來說,這還遠遠不是終點。

2、從學術(shù)到落地,理想如何跑通?

一套方案能夠在實驗室里跑通,和能裝進量產(chǎn)車里落地,是兩件完全不同的事。

MindVLA-o1面對的第一個挑戰(zhàn),是難以避免的算力難題。

模型搭載的3D ViT編碼器,復雜度遠遠超過主流的“2D方案”,對端側(cè)算力提出更高的要求。



李想與詹錕談論馬赫100芯片,圖源GTC演講

理想的解法是一顆自研芯片“馬赫100”。

它是中國首個采用數(shù)據(jù)流原生架構(gòu)的車規(guī)級5納米芯片,天然適配AI推理計算。在標準的大規(guī)模矩陣乘計算任務上,馬赫100性能較上一代提升約3倍;兩顆馬赫100實際運行VLA大模型時的有效算力,是英偉達Thor-U的5到6倍。

在馬赫100上,理想成功部署參數(shù)規(guī)模達上一代6倍、計算量提升10倍的VLA模型,實現(xiàn)運行幀率更高,推理速度更快,從傳感器輸入到車輛執(zhí)行輸出,整體延時僅200到300毫秒。

此外,馬赫100還取消了上一代XCU控制器,聯(lián)合星環(huán)OS整合替代,單顆BOM成本大幅低于外購方案。

解決了算力難題,訓練成本問題成了第二個“攔路虎”。

3D ViT要大規(guī)模預訓練,強化學習要在仿真環(huán)境里反復迭代。傳統(tǒng)的逐步優(yōu)化式重建太慢,無法支撐大規(guī)模并行訓練。

為此,理想與NVIDIA團隊共建了3D Gaussian Splatting渲染引擎及分布式訓練框架,渲染速度提升近2倍,整體訓練成本降低約75%。

在這個過程中,理想的世界模擬器也升級為前饋式場景重建,可以瞬時生成大規(guī)模高保真駕駛場景,模擬環(huán)境還能擴展、編輯和生成新場景,不只是復現(xiàn)真實世界。

最后的難題,落在車端的部署。

高精度的模型跑不進車端,能跑進去的精度又不夠。為了讓模型匹配車端,傳統(tǒng)做法是大量實驗反復調(diào)整模型結(jié)構(gòu),但這通常需要數(shù)月時間。

為了達到更高的效率,理想一方面在模型上通過Sparse Attention(稀疏注意力)機制,進一步提升稀疏化率,保障端側(cè)實時推理效率。

另一方面提出了軟硬件協(xié)同設(shè)計定律:

結(jié)合Roofline模型刻畫硬件計算能力和內(nèi)存帶寬的限制,在模型性能與硬件約束之間建立統(tǒng)一的分析框架,在約2000種架構(gòu)配置里尋找精度與推理延遲的最優(yōu)解。

經(jīng)過實驗得出的最終結(jié)論相當“反直覺”:算力受限的條件下,“更寬更淺”的模型比“更深”的模型更高效。

憑借這一成果,理想將架構(gòu)探索時間從數(shù)月縮短至幾天。

三道大山一一翻過去,VLA模型帶來的變化肉眼可見。

例如,今年1月理想更新的OTA 8.2車機系統(tǒng),在世界模型中加入了毫秒級方向盤和電門動作數(shù)據(jù),讓VLA進行行為強化學習——橫縱向控制不再機械跟隨預設(shè)參數(shù),基于對當前場景的綜合理解動態(tài)輸出。

在人車混行路段、小路通行、窄路會車等七個典型城區(qū)場景里,它的表現(xiàn)格外突出:例如,在人車混行路段,車輛實時預測行人和非機動車的運動意圖,橫向避讓與縱向調(diào)速同步規(guī)劃;在小路通行時,加減速更細膩,動靜態(tài)障礙物都能合理避讓;在窄路會車,車速和橫向位置自動調(diào)整,縱向減速平穩(wěn)沒有頓挫。



MindVLA-o1模型通過自研語言指令理解環(huán)境語義,圖源GTC演講

在一般場景下,VLA能力也有更多變化。例如,語言指令可以直接改變駕駛行為,“開快點,我趕時間”這類說法,模型能夠理解并執(zhí)行了。

據(jù)理想透露,截至2025年底,VLA月使用率80%,VLA指令使用次數(shù)1225.4萬次。用戶最常用的三個指令是左右變道、直行、加減速。

最終,降本、加速、算力,三點合力使得MindVLA-o1模型具備量產(chǎn)條件,而不是停留在紙面。

3、結(jié)語

在GTC上,MindVLA-o1的一個演示片段,無關(guān)自動駕駛,而是駕馭一條機械臂,輕輕拿起一瓶養(yǎng)樂多,倒進桌上的杯子里。



MindVLA-o1模型的三個不同演示場景,圖源GTC演講

為什么一個為自動駕駛設(shè)計的模型,能夠操作機械臂?

理想的解釋是,同一套VLA模型可以驅(qū)動不同形態(tài)的物理智能體,自動駕駛與機器人控制共用同一套模型與數(shù)據(jù)體系。不同執(zhí)行器,本質(zhì)上對這套模型來說卻是同一類問題——理解環(huán)境、推理意圖、生成動作序列。

截至2025年11月,理想一共累計近15億公里的駕駛數(shù)據(jù)。

如果我們進一步深思,就會發(fā)現(xiàn)這樣的邏輯:理想正在用大規(guī)模的駕駛數(shù)據(jù),做通用物理AI的預訓練。

短短數(shù)年,當人們再次審視理想這家公司,不難發(fā)現(xiàn)它已經(jīng)在通往具身智能的路上走了相當遠。

2025年,理想研發(fā)投入113億元,AI相關(guān)占比50%;2026年1月,理想將研發(fā)團隊按“造硅基人”的邏輯重構(gòu)為四大體系——臟器、腦、軟件、硬件;2026年Q2,馬赫100將完成量產(chǎn)上車。

“人工智能就是在造人。Agent是數(shù)字化的人,具身是物理化的人,只是它是硅基的人,不是我們碳基的。”李想稱,L4自動駕駛的汽車,會是生活中一個最重要的硅基人。

他表示,未來3到5年中高端汽車的競爭,本質(zhì)上是具身智能的競爭。過去,從功能機到智能手機的演進,來自芯片和操作系統(tǒng)的改變,而在具身智能時代,改變對應的是芯片和模型的Co-Design。

這份認知驅(qū)動著理想,從2022年自研芯片,到2023年構(gòu)建基座模型,一步步將能力向底層收攏。

如今,理想已經(jīng)搭建起一套從算力、感知到?jīng)Q策的完整體系,其定位也從“造車公司”,轉(zhuǎn)向“以汽車為載體的物理AI公司”。汽車不再只是產(chǎn)品,而是規(guī)模化落地與持續(xù)訓練的現(xiàn)實世界接口。

因此,MindVLA-o1的意義,遠不止性能提升。它標志著一種范式的轉(zhuǎn)變:模型開始真正進入三維世界,從對輸入的被動響應,轉(zhuǎn)向?qū)Νh(huán)境的主動建模與推演。

自動駕駛的邊界正在變得模糊,跨越界線,理想的物理AI之路,或許才剛剛開始。

(本文頭圖來源于理想汽車官網(wǎng)。)

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
當日本高端產(chǎn)業(yè)永久停產(chǎn),世界才發(fā)現(xiàn):日本的稀土布局全是空架子

當日本高端產(chǎn)業(yè)永久停產(chǎn),世界才發(fā)現(xiàn):日本的稀土布局全是空架子

牛鍋巴小釩
2026-06-24 10:23:20
王治郅怒了!首秀7分8板卻遭前輩炮轟:別在外面瞎擋拆 給我進去鑿

王治郅怒了!首秀7分8板卻遭前輩炮轟:別在外面瞎擋拆 給我進去鑿

劉哥談體育
2026-06-24 10:16:56
澤連斯基越線了!把手伸向臺海南海,真以為中國會一忍再忍?

澤連斯基越線了!把手伸向臺海南海,真以為中國會一忍再忍?

故事終將光明磊落
2026-06-24 12:58:36
中國至今未掌握的7大技術(shù),從中看出,和日本的差距到底有多大

中國至今未掌握的7大技術(shù),從中看出,和日本的差距到底有多大

傲傲講歷史
2026-06-19 00:38:08
603259,強勢漲停!CRO概念股,集體爆發(fā)!

603259,強勢漲停!CRO概念股,集體爆發(fā)!

證券時報e公司
2026-06-24 13:57:04
歷史要毀于一旦?已經(jīng)獨立百年的蒙古,正把中國40年的努力毀掉!

歷史要毀于一旦?已經(jīng)獨立百年的蒙古,正把中國40年的努力毀掉!

戶外釣魚哥阿旱
2026-06-21 15:19:53
CCTV5直播!韓國迎“生死戰(zhàn)”,孫興慜PK福斯特,贏球=亞洲第一隊

CCTV5直播!韓國迎“生死戰(zhàn)”,孫興慜PK福斯特,贏球=亞洲第一隊

籃球圈里的那些事
2026-06-23 18:55:12
6尺9+6尺10!馬刺選兩鋒線補強最弱一環(huán):昆坦斯右膝還將接受手術(shù)

6尺9+6尺10!馬刺選兩鋒線補強最弱一環(huán):昆坦斯右膝還將接受手術(shù)

顏小白的籃球夢
2026-06-24 11:31:31
章含之有多美?1956年和男友洪君彥在北京的留影,21歲她氣質(zhì)不凡

章含之有多美?1956年和男友洪君彥在北京的留影,21歲她氣質(zhì)不凡

元哥說歷史
2026-06-24 08:10:07
資治通鑒:凡是在社會上混的好的人,不是因為多勤奮,也不是因為多自律,更不是因為朋友遍天下,而是深諳這兩點人性

資治通鑒:凡是在社會上混的好的人,不是因為多勤奮,也不是因為多自律,更不是因為朋友遍天下,而是深諳這兩點人性

心理觀察局
2026-06-24 08:42:09
7月3日油價將迎大幅下調(diào) 每噸預計降幅630元

7月3日油價將迎大幅下調(diào) 每噸預計降幅630元

蚌埠日報
2026-06-22 10:59:17
中央氣象臺發(fā)布暴雨、強對流、臺風預警,云南、廣西等地局部地區(qū)有大暴雨

中央氣象臺發(fā)布暴雨、強對流、臺風預警,云南、廣西等地局部地區(qū)有大暴雨

界面新聞
2026-06-24 06:53:04
快船用首輪5號簽選中了來自伊利諾伊大學的基頓-瓦格勒

快船用首輪5號簽選中了來自伊利諾伊大學的基頓-瓦格勒

懂球帝
2026-06-24 08:38:16
中國男籃結(jié)束熱身賽,兩人必須淘汰,球迷呼吁徐杰回歸打河村勇輝

中國男籃結(jié)束熱身賽,兩人必須淘汰,球迷呼吁徐杰回歸打河村勇輝

宗介說體育
2026-06-24 13:57:12
湖北省紀委監(jiān)委通報:汪祥旺被查

湖北省紀委監(jiān)委通報:汪祥旺被查

黃河新聞網(wǎng)呂梁
2026-06-24 08:58:05
俄烏戰(zhàn)爭打了4年多,中國終于明白:統(tǒng)一臺灣前,這3種人必鏟除

俄烏戰(zhàn)爭打了4年多,中國終于明白:統(tǒng)一臺灣前,這3種人必鏟除

譚麤愛搞笑
2026-06-07 09:21:42
中方投下贊成票

中方投下贊成票

政知新媒體
2026-06-24 09:57:23
休賽期多隊爭搶哈登!四大下家候選,回歸火箭或赴馬刺沖冠

休賽期多隊爭搶哈登!四大下家候選,回歸火箭或赴馬刺沖冠

星Xin辰大海
2026-06-24 10:24:18
字母交易牽扯出第二條大魚!場均28+7已和球隊鬧掰,火箭領(lǐng)跑交易

字母交易牽扯出第二條大魚!場均28+7已和球隊鬧掰,火箭領(lǐng)跑交易

你的籃球頻道
2026-06-24 09:00:35
多款水果遭高濃度甜蜜素浸泡,你還敢吃嗎

多款水果遭高濃度甜蜜素浸泡,你還敢吃嗎

松林侃世界
2026-06-23 04:43:33
2026-06-24 14:51:00
連線Insight incentive-icons
連線Insight
產(chǎn)業(yè)升級創(chuàng)新者的聚集地。
1764文章數(shù) 1502關(guān)注度
往期回顧 全部

科技要聞

豆包專業(yè)版上線:定價68-500元每月

頭條要聞

鄭麗文稱國民黨追求和平但不放棄自我防衛(wèi) 國臺辦回應

頭條要聞

鄭麗文稱國民黨追求和平但不放棄自我防衛(wèi) 國臺辦回應

體育要聞

字母哥,會把凱爾特人拆了嗎?

娛樂要聞

向佐向佑兄弟合體直播!母子終于和解

財經(jīng)要聞

爆料人:如果我錯了,賠償坐牢都接受

汽車要聞

施鵬澤:為什么奧迪E7X強調(diào)座艙氣味安全?

態(tài)度原創(chuàng)

游戲
時尚
家居
數(shù)碼
軍事航空

可可愛愛!《怪獵:荒野》泡狐龍等開發(fā)設(shè)計圖展示

被40萬人追更的火焰魔術(shù)師,重塑古老燈工玻璃

家居要聞

綠意盎然 自然之境

數(shù)碼要聞

三星Galaxy Watch Ultra2智能手表渲染圖曝光

軍事要聞

伊朗代表:霍爾木茲海峽已免費開放

無障礙瀏覽 進入關(guān)懷版