姜旭（Roger Jiang）此前很少正式對(duì)外發(fā)聲。

姜旭是少數(shù)完整參與過(guò) OpenAI 大模型核心技術(shù)演進(jìn)的華人創(chuàng)業(yè)者之一。2019 至 2023 年間，他經(jīng)歷了 GPT 系列能力爆發(fā)最關(guān)鍵的階段，工作橫跨底層訓(xùn)練 infra、大規(guī)模預(yù)訓(xùn)練、RLHF 對(duì)齊算法與數(shù)據(jù)構(gòu)建等核心鏈路。

他不僅是 GPT-4 技術(shù)報(bào)告的核心貢獻(xiàn)者之一，也是 InstructGPT 的主要作者之一。后者奠定了 ChatGPT 指令遵循與人類偏好對(duì)齊能力的重要基礎(chǔ)。如今，他選擇回到中國(guó)創(chuàng)業(yè)，并把下一次 AI Scaling 的賭注押在了物理世界。

2024 年他在深圳成立了亮源新創(chuàng) (Light Origins，lightorigins.com)，投身具身基礎(chǔ)模型。但公司成立至今一直保持低調(diào)，外界對(duì)它的了解并不多。

現(xiàn)在他決定第一次完整地把自己的思考講出來(lái)。

姜旭對(duì)具身智能的核心判斷，可以概括為一句話：具身智能首先需要自己的預(yù)訓(xùn)練。

在他看來(lái)，當(dāng)前行業(yè)對(duì)遙操數(shù)據(jù)和真機(jī)強(qiáng)化學(xué)習(xí)的重視是必要的，但這并不足以支撐具身基礎(chǔ)模型真正走向 scaling。真機(jī)數(shù)據(jù)更像是高價(jià)值的對(duì)齊、驗(yàn)證和閉環(huán)迭代數(shù)據(jù)，而不是預(yù)訓(xùn)練階段最主要的規(guī)模來(lái)源。受限于采集成本、場(chǎng)景覆蓋和數(shù)據(jù)多樣性，僅僅依靠機(jī)器人在真實(shí)環(huán)境中的遙操和試錯(cuò)，很難獲得類似大語(yǔ)言模型預(yù)訓(xùn)練所需要的數(shù)據(jù)密度和分布廣度。

姜旭認(rèn)為，具身智能真正尚未被充分解鎖的，是互聯(lián)網(wǎng)尺度的人類運(yùn)動(dòng)、空間移動(dòng)和物理交互數(shù)據(jù)。就像語(yǔ)言模型從海量文本中學(xué)習(xí)世界知識(shí)和推理結(jié)構(gòu)，具身模型也需要從大規(guī)模物理世界數(shù)據(jù)中學(xué)習(xí)運(yùn)動(dòng)先驗(yàn)、空間理解、物體 affordance 和交互規(guī)律。換句話說(shuō)，具身智能的關(guān)鍵問(wèn)題不是“能不能再多采一些真機(jī)數(shù)據(jù)”，而是能不能找到一套可規(guī)模化的具身預(yù)訓(xùn)練方法，把物理世界中的行動(dòng)經(jīng)驗(yàn)轉(zhuǎn)化為模型能力。

沿著這套邏輯，他做出了幾個(gè)與主流路徑不完全相同的判斷。

親歷過(guò) GPT 系列從無(wú)人看好到引爆全球的全過(guò)程，他對(duì)這套方法論有一種近乎篤定的信心，并相信具身智能會(huì)沿著大模型走過(guò)的路徑再走一遍。他說(shuō)，他特別享受被質(zhì)疑、并最終被證明正確的那個(gè)過(guò)程。

以下是 DeepTech 和姜旭的對(duì)話。

我們已經(jīng)進(jìn)入了 Scaling 的階段

DeepTech：你現(xiàn)在在哪個(gè)城市？最近主要在忙什么？

姜旭：我現(xiàn)在主要在深圳，這里算是我們的大本營(yíng)。同時(shí)我們?cè)诒本┖托录悠乱灿醒邪l(fā)團(tuán)隊(duì)，希望能夠盡量吸引不同區(qū)域的人才。

圖丨亮源新創(chuàng)的深圳辦公室位于深圳灣后海（來(lái)源：受訪者）

創(chuàng)業(yè)其實(shí)永遠(yuǎn)都繞不開三件事：人、錢、事。只是不同階段，重心會(huì)不一樣。最開始差不多一年時(shí)間，我們主要還是在解決“事”和“人”。一方面是搭團(tuán)隊(duì)，另一方面是驗(yàn)證整個(gè)模型訓(xùn)練和算法研發(fā)的路徑，包括產(chǎn)品落地和模型應(yīng)用的方向。

過(guò)去一年，我們聚焦在驗(yàn)證整個(gè)技術(shù)路徑。因?yàn)閷?duì)于具身智能來(lái)說(shuō)，真正困難的是找到一條能夠像大語(yǔ)言模型一樣持續(xù) scaling 的路徑。過(guò)去幾個(gè)月，我們?cè)谶@件事上已經(jīng)探索出了清晰的方向，同時(shí)核心模塊現(xiàn)在也都有了比較成熟的負(fù)責(zé)人和體系。所以今年對(duì)我們來(lái)說(shuō)，會(huì)是一個(gè)從“探索”開始進(jìn)入“scaling”的階段。

DeepTech：這是你第一次正式接受媒體采訪嗎？之前有媒體發(fā)過(guò)你創(chuàng)業(yè)的消息，但你沒(méi)有回應(yīng)，我還以為你是不太喜歡和媒體打交道的人。

姜旭：算是第一次正式接受采訪。之前確實(shí)有過(guò)一篇關(guān)于我們的報(bào)道，但那篇并不是我們主動(dòng)對(duì)外講的，所以嚴(yán)格說(shuō)，這是第一次完整地把我們的事情講出來(lái)。

DeepTech：那為什么決定現(xiàn)在出來(lái)做一些曝光？

姜旭：每個(gè)人、每家公司的精力、帶寬、時(shí)間都是有限的。我做事情有一個(gè)強(qiáng)烈的傾向，就是在任何一段時(shí)間，我自己和整個(gè)公司會(huì)把大部分精力，聚焦在少數(shù)幾個(gè) ROI 最高的模塊和領(lǐng)域上。

在此之前我們首先要搞清楚的是要做什么，搭一個(gè)足夠強(qiáng)的團(tuán)隊(duì)。我們現(xiàn)在已經(jīng)到了準(zhǔn)備好要去 scale 的階段，接下來(lái)要做的事情，就是去 scale。并且要進(jìn)一步引入長(zhǎng)期資本和產(chǎn)業(yè)資源，把這件事情快速往下一階段推進(jìn)。

GPT-3 能說(shuō)出幾句完整的話，我們就很激動(dòng)

DeepTech：你在 OpenAI 四年，從 GPT-3 到 GPT-4，從 InstructGPT 到 ChatGPT。你剛加入的時(shí)候，團(tuán)隊(duì)多大？你被分到哪個(gè)組、做什么？

姜旭：我剛加入 OpenAI 的時(shí)候規(guī)模還很小，大概一百人左右。那個(gè)時(shí)候 OpenAI 還跟其他的 research lab 差不多，分成一個(gè)一個(gè)小的 team，team 之間沒(méi)有特別緊密的耦合和深度合作，每個(gè) team 都在做前沿學(xué)術(shù)和發(fā)表文章。但 OpenAI 的文化，在我在的整個(gè)期間，內(nèi)部始終是非常開放、自由的。

所以我很有幸，在 OpenAI 期間換過(guò)大概四五個(gè) team，在大語(yǔ)言模型這塊有一個(gè)全棧的經(jīng)歷。我基本上是從大語(yǔ)言模型最底層的 infra 做起，然后到中間的預(yù)訓(xùn)練差不多做了一到兩年，最后又花了一兩年時(shí)間做對(duì)齊。

我剛加入解決的第一個(gè)問(wèn)題，是 FP8，也就是 8 比特浮點(diǎn)數(shù)訓(xùn)練模型，這項(xiàng)技術(shù)今天已經(jīng)在所有前沿的大模型訓(xùn)練推理過(guò)程中被大范圍使用了。我差不多花了一年時(shí)間把它探索清楚。OpenAI 自己不做硬件，所以我們只是在算法層面把它探索清楚，會(huì)有一些推理上的效率提升，但對(duì)訓(xùn)練沒(méi)有本質(zhì)變化。訓(xùn)練如果想加速，還要從硬件層面原生去支持。我們當(dāng)時(shí)就把結(jié)果給了 NVIDIA，說(shuō)服了 NVIDIA 從 H100 系列開始，原生支持 FP8。

DeepTech：那個(gè)時(shí)候 GPT-3 是什么水平？

姜旭：我加入的時(shí)候，GPT-3 剛剛啟動(dòng)訓(xùn)練。那時(shí)候每?jī)芍荛_一次全員會(huì)，負(fù)責(zé) GPT-3 訓(xùn)練的團(tuán)隊(duì)，主要是 Dario 他們，會(huì)在會(huì)上分享訓(xùn)練進(jìn)展。當(dāng)時(shí)語(yǔ)言模型的水平，是 GPT-3 偶爾能說(shuō)出那么幾句完整的話，語(yǔ)法上沒(méi)有特別明顯的錯(cuò)誤，那個(gè)時(shí)候我們?nèi)珕T所有人都會(huì)非常激動(dòng)。

現(xiàn)在回顧一下，從我 2019 年加入到現(xiàn)在六七年時(shí)間，AI 技術(shù)真的是突飛猛進(jìn)，發(fā)生了翻天覆地的變化。

DeepTech：這些經(jīng)歷里，你印象最深的是哪一段？

姜旭：整個(gè) OpenAI 四年是一段極度壓縮的時(shí)間線，發(fā)生了太多的事情，做過(guò)的很多項(xiàng)目印象都非常深刻。

第一段就是 21 年初，Dario 他們走了之后，我加入新組的團(tuán)隊(duì)去做預(yù)訓(xùn)練。當(dāng)時(shí)的背景是，原本負(fù)責(zé)預(yù)訓(xùn)練的團(tuán)隊(duì)就是 Dario 他們，20 年底到 21 年初，他們陸續(xù)離開創(chuàng)立了 Anthropic。那是一個(gè)痛苦的分手過(guò)程，每周都有幾個(gè)熟悉的同事離職，剩下的人又普遍沒(méi)有預(yù)訓(xùn)練的經(jīng)驗(yàn)，大家心里還是有點(diǎn)慌的。 然后 Greg Brockman 帶隊(duì)組建了一個(gè)不到 10 人的團(tuán)隊(duì)去接手預(yù)訓(xùn)練。

圖丨姜旭在 OpenAI 任職期間拍攝于舊金山（來(lái)源：受訪者）

首先，那幾個(gè)月時(shí)間工作強(qiáng)度極大，我每天早上醒過(guò)來(lái)跟打了雞血一樣瘋狂地工作一直到半夜，Greg 甚至有時(shí)候會(huì)通宵寫代碼，第二天只睡一兩個(gè)小時(shí)再繼續(xù)工作，最后從數(shù)據(jù)到 infra 到優(yōu)化算法都發(fā)現(xiàn)了非常多的問(wèn)題，最終，折騰了好幾個(gè)月用了幾千卡，也沒(méi)有訓(xùn)出來(lái)好的模型效果。那是一個(gè)挺痛苦的迭代經(jīng)歷，不過(guò)預(yù)訓(xùn)練失敗在頭部大模型公司也并不罕見，我經(jīng)歷過(guò)的就有過(guò)兩次。

當(dāng)然，成功的預(yù)訓(xùn)練，肯定就是 GPT-4了，是預(yù)訓(xùn)練的集大成者，從模型架構(gòu)到優(yōu)化算法到 infra，都是超越時(shí)代的， GPT-4 最終完成訓(xùn)練的時(shí)間，甚至比我們一開始預(yù)計(jì)的還提前了很多。這種情況在大模型訓(xùn)練里并不常見，經(jīng)常都是一直延長(zhǎng)甚至最終也訓(xùn)練不出來(lái)。

還有一些項(xiàng)目，它的重要性最終是需要被時(shí)間證明的。

比如我們做的 InstructGPT，用人類反饋?zhàn)鰪?qiáng)化學(xué)習(xí)的 RLHF，是對(duì)齊算法的奠基工作。這個(gè)工作在 2021 年初剛完成的時(shí)候并沒(méi)有受到足夠的重視，因?yàn)楫?dāng)時(shí)的效果還不夠好，但后面算法的開發(fā)和數(shù)據(jù)迭代并沒(méi)有停止，最終它成為了 ChatGPT 訓(xùn)練里非常重要的一個(gè)環(huán)節(jié)。

大模型訓(xùn)練核心就是兩步，第一步預(yù)訓(xùn)練，第二步對(duì)齊，只有把對(duì)齊做好了，預(yù)訓(xùn)練的模型才會(huì)變得很好用。跟預(yù)訓(xùn)練不同的是，對(duì)齊需要的是逐步的迭代和提升，直到最終突破一個(gè)閾值。回頭看有一個(gè)深刻的領(lǐng)悟是，如果一個(gè)方向第一性原理上是正確的，就一定要堅(jiān)持做下去，一定能做成也一定要做成。

DeepTech：那 ChatGPT 的走紅呢？

姜旭：其實(shí) ChatGPT 發(fā)布的時(shí)候，OpenAI 內(nèi)部并沒(méi)有人真正意識(shí)到，整個(gè)世界會(huì)這么快發(fā)生變化。

當(dāng)時(shí)產(chǎn)品上線的時(shí)間點(diǎn)，正好趕上一個(gè)重要的 AI 學(xué)術(shù)會(huì)議（NeurIPS 2022），很多同事在新奧爾良參會(huì)。整個(gè)發(fā)布本身其實(shí)非常普通，完全沒(méi)有那種后來(lái)大家想象中的“歷史時(shí)刻”氛圍。它更像一次正常的產(chǎn)品上線。

但接下來(lái)的幾天，整個(gè)事情開始迅速發(fā)酵。

我印象特別深，一開始是零零散散有人在討論 ChatGPT。后來(lái)討論的人越來(lái)越多。再后來(lái)，整個(gè)會(huì)場(chǎng)幾乎所有人都在聊它。那種感覺很奇怪。你會(huì)突然意識(shí)到，一項(xiàng)原本只屬于 research lab 的技術(shù)，開始以一種失控的速度進(jìn)入現(xiàn)實(shí)世界。后來(lái)回到公司之后，大概連續(xù)一兩周，我每天打開 Twitter，整個(gè) feed 幾乎都被 ChatGPT 刷屏了。

但我后來(lái)回頭看，真正改變一切的，其實(shí)不只是模型能力本身。

GPT-3 時(shí)代，模型已經(jīng)非常強(qiáng)了，但那個(gè)階段的大模型更像一種“隱藏的 intelligence”—它存在，但普通人感受不到。更多還是研究人員和開發(fā)者在用 API、寫復(fù)雜的 prompt、做 demo。ChatGPT 第一次把這種智能變成了一種幾乎沒(méi)有學(xué)習(xí)門檻的產(chǎn)品。

用戶不需要理解技術(shù)原理，不需要學(xué)習(xí) prompt 工程，也不需要知道 transformer 是什么。你只需要像和另一個(gè)人說(shuō)話一樣，去跟它interact。

我后來(lái)意識(shí)到，一個(gè)很重要的事情是：很多時(shí)候，人對(duì) intelligence 的感知就取決于 interaction 的方式，獲取智能的容易程度是智能水平的核心體現(xiàn)。

錯(cuò)過(guò)了物理，趕上了 AI

DeepTech：既然你在 OpenAI 收獲這么多，為什么 2023 年會(huì)選擇離開？

姜旭：一個(gè)很重要的原因是，我一直更享受開創(chuàng)新范式的階段。我在 OpenAI 親歷了大模型從一個(gè)幾乎沒(méi)人相信的方向，逐漸變成改變整個(gè)世界的主流技術(shù)范式。那個(gè)過(guò)程對(duì)我影響非常大。

但 ChatGPT 爆發(fā)之后，我會(huì)明顯感覺到，大模型開始逐漸進(jìn)入一個(gè)“共識(shí)化”的階段。

技術(shù)路線越來(lái)越清晰，行業(yè)也開始快速 scale。很多問(wèn)題雖然仍然非常難，但它們?cè)絹?lái)越像工程和資源問(wèn)題，而不是新的范式問(wèn)題。我自己一直更想做的，是那種還沒(méi)有被真正解決、還沒(méi)有被行業(yè)形成共識(shí)的事情。

后來(lái)我花了很長(zhǎng)時(shí)間去思考，確認(rèn)具身智能就是這樣一個(gè)方向。我覺得今天的具身智能，很像 2019 年之前的大模型。行業(yè)里有很多探索，但還沒(méi)有真正找到那個(gè)能夠 scale intelligence 的核心路徑。

這件事對(duì)我來(lái)說(shuō)非常有吸引力。

DeepTech：為什么是 2023 年這個(gè)時(shí)間點(diǎn)？有什么契機(jī)嗎？

姜旭：ChatGPT 爆發(fā)之后，資本市場(chǎng)變得非常活躍，創(chuàng)業(yè)環(huán)境和氛圍變得很好，是有條件去創(chuàng)業(yè)、撬動(dòng)資本和資源做一件更大更有影響力的事情的。

其次，我在那個(gè)時(shí)間點(diǎn)就認(rèn)為大模型行業(yè)接下來(lái)要發(fā)生什么，相對(duì)來(lái)說(shuō)是比較明確和確定的。當(dāng)一個(gè)行業(yè)進(jìn)入這種高度確定性的狀態(tài)，個(gè)人在里面發(fā)揮的作用相對(duì)就會(huì)弱很多，更多是一個(gè)堆資源問(wèn)題，公司去 scale up 資源，去執(zhí)行既有的路線圖。所以大模型對(duì)我來(lái)說(shuō)就不再那么 exciting，不再有從 0 到 1 突破新范式的興奮和成就感。

DeepTech：問(wèn)一個(gè)稍微八卦的問(wèn)題，你離開 OpenAI 和 2023 年那些動(dòng)蕩有關(guān)系嗎？

姜旭：沒(méi)有，我是在那之前離開的。

DeepTech：你的本科和博士讀的都是物理。當(dāng)時(shí)為什么會(huì)進(jìn)入 AI 行業(yè)？

姜旭：我讀博士期間其實(shí)在物理學(xué)里做了大量嘗試，如果你看我發(fā)表的文章，早些年我發(fā)過(guò)各種方向的學(xué)術(shù)文章，跟我最后做的博士課題甚至都不相關(guān)。我確實(shí)是一個(gè)比較喜歡探索、嘗試新東西的人。

回顧起來(lái)，在整個(gè)探索的過(guò)程中，我一直在找一個(gè)真正有前途的方向。我覺得人生是要去坐一次火箭的，成功的職業(yè)生涯，一定要有機(jī)會(huì)經(jīng)歷一段爆發(fā)式的成長(zhǎng)。

我讀博士的時(shí)候很快發(fā)現(xiàn)一個(gè)問(wèn)題：對(duì)做物理學(xué)研究來(lái)說(shuō)，我可能晚出生了差不多一百年。物理學(xué)的黃金時(shí)間是 20 世紀(jì)初的那幾十年，在那段時(shí)間二流的物理學(xué)家都能做一流的工作。其實(shí)今天的 AI 領(lǐng)域也類似，遍地都是黃金，二流的選手也可以做一流的工作。

當(dāng)時(shí)我有一個(gè)很重要的觀察：科學(xué)里那些簡(jiǎn)單的規(guī)律，差不多到 20 世紀(jì)中葉都已經(jīng)被發(fā)現(xiàn)完了，剩下的都是硬骨頭，特別難啃。但這些遺留問(wèn)題有一個(gè)共同規(guī)律，都涉及到在大量復(fù)雜的數(shù)據(jù)里找 pattern，在高度非線性的現(xiàn)象上做擬合。但當(dāng)時(shí)我并沒(méi)有一個(gè)答案，不知道怎么解這類問(wèn)題。

直到 2016 年春天，AlphaGo 下圍棋的新聞鋪天蓋地，傳播得非常廣，那也是我人生第一次了解到深度學(xué)習(xí)這個(gè)技術(shù)。我馬上意識(shí)到，這不就是一個(gè)完美的技術(shù)來(lái)解科學(xué)里遺留的難題嗎？那時(shí)候我快要博士畢業(yè)了，就堅(jiān)定要往這個(gè)方向轉(zhuǎn)。

后來(lái)我開始自學(xué) Python 編程，自學(xué) machine learning，上的第一門課是吳恩達(dá)在 Coursera 上的公開課。我自學(xué)了一些東西，做了一些開源項(xiàng)目，比較容易地在硅谷找到了AI方向的第一份工作，一年之后又加入了 OpenAI。

DeepTech：你做物理出身，又想在大量數(shù)據(jù)里找 pattern，聽起來(lái)更像是該去做 AI for Science，為什么是去做大模型？

姜旭：你說(shuō)得很對(duì)，當(dāng)時(shí)進(jìn)入這個(gè)行業(yè)最大的驅(qū)動(dòng)力、最吸引我的，就是最終去解決那些科學(xué)問(wèn)題。那是出發(fā)點(diǎn)。

但 AI 能力的演進(jìn)是有一定的規(guī)律的。大模型的爆發(fā)是從數(shù)據(jù)量最多、數(shù)據(jù)最容易獲取的文本領(lǐng)域先開始的，之后才向各種其他領(lǐng)域擴(kuò)散。AI for science 今天正處在爆發(fā)的過(guò)程中， 很多細(xì)分方向已經(jīng)實(shí)現(xiàn)了突破或者處于突破的前夜。

另外，language 本身仍然是最重要的 backbone，它不僅僅是人類溝通的媒介，同時(shí)也是人思考、推理的非常重要的媒介，科學(xué)最終還是要構(gòu)建在人類推理基礎(chǔ)之上。

DeepTech：那為什么最后又選擇去做機(jī)器人？

姜旭：我離開 OpenAI 是要去實(shí)現(xiàn)一件影響力更大的事。選擇機(jī)器人這個(gè)方向有幾點(diǎn)原因。

首先，機(jī)器人背后代表的其實(shí)是 physical AGI，是 AGI 非常重要的一部分，是其中的一半。如果能解鎖 physical AGI、通用機(jī)器人，這件事的經(jīng)濟(jì)價(jià)值和歷史意義都非常重大，是一個(gè)足夠大、足夠有趣的問(wèn)題。

其次，我剛離開 OpenAI 的時(shí)候，對(duì)機(jī)器人這個(gè)方向了解得不夠多。后來(lái)我花了一段時(shí)間去思考和學(xué)習(xí)，最終發(fā)現(xiàn)這件事的本質(zhì)，跟我之前解過(guò)的所有大模型問(wèn)題沒(méi)有差異。

它本質(zhì)上就是一個(gè)多模態(tài)模型的問(wèn)題。把機(jī)器人的輸入和輸出，都通過(guò)多模態(tài)模型數(shù)據(jù)表征的方式去處理，那機(jī)器人的問(wèn)題馬上就轉(zhuǎn)變成一個(gè)多模態(tài)問(wèn)題。多模態(tài)模型怎么訓(xùn)練、怎么 scale，這些都是已經(jīng)被充分研究過(guò)的問(wèn)題。從第一性原理上，這個(gè)問(wèn)題在我看來(lái)是必然可解的。

正因?yàn)槿绱耍蚁嘈抛约哼^(guò)去在大模型領(lǐng)域豐富的經(jīng)歷和背景，會(huì)為具身這個(gè)領(lǐng)域帶來(lái)獨(dú)特的價(jià)值。

DeepTech：從離開 OpenAI 到正式創(chuàng)業(yè)，中間將近一年。這段時(shí)間你在干什么？

姜旭：那段時(shí)間就是在思考和迭代方向。剛離開的時(shí)候，腦海里有幾個(gè)我覺得值得做的想法。對(duì)我來(lái)說(shuō)比較自然的，是繼續(xù)做大模型，我在這個(gè)方向上也做過(guò)一些探索和嘗試。

但最終我得出一個(gè)結(jié)論：在純模型的賽道里，我很難找到一件足夠大、足夠有趣，并且頭部模型公司不會(huì)做、或者我有絕對(duì)優(yōu)勢(shì)的事情。

按我對(duì)技術(shù)演進(jìn)趨勢(shì)的理解，模型的能力邊界會(huì)無(wú)限拓展，頭部模型公司的業(yè)務(wù)邊界也會(huì)無(wú)限拓展，所以終極狀態(tài)下，模型就是端到端去滿足人所有的服務(wù)和內(nèi)容需求，人把需求給到模型，模型把人需要的服務(wù)或內(nèi)容返回回來(lái)。中間可能就沒(méi)有特別多創(chuàng)業(yè)公司的大機(jī)會(huì)。

所以當(dāng)時(shí)一個(gè)很重要的思考是：我要做的事情里一定要有一些部分是這些模型公司不擅長(zhǎng)的。那就一定要帶上供應(yīng)鏈和硬件，這是中國(guó)獨(dú)特的優(yōu)勢(shì)，所有的模型公司都不太具備這方面的基因。

DeepTech：這個(gè)結(jié)論是你自己獨(dú)自思考得出的，還是也從別人那里得到了什么啟發(fā)？

姜旭：首先我有一個(gè)自己的直覺。有了這樣一個(gè)直覺和方向感之后，就會(huì)做很多 research，然后去找這個(gè)行業(yè)里最頂尖的 researcher 交流和自己去研究，最終形成結(jié)論。

我一開始離開 OpenAI 之后直接回國(guó)了，2023 年底又重新回到美國(guó)，跟當(dāng)時(shí)最頂尖的 robotics 領(lǐng)域的一些 researcher 交流，像 Google、伯克利、斯坦福的一些人。很難說(shuō)是某一個(gè)非常具體的人，更多的是我對(duì)這件事有一套自己的認(rèn)知框架，框架里有一些當(dāng)時(shí)感覺比較模糊的地方，我去研究和跟這些人聊，再去確認(rèn)那些點(diǎn)。

大部分公司都在重復(fù)苦澀的教訓(xùn)

DeepTech：那現(xiàn)在讓我們聊聊你所選擇的這條路，大語(yǔ)言模型成功，是因?yàn)檎业搅艘?guī)模化壓縮語(yǔ)言的方式。在具身智能領(lǐng)域，對(duì)應(yīng)的突破是什么？物理世界的行為怎么變成可以規(guī)模化訓(xùn)練的數(shù)據(jù)？

姜旭：具身智能的突破，會(huì)跟大語(yǔ)言模型非常類似。大語(yǔ)言模型最關(guān)鍵的點(diǎn)是壓縮了全人類互聯(lián)網(wǎng)的文本數(shù)據(jù)，也就是伊利亞說(shuō)的壓縮即智能。

我在創(chuàng)業(yè)之前想清楚的，是架構(gòu)層面的事情：機(jī)器人問(wèn)題本質(zhì)上是一個(gè)多模態(tài)模型問(wèn)題，這是架構(gòu)層面的時(shí)代延續(xù)性。這個(gè)時(shí)代的大主題，就是用同樣一套框架、同樣一套方法論，去一個(gè)一個(gè)突破垂直的模態(tài)，從文本到語(yǔ)音到視頻到圖像。對(duì)具身智能來(lái)說(shuō)，這是一個(gè)比較自然的延續(xù)。

但里面有一個(gè)核心問(wèn)題：這套框架到底怎么用到具身智能領(lǐng)域。更具體的最核心的問(wèn)題是，用什么樣的數(shù)據(jù)來(lái)預(yù)訓(xùn)練模型。這也是我們創(chuàng)業(yè)第一年最核心去探索的問(wèn)題。最終我們得到的答案，跟大語(yǔ)言模型非常類似：最 scalable 的方式，就是去模仿、去壓縮互聯(lián)網(wǎng)級(jí)別的人類視頻里的 human actions。

DeepTech：你在 OpenAI 做的是預(yù)訓(xùn)練和 RLHF。現(xiàn)在做這件事，這套思路具體怎么平移？哪些直接能用，哪些得重新發(fā)明？

姜旭：這需要先回顧一下大模型整個(gè)訓(xùn)練的路徑。過(guò)去幾年大模型爆發(fā)以來(lái)，主要出現(xiàn)了三次范式級(jí)別的創(chuàng)新。

第一次是預(yù)訓(xùn)練，你可以把它想象成完成了知識(shí)的壓縮。其次，在預(yù)訓(xùn)練模型的基礎(chǔ)上做對(duì)齊，有點(diǎn)像知識(shí)的提取。只有這兩步都完成，模型才足夠聰明、足夠泛化、足夠好用，對(duì)齊核心解決的是好用這個(gè)問(wèn)題。最后，差不多一兩年前出現(xiàn)了 reasoning，賦予了模型深度思考的能力。

對(duì)應(yīng)到具身智能領(lǐng)域，我們首先要解決的就是知識(shí)壓縮的問(wèn)題。這是這個(gè)領(lǐng)域里到目前為止很多公司都沒(méi)有解決好的一點(diǎn)：當(dāng)模型能力不夠強(qiáng)的時(shí)候，它到底是預(yù)訓(xùn)練的瓶頸，還是對(duì)齊的瓶頸？相對(duì)應(yīng)地，我們到底是要解決知識(shí)壓縮的問(wèn)題，還是知識(shí)提取的問(wèn)題？

我認(rèn)為大部分公司都在走彎路。具身智能正在經(jīng)歷自己的 bitter lessons，大部分公司正在重復(fù) NLP 當(dāng)年的彎路，都聚焦在了知識(shí)提取這一步，跳過(guò)了預(yù)訓(xùn)練，直接在做對(duì)齊。所以我們核心要為這個(gè)領(lǐng)域貢獻(xiàn)和解決的，就是人類行為的壓縮。這個(gè)壓縮是通過(guò)預(yù)訓(xùn)練完成的，在以人類為中心的數(shù)據(jù)上，把人類的數(shù)據(jù)壓縮進(jìn)預(yù)訓(xùn)練的模型里。

DeepTech：說(shuō)到數(shù)據(jù)，你們預(yù)訓(xùn)練的數(shù)據(jù)主要來(lái)源是哪里？

姜旭：我們主要使用了互聯(lián)網(wǎng)規(guī)模的人類動(dòng)作數(shù)據(jù)。

DeepTech：有觀點(diǎn)認(rèn)為，純互聯(lián)網(wǎng)視頻有一些問(wèn)題是完全無(wú)法解決的，還需要真機(jī)數(shù)據(jù)等其他數(shù)據(jù)來(lái)補(bǔ)充。你怎么看？

姜旭：這是一個(gè)非常好的問(wèn)題。大模型能 work，一定是需要兩步：通過(guò)互聯(lián)網(wǎng)數(shù)據(jù)完成知識(shí)的壓縮，再通過(guò)后訓(xùn)練完成知識(shí)的提取。對(duì)于知識(shí)壓縮這一步，只有互聯(lián)網(wǎng)數(shù)據(jù)才有可能完成。

但僅僅用互聯(lián)網(wǎng)數(shù)據(jù)做預(yù)訓(xùn)練是不夠的。互聯(lián)網(wǎng)數(shù)據(jù)的好處是量非常大、足夠便宜，能覆蓋到各種各樣的長(zhǎng)尾場(chǎng)景、各種 corner case；它的壞處也是這個(gè)，里面有各種各樣不真實(shí)的數(shù)據(jù)、噪音、錯(cuò)誤的數(shù)據(jù)。這些問(wèn)題，一定要通過(guò)高質(zhì)量的后訓(xùn)練數(shù)據(jù)才能消除掉。所以一定是這兩個(gè)結(jié)合起來(lái)。

這條路徑的核心優(yōu)勢(shì)在于：如果你的預(yù)訓(xùn)練做得足夠好，你就不需要那么多真機(jī)數(shù)據(jù)來(lái)做對(duì)齊，最終也能訓(xùn)練出一個(gè)足夠通用和強(qiáng)大的模型。

我舉個(gè)例子，在 ChatGPT 的整個(gè)訓(xùn)練流程里，預(yù)訓(xùn)練階段我們用到幾萬(wàn)億個(gè) token，后訓(xùn)練實(shí)際上只用到了不到 10 億個(gè) token，中間差了好幾個(gè)數(shù)量級(jí)。這也是今天這個(gè)領(lǐng)域大部分已有玩家沒(méi)想清楚、沒(méi)解決好的問(wèn)題，大家都在后訓(xùn)練階段、在真機(jī)數(shù)據(jù)上做了非常多的工作。

DeepTech：互聯(lián)網(wǎng)數(shù)據(jù)質(zhì)量參差不齊，數(shù)據(jù)清洗是不是這里面很重要的一部分？

姜旭：對(duì)，使用互聯(lián)網(wǎng)數(shù)據(jù)一個(gè)核心的挑戰(zhàn)，就是數(shù)據(jù)的清洗和處理。

我自己在 OpenAI 期間也部分參與過(guò)預(yù)訓(xùn)練模型的文本數(shù)據(jù)處理，所以我知道這件事的重要性和復(fù)雜程度。而且很關(guān)鍵的是，我知道，是有可能通過(guò)一套方法，把非常復(fù)雜、噪音很大的數(shù)據(jù)處理好，變成可用的數(shù)據(jù)的。我們把同樣的思想和方法用到了視頻數(shù)據(jù)上面。

這也是我們過(guò)去一年探索出新范式過(guò)程中很重要的一個(gè)里程碑，其中差不多有一半甚至更多的精力，都花在研發(fā)數(shù)據(jù)處理和清洗的管線上，這是一個(gè)非常復(fù)雜的過(guò)程。

DeepTech：這算是你們的一個(gè)獨(dú)特壁壘嗎？

姜旭：可以這么說(shuō)。它需要足夠強(qiáng)的人，足夠多的 know-how，再花足夠多的時(shí)間和成本在上面，才能把它做好。

DeepTech：那么在模型架構(gòu)上你們做了什么選擇？比如 Physical Intelligence（Pi）用的是 flow matching，也有其他用自回歸的。你們走的是哪條路？

姜旭：我先說(shuō)一個(gè)判斷。我認(rèn)為具身大腦整個(gè)的框架應(yīng)該跟今天 agent 采用的框架比較類似：底層有多個(gè)模型去具體執(zhí)行，頂層是一套 model harness 的框架，把這些模型合理地組織、串起來(lái)。最底層的模型都是端到端的模型。所以我們訓(xùn)練的是端到端的模型。

我們其實(shí)更把具身 foundation model 看成一種面向物理世界的多模態(tài)大模型。它學(xué)習(xí)的不只是語(yǔ)言，而是視覺、動(dòng)作、交互以及真實(shí)世界中的連續(xù)行為。

從行業(yè)目前的發(fā)展來(lái)看，真正 scalable 的路線大致還是兩類：自回歸（autoregressive）和 flow matching。我們會(huì)把自回歸更多理解成一種對(duì)大規(guī)模時(shí)序行為數(shù)據(jù)的壓縮與表征學(xué)習(xí)，而 flow matching 更接近連續(xù)動(dòng)作空間里的生成建模。兩者對(duì)應(yīng)的是不同的 inductive bias。

現(xiàn)在行業(yè)里采用 flow matching 的團(tuán)隊(duì)會(huì)更多一些，但并不是某一種架構(gòu)絕對(duì)最優(yōu)，純自回歸本身完全是可以成立的。

我們內(nèi)部其實(shí)兩條路線都已經(jīng)跑通了。現(xiàn)階段會(huì)更多聚焦在自回歸上，因?yàn)樗诖笠?guī)模預(yù)訓(xùn)練階段訓(xùn)練效率更高，也更適合快速 scale。

但坦白講，我們并不認(rèn)為模型架構(gòu)本身是這個(gè)階段最核心的壁壘。對(duì)具身智能來(lái)說(shuō)，更關(guān)鍵的問(wèn)題還是數(shù)據(jù)，尤其是大規(guī)模預(yù)訓(xùn)練數(shù)據(jù)。我們現(xiàn)在更核心的事情，其實(shí)是先用一套相對(duì)簡(jiǎn)單、穩(wěn)定、已經(jīng)被驗(yàn)證 scalable 的架構(gòu)，把數(shù)據(jù)規(guī)模和行為覆蓋度真正做起來(lái)。

DeepTech：自回歸有一些弊端，比如精度損失、推理速度慢。這些怎么解決？

姜旭：這里面很多問(wèn)題，其實(shí)并不是自回歸本身的問(wèn)題。像精度損失、訓(xùn)練不穩(wěn)定這些，更多還是一些關(guān)鍵算法細(xì)節(jié)沒(méi)有真正做好。包括 tokenization、長(zhǎng)時(shí)序建模、訓(xùn)練策略這些，大模型領(lǐng)域其實(shí)已經(jīng)積累了很多成熟經(jīng)驗(yàn)，都是我們?cè)?jīng)反復(fù)解決過(guò)多次的問(wèn)題。

推理速度也是類似的。現(xiàn)在很多 flow matching 模型之所以顯得更快，一個(gè)很重要的原因是它的 action head 還比較小，本質(zhì)上還沒(méi)有進(jìn)入真正 scale 的階段。未來(lái)如果具身模型繼續(xù)往更大規(guī)模發(fā)展，推理優(yōu)化最終還是會(huì)變成一個(gè)非常系統(tǒng)性的工程問(wèn)題。

而且我們覺得，自回歸還有一個(gè)很大的優(yōu)勢(shì)，就是它能夠天然繼承整個(gè) foundation model 領(lǐng)域過(guò)去幾年積累下來(lái)的技術(shù)紅利。無(wú)論是計(jì)算效率、長(zhǎng)程記憶、RL 范式，還是整個(gè)訓(xùn)練基礎(chǔ)設(shè)施，其實(shí)都已經(jīng)非常成熟了。

所以我們現(xiàn)在更核心的事情，還是先把數(shù)據(jù)規(guī)模、預(yù)訓(xùn)練和真實(shí)世界交互真正做起來(lái)。

DeepTech：我了解到你們的模型是跨本體的，目前實(shí)際跑通了哪幾種形態(tài)？

姜旭：先解釋一下，因?yàn)槲覀兊哪Ｐ湍７碌氖侨祟惖膭?dòng)作，壓縮的是 human actions，而 human 是一個(gè)非常高自由度、動(dòng)作非常豐富的本體。以這樣的本體為基礎(chǔ)，我們事實(shí)上可以把人體做出來(lái)的各種動(dòng)作，map 到各種其他形態(tài)的硬件本體上。

到目前為止，我們有兩款全自研的硬件本體，一款人形機(jī)器人，另一款是自由度低很多的輪式產(chǎn)品，都可以搭載我們的模型，我們也嘗試過(guò)宇樹的本體。如果是一個(gè)低自由度的本體，我們就把人體的動(dòng)作做一個(gè)更低自由度的近似就可以了。舉個(gè)例子，我們最終實(shí)現(xiàn)了人在物理世界里通用的行動(dòng)能力、take action 的能力之后，可以把它簡(jiǎn)化成人的重心點(diǎn)的移動(dòng)，這時(shí)候出來(lái)的就相當(dāng)于是一個(gè)移動(dòng)模型。

DeepTech：你提到你們實(shí)現(xiàn)了初步的 scaling，這個(gè)“初步”具體是什么情況？

姜旭：我們目前所處的研發(fā)階段，如果對(duì)標(biāo) OpenAI 的 GPT 系列，相當(dāng)于是 GPT-2.5 的水平。這個(gè)對(duì)標(biāo)有兩個(gè)層面的意義。

第一個(gè)層面，直接從數(shù)據(jù)量上看，我們現(xiàn)在的數(shù)據(jù)量已經(jīng)超過(guò)了當(dāng)年 GPT-2 訓(xùn)練用的數(shù)據(jù)體量，模型大小也比 GPT2 稍微大一些。當(dāng)然模型大小在這個(gè)階段對(duì)我們來(lái)說(shuō)不那么關(guān)鍵，因?yàn)樵趺?scale 模型，這件事在大模型領(lǐng)域已經(jīng)解過(guò)了，核心是沒(méi)有人解過(guò)怎么 scale 具身的數(shù)據(jù)。

第二個(gè)層面，從我們目前能實(shí)現(xiàn)的、從數(shù)據(jù)處理到模型訓(xùn)練的整條管線來(lái)看，我們已經(jīng)能做到：隨機(jī)拿來(lái)一段視頻數(shù)據(jù)，只要里面有人，就可以把它變成我們的訓(xùn)練數(shù)據(jù)源，能有效地從視頻里學(xué)習(xí)到人的運(yùn)動(dòng)信息、視覺信息。

DeepTech：那離上限還有多遠(yuǎn)？

姜旭：我們算過(guò)按這個(gè)路徑最終能達(dá)到的上限。我們?cè)跀?shù)據(jù)量上還可以擴(kuò)充好幾個(gè)數(shù)量級(jí)，差不多有四個(gè)數(shù)量級(jí)的擴(kuò)充空間。從 GPT-2 到 GPT-4，數(shù)據(jù)上差不多是擴(kuò)充了三個(gè)數(shù)量級(jí)。所以相信我們的模型能力還會(huì)有多次質(zhì)的飛躍。

DeepTech：到了那個(gè)數(shù)量級(jí)的上限，就足以實(shí)現(xiàn)通用能力了嗎？

姜旭：我相信到那個(gè)級(jí)別，就足以實(shí)現(xiàn)初步的通用機(jī)器人。對(duì)標(biāo) GPT 系列，應(yīng)該至少能達(dá)到 GPT-3.5 那種初步可用的狀態(tài)。

核心原因是，今天我們訓(xùn)練出來(lái)的模型，指令追隨能力已經(jīng)表現(xiàn)得不錯(cuò)了，已經(jīng)遠(yuǎn)遠(yuǎn)超過(guò)我們當(dāng)年訓(xùn)練 GPT-3 時(shí)的狀態(tài)。我們那時(shí)候看到能說(shuō)幾句完整的話、語(yǔ)法上沒(méi)有明顯錯(cuò)誤，就很興奮了。在這個(gè)基礎(chǔ)上再有四個(gè)數(shù)量級(jí)的提升空間，我相信一定會(huì)有一個(gè)運(yùn)動(dòng)智能、具身智能上的飛躍。按照 GPT系列對(duì)模型版本迭代的定義，每一代模型要比上一代強(qiáng)一百倍，那提升四個(gè)數(shù)量級(jí)，差不多能實(shí)現(xiàn)兩代模型的迭代。

DeepTech：我聽說(shuō)，在你們看來(lái)，物理世界的運(yùn)動(dòng)泛化可能比語(yǔ)言泛化容易很多。這個(gè)結(jié)論你們是怎么得出來(lái)的？

姜旭：Scaling law是我們研究怎么 scale 模型的一個(gè)很重要的工具，它核心講的是模型能力會(huì)隨著數(shù)據(jù)量、訓(xùn)練算力的投入和模型大小確定性地變化。這三條趨勢(shì)線是直線，就會(huì)有斜率。我們目前看到的是，具身的斜率可能比語(yǔ)言的斜率還要大一些。這是一個(gè)非常有意思的發(fā)現(xiàn)，意味著這個(gè)問(wèn)題可能比語(yǔ)言要簡(jiǎn)單一些。

另外一個(gè)是自然進(jìn)化的例證。掌握了高級(jí)語(yǔ)言能力的只有人類，但其他所有動(dòng)物都具備運(yùn)動(dòng)的能力，具備跟物理世界交互、改變物理世界的能力。說(shuō)白了，連螞蟻都有一個(gè)夾爪，可以做 pick and place。所以，這件事可能沒(méi)有語(yǔ)言那么難。

DeepTech：這個(gè)結(jié)論還挺反共識(shí)的。之前看到的很多說(shuō)法，都是說(shuō)真實(shí)世界的泛化更難。

姜旭：我認(rèn)為今天大家覺得它反共識(shí)，一個(gè)很重要的原因是，大家做的方式可能都不對(duì)，沒(méi)有真的領(lǐng)會(huì)大模型那套思想方法論的精髓。

過(guò)去三年，整個(gè)具身智能賽道一個(gè)很重要的進(jìn)展，是大家逐漸形成共識(shí)，要采用大模型那套思路。但這里面有一個(gè)很大的 gap：很多創(chuàng)始人、很多團(tuán)隊(duì)之前沒(méi)有做過(guò)大模型，在認(rèn)知層面、knowhow 層面有一些誤區(qū)，誤解了大模型里一些很核心的點(diǎn)。很多團(tuán)隊(duì)在這方面是有知識(shí)盲區(qū)的。

DeepTech：感覺你對(duì)這個(gè)判斷很有自信。

姜旭：因?yàn)槲易约涸诖竽Ｐ头较蜃鲞^(guò)太多項(xiàng)目，有成功的，也踩過(guò)很多坑。我在 OpenAI 四年，也見過(guò)太多周圍的同事用類似的思想方法論去解其他領(lǐng)域的問(wèn)題。這整個(gè)過(guò)程，幫我建立起了對(duì)這條技術(shù)路線非常深刻的審美。

DeepTech：那你覺得這個(gè)判斷會(huì)被質(zhì)疑嗎？我個(gè)人覺得，這篇文章發(fā)出來(lái)之后，可能會(huì)有不少人質(zhì)疑你。

姜旭：可能會(huì)吧，但我其實(shí)特別享受被質(zhì)疑、且最終被證明是正確的這樣一個(gè)過(guò)程。

DeepTech：你會(huì)怎么看待這些質(zhì)疑？

姜旭：我可以分享一段我的經(jīng)歷。我剛加入 OpenAI 的前兩周，讀的第一篇 paper 就是 Scaling Law 那篇，當(dāng)時(shí)還是 draft，還沒(méi)發(fā)表出來(lái)。我讀完大受震撼，很確信我趕上了一次技術(shù)革命。

By the way，我一直覺得自己的技術(shù) taste 還是比較不錯(cuò)的，在一個(gè)技術(shù)早期的時(shí)候，我就能比較精準(zhǔn)地看到它的未來(lái)和潛力。那個(gè)時(shí)候 OpenAI 在外界看起來(lái)還是一家比較奇怪的公司，但內(nèi)部其實(shí)已經(jīng)發(fā)生了翻天覆地的變化，外界并不知道。我出去跟別人聊天，經(jīng)常有人問(wèn)我 OpenAI 是做什么的，我說(shuō) OpenAI 是要去做 AGI 的。這個(gè)時(shí)候我會(huì)看著對(duì)方的眼神，通常對(duì)方的眼神和表情傳達(dá)出來(lái)的是質(zhì)疑，仿佛在說(shuō)，這是一家騙子公司。

我是很享受這個(gè)過(guò)程的。大模型被證實(shí)了，這家公司做的事情也被證實(shí)了。

我覺得最終有價(jià)值的事情，都是要反共識(shí)且正確，be contrarian and right。如果是一件強(qiáng)共識(shí)的事情，它的相對(duì)價(jià)值要小很多。這也是為什么我在 2023 年那個(gè)時(shí)間點(diǎn)選擇離開 OpenAI，我認(rèn)為那個(gè)時(shí)候大模型已經(jīng)變成一件強(qiáng)共識(shí)的事了。

交互會(huì)重新定義機(jī)器人

DeepTech：你認(rèn)為具身智能的終局是什么？

姜旭：我覺得很多人現(xiàn)在理解具身智能，還是一種“替代人”的邏輯。比如掃地、做飯、搬東西，本質(zhì)上還是在復(fù)刻人已經(jīng)會(huì)做的事情。但我覺得具身智能真正有意思的地方，是很多新的能力和價(jià)值，可能會(huì)從長(zhǎng)期 interaction 里自然長(zhǎng)出來(lái)。

前提是，它得先真正進(jìn)入現(xiàn)實(shí)世界。

而這背后最核心的問(wèn)題，其實(shí)還是：怎么 scale intelligence。可以這么理解，大模型這幾年真正成功的地方，本質(zhì)上是第一次把很多技術(shù)用一個(gè)正確的順序組合了起來(lái)。先通過(guò)預(yù)訓(xùn)練，在全互聯(lián)網(wǎng)數(shù)據(jù)上完成大規(guī)模的模仿學(xué)習(xí)；之后再通過(guò)強(qiáng)化學(xué)習(xí)、對(duì)齊、reasoning，把這些能力一步一步真正釋放出來(lái)。

很多過(guò)去失敗的探索，并不是算法本身錯(cuò)了，而是順序錯(cuò)了。在預(yù)訓(xùn)練這套范式真正被走通之前，很多 AGI 的探索其實(shí)都集中在強(qiáng)化學(xué)習(xí)，前大模型時(shí)代的 NLP 本質(zhì)上在做對(duì)齊。

今天具身智能領(lǐng)域，其實(shí)也很像那個(gè)階段。真機(jī)數(shù)據(jù)、遙操、真機(jī)強(qiáng)化學(xué)習(xí)這些方向當(dāng)然有價(jià)值，但它們更適合“后訓(xùn)練”。這個(gè)行業(yè)到今天為止，其實(shí)還沒(méi)有真正解決“具身預(yù)訓(xùn)練”這個(gè)問(wèn)題。

缺少一個(gè)足夠強(qiáng)的預(yù)訓(xùn)練基座，模型就很難真正獲得對(duì)物理世界的泛化理解，也很難長(zhǎng)期在真實(shí)世界里持續(xù)移動(dòng)、觀察、interaction。

真正大的變化，會(huì)發(fā)生在這之后。當(dāng) intelligence 能夠長(zhǎng)期存在于現(xiàn)實(shí)世界，并持續(xù) interaction，它會(huì)逐漸形成對(duì)環(huán)境、對(duì)人、對(duì)生活本身的理解。很多今天還不存在的 intelligence、interaction，甚至新的價(jià)值形態(tài)，可能都會(huì)從這里開始出現(xiàn)。

DeepTech：那這個(gè)終局，跟人的關(guān)系會(huì)是什么樣的？

姜旭：從能力演進(jìn)的角度，我覺得具身智能最后會(huì)和大語(yǔ)言模型很像。它會(huì)先去模仿人，然后逐漸超越人的能力。今天的代碼模型，已經(jīng)能看到非常明顯的跡象了，它已經(jīng)不只是輔助人寫代碼，而是在進(jìn)入一種新的協(xié)作狀態(tài)。具身智能以后也會(huì)是類似的過(guò)程。

但我覺得更重要的一點(diǎn)是，當(dāng)具身智能長(zhǎng)期存在于真實(shí)世界里，長(zhǎng)期和人共享空間、共享環(huán)境，這里最關(guān)鍵的變化是：interaction 的時(shí)間尺度變了。

當(dāng) interaction 從幾秒鐘的一次調(diào)用，變成長(zhǎng)期共存之后，它和人的關(guān)系也會(huì)發(fā)生本質(zhì)變化。它不再只是“執(zhí)行一個(gè)任務(wù)”，而會(huì)開始逐漸理解人的習(xí)慣、環(huán)境的變化、空間里的隱含規(guī)律，慢慢形成一種對(duì)真實(shí)世界的“具身直覺”（embodied intuition）。

到那個(gè)時(shí)候人和 AI 可能會(huì)一起創(chuàng)造出很多過(guò)去根本不存在的新價(jià)值、新行為，甚至新的生活方式。

DeepTech：要實(shí)現(xiàn)你說(shuō)的這種機(jī)器人，它需要具備哪些能力？怎么排優(yōu)先級(jí)？

姜旭：整個(gè)大模型的研發(fā)思路，并不是從需求出發(fā)去倒推說(shuō)我們要做什么，它是反過(guò)來(lái)的，是從數(shù)據(jù)紅利出發(fā)。我們看這個(gè)世界上存在最大量的數(shù)據(jù)是什么，就從這些數(shù)據(jù)里把它蘊(yùn)含的豐富信息做一個(gè)深度挖掘，這是大模型范式的本質(zhì)。

所以沿著我們的思路，首先是能夠全面地模仿和學(xué)習(xí)人的各種各樣的能力，這取決于現(xiàn)有的存量數(shù)據(jù)里包含了哪些人的行為和動(dòng)作。

關(guān)于技術(shù)演進(jìn)的路徑，我們跟這個(gè)領(lǐng)域有一些不太一樣的觀點(diǎn)。我認(rèn)為最開始能夠解鎖出來(lái)的，是通用移動(dòng)的能力，是 mobility。它會(huì)最先在模型能力上突破，并且能最快形成商業(yè)閉環(huán)、最快商用。下一步才是通用 manipulation，模型能力上才足夠強(qiáng)，并找到合適的應(yīng)用落地場(chǎng)景，形成商業(yè)閉環(huán)。順序上是先通過(guò) mobility，讓具身智能安全地進(jìn)入物理世界，下一步再去談如何用技能改變物理世界。

mobility 和 manipulation 這兩個(gè)，對(duì)應(yīng)到大語(yǔ)言模型的發(fā)展歷史，相當(dāng)于是 language 和 coding 之間的關(guān)系。一開始 language 的存量數(shù)據(jù)最大，能力上率先突破，找到一個(gè)合適的產(chǎn)品形態(tài)，就是 ChatGPT。隨著模型研發(fā)的進(jìn)展、language 能力的提升以及 coding 本身能力的提升，最終才解鎖出 Claude Code 和 Codex 這種全新的產(chǎn)品形態(tài)，大規(guī)模發(fā)揮經(jīng)濟(jì)價(jià)值。

DeepTech：也有點(diǎn)像人類，先從爬行、走路開始，再去學(xué)各種能力。

姜旭：對(duì)，它首先要能在開放的物理世界里安全地移動(dòng)。

DeepTech：你之前在小紅書上提到你們最初的產(chǎn)品要先做一些好玩的東西，那么第一款產(chǎn)品具體會(huì)是什么樣的？

姜旭：我覺得“好玩”其實(shí)是一個(gè)很重要的詞。因?yàn)楹芏嗳藭?huì)默認(rèn)，機(jī)器人最重要的是“完成任務(wù)”。但如果你回頭看大模型的發(fā)展過(guò)程，會(huì)發(fā)現(xiàn)真正讓 AI 爆發(fā)的，其實(shí)并不是一開始就去解決生產(chǎn)力問(wèn)題，而是 interaction。

ChatGPT 最早改變世界，也不是因?yàn)樗忍嫒送瓿闪耸裁磸?fù)雜工作，而是它第一次讓大規(guī)模用戶開始自然地和 AI 交互。具身智能很多新的能力和價(jià)值，未必是一開始被設(shè)計(jì)出來(lái)的，而可能是在長(zhǎng)期與人共存和交互中長(zhǎng)出來(lái)的。所以我們第一代產(chǎn)品從能力上來(lái)說(shuō)，它會(huì)具備通用的 mobility，以及通用的思考和 interaction 能力。

DeepTech：會(huì)是之前一些報(bào)道提到的那種陪伴型機(jī)器人嗎？

姜旭：“陪伴”本身并不是一種產(chǎn)品類型，它更像是長(zhǎng)期共存和交互之后自然產(chǎn)生的一種結(jié)果、一種情緒上的價(jià)值。但我們真正感興趣的，并不只是情感價(jià)值。

更重要的是，當(dāng) intelligence 開始長(zhǎng)期存在于真實(shí)世界，并持續(xù) interaction 之后，它會(huì)不會(huì)開始產(chǎn)生很多額外的新價(jià)值。因?yàn)槿绻阕屑?xì)觀察，人類在現(xiàn)實(shí)世界里絕大部分時(shí)間，其實(shí)都不是在“操作”。更多時(shí)候，我們是在移動(dòng)、觀察、思考。

按照之前的推演，我們會(huì)把率先能夠解鎖出來(lái)的移動(dòng)能力去商業(yè)化，讓機(jī)器人能夠在物理世界里面主動(dòng)地移動(dòng)、觀察和交互，把數(shù)字世界的 agent 延伸到物理世界，實(shí)現(xiàn) embodied agent。

DeepTech：我感覺現(xiàn)在不少人對(duì)你們的了解，可能還停留在“陪伴機(jī)器人”上。

姜旭：我們本質(zhì)上還是一家基模公司，只不過(guò)做的是具身基礎(chǔ)模型。基模賽道有一種說(shuō)法叫做“模型即是產(chǎn)品”，在具身領(lǐng)域應(yīng)該是基模+硬件本體就是產(chǎn)品，未來(lái)我們的模型會(huì)有各種形態(tài)的“殼”，首先從一個(gè)輕巧的 embodied agent 開始，未來(lái)會(huì)有搭載我們模型的各種形態(tài)機(jī)器人產(chǎn)品。

DeepTech：這款產(chǎn)品大概多久之后能見到？

姜旭：再保留點(diǎn)神秘感，但肯定不會(huì)是兩年之后了！

DeepTech：你們定位是具身大模型公司，硬件本體打算自己造嗎？

姜旭：我們暫時(shí)是自己造。背后核心的原因是，整個(gè)行業(yè)還處在非常早期，還沒(méi)有形成標(biāo)準(zhǔn)和共識(shí)。雖然存在具身智能這樣一個(gè)大賽道，但大家訓(xùn)練模型的方式、算法路徑、產(chǎn)品落地的方向、應(yīng)用的場(chǎng)景，事實(shí)上五花八門，每家公司都有自己的答案。這個(gè)時(shí)間點(diǎn)，很難找到上下游的供應(yīng)商來(lái)配合我們，去 exactly 打造一個(gè)能適配我們模型能力的硬件。

我們這套思路最核心的，是圍繞模型能力的變化來(lái)思考：在什么時(shí)間點(diǎn)能解鎖出什么樣的模型能力，我們就如何打造一款合適形態(tài)的產(chǎn)品。跟大模型研發(fā)和迭代的思路非常像，并不是一個(gè)傳統(tǒng)的、去做消費(fèi)級(jí)機(jī)器人的思路。所以暫時(shí)我們只能端到端地既做模型訓(xùn)練，又去定義和打造自己的硬件。

但長(zhǎng)久看，我們會(huì)希望把模型變成一個(gè)開放的生態(tài)，去跟領(lǐng)域里各種各樣形態(tài)的硬件完成適配。

最終依賴的還是人

DeepTech：你團(tuán)隊(duì)的規(guī)模現(xiàn)在有多大？

姜旭：現(xiàn)在全職大概六十人左右。

DeepTech：你的團(tuán)隊(duì)背景很多樣，來(lái)自 OpenAI、大疆、微軟、華為、字節(jié)。你剛才也提到，OpenAI 早期團(tuán)隊(duì)是比較割裂的。在組建團(tuán)隊(duì)時(shí)，你會(huì)有意識(shí)地去避免這個(gè)問(wèn)題嗎？

姜旭：非常好的問(wèn)題。我認(rèn)為 OpenAI 成功一個(gè)很核心的原因，是它后面形成的扁平文化和非常高效的組織。

我的判斷是，本質(zhì)上我們就是一家多模態(tài)大模型公司，一定要采用最頂尖大模型公司的組織模式：保持一個(gè)小的團(tuán)隊(duì)，保持非常高的人才密度，打造一個(gè)扁平、高效的組織。

從創(chuàng)立開始一年多，我也做了蠻多探索和思考。對(duì) OpenAI 來(lái)說(shuō)有一個(gè)相對(duì)容易的點(diǎn)，它需要的主要就是做算法的人，相似的人想法更容易統(tǒng)一，思考問(wèn)題、做事情的方式更容易接近。對(duì)我們來(lái)說(shuō)，一個(gè)核心挑戰(zhàn)是，團(tuán)隊(duì)里既有做硬件的，又有做軟件算法的，算法這邊又分成機(jī)器人算法、大模型，還有傳統(tǒng)的軟件工程，是背景非常不一樣的一群人。

最終我摸索下來(lái)，發(fā)現(xiàn)答案其實(shí)蠻簡(jiǎn)單的。這樣一個(gè)扁平的組織，最終不依賴于組織的結(jié)構(gòu)和規(guī)則來(lái)做事情，更多依賴于人。

DeepTech：所以核心難點(diǎn)是篩選人？

姜旭：對(duì)，所有管理的難度都放到了篩選人這一步。篩選人又包含兩種類型。一種是已經(jīng)有一些工作經(jīng)驗(yàn)、在職場(chǎng)里形成了工作習(xí)慣的人，對(duì)這些人，我們一定要按我們的標(biāo)準(zhǔn)去衡量，看他是否能適應(yīng)、是否符合我們想打造的扁平文化組織的要求。另一種是可塑性更強(qiáng)、更白紙的，剛畢業(yè)甚至還沒(méi)畢業(yè)的學(xué)生，這些人可以在我們團(tuán)隊(duì)文化磨合得比較好的情況下，在內(nèi)部培養(yǎng)和訓(xùn)練。

DeepTech：識(shí)別人這件事，是不是也需要一種 taste？

姜旭：完全是的。我在 OpenAI 期間也見過(guò)大量非常優(yōu)秀的人，優(yōu)秀體現(xiàn)在不僅僅是技能、業(yè)務(wù)水平層面，更重要的是 ownership。OpenAI 招人的時(shí)候非常喜歡招有創(chuàng)業(yè)經(jīng)歷的人，這可能也跟 Sam Altman 的背景有關(guān)，他之前是 YC 的 president，OpenAI 也有大量人之前是 YC 的 founder。這些人除了業(yè)務(wù)能力之外，通常會(huì)有非常強(qiáng)的主人翁精神，會(huì)把公司的事情當(dāng)成自己的事情來(lái)做。

DeepTech：那么你招人時(shí)，最看重的特質(zhì)是什么？

姜旭：主要是三個(gè)方面。第一個(gè)是最基本的業(yè)務(wù)能力，他在所處的模塊上，技能要達(dá)到一定水平。其次是 ownership，主人翁精神，他是不是能把這些事情當(dāng)成自己的事情來(lái)做。這個(gè)非常重要，因?yàn)橐粋€(gè)扁平文化的組織本質(zhì)上是沒(méi)有管理的，要每個(gè)人管理自己，同時(shí)管理項(xiàng)目，甚至管理其他人，所以對(duì)人的要求極其高。第三個(gè)方面，是一個(gè)人做選擇的能力和 taste。

這三個(gè)方面如果都很優(yōu)秀，這個(gè)人就是一個(gè)很好的 manager。所以我們現(xiàn)在在公司里選了很多優(yōu)秀的 manager，但是大家都沒(méi)有 manager 的 title，大家在這樣一個(gè)文化里共同管理、共同治理公司。

DeepTech：目前的團(tuán)隊(duì)，在這個(gè)階段夠了嗎？

姜旭：我們整體的團(tuán)隊(duì)擴(kuò)張速度還是比較慢的，招人一直保持著比較高的篩選標(biāo)準(zhǔn)，很克制，所以我們幾乎所有崗位都有空缺。

現(xiàn)階段尤其是大模型方向，我們大模型團(tuán)隊(duì)招的人普遍都是大模型公司背景的。這一定程度上跟我自己之前的經(jīng)歷和 OpenAI 的光環(huán)有關(guān)，這個(gè)光環(huán)也能幫我們吸引到大模型領(lǐng)域一些頂尖的選手，加入我們一起訓(xùn)練具身的 foundation model。

事實(shí)上，我們訓(xùn)練的這個(gè)具身 foundation model 從整個(gè)體量到挑戰(zhàn)，已經(jīng)不亞于訓(xùn)練任何其他領(lǐng)域的 foundation model 了。也借這個(gè)機(jī)會(huì)說(shuō)一句，我們現(xiàn)在一直在招人。如果你身上有我剛說(shuō)的這三點(diǎn)特質(zhì)，又相信從預(yù)訓(xùn)練出發(fā)去做具身基礎(chǔ)模型這條路徑，想跟我們一起把具身的 foundation model 訓(xùn)出來(lái)，歡迎你來(lái)找我們聊。

DeepTech：海內(nèi)外的同行里，你覺得做得比較好、比較有代表性的有哪些？

姜旭：我會(huì)比較關(guān)注那些大模型公司下場(chǎng)去做這件事，比如我的老東家 OpenAI，我會(huì)關(guān)注他們的進(jìn)展。Google 不太好說(shuō)，Google 和 OpenAI 還是兩碼事，兩家公司在組織文化上其實(shí)有非常大的差異。

大公司里有非常多工作的人，但缺少 owner，大公司始終有這么一個(gè)困境，Google 也始終會(huì)有這個(gè)挑戰(zhàn)。

今天要在這個(gè)領(lǐng)域?qū)崿F(xiàn)突破，需要的方法和技能，exactly 就是大模型那套東西。我更相信會(huì)有一些大模型公司在這個(gè)領(lǐng)域里比較早地做出突破。如果一個(gè)團(tuán)隊(duì)里缺乏足夠多的大模型經(jīng)驗(yàn)和 knowhow，會(huì)碰到比較多的挑戰(zhàn)。

DeepTech：2026 年以來(lái)這幾個(gè)月，國(guó)內(nèi)具身智能賽道已經(jīng)有好幾家上百億估值的公司了。你怎么看這個(gè)賽道如今的熱度？

姜旭：一個(gè)蓬勃發(fā)展的行業(yè)，早期一定會(huì)有一些泡沫，泡沫本身是一個(gè)正常的現(xiàn)象。

稍微不太合理的地方在于，一些公司喜歡對(duì)標(biāo)同行，缺乏獨(dú)立的探索和創(chuàng)造，也缺乏對(duì)行業(yè)前沿的更有力的突破和推動(dòng)。

DeepTech：你一開始說(shuō)，你們今年一個(gè)很重要的主題也是融資，那你們進(jìn)展如何？

姜旭：我們正在 close 新的一輪融資。我們?cè)谌谫Y節(jié)奏上，也做了一個(gè)有點(diǎn)反共識(shí)的選擇。

去年上半年我們?nèi)谕炅艘惠啠?dāng)時(shí)市場(chǎng)還是蠻火熱的。但我相信具身智能、AI 是這個(gè)時(shí)代的大主題，是全社會(huì)、全世界會(huì) all in 的大方向。在 AI 時(shí)代大浪潮里，資源并不是最稀缺的，一個(gè)頂尖的團(tuán)隊(duì)和一條真的能實(shí)現(xiàn)智能突破的研發(fā)路徑，才是最稀缺的。我們?nèi)ツ暌荒甓荚诖蛟靾F(tuán)隊(duì)、探索模型研發(fā)路徑和產(chǎn)品落地方向。今年我們除了融資外，還會(huì)有更多的對(duì)外發(fā)聲；要推動(dòng)范式級(jí)別的改變一定是需要更多人的參與。

我們就活在科幻里面

DeepTech：你說(shuō)你們的模型現(xiàn)在到了 GPT-2.5 的時(shí)刻。那距離真正的 ChatGPT 時(shí)刻，還有多遠(yuǎn)？

姜旭：按照我們這條路徑，我們?cè)谀甑字皯?yīng)該能夠?qū)崿F(xiàn)，相當(dāng)于從 2.5 到 3.5，跨越一代模型。跨越一代要有一百倍的提升。對(duì)我們來(lái)說(shuō)，以目前的水平為基礎(chǔ)，再提升一百倍應(yīng)該不會(huì)是一個(gè)根本性的挑戰(zhàn)。

DeepTech：這個(gè)答案有點(diǎn)出乎我的意料，我以為會(huì)更慢一點(diǎn)。

姜旭：我對(duì)我們目前所走的這條路徑，極其樂(lè)觀，極其有信心。

DeepTech：今年年底有點(diǎn)太近了，我們?cè)賮?lái)展望更遠(yuǎn)一點(diǎn)的事吧，在今年之外，你未來(lái)三到五年乃至以后的目標(biāo)是什么？

姜旭：我的大判斷是，具身智能會(huì)沿著大模型走過(guò)的路徑，把大模型重要的那些里程碑再走一遍。

首先是完成預(yù)訓(xùn)練，預(yù)訓(xùn)練的突破和 3.5 時(shí)刻會(huì)是行業(yè)的拐點(diǎn)，具身智能產(chǎn)品才會(huì)開始大規(guī)模地落地應(yīng)用，出現(xiàn)在我們的生活里，進(jìn)一步收集到全新的、真實(shí)世界的數(shù)據(jù)。這有點(diǎn)像今天的 Coding Agent，當(dāng)大模型做長(zhǎng)程任務(wù)、寫代碼的能力突破到一定程度，開始能完整地交付工作，進(jìn)入到用戶的電腦這樣一個(gè)更復(fù)雜、全新的環(huán)境，而那些數(shù)據(jù)是之前模型見不到、互聯(lián)網(wǎng)上也不存在的。由此就形成了數(shù)據(jù)飛輪。

大模型是要在數(shù)字世界里模仿和超越人的能力，具身是要在物理世界里模仿和超越人，三到五年左右，大概率會(huì)全面地超越人的能力。

DeepTech：在這個(gè)過(guò)程中，你現(xiàn)在最期待的一件事是什么？

姜旭：具身智能的 ChatGPT 時(shí)刻，模型能力強(qiáng)到可以大規(guī)模地進(jìn)入到物理世界，進(jìn)而出現(xiàn)第一個(gè) PMF 的產(chǎn)品之后，數(shù)據(jù)飛輪和商業(yè)飛輪都會(huì)轉(zhuǎn)起來(lái)。在這個(gè)基礎(chǔ)之上，通用具身智能將會(huì)看起來(lái)不再那么遙遠(yuǎn)和不可想象。

DeepTech：那你比較擔(dān)心的問(wèn)題有哪些？

姜旭：我以前在 OpenAI 的四年期間，前后差不多有一年多時(shí)間都在對(duì)齊的團(tuán)隊(duì)里。對(duì)齊核心要解決的一個(gè)非常關(guān)鍵的問(wèn)題，就是安全。

具身智能存在非常類似的問(wèn)題。它的技術(shù)演進(jìn)路徑會(huì)跟大模型非常像，存在的風(fēng)險(xiǎn)也會(huì)跟大模型非常類似。安全問(wèn)題是急需整個(gè)領(lǐng)域去關(guān)注、提前思考、研究和布局的方向。

看得更遠(yuǎn)一點(diǎn)，現(xiàn)代文明社會(huì)是人創(chuàng)造的，但當(dāng)這個(gè)星球上出現(xiàn)了一個(gè)從智力和體力上都全面超越人的全新群體之后，是否會(huì)影響到我們今天的文明，我們的文明會(huì)如何演變，是每個(gè)人都要去思考的問(wèn)題。

DeepTech：這是一個(gè)聽起來(lái)非常科幻、又非常現(xiàn)實(shí)的問(wèn)題。

姜旭：是的。當(dāng)智能開始長(zhǎng)期存在于物理世界，它就不再只是一個(gè)被調(diào)用的工具、而是可以通過(guò)持續(xù)觀察、持續(xù)學(xué)習(xí)、持續(xù)交互和操作反過(guò)來(lái)影響現(xiàn)實(shí)世界本身。

那時(shí)候，人類面對(duì)的就不再只是一次技術(shù)升級(jí)，而是一種新的“存在”。

我們其實(shí)已經(jīng)活在科幻里了。

運(yùn)營(yíng)/排版：何晨龍

注：封面/首圖由 AI 輔助生成