智能駕駛大躍進(jìn)，很大一部分風(fēng)險(xiǎn)，需要讓消費(fèi)者來承擔(dān)，讓車企能做出更好的系統(tǒng)。

一個(gè)多月前，我差點(diǎn)遇到車禍。

我開車不算久。以前總覺得地鐵和打車要方便得多，不用保養(yǎng)，不用費(fèi)神停車，以我的生活習(xí)慣，也幾乎不會(huì)去不能打車的地方。

直到兩年前因?yàn)楹⒆右錾抛ゾo時(shí)間，學(xué)車，買車，買車時(shí)候兩個(gè)考慮，一個(gè)是空間要大，再就是最好有智能駕駛，新手上路，需要拐棍。

不知不覺，也開了一萬五千公里，拐棍很少用，不過有時(shí)候路況良好，自己又想稍微伸展下的時(shí)候，就會(huì)習(xí)慣撥兩下操作桿，交給智能駕駛，自己歇口氣。

結(jié)果這次差點(diǎn)出事。

出事時(shí)候我在高速路上，載著一家人從上海回青島。工作日車流不大，高速路也不用做什么復(fù)雜決策，筆直往前開就行，所以時(shí)不時(shí)，我會(huì)撥兩下操作桿，開啟 NGP——這是小鵬汽車輔助駕駛的名字。

忽然，車開始變道了。

沒有任何預(yù)警。沒有提示音，沒有儀表盤的閃爍，甚至沒有任何前置的猶豫。方向盤以一種我從未體驗(yàn)過的、決絕的姿態(tài)，向右打了一下，車輛隨之向右側(cè)車道并去，動(dòng)作流暢，行云流水。

我第一反應(yīng)甚至沒想著去阻止，因?yàn)樗兊赖淖藨B(tài)如此自信，我已經(jīng)懷疑自己時(shí)不時(shí)開錯(cuò)了路，而偉大的人工智能正在糾正人類的愚蠢。

等我反應(yīng)過來，它已經(jīng)變到了最右側(cè)岔路，向著匝道沖過去，沒有減速，也沒有遲疑，一百二十公里每小時(shí)，撞向了路旁的護(hù)欄，幾乎同時(shí)，小鵬退出了 NGP，提示我來接管。

行車記錄儀截圖

《中國(guó)汽車報(bào)》曾援引美國(guó)國(guó)家公路安全管理局和德國(guó)全德汽車俱樂部發(fā)布的報(bào)告稱，72% 的自動(dòng)駕駛事故發(fā)生在系統(tǒng)提示后 2 秒內(nèi)，而駕駛員平均需要 2.3 秒才能完成有效接管。在高速公路場(chǎng)景，這個(gè)數(shù)值會(huì)延長(zhǎng)至 2.6 秒。

只能說，很感謝我是在最左側(cè)車道，讓自己有了足夠的反應(yīng)時(shí)間。而如今能寫下這個(gè)經(jīng)歷，自然是我及時(shí)接管，踩剎車，調(diào)整方向，最終結(jié)果一切都好，只是多繞了幾公里的路。

但很自然，我有三個(gè)問題：怎么回事？誰要負(fù)責(zé)？有沒有賠償？

我聯(lián)系了小鵬客服，詳細(xì)描述了我的經(jīng)歷，并上傳了行車記錄儀視頻和車輛數(shù)據(jù)之后，以為自己會(huì)得到一個(gè)同樣嚴(yán)肅和深入的對(duì)待。

回復(fù)很簡(jiǎn)單。

關(guān)于原因：初步判斷由于導(dǎo)航路線模型軌跡規(guī)劃異常導(dǎo)致。

關(guān)于后續(xù)：已經(jīng)記錄反饋產(chǎn)品部門，并將在后續(xù)的版本功能迭代過程中進(jìn)一步優(yōu)化。

其他建議：多注意觀察路況及車輛行駛狀態(tài)，在必要時(shí)接管車輛，安全通行。

至于補(bǔ)償：當(dāng)前公司未有相關(guān)流程，但客服可以給我一個(gè)小禮物。

最后，「非常抱歉給您帶來了不好的用車體驗(yàn)，也感謝您的支持和理解」。

很難支持，也很不理解。

「導(dǎo)航路線模型軌跡規(guī)劃異常」應(yīng)該是系統(tǒng)失靈的結(jié)果，而不是原因，我想知道，究竟真正的原因是什么。

而且，倘若是車輛質(zhì)量問題，那么自然應(yīng)該車企承擔(dān)責(zé)任。現(xiàn)在客服承認(rèn)智能駕駛有問題，最終只是說「幸虧我及時(shí)接管」，而沒有任何擔(dān)責(zé)流程，這也沒法理解。

而且，這也不是孤例。我搜索到了七八月份以來，幾起類似的案例，都是在毫無必要的情況下，智能駕駛系統(tǒng)開始變道。多數(shù)事件里，車主平安無事，也有一些事故把車撞壞了——無一例外，小鵬都沒有給任何補(bǔ)償。

我想知道答案是什么，我想知道我還能不能信任這輛車，能不能信任自動(dòng)駕駛。

我是個(gè)外行，問了 AI，查閱了一些論文和技術(shù)文檔，也找在車企工作的朋友交流，試圖自己找到原因。

我們可以簡(jiǎn)單地把智能駕駛簡(jiǎn)化為三個(gè)核心層級(jí)：輸入層、決策層、執(zhí)行層。

小鵬在變道時(shí)候，果斷，流暢，非常明確將匝道作為自己的目標(biāo)，所以不應(yīng)該是執(zhí)行層的問題，也不太可能是地圖精度的問題，問題應(yīng)該發(fā)生在決策層面。

車輛的輔助駕駛系統(tǒng)之上，還有一個(gè)更高層級(jí)的「導(dǎo)航大腦」。這個(gè)大腦給出的不是「保持車道居中」這種微觀指令，而是「沿 G2 高速繼續(xù)行駛 50 公里后，在 A 出口下」這種宏觀任務(wù)。而小鵬當(dāng)時(shí)的行為，極像是在執(zhí)行一個(gè)錯(cuò)誤的宏觀任務(wù)。

這個(gè)錯(cuò)誤怎么發(fā)生的？聯(lián)系到客服所說的導(dǎo)航規(guī)劃問題，我大致有一個(gè)推測(cè)。

可以想象，導(dǎo)航系統(tǒng)下發(fā)給輔助駕駛模塊的是一個(gè)個(gè)數(shù)據(jù)包，里面包含了路徑規(guī)劃的關(guān)鍵節(jié)點(diǎn)（Waypoints）。在一種極端情況下，你車輛的系統(tǒng)可能接收到了一個(gè)被污染或錯(cuò)誤的數(shù)據(jù)包，這個(gè)數(shù)據(jù)包里的「當(dāng)前目標(biāo)節(jié)點(diǎn)」被錯(cuò)誤地設(shè)定在了那個(gè)匝道上。

簡(jiǎn)單來說，就像是我的 GPS 導(dǎo)航突然發(fā)瘋，把目的地改成了路邊的某個(gè)點(diǎn)。對(duì)于輔助駕駛系統(tǒng)來說，它的任務(wù)就是以最高效率執(zhí)行指令，于是它計(jì)算出了一條從最左到最右的最快路徑，并行云流水加以執(zhí)行。

直到小鵬實(shí)際沖入匝道，開始接收匝道上的地圖和定位信息時(shí)，它的「導(dǎo)航大腦」才猛然發(fā)現(xiàn)：當(dāng)前位置與最終目標(biāo)（比如幾十公里外的某個(gè)城市）的全局路徑完全對(duì)不上了。

這個(gè)巨大的邏輯矛盾，最終觸發(fā)了系統(tǒng)的降級(jí)保護(hù)機(jī)制，從 NGP 降級(jí)到功能更簡(jiǎn)單的 LCC，并將控制權(quán)交還。

不過，這些推測(cè)終究只能是推測(cè)，因?yàn)榧幢阈※i的工程師，也很難完全定位問題的原因，因?yàn)楝F(xiàn)在的小鵬智能駕駛，已經(jīng)開始使用「端到端模型」，這個(gè)模型更先進(jìn)，但卻是更難解釋的黑箱。

如果說先前的智駕系統(tǒng)是讓汽車去背一本厚厚的駕駛規(guī)則手冊(cè)，那么端到端智能駕駛則是像教一個(gè)新手一樣去教系統(tǒng)自己開車。

在端到端出現(xiàn)之前，智能駕駛系統(tǒng)依靠規(guī)則來驅(qū)動(dòng)。首先，車輛通過高精地圖，像一個(gè)帶著精確導(dǎo)航地圖的人，提前知曉道路的每一個(gè)細(xì)節(jié)，比如車道線的位置、紅綠燈的精確坐標(biāo)、甚至是路沿的高度。然后，工程師們會(huì)為車輛編寫大量的駕駛規(guī)則，就像一個(gè)詳盡的「如果……就……」（if-then）指令集。

這個(gè)方案在早期看起來非常可靠，因?yàn)樗_定性強(qiáng)，車輛的每一個(gè)動(dòng)作似乎都有據(jù)可尋。尤其在高速公路上，路況簡(jiǎn)單且標(biāo)準(zhǔn)，也沒有行人和非機(jī)動(dòng)車穿插。

不過，城市是動(dòng)態(tài)變化的，今天修路，明天可能就會(huì)出現(xiàn)一個(gè)新的隔離樁。高精地圖的制作成本高昂，更新卻總是滯后于現(xiàn)實(shí)的變化。

規(guī)則的「窮舉」也是一個(gè)不可能完成的任務(wù)，工程師永遠(yuǎn)無法預(yù)設(shè)所有可能的極端場(chǎng)景（corner case）。一個(gè)騎著電動(dòng)車橫穿馬路的外賣員，一個(gè)突然從路邊竄出的小球，這些場(chǎng)景都很難用簡(jiǎn)單的「if-then」規(guī)則來覆蓋。

工程師們陷入了無盡的打補(bǔ)丁工作，每出現(xiàn)一個(gè)新的問題，就增加一條新的規(guī)則。這導(dǎo)致代碼變得臃腫、復(fù)雜，規(guī)則之間甚至?xí)a(chǎn)生沖突，最終使得系統(tǒng)難以維護(hù)，更難以泛化到新的城市和路況。

端到端的核心是「數(shù)據(jù)驅(qū)動(dòng)」（Data-driven）。它不再依賴工程師編寫規(guī)則，而是通過深度神經(jīng)網(wǎng)絡(luò)，去學(xué)習(xí)和模仿海量的人類優(yōu)秀司機(jī)的駕駛數(shù)據(jù)。系統(tǒng)通過觀看數(shù)百萬個(gè)駕駛視頻片段，自己領(lǐng)悟在何種場(chǎng)景下應(yīng)該做出何種反應(yīng)，最終實(shí)現(xiàn)從看到路況到直接操控車輛的能力。

由于是從真實(shí)世界的海量數(shù)據(jù)中學(xué)習(xí)，而非依賴有限的規(guī)則，它面對(duì)未知場(chǎng)景時(shí)能做出更合理、更擬人的決策，從而大幅提升了智能駕駛的能力上限，具備更好、更快的糾錯(cuò)能力。

而且，因?yàn)槎说蕉藬[脫了對(duì)高清地圖的依賴，而是能實(shí)時(shí)處理周圍信息，也讓智能駕駛能夠更快覆蓋更多城市，而無需派出專業(yè)的采集車隊(duì)，一米一米地掃描城市道路。

在高精地圖階段，小鵬成了智駕開城最多的車企，但正如何小鵬所說，先前的規(guī)則寫得越好，公司包袱越重，轉(zhuǎn)身越難。盡管何小鵬說，自己在 2023 年一季度就意識(shí)到需要調(diào)整技術(shù)路線，但在 2024 年，車企紛紛開始部署「端到端」的解決方案，小鵬反而落后一步。

他們需要快速跟上。

2024 年 5 月，小鵬發(fā)布 AI 天璣系統(tǒng)，意味著全面投入端到端技術(shù)；7 月底，小鵬宣布 AI 天璣系統(tǒng) XOS 5.2.0 版本向全球推送，堅(jiān)持「每 2 天一次版本迭代，每 2 周一次體驗(yàn)升級(jí)」。

不過，在人工智能領(lǐng)域，「快速迭代」帶來的不一定是更好用的系統(tǒng)。

端到端神經(jīng)網(wǎng)絡(luò)模型有一個(gè)固有缺陷：「災(zāi)難性遺忘」（Catastrophic Forgetting），也就是說，這一模型在學(xué)習(xí)新東西時(shí)候，有可能忘掉先前學(xué)會(huì)的知識(shí)。

舉個(gè)例子，比如我們發(fā)現(xiàn)，端到端模型在處理復(fù)雜的無保護(hù)左轉(zhuǎn)場(chǎng)景時(shí)表現(xiàn)不佳，我們就會(huì)集中「喂」給它大量這類場(chǎng)景的數(shù)據(jù)進(jìn)行專項(xiàng)訓(xùn)練，以求「補(bǔ)齊短板」。然而，神經(jīng)網(wǎng)絡(luò)在學(xué)習(xí)新知識(shí)時(shí)，調(diào)整內(nèi)部參數(shù)的方式可能會(huì)覆蓋或干擾它已經(jīng)學(xué)到的舊知識(shí)。

馬斯克此前就公開解釋過 FSD V12.4.2 版本推遲的原因：正是因?yàn)榻o模型投喂了大量需要接管的復(fù)雜場(chǎng)景數(shù)據(jù)進(jìn)行訓(xùn)練后，發(fā)現(xiàn)在簡(jiǎn)單場(chǎng)景下的駕駛平順性反而倒退了。這就是一次典型的「災(zāi)難性遺忘」。

快速的迭代，意味著更頻繁地用新數(shù)據(jù)去「沖擊」現(xiàn)有模型，這無疑也增加了「災(zāi)難性遺忘」發(fā)生的概率。

而且，快速迭代也給驗(yàn)證和測(cè)試帶來了巨大壓力。傳統(tǒng)的模塊化系統(tǒng)，雖然笨重，但它的好處是可解釋性強(qiáng)，便于獨(dú)立測(cè)試。如果車輛變道有問題，工程師可以大概率定位到是規(guī)劃模塊的規(guī)則出了問題。

但端到端模型是一個(gè)黑箱。當(dāng)車輛做出一個(gè)奇怪的決策時(shí)，工程師很難像過去一樣精準(zhǔn)定位到是哪一行「代碼」或哪一條「規(guī)則」出了問題，因?yàn)闆Q策是由數(shù)億乃至數(shù)十億個(gè)參數(shù)共同作用的結(jié)果。

這就意味著，每一次 OTA 更新前，車企都需要進(jìn)行海量的仿真測(cè)試和道路測(cè)試，以確保新版本沒有引入新的、未知的缺陷。迭代速度越快，留給測(cè)試和驗(yàn)證的時(shí)間就越短，這無疑會(huì)增加漏掉某些 corner case 的風(fēng)險(xiǎn)。

而且，快速迭代未必能讓用戶用得更舒服。

用戶可能會(huì)發(fā)現(xiàn)，上一個(gè)版本中已經(jīng)習(xí)慣的、平順的駕駛風(fēng)格，在某次「升級(jí)」后突然變得激進(jìn)或保守。這種駕駛策略的不連貫、不統(tǒng)一，會(huì)嚴(yán)重影響用戶的信任感。用戶需要不斷地重新適應(yīng)車輛的「脾氣」，這與智能駕駛追求舒適、可靠的初衷是相悖的。

但企業(yè)沒有辦法不去快速迭代。

端到端模型，將智駕行業(yè)帶到了強(qiáng)者愈強(qiáng)的循環(huán)：

在這個(gè)循環(huán)中，任何暫時(shí)的落后都可能是致命的。一旦競(jìng)爭(zhēng)對(duì)手通過快速迭代，率先實(shí)現(xiàn)了體驗(yàn)上的決定性突破，就會(huì)迅速侵蝕市場(chǎng)份額，截?cái)嗪髞碚咦顚氋F的數(shù)據(jù)來源。

對(duì)于小鵬而言，它曾經(jīng)的領(lǐng)先優(yōu)勢(shì)正在被理想、華為等對(duì)手迅速追平。如果它現(xiàn)在放慢迭代速度去追求所謂的「完美」，那么市場(chǎng)和數(shù)據(jù)都不會(huì)給它留下從容追趕的時(shí)間。

而且，如前所說，端到端模型的核心是「數(shù)據(jù)驅(qū)動(dòng)」，而非「規(guī)則驅(qū)動(dòng)」。這個(gè)「大腦」不是像真空中的球形雞一樣被設(shè)計(jì)出來的，而是在真實(shí)世界的道路上「喂」出來的。它的每一次進(jìn)化，都依賴于從用戶車輛上收集到的海量真實(shí)數(shù)據(jù)，尤其是那些系統(tǒng)處理不好的 corner case。

放慢迭代，就意味著放慢了學(xué)習(xí)和糾錯(cuò)的速度。和新手司機(jī)一樣，一個(gè) AI 司機(jī)，只有不斷地去路上犯錯(cuò)（在安全可控的范圍內(nèi)）、不斷地從錯(cuò)誤中學(xué)習(xí)，才能最終成長(zhǎng)為「老司機(jī)」。

在傳統(tǒng)汽車行業(yè)，一款車幾年才換代一次；但在智能汽車時(shí)代，算法可能幾周甚至幾天就要更新一次，因?yàn)槟Ｐ汀膏秽淮浮梗却碌臄?shù)據(jù)來解決舊的問題。

在線閉環(huán)測(cè)試難以獲取長(zhǎng)尾和異常駕駛場(chǎng)景的數(shù)據(jù)。因此，唯一的辦法就是將「尚不完美」的系統(tǒng)推向市場(chǎng)，讓千千萬萬的用戶車輛在行駛中去遭遇問題、收集數(shù)據(jù)，然后回傳給云端，用于下一輪的模型訓(xùn)練。這個(gè)「影子模式」 的背后，就是讓用戶在無形中參與了系統(tǒng)的測(cè)試與迭代。

而且，端到端模型存在「災(zāi)難性遺忘」和不可解釋性。這意味著，即使工程師在發(fā)布前進(jìn)行了嚴(yán)格的測(cè)試，也無法 100% 保證系統(tǒng)不會(huì)在某個(gè)用戶、某條從未跑過的道路上，做出一個(gè)匪夷所思的危險(xiǎn)決策，比如迅速變道，一頭扎向匝道。

最終，智能駕駛大躍進(jìn)，很大一部分風(fēng)險(xiǎn)，需要讓消費(fèi)者來承擔(dān)，以讓車企能做出更好的系統(tǒng)。用戶每一次開啟智駕，每一次選擇信任這套系統(tǒng)，都是在用自己的安全為這項(xiàng)技術(shù)的成熟和進(jìn)化投票。

技術(shù)的迭代速度以月甚至周為單位，而法律、法規(guī)、保險(xiǎn)和社會(huì)共識(shí)的演進(jìn)速度，則以年為單位。這種「剪刀差」，導(dǎo)致了權(quán)責(zé)的模糊地帶。

車企也不能去承擔(dān)責(zé)任，正如同客服給我的回應(yīng)里，說他們「沒有相關(guān)流程」。

因?yàn)橐坏┲鲃?dòng)承認(rèn)某一次事故的責(zé)任主體是「系統(tǒng)」而非「駕駛員」，就等于親手打開了一個(gè)后果不堪設(shè)想的「潘多拉魔盒」。

目前全球的法律框架，都將 L2、L2 + 級(jí)別的智能駕駛定義為「輔助駕駛」，而非「自動(dòng)駕駛」。這個(gè)「輔助」的定位，是車企至關(guān)重要的法律防火墻。它明確了無論系統(tǒng)能力多強(qiáng)，駕駛的最終監(jiān)控和控制責(zé)任仍在人類駕駛員身上。車企在所有用戶協(xié)議和宣傳材料中，也都會(huì)反復(fù)強(qiáng)調(diào)這一點(diǎn)。

如果一家車企主動(dòng)為某次事故承擔(dān)了系統(tǒng)責(zé)任，就等于在事實(shí)上承認(rèn)了，在某些時(shí)刻，車輛的控制權(quán)已經(jīng)從「人」轉(zhuǎn)移到了「系統(tǒng)」。這一行為會(huì)被無限放大，成為所有類似事故中，用戶要求車企承擔(dān)責(zé)任的法律先例。這會(huì)從根本上動(dòng)搖整個(gè)「輔助駕駛」的法律根基，引發(fā)監(jiān)管機(jī)構(gòu)的重新審視，甚至可能導(dǎo)致產(chǎn)品被勒令下線整改。

而且，主動(dòng)承擔(dān)責(zé)任，可能帶來保險(xiǎn)體系的崩潰。

現(xiàn)有的汽車保險(xiǎn)體系是圍繞人類駕駛員的風(fēng)險(xiǎn)來設(shè)計(jì)的。保費(fèi)的高低，取決于司機(jī)的年齡、駕齡、過往事故記錄等個(gè)人因素。但在智能駕駛時(shí)代，一部分風(fēng)險(xiǎn)從不可預(yù)測(cè)的「人」轉(zhuǎn)移到了軟件和算法上。

傳統(tǒng)的保險(xiǎn)產(chǎn)品，如何為「算法」定價(jià)？當(dāng)事故是由軟件缺陷引發(fā)時(shí)，保險(xiǎn)公司在賠付給受害者后，是否有清晰的法律路徑向車企進(jìn)行追償？這些都是現(xiàn)有保險(xiǎn)體系面臨的巨大挑戰(zhàn)。

如果保險(xiǎn)公司將智駕的 Bug 定性為車輛固有的缺陷，那么他們會(huì)立即重新評(píng)估該品牌所有車輛的風(fēng)險(xiǎn)等級(jí)。保費(fèi)可能會(huì)飆升到普通消費(fèi)者無法承受的水平，或者保險(xiǎn)公司干脆拒絕為該車型的智能駕駛功能提供保險(xiǎn)。

而且，如果每一次由系統(tǒng)缺陷導(dǎo)致的事故，都需要車企承擔(dān)全部責(zé)任，那么企業(yè)必然會(huì)因噎廢食。為了規(guī)避風(fēng)險(xiǎn)，它們會(huì)極大地放慢 OTA 的迭代速度，甚至不敢推出任何未經(jīng)百分之百驗(yàn)證的功能。

于是我們看到了一個(gè)微妙的平衡，車企在技術(shù)上高歌猛進(jìn)，宣傳上極力渲染系統(tǒng)的強(qiáng)大與智能，以吸引用戶、獲取數(shù)據(jù)；但在責(zé)任界定上，又必須堅(jiān)守「輔助駕駛」的底線，將法律責(zé)任主體錨定在駕駛員身上。

于是我的那次差點(diǎn)發(fā)生的車禍，最終只能是不了了之，沒有人會(huì)承擔(dān)責(zé)任，畢竟，就如同客服所說，「幸虧我及時(shí)接管」。

回到開始的問題，我還能相信這輛車嗎？

似乎也沒有別的選擇。

這輛車不便宜，我沒辦法不考慮經(jīng)濟(jì)因素，馬上換車；即便換車，其他車企也未必沒有這樣的問題，畢竟這是算法的固有缺陷，而法律和制度的落后，也并不止針對(duì)小鵬一家。

我只能與這輛車達(dá)成一個(gè)脆弱共識(shí)，就好像所有依然還在使用智駕的用戶一樣：我去承擔(dān)一些風(fēng)險(xiǎn)，來換取了體驗(yàn)前沿技術(shù)的機(jī)會(huì)和便利，讓我能連續(xù)駕駛兩個(gè)小時(shí)后呼吸放松一下；車企則在我的「陪練」下，用最快的速度推動(dòng)技術(shù)的成熟，讓它明天在所有類似的路口都表現(xiàn)得更好。

這個(gè)共識(shí)能維持多久，取決于技術(shù)進(jìn)步的速度，也取決于下一個(gè)轟動(dòng)性事故何時(shí)到來。

熱文回溯

合作交流入群請(qǐng)?zhí)砑游⑿?/strong>