車(chē)企們，請(qǐng)別拿人命開(kāi)玩笑

出品 | 虎嗅汽車(chē)組

作者 | 王笑漁

編輯 | 周到

頭圖 | 視覺(jué)中國(guó)

【資料圖】

你以為 " 剎車(chē)失靈 "，只有美國(guó)特斯拉嗎？不，在咱中國(guó)，最近就出現(xiàn)了 " 拉傳塔 " 現(xiàn)象。

" 它會(huì)識(shí)別行人并自動(dòng)剎車(chē)嗎？"

" 對(duì)，避讓這些都是基礎(chǔ)操作 "

" 嘭！"

上一秒，阿維塔的銷(xiāo)售還在向客戶宣傳來(lái)自華為 ADS 的城市 NCA 功能之強(qiáng)，能夠無(wú)保護(hù)右轉(zhuǎn)、能避讓道路上行人。結(jié)果下一秒，車(chē)輛就徑直撞向了橫穿馬路的自行車(chē)。面對(duì)常見(jiàn)的 " 自行車(chē)鬼探頭 " 場(chǎng)景，系統(tǒng)并未及時(shí)剎車(chē)，甚至在人為踩下剎車(chē)前系統(tǒng)都未發(fā)出警報(bào)。

如果不是后排乘客用視頻記錄下來(lái)車(chē)內(nèi)情況，這大概率又是一起 " 剎車(chē)失靈 "。

在特斯拉的慫恿下，城市 NOA 導(dǎo)航輔助駕駛功能，已經(jīng)悄悄地成為了中國(guó)車(chē)企角逐智能駕駛賽道的關(guān)鍵點(diǎn)。阿維塔 11 所提供的城區(qū) NCA，亦是 NOA 功能中的一種，與蔚來(lái)的 NOP、小鵬的 NGP、理想的 NOA 如出一轍——他們，正在圖讓人工智能駕駛著車(chē)輛在城市道路上行駛。

特斯拉 FSD：我?guī)愠?p>然而，車(chē)企卷城市 NOA 功能，就像科技和互聯(lián)網(wǎng)公司卷 GPT 一樣。好像你不摻和一腳 GPT 和大模型，就是沒(méi)有 AI 人工智能積累的表現(xiàn)。但兩者不同的是，如果 GPT 出現(xiàn)了失誤，無(wú)非就是多一段笑話，而城市 NOA 失誤可真是要出人命的。

為了賣(mài)車(chē)，學(xué)會(huì)了說(shuō)謊

" 如果你想要研究 AI 是如何出錯(cuò)的，獲得一筆金錢(qián)索賠，并且一有機(jī)會(huì)就試圖殺死你，那就買(mǎi)輛特斯拉吧。"這是蘋(píng)果聯(lián)合創(chuàng)始人史蒂夫 · 沃茲尼亞克的最新觀點(diǎn)。作為兩輛特斯拉 Model S 車(chē)主的沃茲尼亞克，曾多次公開(kāi)表示：他被特斯拉所宣揚(yáng)的自動(dòng)駕駛能力誤導(dǎo)了。

2016 年的那段爭(zhēng)議視頻

" 早些時(shí)候特斯拉放出了一些全無(wú)人駕駛的視頻，給車(chē)主產(chǎn)生了混淆。讓車(chē)主們以為，我買(mǎi)了特斯拉這個(gè)車(chē)就能夠這么運(yùn)行，然后放出來(lái)一些 Demo。"某自動(dòng)駕駛業(yè)內(nèi)人士告訴虎嗅，國(guó)內(nèi)車(chē)企早些時(shí)候放的，在上海街道中行駛的 Demo 就給人產(chǎn)生同樣誤導(dǎo)，讓用戶誤以為它的 ODD（Operational Design Domain，運(yùn)營(yíng)設(shè)計(jì)域）覆蓋范圍就是這么大。

文章開(kāi)頭險(xiǎn)些釀成慘劇的阿維塔 11，就存在類(lèi)似的誤導(dǎo)情況。

根據(jù)視頻信息，這臺(tái)阿維塔 11 上城區(qū) NCA（Navigation Cruise Assist ）智駕導(dǎo)航輔助處于激活狀態(tài)。當(dāng)時(shí)自行車(chē)從馬路右側(cè)快速駛出，車(chē)輛并未給予任何警示，而駕駛員似乎又誤以為車(chē)輛可以完成避讓。直到雙方距離即將發(fā)生碰撞時(shí)，駕駛員才踩下剎車(chē)。

塔子上點(diǎn)心吧

顯然，由華為 Hi 加持的智駕系統(tǒng)，在自行車(chē)鬼探頭這一場(chǎng)景下失效。

令人匪夷的是，無(wú)論是阿維塔官方的宣傳口徑，還是第三方媒體的場(chǎng)地測(cè)試，阿維塔 11 這款車(chē)對(duì)非機(jī)動(dòng)車(chē)的避讓能力都是 " 天花板級(jí) " 的。比如，有媒體進(jìn)行場(chǎng)地 " 自行車(chē)鬼探頭 " 測(cè)試，阿維塔 11 不僅輕松避開(kāi)了自行車(chē)，并且還在避開(kāi)后加速，迅速駛回自己原本的道路。

阿維塔 11 的 " 應(yīng)試考試 " 成績(jī)堪稱滿分

官方的技術(shù)資料中，則是這樣寫(xiě)的：" 阿維塔 11 可以精準(zhǔn)識(shí)別窄路、小路場(chǎng)景下機(jī)非混行的復(fù)雜路況，實(shí)時(shí)分析并預(yù)判行人、非機(jī)動(dòng)車(chē)等交通參與者的行為，并以此為基礎(chǔ)進(jìn)行自主靈活避讓。" ——真可謂是，吹得有多高，摔得就有多重。

更有意思的是，阿維塔在《車(chē)主指南》的注意事項(xiàng)中，很貼心地寫(xiě)到：" 禁止在可能有行人或非機(jī)動(dòng)車(chē)出現(xiàn)的路段使用 NCA 智駕導(dǎo)航輔助。"毫無(wú)疑問(wèn)，這條注意事項(xiàng)就是 " 免責(zé)金牌 "。一旦真撞上了行人和非機(jī)動(dòng)車(chē)，這責(zé)任就順其自然地甩給駕駛員。

" 為什么說(shuō)現(xiàn)階段的輔助駕駛更難，它解決的不是替你駕駛的問(wèn)題，而是解決幫你駕駛的問(wèn)題。所以，它跟無(wú)人駕駛的難度相比是差不多的。"

車(chē)控合伙人、戰(zhàn)略主理洪澤鑫告訴虎嗅，車(chē)企和技術(shù)供應(yīng)商，需要先把自己的能力邊界給明確清楚。明確好不能掌控的場(chǎng)景，就提前告訴駕駛員接管，或者明確一種機(jī)制來(lái)避開(kāi)不可控場(chǎng)景。

特斯拉 FSD 走得很冷靜

然而，為了標(biāo)榜更廣的覆蓋、更多的功能，車(chē)企會(huì)將 ODD 設(shè)計(jì)運(yùn)行域的邊界模糊化。因?yàn)椋坏?ODD 限制越嚴(yán)格，就意味著自動(dòng)化系統(tǒng)駕駛功能的可用性越差。

ODD 運(yùn)行設(shè)計(jì)域的定義來(lái)自 SAE J3016 —— " 特定駕駛自動(dòng)化系統(tǒng)或其功能專(zhuān)門(mén)設(shè)計(jì)的運(yùn)行條件，包括但不限于環(huán)境、地理和時(shí)間限制，和 / 或某些交通或道路特征的存在或缺失。" 而只有當(dāng)全部條件都滿足的時(shí)候，該自動(dòng)化系統(tǒng)才能保證正常運(yùn)作。相反，欠缺任何一個(gè)前提條件，該系統(tǒng)都有可能出現(xiàn)故障，這種情況下就要采取緊急停車(chē)措施或是駕駛員手動(dòng)接管。

這就導(dǎo)致了一個(gè)行業(yè)普遍現(xiàn)象出現(xiàn)——原本只能在 50% 的場(chǎng)景做到 100 分，但車(chē)企現(xiàn)在硬要在 100% 的場(chǎng)景里干 50 分的事。

系統(tǒng)的上限，不該是生命的底線

" 擦邊球 " 打得好，絕對(duì)不是好的輔助駕駛。但邊界劃定得足夠清，必然是對(duì)生命安全負(fù)責(zé)任的輔助駕駛。這一點(diǎn)，系統(tǒng)復(fù)雜度更高的航空領(lǐng)域，可以佐證。

"Autopilot" 一詞，是特斯拉從航空領(lǐng)域引入到汽車(chē)行業(yè)的，并將其翻譯成 " 自動(dòng)駕駛 "。但 Autopilot 曾闖下了不少大禍，迫于壓力，特斯拉從 2016 年 8 月 16 日以后，將中國(guó)官網(wǎng)的介紹從 "Autopilot 自動(dòng)駕駛 " 改成了 "Autopilot 自動(dòng)輔助駕駛 "。

本質(zhì)上，航空領(lǐng)域的 Autopilot，與汽車(chē)上的 Autopilot 有著異曲同工之妙——它們都不能被稱之為自動(dòng)駕駛，僅僅是起到輔助作用。

" 男人減速帶 " 之 A350 駕駛艙

比如，你開(kāi)著車(chē)上了高速或者快速路，打開(kāi)車(chē)道偏移輔助功能，它就類(lèi)似飛機(jī)上的 LNAV/VNAV；當(dāng)你加速到 120km/h 并打開(kāi)定速巡航功能，它就類(lèi)似于飛機(jī)上的 Autothrust；再則，車(chē)上的盲點(diǎn)警示系統(tǒng)也會(huì)提醒你左右有沒(méi)有來(lái)車(chē)，類(lèi)似飛機(jī)上 TCAS。

那么，飛行員在激活 Autopilot，是不是可以去睡覺(jué)，或者去跟空姐聊天呢？

以前的人們，確實(shí)是這樣想的。《連線》雜志曾在 2012 年刊登一篇報(bào)道，作者寫(xiě)道：" 自動(dòng)駕駛是一種電腦裝置，能夠獨(dú)立操控一架 787，無(wú)須人力支援，但我們還是不理性地在駕駛艙塞幾個(gè)人類(lèi)機(jī)師當(dāng)保姆，只為了以防萬(wàn)一。"

但歷史上有諸多慘痛案例告訴我們，讓飛機(jī)完全自動(dòng)駕駛是一件危險(xiǎn)的事情。比如 " 法航 447 航班 " 事件—— 2009 年 6 月 1 日，一架從巴西里約熱內(nèi)盧飛往法國(guó)巴黎的航班在大西洋上空失事，當(dāng)時(shí)機(jī)上 216 名乘客和 12 名機(jī)組人員全部遇難，這是法航運(yùn)營(yíng)史上最嚴(yán)重的空難。

法國(guó)民航局調(diào)查認(rèn)定，事故的直接原因是機(jī)身外部的空速管因結(jié)冰失靈，導(dǎo)致飛機(jī)無(wú)法判斷航速和高度；自動(dòng)駕駛系統(tǒng)發(fā)生故障，即使切換手動(dòng)駕駛也回天乏術(shù)，隨后飛機(jī)墜海。然而在故障出現(xiàn)時(shí)，機(jī)長(zhǎng)在輪休，副機(jī)長(zhǎng)缺乏應(yīng)對(duì)危機(jī)的經(jīng)驗(yàn)。

一趟航行中，情況時(shí)時(shí)刻刻變化，復(fù)雜、流動(dòng)，絕對(duì)不是提前寫(xiě)死的。所以飛行員必須隨時(shí)下決定，每個(gè)決策都事關(guān)重大。雖然有各式各樣的協(xié)定、檢查表、步驟，寫(xiě)成白紙黑字，機(jī)組成員仍舊必須依據(jù)主觀判斷，下達(dá)成百上千個(gè)指令。

譬如，避開(kāi)堆疊起來(lái)的積云、解決機(jī)械問(wèn)題等等，不勝枚舉。即使是在最最普通的一趟航行，駕駛艙也會(huì)忙到讓你驚訝——而且，這還是開(kāi)著自動(dòng)駕駛的情況下。

飛機(jī)上的自動(dòng)駕駛更應(yīng)該叫 " 自動(dòng)飛行系統(tǒng) "，與其他設(shè)備一樣是輔助機(jī)組成員使用的工具，你還是得告訴它該做什么、何時(shí)做、如何做。因?yàn)樽詣?dòng)駕駛系統(tǒng)綜合了多種功能，可以調(diào)整速度、推力、水平和垂直航向，這些功能全都需要組員定時(shí)輸入指令，才能妥善運(yùn)作。哪怕是設(shè)定自動(dòng)爬升或下降，也至少有其中不同的方式，需要視情況判斷采用哪一種。

所以，真正負(fù)責(zé)任的汽車(chē)自動(dòng)駕駛系統(tǒng)，就應(yīng)該像飛機(jī)的 Autopilot 一樣，明確好自己的能力邊界，并且干好自己 " 輔助 " 的活。

特斯拉沒(méi)做好，不代表它是垃圾

" 現(xiàn)在所謂的自動(dòng)駕駛，最大的難點(diǎn)都不在于技術(shù)，而是在于交互的設(shè)計(jì)上，怎么樣讓人知道它的邊界在哪里？"洪澤鑫向虎嗅分析道。

比如最近，小鵬和理想都出現(xiàn)了超越能力邊界的危險(xiǎn)場(chǎng)景——在 NOA 導(dǎo)航輔助駕駛開(kāi)啟后，車(chē)輛原本設(shè)定的邏輯是會(huì)主動(dòng)超越慢車(chē)。但從第一車(chē)道自動(dòng)變道到第二車(chē)道時(shí)，往往第三車(chē)道車(chē)輛也同時(shí)變道到第二車(chē)道。

一位小鵬 G9 車(chē)主在高架橋上就遇到了這一場(chǎng)景，駕駛員及時(shí)掰回方向盤(pán)，才避免了兩車(chē)側(cè)面相撞。小鵬自動(dòng)駕駛產(chǎn)品總監(jiān)劉毅林表示：" 隔道車(chē)輛同時(shí)變道到目標(biāo)車(chē)道，一代 NGP 處理的不夠擬人，基于 BEV 的全新版本的 NGP 在路上了，變道能力和博弈上會(huì)有大幅提升。"

從車(chē)機(jī)屏幕上可以看到，直到駕駛員介入前的那一刻，系統(tǒng)都并未給出相應(yīng)的提醒。駕駛員完全需要憑自己的經(jīng)驗(yàn)和判斷能力，來(lái)選擇是否介入接管。

下面這臺(tái)理想，所面臨的場(chǎng)景則更加危險(xiǎn)。因?yàn)?NOA 設(shè)定的巡航速度達(dá)到了 130km/h，右側(cè)白色福特 SUV 以更高的速度接近視頻車(chē)。大概率是駕駛員介入了接管，NOA 這時(shí)才降級(jí)為定速巡航，隨后駕駛員踩下制動(dòng)，定速巡航完全退出。

對(duì)此，理想智能駕駛產(chǎn)品經(jīng)理趙哲倫表示：" 我們正在做的動(dòng)態(tài) BEV 算法、DenseTNT 預(yù)測(cè)算法，規(guī)劃算法的重構(gòu)，對(duì)這類(lèi)交互博弈場(chǎng)景的幫助會(huì)非常大。"

事實(shí)上，哪怕是這一場(chǎng)景做不到，車(chē)主也是感知不到的。洪澤鑫告訴虎嗅，" 所以，先是車(chē)企自己要有 ODD 的界定，然后更重要的是說(shuō)，怎么把邊界更好的呈現(xiàn)給用戶。"

在體驗(yàn)過(guò)市面上大多數(shù)城市 / 高速 NOA 產(chǎn)品之后，我愿意將人機(jī)共駕的交互分為兩類(lèi)：一種是，渣男式交互，出了問(wèn)題不負(fù)責(zé)、不關(guān)心；另一種是暖男式交互，想方設(shè)法為你好。

所謂的 " 渣男式交互 "，主要代表是以特斯拉為首的新勢(shì)力陣營(yíng)。

表現(xiàn)一，先是給你秀肌肉。它們普遍會(huì)用車(chē)機(jī)來(lái)展現(xiàn)系統(tǒng)所感知到的周邊環(huán)境，并將行人、非機(jī)動(dòng)車(chē)等信息顯示的豐富視為實(shí)力的象征。雖然這可以大大增強(qiáng)駕駛員的信任感，但真要到了危急時(shí)刻，環(huán)境顯示再豐富也不代表一定能剎住車(chē)。

僅用一條 " 藍(lán)線 " 來(lái)表示 FSD 狀態(tài)

表現(xiàn)二，關(guān)系模糊不清。它們普遍會(huì)用藍(lán)色的指引線和小圖標(biāo)，來(lái)告知駕駛員車(chē)輛是出于被接管的狀態(tài)。但對(duì)于定速巡航、車(chē)道保持、導(dǎo)航輔助駕駛的切換過(guò)程，有的產(chǎn)品過(guò)于簡(jiǎn)單粗暴。這很容易導(dǎo)致駕駛員，對(duì)當(dāng)前系統(tǒng)運(yùn)行狀態(tài)出現(xiàn)誤判，甚至?xí)讯ㄋ傺埠疆?dāng)成 NOA 去開(kāi)。

表現(xiàn)三，出了問(wèn)題不負(fù)責(zé)。它們?cè)谟龅较到y(tǒng)無(wú)法應(yīng)對(duì)的場(chǎng)景時(shí)，會(huì)立刻彈出 " 請(qǐng)接管方向盤(pán) " 之類(lèi)的警示，或者立刻退出輔助駕駛狀態(tài)。因?yàn)樵?" 車(chē)主須知 "，他們?cè)缫褜⒆约旱呢?zé)任撇的一干二凈。出了事的時(shí)候，都是你駕駛員不小心。

所謂的 " 暖男式交互 "，主要也有三個(gè)層面的表現(xiàn)：

表現(xiàn)一，時(shí)刻同步自己的狀態(tài)。

像智己汽車(chē)在 NOA 功能上，增加了 " 信任增強(qiáng)功能 "。在 NOA 激活后，儀表會(huì)為駕駛員傳達(dá)智能駕駛?cè)蝿?wù)的信任指數(shù)：3 級(jí)表示系統(tǒng)能處理成功，2 級(jí)邀請(qǐng)駕駛員注意力，1 級(jí)則需要駕駛員時(shí)刻關(guān)注路況。這樣一來(lái)，系統(tǒng)就可以及時(shí)地告知駕駛員，其對(duì)于當(dāng)前環(huán)境的處理能力。減輕駕駛員焦慮的同時(shí)，提高系統(tǒng)的安全性。

表現(xiàn)二，以各種方式支持你。

像凱迪拉克在 Super Cruise 功能中，引入了方向盤(pán)燈帶提醒、座椅振動(dòng)和聲音警示。當(dāng)注意力系統(tǒng)判斷駕駛員視線沒(méi)集中在前方道路，方向盤(pán)燈帶將會(huì)以綠色燈帶閃爍方式進(jìn)行提示。如果還接管車(chē)輛，則以紅色燈帶閃爍、座椅振動(dòng)和聲音警示。最后再不接管，車(chē)輛會(huì)自動(dòng)停下，并聯(lián)系安吉星 OnStar 人工坐席尋求幫助。

而座艙聯(lián)動(dòng)的交互方式，在后續(xù)還有迭代空間。從行業(yè)的解決方案來(lái)看，中央集成式架構(gòu)能夠解決現(xiàn)在跨控制域通信延遲的問(wèn)題。艙駕融合之后數(shù)據(jù)更加集中，減少軟件代價(jià)的同時(shí)，降低傳輸同步代價(jià)。英偉達(dá) Thor 芯片、黑芝麻智能武當(dāng) C1200 等芯片，都是為了把智駕信息更好地用座艙去呈現(xiàn)給駕駛員，取代以前單一的車(chē)機(jī)顯示。

表現(xiàn)三，負(fù)責(zé)到底。

全球首個(gè)獲得 L3 自動(dòng)駕駛認(rèn)證的奔馳，最早地喊出了 " 你撞了我來(lái)賠 " 的口號(hào)。在條款中，奔馳明確寫(xiě)到——基于產(chǎn)品和生產(chǎn)者責(zé)任，汽車(chē)制造商對(duì)因產(chǎn)品缺陷造成的損失承擔(dān)相應(yīng)責(zé)任。這一準(zhǔn)則同時(shí)適用于可以實(shí)現(xiàn)有條件自動(dòng)駕駛和不具有自動(dòng)駕駛相關(guān)功能的車(chē)輛。

當(dāng)后方有救護(hù)車(chē)駛過(guò)時(shí)，奔馳 L3 會(huì)提醒駕駛員接管

寫(xiě)在最后

即便是技術(shù)不成熟、覆蓋場(chǎng)景不全面、接管和預(yù)警機(jī)制不及時(shí)，城市 NOA 導(dǎo)航輔助駕駛功能 " 沖 " 上大街小巷的進(jìn)程也不會(huì)有絲毫的放緩。因?yàn)椋? 狼 " 要來(lái)了。

5 月 12 日，上海市經(jīng)信委智能制造推進(jìn)處的消息，下階段，上海將進(jìn)一步深化與特斯拉的合作，推動(dòng)自動(dòng)駕駛、機(jī)器人等功能板塊在滬布局——這似乎意味著，特斯拉 FSD（完全自動(dòng)駕駛）即將進(jìn)入中國(guó)市場(chǎng)。

當(dāng)不成熟的 AI，遇上不熟練的駕駛員，碰到不易應(yīng)對(duì)的場(chǎng)景，那下一次所謂的 " 剎車(chē)失靈 " 也快了。

車(chē)主睡得很安詳