自動(dòng)駕駛汽車(chē)是人工智能技術(shù)最令人興奮和最具影響力的應(yīng)用場(chǎng)景之一。

僅在美國(guó)，每年就有超過(guò) 35,000 人死于車(chē)禍。由于自動(dòng)駕駛汽車(chē)?yán)碚撋峡梢员热祟?lèi)司機(jī)更快做出反應(yīng)，并且不會(huì)醉酒駕駛、不會(huì)邊開(kāi)車(chē)邊發(fā)短信或感到疲倦，所以它們應(yīng)該能夠顯著提高車(chē)輛安全性。這種技術(shù)還承諾讓老年人和其他不能輕松駕車(chē)的人們更加獨(dú)立，出行更方便。

在過(guò)去三年中，自動(dòng)駕駛汽車(chē)行業(yè)獲得的投資超過(guò) 2500 億美元。

下面列舉了行業(yè)中各個(gè)自動(dòng)駕駛車(chē)輛類(lèi)型領(lǐng)域中的典型企業(yè)：

• 送貨機(jī)器人：Gofurther.ai、Idriverplus、Kiwibot、Neolix、Nuro、Refraction.ai、Scout（亞馬遜）、Serve Robotics、Starship Technologies、Unity Drive、Yours Technology。

• 穿梭巴士和公交車(chē)：Auto（Ridecell）、百度、Beep、Coast Autonomous、e.Go、EasyMile、Local Motors、Milla Pod、May Mobility、Navya（軟銀）、Ohmio、Optimus Ride、Sensible4、TransDev、Venti Technologies、Voyage（Cruise）、宇通。

• 出租車(chē)：Argo、Aurora、AutoX、百度阿波羅、Cruise、滴滴出行、東風(fēng)、現(xiàn)代、Motional、小馬智行、Waymo、文遠(yuǎn)知行、Zoox（亞馬遜）。

• 卡車(chē)：Aurora、戴姆勒、Einride、Embark、Gatik、Ike（Nuro）、Inceptio、Kodiak Robotics、Locomation、Plus.ai、小馬智行、沃爾沃、特斯拉、TuSimple、Udelv、UPS、Waymo、Zipline。

• 消費(fèi)級(jí)車(chē)輛：蘋(píng)果、Aurora、百度、寶馬、Cruise、戴姆勒、福特、本田、華為、現(xiàn)代、起亞、馬自達(dá)、日產(chǎn)、標(biāo)致、上汽、斯巴魯、Tata Elxsi、特斯拉、騰訊、豐田、大眾、沃爾沃。

但自動(dòng)駕駛汽車(chē)真的會(huì)更安全嗎？

汽車(chē)行業(yè)面對(duì)的最大挑戰(zhàn)主要是邊緣情況引發(fā)的意外狀況。事實(shí)上有兩個(gè)新的汽車(chē)安全標(biāo)準(zhǔn)，ISO 26262 和 UL 4600，就試圖解決這些邊緣情況。

然而這些標(biāo)準(zhǔn)不是強(qiáng)制性的，監(jiān)管機(jī)構(gòu)不要求自動(dòng)駕駛汽車(chē)遵守這些或其他任何自動(dòng)駕駛行業(yè)專(zhuān)屬標(biāo)準(zhǔn)。更糟糕的是，正如我將在下面解釋的那樣，有充分的理由相信某些類(lèi)型的自動(dòng)駕駛汽車(chē)可能無(wú)法處理這些邊緣情況。

自動(dòng)化水平

首先，我們來(lái)定義“自動(dòng)駕駛”的含義。汽車(chē)工程師協(xié)會(huì)定義了自動(dòng)駕駛技術(shù)的六個(gè)級(jí)別，如下所示：

• L0：人類(lèi)司機(jī)掌控所有駕駛功能

• L1：某種程度的駕駛輔助（可以是自適應(yīng)巡航或路線保持 / 居中）

• L2 ：部分自動(dòng)駕駛（同時(shí)具備自適應(yīng)巡航和路線居中），但司機(jī)必須保持控制狀態(tài)（手放在方向盤(pán)上，雙眼注視路線，或者兩者皆有）

• L3：有條件的自動(dòng)駕駛（特定條件下司機(jī)可以雙手離開(kāi)方向盤(pán)做自己的事情，但收到車(chē)輛提示時(shí)必須介入控制）

• L4：高度自動(dòng)駕駛（在特定場(chǎng)景下，如指定城市街道和 / 或校園道路上，司機(jī)不需要介入控制）

• L5：完全自動(dòng)駕駛（不需要人類(lèi)介入控制）

L3-5 被視為自動(dòng)駕駛系統(tǒng)（ADS），其中司機(jī)無(wú)需注意道路。在第 3 級(jí)別，司機(jī)可以看書(shū)或看電影，但如果車(chē)輛要求，司機(jī)必須能夠在 10-60 秒內(nèi)接管車(chē)輛操控。3 級(jí)車(chē)輛的一個(gè)大問(wèn)題是，在司機(jī)接管的 10 秒過(guò)渡期內(nèi)可能會(huì)發(fā)生碰撞，因此 3 級(jí)車(chē)輛可能需要包含一個(gè) ODD，不會(huì)因?yàn)?10 秒交接而出事故（例如低速公路交通擁堵場(chǎng)景）。

第 4 級(jí)和第 5 級(jí)之間的區(qū)別在于，第 4 級(jí)車(chē)輛僅限在操作設(shè)計(jì)域（ODD）開(kāi)啟自動(dòng)駕駛模式，這個(gè) ODD 通常包括受限制的地理區(qū)域（例如城市中的一組指定街道），并且可能包括基于天氣、當(dāng)日時(shí)間、降水、道路坡度和曲率等因素的限制。5 級(jí)車(chē)輛可以不受限制地在任何地域行駛，理論上是消費(fèi)級(jí)車(chē)輛和商用卡車(chē)的有效替代品。

當(dāng)今道路上的許多消費(fèi)級(jí)車(chē)輛，例如特斯拉，都具有駕駛輔助功能。它們可以讓車(chē)輛保持在車(chē)道中央，并且可以自動(dòng)加速和制動(dòng)。然而，司機(jī)駕駛這些車(chē)輛時(shí)看書(shū)或看電影是不安全的。司機(jī)必須不斷監(jiān)控道路并準(zhǔn)備好隨時(shí)接管控制。這些都是 2 級(jí)車(chē)輛，不被視為 ADS。司機(jī)必須注意道路并準(zhǔn)備好立即接管。

例如，上周我在紐約高速公路上以自動(dòng)駕駛模式駕駛時(shí)，我的特斯拉時(shí)遇到了一個(gè)大顛簸。我的特斯拉突然轉(zhuǎn)向并發(fā)出“叮叮咚”的聲音，意思是“Steve，你靠你自己了”，我不得不迅速做出反應(yīng)，把它開(kāi)回我的車(chē)道。

這些 2 級(jí)車(chē)輛的一個(gè)問(wèn)題是，諸如“全自動(dòng)駕駛”之類(lèi)的營(yíng)銷(xiāo)術(shù)語(yǔ)可能會(huì)誘使司機(jī)采取危險(xiǎn)的行動(dòng)，例如在 2021 年 4 月的一起特斯拉車(chē)禍中，駕駛座上連人都沒(méi)有。

重大問(wèn)題：邊緣情況

人們?cè)隈{駛汽車(chē)時(shí)使用常識(shí)推理來(lái)處理各種意外情況：一頭鹿飛奔到高速公路上；洪水讓道路難以通行或無(wú)法通行；汽車(chē)在打滑，試圖爬上結(jié)冰的山丘。

人們不會(huì)在駕駛學(xué)校了解所有這些可能出現(xiàn)的邊緣情況。相反，我們使用日常常識(shí)推理技能來(lái)預(yù)測(cè)行動(dòng)和結(jié)果。如果我們看到一個(gè)球滾到街上，我們就知道該注意追球的孩子。當(dāng)我們看到前面的汽車(chē)突然轉(zhuǎn)彎時(shí)，我們就會(huì)改變駕駛行為，因?yàn)槲覀冎浪緳C(jī)可能喝醉了或是在發(fā)短信。

不幸的是，沒(méi)有人知道如何將人類(lèi)的常識(shí)推理能力構(gòu)建到汽車(chē)或通用計(jì)算機(jī)中。為了代替常識(shí)推理能力，ADS 開(kāi)發(fā)人員必須預(yù)測(cè)每種可能的情況并對(duì)其編程。機(jī)器學(xué)習(xí)只能幫助制造商預(yù)測(cè)每種情況并提供每種可能情況的訓(xùn)練示例。

更糟糕的是，這些邊緣情況的數(shù)量有數(shù)百萬(wàn)甚至數(shù)十億個(gè)。每個(gè)人都至少遇到過(guò)一次不尋常的駕駛經(jīng)歷。世界上有 14 億司機(jī)。如果有 14 億個(gè)這樣的邊緣情況，它們?cè)趺纯赡苋勘蛔R(shí)別出來(lái)呢？更不要說(shuō)都得到對(duì)應(yīng)的編程了？

如果 ADS 不能使用常識(shí)推理能力來(lái)處理所有這些邊緣情況，它們真的比人類(lèi)司機(jī)更安全嗎？

常識(shí)推理的重要性是與 ODD 相關(guān)的

4 級(jí)車(chē)輛僅限于特定的 ODD 才能啟用自動(dòng)駕駛。與沒(méi)有 ODD 的 5 級(jí)車(chē)輛相比，這往往會(huì)顯著減少邊緣情況的數(shù)量。例如，我們已經(jīng)在企業(yè)園區(qū)內(nèi)看到了行駛速度非常緩慢的 4 級(jí)點(diǎn)對(duì)點(diǎn)班車(chē)。

這些車(chē)輛不太可能遇到很多邊緣情況，因?yàn)樵趦蓚€(gè)地點(diǎn)之間的一條道路上不會(huì)發(fā)生很多意外狀況。就算發(fā)生了什么事，穿梭巴士的行駛速度也非常緩慢，乘客或行人幾乎沒(méi)有風(fēng)險(xiǎn)可言。

ODD 限于特定城市街道的 4 級(jí)自動(dòng)駕駛出租車(chē)將遇到比公司班車(chē)更多的邊緣情況，但可能遠(yuǎn)不及消費(fèi)級(jí)車(chē)輛可能遇到的邊緣情況數(shù)量。將駕駛領(lǐng)域限制在特定街道上后，人們就可以維護(hù)非常詳細(xì)的地圖（包含交通燈和施工區(qū)域的豐富細(xì)節(jié)）。

相比之下，5 級(jí)車(chē)輛必須能在全球所有街道上行駛—或者至少是消費(fèi)者所在的國(guó)家 / 地區(qū)的所有街道上自動(dòng)行駛。華盛頓郵報(bào)統(tǒng)計(jì)，僅在美國(guó)就有超過(guò) 100 萬(wàn)條道路。

這就是為什么有這么多 ADS 開(kāi)發(fā)人員在鳳凰城、舊金山和其他許多城市測(cè)試自動(dòng)駕駛出租車(chē)的原因。大多數(shù)測(cè)試都是由安全司機(jī)監(jiān)控的，他們隨時(shí)準(zhǔn)備在危險(xiǎn)情況下立即接管車(chē)輛。但是，只有少數(shù)無(wú)人駕駛測(cè)試是在限制性 ODD 條件下進(jìn)行的。自動(dòng)駕駛汽車(chē)不像人那樣“看世界”ADS 的另一個(gè)問(wèn)題是計(jì)算機(jī)視覺(jué)系統(tǒng)很容易出錯(cuò)，因?yàn)樗鼈兛赡軙?huì)被一些人類(lèi)能正常識(shí)別的情況愚弄。

例如，研究人員證明，限速標(biāo)志的微小變化可能會(huì)讓機(jī)器學(xué)習(xí)系統(tǒng)認(rèn)為該標(biāo)志顯示的是 85 英里 / 小時(shí)而不是 35 英里 / 小時(shí)。類(lèi)似地，一些黑客使用鮮艷的貼紙制造出假車(chē)道，欺騙特斯拉的自動(dòng)駕駛改變車(chē)道。

在這兩種情況下，這些變化都愚弄了汽車(chē)，但愚弄不了人。此外，不良行為者想要欺騙汽車(chē)或卡車(chē)駛離道路或進(jìn)入障礙物還有很多方法可用。

自動(dòng)駕駛汽車(chē)看待世界的方式與人類(lèi)存在很多差異，而這些差異引發(fā)的擔(dān)憂遠(yuǎn)不止遭受黑客利用這一種。

例如，在現(xiàn)實(shí)世界中，許多特斯拉車(chē)主報(bào)告說(shuō)他們的汽車(chē)經(jīng)常將陰影（例如樹(shù)枝的陰影）視為真實(shí)物體。在優(yōu)步測(cè)試車(chē)輛撞死行人的案例中，汽車(chē)的物體識(shí)別軟件首先將行人歸類(lèi)為未知物體，然后歸類(lèi)為車(chē)輛，最后歸類(lèi)為自行車(chē)。我不知道你是怎么看的，但我覺(jué)得馬路上不管是行人、司機(jī)還是車(chē)輛，無(wú)法 100% 準(zhǔn)確識(shí)別行人和其他物體都是很可怕的事情。

為什么測(cè)試很重要

我們有很多充分的理由相信 ADS 將比人類(lèi)司機(jī)更安全，我們也有很多充分的理由擔(dān)心 ADS 不會(huì)像人類(lèi)司機(jī)一樣安全。

從監(jiān)管的角度來(lái)看，僅僅考慮正面理由就讓 ADS 開(kāi)發(fā)人員全權(quán)決定是否讓 ADS 上路，而無(wú)需證明它們比人類(lèi)司機(jī)更安全是愚蠢的做法。但這正是監(jiān)管機(jī)構(gòu)正在做的事情。

美國(guó)國(guó)家公路和運(yùn)輸安全局（NHTSA）的立場(chǎng)是:

自動(dòng)駕駛汽車(chē)的安全優(yōu)勢(shì)非常關(guān)鍵。自動(dòng)駕駛汽車(chē)挽救生命和減少傷害的潛力源于一個(gè)關(guān)鍵而悲慘的事實(shí)：94% 的嚴(yán)重碰撞事故是由人為錯(cuò)誤造成的。自動(dòng)駕駛汽車(chē)有可能從碰撞方程中消除人為錯(cuò)誤，這將有助于保護(hù)司機(jī)和乘客，以及騎自行車(chē)的人和行人。當(dāng)你考慮到美國(guó)每年有超過(guò) 35,000 人死于與機(jī)動(dòng)車(chē)相關(guān)的事故時(shí)，你就會(huì)開(kāi)始了解駕駛輔助技術(shù)可以幫助挽救多少生命。

NHTSA 于 2020 年 12 月發(fā)布了 ADS 安全擬議框架，該框架受到美國(guó)國(guó)家運(yùn)輸安全委員會(huì)（NTSB）的批評(píng)，理由是“……缺乏強(qiáng)制提交安全自我評(píng)估報(bào)告的要求，并且缺乏讓 NHTSA 來(lái)評(píng)估報(bào)告是否充分的流程。”

從公共文檔中截取的圖像

NTSB 還指出，由于缺乏聯(lián)邦法規(guī)，個(gè)別州正在制定自己的法規(guī)。例如，亞利桑那州的限制最少，NTSB 稱(chēng)這至少對(duì) 2018 年 Uber ADS 造成的行人死亡負(fù)有部分責(zé)任。

佛羅里達(dá)州法規(guī) 316.85 特別允許自動(dòng)駕駛汽車(chē)的運(yùn)營(yíng)，并明確規(guī)定駕駛者在自動(dòng)駕駛汽車(chē)中無(wú)需注意道路情況（例如，司機(jī)可以看電影）。它還明確允許自動(dòng)駕駛車(chē)輛無(wú)需司機(jī)參與。

法規(guī)沒(méi)有要求制造商通過(guò)安全測(cè)試，作為自動(dòng)駕駛功能的前置要求。當(dāng)汽車(chē)、卡車(chē)、公共汽車(chē)或出租車(chē)公司認(rèn)為他們準(zhǔn)備就緒時(shí)，他們就可以自由地測(cè)試和銷(xiāo)售自動(dòng)駕駛車(chē)輛。我在佛羅里達(dá)州有一個(gè)住處，這讓我感到害怕。其他不少州也鼓勵(lì)推出無(wú)需前置安全標(biāo)準(zhǔn)的自動(dòng)駕駛汽車(chē)。

ADS 的安全標(biāo)準(zhǔn)

自動(dòng)駕駛汽車(chē)需要進(jìn)行三種截然不同的安全測(cè)試。

第一項(xiàng)測(cè)試是確保將信息提供給 AV 決策機(jī)制的所有組件都正常工作。一年前在臺(tái)灣，一輛處于自動(dòng)駕駛模式的特斯拉 Model 3 以 70 英里 / 小時(shí)的速度撞上一輛翻倒的拖拉機(jī)拖車(chē)。據(jù)報(bào)道，事故是由汽車(chē)前向傳感器陣列中的軟件故障引起的，這導(dǎo)致自動(dòng)制動(dòng)無(wú)法正常工作。傳感器的測(cè)試應(yīng)該足以防止這種類(lèi)型的故障。

Waymo（谷歌）報(bào)告說(shuō)，它將每個(gè)攝像頭放入汽車(chē)之前都會(huì)對(duì)其進(jìn)行測(cè)試，然后在汽車(chē)集成后再測(cè)試一次，最后，它會(huì)測(cè)試與攝像頭相關(guān)的各種能力，例如檢測(cè)行人的能力。

ISO 26262 標(biāo)準(zhǔn)已被汽車(chē)行業(yè)廣泛采用，用于測(cè)試軟件錯(cuò)誤和硬件故障。它確保傳感器和其他組件按設(shè)計(jì)工作。

第二種類(lèi)型的安全測(cè)試是為了證明車(chē)輛可以處理預(yù)期遇到的真實(shí)場(chǎng)景類(lèi)型。2016 年，NHTSA 概述了 36 種應(yīng)該進(jìn)行測(cè)試的場(chǎng)景，但指出這不是一個(gè)完整的清單。

示例場(chǎng)景包括：

• 檢測(cè)并響應(yīng)速度限制變化和速度建議

• 執(zhí)行高速并線（例如，高速公路）

• 執(zhí)行低速并線

Waymo 在駕駛模擬器和加利福尼亞州一個(gè) 113 英畝設(shè)施的封閉課程中測(cè)試這些場(chǎng)景和其他場(chǎng)景，然后在真實(shí)街道上配備安全司機(jī)進(jìn)行測(cè)試。

測(cè)試邊緣情況

應(yīng)該進(jìn)行的第三類(lèi)安全測(cè)試，是分析系統(tǒng)在遇到未經(jīng)過(guò)訓(xùn)練或編程的意外情況時(shí)是否能夠安全響應(yīng)。

行業(yè)已開(kāi)發(fā)出兩種標(biāo)準(zhǔn)來(lái)支持此類(lèi)安全測(cè)試：ISO 21448，也稱(chēng)為預(yù)期功能安全性（SOTIF），專(zhuān)為 1 級(jí)和 2 級(jí)車(chē)輛設(shè)計(jì)，但也可用于 ADS；UL 4600 則專(zhuān)為 ADS 設(shè)計(jì)。這些標(biāo)準(zhǔn)要求開(kāi)發(fā)人員列出和測(cè)試已知的邊緣情況。但是，這兩個(gè)標(biāo)準(zhǔn)都不能確定 ADS 的安全級(jí)別，因?yàn)樗鼈儾粶y(cè)試未知的邊緣情況。

那么，你如何測(cè)試未知的邊緣情況呢？ 一種方法是使用脫離接觸數(shù)據(jù)。在加利福尼亞州，許多制造商正在舊金山等城市測(cè)試自動(dòng)駕駛出租車(chē)。這些車(chē)輛以 4 級(jí)模式運(yùn)行，ODD 僅限于特定的城市街道，但也配備一名高度警惕的安全司機(jī)準(zhǔn)備好立即接管，就好像它是 2 級(jí)車(chē)輛一樣。當(dāng)車(chē)輛出現(xiàn)問(wèn)題時(shí)，安全司機(jī)會(huì)接管。這被稱(chēng)為脫離接觸。

我們知道人類(lèi)在兩次事故之間平均會(huì)行駛多少英里。如果假設(shè)每次脫離都會(huì)導(dǎo)致事故，那么脫離率就可以與人類(lèi)（或更具體地說(shuō)是出租車(chē)司機(jī)）的事故率進(jìn)行比較。不幸的是，估計(jì)自動(dòng)駕駛汽車(chē)要證明安全性所需要行駛的里程數(shù)并不是那么簡(jiǎn)單。

蘭德公司在 2016 年估計(jì)，這將需要數(shù)億英里的自動(dòng)駕駛里程，這是不切實(shí)際的。但從那以后，僅 Waymo 就已經(jīng)記錄了超過(guò) 2000 萬(wàn)英里的自動(dòng)駕駛測(cè)試?yán)锍獭?/span>

另一個(gè)問(wèn)題是我們沒(méi)有 針對(duì)特定 ODD 的人類(lèi)司機(jī)事故的統(tǒng)計(jì)數(shù)據(jù)。 但是，我們至少可以將特定 ODD 的 ADS 事故率與人類(lèi)司機(jī)總體事故率進(jìn)行比較。鑒于 90% 的人類(lèi)司機(jī)車(chē)禍?zhǔn)怯扇藶殄e(cuò)誤造成的，即使我們用的是精細(xì)的 ODD 統(tǒng)計(jì)數(shù)據(jù)，也可能不會(huì)與總體事故率有很大偏差，因?yàn)榇蠖鄶?shù)事故都是人為錯(cuò)誤造成的。

最后一個(gè)問(wèn)題是，在 ADS 測(cè)試期間發(fā)生的許多脫離不會(huì)導(dǎo)致事故。很多脫離的發(fā)生是出于良性原因，例如需要在不屬于 ODD 的街道上行駛。盡管如此，ADS 測(cè)試過(guò)程可以得到加強(qiáng)，以便進(jìn)行某種程度的比較。

例如，Aurora 安全司機(jī)會(huì)記錄他們?yōu)榱朔乐故鹿识撾x的次數(shù)。類(lèi)似地，Argo 記錄脫離事件的傳感器數(shù)據(jù)，讓分析人員可以使用它來(lái)審查脫離事件。Waymo 使用脫離傳感器數(shù)據(jù)在模擬中重新創(chuàng)建脫離條件，從而確定如果安全司機(jī)沒(méi)有脫離，車(chē)輛是否會(huì)發(fā)生碰撞。

Aurora、Argo 和 Waymo 等公司正在測(cè)試 4 級(jí)車(chē)輛—主要是自動(dòng)駕駛出租車(chē)。對(duì)于 5 級(jí)消費(fèi)車(chē)輛而言分析脫離數(shù)據(jù)更加困難，因?yàn)榄h(huán)境種類(lèi)繁多，這些車(chē)輛很難配備安全司機(jī)進(jìn)行測(cè)試。然而，當(dāng)使用的是 2 級(jí) ADS 時(shí)，消費(fèi)級(jí)車(chē)輛實(shí)際上是有安全司機(jī)的，安全司機(jī)就是消費(fèi)者。

事實(shí)上，一些消費(fèi)級(jí)車(chē)輛記錄了不少脫離。例如，當(dāng)特斯拉在自動(dòng)駕駛模式下被人類(lèi)司機(jī)接管控制時(shí)，這將被記錄為脫離并報(bào)告給特斯拉總部。但據(jù)我所知，特斯拉不會(huì)與監(jiān)管機(jī)構(gòu)共享這些數(shù)據(jù)。盡管如此，消費(fèi)級(jí)汽車(chē)制造商仍可以讓負(fù)責(zé)記錄脫離原因的安全司機(jī)測(cè)試他們的車(chē)輛，并且監(jiān)管機(jī)構(gòu)可能會(huì)要求 ADS 開(kāi)發(fā)商共享這些數(shù)據(jù)。

自動(dòng)駕駛系統(tǒng)（ADS）旨在驅(qū)動(dòng)汽車(chē)、出租車(chē)、公共汽車(chē)或其他車(chē)輛，而人類(lèi)可以在車(chē)上做其他事情（例如讀書(shū)）。3 級(jí)和 4 級(jí) ADS 的操作設(shè)計(jì)域（ODD）有限制，其中可能包括受限制的地理區(qū)域和基于天氣、時(shí)間、降水、道路坡度和曲率以及其他因素的限制。5 級(jí)車(chē)輛可以在任何地方運(yùn)行，并且沒(méi)有 ODD。

有充分的理由假設(shè) ADS 將比人類(lèi)司機(jī)更安全。畢竟它們從不疲倦，不會(huì)在開(kāi)車(chē)時(shí)發(fā)短信，或酒后駕車(chē)。

同樣有充分的理由假設(shè)它們不會(huì)更安全。沒(méi)有人知道如何將常識(shí)構(gòu)建到計(jì)算機(jī)中。但是，ADS 需要常識(shí)推理來(lái)處理它可能遇到的所有意外情況（邊緣情況）。在沒(méi)有常識(shí)推理能力的情況下，ADS 只能處理已明確編碼到 ADS 軟件中的邊緣情況，或 ADS 已被訓(xùn)練處理的邊緣情況。當(dāng)遇到 ADS 工程師未預(yù)料到的邊緣情況時(shí)，可能會(huì)發(fā)生事故和交通擁堵。

現(xiàn)實(shí)情況是，ADS 可能對(duì)某些 ODD 是安全的（例如以 5 英里 / 小時(shí)的速度在一條街道上來(lái)回穿梭的公司班車(chē)），但對(duì)于其他 ODD（例如覆蓋廣泛地理和所有天氣條件的出租車(chē)服務(wù)）可能就不夠安全，或者無(wú)法實(shí)現(xiàn) 5 級(jí)自動(dòng)駕駛了。

美國(guó)和世界各地的監(jiān)管機(jī)構(gòu)都在急于將 ADS 技術(shù)推向市場(chǎng)，因?yàn)樗哂薪档褪鹿事屎透纳评夏耆撕蜌埣踩说某鲂心芰Φ葷撛诤锰?。例如，美?guó)國(guó)家公路和運(yùn)輸安全局（NHTSA)）表示，它認(rèn)為對(duì) ADS 能力的測(cè)試不是必需的。某些 ADS 將被證明對(duì)特定 ODD 是安全的。一些 ADS 可能會(huì)被證明對(duì)其他 ODD 和 / 或 5 級(jí)駕駛是不夠安全的。

在允許 ADS 進(jìn)入公共道路之前，難道不應(yīng)該要求 ADS 開(kāi)發(fā)人員證明 ADS 至少與特定 ODD 的人類(lèi)司機(jī)一樣安全嗎？缺乏監(jiān)管有可能將我們的道路變成一場(chǎng)具有災(zāi)難性后果的大規(guī)模試驗(yàn)。