自動(dòng)駕駛系統(tǒng)的安全性 取決于建造它們的人和組織

自動(dòng)駕駛汽車(chē)本應(yīng)使駕駛更加安全，但現(xiàn)實(shí)可能并不是這樣。一些更為樂(lè)觀的研究表明，僅在美國(guó)，自動(dòng)駕駛汽車(chē)每年就能挽救數(shù)萬(wàn)人的生命。

但到目前為止，優(yōu)步、谷歌，甚至可以說(shuō)特斯拉，這些追求技術(shù)的大公司的文化已經(jīng)直接導(dǎo)致了不必要的碰撞、傷害，甚至死亡。

讓我們清楚這一點(diǎn)，這些公司已經(jīng)獲得了一項(xiàng)艱難的，潛在的“革命性”技術(shù)的通行證，但是，這些公司缺乏社會(huì)責(zé)任感。

這些公司的行為喪失了一些人的生命，在這個(gè)過(guò)程中，他們使整個(gè)領(lǐng)域的前景變得黯淡，削弱了公眾對(duì)自動(dòng)駕駛汽車(chē)的信任，并推遲了許多人希望拯救生命的技術(shù)的推出。

追求自動(dòng)駕駛技術(shù)的最引人注目的公司接連失敗，突顯出一個(gè)事實(shí)：自動(dòng)駕駛系統(tǒng)的安全性，取決于建造它們的人和組織。

優(yōu)步的自動(dòng)駕駛汽車(chē)部門(mén)可能不僅不計(jì)后果，而且完全玩忽職守。

據(jù)報(bào)道，該公司的管理人員無(wú)視來(lái)自其安全團(tuán)隊(duì)的詳細(xì)電話，繼續(xù)采取不安全措施，導(dǎo)致一名行人死亡。在此之前，許多事故和險(xiǎn)些發(fā)生的事故都沒(méi)有引起人們的注意。

據(jù)報(bào)道，在谷歌的自動(dòng)駕駛汽車(chē)部門(mén)，至少有一名高管不受測(cè)試程序協(xié)議的約束，直接導(dǎo)致了一場(chǎng)嚴(yán)重的撞車(chē)事故，導(dǎo)致他的乘客受傷，而且從未通知警方這是由一輛自動(dòng)駕駛汽車(chē)造成的事故。

據(jù)我所知，根據(jù)加州車(chē)管所的記錄，Waymo（現(xiàn)在是谷歌的一家子公司）今年發(fā)生了21起撞車(chē)事故，不過(guò)其中只有一小部分是它造成的。

在兩個(gè)不同的場(chǎng)合，特斯拉的半自動(dòng)駕駛系統(tǒng)Autopilot在司機(jī)遭遇致命車(chē)禍時(shí)啟動(dòng)。

去年10月，佛羅里達(dá)州一名特斯拉車(chē)主在駕駛自動(dòng)駕駛汽車(chē)時(shí)發(fā)生嚴(yán)重事故，隨后起訴特斯拉，稱該公司“欺騙了消費(fèi)者”。讓我們相信，它與特斯拉汽車(chē)一起提供的自動(dòng)駕駛系統(tǒng)，以額外的成本，能夠在高速公路上以最低的投入和監(jiān)管，安全地運(yùn)送乘客。（特斯拉當(dāng)然駁斥了這種說(shuō)法。）

這起案件更加復(fù)雜，因?yàn)樘厮估鞔_警告不要讓系統(tǒng)完全驅(qū)動(dòng)汽車(chē)，并安裝了防護(hù)措施，以阻止此類(lèi)不良駕駛行為。

然而，特斯拉繼續(xù)在其網(wǎng)站上宣傳，它提供“所有汽車(chē)上的全自動(dòng)駕駛硬件”，而特斯拉自己的工程師告訴監(jiān)管機(jī)構(gòu)，他們預(yù)計(jì)一些司機(jī)將完全依賴該系統(tǒng)。然而，特斯拉公開(kāi)否認(rèn)，他們的系統(tǒng)可能會(huì)導(dǎo)致司機(jī)對(duì)其半自主系統(tǒng)產(chǎn)生任何危險(xiǎn)的依賴。

難怪公眾對(duì)自動(dòng)駕駛汽車(chē)持謹(jǐn)慎態(tài)度。

倫敦大學(xué)學(xué)院（University College London）科技系高級(jí)講師、即將推出的無(wú)人駕駛未來(lái)項(xiàng)目的首席研究員杰克·斯第爾戈（Jack Stilgoe）博士說(shuō)，“目前，在美國(guó)進(jìn)行車(chē)輛測(cè)試相當(dāng)不計(jì)后果?！薄澳男╋L(fēng)險(xiǎn)是可以接受的，由企業(yè)來(lái)決定?！薄巴ǔＧ闆r下，這些公司都明確認(rèn)為，風(fēng)險(xiǎn)非常高是可以接受的?！?/p>

在自動(dòng)駕駛汽車(chē)領(lǐng)域，有很多企業(yè)不計(jì)后果，最新最引人注目的例子就是發(fā)生在亞利桑那州坦佩（Tempe）的這起臭名昭著的致命車(chē)禍。優(yōu)步的一輛車(chē)在坦佩相撞，導(dǎo)致一名49歲的行人死亡。

據(jù)報(bào)道，這些信息是由這家測(cè)試運(yùn)營(yíng)集團(tuán)的前經(jīng)理羅比米勒（Robbie Miller）發(fā)給包括該公司自動(dòng)駕駛汽車(chē)部門(mén)負(fù)責(zé)人在內(nèi)的7名優(yōu)步高管的一封電子郵件獲得的，郵件警告稱，為出租車(chē)提供動(dòng)力的軟件存在缺陷，后備司機(jī)沒(méi)有經(jīng)過(guò)充分培訓(xùn)。

米勒寫(xiě)道：“汽車(chē)經(jīng)常發(fā)生事故，造成損壞，這通常是操作者或AV技術(shù)表現(xiàn)不佳的結(jié)果。二月里幾乎每隔一天就有一輛車(chē)損壞。我們不應(yīng)該每15000英里就撞一次。”

因?yàn)轳{駛技術(shù)不佳而一再違規(guī)的情況很少會(huì)終止駕駛。一些司機(jī)似乎沒(méi)有經(jīng)過(guò)適當(dāng)?shù)膶彶榛蚺嘤?xùn)。

那太瘋狂了。當(dāng)時(shí)，在舊金山、匹茲堡、圣達(dá)菲等地，有數(shù)百輛自動(dòng)駕駛汽車(chē)行駛在道路上。

AV技術(shù)顯然是有缺陷的，備份驅(qū)動(dòng)程序沒(méi)有保持警惕，盡管多次發(fā)生事故，但什么也沒(méi)有得到解決。

米勒電子郵件發(fā)出五天后，伊萊恩·赫茨伯格（Elaine Herzberg）騎著自行車(chē)慢慢過(guò)馬路時(shí)，一輛使用優(yōu)步（Uber）自動(dòng)駕駛軟件的沃爾沃撞上了她，導(dǎo)致她死亡。事故發(fā)生時(shí)，司機(jī)顯然在Hulu上播放The Voice。

這一悲劇并非某些尖端技術(shù)的反常故障——這完全是可以預(yù)見(jiàn)的企業(yè)瀆職的副產(chǎn)品。

優(yōu)步是這起案件中最糟糕的參與者，但它也不是唯一的一個(gè)，而且它建立在多年前形成的一種文化基礎(chǔ)上，在這種文化中，技術(shù)領(lǐng)先的需求蓋過(guò)了安全擔(dān)憂。

安東尼·萊萬(wàn)多夫斯基（Anthony Levandowski）是谷歌自動(dòng)駕駛汽車(chē)項(xiàng)目的前負(fù)責(zé)人，他的魯莽、粗心是出了名的。公平地說(shuō)，我們甚至不知道他監(jiān)管的自動(dòng)駕駛汽車(chē)發(fā)生了多少起事故。這里有一個(gè)關(guān)鍵的例子，正如Charles Duhigg在《紐約客》上報(bào)道的那樣：

2011年的一天，谷歌的一位名叫艾薩克·泰勒（Isaac Taylor）的高管得知，在他休陪產(chǎn)假期間，萊萬(wàn)多夫斯基修改了這些車(chē)的軟件，這樣他就可以把它們帶到其他禁止行駛的路線上。谷歌的一位高管回憶說(shuō)，他曾親眼目睹泰勒和萊萬(wàn)多夫斯基互相大喊大叫。萊萬(wàn)多夫斯基告訴泰勒，向他展示自己的方法為何必要的唯一方法就是一起乘車(chē)。這兩名男子很憤怒，跳上一輛自動(dòng)駕駛的普銳斯，開(kāi)走了。

車(chē)開(kāi)上了高速公路，經(jīng)過(guò)了一個(gè)入口匝道。據(jù)知情人士透露，當(dāng)天，普銳斯不小心與另一輛車(chē)凱美瑞相撞。

一個(gè)人類(lèi)司機(jī)可以很容易地通過(guò)減速和讓凱美瑞并入車(chē)道來(lái)處理這種情況，但是谷歌的軟件并沒(méi)有為這種情況做好準(zhǔn)備。

汽車(chē)在高速公路上并排加速行駛。突然，凱美瑞的司機(jī)猛地把車(chē)轉(zhuǎn)向道路的右邊。然后，為了躲開(kāi)護(hù)欄，又轉(zhuǎn)向左邊。

于是，凱美瑞轎車(chē)在高速公路上橫沖直撞，撞到了中間。萊萬(wàn)多夫斯基當(dāng)時(shí)是一名安全駕駛，為了避免與凱美瑞發(fā)生碰撞，他迅速急轉(zhuǎn)彎，結(jié)果導(dǎo)致泰勒的脊椎嚴(yán)重受傷，最終不得不接受多次手術(shù)。

普銳斯重新獲得了控制權(quán)，在高速公路上拐了個(gè)彎，把凱美瑞甩在了后面。萊萬(wàn)多夫斯基和泰勒不知道凱美瑞受損有多嚴(yán)重。

他們沒(méi)有回去查看凱美瑞司機(jī)的情況，也沒(méi)有去看看是否有人受傷。他們和谷歌的其他高管都沒(méi)有向當(dāng)局詢問(wèn)，也沒(méi)有告知警方這起事故與自動(dòng)駕駛算法有關(guān)。

萊萬(wàn)多夫斯基傾向于將AV測(cè)試置于安全之上，這一點(diǎn)已經(jīng)被事實(shí)證明了，警察未被告知這一事實(shí)是關(guān)鍵所在。

谷歌在很長(zhǎng)一段時(shí)間內(nèi)對(duì)其自動(dòng)駕駛汽車(chē)項(xiàng)目表現(xiàn)得很坦率，以至于雜志報(bào)道稱，2016年，在萊萬(wàn)多夫斯基事件五年后，一輛谷歌汽車(chē)引發(fā)了“第一次撞車(chē)”。

這一點(diǎn)，再加上優(yōu)步的爆料，應(yīng)該讓我們深入思考，我們應(yīng)該要求在共享道路上進(jìn)行自動(dòng)駕駛汽車(chē)測(cè)試的公司提供多大程度的信任和透明度。

一位Waymo發(fā)言人說(shuō)：“安東尼？萊萬(wàn)道基（Anthony Levandowki）對(duì)安全的漠視，并沒(méi)有反映出Waymo的使命和價(jià)值觀。在Waymo，我們團(tuán)隊(duì)中的數(shù)百名工程師每天都在工作，致力于把這項(xiàng)技術(shù)安全地帶到道路上來(lái)?！薄拔覀児镜某闪⑹菫榱颂岣叩缆钒踩晕覀儗?duì)自己的安全要求很高?！?/p>

根據(jù)加州的自動(dòng)駕駛汽車(chē)碰撞記錄，Waymo今年發(fā)生了21起小事故，其中只有幾起是Waymo的錯(cuò)。這是一個(gè)相當(dāng)好的記錄，假設(shè)所有事故都得到了準(zhǔn)確的報(bào)告，Waymo對(duì)安全的強(qiáng)調(diào)似乎為該行業(yè)指明了方向。

就優(yōu)步而言，已經(jīng)將其自動(dòng)駕駛汽車(chē)從道路上收回，并表示已對(duì)其自動(dòng)駕駛汽車(chē)測(cè)試程序進(jìn)行了大修。

雖然當(dāng)我向優(yōu)步發(fā)言人詢問(wèn)自事故發(fā)生以來(lái)它是如何改變其公司政策時(shí)，她向我發(fā)送了與我的同事詹寧斯·布朗發(fā)送的完全相同的信息回復(fù)：“現(xiàn)在整個(gè)團(tuán)隊(duì)都專注于安全，我們對(duì)團(tuán)隊(duì)為實(shí)現(xiàn)目標(biāo)所做的工作充滿信心。我們的團(tuán)隊(duì)仍然致力于實(shí)施關(guān)鍵的安全改進(jìn)，我們打算只有在實(shí)施這些改進(jìn)并且我們已經(jīng)獲得賓夕法尼亞運(yùn)輸部的授權(quán)后才能恢復(fù)在路上的自動(dòng)駕駛測(cè)試。

優(yōu)步拒絕回答以下問(wèn)題：公司文化是否發(fā)生了變化，公司里是否有人為其責(zé)任，或者除了上述聲明和公開(kāi)發(fā)布的材料以外，是否還有還有其他事情。優(yōu)步并沒(méi)有否認(rèn)對(duì)這起事故負(fù)責(zé)。

在2018年12月的第一周，警方成功阻止了一輛特斯拉Model S，當(dāng)時(shí)它正以每小時(shí)70英里的速度高速行駛，司機(jī)在駕駛時(shí)睡著了。司機(jī)啟用了自動(dòng)駕駛儀，行駛了17英里才被攔下。

在上文提到的10月份針對(duì)特斯拉的訴訟中，佛羅里達(dá)州男子肖恩說(shuō)，他購(gòu)買(mǎi)特斯拉的部分原因是特斯拉的自動(dòng)駕駛功能，他認(rèn)為這可以讓他在漫長(zhǎng)的通勤途中放松下來(lái)，所以他經(jīng)常在路上寫(xiě)電子郵件、查看手機(jī)，包括撞車(chē)發(fā)生的時(shí)候。

特斯拉處于一個(gè)獨(dú)特的位置。如前所述，長(zhǎng)期以來(lái)，該公司一直在為其汽車(chē)配備其所稱的“完全自動(dòng)駕駛硬件”，同時(shí)也發(fā)布警告，要求消費(fèi)者不要完全依賴自動(dòng)駕駛儀。自動(dòng)駕駛儀是一種半自動(dòng)駕駛系統(tǒng)，售價(jià)額外5000美元。它正在不斷升級(jí)軟件，讓已經(jīng)上路的司機(jī)更接近自動(dòng)駕駛的現(xiàn)實(shí)。

Stilgoe告訴我，“特斯拉正在對(duì)自動(dòng)駕駛試驗(yàn)睜一只眼閉一只眼。”人們不負(fù)責(zé)任地使用自動(dòng)駕駛儀，而特斯拉之所以忽視它，是因?yàn)樗麄冊(cè)谑占瘮?shù)據(jù)。特斯拉還誤導(dǎo)人們，說(shuō)他們?cè)谫u(mài)自動(dòng)駕駛汽車(chē)。他們使用的短語(yǔ)是“全自動(dòng)駕駛硬件”。

事實(shí)上，埃?。狂R斯克（Elon Musk）本人本質(zhì)上是在宣傳特斯拉無(wú)人駕駛的潛力，在不到60分鐘的露面時(shí)間里，他做了一點(diǎn)大膽的嘗試。

特斯拉強(qiáng)調(diào)，在購(gòu)買(mǎi)過(guò)程中，其銷(xiāo)售團(tuán)隊(duì)展示了自動(dòng)駕駛儀的正確使用方法，讓買(mǎi)家不再認(rèn)為它的功能與自動(dòng)駕駛汽車(chē)類(lèi)似。

它還增加了一些功能，用戶可以不用手來(lái)關(guān)閉自動(dòng)駕駛儀。盡管如此，市場(chǎng)營(yíng)銷(xiāo)是強(qiáng)大的力量，自動(dòng)駕駛被濫用為自動(dòng)駕駛系統(tǒng)的碰撞和事故仍在繼續(xù)。

以這種方式公開(kāi)推廣其產(chǎn)品是一個(gè)有意識(shí)的決定，它可能有助于向特斯拉的司機(jī)灌輸一種信念，即他們能夠以營(yíng)銷(xiāo)語(yǔ)言描述的方式使用這一功能。

在第一次致命事故發(fā)生后發(fā)布的報(bào)告中，美國(guó)國(guó)家公路交通安全管理局（其解除了特斯拉的不法行為）仍然發(fā)現(xiàn)：

“在研究和開(kāi)發(fā)Autopilot的過(guò)程中，特斯拉考慮了司機(jī)可能會(huì)以各種方式濫用該系統(tǒng)的可能性，包括上文提到的那些方式——即自動(dòng)駕駛?！?/p>

通過(guò)模式混淆、分心駕駛、以及使用系統(tǒng)以外的首選環(huán)境和條件，特斯拉工程師考慮的駕駛員分心類(lèi)型包括，駕駛員在使用自動(dòng)駕駛儀時(shí)可能無(wú)法集中注意力、睡著或失去動(dòng)作［原文如此］。

作為特斯拉設(shè)計(jì)過(guò)程的一部分，特斯拉評(píng)估了司機(jī)濫用的可能性，并對(duì)解決方案進(jìn)行了測(cè)試、驗(yàn)證，并將其整合到產(chǎn)品的廣泛發(fā)布中。特斯拉對(duì)司機(jī)濫用的評(píng)估以及由此導(dǎo)致的行動(dòng)似乎解決了這種濫用可能帶來(lái)的不合理的安全風(fēng)險(xiǎn)。

換句話說(shuō)，特斯拉的團(tuán)隊(duì)知道，一些司機(jī)將使用Autopilot作為一種真正的自動(dòng)駕駛模式，最終將完全依賴該系統(tǒng)。

盡管NHTSA發(fā)現(xiàn)，特斯拉的工程師已經(jīng)對(duì)此做出了解釋，但該系統(tǒng)在兩起致命事故和更多事故中仍在使用。

與此同時(shí)，美國(guó)國(guó)家運(yùn)輸安全委員會(huì)（National Transportation Safety Board）發(fā)現(xiàn)，特斯拉在勸阻司機(jī)不要濫用自動(dòng)駕駛儀方面做得不夠，實(shí)際上應(yīng)該承擔(dān)部分責(zé)任。

與特斯拉發(fā)言人打了幾個(gè)小時(shí)的電話，在此期間，該公司拒絕談?wù)撏其N(xiāo)其車(chē)輛與“所有車(chē)輛上的全自動(dòng)駕駛硬件”相關(guān)的話題。

然后堅(jiān)持要求購(gòu)買(mǎi)特斯拉的司機(jī)不要將其視為自動(dòng)駕駛汽車(chē)，該公司僅提供了它在10月份佛羅里達(dá)州訴訟后發(fā)布的聲明。

該聲明如下：“特斯拉一直清楚自動(dòng)駕駛儀不能使汽車(chē)不受所有事故影響，特斯拉竭盡全力提供關(guān)于自動(dòng)駕駛儀能做什么和不能做什么的明確指示。

看，駕駛已經(jīng)是一個(gè)混亂，危險(xiǎn)的業(yè)務(wù)。

高功能的自動(dòng)駕駛汽車(chē)在人類(lèi)健康方面可能是一個(gè)天賜之物，但是在道德上是一個(gè)棘手的問(wèn)題。

在特斯拉的案例中，我們無(wú)法知道某些自動(dòng)駕駛儀用戶是否會(huì)如此分心地駕駛車(chē)輛以至于造成意外事故。

但事實(shí)是，我們這些自己開(kāi)車(chē)的人和行人對(duì)于我們?nèi)绾闻c自動(dòng)駕駛車(chē)輛共存幾乎沒(méi)有任何發(fā)言權(quán)。

到目前為止，正如萊萬(wàn)多夫斯基（Levandowski）曾經(jīng)說(shuō)過(guò)的那樣，科技巨頭在一場(chǎng)“他們需要贏的競(jìng)賽”中，已經(jīng)為我們做出了決定。

推動(dòng)立法更嚴(yán)格地監(jiān)管自動(dòng)駕駛汽車(chē)的測(cè)試，并且要求那些對(duì)傷害性和致命性違規(guī)行為負(fù)有適當(dāng)責(zé)任的公司承擔(dān)責(zé)任，似乎是一種合理的手段。

除非這些公司大幅改善努力，將安全和開(kāi)放置于開(kāi)發(fā)速度和銷(xiāo)售技巧之上，否則它們既可能造成進(jìn)一步的傷害，也可能疏遠(yuǎn)已經(jīng)對(duì)自動(dòng)駕駛汽車(chē)前景持謹(jǐn)慎態(tài)度的公眾。

Stilgoe說(shuō)：“我們?nèi)匀徊恢来蠖鄶?shù)人會(huì)認(rèn)為什么是可接受的風(fēng)險(xiǎn)，但我的猜測(cè)是，即使我們知道自動(dòng)駕駛汽車(chē)比人類(lèi)司機(jī)安全一點(diǎn)，公眾也不會(huì)滿意。”

任何崩盤(pán)都是一場(chǎng)災(zāi)難，自動(dòng)駕駛汽車(chē)行業(yè)必須付出更大努力，才能贏得安全方面的爭(zhēng)論。