天天看點

AI發神經撞馬路牙子!小馬智行路試全無人自動駕駛結果「翻車」

AI發神經撞馬路牙子!小馬智行路試全無人自動駕駛結果「翻車」

新智元報道

編輯:袁榭

【新智元導讀】2022年3月頭,小馬智行中國這邊剛融完資,美國那邊就被要求召回自動駕駛系統(ADS)軟體,成了全球第一個被如此要求的L4自動駕駛系統。

智能駕駛界的中國「造車新勢力」的宣發攻勢與業務成就近年來都是高歌猛進、不輸美國同行頭部企業的。

不過,2022年3月,中國的無人駕駛車企創下了一個負面新聞的世界第一:

小馬智行的自動駕駛系統(ADS)軟體部分版本被美國監管機構要求召回,這是世界首起由監管部門發起的對L4級自動駕駛系統的召回事件。

AI發神經撞馬路牙子!小馬智行路試全無人自動駕駛結果「翻車」

NHTSA要求小馬智行召回ADS

據美國「國家公路交通與安全管理局」 (NHTSA) 稱,因2021年10月在加利福尼亞路試時發生車禍,自動駕駛汽車初創公司小馬智行将召回其自動駕駛系統軟體(ADS)的部分版本、與三輛實驗用汽車。

該機構表示,這是全球首次由監管機構發起的、對駕駛全部交給AI的L4級全自動駕駛系統的召回要求。

NHTSA副局長在官方聲明中稱:「無論車輛是由人類駕駛員還是AI駕駛系統操作,保護道路使用者的需求都是同樣的。正如此番首次召回所要強調的,NHTSA将確定汽車制造商、開發商在引進最新技術的同時,将道路安全放在首位。」

AI發神經撞馬路牙子!小馬智行路試全無人自動駕駛結果「翻車」

小馬智行公司對源頭事故的官方描述是:

2021年10月28日,一輛小馬智行完全無人測試車在美國加州弗裡蒙特進行測試過程中,變道時開上了道路中央的隔離帶,與道路中間的路标發生了輕微碰撞。沒有人員受傷,也不涉及其他車輛。

事故發生之後,小馬智行立即暫停了在加州的自動駕駛無人化測試并對事件進行了全面複盤。碰撞發生後一直全力配合NHTSA的問詢。

理想路況中,無安全員的全自動智能車突然撞擊

無人駕駛車輛在變道時開上了道路中央的隔離帶,并與其上的路牌碰撞。這種程度的路試事故在有關智能汽車業界的消息中其實是常态。

而且隻有小馬智行的測試車輛前部受損,未造成任何人員傷亡。這種無人車自行開上馬路牙子的事,比2018年Uber無人車路試事故搞到車毀人亡的大場面來說,隻能算是清粥小菜。

何以小馬智行這次成了世界第一被召回的呢?原因可能在于「自行」這倆字上。

小馬智行的實驗車輛是完全自動駕駛模式(ADS)下運作下出事的,其L4級實驗車輛完全不配備任何人類安全員以備接管。

而且當時的路況,根據加州DMV的官方釋出,事故發生時天氣晴朗、道路也比較幹燥,還沒有任何其他車輛與突發路況來幹擾。

在這種理想路況下,AI還突然開上馬路牙子,那就頗值得尋思了。其他廠商的智能車出類似事故,好歹有天氣影響傳感器和AI判讀、路上其他車輛加塞變道搶線幹擾AI等等前提,小馬智行此次事故找不出這些由頭來。

AI發神經撞馬路牙子!小馬智行路試全無人自動駕駛結果「翻車」

事故現場當時的鳥瞰圖

是以NHTSA向小馬智行表示,它認為小馬智行的自動駕駛軟體存在安全缺陷,并要求召回。

據小馬智行稱,撞毀車輛中的軟體問題也在另外兩輛路試車輛中發現,這三輛車都已修複。小馬智行還表示已更新其軟體代碼。

鑒于小馬智行無人測試車輛都僅用于公司内部研發,是以他們在事故第二天即按照要求完成了NHTSA相關要求。目前,該公司已對NHTSA所有問詢均進行了回應,且2021年12月中旬之後NHTSA再無任何新增問詢。

2022年3月3日,小馬智行向NHTSA送出了召回報告。3月7日,NHTSA确認了小馬智行的召回。

按公司發言人受訪時的說法,這是小馬智行自動駕駛汽車第一次也是唯一一次發生此類事件。

發言人稱小馬智行的實驗車隊已經完成了超過600萬英裡的真實世界駕駛總裡程,其中305617英裡的裡程是2021年在美國加州完成的。

事故原因:程式代碼bug了

NHTSA官網上,有小馬智行送出的召回安全報告,報告中刨析了2021年10月28日在美國加州發生的測試車碰撞事故,并簡述了事故原因、軟體缺陷以及召回計劃。

AI發神經撞馬路牙子!小馬智行路試全無人自動駕駛結果「翻車」

小馬智行的「自動駕駛系統」(ADS)軟體的故障版本中,其車輛地理定位的診斷功能部分代碼,在極少數情況下可能會錯誤地判别小的浮點數舍入錯誤/差異。

是以,AI軟體中一個特定的診斷比對函數,可能會錯誤地将程式内無關緊要的浮點數舍入差異判斷為車輛的地理位置出錯。

當事故時,小馬智行的汽車自動駕駛正在運作地理定位診斷檢查,由于「當時非常罕見的因素和條件組合」,程式産生了浮點舍入差異,診斷檢查将其誤判為車輛地理位置不比對。此錯誤導緻診斷檢查功能強行關閉 ADS。這一關閉,就導緻撞擊事故的發生。

AI發神經撞馬路牙子!小馬智行路試全無人自動駕駛結果「翻車」

考慮到當時風和日麗、路面幹燥、路況空曠,簡直理想到像是專業測試賽車道的情景,這也能算是「非常罕見」、讓AI出bug到發神經開上馬路牙子亂撞。無怪NHTSA要拿小馬智行開這頭一刀啊。

社會背景:美國監管部門順應民意收緊管制

由于這次事故,加州交管局 (DMV)在2021年冬季撤銷了小馬智行的「全無人自動駕駛測試牌照」 (Driverless Testing Permit)。

此牌照清單原本包括了八家廠商,都是業界中的一流廠家。中美兩國企業在其中平分秋色:中國的小馬智行、文遠知行、AutoX、百度Apollo,美國的Waymo、Cruise、Zoox、Nuro。

這些企業原本都可以在加州道路上讓無人車在主駕駛位沒有安全員的情況下上路測試,小馬智行這事故一出,立馬被移除榜單了。

而且這事故正好出在美國國内逐漸收緊無人車路試監管的當口。

AI發神經撞馬路牙子!小馬智行路試全無人自動駕駛結果「翻車」

美國國内不管科技業界還是普通公衆,都對之前智能無人車企業幾乎不受實質監管的狀況火大。再加上馬斯克的自動吸睛戲精屬性,這行當隻要一出事就是衆矢之的。

權威科技期刊《電子工程專輯》2021年專門發文,痛斥智能無人車企業十二大罪,反複稱無良工程師和廠商把公共道路當成私家實驗場、把公衆當成測試小白鼠,卻幾乎沒受實質管制。

Waymo在亞利桑那州鳳凰城的小規模Robotaxi試點中,據說有周邊居民向自動駕駛測試車扔石塊,認為這些玩意讓路況大大危險起來。

2021年6月底,NHTSA釋出新規,要求所有L2以上輔助駕駛和自動駕駛的廠商都必須在事故發生一天之内提供報告,并在10天之内對事故報告進行更新。很明顯,以前無人車測試的寬松環境一去不複返了。

小馬智行剛D輪融資完

2022年3月,小馬智行剛完成D輪融資,其估值已飙升至85億美元。

小馬智行計劃利用這筆資金,擴大企業規模,進一步增加招聘,并建立更多戰略合作夥伴關系。它還計劃增加研發投資,包括對其自動駕駛計程車和機器人卡車車隊進行全球測試,邁近旗下車隊的大規模商業落地。

到目前為止,該公司沒有透露融資金額的細節,但計劃在整輪融資結束時公布總額。

剛融完資就出這種消息,真是不大喜慶啊。

參考資料:

https://techcrunch.com/2022/03/08/pony-ai-to-issue-recall-of-autonomous-driving-software/

https://www.therobotreport.com/pony-ai-agrees-to-recall-3-of-its-autonomous-vehicles/

https://datahub.transportation.gov/dataset/NHTSA-Recalls-by-Manufacturer/mu99-t4jn

繼續閱讀