城市環境中端到端自動駕駛在未來的發展政策，以及在智能系統的改進方向有哪些？
城市環境中的自動駕駛需要能夠處理複雜且不可預測的場景的智能系統。傳統的子產品化方法側重于将駕駛任務劃分為标準子產品，然後使用基于規則的方法連接配接這些不同的子產品。是以，這些方法需要付出大量努力來設計組合所有系統元件的架構，并且通常容易在整個管道中傳播錯誤。
端到端自動駕駛系統将自動駕駛問題表述為端到端學習過程，目标是制定一種将傳感資料轉化為車輛控制指令的政策。盡管取得了可喜的成果，但自動駕駛中的大多數端到端工作都集中在簡單的駕駛任務上，例如車道跟随，這并沒有完全捕捉到在城市環境中駕駛的複雜性。
在過去的幾十年裡，自動駕駛(AD)領域引起了學術界和工業界的極大興趣。引發這種興趣的主要因素涉及安全問題。美國國家公路交通安全管理局(NHTSA)報告稱，94%的事故是由駕駛員造成的。另一個關鍵因素與交通流量有關。用自動駕駛系統代替人類可以優化交通流量，同時提供經濟和環境效益。
完全自動駕駛的好處似乎相當可觀，這就是為什麼對自動駕駛的研究仍然是一個活躍的領域. 該領域最困難的挑戰之一是城市環境中的AD 。與高速公路駕駛或車道跟随相比，城市環境由于場景中存在的不可預測性和多樣性以及複雜和不确定的情況（例如行人過車道、紅綠燈、十字路口等）構成了額外的障礙。
AD系統是內建了許多技術的複雜系統，包括傳感器、處理單元、軟體等。是以，AD系統需要處理範圍廣泛的問題：傳感器誤差、硬體可靠性、目标檢測、定位等。
解決此類問題的傳統方法包括将駕駛任務劃分為标準子產品，例如目标檢測、定位、路徑規劃等，然後建構基于規則的方法來連接配接不同的子產品。這種方法通常稱為子產品化，并在行業中廣泛使用. 系統中不同子產品之間的互連性是機器人領域廣泛研究的問題。
在端到端方法中，有兩種不同的學習方法：模仿學習(IL)和強化學習(RL)。IL旨在通過觀察人類的行為來學習政策。這是一種監督學習方法，其中模型試圖模仿人類行為。NVIDIA通過訓練卷積神經網絡(CNN)來預測車輛的轉向角，使用這種方法取得了出色的結果。
IL方法的一個優點是它可以單獨使用深度學習(DL)并僅優化模型的參數以減少模型行為與人類行為之間的差異。然而，基于IL擴充AD系統的過程是一項具有挑戰性的任務，因為不可能在訓練階段涵蓋所有可能的場景。
RL方法旨在學習一種政策，該政策可以在自動系統與環境互動時最大化其收到的累積獎勵。RL的一種變體是DeepRL，它結合了DL和RL 。
在RL的情況下，不需要從人類駕駛中收集資料，因為當代理與環境互動時，它會學習如何表現以最大化獎勵，由于RL模型的訓練是線上進行的，是以可以同時探索環境和訓練，與IL模型相比這是一個很大的優勢。缺點是RL在訓練階段的資料效率較低。
通過基于标記資料建立IL模型，然後使用基于RL的線上政策調整來優化政策，進而結合IL和RL的優勢，RL算法的一個關鍵要素是獎勵的定義，當代理試圖最大化獎勵時，獎勵函數的定義直接影響代理學習的行為。
由于城市環境的複雜性，通常使用環境的低維中間表示而不是從場景中解析原始資料。這種低維中間表示的選項之一稱為可供性，一些人提出了一種基于可供性的AD系統，特别是為城市環境設計的.
這些可供性的示例包括：存在危險停車、紅色交通燈、速度标志、到車輛的距離、相對角度和到中心線的距離，這些可供性由接收RGB圖像和導航指令（例如“直走”、“左轉”或“右轉”）的神經網絡預測。這些示能随後由控制器處理以産生控制指令。
大多數端到端系統僅依賴視覺，僅使用一個攝像頭來預測控制指令。然而，在城市環境中，單一模态配置通常不足以産生穩健可靠的AD系統，此外城市環境中的自動駕駛需要從一個點導航到另一個點，是以，額外的導航輸入通常是強制性的。
對單模态和多模态端到端AD系統進行了比較，他們使用RGB圖像和深度資訊作為傳感器模态，并證明多模态有利于端到端系統，優于單一模态配置，關于融合方案，作者得出結論，早期融合，即将通道數從三個(RGB)增加到四個(RGBD)，是取得最佳效果的方案。
然而，為了另外提供端到端方法和子產品化方法之間的比較，還包括了Dosovitskiy等人提出的子產品化方法。這種方法将駕駛任務分為三個子產品：感覺、規劃和持續控制。
感覺子產品使用語義分割來估計車道、動态物體和其他危險、規劃子產品由一個基于規則的狀态機組成，該狀态機實施專為城市環境設計的駕駛政策。最後，連續控制子產品是一個PID控制器，可産生轉向、油門和制動指令。
