為汽車人工智能提供未來保障進而管理終身成本

在可預見的未來，汽車和卡車的使用壽命預計將持續 10 到 20 年，這對電子產品的可靠性產生了相應的影響，這一點我們已經知道。更具挑戰性的是管理汽車人工智能系統的長期服務時間，特別是考慮到人工智能技術的飛速發展，以及需要對發現的現場服務問題或法規變化進行管理更新。召回車輛進行硬件升級無疑是太過昂貴的做法。同樣的，汽車人工智能軟件模型服務更新將依賴于可擴展系統，以支持服務技術人員在許多地點處理許多產品線。硬件和軟件必須同時具備可擴展性，以支持并簡化在車輛使用壽命內的長期更新，并且要支持不斷改進的新車架構。

自動泊車

為汽車人工智能硬件提供未來保障

汽車人工智能正在迅速融入車輛的各個方面，不僅在 ADAS 等明顯的功能中使用智能視覺和汽車周圍測距，現在還包括用于電動汽車智能電池管理，用于車廂監控系統以跟蹤駕駛員意識和乘客狀態，以及用于智能降噪的信息娛樂系統。這些智能功能是在分布在汽車周圍的定制人工智能處理器上運行的，而我們必須確保這些處理器能夠適應未來汽車架構和人工智能技術的演進。

“演進”在這里是一個重要的限制因素。人工智能基礎模型偶爾會發生重大的革命性飛躍，比如從卷積神經網絡（CNN）到Transformer的模型架構，但更常見的情況是，模型會在汽車生命周期內甚至產品線中以較小的步驟不斷演進。如果將人工智能模型看作一個圖形，那么許多子圖形可以被重復使用，一些子圖形可能會被添加或修改，而圖形之間的順序階段可能會被優化。如果硬件平臺的擴展性能足夠強，能夠處理從經典深度神經網絡（DNN）到生成模型等不同類型的圖形，而且在性能和功耗上具有競爭力，那么它應該能夠處理這種模型演進的水平。但有一個重要的注意事項，我們將在下一節討論。

Ceva NeuPro-M 是一個非常強大的NPU IP系列，它為嵌入式汽車人工智能設計奠定了基礎。這是一個可擴展平臺，可根據這些需求進行配置。NeuPro-M 可并行運行 1 到 8 個引擎，每個引擎都包含一個混合精度神經引擎、一個補充激活單元和一個最先進的稀疏性引擎，可管理權重和數據中任何形式的稀疏性。NeuPro-M與矢量處理單元（VPU）一起，它們共享該該引擎的本地內存，以最大化本地吞吐量。由一個本地控制器負責協調這些功能之間的流程。由一個通用子系統提供引擎之間的頂層協調、下一級共享內存、權重和數據的壓縮和解壓縮，以及與主機設計的接口。

VPU - 高性能定制的關鍵

在汽車人工智能領域，產品的差異化取決于定制化程度，就像在其他任何設計領域一樣。通過利用汽車人工智能硬件本身所支持的操作，產品開發者就可以實現一些改進。但是，要獲得更大的優勢，則需要添加定制的軟件，這些軟件不是由人工智能處理器硬件本身所支持的。傳感器融合就是一個很好的例子。

想一想自動泊車。這必須融合來自超聲波、雷達和視頻傳感器（或這些傳感器的子集）的輸入，以確定一個可行的倒車停車路徑。這些傳感器將各司其職，確定與障礙物的距離，但沒有現成的解決方案可以將這些輸入融合在一起，以確定路徑和接下來的方向盤轉向和前后移動的步驟。這些算法是每個汽車制造商都必須設計的。

該算法必須根據2D（或3D）空間中的障礙物和其他感知信息，確定車輛相對于障礙物的曲線路徑，同時理解速度以及前后障礙物可能移動的可能性。這就需要進行基于向量的分析。

許多處理器會將這樣的計算任務外包給外部的數字信號處理器（DSP）或圖形處理器（GPU），然而，由于汽車在非常狹窄的空間內移動，這種做法會帶來嚴重的延遲，這是不可取的。相比之下，在NeuPro-M NPU IP中，每個引擎都嵌入了可編程的VPU。融合算法的某些部分可以被編程在同一引擎中運行，并且與其他神經操作的性能相當，因為它們共享同一本地內存，可為傳感和融合提供快速、低延遲的性能。事實上，在Ceva，我們的SensPro2視覺人工智能傳感器集線器DSP，就是圍繞這一功能打造的，因此它可以與定制的人工智能引擎結合使用，實現高效的芯片和系統設計。

這種性能水平的定制算法開發，可以擴展汽車人工智能算法，可以為未來可能出現的各種進步提供強大的支持，無論是在核心DNN層還是在其他擴展方面，如融合算法等。

為不斷發展的人工智能堆棧提供未來保障

提早進行硬件布局來為未來提供保障只一個開端，但它還必須得到面向未來的汽車人工智能模型和軟件堆棧的支持。Ceva在支持所有標準網絡的接口方面擁有豐富的經驗，還提供編譯器和優化功能，可映射到基于NeuPro-M的硬件。

我們很自豪地與大家分享，我們的軟件堆棧和模型現在利用開放源代碼元素，包括TVM、ONNX運行時和DeepSpeed。我們對使用開源組件的承諾是您的保證，確保您與人工智能推理和優化生態系統中不斷發展的模型和新興功能之間的接口，將與基于NeuPro-M的具體應用完美契合，無縫銜接。