芝能-烟烟
2024.08.10 09:42

如何圍繞 AI 開發並匹配車載控制器?

portai
我是 LongbridgeAI,我可以總結文章信息。
​​

芝能科技出品


 

在智能汽車發展的浪潮中,計算平台控制器(DCU)作為車輛智能化、網聯化的核心部件,扮演着至關重要的角色。


 

隨着 AI 技術的飛速進步,特別是大語言模型(LLM)邊緣計算(Edge Computing)的興起,如何高效地將 AI 與域控制器軟硬件結合起來,成為了提升汽車智能化水平的關鍵。


 

 

 

01

AI-Edge-LLM:提升智能座艙和智能駕駛


 

● 新算力的發展


 

近年來,隨着半導體技術的進步和算力需求的提升,端側算力得到了顯著的發展。特別是大語言模型(LLM)的引入,使得智能座艙和智能駕駛系統擁有了更為強大的 “智能大腦”。


 

LLM 通過其強大的自然語言處理能力,能夠實現更為複雜的語音交互和意圖識別。例如,在駕駛過程中,系統可以通過語音與駕駛員進行互動,提供實時的導航信息、天氣預報等服務。LLM 還可以結合多模態信息輸入,如圖像和音頻,實現對環境的全面感知和智能決策。


 


 

在硬件層面,高性能處理器和專用的 AI 加速器(如 NPU)成為端側算力的核心。高通的平台如 SA8255P/SA8295P,通過支持大規模的 LLM 模型,如 Llama 2 和 Stable Diffusion,能夠為智能座艙提供強大的 AI 算力支持。


 

異構計算架構的引入,通過 CPU、GPU、NPU的協同工作,解決了算力和能效之間的平衡問題。


 

● AI-SaaS:雲端與車載的 AI 升級


 

常規汽車芯片通過雲端和雲原生應用進行 AI 升級,正在成為一種趨勢。AI-SaaS 平台整合了各種先進的 AI 技術,如文心繫列、通義系列等,為車載平台提供了豐富的 AI 服務,包括自然語言處理、語音交互、圖像識別等。


 

這種雲端與車載的結合模式,使得汽車智能化不再侷限於車內的硬件配置,而是可以通過雲端不斷進行功能升級和優化。例如,車主可以通過雲端平台進行遠程診斷和軟件更新,從而使車輛保持最佳的性能和功能。AI-SaaS 平台的架構設計,強調簡單易用的 UI 和快速響應的技術支持。


 

無論是 AI 大模型對話,還是AI 繪畫、AI 語音等服務,都可以通過雲端平台進行定製化配置,滿足不同用户的需求。


 


 

● AI-Agent:基於端側的車載全智能控制


 

AI-Agent 作為車載智能體,是實現車載全智能控制的核心。與依賴用户提示的大模型(LLMs)不同,AI-Agent 具備自主理解、規劃決策和執行復雜任務的能力。


 

大模型的引入,增強了 AI-Agent 的自然語言處理能力,使其能夠更好地理解用户的意圖並做出相應的響應。例如,在駕駛過程中,AI-Agent 可以根據駕駛員的指令自動調節空調、播放音樂,甚至進行復雜的導航任務。


 

在硬件架構上,AI-Agent 需要依賴強大的算力支持。高通和博世等廠商推出的中央計算平台,通過整合信息娛樂和高級駕駛輔助系統(ADAS)的功能,實現了更高效、更安全的車載計算。這種中央計算架構,通過一箇中央控制器集中管理車輛的各項功能,極大地提升了系統的整體性能和智能化水平。


 

汽車的電子電氣架構(E/E 架構)將進一步向中央計算架構演進。這種趨勢下,功能邏輯將集中到一箇中央控制器,從而簡化系統的複雜性,提高系統的可靠性和可維護性。


 

博世基於 Snapdragon Ride Flex SoC 的車載中央計算平台,和 NVIDIA 的 DRIVE Thor 芯片,都是這一趨勢的典型代表。這些平台不僅具備強大的計算能力,還能夠處理複雜的自動駕駛任務,實現更高層次的智能化。
 


 

02

AGI 時代的域控發展方向


 

在 AGI(人工通用智能)時代,域控的發展將向多模態信息接入和理解的方向邁進。大語言模型通過其強大的語言理解和生成能力,能夠處理和理解文本、圖像、音頻等多種類型的數據。


 

這種多模態的信息處理能力,使得車載系統能夠更全面地感知環境。例如,系統可以通過攝像頭識別周圍的物體和場景,並結合語音交互,為駕駛員提供更為自然和直觀的使用體驗。


 

同時,情感識別技術的引入,使得系統能夠識別駕駛員的情緒,並做出相應的回應,從而提高人機交互的親和力。


 

智能意圖識別是實現車載智能交互的關鍵。從傳統的 VPA(虛擬個人助理)升級到大模型應用,需要突破智能意圖識別的技術瓶頸。大語言模型在泛化、非命令式語言理解和上下文指代識別方面,具有顯著的優勢。


 

例如,系統可以通過對對話上下文的分析,自動糾錯和處理轉折語句,從而實現更自然的語言理解和交互。這種能力,使得車載系統能夠更準確地理解用户的意圖,並做出相應的響應,提高了用户體驗的流暢度和智能化水平。


 

在 HMI(人機交互)領域,Edge-LLM 的應用前景廣闊。基於大語言模型的端側計算,使得車載系統能夠在離線環境下實現高效的語音交互和意圖識別。


 

智能座艙的域控系統,通過結合知識庫和 Edge-LLM,實現了智能意圖識別和自然語言處理。用户可以通過語音或文字輸入,控制車內的各種功能,如導航、音樂播放、空調調節等,從而提升駕駛體驗的智能化水平。



 

03

高通平台與異構計算的結合

 


 

生成式 AI模型參數量大,算力是一個核心限制因素。高通平台通過異構計算和 NPU(神經網絡處理單元),解決了算力瓶頸問題。


 

異構計算架構,通過在一個處理器中包含多種不同類型的處理單元,如 CPU、GPU、NPU 等,實現了高性能和低功耗的平衡。例如,在實現虛擬 AI 助手與用户語音互動交流時,自動語音識別(ASR)在高通傳感器中樞運行,文本生成在 Hexagon NPU 上運行,文本到語音轉換(TTS)在 CPU 上運行,虛擬化身渲染在 Adreno GPU 上運行。內存是限制生成式 AI 普及的重要因素之一。


 

為了克服內存瓶頸,需要採用微切片和量化等技術。


 

● 微切片推理通過將神經網絡分割成多個能夠獨立執行的微切片,減少內存佔用;


 

● 量化技術通過將神經網絡的張量加速吞吐量提高一倍,提升內存效率。


 

這些技術的應用,能夠顯著提高域控制器的 AI 計算能力。



 

小結
 

車載計算平台軟硬件與 AI 的高效匹配,是提升智能座艙和自動駕駛智能化水平的關鍵。在 AI-Edge-LLM、AI-SaaS、AI-Agent 以及未來中央計算的發展趨勢下,域控制器將實現更高效的計算和更智能的控制。

 

通過採用異構計算架構和內存優化技術,域控制器能夠在保證高性能的同時,降低能耗,滿足新能源汽車環境下的需求。​​​​

本文版權歸屬原作者/機構所有。

當前內容僅代表作者觀點,與本平台立場無關。內容僅供投資者參考,亦不構成任何投資建議。如對本平台提供的內容服務有任何疑問或建議,請聯絡我們。