與您分享最新動態與資訊
【金年匯jinnian科技消息】8月14日，據《晚點Auto》報道，其從多個信源處獲悉，理想汽車正在探索自研云端推理芯片，將采用與智駕芯片相同的數據流架構，項目還在早期階段。
理想汽車
AI數據中心普遍使用GPU完成模型訓練和推理，也有數據中心部署云端推理芯片。一位芯片行業人士說，云端推理芯片可以承接部分原本在GPU上運行的推理任務，例如智駕模型的數據處理、測試、仿真，以及大語言模型的請求處理。模型訓練中涉及參數更新的部分仍需訓練芯片。
《晚點Auto》表示，數據流架構從車端走向云端在技術上可行。一種路徑是復用車端NPU（AI處理器）的計算設計，將多個AI計算晶粒封裝在一起，配套高帶寬內存和高速互聯，組成規模更大的推理芯片。車端和云端由此可以復用部分設計和軟件工具，分攤研發成本。
但云端芯片不是車端芯片的簡單放大。車端模型、傳感器輸入和運行節奏相對固定，主要追求低功耗、低延遲和穩定執行；云端需要同時處理更多模型，模型更新更快，輸入長度和并發請求波動更大，還涉及高帶寬內存、多芯片互聯、動態批處理和集群調度。
值得一提的是，在理想推進云端推理芯片的同時，《晚點Auto》也從多渠道確認，理想芯片的軟件研發負責人金一華和芯片前端設計一組負責人戴頡已經離職。兩人此前均向算力單元負責人羅旻匯報，最終向集團CTO謝炎匯報羅旻則向集團CTO謝炎匯報。
版權所有，未經許可不得轉載
-金年匯jinnianCopyright ? 2019-2025 成都金年匯微電子科技股份有限公司 版權所有 備案編號: 蜀ICP備2022009451號 川公網安備 51019002004893號
