动态

列表
创建 时间

三種 Badcase 精度驗證方案詳解與 hbm_infer 部署實錄

在模型結構優化與部署量化過程中,開發者往往會遇到一個關鍵任務:​基於歷史 Badcase 數據驗證模型精度變化​,確保模型修改不會引入明顯性能退化。 這類驗證常見於感知、預測、行為識別等任務,尤其在客户交付或精度迴歸過程中十分關鍵。 但實際場景中,Badcase 的來源和管理非常複雜: 數據常常​分散在客户服務器​; 有些數據是​動態生成、無法導出​; 板端資源有限,難以長期駐留模型或數據

创建 时间

征程 6 | 多任務 不同幀率 部署方案

1.方案描述 推理多任務模型時,可能會有不同任務分支 部署不同幀率的需求,例如 BEV 動態任務 20 幀,靜態任務 10 幀這種情況。 最簡單的方式是編譯兩個模型,分開推理: 模型 1:backbone+neck+ 動態 head 模型 2:backbone+neck+ 靜態 head 此時,重複的公共部分 backbone+neck 會重複佔用內存與存儲,且 backbone+

创建 时间

mul 與 reduce_sum 的優化實例

一、基礎介紹 什麼是 mul 與 reduce\_sum? mul 通常指元素級乘法(Element-wise Multiplication),它將兩個形狀相同的張量中對應位置的元素相乘,返回一個與原張量形狀相同的新張量。 reduce\_sum 是一種規約操作(Reduction Operation),它沿指定維度對張量的元素求和,從而 “壓縮” 或 “減少” 張量的維度。如果不指定維度,則對所