@tensorrt / 博客 RSS 訂閱

Dec 11 2025

科技夾克 - 邊緣部署第二章 YOLO如何通過TensorRT部署在Jetson orin NX/NANO

首先感謝兩個恩師，我願稱之為簡體中文互聯網最好的TensorRT教程： 鏈接1 鏈接2 本文的環境是Jetson Orin Nano 安裝的Jetpack版本是6.2.1，包含CUDA12.6，cuDNN 9.3.0，TensorRT 10.3.0，部署的模型是YOLO，對於其他環境，我也會簡單介紹一下如何選擇合適的版本。 1 TensorRT簡介 TensorRT是英偉達推出的一個高性能深度學習

部署 , yolo , 人工智能 , tensorrt

收藏 評論

Nov 09 2025

deephub - TensorRT 和 ONNX Runtime 推理優化實戰：10 個降低延遲的工程技巧

模型速度的瓶頸往往不在算法本身。幾毫秒的優化累積起來就能讓用户感受到明顯的性能提升。下面這些技術都是在生產環境跑出來的經驗，不需要重構代碼實施起來也相對簡單並且效果顯著。 固定輸入形狀，越早告訴運行時越好 動態形狀用起來方便但對性能不友好。TensorRT 和 ONNX Runtime 在處理固定形狀時能做更激進的優化。 TensorRT 這邊，構建引擎時最好圍繞實際使用的 min/opt

pytorch , 人工智能 , tensorrt

收藏 評論