TOPIC
TensorRT
TensorRT 与 TensorRT-LLM 的编译、量化和推理实践，侧重版本兼容与实际性能。
Jetson Python环境优雅链接系统包
2026-06-09
在 Jetson 上使用 uv 的 --system-site-packages 参数，让虚拟环境调用系统 Python 包并复用 TensorRT 等组件。
197 字
|
1 分钟
在 Jetson 上通过容器 trt 推理 YOLO26 指南
2026-01-17
在 Jetson 上使用 jetson-containers 构建 PyTorch 与 TensorRT 环境，完成 YOLO26 导出和 TensorRT 推理验证。
509 字
|
3 分钟
Jetson Orin 使用 TensorRT 推理 YOLO26
2026-01-17
在 Jetson Orin 上配置 PyTorch 与 TensorRT 环境，将 YOLO26 导出为 TensorRT 引擎并完成推理验证。
909 字
|
5 分钟
Jetson Orin TensorRT whl 自编译指南
2026-01-13
在 Jetson Orin 上从源码编译 TensorRT Python whl，处理依赖路径与架构兼容问题并验证安装结果。
203 字
|
1 分钟
Jetson Orin TensorRT 量化推理 SAM3 示例教程
2026-01-10
在 Jetson Orin 上部署 SAM3，完成模型转换、TensorRT 量化和推理验证，并记录常见环境问题。
643 字
|
3 分钟
Tensor-LLM 1.0.0rc4 量化推理QwQ-32B int4
2025-07-25
在 A100 上使用 TensorRT-LLM 对 QwQ-32B 进行 INT4 量化，转换检查点、构建引擎并运行吞吐基准测试。
419 字
|
2 分钟
单卡A100通过TensorRT-LLM量化推理Qwen3-8B简单教程
2025-07-19
记录单卡 A100 上使用 TensorRT-LLM 对 Qwen3-8B 进行量化推理，涵盖容器环境、检查点转换、引擎构建和运行验证。
474 字
|
2 分钟
PVE 直通 A100：Ubuntu 驱动与 CUDA 配置
2025-07-19
在 PVE 中为 Ubuntu 虚拟机直通 A100，安装 NVIDIA 驱动、CUDA Toolkit 与 TensorRT 并验证环境。
1024 字
|
5 分钟
