Развёртывание AI на NVIDIA Jetson (Nano, Orin)
NVIDIA Jetson — лучшие AI edge платформы для computer vision, robotics, industrial AI. JetPack SDK предоставляет полный стек: CUDA, TensorRT, DeepStream, Isaac. Мы деплоим и оптимизируем AI-решения под конкретные Jetson-модели.
Модельный ряд Jetson (актуальный)
| Модель | AI Performance | RAM | Применение |
|---|---|---|---|
| Orin Nano 4GB | 20 TOPS | 4 GB | Базовые edge AI задачи |
| Orin Nano 8GB | 40 TOPS | 8 GB | Computer vision, ROS |
| Orin NX 8GB | 70 TOPS | 8 GB | Multi-camera, inference server |
| Orin NX 16GB | 100 TOPS | 16 GB | Complex CV, LLM inference |
| Orin AGX | 275 TOPS | 64 GB | Autonomous vehicles, robots |
Оптимизация через TensorRT
TensorRT компилирует ONNX/PyTorch модели под конкретный Jetson GPU:
import tensorrt as trt
# или через trtexec:
# trtexec --onnx=model.onnx --saveEngine=model.trt --fp16
Ускорение 3–10x vs. PyTorch на том же железе. FP16 по умолчанию, INT8 для максимальной производительности.
DeepStream для видеоаналитики
NVIDIA DeepStream SDK — оптимизированный pipeline для multi-camera аналитики. GStreamer-based. Типичная производительность Orin AGX: 30+ Full HD камер с YOLOv8 детекцией.
ROS2 + Jetson
Robotics: ROS2 Humble нативно поддерживается на JetPack 5/6. Isaac ROS — NVIDIA оптимизированные ROS2 пакеты для computer vision.