Развёртывание AI на Raspberry Pi с аппаратным ускорением
Raspberry Pi 5 — значительный скачок для edge AI: 2–3x быстрее Pi 4. С аппаратными ускорителями (Hailo-8, Coral USB) превращается в серьёзную edge AI платформу.
Аппаратное ускорение для Pi
Hailo-8 M.2 HAT+: 26 TOPS при 5 Вт потребления. Специально разработан для Pi 5 (M.2 слот через HAT). YOLOv8n: 30 FPS → 120+ FPS с Hailo-8. Лучший выбор для 2025.
Google Coral USB Accelerator: 4 TOPS, USB 3.0. Работает на Pi 4 и Pi 5. Ограничение: только INT8 TFLite модели.
Intel Neural Compute Stick 2 (Movidius): Устаревает, но есть в legacy проектах. USB 3.0.
Стек без ускорителя (Pure Pi 5)
TFLite + XNNPACK (CPU оптимизации ARM Neon): MobileNetV3 classification: ~15 FPS на Pi 5 CPU (vs. 5 FPS на Pi 4). Достаточно для несрочных задач.
Llama.cpp на Pi 5: Llama 3.2 1B: 8–12 token/sec. Для простых NLP задач.
Практические кейсы
Умный дверной звонок (face detection с Hailo-8: real-time). Промышленный визуальный контроль (дефекты): YOLOv8 + Hailo-8, 30 FPS на конвейере. Offline speech assistant: Vosk STT + Llama 3.2 1B (без интернета).
OS и стек
Raspberry Pi OS Bookworm (64-bit). Python 3.11+. TFLite runtime или Hailo SDK. Для production — балансировка нагрузки через mehrere Pi как кластер.