Разработка AI для встраиваемых систем (Embedded AI)
Embedded AI — ML в системах с жёсткими ограничениями по ресурсам, реальному времени и условиям эксплуатации. Промышленные контроллеры, медицинские приборы, automotive ECU — везде где железо определяет архитектуру.
Уровни встраиваемых систем
RTOS-based (FreeRTOS, Zephyr): Cortex-M4/M7, DSP. TFLite Micro, CMSIS-NN (ARM оптимизированные операции). Ограничения: 256 KB – 2 MB RAM, детерминированное время выполнения.
Embedded Linux (Yocto, Buildroot): Cortex-A серия (Raspberry Pi CM4, i.MX 8). Более богатые возможности: TFLite, ONNX RT, pytorch-mobile.
FPGA-based: Xilinx/AMD (Versal, Kria), Intel (Agilex). Параллельная обработка, детерминированность, рекон-фигурируемость. Xilinx FINN, Vitis AI для деплоя нейросетей.
Специфика разработки
Real-time Constraints: Inference должен завершаться за фиксированное время (deterministic latency). Worst-case execution time (WCET) analysis. Нельзя использовать dynamic memory allocation (heap) в RTOS — статическая аллокация.
Power Budget: Постоянный inference на батарее → оптимизация под energy per inference. Duty cycling: inference только по событию (interrupt-driven), глубокий сон в остальное время.
Reliability: Industrial temperature range (-40°C to +85°C). ECC memory для safety-critical. IEC 61508 / ISO 26262 для функциональной безопасности.
OTA Updates: Безопасное обновление моделей через защищённый bootloader. A/B partitioning для безопасного rollback.
Сроки: 12–24 недели
Сложность нарастает с требованиями к надёжности и сертификации.