Zant – Un SDK en zig open source pour le déploiement du réseau neuronal sur les microcontrôleurs

Zant est un SDK Open-source et multiplateforme écrit en zig et conçu pour simplifier le déploiement de réseaux de neurones (NN) sur les microcontrôleurs. Il comprend une suite d’outils pour importer, optimiser et déployer NNS dans le matériel bas de gamme.

Les développeurs derrière le projet ont développé Zant (anciennement connu sous le nom de Zig-ANT) après avoir remarqué de nombreux microcontrôleurs manquaient de bibliothèques en profondeur robustes et s’assuraient qu’il se trouve sur diverses plates-formes telles que les microcontrôleurs ARM Cortex-M ou RISC-V, ou même les objectifs x86. Contrairement à des plates-formes comme Edge Impulse qui se concentrent sur la création de réseau, Zant concerne le déploiement et publie une bibliothèque statique et hautement optimisée prête à être intégrée dans n’importe quelle pile de travail existante.

Zant Faits saillants:

• Performances optimisées – prend en charge les techniques de quantification, d’élagage et d’accélération matérielle telles que SIMD et déchargement du GPU.
• Empreinte à faible mémoire – Zant utilise la mise en commun de la mémoire, l’allocation statique et l’optimisation du tampon pour travailler sur des cibles limitées aux ressources.
• Facilité d’intégration: avec une conception modulaire, des API claires et des exemples / documents complets, l’intégration de Zant dans vos projets est simple.

Zant convient aux applications de vision par ordinateur alimentées par l’IA (comme la détection d’objets ou l’inspection optique), la maintenance prédictive et l’ajout de capacités d’IA à des systèmes autonomes comme les drones et les robots. Le SDK Zant est toujours un travail en cours, mais nous pouvons trouver du code et un calendrier sur GitHub.

À l’heure actuelle, Zant devrait être en mesure d’exécuter l’inférence MNIST sur un Raspberry Pi Pico 2 en s’appuyant sur des modèles importés d’ONNX, et je suppose, en travaillant sur les cœurs ARM ou RISC-V (TBC) sur la base de l’objectif multiplateforme du projet. La prochaine étape est le plan d’avoir Yolo efficacement sur Raspberry Pi Pico 2 d’ici la fin avril.

D’autres éléments sur la liste TODO incluent la mise en œuvre d’un tracker de forme pour optimiser les opérations du tenseur, le développement d’une interface frontale pour une interaction plus facile avec la bibliothèque, l’optimisation de la génération de code, l’élargissement de l’ONNX prennent en charge et prennent en charge les microcontrôleurs et les architectures supplémentaires en plus de la Raspberry Pi PI RP2350. Sur la base du calendrier, la bibliothèque Zigant pourrait atteindre ces objectifs d’ici la fin du troisième trimestre 2025.

Il est loin de la première fois que l’apprentissage automatique a été implémenté sur les microcontrôleurs. Comme indiqué ci-dessus, Edge Impulse en est un exemple, mais nous avons également couvert BitnetMCU pour CH32V003 RISC-V MCU, TinyMax pour les microcontrôleurs compatibles Arduino et Tensorflow Lite pour MCU. La façon dont je le comprends, le principal avantage de Zant sera la possibilité de déployer facilement un modèle de réseau neuronal sur des plates-formes hétérogènes avec des modifications minimales ou sans modification du code.

Via reddit

Retrouvez l’histoire de Raspberry Pi dans cette vidéo :