Raspberry Pi AI HAT+ 2 : Révolutionnez l’IA Générative avec Hailo-10H

Raspberry Pi AI HAT+ 2 Hail 10H

Selon cnx-software, le Raspberry Pi AI HAT+ 2 est une carte complémentaire qui se distingue par son utilisation de l’accélérateur d’IA Hailo-10H, capable d’atteindre 40 TOPS de puissance d’inférence tout en étant doté de 8 Go de RAM. Ce modèle offre une capacité significative d’IA générative pour le Raspberry Pi 5.

40 TOPS avec Hailo-10H : des performances accrues pour l’IA générative

Bien que cette version affiche des performances en vision par ordinateur qui rivalisent avec celles de son prédécesseur basé sur Hailo-8, l’AI HAT+ 2 prend un tournant majeur en intégrant la prise en charge de modèles de grands langages (LLM) et de modèles de langage de vision (VLM) qui peuvent fonctionner sans connexion Internet. Ces capacités élargissent considérablement le champ des applications, englobant le contrôle de processus hors ligne, l’analyse des données d’une manière sécurisée, ainsi que des usages en robotique et en gestion des installations. L’intégration simplifiée d’outils de développement renforce l’attractivité de cette carte pour les développeurs.

Raspberry Pi AI HAT+ 2 Grêle 10H

Des fonctionnalités pratiques : installation et compatibilité optimales

Pour établir la connexion avec le Raspberry Pi 5, l’AI HAT+ 2 utilise un connecteur PCIe Gen3 x1 et se fixe via un header GPIO de 40 broches, qui n’est pas utilisé par l’accélérateur. En termes de conception, la carte mesure 64,1 x 56,7 x 5,5 mm, respectant le standard Raspberry Pi HAT+, et elle est accompagnée d’embases empilables de 16 mm, d’entretoises et de vis pour faciliter son installation avec un refroidisseur actif. Par ailleurs, un dissipateur thermique est disponible en option pour optimiser la gestion thermique.

Hailo 10H Raspberry Pi CHAPEAU+

Pour débuter, il vous faudra une image du système d’exploitation Raspberry Pi à jour, car cela permettra une détection automatique de l’accélérateur Hailo-10H, qui s’intègre complètement à la pile logicielle de la caméra Raspberry Pi, y compris les applications de rpicam‑apps, libcamera et Picamera2. Les modèles d’IA générative sont accessibles sur le site de Hailo ainsi que sur GitHub, où se trouve également Hailo-Ollama, une API compatible Ollama écrite en C++. Les utilisateurs sont encouragés à consulter la documentation sur le site officiel de Raspberry Pi pour de meilleurs résultats.

En termes de modèles supportés, quelques exemples incluent DeepSeek-R1-Distill avec 1,5 milliard de paramètres, Llama3.2 qui présente 1 milliard de paramètres, ainsi que plusieurs modèles Qwen, tous autour de 1,5 milliard de paramètres chacun. Bien que les modèles ne remplissent pas entièrement les 8 Go de RAM, il est prévu que des modèles plus volumineux soient disponibles. Voici un aperçu d’une démo de LLM :

YouTube video

Le résultat de la démo de langage de vision est visible ci-dessous :

Démo Raspberry Pi AI HAT+ 2 VLM

Raspberry Pi a récemment envoyé un échantillon, arrivé dans les délais juste avant la finalisation de cet article. Il sera testé prochainement. Proposé à 130 $ chez vos revendeurs Raspberry Pi habituels, ce module est à considérer notamment par rapport aux accélérateurs Rockchip RK1820/RK1828 LLM/VLM, sur lesquels les informations tarifaires restent floues.