Le kit de calcul M5Stack LLM630 comprend le SoC Axera AX630C Edge AI pour le traitement LLM et la vision par ordinateur sur l’appareil

M5Stack LLM630 Compute Kit est une plate-forme de développement Edge AI alimentée par le SoC Axera Tech AX630C AI avec un NPU 3.2 TOPS conçu pour exécuter des tâches de vision par ordinateur (CV) et de grand modèle de langage (LLM) en périphérie, en d’autres termes, sur l’appareil lui-même. sans accès au cloud.

Le kit de calcul LLM630 est également équipé de 4 Go de LPDDR4 et de 32 Go de flash eMMC et prend en charge la connectivité filaire et sans fil grâce à une puce Ethernet Gigabit JL2101-N040C et un module ESP32-C6 pour une connectivité WiFi 6 à 2,4 GHz. Vous pouvez également connecter un écran et une caméra via les connecteurs MIPI DSI et CSI.

Spécifications du kit de calcul M5Stack LLM630 :

• SoC – Axera Tech (Aixin en Chine) AX630C
  • Processeur – Arm Cortex-A53 double cœur à 1,2 GHz ; 32 Ko de cache I, 32 Ko de cache D, 256 Ko de cache L2
  • NPU – 12,8 TOPS à INT4 (maximum), 3,2 TOPS à INT8
  • FAI – 4K à 30 ips
  • Vidéo – Encodage : 4K ; Décodage : 1080p à 60 ips, H.264 uniquement
• Mémoire système – 4 Go LPDDR4 (2 Go de mémoire système + 2 Go dédiés à l’accélération matérielle)
• Stockage
  • Mémoire flash eMMC 5.1 de 32 Go
  • Emplacement pour carte MicroSD
• Interface d’affichage – Connecteur MIPI DSI à 2 voies jusqu’à 1080p à 30 ips
• Interface caméra – connecteur MIPI CSI 4 voies jusqu’à 4K à 30 ips à 1,25 mm
• Audio – microphone à 5 broches et connecteur de haut-parleur
• Réseautage
  • Port Gigabit Ethernet RJ45 discret (JL2101B-N040C)
  • WiFi 6 2,4 GHz via SoC ESP32-C6 et antenne SMA
• USB – 1x port USB 2.0 OTG Type-C
• Capteur – Capteur de mouvement BMI270 6 axes
• Expansion
  • Connecteur PORTA Grove 4 broches 2,0 mm (I2C)
  • Connecteur PORTC Grove 4 broches 2,0 mm (UART)
  • Connecteur FUNC à 8 broches au pas de 1,25 mm (réveil du système, gestion de l’alimentation, contrôle LED externe, I2C, etc.)
• Débogage/programmation – USB-C vers UART via la puce CH9102F USB vers TTL
• Divers – 2x boutons pour la mise sous/hors tension, l’interaction de l’utilisateur, la réinitialisation et d’autres fonctions
• Alimentation
  • 5 V/2 A via port USB-C
  • Connecteur 1,25 mm pour batterie Li-ion ou Li-polymère 3,7 V
  • Gestion de la batterie – Puce de charge AW32001ECSR, puce de détection de batterie BQ27220YZFR
• Dimensions – 90,3 x 31,6 x 12 mm
• Poids – 22,9 grammes
• Plage de température – 0°C – 40°C

Le kit de calcul LLM630 est livré avec une antenne WiFi 2,4 GHz, un dissipateur thermique et quatre coussinets en mousse EVA. Il cible une gamme d’applications Edge AI dans divers secteurs tels que les maisons intelligentes, la surveillance de la sécurité, le commerce de détail intelligent, l’agriculture intelligente, la robotique interactive et l’éducation STEM.

Comme le précédent module LLM M5Stack basé sur le même SoC AX630C AI, le kit de calcul LLM630 est pris en charge par le framework StackFlow AI qui intègre des algorithmes d’IA tels que la parole, la vision et les grands modèles de langage, ainsi que Jupyter Notebook pour faciliter l’apprentissage et le développement. . Il exécute une image Ubuntu 22.04 et les modèles LLM et de vision par ordinateur peuvent être installés à l’aide de packages .deb. Des détails techniques supplémentaires et des instructions pour démarrer avec le logiciel sont disponibles sur le site Web de documentation.

Comme indiqué dans notre article sur le module LLM, l’Axera AX630C se compare favorablement au Jetson Orin Nano (mode d’alimentation 10 W) avec des performances similaires dans des modèles tels que Inception v1, MobileNet v1 ou Yolov3s, mais à un prix bien inférieur. La plate-forme prend également en charge une gamme de modèles de langages larges Qwen2.5-0.5/1.5B et Llama3.2-1B. Il pourrait également constituer une alternative peu coûteuse et plus compacte aux solutions avec l’accélérateur Raspberry Pi 5 + Hailo-8 AI ou les SBC Rockchip RK3588, en fonction de vos besoins. Comparé au module LLM, le kit de calcul LLM630 est une solution autonome avec prise en charge Ethernet et WiFi intégrée et des E/S supplémentaires, et ne nécessite aucun des modules Core de M5Stack.

M5Stack vend le kit de calcul LLM630 sur AliExpress au prix de 69,99 $ ainsi que sur la boutique de l’entreprise au même prix. Le produit est indiqué comme étant en rupture de stock car la société prend une pause pour le Nouvel An chinois entre le 21 janvier et le 4 février. Il pourrait également éventuellement apparaître sur la boutique Amazon de M5Stack.

#M5StackNouveau Le kit de calcul LLM630 est un #IA grand modèle de langage (#LLM) kit de développement d’inférence, alimenté par le #Axéra #AX630C SoC avec un NPU 3.2 TOPs, il offre une inférence d’IA efficace pour des tâches telles que la vision par ordinateur (CV) et le traitement LLM. pic.twitter.com/sHdESYydoC

– M5Stack (@M5Stack) 17 janvier 2025

Retrouvez l’histoire de Raspberry Pi dans cette vidéo :