M5Stack lance le « Module LLM » hors ligne alimenté par AX630C pour les applications locales de maison intelligente et d’IA

M5Stack Module LLM

Le module M5Stack LLM est encore un autre appareil en forme de boîte de la société qui fournit un contrôle artificiellement intelligent sans accès à Internet. Il est décrit comme un « module d’inférence LLM (Large Language Model) hors ligne intégré » qui peut être utilisé pour mettre en œuvre des solutions locales basées sur LLM dans les maisons intelligentes, les assistants vocaux et le contrôle industriel.

Module M5Stack LLM

Le module LLM est alimenté par le SoC AX630C, équipé de 4 Go de mémoire LPDDR4, de 32 Go de stockage et d’un NPU 3,2 TOPS (INT8) ou 12,8 TOPS (INT4). M5Stack indique que la puce principale a une consommation électrique moyenne d’exécution de 1,5 W, ce qui la rend adaptée à un fonctionnement à long terme. Il dispose d’un microphone intégré, d’un haut-parleur, d’un emplacement pour carte microSD et d’un port USB OTG. Le port USB peut connecter des périphériques tels que des caméras et des débogueurs, et l’emplacement pour carte microSD prend en charge les mises à jour du micrologiciel à froid et à chaud.

Le module LLM M5Stack rejoint la liste d’autres solutions basées sur LLM hors ligne sur appareil, telles que SenseCAP Watcher, l’IA de Useful Sensors dans une boîte et Radxa Fogwise Airbox. Il est compatible avec les contrôleurs IoT CoreMP135, CoreS3 et Core2.

Fonctionnalités LLM du module M5Stack

Spécifications LLM du module M5Stack :

  • SoC – Axera Tech AX630C
    • Processeur – Arm Cortex-A53 double cœur à 1,2 GHz ; 32 Ko de cache I, 32 Ko de cache D, 256 Ko de cache L2
    • NPU – 12,8 TOPS à INT4 (maximum), 3,2 TOPS à INT8
    • FAI – 4K à 30 ips
    • Vidéo – Encodage : 4K ; Décodage : 1080p à 60 ips, H.264 uniquement
    • Prend en charge l’interface RGMII/RMII PHY monocanal
  • Mémoire – 4 Go de RAM LPDDR4 (1 Go système + 3 Go dédiés à l’accélération matérielle)
  • Stockage – Flash eMMC 5.1 de 32 Go, emplacement pour carte microSD
  • Audio
    • Pilote audio : AW8737
    • Haut-parleur : 8Ω @ 1W, haut-parleur à cavité 2014
    • Micro intégré
    • Fonctionnalités audio IA – synthèse vocale (TTS), reconnaissance vocale automatique (ASR), détection de mots clés (KWS)
  • USB – 1x port USB OTG
  • Série – 1x UART (débit en bauds par défaut de 115 200 à 8N1)
  • Extension – Interface FPC 8 broches pour connecter le kit de débogage Ethernet (sous haut-parleur)
  • Divers
    • 3x LED RVB (indication d’état)
    • 1x bouton de démarrage
  • Alimentation – 5 V via le port USB-C
  • Consommation d’énergie
    • Au repos : 5 V à 0,5 W
    • Pleine charge : 5 V à 1,5 W
  • Dimensions – 54 x 54 x 13 mm
  • Poids – 17,4 g
  • Température de fonctionnement – ​​0 à 40°C

Le module LLM est intégré au framework StackFlow et est compatible avec les bibliothèques Arduino et UIFlow. Des didacticiels et d’autres informations sont disponibles sur le site Web de documentation de M5Stack. L’appareil se compare favorablement au Jetson Orin Nano à 10 watts, comme le montre le tableau de comparaison ci-dessous.

Comparaison de référence AX630C et Jetson Orin Nano

Il est compatible avec différents modèles et est livré avec le modèle de langage Qwen2.5-0.5B préinstallé. Ce modèle fournit une prise en charge des mots d’éveil, de la synthèse vocale et de la reconnaissance vocale pour les systèmes d’exploitation et de pipeline autonomes. M5Stack indique que le module prendra en charge les modèles Qwen2.5-1.5B, Llama3.2-1B et InternVL2-1B à l’avenir. Il prend en charge les modèles de vision par ordinateur CLIP et YoloWorld, avec des mises à jour prévues pour DepthAnything, SegmentAnything et d’autres modèles.

Carte de débogage Internet du module LLM
Carte de débogage LLM

Le module LLM coûte 49,90 $ sur la boutique M5Stack mais était en rupture de stock au moment de la rédaction. Le kit de débogage LLM est vendu séparément (non disponible non plus) et peut être utilisé pour ajouter un port Ethernet 100 Mbps et un port série du noyau au module pour une utilisation comme ordinateur monocarte. Le module LLM et le débogage devraient à terme être disponibles sur les magasins Amazon et AliExpress de M5Stack.

YouTube video

Retrouvez l’histoire de Raspberry Pi dans cette vidéo :

YouTube video

  • Arbres de transmission Wilesco M57
  • LOSI Dunlop MX53 Front Tire Mounted Chrome PM-MX LOS46006 Tire