GENIATECH AIM M2 M.2 Module Caractéristiques Kinara Ara-2 40 TOPS AI Accélérateur

Il existe de nombreux modules de M.2 AI basés sur des accélérateurs tels que HAILO-8, MEMRYX MX3 ou AXELERA AI, mais le module Genatech AIM M2 est basé sur le Kinara Ara-2 40 Tops AI Accelerator que nous n’avons pas encore couvert ici sur le logiciel Raspberryme.

Le module Key-M est conçu pour gérer les modèles générationnaires basés sur l’IA et les transformateurs tels que la diffusion stable à un prix inférieur à celle des concurrents, et fonctionne à une consommation d’énergie sous-2W typique dans les charges de travail de vision par ordinateur. Les applications cibles comprennent les assistants / copilote d’IA, les jeux, la vente au détail intelligente, la sécurité physique et l’automatisation des usines.

GENIATECH AIM M2 Spécifications:

• Accélérateur d’IA
  • Kinara Ara-2 NPU avec 40 sommets de la puissance de l’IA
  • Package – 17x17mm fcbba
• Mémoire système – 16 Go de RAM (option 4 Go / 8 Go)
• Interface hôte – PCIe Gen4 x4
• SÉCURITÉ – Sécurisation de démarrage et accès à la mémoire cryptée
• Divers – refroidissement en dissipateur thermique
• Tension d’alimentation – 3,3 V
• Consommation d’énergie – sous 2 watts (typique)
• TDP – 12 watts
• Dimensions – 22 x 80 mm (m.2 m-key 2280 module)
• Plage de températures – Fonctionnement: 0 à 50 ° C; Stockage: -40 à 85 ° C
• Humidité – opération: 5% -90% RH; Stockage: 5% -95% Rh

Genatech dit que le module AIM M2, et par extension l’accélérateur Kinara Ara-2 AI, prend en charge les cadres AI populaires tels que TensorFlow, Torchscript, Pytorch, ONNX, Caffe et Mxnet. Les modèles pris en charge incluent LLAMA2.0 et Yolov8.

Les pilotes de Linux et de Windows sont disponibles, et on nous dit que le module a été testé sur les cibles NXP, NVIDIA, Qualcomm et AMD Xilinx. Nous pouvons trouver plus de détails sur le site Web de Kinara avec quelques mesures de performance pour les modèles populaires:

• Diffusion stable 1,4 – 7 secondes par image
• Lama-7b – 12 jetons de sortie / s de sortie
• MobileNetv1 SSD – 974 IPS (1,02 ms latence)
• Resnet50 – latence 2MS

https://www.youtube.com/watch?v=uzr0o-hw4hs

Kinara a ses propres modules KM-2 M.2 et KU-2 USB 3.0 / conceptions de référence et recommande 2 Go de RAM pour l’IA conventionnelle et 8 Go de RAM pour une IA générative.

Bien que l’on dit que le Kinara Ara-2 offre une «rentabilité inégalée», je n’ai pas pu trouver d’informations sur les prix pour l’un des modules ci-dessus. Plus de détails sur le Genatech AIM-M2 peuvent être trouvés sur la page du produit. Ils ont également un module AIM-B2 avec des connecteurs de carte à bord et en utilisant le même chipset Ara-2 de 40 tops, mais il n’est pas clair pour quelle carte de transporteur pour lequel il est conçu. [Update: the company sent a photo of the i.MX 8M Plus development kit they use with both M.2 and B2B sockets, and they also told us they would typically provide the hardware design documentation so they can develop their own carrier board for the AI module.

]

Retrouvez l’histoire de Raspberry Pi dans cette vidéo :