Le kit d’évaluation Axelera Metis PCIe Arm AI combine la carte mère mini-ITX Firefly ITX-3588J avec 214 cartes TOPS Metis AIPU PCIe

Axelera a annoncé la disponibilité générale de plusieurs kits d’évaluation Metis PCIe AI combinant la carte PCIe 214 TOPS Metis AIPU de la société avec des plates-formes x86 telles que la station de travail Dell 3460XE et les ordinateurs Lenovo ThinkStation P360 Ultra, les PC industriels Advantech MIC-770v3 ou ARC-3534, ou la carte mère mini-ITX Firefly ITX-3588J alimentée par un SoC octa-core Cortex-A76/A55 Rockchip RK3588. Nous examinerons en détail ce dernier dans cet article.

Lorsqu’Axelera a présenté le module accélérateur Metis Axelera M.2 AI en janvier 2023, j’ai été à la fois impressionné et douteux des allégations de performance de l’entreprise, car emballer un AIPU Metis 214 TOPS dans un module M.2 à puissance limitée semblait être un défi. Mais il était difficile de vérifier de manière indépendante puisque les devkits n’étaient pas encore disponibles, même si la société n’a lancé son programme d’accès anticipé qu’en août de l’année dernière. Désormais, toute personne disposant d’un budget de 899 euros et plus peut essayer sa plus grande carte Metis AIPU PCIe proposée dans le cadre des kits d’évaluation x86 et Arm. Nous examinerons en détail le kit d’évaluation basé sur Arm dans cet article.

Spécifications du kit d’évaluation Metis PCIe Arm :

• Carte mère – Carte mère mini-ITX Fireflix ITX-3588J
  • SoC – Rockchip RK3588
    • CPU – Processeur octa-core avec quatre cœurs Arm Cortex-A76 jusqu’à 2,4 GHz, quatre cœurs Arm Cortex-A55
    • GPU – GPU quadricœur Arm Mali-G610 MP4 avec prise en charge d’OpenGL ES3.2, OpenCL 2.2, Vulkan1.1
    • Accélérateur d’IA – 6 TOPS NPU
    • FAI 48MP
    • Unité virtuelle virtuelle
      • Décodage vidéo 8Kp60, décodage jusqu’à 32x canaux 1080p30 H.265/HEVC
      • Encodage vidéo 8Kp30 ;
  • Mémoire système – 8 Go LPDDR4
  • Stockage
    • Mémoire Flash eMMC de 64 Go
    • 1x M.2 SATA 3.0 pour SSD 2242
    • 4 ports SATA3.0
  • PCIe – Emplacement PCIe 3.0 x4
  • Dimensions – 0,17 x 17 cm (facteur de forme mini-ITX)
  • Les spécifications complètes de la carte mère mini-ITX RK3588 se trouvent dans l’annonce originale.
• Carte PCIe Axelera Metis AI
  • Unité de traitement IA (AIPU) – Accélérateur d’IA Metis quadricœur Axelera avec calcul numérique en mémoire (D-IMC) offrant jusqu’à 214 TOPS, jusqu’à 3 200 FPS pour ResNet-50
  • Mémoire – 1 Go LPDDR4x
  • Interface hôte – PCIe 3.0 x4
  • Dimensions – 168 x 64 x 40 mm ; FHHL (pleine hauteur, demi-longueur), emplacement unique

Le kit d’évaluation Axelera PCIe est livré préchargé avec des réseaux neuronaux de détection et de classification, notamment YOLOv5, YOLOv7, Resnet 50, MobileNetV2 et SSD-MobileNetV2. et est pris en charge par le SDK Voyager qui vise à « simplifier le déploiement de l’IA dans les appareils de pointe et à garantir l’intégration de bout en bout et la compatibilité des API avec les normes de l’industrie, spécifiquement adaptées à la vision par ordinateur ». Sur la plateforme Arm, le SDK Voyager v0.8.5 s’exécute dans un conteneur Docker dans Ubuntu 20.04. Les frameworks pris en charge incluent PyTorch, ONNX et TensorFlow (via ONNX).

Le SDK propose des API Python et C++ et s’appuie sur le langage YAML pour concevoir des pipelines d’applications comprenant des réseaux de neurones, un prétraitement et des opérations avancées sur les images. Il gère également l’intégration de modèles et d’ensembles de données, la compilation, l’optimisation et le déploiement de pipelines. Le SDK Voyager prend également en charge GStreamer pour une intégration facile dans les services d’inférence et une évolutivité du traitement à flux unique à multiple et multimodèle. Notez que le SDK Voyager n’est actuellement disponible que pour les clients ayant commandé des kits d’évaluation. Il n’est donc pas disponible publiquement, ni sa documentation.

Le kit d’évaluation Metis PCIe Arm d’Axelera peut être acheté dès maintenant pour 899 euros, mais vous devrez toujours saisir vos coordonnées et les coordonnées de votre entreprise pour demander un kit. Il ne s’agit pas encore d’un achat en ligne direct et facile, mais il devrait être beaucoup plus facile à acquérir que lors du programme d’accès anticipé. Les kits de développement x86 peuvent être achetés de la même manière pour 1 299 € à 1 899 €. Vous trouverez plus de détails et des liens d’achat sur la page produit. Axelera présentera également une démonstration d’analyse de vidéosurveillance compatible YOLO avec 24 flux exécutés sur une seule carte accélératrice Metis AI PCIe à Embedded World 2024,

Retrouvez l’histoire de Raspberry Pi dans cette vidéo :