Axelera Metis Calcul Board Pairs Rockchip RK3588 SOC avec 214 Tops METIS AI Accelerator

Metis Compute Board

La carte informatique Axelera Metis est une carte mère RockChip RK3588 MINI-ITX équipée d’un METIS AIPU (unité de traitement AI) capable de fournir jusqu’à 214 hauts, 16 Go de mémoire LPDDR4 pour le CPU et 4 Go LPDDR4X RAM pour l’accélérateur AI.

Je suis tombé pour la première fois sur l’Axelera Metis AIPU dans M.2 et PCIe Card en 2023, et j’ai été plutôt impressionné par les 214 sommets annoncés de la performance de l’IA promis dans ce facteur de forme et un prix relativement abordable de 149 $ compte tenu du rapport prix / performance. À l’époque, il était toujours difficile de s’approvisionner par la puce et le module en raison de quantités limitées, et en 2024, il est devenu plus facile d’évaluer la solution avec le kit d’évaluation Aitis PCIe Ai AItis PCIe basé sur une carte mère MINI-ITX Firey ITX-3588J équipée d’une carte PCIE AIPU 214 Tops Metx. La nouvelle carte de calcul METIS est similaire, mais dans un facteur de forme plus compact, car la carte PCIe a disparu et que le METIS AIPU est soudé directement sur une carte mère Mini-ITX.

Carte de calcul des métis

Métis calcule les spécifications du conseil d’administration:

  • Soc – Rockchip RK3588
    • CPU – Processeur octa-core avec quatre cœurs ARM Cortex-A76 @ jusqu’à 2,4 GHz, quatre cœurs de cortex-A55 ARM
    • GPU – ARM MALI-G610 MP4 GPU quad-core avec prise en charge de l’OpenGL ES3.2, OpenCL 2.2, Vulkan 1.1
    • Accélérateur AI – 6 tops npu
    • ISP – 48MP ISP
    • VPU
      • Décodage vidéo 8KP60, décodage jusqu’à 32x 1080p30 H.265 / HEVC
      • Encodage vidéo 8KP30
  • Unité de traitement AI (AIPU) – Accélérateur AID-core AXELERA MÉTIS avec informatique numérique en mémoire (D-IMC) livrant jusqu’à 214 hauts, jusqu’à 3,200 ips pour RESNET-50; Connecté sur PCIe Gen3 X4 avec le RK3588 SOC
  • Mémoire du système
    • 16 Go LPDDR4 pour SOC
    • Jusqu’à 16 LPDDR4X pour AIPU (4 Go sur la version actuellement vendue)
  • Stockage
    • Flash EMMC 64 Go
    • PORTS 2X SATA 3.0
    • Emplacement pour carte microSD
  • Sortie vidéo
    • Port HDMI 2.0
    • DisplayPort via USB-C jusqu’à 4 096 x 2 160 @ 24 Hz
  • Réseautage
    • 2x ports Gigabit Ethernet RJ45
    • WiFi / Bluetooth en option et 4G LTE via M.2
  • USB
    • 4x ports USB 3.1 Gen1 de type A
    • Port 1x USB 3.2 Type-C avec DisplayPort Alt. mode
    • En-têtes 3x pour 6x USB 2.0
  • Expansion
    • 1x m.2 socket e-key
    • 1x m.2 socket b-key
    • En-tête GPIO à 40 broches avec ADC, I2C, UART, SPI
  • Alimentation – Entrée 12V CC
  • Dimensions – 17 x 17cm (facteur de forme mini-itx)
  • Poids – TBD
  • Plage de températures – -20 à + 70 ° C

Axelera RK3588 PORTS MINI-ITX MINI-ITX

Diagramme de blocs SBC RK3588 avec Axelera Metis AIPU
Schéma de blocage

Axelera fournit un package d’assistance à la carte (BSP) basé sur Yocto Linux, et le SDK Axelera Voyager pour simpliser le déploiement et l’optimisation du modèle AI à l’aide de modèles TensorFlow, Pytorch ou ONNX. Le SDK propose ce qui suit:

  • Modèle de zoo avec (entre autres)
    • Classification d’images – Resnet-50, MobileNetv2
    • Détection d’objet – MobileNetv2-SSD, YOLOV5 / V5 / V6 / V7 / V8 / V9
    • Segmentation – DeepLabv3, Yolov8-seg, U-net
    • Estimation de la pose – yolov8 possède
  • Prise en charge du compilateur pour les modèles de Pytorch et ONNX.
  • Les bibliothèques, y compris tous les pré-traitements et le post-traitement, requis pour exécuter des pipelines de bout en bout: mise à l’échelle; recadrage; normalisation; conversion de format; Suppression non maximale (NMS), et plus encore.
  • YAML Description LE est utilisé pour générer automatiquement les pipelines AI, qui peuvent ensuite être exécutés en tant que plugin pour Gtreeramer ou dans un serveur d’inférence.
  • Outils intégrés pour tester la précision et les performances des modèles fonctionnant sur l’AIPU METIS.

Déploiement Axelera Voyager SDK AI

Si vous voulez plus de détails sur les performances, Axelera a une page de référence sur son site Web exécutant EfficientNet, MobileNet et divers modèles YOLO. Il comprend également une comparaison de performances entre les Métis et l’accélérateur AI 26 TOPS HAILO-8. Je n’ai cependant pas pu trouver de comparaison de performance / watt.

Metis vs HAILO-8 Benchmarks
Métis vs HAILO-8

Axelera a commencé à prendre des précommandes pour la carte de calcul des métis pour 509 euros. C’est une remise de 15% par rapport au prix régulier de 599 euros, et ne valable que pendant la période de précommande. Les livraisons devraient commencer en juin 2025.

Retrouvez l’histoire de Raspberry Pi dans cette vidéo :

YouTube video