Le kit de développement NVIDIA Jetson Orin Nano Super à 249 $ cible les applications d’IA générative à la périphérie

Le kit de développement NVIDIA Jetson Orin Nano Super est une mise à niveau du kit de développement Jetson Orin Nano avec des performances d’IA génératives 1,7 fois plus élevées, une augmentation de 70 % des performances à 67 INT8 TOPS et environ la moitié du prix, ce qui en fait une excellente plate-forme de développement pour les applications génératives. L’IA à la pointe, principalement la robotique.

Nous avons vu plusieurs boîtiers et cartes d’IA au cours de la dernière année capables d’applications d’IA génératives hors ligne comme la carte mère Firefly AIO-1684XQ ou Radxa Fogwise Airbox que j’ai examinée avec Llama3, Stable diffusion, Imgsearch, etc… Un produit comme la Fogwise Airbox offre jusqu’à 32 TOPS (INT8) et se vend environ 330 $, ce qui était alors très compétitif (juin 2024). Cependant, le Jetson Orin Nano Super Developer Kit va certainement perturber le marché avec des performances plus de deux fois supérieures, un prix inférieur et une communauté de développeurs plus large.

Spécifications NVIDIA Jetson Orin Nano Super :

• Module NVIDIA Jetson Orin Nano 8 Go
  • Processeur – Processeur Arm Cortex-A78AE v8.2 64 bits à 6 cœurs à 1,7 GHz avec 1,5 Mo L2 + 4 Mo L3
  • GPU – Architecture NVIDIA Ampere 1 020 MHz avec 1 024 cœurs CUDA et 32 ​​cœurs tenseurs
  • Encodage vidéo – 1080p30 pris en charge par 1 à 2 cœurs de processeur
  • Décodage vidéo
    • 1x 4K60 (H.265)
    • 2x 4K30 (H.265)
    • 5x 1080p60 (H.265)
    • 11x 1080p30 (H.265)
  • Mémoire – 8 Go LPDDR5 128 bits (102 Go/s)
  • Stockage – Interfaces pour carte SD et SSD NVMe sur carte support
  • Performances de l’IA – 67 TOPS (clairsemées), 33 TOPS (dense)
  • Modes d’alimentation – 7 W, 15 ou 25 W
• Stockage
  • emplacement microSD
  • 2x socket M.2 pour SSD NVMe (Voir section Extension)
• Interface d’affichage – Connecteur DisplayPort 1.2 (+MST)
• Interfaces de caméra – 2 connecteurs de caméra MIPI CSI-2 à 22 broches
• Réseautage
  • Port Gigabit Ethernet RJ45
  • WiFi et Bluetooth en option via l’emplacement M.2 Key-E
• USB
  • 4 ports USB 3.2 Gen2 Type-A
  • Port USB Type-C pour UFP (port orienté vers le haut)
• Expansion
  • Emplacement M.2 Key M avec PCIe Gen3 x4
  • Emplacement M.2 Key M avec PCIe Gen3 x2
  • Emplacement pour clé M.2 E
  • Connecteur d’extension GPIO 40 broches avec UART, SPI, I2S, I2C, etc…
• Divers
  • En-tête de bouton à 12 broches
  • Connecteur de ventilateur à 4 broches
• Alimentation – Prise d’alimentation CC
• Dimensions – 103 x 90,5 x 34,77 mm (avec pieds, carte support, module et solution thermique)

Les points forts en gras montrent que le kit est fondamentalement le même que le kit de développement Jetson Nano Orin original. Cependant, la fréquence du processeur est désormais augmentée à 1,7 GHz (au lieu de 1,5 GHz), le GPU tourne à 1 050 MHz (contre 635 MHz), la bande passante mémoire est bien plus élevée (de 68 Go/s à 102 Go/s) et ils ont ajouté un module de 25 W. mode d’alimentation, ce qui explique tous les performances supplémentaires. Les dimensions sont également différentes, mais c’est peut-être simplement parce qu’ils l’ont mesuré différemment.

Ce qui est le plus surprenant, c’est que NVIDIA affirme que toutes ces améliorations de performances ne sont que des mises à jour logicielles, de sorte que le kit de développement NVIDIA d’origine peut également bénéficier d’une augmentation de 1,7 fois des performances de l’IA générative pour LLM (Large Language Model), LVM (Large Vision Model) et ViT. (Transformateurs de Vision).

Les performances supplémentaires seront disponibles pour les modules NVIDIA Jetson Orin NX et Nano avec le Nano 4 Go atteignant 34 TOPS, le Nano 8 Go 67 TOPS, le NX 8 Go 117 TOPS et le NX 16 Go 157 TOPS. Pour mettre à jour le logiciel, vous devez obtenir JetPack 6.1 avec prise en charge de performances améliorées à l’aide du SDK Manager (sélectionnez JetPack 6.1 (rév. 1)) et modifiez le mode d’alimentation en MAXN comme suit :

La prise en charge logicielle reste la même avec la pile logicielle NVIDIA AI, notamment NVIDIA Isaac pour la robotique, NVIDIA Metropolis pour la vision AI et NVIDIA Holoscan pour le traitement des capteurs. La société affirme également que les développeurs peuvent gagner beaucoup de temps avec NVIDIA Omniverse Replicator pour la génération de données synthétiques (SDG) et NVIDIA TAO Toolkit pour affiner les modèles d’IA pré-entraînés du catalogue NVIDIA NGC.

Si vous ne possédez pas déjà un NVIDIA Jetson Orin Nano, vous pouvez acheter le modèle « Super » pour 249 $ sur Seeed Studio, Arrow ou Sparkfun à condition qu’il soit toujours en stock. NVIDIA n’a pas mentionné le prix des modules, par exemple pour la production de masse, mais je doute qu’ils aient également réduit les prix de la même manière que pour le devkit. Le NVIDIA Jetson Orin Nano est probablement un produit sponsorisé pour les développeurs. Des informations supplémentaires peuvent être trouvées sur la page produit.

Retrouvez l’histoire de Raspberry Pi dans cette vidéo :