Firefly a récemment présenté les serveurs de cluster IA de la série CSB1-N10 conçus pour des applications telles que le traitement du langage naturel, la robotique et la génération d’images. Ces serveurs montés en rack 1U sont idéaux pour les centres de données, les serveurs privés et les déploiements périphériques.
Les serveurs disposent de plusieurs nœuds de calcul, dotés soit de processeurs économes en énergie (Rockchip RK3588, RK3576 ou SOPHON BM1688), soit de modules NVIDIA Jetson hautes performances (Orin Nano, Orin NX). Avec une puissance d’IA de 60 à 1 000 TOPS, les serveurs CSB1-N10 peuvent répondre aux demandes de grands modèles d’IA, y compris des modèles de langage comme Gemma-2B et Llama3, ainsi que des modèles visuels comme EfficientVIT et Stable Diffusion.
Spécifications de la série CSB1-N10
| Caractéristiques |
CSB1-N10S1688 |
CSB1-N10R3588 |
CSB1-N10R3576 |
CSB1-N10NOrinNano |
CSB1-N10NOrinNX |
|---|---|---|---|---|---|
| SoC |
Octa-core BM1688 |
Octa-core RK3588 |
Octa-core RK3576 |
Hexa-core Jetson Orin Nano |
Octa-core Jetson Orin NX |
| Fréquence |
1,6 GHz |
2,4 GHz |
2,2 GHz |
1,5 GHz |
2,0 GHz |
| Nombre de nœuds |
10 nœuds + 1 nœud de contrôle |
||||
| Processeur du nœud de contrôle |
RK3588, 2,4 GHz |
||||
| Puissance de calcul de l’IA (INT8) |
160 HAUTS |
60 HAUTS |
400 HAUTS |
1000 HAUTS |
|
| RAM par nœud de calcul |
8 Go LPDDR4 (en option jusqu’à 16 Go) |
16 Go LPDDR4 (en option jusqu’à 32 Go) |
8 Go LPDDR4 (en option jusqu’à 16 Go) |
8 Go LPDDR5 |
16 Go LPDDR5 |
| Stockage par nœud |
32 Go eMMC (en option jusqu’à 256 Go) |
eMMC de 256 Go (en option jusqu’à 256 Go) |
eMMC de 64 Go (en option jusqu’à 256 Go) |
Disque SSD PCIe NVMe de 256 Go |
|
| Encodage/décodage vidéo |
160 canaux de décodage H.265/H.264 1080p @ 30fps, 100 canaux d’encodage |
10 canaux de décodage H.265 8K @ 30fps, 10 canaux d’encodage |
|||
| Extension de stockage |
Emplacement pour disque dur SATA 3.0/SSD |
||||
| Ethernet | Ethernet 2 × 10G (SFP+)
2 × Gigabit Ethernet (RJ45) 1 × Gigabit Ethernet (RJ45, MGNT est utilisé comme réseau de gestion BMC) |
||||
| Console |
Port console RJ45 |
||||
| Afficher |
VGA jusqu’à 1080p60 |
||||
| USB |
2 × USB3.0 |
||||
| Bouton |
Réinitialisation, UID, bouton d’alimentation |
||||
| Divers |
1 × RS232 (DB9, débit en bauds 115 200) |
||||
| Refroidissement |
6 ventilateurs à grande vitesse |
||||
| Alimentation |
550 W (non remplaçable à chaud) |
||||
| Facteur de forme |
Monté en rack 1U |
||||
| Dimensions physiques |
420 × 421,3 × 44,4 mm |
||||
| Température de fonctionnement |
0°C ~ 45°C |
||||
| Cadres d’apprentissage profond |
TensorFlow, PyTorch, PaddlePaddle, ONNX, Caffe |
Frameworks cuDNN : TensorFlow, PyTorch, MATLAB, etc. |
|||
| Prise en charge des grands modèles |
LLM basés sur des transformateurs |
Modèles LLaMa3, Phi-3 Mini et vision |
|||
Tous les serveurs IA CSB1-N10 ont les mêmes interfaces et les seules différences résident dans le processeur, la mémoire, le stockage, le multimédia, les capacités IA et la prise en charge logicielle associée. Il est donc probable que Firefly ait rendu les systèmes sur modules Rockchip compatibles avec le facteur de forme NVIDIA Jetson SO-DIMM, et en effet nous avons déjà noté que Firefly avait conçu des modules CPU Core-1688JD4, Core-3576JD4 ou Core-3588JD4 avec BM1688, RK3576 et SoC RK3588, ce sont donc probablement ceux utilisés dans les serveurs CSB1-N10.
En termes de logiciel, les serveurs de cluster AI de la série CSB1-N10 disposent d’un système BMC avec Redfish, VNC, NTP et une surveillance pour une gestion en temps réel. De plus, ils prennent en charge les frameworks d’apprentissage en profondeur tels que TensorFlow, PyTorch, PaddlePaddle, ONNX et Caffe, avec l’accélération cuDNN pour certains modèles. Ils prennent également en charge les conteneurs Docker qui permettent le déploiement privé de grands modèles tels que LLaMa3, Phi-3 Mini, EfficientVIT et Stable Diffusion. Notez que les entrées wiki pour la série CSB1-N10 sont toutes vides, vous souhaiterez donc peut-être vous référer à la documentation des modules CPU respectifs mentionnés ci-dessus.
Nous avons déjà parlé de divers clusters et cartes mères de cluster, notamment le Lichee Cluster 4A mini-ITX, le Mixtile Cluster Box et la carte mère Turing Pi 2.5 mini-ITX, mais les solutions fournies par Firefly sont plus puissantes et peuvent être facilement intégrées dans un étagère.
Le prix varie de 2 059,00 $ pour le CSB1-N10R3576 à 14 709,00 $ pour le serveur informatique hautes performances CSB1-N10NOrinNX avec 1 000 TOPS de puissance de traitement. Les liens d’achat pour tous les modèles sont disponibles sur la page produits, et vous trouverez également des informations complémentaires sur les fiches techniques des serveurs cluster Rockchip/SOPHGO et NVIDIA.
Retrouvez l’histoire de Raspberry Pi dans cette vidéo :
-
WayPonDEV Firefly ROC-RK3588S-PC 8K AI Rockchip RK3588S Carte Unique 4 Go RAM LPDDR4 & 32 Go mémoire eMMC Wi-FI 6 & Bluetooth Prise en Charge Multi-écran 8K -
StarTech.com Module SFP GBIC compatible Cisco GLC-LH-SM - Mini GBIC 1000BASE-LX/LH - Paquet de 10 (GLCLHSM10PST)