Le projet Teflon est un délégué TensorFlow Lite open source qui prend actuellement en charge VeriSilicon Vivante NPU et vise à prendre en charge plusieurs autres accélérateurs d’IA au fil du temps. Le projet a récemment été transféré à Mesa, ce qui signifie que l’inférence d’IA avec des logiciels open source fonctionnera immédiatement sur le matériel pris en charge une fois Mesa 24.1 sorti en mai 2024.
Teflon s’appuie sur le pilote open source Etnaviv, mieux connu pour fonctionner avec les GPU Vivante que l’on trouve, par exemple, dans les processeurs NXP i.MX, mais Tomeu Vizoso a également travaillé sur la mise en œuvre du support Vivante NPU depuis mai 2022 grâce au parrainage de Libre Computer et a documenté l’avancement du développement sur ce blog.
Le NPU VeriSilicon Vivante « VIPNano-QI.7120 » 5 TOPS se trouve dans le processeur Amlogic A311D, et Tomeu a testé le Téflon avec le lecteur Etnaviv NPU sur les ordinateurs monocarte Libre Computer AML-A311D-CC Alta et Khadas VIM3 avec des performances décentes. bien que toujours plus lent qu’avec le binaire à source fermée fourni par VeriSilicon.
- MobileNet V1 (UINT8) – vitesse d’inférence d’environ 15 ms
- MobileNet V2 (UINT8) – Vitesse d’inférence d’environ 15,5 ms (environ 6 fois plus rapide que le processeur et deux fois plus lente que le pilote propriétaire)
- SSDLite MobileDet (UINT8) – Vitesse d’inférence d’environ 53 ms (environ 4 fois plus rapide que le processeur et 3 fois plus lente que celle du pilote propriétaire)
Passer en amont à Mesa offre plusieurs avantages. Premièrement, le pilote de l’espace utilisateur sera automatiquement empaqueté par les distributions utilisant la bibliothèque graphique Mesa 3D telle que Debian, Ubuntu, Fedora et Yocto, de sorte que le NPU Vivante sera pris en charge immédiatement avec le pilote open source. Teflon bénéficiera de l’infrastructure du projet Mesa (Gitlab, intégration continue, etc…) et exploitera la base de code Mesa avec des fonctionnalités telles que la représentation intermédiaire NIR et l’API interne Gallium. Vous trouverez plus de détails dans l’article de blog lié au deuxième paragraphe de cet article.
Tout cela signifie que nous disposons désormais d’un Arm SBC relativement peu coûteux (65 $ sur Amazon) exécutant Linux principal avec un NPU 5 TOPS pris en charge par des pilotes open source.
Retrouvez l’histoire de Raspberry Pi dans cette vidéo :
