Il s’agit de Pocket, un assistant IA construit par Naz Louis. Le but de ce projet est d’exécuter entièrement des modèles d’IA sur un Raspberry Pi 5. Étant donné que le Pi 5 est livré avec des ressources limitées, au lieu d’exécuter un grand modèle directement sur le Pi 5, il a créé une collection de modèles légers et les a fait fonctionner ensemble. Il a conçu et déployé une configuration de routage qui achemine différentes tâches vers les bons modèles. Il a choisi Qwen comme le LLM (Large Language Model), Chuchotement rapide pour la synthèse vocale et Cornemuseur pour la synthèse vocale. Il a affiné la fonction gemma sur son ensemble de données personnalisé afin de pouvoir appeler ses fonctions personnalisées.
Il a ajouté deux accus 18650 pour le rendre portable. Il a utilisé un blindage de batterie 18650 pour Raspberry Pi pour monter les batteries. Ensuite, il a ajouté une caméra Arducam de 12 mégapixels à l’appareil pour des visuels en direct et un 26 HAUTS (Terra Operations Per Second) Accélérateur Hailo AI pour le traitement Edge AI. Il a utilisé un écran tactile de 4,3″ avec haut-parleur et micro pour pouvoir interagir avec Pocket. Il a créé un corps imprimé en 3D personnalisé et une interface utilisateur personnalisée avec de nombreuses options. Actuellement, il peut parler à Pocket, poser des questions et obtenir des réponses appropriées. Il a également ajouté une option pour la caméra qui ouvre le visuel en direct de la caméra Arducam et nous pouvons également exécuter la détection d’objets avec les visuels et cela fonctionne entièrement sur l’accélérateur Hailo AI. Ce qui est cool, c’est qu’il a fait cela complètement source ouverte.
Retrouvez l’histoire de Raspberry Pi dans cette vidéo :
