Quand utiliser le kit Raspberry Pi 5 AI
Le kit IA Raspberry Pi 5 offre 82,4 FPS sur la détection d'objets YOLOv8 tout en ne consommant que 9,7 W-, mais uniquement si vous exécutez des modèles de vision via un pipeline de caméras. Cette spécificité compte plus que le nombre impressionnant de 13 TOPS inscrit sur la boîte.
J'ai vu des dizaines de développeurs acheter ce kit à 70 $ en espérant une accélération de ChatGPT, pour découvrir qu'il ne pouvait pas toucher aux modèles de langage. La confusion est compréhensible : « AI Kit » semble universel. La réalité est que le processeur Hailo-8L n'est compatible qu'avec les tâches d'apprentissage automatique-impliquant le flux capturé par les modules de caméra - pas les webcams, ni les caméras IP, en particulier les modules de caméra Raspberry Pi.
Ce n'est pas une limitation ; c'est la spécialisation. L'inférence de vision par ordinateur à la périphérie nécessite une architecture fondamentalement différente de celle de l'inférence LLM. L'architecture de flux de données du Hailo-8L excelle dans le premier cas tout en étant totalement fausse pour le second.
Le véritable écart de performance : des chiffres qui comptent réellement
Évitez le marketing TOPS. Le processeur du Raspberry Pi 5 exécute la détection d'objets YOLOv8 à 0,45 FPS avec une utilisation du processeur à 100 %. Ajoutez le kit AI et vous atteignez 82,4 FPS avec 15-30 % de CPU. Ce n'est pas une amélioration de 2x, c'est un multiplicateur de 183x.
Mais le contexte façonne considérablement ces chiffres. Aux vitesses PCIe Gen 3 avec une taille de lot de 8, le même modèle YOLOv8s atteint 120 FPS. Passez à la génération 2 et vous êtes à 40 FPS. Augmentez la taille du lot à 32 et les performances s'effondrent à 54 FPS.
Le goulot d’étranglement PCIe est réel. Une seule voie Gen 3 fournit un débit de 8 Gbit/s-suffisant pour la plupart des tâches de vision, mais un plafond rigide. Les configurations basées sur des modules-exigent que tous les accès à la mémoire passent par l'interface PCIe, contrairement aux NPU intégrés aux SoC qui partagent des canaux mémoire-haute vitesse avec le processeur.
À titre de perspective : l'estimation de la pose fonctionne à 66,1 FPS avec une consommation électrique de 9,7 W de consommation totale du système. C'est 200 x plus rapide que l'inférence uniquement sur le processeur-tout en utilisant moins d'énergie. Les calculs vérifient les déploiements alimentés par batterie-.
Matériel concurrent : l'arbre de décision à 70 $
Le Coral TPU de Google offre 4 TOPS avec une efficacité de 2 TOPS/W dans une conception de puce vieille de 6-ans. Le Hailo-8L offre 13 TOPS à 3-4 TOPS/W. Sur le papier, Hailo gagne.
Mais Coral a une intégration TensorFlow Lite qui « fonctionne tout simplement ». L'accélérateur USB de Coral se connecte via USB standard, s'intègre facilement aux systèmes existants et prend en charge des modèles modérés comme MobileNet v2 avec une consommation électrique d'environ 2 watts. Aucune configuration PCIe requise.
Le Hailo-8 (26 TOPS) existe mais coûte entre 150 et 200 dollars. À ce niveau de prix, vous comparez avec des solutions offrant plus de flexibilité. Le point idéal est le 8L à 70 $, si votre cas d'utilisation correspond.
Pineboards propose des alternatives : deux HAT M.2 combinant Hailo-8L avec le stockage NVMe, ou des configurations Coral Edge pour un développement continu sur les projets Coral existants. Ceux-ci résolvent la limitation « soit d’accélérateur, soit de stockage » du kit officiel.
Cas d'utilisation n° 1 : -Sécurité et surveillance en temps réel
Les caméras de sécurité génèrent des flux de données incessants. Le kit AI gère les images de sécurité 1080p détectant les personnes, les voitures et les colis sans perdre d'images. Cette amélioration des performances 13 fois rend les caméras de sécurité réellement viables.
Le projet de Jeff Geerling a combiné plusieurs NPU Hailo-atteignant 51 TOPS au total en connectant les TPU Hailo-8L, Hailo-8 et Coral via des commutateurs PCIe. Excessif? Oui. Mais il démontre des scénarios multi-caméras à grande échelle.
Le déploiement réel est différent. Un système de surveillance de poste de péage utilisait la vision par ordinateur Edge Impulse avec un module de caméra large pour détecter et compter les véhicules sur plusieurs voies simultanément. L'objectif large a capturé des zones plus larges ; le kit AI fournissait une marge de traitement.
L’intégration de la frégate NVR est importante ici. Hailo a été officiellement intégré au framework Frigate à partir de la version 0.16.0, ce qui en fait un remplacement-des configurations Coral vieillissantes dans les installations de surveillance existantes.
Limitation critique : AI Kit et AI HAT+ ne fonctionnent pas en cas d'incompatibilité de version entre les progiciels Hailo et les pilotes de périphérique. Les déploiements de production nécessitent des stratégies de verrouillage de version-.
Cas d'utilisation n°2 : Contrôle des processus industriels
Les systèmes de sécurité de construction peuvent détecter les personnes placées devant, sur le côté et derrière les véhicules de construction. Les caméras basées sur l'IA- remplacent plusieurs observateurs humains et suivent l'emplacement des travailleurs en temps réel.
L’avantage est le parallélisme : l’IA traite simultanément plusieurs zones de danger tandis que les humains se concentrent naturellement de manière séquentielle. Le temps de réponse pour la génération d’alertes compte plus qu’une précision parfaite.
Le contrôle qualité de la fabrication suit une logique similaire. Une caméra de ligne de production vérifiant l’exactitude de l’assemblage nécessite des fréquences d’images constantes, et non des performances optimales. Le kit AI maintient 82,4 FPS sur la détection d'objets-suffisants pour la plupart des vitesses de ligne de fabrication tout en laissant la capacité du processeur aux systèmes de contrôle.
La taille compacte permet l'intégration aux points de la chaîne de production existante. Le système évolue en ajoutant des caméras plutôt qu’en repensant l’infrastructure.
Mais le déploiement industriel exige davantage. Les cartes SD doivent être évitées pour les appareils de production en raison de leur endurance en écriture limitée et de leur faible fiabilité sous une alimentation peu fiable. Des disques durs ou eMMC de qualité industrielle sont requis.
Cas d'utilisation n°3 : robotique et systèmes autonomes
Un prototype de robot sous-marin autonome a utilisé le kit AI pour la détection d'objets avec un modèle YOLOv8 formé sur des ensembles de données personnalisés, en coordination avec des moteurs BLDC contrôlés via le pilote PWM PCA9685 sur l'interface I2C.
Le défi : intégrer le SDK Hailo aux pipelines OpenCV existants. Les développeurs habitués aux implémentations PyTorch+Ultralytics à 8 lignes sur les GPU PC sont confrontés à une courbe d'apprentissage plus abrupte avec la chaîne d'outils de Hailo. La conversion de modèle n'est pas automatique.
Les algorithmes de navigation consomment des cycles CPU. Le système de détection des mains de Mario a exécuté trois modèles simultanément-détection des mains et points de repère-en maintenant 26 à 28 FPS avec une main détectée, 22 à 25 FPS avec deux mains. Ce budget de traitement laisse de la place à la planification du trajet et au contrôle moteur.
Les robots de livraison intelligents illustrent cette adéquation : traitement continu de la vision tandis que le processeur gère la logique de navigation, la communication et les arbres de décision. L'efficacité de 3 à 4 TOPS/W prolonge la durée de vie de la batterie de manière mesurable dans les déploiements mobiles.
Cas d'utilisation n°4 : vente au détail et analyse client
Une démonstration de gestion d'un supermarché de détail a exécuté YOLOv8n sur le kit AI pour détecter les produits sur les étagères, tandis qu'EfficientNet s'est exécuté sur le processeur pour la classification. Division du travail : le NPU s'occupe de la détection (où est le produit ?), le CPU s'occupe de la classification (quel produit ?).
L'estimation de pose ajoute une analyse du comportement des clients.. 66.1 Les performances d'estimation de pose FPS permettent de suivre les mouvements des clients dans les zones de magasin, d'analyser le temps de séjour et de détecter les files d'attente sans identification individuelle.
La confidentialité est importante ici. Le traitement sur-l'appareil signifie que la vidéo ne quitte jamais l'emplacement. Les modèles entraînés sur la détection générique de « personne » ne stockent pas de données biométriques-juste des métadonnées spatiales.
Le projet "Peeper Pam" a détecté des personnes derrière vous à un bureau, ignorant les chaises, les tables et les plantes encadrées. Confiance de détection affichée sur un compteur analogique : 0 pour « aucune personne », 1 pour « certaine personne présente », avec une incertitude entre les deux.
Cette même logique s'applique à la surveillance de l'occupation, à la gestion des files d'attente et à l'utilisation de l'espace -partout où vous avez besoin de « une personne est-elle présente ? » sans se soucier de "quelle personne ?"
Cas d'utilisation n°5 : Déploiement de modèles personnalisés (avec mises en garde)
Le compilateur Hailo Dataflow traduit les modèles des frameworks ML standards au format exécutable Hailo, en utilisant un entraînement prenant en charge la quantification-pour réduire les modèles tout en conservant la précision.
Le workflow : s'entraîner dans PyTorch ou TensorFlow, exporter vers ONNX, convertir en HEF (Hailo Executable Format) à l'aide du DFC, déployer sur le Pi. Des didacticiels existent pour la formation complète-au-pipeline de déploiement avec les modèles YOLOv8n.
Mais la compatibilité des modèles n’est pas universelle. Les modèles compilés pour Hailo sont optimisés spécifiquement pour l'architecture de puce-ce qui signifie que certaines opérations ne seront tout simplement pas mappées. Le zoo modèle fournit des exemples pré-compilés ; les architectures personnalisées nécessitent des tests.
L'API Hailo Python permet désormais d'exécuter des inférences sur le Hailo-8L à l'aide de Python, avec des exemples disponibles pour les scripts autonomes et l'intégration avec picamera2. Cela réduit la barrière par rapport aux flux de travail antérieurs réservés à GStreamer.
Edge Impulse offre une autre voie. Leur plate-forme gère la formation des modèles et le pipeline de conversion Hailo, produisant des modèles prêts à-être-déployés. Pour les équipes sans expertise en ML, cette approche gérée réduit les essais-et-les erreurs.
Quand NE PAS utiliser le kit AI
Grands modèles de langage :Le processeur Hailo-8L ne peut pas exécuter de LLM. Il est uniquement compatible avec les tâches d'apprentissage automatique impliquant des flux de modules de caméra. Aucune optimisation ne modifie cette limitation architecturale.
L'exécution de LLM sur Pi 5 nécessite une inférence CPU avec des modèles sous les paramètres 7B. Gemma2-2B a obtenu des performances décentes en utilisant 3 Go de RAM ; DeepSeek-r1:8b s'est exécuté lentement. Le kit AI n’accélère rien de tout cela.
IA générative :Génération de texte, synthèse d'images, génération audio-ces flux de travail ne correspondent pas à l'architecture de flux de données du Hailo-8L. Le futur Hailo 10H avec 40 TOPS et 8 Go de RAM DDR4 cible les charges de travail génératives d'IA, mais n'est pas encore disponible pour Pi 5.
Tâches non-de vision par caméra :Le traitement des images fixes à partir de fichiers fonctionne, mais le kit AI fonctionne spécifiquement avec les modules de caméra Raspberry Pi-et non avec les webcams ou les caméras IP. La compatibilité des caméras tierces-exige la prise en charge de libcamera.
Besoin de stockage :L'emplacement M.2 du kit officiel est occupé par le module Hailo, empêchant la connexion d'un SSD NVMe. Si vous avez besoin à la fois d'une accélération de l'IA et d'un stockage rapide, des HAT M.2 doubles tiers-sont requis.
Exigences d'intégration strictes :Depuis mars 2025, les applications rpicam-constituent le seul élément de la pile logicielle de Raspberry Pi profondément intégré à l'accélérateur Hailo. L'accès programmatique à partir de scripts Python via picamera2 est devenu disponible plus tard. L'adoption précoce signifiait une flexibilité limitée de l'API.
Le cadre décisionnel
Posez ces cinq questions :
1. Votre vision des tâches d'IA-est-elle basée ?
Oui, avec module caméra → AI Kit est viable
Non, ou traitement-basé sur un fichier → reconsidérer
Traitement texte/audio → mauvais outil
2. Quel est votre objectif de performance ?
30+ FPS réel-temps → Kit AI nécessaire
5-10 FPS acceptables → Le processeur pourrait suffire
<1 FPS tolerable → don't spend $70
3. Avez-vous besoin de modèles personnalisés ?
Oui, et disposé à apprendre le DFC → gérable
Oui, mais pas d'expertise ML → Parcours Edge Impulse
Non, en utilisant un pré--entraînement uniquement → scénario idéal
4. Quelle est votre échelle de déploiement ?
1 à 10 unités pour le prototypage → ajustement parfait
100+ unités pour la production → prendre en compte l'approvisionnement, la chaleur et la fiabilité
Industriel/commercial → besoin de variantes Pi industrielles, pas de cartes de vente au détail
5. Pouvez-vous accepter les contraintes ?
Exigence du module de caméra
Gestion des dépendances de versions
Pas de démarrage NVMe sans double M.2 HAT
Température de fonctionnement de 0 à 50 degrés
Plafond de bande passante PCIe
Si vous avez répondu favorablement aux questions 1, 2 et 5 et que vous avez une stratégie pour 3 et 4, le kit AI offre une valeur exceptionnelle à 70 $.
Configuration de la vérification de la réalité
L'installation du matériel prend quelques minutes : installez le système de refroidissement, fixez les entretoises, appuyez sur l'en-tête GPIO, connectez le câble ruban au port PCIe, fixez le kit AI avec des vis.
La configuration du logiciel nécessite plus de soin :
sudo apt update et sudo apt full-upgrade sudo rpi-eeprom-update sudo raspi-config # Activer PCIe Gen 3 dans les options avancées sudo apt install hailo-all sudo reboot hailortcli fw-control identifier # Vérifier l'installation
Les incompatibilités de version entre les progiciels Hailo et les pilotes de périphérique provoquent une panne complète du système. Testez minutieusement avant de déployer.
Pour de meilleures performances, il est recommandé d'utiliser le kit AI avec le Raspberry Pi Active Cooler. Sans refroidissement, la carte de base RPi5 surchauffera lors de l'utilisation du kit AI.
La gestion thermique n'est pas facultative- ; elle est nécessaire pour des performances durables.
Le calcul de la valeur de 70 $
Ce que vous obtenez :
13 inférences neuronales TOPS
Performances 180 x + par rapport au processeur-uniquement
Efficacité 3-4 TOPS/W
Prise en charge intégrée des applications rpicam-
Coussin thermique préinstallé-
Tout le matériel de montage
Ce que vous n'obtenez pas :
Accélération LLM
Calcul d'IA à usage général-
Plug-et-simplicité Plug and Play
Extension du stockage
Compatibilité universelle des caméras
Pour 70 $, il est difficile de trouver un moyen plus abordable de se lancer dans l’IA de pointe. Le prix est inférieur aux offres groupées Coral TPU tout en offrant plus de 3 fois les TOPS.
Mais la valeur dépend entièrement de l’alignement du cas d’utilisation. Pour l’inférence de vision en périphérie, c’est exceptionnel. Pour tout le reste, cela n'a aucune importance.
Foire aux questions
Puis-je utiliser le kit AI avec Raspberry Pi 4 ou des modèles antérieurs ?
Non. Le kit AI nécessite le Raspberry Pi 5 car il nécessite une prise en charge native PCIe. Les modèles précédents n’ont absolument pas d’interface PCIe. Il n'existe aucune solution de contournement ni aucun adaptateur qui change cela.
L'AI Kit accélérera-t-il mon code de détection d'objets écrit en Python avec OpenCV ?
Partiellement. L'API Hailo Python permet d'exécuter une inférence sur le Hailo-8L à l'aide de Python, mais vous devrez convertir votre modèle au format HEF et modifier votre code pour utiliser l'API Hailo au lieu des appels d'inférence OpenCV standard. Il ne s'agit pas d'un remplacement transparent et instantané.
Comment la taille du lot affecte-t-elle les performances ?
Avec YOLOv8 à une résolution de 640 x 640 : la taille du lot 2 atteint 80 FPS, la taille du lot 4 atteint 100 FPS, la taille du lot 8 atteint 120 FPS. Au-delà, les performances se dégradent : le lot 16 chute à 100 FPS et le lot 32 tombe à 54 FPS en raison de la saturation de la bande passante PCIe.
Puis-je démarrer à partir de NVMe et utiliser le kit AI simultanément ?
Pas avec le kit officiel seul. L'emplacement M.2 est occupé par le module Hailo. Pineboards et des fournisseurs similaires proposent deux HAT M.2 qui fournissent à la fois des emplacements pour accélérateurs NVMe et AI, résolvant cette limitation à un coût supplémentaire.
La prise en charge de Google Coral est-elle obsolète ?
Pas officiellement obsolète, mais la pile logicielle de Coral n'a pas été activement maintenue, PyCoral nécessitant Python 3.9. Google semble avoir laissé le projet Coral sous assistance respiratoire après des problèmes d'approvisionnement pendant la pandémie. Le matériel Coral existant fonctionne toujours, mais le support futur est incertain.
De quel refroidissement ai-je réellement besoin ?
Raspberry Pi recommande d'utiliser le kit AI avec l'Active Cooler pour de meilleures performances. Les dissipateurs thermiques passifs peuvent suffire pour une utilisation intermittente, mais les charges de travail d'inférence soutenues seront limitées sans refroidissement actif. Budget pour le refroidisseur actif à 5 $ aux côtés du kit AI.
Puis-je exécuter plusieurs flux de caméras simultanément ?
Oui. Il est possible d'exécuter plusieurs réseaux de neurones sur une seule caméra, ou un ou plusieurs réseaux de neurones avec deux caméras simultanément. Les performances évoluent en fonction de la complexité du modèle et de la disponibilité de la bande passante PCIe.
La conclusion honnête
Le Raspberry Pi 5 AI Kit est un outil spécialisé qui excelle dans son domaine. Pour l'inférence de vision avec les modules de caméra, il transforme le Pi 5 de « techniquement capable » à « réellement pratique » pour les applications de production.
Il ne s'agit pas d'un-accélérateur d'IA à usage général. Il n'exécutera pas ChatGPT. Cela ne générera pas d’images. Cela n'aidera pas avec la synthèse audio. Acceptez ces contraintes et cela offre une valeur exceptionnelle. Combattez-les et vous perdrez 70 $.
La décision n'est pas "Le kit AI est-il bon ?"-mais plutôt "Le kit AI est-il adapté à cette application spécifique ?" Répondez honnêtement et vous saurez si vous devez acheter.
Points clés à retenir
AI Kit offre 82,4 FPS sur YOLOv8 contre 0,45 FPS sur le processeur-uniquement-mais uniquement pour les tâches de vision basées sur une caméra-
Non compatible avec les LLM, l'IA générative ou les workflows de vision sans-caméra
Nécessite Raspberry Pi 5 avec module caméra ; ne fonctionnera pas avec Pi 4 ou les webcams
Configuration PCIe Gen 3 et refroidissement actif nécessaires pour des performances optimales
Gestion des dépendances de version critique ; les disparités provoquent une panne complète du système
Idéal pour : caméras de sécurité, surveillance industrielle, robotique, analyse de vente au détail
À éviter pour : les modèles de langage, la génération d'images, le traitement audio, l'expérimentation générale de l'IA
Sources de données
Documentation Raspberry Pi - Logiciel du kit AI : https://www.raspberrypi.com/documentation/computers/ai.html
magazin Mehatronika - Examen du kit IA Raspberry Pi : https://magazinmehatronika.com/en/raspberry-pi-ai-kit-review/
Seeed Studio - Benchmark sur RPi5 et CM4 : https://forums.raspberrypi.com/viewtopic.php?t=373867
Jeff Geerling - Test du kit IA du Raspberry Pi : https://www.jeffgeerling.com/blog/2024/testing-raspberry-pis-ai-kit-13-tops-70
XDA Developers - Raspberry Pi AI Kit pratique- : https://www.xda-developers.com/raspberry-pi-ai-kit-hands-on/
Forums Raspberry Pi - Discussions sur le kit AI : https://forums.raspberrypi.com/
Forums de la communauté Hailo : https://community.hailo.ai/
GitHub - hailo-ai/hailo-rpi5-exemples : https://github.com/hailo-ai/hailo-rpi5-examples