Améliorer l'estimation de la pose humaine avec l'apprentissage actif

Les techniques d'apprentissage profond (DL) nécessitent souvent beaucoup de données et un temps considérable pour former des modèles. Cette nécessité peut créer une forte demande en ressources informatiques. Pour aider à résoudre ce problème, les chercheurs utilisent des méthodes comme l'Apprentissage Actif (AL) et la distillation en ligne. Ces approches visent à rendre le processus d'entraînement plus efficace et à permettre des mises à jour plus rapides des modèles en temps réel. Cet article discute de ces stratégies et comment elles peuvent améliorer les résultats d'entraînement, particulièrement dans le domaine de l'Estimation de la pose humaine (HPE).

#Qu'est-ce que l'estimation de la pose humaine ?

L'estimation de la pose humaine (HPE) est un processus qui identifie les positions des articulations du corps humain à partir d'images ou de vidéos. La HPE est utile dans de nombreux domaines, y compris la santé et l'industrie. Divers facteurs comme les angles de caméra et les conditions d'éclairage peuvent affecter la précision de ces estimations. Pour obtenir les meilleurs résultats, les modèles doivent souvent être ajustés pour différentes situations.

#L'apprentissage actif expliqué

L'apprentissage actif (AL) est une technique qui permet à un modèle de demander des étiquettes sur les points de données les plus importants, réduisant ainsi la quantité de données à annoter et accélérant le processus d'apprentissage. Au lieu d'utiliser toutes les données disponibles, l'AL aide à sélectionner les échantillons les plus informatifs.

L'apprentissage actif en ligne est une version plus récente de l'AL, conçue pour fonctionner avec des données qui arrivent progressivement. C'est particulièrement utile pour les applications en temps réel où les données proviennent d'une source vidéo, et ça aide dans des situations avec des ressources limitées. Le principal défi est d'obtenir des étiquettes précises rapidement, ce qui peut affecter les performances du modèle.

#Distillation en ligne en détail

La distillation en ligne est une technique où un modèle "professeur" transmet des connaissances à un modèle "étudiant" en temps réel à mesure que de nouvelles données arrivent. Ce processus aide à améliorer la capacité de l'étudiant à apprendre à partir de nouvelles entrées. En combinant ces méthodes, on peut améliorer le transfert de connaissances tout en réduisant le besoin d'une étiquetage extensif. Cela permet aux modèles de mieux s'adapter rapidement à de nouvelles informations.

#Focus de recherche

Cet article explore deux questions clés : Premièrement, combien de données un réseau de neurones a-t-il besoin pour obtenir de bonnes performances en HPE ? Deuxièmement, quels sont les meilleurs critères pour sélectionner les images à inclure dans l'ensemble de formation ?

#Le rôle des Stratégies de requête

Les stratégies de requête sont des approches utilisées pour choisir quelles images d'un ensemble de données doivent être ajoutées à l'ensemble de formation. Notre étude a évalué deux méthodes principales : une méthode classique hors ligne où toutes les données sont disponibles et une méthode en ligne où les données arrivent de manière incrémentale. Cette comparaison révèle comment ces stratégies fonctionnent dans des scénarios réels.

#Les cadres

Nous avons examiné deux cadres :

1. Ajustement fin hors ligne : Un modèle léger pré-entraîné sur un large ensemble de données est affiné en utilisant un ensemble de données cible spécifique.
2. Apprentissage en ligne AI Edge : Un appareil avec des ressources limitées effectue à la fois des inférences en temps réel et de l'entraînement sur un flux vidéo. Ici, le modèle utilise des étiquettes douces provenant d'un modèle plus grand connu pour sa précision supérieure.

Nous avons testé quatre stratégies de requête différentes : uniforme, aléatoire, basée sur l'erreur et basée sur la confiance.

#Aperçu des stratégies de requête

#1. Échantillonnage uniforme

Cette stratégie choisit des images de manière équitable dans l'ensemble de données. Bien qu'elle fournisse une sélection équilibrée, elle peut ne pas identifier efficacement les meilleurs échantillons, surtout dans des ensembles de données inégaux.

#2. Échantillonnage aléatoire

Dans cette approche, les images sont sélectionnées de manière aléatoire. C'est facile à mettre en œuvre mais cela peut conduire à inclure des images moins informatives, ce qui peut ralentir le processus d'apprentissage.

#3. Échantillonnage basé sur l'erreur

Cette stratégie se concentre sur les images qui entraînent des erreurs plus élevées pendant l'inférence. Son objectif est d'améliorer le modèle en choisissant des images où les prédictions étaient moins précises.

#4. Échantillonnage basé sur la confiance

Ici, la sélection est basée sur la confiance du modèle. Les images pour lesquelles le modèle est moins sûr de ses prédictions sont prioritaires.

#Résultats expérimentaux

Les chercheurs ont comparé les performances des différentes stratégies de requête. Ils ont mesuré comment les modèles ont appris avec divers taux d'entraînement et pourcentages échantillonnés.

#Évaluation du cadre d'entraînement

Dans l'entraînement hors ligne, différents pourcentages de l'ensemble de données ont été testés pour voir comment ils affectaient la précision. Les résultats ont été comparés à ceux des modèles qui n'avaient pas été ajustés. Les stratégies efficaces ont montré des améliorations, notamment l'échantillonnage aléatoire et uniforme.

#Évaluation de la distillation active en ligne

Lors des tests du cadre en ligne, les chercheurs ont examiné comment les performances changeaient avec différents taux et méthodes d'échantillonnage. Les résultats ont montré que l'utilisation de données de vérité terrestre menait à des prédictions plus précises que de s'appuyer sur un modèle enseignant.

#Efficacité de l'entraînement

Pour l'ajustement fin hors ligne, réduire la taille de l'ensemble d'entraînement a entraîné des diminutions notables du temps d'entraînement. Les tests en ligne ont également montré des améliorations. Le cadre de distillation continue des connaissances formait un modèle tous les 128 images, mais ce n'était pas assez rapide pour répondre aux exigences en temps réel. Cependant, utiliser la distillation active a permis à l'entraînement de s'effectuer de manière beaucoup plus efficace, avec des réductions significatives des erreurs.

#Conclusions et directions futures

L'apprentissage actif a montré un potentiel pour améliorer les résultats d'entraînement en sélectionnant efficacement des points de données clés. Les stratégies les plus efficaces, l'échantillonnage aléatoire et uniforme, ont donné des résultats cohérents et réduit le besoin d'étiquetage extensif. Les travaux futurs se pencheront sur l'application de ces stratégies à d'autres tâches comme la classification et la détection, ainsi que sur le développement de nouvelles méthodes et techniques de distillation des connaissances.

#Résumé

En résumé, l'intégration de l'apprentissage actif et de la distillation en ligne peut améliorer significativement l'efficacité de l'entraînement des modèles en estimation de la pose humaine. Cette approche combinée permet une sélection efficace des données, des mises à jour plus rapides des modèles, et conduit finalement à de meilleures performances dans des applications en temps réel. À mesure que le domaine progresse, l'exploration de stratégies et d'applications supplémentaires sera cruciale pour saisir tout le potentiel de ces techniques.