Optimiser les réseaux de neurones pour les appareils Edge

Les avancées récentes en technologie ont donné lieu à de nouvelles façons de traiter l'information. Une de ces méthodes s'appelle Computing-in-Memory (CIM), qui combine mémoire et traitement pour rendre l'utilisation des ressources plus efficace. C'est super important pour les réseaux de neurones profonds (DNN), qui sont des systèmes qui apprennent des données et sont utilisés dans plein d'applications, de la reconnaissance d'images aux voitures autonomes.

Pour que les DNN fonctionnent bien sur de petits appareils avec des ressources limitées, on doit ajuster leur conception et leur fonctionnement. Dans cet article, on va explorer des méthodes visant à optimiser les réseaux de neurones pour des appareils qui ne peuvent pas compter sur le cloud, comme les lunettes connectées ou les téléphones portables. Ces appareils ont besoin de traiter l'information rapidement, de consommer moins d'énergie et de tenir dans un petit espace.

#Les Défis

Les DNN nécessitent généralement beaucoup de puissance de calcul, ce qui peut poser problème pour les appareils qui n'ont pas un matériel puissant. Ces appareils ont souvent une autonomie de batterie limitée, des contraintes de taille, et doivent effectuer des tâches rapidement. De plus, le modèle de calcul traditionnel, connu sous le nom d'architecture von Neumann, a des limitations en raison du mouvement constant des données entre la mémoire et les processeurs.

Ces défis font que concevoir des DNN efficaces pour des appareils edge est une tâche compliquée. On doit trouver un équilibre entre la taille du réseau de neurones et sa performance et vitesse. Les méthodes traditionnelles ne fonctionnent peut-être pas bien dans ces scénarios, ce qui nécessite une approche nouvelle.

#Solutions Actuelles

Pour résoudre ces problèmes, les chercheurs se concentrent sur deux grandes pistes : améliorer la conception des DNN et améliorer le matériel utilisé pour le traitement.

Une approche pour concevoir des réseaux de neurones est connue sous le nom de Hardware-aware Neural Architecture Search (HW-NAS). Cette méthode prend en compte les caractéristiques spécifiques du matériel utilisé, comme la consommation d'énergie et la vitesse de traitement, lors de la création d'un réseau de neurones. En faisant ça, on peut générer des modèles qui fonctionnent bien dans des applications réelles.

Côté matériel, il y a un intérêt croissant pour les accéléraiteurs CIM basés sur la RRAM. Ces appareils stockent l'information d'une manière qui permet un traitement efficace sans avoir besoin de déplacer fréquemment les données. Ils sont conçus pour fonctionner avec les DNN afin d'améliorer la performance tout en réduisant significativement la consommation d'énergie.

#Besoin de Meilleures Techniques de Compilation

Malgré ces avancées, il y a encore un gros gap dans la compilation des DNN adaptés aux mobiles. Beaucoup de compilateurs existants ne tiennent pas compte des caractéristiques uniques de certains réseaux de neurones, surtout ceux qui utilisent des couches de convolution en profondeur, qui sont cruciales dans les designs modernes. Ces types de couches aident à réduire la quantité de données à traiter, mais sont souvent négligées par les outils de compilation existants.

À cause de ce manque de soutien, déployer des DNN sur du matériel basé sur RRAM mène souvent à des inefficacités. Par exemple, les techniques de mapping précédentes ont montré une faible utilisation de l'espace, ce qui entraîne des délais et consomme plus d'énergie. Donc, il y a un besoin pour de meilleures méthodes qui peuvent optimiser le fonctionnement des DNN sur du matériel restreint.

#Introduire RNC

Pour répondre à ces défis, un nouveau cadre connu sous le nom de RNC a été introduit. Ce cadre combine des méthodes pour optimiser la conception des réseaux de neurones avec des techniques de compilation améliorées. RNC est spécifiquement conçu pour les appareils edge et vise à tirer le meilleur parti des crossbars RRAM, qui servent de colonne vertébrale matérielle pour exécuter des DNN.

#Caractéristiques Clés de RNC

1. Compilation Edge : RNC compile les réseaux pour les rendre adaptés au déploiement sur des appareils edge. Il le fait en divisant les couches de manière à ce qu'elles s'intègrent parfaitement dans les ressources matérielles disponibles. Cela permet une utilisation plus efficace de l'énergie et de l'espace.

2. Pack des Réseaux : Le cadre comprend une méthode astucieuse pour empaqueter les matrices de poids dans des contenants fixes. Cela garantit que chaque morceau de matériel est utilisé à son plein potentiel, améliorant ainsi la performance.

3. NAS Sensible à la RRAM : RNC intègre une méthode de recherche spécifique qui cherche des architectures de réseaux de neurones optimisées tout en tenant compte des limites du matériel. Cela se fait en utilisant une stratégie d'optimisation multi-objectifs qui aide à trouver un équilibre entre performance et vitesse.

#Comment RNC Fonctionne

RNC emploie une série d'étapes pour garantir que les DNN sont optimisés pour les appareils edge. Ces étapes comprennent :

#Partition des Couches

Ce processus implique de diviser les grandes couches en sections plus petites qui peuvent être facilement gérées par le matériel. Il s'assure également que les couches surdimensionnées s'intègrent dans les contraintes du matériel en créant des boîtes gérables. Cette section est cruciale car elle aide à adapter les réseaux profonds pour qu'ils s'intègrent parfaitement dans les matrices de crossbar.

#Duplication de Poids

Cette technique aide à aborder la faible utilisation en permettant de multiples copies de certaines couches pour accélérer le traitement. Quand certaines couches prennent plus de temps à calculer, les dupliquer peut aider à réduire la latence globale. La duplication est soigneusement calculée pour équilibrer les temps de traitement entre toutes les couches.

#Emballage des Réseaux

L'emballage des réseaux est une approche sophistiquée pour organiser les boîtes de couches dans des contenants de crossbar fixes. En le faisant efficacement, RNC minimise l'espace gaspillé et maximise la performance. Cette méthode peut même gérer différentes tailles de couches sans provoquer de délais dans les vitesses de traitement.

#Simulation Matérielle

RNC ne s'arrête pas uniquement à la compilation et à l'emballage ; il simule aussi la performance matérielle pour évaluer avec précision comment un modèle va performer. Cette simulation inclut l'analyse de la manière dont les différentes couches interagissent entre elles, ce qui est crucial pour peaufiner les performances.

#Résultats et Évaluations

En utilisant le cadre RNC, des améliorations significatives de la performance ont été observées. Par exemple, en compilant des réseaux comme ResNet18, SqueezeNet et MobileNetV3, l'utilisation des ressources matérielles a plus que doublé, et le nombre de crossbars requis a diminué significativement.

De plus, lors des tests sur ces modèles, le cadre RNC a montré jusqu'à 15 fois d'amélioration de vitesse par rapport aux méthodes traditionnelles. Ces résultats démontrent la capacité du cadre à optimiser les réseaux de neurones de manière significative pour des environnements à ressources limitées.

#Conclusion

Le cadre RNC représente une solution complète pour optimiser les réseaux de neurones profonds pour des appareils edge reposant sur la technologie RRAM. En s'appuyant sur des méthodes avancées comme la partition des couches, la duplication de poids, et l'emballage des réseaux, RNC maximise l'utilisation des ressources matérielles tout en minimisant les délais et la consommation d'énergie.

Au fur et à mesure que les appareils intelligents continuent à proliférer, la demande pour un déploiement efficace des réseaux de neurones ne fera que croître. RNC fournit une base solide pour des applications pratiques, garantissant que les technologies de pointe peuvent être intégrées efficacement dans les appareils quotidiens. Les résultats prometteurs indiquent un avenir radieux pour les DNN dans des environnements à ressources limitées, ouvrant la voie à des innovations dans divers domaines, de la santé aux véhicules autonomes.