Certification de l'IA dans l'aérospatial : Des approches nouvelles nécessaires

Le processus de Certification pour les logiciels utilisés dans les avions est super important, mais ça ne colle pas trop avec les systèmes d'intelligence artificielle (IA). En particulier, les réseaux de neurones profonds (RNP) sont un type d'IA qui est différent des logiciels traditionnels. Alors que le logiciel classique a des lignes de code claires qui peuvent être vérifiées, les RNP dépendent beaucoup de paramètres ajustés pendant leur entraînement. Ces paramètres ne sont pas aussi faciles à comprendre ou à expliquer. Néanmoins, les RNP peuvent accomplir des tâches avec un niveau de précision que le logiciel traditionnel ne peut parfois pas égaler.

Cet article présente un ensemble d'étapes de bon sens qui peuvent aider à créer un processus de certification pour les RNP. Ces étapes peuvent aider à la fois les développeurs et les régulateurs à voir que le logiciel IA sur lequel ils travaillent est fiable et respecte les normes requises. L'objectif est de s'assurer que le logiciel fonctionne comme prévu, sans erreurs, et qu'il remplit certaines conditions.

#RNP dans l'aérospatial

L'IA, en particulier à travers les RNP, peut être super utile dans le secteur aérospatial. Par exemple, utiliser l'IA pour détecter et éviter les obstacles dans les airs. Par exemple, les RNP peuvent être entraînés à reconnaître des avions sur des images, ce qui peut aider à améliorer la sécurité des vols.

Actuellement, tous les logiciels qui fonctionnent sur des avions certifiés doivent passer par un processus de certification. Ce processus vérifie si le logiciel répond à des exigences spécifiques et s'il peut fonctionner sans planter ou faire des erreurs. Pour les logiciels traditionnels, ce processus implique généralement de relier les exigences aux lignes de code, en s'assurant que chaque partie du code sert un but.

Cependant, avec les RNP, la situation est différente. Les caractéristiques importantes d'un RNP sont stockées dans un grand ensemble de paramètres plutôt que directement liées aux lignes de code. Par conséquent, une nouvelle approche est nécessaire pour la certification qui puisse tracer et suivre ces paramètres et exigences de manière efficace.

#Le défi des RNP

En regardant comment fonctionnent des capteurs traditionnels comme le radar, on peut voir qu'ils sont utilisés depuis de nombreuses années. Les capteurs radar envoient de l'énergie et analysent les signaux de retour, dont les propriétés physiques sont bien comprises. Des techniques peuvent être appliquées pour traiter ces données, ce qui fait du radar un outil fiable pour détecter des distances et identifier des objets.

En revanche, les caméras utilisées avec les RNP rencontrent de nombreux problèmes en raison de facteurs externes comme l'éclairage et la météo. Cela peut affecter la qualité des images capturées. Puisque les RNP fonctionnent en apprenant de ces images, ils peuvent parfois surpasser les systèmes radar traditionnels, même si la compréhension et le contrôle des entrées de la caméra sont moins précis.

Le défi avec les RNP, c'est qu'ils ne peuvent pas être analysés de la même manière que le radar. Au lieu de décomposer le système étape par étape, les RNP doivent être vus dans leur ensemble, entraînés pour accomplir des tâches comme la détection d'objets. Après l'entraînement, il faut vérifier la performance du RNP pour s'assurer qu'il peut fonctionner correctement dans diverses conditions.

#Formation et test de modèle

Les RNP passent par deux phases principales : l'entraînement et l'inférence. Pendant l'entraînement, le modèle apprend à partir d'un ensemble de données étiquetées (images avec des objets connus). Une fois l'entraînement terminé, le modèle est figé et peut être utilisé pour l'inférence, où il analyse de nouvelles données.

Pour qu'un RNP fonctionne bien dans des situations réelles, il doit être testé de manière approfondie avec divers scénarios, y compris des conditions extrêmes. C'est crucial, car la capacité du modèle à généraliser - bien performer sous différentes situations - est essentielle pour la certification. Par conséquent, le cadre encourage la collecte et l'analyse systématiques de données qui représentent les conditions du monde réel.

#Évaluation des réseaux neuronaux

Lors du test d'un RNP, il est vital de s'assurer que les données d'entrée couvrent une large gamme de situations. Les données doivent être diverses et inclure des cas limites pour aider à identifier les faiblesses du modèle. Les données de certification doivent être séparées des données d'entraînement pour éviter tout biais dans les résultats de performance.

Un autre aspect clé de l'évaluation des RNP est la capture de métriques qui reflètent à quel point le modèle répond aux exigences. Par exemple, mesurer les taux de faux positifs et de faux négatifs aide à déterminer à quel point les détections du modèle sont précises.

#Le cadre de certification

Le cadre de certification des RNP se concentre sur la garantie de traçabilité et de responsabilité à chaque étape du développement. Cela inclut la gestion des ensembles de données, du code et de l'entraînement du modèle afin que tout soit documenté et puisse être examiné.

#Étapes de certification

1. Développement des exigences : Définir les conditions dans lesquelles le système fonctionnera. Cela inclut la compréhension des facteurs comme la météo, l'heure de la journée et les types d'objets à détecter.

2. Gestion des données : Rassembler et vérifier les ensembles de données qui seront utilisés pour entraîner le modèle. S'assurer que les ensembles de données d'entraînement et de certification sont séparés pour éviter tout chevauchement.

3. Entraînement du modèle : Entraîner le RNP en utilisant les données collectées. Suivre toutes les informations pertinentes, y compris la version du code et les ensembles de données utilisés.

4. Mise en œuvre du modèle d'inférence : Convertir le modèle entraîné en un format qui peut être exécuté sur le matériel cible.

5. Garde-fous et Surveillance : Établir des mesures pour détecter quand le RNP ne fonctionne pas comme prévu, tant pendant le développement qu'après le déploiement.

#Vérification des données

Pour s'assurer que la performance du modèle peut être fiable, l'ensemble de données de certification doit représenter adéquatement les conditions du monde réel. Cela signifie capturer une gamme de scénarios auxquels le modèle pourrait être confronté, y compris des variations comme la distance à un objet, les conditions d'éclairage, etc.

#Gestion de modèle

Dans le développement des RNP, le processus d'entraînement implique souvent de tester différentes configurations et paramètres. Il est important de garder une trace de toutes les versions de modèle, des ensembles de données d'entraînement et des résultats pour garantir la reproductibilité et la transparence.

#Garde-fous et surveillance

Après le déploiement d'un système basé sur RNP, il est essentiel de surveiller continuellement sa performance. En fixant des limites sur l'influence du modèle sur les systèmes de contrôle, les développeurs peuvent réduire le risque de comportements dangereux. Avoir des systèmes de surveillance en place peut également aider à détecter toute anomalie dans les données d'entrée qui diffèrent de manière significative de ce sur quoi le modèle a été formé.

#Conclusion

L'intégration de l'IA, surtout des RNP, dans les applications aérospatiales pose des défis uniques que les processus de certification traditionnels ne traitent pas bien. Cet article a décrit un cadre qui met l'accent sur l'importance de la gestion des données, de l'entraînement des modèles et d'une évaluation robuste pour s'assurer que les RNP peuvent être certifiés efficacement pour des applications critiques pour la sécurité.

En mettant en œuvre ces pratiques, développeurs et régulateurs peuvent travailler ensemble pour améliorer la fiabilité et la sécurité des systèmes basés sur les réseaux neuronaux dans l'aérospatial. Les avancées continues dans ce domaine entraîneront probablement de nouveaux perfectionnements dans les processus de certification, ce qui se traduira par des normes de sécurité encore plus élevées pour les opérations aériennes à l'avenir.