Évaluer les menaces de LBC à la sécurité des vaisseaux spatiaux

Les engins spatiaux sont des machines super importantes qui peuvent fonctionner toute seules sans qu’un humain les contrôle. Ils ont aidé les humains à accomplir plein de choses géniales. Mais, à mesure qu’on se fie de plus en plus à ces systèmes autonomes, ils deviennent aussi plus vulnérables aux attaques. Ces attaques peuvent perturber leur capacité à bien fonctionner, surtout en utilisant des méthodes d’un domaine appelé apprentissage automatique adversarial (AML). Cette approche utilise des techniques intelligentes pour tromper les systèmes d’apprentissage automatique et les faire faire des erreurs.

Cet article a pour but de montrer les types de menaces que l’AML pose aux engins spatiaux. D’abord, on va passer en revue une classification de ces menaces, puis on montrera des expériences qui démontrent comment ces attaques peuvent être menées contre des véhicules spatiaux. Enfin, on discutera pourquoi c’est essentiel d’inclure des mesures de sécurité centrées sur l’AML dans les engins spatiaux qui dépendent de systèmes autonomes.

#Le paysage changeant des opérations spatiales

Le monde de l’espace a beaucoup changé ces dernières années. Ça a évolué d’un truc surtout axé sur l’exploration et la science à un endroit où les pays le voient comme stratégique. Plus que de simples équipements scientifiques, les engins spatiaux comme les satellites sont maintenant vitaux pour les opérations militaires, la communication et la navigation. À mesure que les pays dépendent davantage de ces technologies pour leur défense, assurer leur sécurité est devenu super important.

De plus, l’utilisation de l’intelligence artificielle (IA) dans ces engins spatiaux augmente rapidement. L’IA aide les engins spatiaux à traiter des données, à prendre des décisions sans intervention humaine, et à améliorer leur fonctionnement. Mais ça introduit aussi de nouvelles faiblesses. L’AML est une méthode qui peut être utilisée pour exploiter ces faiblesses. En utilisant des entrées spécialement conçues, les attaquants peuvent confondre ou corrompre les modèles d’IA, ce qui représente un risque significatif.

#Le besoin de meilleures mesures de sécurité

Bien qu’il y ait eu un certain intérêt pour rendre les engins spatiaux plus sécurisés contre les menaces cybernétiques, les risques spécifiques de l’AML n’ont pas vraiment reçu beaucoup d’attention. C’est un gros vide pour assurer la sécurité des véhicules spatiaux. Les mesures de sécurité traditionnelles sont souvent insuffisantes face aux tactiques avancées que l’AML utilise pour tirer parti des systèmes d’IA. Ça souligne le besoin urgent pour les ingénieurs de vaisseaux spatiaux de comprendre ces risques uniques.

#Un regard plus approfondi sur les menaces de l’AML

L’apprentissage automatique adversarial implique de manipuler le fonctionnement des modèles d’IA. Les attaquants peuvent créer des entrées de données qui amènent le modèle à prendre de mauvaises décisions ou à classer des trucs incorrectement. Ces entrées, connues sous le nom d’« Exemples adversariaux », peuvent être super dangereuses parce qu’elles peuvent être utilisées contre tant des systèmes informatiques que des systèmes opérationnels.

#Types d’attaques AML

Les attaques AML peuvent être divisées en trois catégories principales :

1. Attaques White Box : Ces attaques se produisent quand l’attaquant a une connaissance complète du modèle d’IA. Il comprend comment ça fonctionne et peut créer des entrées spécifiques qui le confondent. Les types communs d’attaques white box incluent :

   • Attaques de contamination : Un attaquant contamine les données d’entraînement, ce qui conduit le modèle à apprendre des infos incorrectes.
   • Attaques d’inversion de modèle : Un attaquant extrait des informations sensibles du modèle, compromettant la vie privée.
   • Attaques par porte dérobée : Un attaquant plante une porte dérobée pendant l’entraînement pour manipuler le modèle quand il rencontre des entrées spécifiques.

2. Attaques Black Box : Dans ces attaques, l’attaquant ne connaît pas le fonctionnement interne du modèle mais peut quand même obtenir des entrées et des sorties. Il se base sur l’observation du comportement du modèle pour créer des données trompeuses. Les attaques black box courantes incluent :

   • Attaques d’évasion : Créer des entrées qui trompent le modèle en lui faisant faire des erreurs.
   • Attaques d’extraction de modèle : Inférer la fonctionnalité du modèle en l’interrogeant et en analysant ses sorties.
   • Attaques d’inférence d’appartenance : Identifier quelles données d’entraînement ont été utilisées en observant les réponses du modèle.

3. Attaques de transfert : Ces attaques consistent à créer des entrées sur un modèle puis à les appliquer à un modèle différent, exploitant des vulnérabilités partagées. Ces types d’attaques peuvent inclure :

   • Reprogrammation adversariale : Adapter un modèle pour tromper un autre modèle sans modifier son design.
   • Attaques d’évasion : Utiliser des entrées créées pour l’un des modèles afin de tromper un autre modèle.

#Limitations des recherches actuelles

Il y a un manque surprenant de recherches sur la façon dont l’AML affecte spécifiquement les engins spatiaux. Certains cadres existent, comme la matrice SPARTA de l’Aerospace Corporation, qui touchent aux problèmes de l’AML à un niveau élevé mais ne traitent pas des spécificités. Ces cadres ne prennent pas en compte comment les systèmes embarqués pourraient être trompés pour faire des erreurs, surtout en ce qui concerne la vision et le traitement des données.

La plupart des recherches se concentrent sur d’autres systèmes informatiques ou véhicules automobiles, laissant une lacune dans notre compréhension de la façon dont les engins spatiaux sont particulièrement vulnérables à l’AML. En outre, bien que certaines études examinent les attaques adversariales de manière générale, elles ne prennent pas en compte la façon dont les systèmes spatiaux sont conçus, ce qui rend leurs conclusions moins applicables aux vraies missions spatiales.

#Une taxonomie des menaces de l’AML pour les engins spatiaux

Le potentiel d’attaques AML sur les engins spatiaux existe durant toute leur vie. Ces véhicules passent par de nombreuses étapes, de la conception et l’assemblage aux tests, au lancement et à l’exploitation. La façon dont l’IA est utilisée dans ces missions peut les rendre plus vulnérables à des types spécifiques d’attaques AML.

Il existe deux grands types de fonctionnalités d’IA que les engins spatiaux pourraient utiliser : l’IA prédictive et l’IA générative.

• IA prédictive : Ce type d’IA analyse des données existantes pour faire des prévisions. Il est couramment utilisé dans les engins spatiaux pour des tâches comme la navigation et l’interprétation d’images. Cependant, il est vulnérable aux attaques d’évasion qui peuvent amener le système à mal identifier des objets ou des données.

• IA générative : Cette IA crée de nouvelles données basées sur des données d’entrée et pourrait être utilisée pour des simulations dans la gestion du trafic spatial. Elle fait face à des vulnérabilités principalement dues aux attaques de contamination des données qui dégradent ses performances.

Les menaces pesant sur les engins spatiaux peuvent être catégorisées en fonction de plusieurs facteurs :

1. Objectifs de mission et contexte : Les buts des engins spatiaux influencent beaucoup la façon dont les menaces AML se manifestent. Par exemple, un engin spatial autonome atterrissant sur un navire-drone peut faire face à des menaces qui trompent ses systèmes de vision, tandis qu’un modèle d’IA gérant des données pourrait avoir des risques pour ses données d’entraînement.

2. Contraintes de ressources : Les engins spatiaux ont une puissance de traitement limitée, ce qui affecte la façon dont les attaquants approchent leurs opérations. Les attaques complexes nécessitant des ressources de calcul importantes peuvent surcharger ces systèmes ou les ralentir.

3. Architecture et méthode d’apprentissage : La façon dont les systèmes d’IA sont structurés et entraînés peut influencer les types d’attaques AML auxquelles ils font face. Par exemple, si les modèles sont préchargés, ils pourraient être plus susceptibles aux attaques white box qu s’ils sont entraînés sur le vaisseau spatial lui-même.

4. Architecture de stockage : Différents systèmes de stockage utilisés dans les engins spatiaux peuvent affecter leur vulnérabilité à l’AML. Les disques SSD peuvent être ciblés pour la manipulation des données à cause de leur taille et accessibilité, tandis que d’autres types de stockage pourraient avoir d’autres vulnérabilités.

5. Accessibilité de la commande et de la gestion des données (CDH) : La capacité d’un adversaire à accéder à la CDH de l’engin spatial pourrait permettre des modifications directes à un modèle d’IA, augmentant considérablement le profil de risque.

6. Exposition et interaction du modèle : Le niveau d’interaction qu’un attaquant peut avoir avec le modèle d’IA de l’engin spatial informe le type d’attaque qu’il pourrait envisager. Les initiés ayant une connaissance du fonctionnement des modèles peuvent utiliser leur accès pour compromettre les systèmes plus efficacement.

#Conception expérimentale et résultats

Pour mieux comprendre comment fonctionnent les attaques AML contre les engins spatiaux, des expériences ont été menées en utilisant l'environnement de simulation du Core Flight System (cFS) de la NASA. Les tests se sont concentrés sur deux types d’attaques : la contamination et l’évasion, pour évaluer leurs impacts pratiques sur les opérations des engins spatiaux.

#Attaque 1 : Contamination via navigation autonome

Dans la première expérience, un modèle lié à la navigation a été ciblé. L'objectif était de modifier les paramètres d'apprentissage du modèle en introduisant un malware qui altérait les paramètres. Cette attaque visait à déstabiliser le système de navigation de l’engin spatial, ce qui pourrait conduire à des erreurs significatives durant le vol.

Les résultats ont montré qu'en ajustant les paramètres du modèle d’apprentissage, la précision des prévisions de navigation chutait drastiquement. Des erreurs élevées dans les prévisions indiquaient que le système de navigation pouvait mal calculer des trajectoires, entraînant potentiellement des échecs de mission.

#Attaque 2 : Évasion du système de vision de l’ordinateur embarqué

La deuxième expérience s’est concentrée sur les systèmes de vision par ordinateur utilisés pour les opérations d’atterrissage. En introduisant du bruit dans les images traitées par le système, l’attaque visait à dégrader la capacité du modèle à identifier des zones d’atterrissage sûres.

Le résultat a montré une forte baisse de la précision du modèle après l’ajout de bruit. Cette manipulation pourrait entraîner des erreurs d’atterrissage désastreuses, sapant la sécurité de l’engin spatial durant des phases critiques.

#Implications et recommandations

Les expériences soulignent le besoin pour les ingénieurs d’engins spatiaux d’incorporer des mesures de sécurité AML dans le processus de conception. En abordant ces vulnérabilités de manière proactive, ils peuvent éviter les complexités liées à la mise en place de systèmes de sécurité par la suite.

Il est crucial de réaliser des évaluations de vulnérabilité adaptées aux menaces AML. Cela inclut l'identification des vulnérabilités techniques et opérationnelles, l'évaluation de la façon dont les faiblesses dans un domaine pourraient affecter d'autres domaines, et la priorisation des menaces en fonction de leur impact potentiel.

Les ingénieurs devraient adopter une stratégie de sécurité en couches, intégrant des principes de zéro confiance. Cela implique de s'assurer que tous les points d'accès et communications sont sécurisés. Établir des mesures de non-répudiation robustes dans les opérations au sol et assurer que l’engin spatial utilise des protocoles d'authentification stricts sont également recommandés.

Éviter d'utiliser des modèles open source provenant de sources non vérifiées peut réduire les risques. La confidentialité concernant les modèles opérationnels est essentielle pour prévenir les attaques white-box. Une surveillance régulière de la performance des systèmes pour détecter tout comportement inhabituel peut aider à identifier rapidement les attaques AML.

#Conclusion et directions futures

Alors que les engins spatiaux continuent d’adopter des technologies d’IA avancées, les menaces provenant de l’AML devraient croître. Il est essentiel pour l’industrie spatiale de continuer à évoluer et à développer de nouvelles défenses contre ces risques émergents. La taxonomie des menaces AML présentée ici sert de point de départ pour que les ingénieurs comprennent mieux les défis auxquels ils font face.

Les efforts futurs devraient se concentrer sur l'élargissement des expérimentations des simulations aux applications réelles. En utilisant les retours d’expérience des tests pratiques, les concepteurs peuvent développer et peaufiner des stratégies efficaces pour protéger les engins spatiaux contre les menaces AML.