Zertifizierung von KI in der Luft- und Raumfahrt: Neue Ansätze nötig

Der Zertifizierungsprozess für Software, die in Flugzeugen eingesetzt wird, ist wichtig, passt aber nicht besonders gut zu künstlichen Intelligenz (KI)-Systemen. Besonders tiefe neuronale Netzwerke (DNNS) sind eine Art von KI, die sich von traditioneller Software unterscheidet. Während traditionelle Software klare Codezeilen hat, die überprüft werden können, basieren DNNs stark auf Parametern, die während ihres Trainings angepasst werden. Diese Parameter sind nicht so leicht zu verstehen oder zu erklären. Dennoch können DNNs Aufgaben mit einer Genauigkeit ausführen, die traditionelle Software manchmal nicht erreichen kann.

Dieser Artikel stellt eine Reihe von sinnvollen Schritten vor, die bei der Erstellung eines Zertifizierungsprozesses für DNNs helfen können. Diese Schritte können sowohl Entwicklern als auch Regulierungsbehörden helfen, zu erkennen, dass die KI-Software, an der sie arbeiten, zuverlässig ist und die erforderlichen Standards erfüllt. Das Ziel ist, sicherzustellen, dass die Software wie gewünscht funktioniert, ohne Fehler, und dass sie bestimmte Bedingungen erfüllt.

#DNNs in der Luftfahrt

KI, insbesondere durch DNNs, kann im Luftfahrtsektor sehr nützlich sein. Ein Beispiel ist die Verwendung von KI zur Erkennung und Vermeidung von Hindernissen in der Luft. DNNs können trainiert werden, um Flugzeuge in Bildern zu erkennen, was die Flugsicherheit erhöhen kann.

Aktuell muss alle Software, die auf zertifizierten Flugzeugen läuft, einen Zertifizierungsprozess durchlaufen. Dieser Prozess überprüft, ob die Software bestimmte Anforderungen erfüllt und ob sie ohne Abstürze oder Fehler läuft. Bei traditioneller Software umfasst dieser Prozess normalerweise die Verknüpfung von Anforderungen mit Codezeilen, um sicherzustellen, dass jeder Teil des Codes einen Zweck hat.

Mit DNNs ist die Situation jedoch anders. Die wichtigen Merkmale eines DNN werden in einem grossen Satz von Parametern gespeichert, die nicht direkt mit Codezeilen verknüpft sind. Daher ist ein neuer Ansatz für die Zertifizierung erforderlich, der diese Parameter und Anforderungen effektiv nachverfolgen kann.

#Die Herausforderung der DNNs

Wenn man sich traditionelle Sensoren wie Radar anschaut, sieht man, dass sie seit vielen Jahren verwendet werden. Radarsensoren senden Energie aus und analysieren die Rücksignals, die physikalische Eigenschaften haben, die gut verstanden werden. Techniken können angewendet werden, um diese Daten zu verarbeiten, was Radar zu einem zuverlässigen Werkzeug zur Entfernungsmessung und Objektidentifizierung macht.

Im Gegensatz dazu haben Kameras, die mit DNNs verwendet werden, viele Probleme aufgrund externer Faktoren wie Lichtverhältnisse und Wetter. Das kann die Qualität der aufgenommenen Bilder beeinflussen. Da DNNs aus diesen Bildern lernen, können sie manchmal traditionelle Radarsysteme übertreffen, obwohl das Verständnis und die Kontrolle über die Eingaben der Kamera weniger präzise sind.

Die Herausforderung bei DNNs ist, dass sie nicht auf die gleiche Weise wie Radar analysiert werden können. Anstatt das System Schritt für Schritt zu zerlegen, müssen DNNs als Ganzes betrachtet werden, die darauf trainiert sind, Aufgaben wie die Objekterkennung zu erledigen. Nach dem Training muss die Leistung des DNN überprüft werden, um sicherzustellen, dass es unter verschiedenen Bedingungen korrekt arbeitet.

#Modelltraining und -tests

DNNs durchlaufen zwei Hauptphasen: Training und Inferenz. Während des Trainings lernt das Modell aus einem Satz gekennzeichneter Daten (Bilder mit bekannten Objekten). Nach Abschluss des Trainings ist das Modell fixiert und kann für die Inferenz verwendet werden, bei der es neue Daten analysiert.

Damit ein DNN in realen Situationen gut funktioniert, muss es gründlich mit verschiedenen Szenarien getestet werden, einschliesslich extremer Bedingungen. Das ist entscheidend, da die Fähigkeit des Modells zu verallgemeinern - unter verschiedenen Situationen gut zu funktionieren - für die Zertifizierung unerlässlich ist. Daher fördert der Rahmen die systematische Sammlung und Analyse von Daten, die realen Bedingungen entsprechen.

#Bewertung neuronaler Netzwerke

Bei der Prüfung eines DNN ist es wichtig sicherzustellen, dass die Eingabedaten eine breite Palette von Situationen abdecken. Die Daten müssen vielfältig sein und Randfälle einschliessen, um Schwächen im Modell zu identifizieren. Zertifizierungsdaten sollten von Trainingsdaten getrennt gehalten werden, um eine Verzerrung der Leistungsergebnisse zu vermeiden.

Ein weiterer wichtiger Aspekt der Bewertung von DNNs ist das Erfassen von Metriken, die widerspiegeln, wie gut das Modell die Anforderungen erfüllt. Beispielsweise hilft das Messen von falsch positiven und falsch negativen Raten zu bestimmen, wie genau die Erkennungen des Modells sind.

#Der Zertifizierungsrahmen

Der Rahmen zur Zertifizierung von DNNs konzentriert sich darauf, Rückverfolgbarkeit und Verantwortung in jedem Schritt der Entwicklung zu gewährleisten. Dazu gehört die Verwaltung von Datensätzen, Code und Modelltraining, damit alles dokumentiert und überprüft werden kann.

#Schritte zur Zertifizierung

1. Anforderungsentwicklung: Definiere die Bedingungen, unter denen das System arbeitet. Dazu gehört das Verständnis von Faktoren wie Wetter, Tageszeit und Arten von zu erkennenden Objekten.

2. Datenmanagement: Sammle und verifiziere Datensätze, die für das Training des Modells verwendet werden. Stelle sicher, dass die Trainings- und Zertifizierungsdatensätze getrennt sind, um Überlappungen zu vermeiden.

3. Modelltraining: Trainiere das DNN mit den gesammelten Daten. Verfolge alle relevanten Informationen, einschliesslich der Version des Codes und der verwendeten Datensätze.

4. Implementierung des Inferenzmodells: Konvertiere das trainierte Modell in ein Format, das auf der Zielhardware ausgeführt werden kann.

5. Sicherheitsvorkehrungen und Monitoring: Etabliere Massnahmen, um zu erkennen, wenn das DNN nicht wie erwartet funktioniert, sowohl während der Entwicklung als auch nach der Bereitstellung.

#Datenverifizierung

Um sicherzustellen, dass die Leistung des Modells vertrauenswürdig ist, muss der Zertifizierungsdatensatz die realen Bedingungen angemessen repräsentieren. Das bedeutet, eine Reihe von Szenarien zu erfassen, mit denen das Modell konfrontiert sein könnte, einschliesslich Variationen wie Entfernung zu einem Objekt, Lichtverhältnisse und so weiter.

#Modellmanagement

Bei der Entwicklung von DNNs umfasst der Trainingsprozess oft das Testen verschiedener Konfigurationen und Parameter. Es ist wichtig, alle Modellversionen, Trainingsdatensätze und Ergebnisse zu dokumentieren, um Reproduzierbarkeit und Transparenz zu gewährleisten.

#Sicherheitsvorkehrungen und Monitoring

Nach der Bereitstellung eines DNN-basierten Systems ist es wichtig, die Leistung kontinuierlich zu überwachen. Durch das Setzen von Grenzen für den Einfluss des Modells auf Steuerungssysteme können Entwickler das Risiko gefährlichen Verhaltens reduzieren. Überwachungssysteme können auch helfen, Anomalien in den Eingabedaten zu erkennen, die erheblich von dem abweichen, auf dem das Modell trainiert wurde.

#Fazit

Die Integration von KI, insbesondere DNNs, in Luftfahrtanwendungen bietet einzigartige Herausforderungen, die traditionelle Zertifizierungsprozesse nicht gut adressieren. Dieser Artikel hat einen Rahmen skizziert, der die Bedeutung von Datenmanagement, Modelltraining und robuster Bewertung betont, um sicherzustellen, dass DNNs effektiv für sicherheitskritische Anwendungen zertifiziert werden können.

Durch die Implementierung dieser Praktiken können Entwickler und Regulierungsbehörden zusammenarbeiten, um die Zuverlässigkeit und Sicherheit von auf neuronalen Netzwerken basierenden Systemen in der Luftfahrt zu erhöhen. Weiterentwicklungen in diesem Bereich werden wahrscheinlich auch zu weiteren Verfeinerungen der Zertifizierungsprozesse führen, was zu noch höheren Sicherheitsstandards für den Flugzeugbetrieb in der Zukunft führen wird.