Fortschritte im Selbstüberwachten Lernen für GeoAI

Das Trainieren von Computermodellen braucht oft ne Menge gelabelter Daten, die schwer zu finden sind. Wenn die Aufgabe komplex wird, kann es bei zu wenigen Beispielen zu Fehlern im Lernen kommen. Selbstüberwachtes Lernen hat in letzter Zeit an Beliebtheit gewonnen, weil es Modellen erlaubt, aus grossen Mengen ungelabelter Daten zu lernen. Dieser Ansatz lässt Modelle Verbindungen herstellen und Wissen auf spezifische Aufgaben anwenden.

Im Bereich GeoAI gibt's einen riesigen Schatz an Daten, die über viele Jahre gesammelt wurden, aber viel davon ist nicht richtig labelt. Unser Ziel ist es, diese Daten zu nutzen, um das Modell zu helfen, Gebäude und Strassen in Digitalen Höhenmodellen (DEMs) zu erkennen, die detaillierte Formen der Erdoberfläche zeigen. Wir haben ein Modell mit einer Technik namens Masked Autoencoder auf einer speziellen Architektur zum Entschlüsseln von Bildern aufgebaut.

Wir haben unser Modell mit begrenzten Trainingsbildern getestet und waren überrascht, wie gut es abgeschnitten hat, selbst mit sehr wenigen Beispielen. Das gibt Hoffnung, ähnliche Methoden auch in anderen Aufgaben einzusetzen, wo Daten knapp sind.

#Herausforderungen mit traditionellen Methoden

Deep Learning hat sich für viele Aufgaben als effektiv erwiesen. Es braucht aber meist einen grossen Satz gelabelter Daten, um Fehler zu vermeiden und die Leistung zu verbessern. Transfer Learning hilft dabei, indem es einem Modell, das für eine Aufgabe trainiert wurde, erlaubt, sich für eine andere mit einem kleineren Datensatz anzupassen.

Typischerweise werden Modelle mit gelabelten Daten gebaut, die nicht immer für jede Aufgabe verfügbar sind. Selbstüberwachtes Lernen lässt Modelle Merkmale direkt aus dem Datensatz lernen, ohne dass es explizite Labels braucht. Diese Methode fördert, dass Modelle globale Beziehungen und Verbindungen innerhalb der Daten verstehen.

#Modellarchitektur und Ansatz

Wir haben eine spezielle Art von selbstüberwachtem Modell namens Masked Autoencoder verwendet. Dieses Modell nutzt eine Struktur, die sowohl einen Encoder als auch einen Decoder beinhaltet. Während des Trainings wird ein grosser Teil des Bildes versteckt, was das Modell zwingt, die versteckten Bereiche vorherzusagen und allgemeine Beziehungen zu lernen.

Der Encoder in diesem Modell verarbeitet das Bild in kleinen Stücken oder Patches. Er verwandelt diese Patches in Tokens und gibt während des Trainings nur einen Bruchteil davon preis. Der Decoder versucht dann, das ursprüngliche Bild aus diesen Tokens wieder zusammenzusetzen.

Für unsere Aufgaben brauchten wir, nachdem das Modell trainiert war, eine zusätzliche Komponente, um die finalen Segmentierungsmasken aus den Bildern zu erzeugen, was durch die UperNet-Struktur erreicht wird. Diese Architektur kombiniert Informationen aus verschiedenen Teilen des Modells, um detaillierte Masken zu erstellen, die helfen, verschiedene Merkmale in den Bildern zu erkennen.

#Verwandte Arbeiten

Andere haben auch nach Möglichkeiten gesucht, mit begrenzten Trainingsdaten zu arbeiten. Einige Methoden nutzen schwache Überwachung, um das Beste aus dem wenigen gelabelten Material herauszuholen. Zum Beispiel haben Forscher erfolgreich Strassen- und Gebäude-Merkmale aus DEMs mit sehr wenigen Labels extrahiert.

Die Idee, selbstüberwachte Techniken zur Segmentierung von DEMs zu verwenden, wurde jedoch noch nicht weit verbreitet angewandt. Da DEMs im Vergleich zu normalen Bildern einzigartige Eigenschaften haben, gibt es Bedarf zu verstehen, wie diese Modelle mit dieser Art von Daten arbeiten.

#Ergebnisse aus Experimenten

Wir haben Experimente durchgeführt, um zu überprüfen, wie gut unser Modell im Vergleich zu traditionellen Methoden wie UNet abschneidet. Wir haben unsere Modelle mit unterschiedlichen Datenmengen trainiert, wie 450, 200, 50 und sogar 10 Bildern. Wir haben die Genauigkeit unserer Vorhersagen mit einer Kennzahl namens Intersection over Union (IoU) gemessen.

Bei der Segmentierung von Gebäuden zeigte unser Modell eine deutliche Zuverlässigkeit, selbst mit nur 10 Trainingsbildern, und übertraf UNet um einen bemerkenswerten Abstand. Bei der Segmentierung von Strassen verbesserte sich die Leistung, je mehr Trainingsbilder verwendet wurden, aber es hatte Schwierigkeiten mit nur 10 Bildern.

Die Beschaffenheit der Landschaft beeinflusst, wie gut Strassen erkannt werden können. In Bereichen mit klar definierten Strassen schnitt das Modell viel besser ab als in komplizierteren Regionen, wie Wohngegenden, wo Strassen möglicherweise versteckt sind.

Obwohl wir mit einem sorgfältig kuratierten Datensatz gearbeitet haben, gab es immer noch einige Lücken und Fehlanpassungen, besonders an den Rändern der gelabelten Daten. Selbst mit diesen Inkonsistenzen konnte unser Modell fehlende Segmente genau vorhersagen.

#Tests mit verrauschten Daten

Das Trainieren mit grösseren Mengen an Daten, die vielleicht nicht perfekt gelabelt sind, kann manchmal interessante Ergebnisse liefern. Wir wollten sehen, wie gut unser Modell mit Rauschen umgehen kann, also haben wir es mit etwa 10.000 Bildern von Strassen trainiert, wobei nur ein Bruchteil visuell auf Qualität geprüft wurde.

Als wir die Leistung dieser verrauschten Bilder mit den früheren Experimenten mit hochwertigen Daten verglichen, schnitt unser Modell zwar immer noch ganz gut ab, zeigte aber einen Rückgang in der Genauigkeit. Das zeigt, dass es vorteilhafter sein kann, kleinere Mengen an qualitativ hochwertigen Daten zu verwenden, als sich auf einen grösseren Satz unbestätigter Daten zu verlassen.

#Zukünftige Richtungen

Unsere Forschung deutet darauf hin, dass selbstüberwachtes Lernen ein vielversprechender Weg ist, um Aufgaben mit begrenzten Daten zu bewältigen. Die Ergebnisse, die wir mit einem vortrainierten Modell auf ImageNet erzielt haben, waren ermutigend, trotz der Unterschiede zwischen dieser Datenquelle und DEMs.

Für die Zukunft planen wir, eine spezielle Version eines Masked Autoencoders zu erstellen, die auf DEM-Datensätze zugeschnitten ist. Durch das Training des Modells mit einer breiteren Palette von DEM-Daten erwarten wir, dass sich seine Leistung erheblich verbessert.

Dieses Modell könnte dann in verschiedene andere Aufgaben wie Segmentierung, Klassifikation und Objekterkennung in geospatialen Kontexten erweitert werden. Das Ziel wäre es, effiziente Modelle für das Lernen zu schaffen, die keine übermässigen Datenmengen benötigen und damit die Arbeit an geospatialen Aufgaben erleichtern.

#Fazit

Zusammenfassend zeigt unsere Arbeit, dass es tatsächlich möglich ist, selbstüberwachtes Lernen zu nutzen, um gute Ergebnisse zu erzielen, selbst bei begrenzten Daten. Die Techniken, die wir untersucht haben, zeigen Potenzial für zukünftige Forschung und Anwendungen im Bereich GeoAI, mit der Möglichkeit, die Methoden weiter zu verfeinern und die Leistung für verschiedene Aufgaben zu verbessern. Indem wir uns darauf konzentrieren, die Dateneffizienz zu verbessern, können wir neue Wege eröffnen, um Computermodelle in der geospacialen Analyse effektiver zu nutzen.