Modellazione del flusso di carbonio con l'AI

Il Flusso di Carbonio è il movimento del carbonio dentro e fuori dagli ecosistemi. È fondamentale per comprendere la salute del nostro ambiente naturale e la sua capacità di assorbire le emissioni di anidride carbonica prodotte dall'uomo. Questo ha sollevato interesse per un nuovo campo che utilizza dati e computer per prevedere i flussi di carbonio, conosciuto come modellazione del flusso di carbonio basata sui dati (DDCFM).

Nonostante la sua importanza, i ricercatori in questo settore affrontano delle sfide. Non esiste un dataset standard per confrontare i diversi modelli, il che rende difficile sapere quali funzionano meglio. Per aiutare a risolvere questo problema, abbiamo creato un nuovo dataset chiamato CarbonSense, progettato per essere pronto per l’apprendimento automatico. CarbonSense include dati sui flussi di carbonio, condizioni meteorologiche e immagini satellitari provenienti da 385 località in tutto il mondo. Questo dataset mira a migliorare la formazione di modelli predittivi e promuovere il confronto tra diversi approcci. Introduciamo anche un modello base che utilizza le ultime metodologie in DDCFM, dimostrando che l'uso di nuove tecniche di deep learning può portare a risultati migliori.

La salute dei nostri ecosistemi è fondamentale per controllare il clima della Terra. Dalla metà del 1900, gli ecosistemi terrestri hanno assorbito una parte significativa delle emissioni di carbonio causate dall'uomo. Tuttavia, mentre il cambiamento climatico avanza, ci troviamo di fronte a incertezze riguardo alla stabilità e alla funzionalità futura di questi ecosistemi. Studiando come il movimento del carbonio cambia a causa dell'impatto climatico e di altre attività umane, otteniamo spunti sulla futura salute degli ecosistemi e sulla loro capacità di immagazzinare carbonio.

#L'importanza dei flussi di carbonio

I flussi di carbonio aiutano a descrivere come il carbonio si muove attraverso gli ecosistemi a causa di processi come la fotosintesi e la respirazione. Comprendere questi movimenti è fondamentale per valutare la salute dell'ecosistema, ma misurarli può essere difficile. Spesso richiede un uso a lungo termine di sensori sul campo, coprendo aree da 100 a 1000 metri. Questo crea un collo di bottiglia che ha portato all'ascesa della modellazione dei flussi di carbonio basata sui dati. In questo approccio, gli scienziati utilizzano dati disponibili, come modelli meteorologici e informazioni geografiche, per costruire modelli che prevedano i movimenti del carbonio. Utilizzando dati provenienti da diversi ecosistemi, questi modelli possono fare previsioni a livello locale o addirittura globale.

Mentre il DDCFM ha un grande potenziale per l'uso di tecniche avanzate, non è stato ampiamente esplorato nella comunità del deep learning. Attualmente, la maggior parte dei modelli si basa su metodi tradizionali come le foreste casuali e il boosting dei gradienti, che forniscono risultati decenti ma non sfruttano al meglio i dati diversificati disponibili. I recenti progressi nel deep learning potrebbero offrire un quadro migliore per incorporare vari tipi di dati, il che potrebbe migliorare notevolmente la qualità delle informazioni disponibili per prendere decisioni legate al clima.

#Affrontare le lacune nei dati

Per promuovere la crescita della ricerca DDCFM, ci sforziamo di abbassare le barriere per entrare in questo campo. Attualmente, la preparazione dei dati viene effettuata in modo incoerente da diversi gruppi di ricerca, portando a variazioni e a una mancanza di standardizzazione. L'assenza di dataset standard e benchmark rende difficile riprodurre risultati e confrontare le scoperte. Il nostro lavoro mira a colmare queste lacune attraverso diversi contributi.

Prima di tutto, presentiamo una panoramica del DDCFM per i ricercatori interessati al deep learning. Secondo, introduciamo un dataset pronto per l'apprendimento automatico che include vari tipi di dati rilevanti per il DDCFM. Terzo, offriamo un modello di base basato sulle migliori pratiche attuali. Infine, condivideremo osservazioni dai nostri esperimenti e forniremo linee guida per riportare i risultati in questo dominio.

#Comprendere il DDCFM

Alla base, il DDCFM è un modo per prevedere valori numerici, in particolare il flusso di carbonio. Il flusso di carbonio dipende da molti fattori, tra cui il tipo di ecosistema, le condizioni meteorologiche, le caratteristiche del paesaggio locale e disturbi come incendi o attività degli animali. Sebbene ottenere dati meteorologici sia relativamente semplice, misurare altri fattori può essere molto più complicato, soprattutto su scala globale. I ricercatori spesso si affidano a dati di telerilevamento e altre misure indirette per colmare queste lacune.

#Misurare i flussi di carbonio

Un metodo comune per misurare i flussi di carbonio a livello ecosistemico si chiama covarianza turbolenta. Questa tecnica prevede di posizionare una torre con sensori in alto sopra le piante per misurare la concentrazione di gas nell'atmosfera. Questi sensori monitorano il flusso di gas come l'anidride carbonica e il vapore acqueo in piccoli vortici chiamati turbolenze. La nostra ricerca si concentra principalmente sull'anidride carbonica perché esiste una raccolta più ampia di dati standardizzati disponibili per essa.

Le misurazioni del flusso di carbonio sono tipicamente espresse come massa per area nel tempo. La produttività primaria lordo (GPP) denota la quantità totale di carbonio assorbito dalle piante tramite la fotosintesi. La respirazione dell'ecosistema (RECO) si riferisce al carbonio totale emesso di nuovo nell'atmosfera dalla respirazione sia delle piante che dei microbi. Lo scambio netto dell'ecosistema (NEE) rappresenta il bilancio tra GPP e RECO, indicando se un ecosistema è un serbatoio di carbonio o una sorgente. Un serbatoio di carbonio assorbe più carbonio di quanto ne rilasci, il che si traduce in un NEE negativo. L'NEE è la principale misura raccolta dalle stazioni di covarianza turbolenta ed è il principale obiettivo del nostro studio.

#Fattori che influenzano i flussi di carbonio

I dati meteorologici utilizzati nel DDCFM sono raccolti da stazioni di covarianza turbolenta. Oltre al flusso di carbonio, queste stazioni misurano le condizioni ambientali e atmosferiche locali, inclusi fattori come radiazione, temperatura dell'aria, umidità, precipitazioni e umidità del suolo. Le variabili specifiche dipendono dalla località, ma le reti regionali mantengono un set minimo che i ricercatori devono utilizzare se desiderano condividere i loro dati.

Per ottenere previsioni globali, i prodotti di rianalisi meteorologica disponibili pubblicamente, come ERA5, possono fornire una grande quantità di informazioni. Le immagini satellitari delle aree circostanti le stazioni di covarianza turbolenta possono anche aiutare i ricercatori a comprendere la copertura del suolo e i tipi di ecosistemi presenti. I prodotti comuni includono quelli del Moderate Resolution Imaging Spectroradiometer (MODIS), che catturano nuove immagini ogni 1-2 giorni. Questi prodotti aiutano a tener conto della copertura nuvolosa e producono immagini standard che rappresentano l'area dall'alto.

Alcuni modelli utilizzano una categoria di dati chiamata dati semantici, che possono includere classificazioni della copertura del suolo, come diversi tipi di foreste o terreni agricoli. Queste classificazioni vengono generalmente effettuate da esperti ma possono anche essere approssimate utilizzando i prodotti MODIS su scala globale.

#Introduzione al dataset CarbonSense

Presentiamo CarbonSense, il primo dataset pronto per l'apprendimento automatico rivolto al DDCFM. Il dataset consiste di dati provenienti da stazioni di covarianza turbolenta e dati geospaziali corrispondenti da MODIS per 385 località in tutto il mondo, per un totale di oltre 27 milioni di misurazioni orarie. Questa sezione fornisce una panoramica di come è strutturato il dataset, come è stato elaborato e come può essere utilizzato. Ulteriori dettagli sono forniti nei materiali supplementari.

#Processo di raccolta dei dati

Tutti i dati meteorologici sono stati raccolti da reti principali di stazioni di covarianza turbolenta, come FLUXNET 2015 e Ameriflux 2023. I dataset sono stati selezionati in base al loro uso del pipeline di elaborazione ONEFlux, che garantisce coerenza nel coding e nelle unità. La distribuzione geografica dei siti è un po' disomogenea, con più dati disponibili dal Nord America e dall'Europa.

I dati geospaziali per CarbonSense provengono dai prodotti MODIS. Utilizziamo specificamente diversi bande spettrali da MODIS ed estraiamo immagini in un'area di 4 km per 4 km centrata su ciascuna stazione di covarianza turbolenta. Ogni immagine cattura informazioni su più canali.

#Pipeline di elaborazione dei dati

Il primo passo nella nostra pipeline di elaborazione prevede di unire i dati provenienti da diverse fonti per ciascuna stazione di covarianza turbolenta. Alcune stazioni hanno dataset sovrapposti, che gestiamo selezionando i valori più recenti. Rimuoviamo anche qualsiasi dato misurato a intervalli di mezz'ora per creare un dataset orario standard.

Successivamente, integriamo i dati MODIS pertinenti per ciascun sito in base alla sua posizione geografica. Puliamo anche i dati meteorologici per escludere variabili indesiderate che potrebbero non essere disponibili o non fornire informazioni affidabili. Infine, normalizziamo i dati per garantire coerenza tra vari input.

Il nostro dataset è disponibile come prodotto finito, ma forniamo anche i dati grezzi insieme al codice utilizzato per elaborarli. I ricercatori possono modificare questa pipeline per includere variabili aggiuntive o adattarsi a diverse qualità dei dati.

#Utilizzo del dataset CarbonSense

Date le sfide della diversità dei dati e della distribuzione geografica nel DDCFM, CarbonSense mantiene una struttura in cui ciascuna località ha la propria directory. Questo consente ai ricercatori di scegliere i siti per la formazione e il test in base ai loro obiettivi di ricerca specifici.

Forniamo anche un dataloader PyTorch progettato per funzionare con il dataset CarbonSense. Gli utenti devono specificare quale flusso di carbonio prevedere e possono selezionare quali siti includere per la formazione.

Il dataset CarbonSense è condiviso con una licenza permissiva, che consente ai ricercatori di utilizzare, trasformare e condividere i dati fornendo il giusto riconoscimento. Questo accesso aperto è fondamentale per stimolare l'interesse scientifico nel DDCFM.

#Esplorare il modello EcoPerceiver

Introduciamo EcoPerceiver, un'architettura multimodale progettata specificamente per il DDCFM. Tradizionalmente, il DDCFM si è concentrato su metodi tabulari, ma riteniamo sia essenziale includere concetti di deep learning per affrontare le sfide uniche di questo campo.

EcoPerceiver impiega un design specifico che gli consente di gestire efficacemente una varietà di input e dati mancanti. L'obiettivo è migliorare l'accuratezza delle previsioni emulando meglio i processi biologici che influenzano il flusso di carbonio.

#Approccio all'input dei dati

Il modello è sensibile a lievi cambiamenti delle variabili. Per ottenere questa sensibilità, utilizziamo un metodo di codifica di Fourier, che mappa i valori di input continui in uno spazio di dimensioni superiori.

I dati geospaziali seguono un processo simile ma sono configurati diversamente per le esigenze del modello. Ogni immagine viene trasformata per creare una matrice di input che il modello elabora contemporaneamente.

Per gestire i casi in cui i dati potrebbero essere mancanti, EcoPerceiver utilizza una maschera di modalità che indica quali input ignorare durante l'elaborazione. Questo non solo aiuta a mantenere i livelli di prestazione, ma riduce anche la dipendenza da un piccolo set di variabili.

#Meccanismo di attenzione incrociata a finestra

Ispirato ad architetture precedenti, EcoPerceiver implementa un meccanismo chiamato attenzione incrociata a finestra. Questa tecnica consente di elaborare insieme diversi tipi di dati, risultando in una rappresentazione compatta dei dati che cattura informazioni rilevanti.

Successivamente, un processo di autoattenzione assicura che il modello basi le proprie previsioni su osservazioni passate e presenti. Questo design si allinea con i processi biologici coinvolti, dove la dinamica del carbonio dipende dalle condizioni su periodi di tempo variabili.

#Svolgimento degli esperimenti

Abbiamo condotto diversi esperimenti utilizzando EcoPerceiver e confrontato le sue prestazioni con quelle del modello XGBoost tradizionale. Il nostro obiettivo era evidenziare i vantaggi dell'uso di tecniche di deep learning nel DDCFM, stabilendo anche un baseline per la ricerca futura.

#Campionamento e suddivisione dei dati

Per i nostri esperimenti, abbiamo diviso le stazioni di covarianza turbolenta in set di addestramento e di test in base ai tipi di ecosistemi rappresentati. Questo ci ha permesso di mantenere una rappresentazione equilibrata di diversi tipi di ecosistemi nei nostri test.

#Addestramento del modello

Utilizzando più GPU, abbiamo addestrato sia EcoPerceiver che i modelli XGBoost mantenendo coerenza nella suddivisione dei dati. Abbiamo ottimizzato il modello di deep learning utilizzando l'ottimizzatore AdamW e seguito un programma strategico di apprendimento per migliorare la convergenza.

XGBoost è stato eseguito su nodi CPU standard utilizzando una configurazione simile, consentendo un confronto diretto tra i due approcci.

#Valutazione delle prestazioni

Abbiamo utilizzato due metriche principali per valutare le prestazioni del modello: l'efficienza di modellazione di Nash-Sutcliffe (NSE) e l'errore quadratico medio (MSE). Queste metriche forniscono informazioni sull'accuratezza e sull'affidabilità delle previsioni fatte da ciascun modello.

I risultati delle prestazioni indicano che EcoPerceiver ha costantemente superato XGBoost attraverso diversi tipi di ecosistemi. Sebbene XGBoost mostrasse alcuni vantaggi in categorie specifiche, EcoPerceiver si è distinto nei test zero-shot e one-shot.

#Analisi dei risultati e discussioni

Un aspetto critico nella valutazione delle prestazioni del modello è esaminare i risultati attraverso i diversi tipi di ecosistemi. EcoPerceiver ha superato XGBoost in varie categorie, con differenze notevoli in test specifici.

Tuttavia, i risultati hanno anche evidenziato aree in cui XGBoost ha ancora mantenuto alcuni vantaggi. Ad esempio, in ecosistemi come le paludi permanenti, il divario di prestazioni era più ridotto. Tali risultati dimostrano l'importanza di considerare le caratteristiche specifiche di ciascun ecosistema quando si valuta l'efficacia del modello.

#Intuizioni qualitative

Oltre alle metriche di errore, incoraggiamo i ricercatori ad analizzare qualitativamente le previsioni fatte dai modelli. Confrontare i valori previsti con i dati osservati può fornire un contesto prezioso.

Ad esempio, abbiamo osservato che una foresta a foglia sempreverde con flussi di carbonio stabili è stata modellata con maggiore precisione rispetto a una foresta di pino influenzata da disturbi. Questo sottolinea l'importanza di comprendere il contesto ecologico dietro i punti dati.

#Direzioni future

Il lavoro presentato in questo studio serve da base per futuri sviluppi nel DDCFM. Ci sono molte opportunità per espandere sia il dataset che i modelli utilizzati. Man mano che più dati diventano disponibili, miglioreranno ulteriormente le capacità predittive dei modelli.

I ricercatori dovrebbero anche considerare di migliorare il dataset con dati geospaziali di qualità superiore o includere ulteriori fattori rilevanti per il flusso di carbonio. Affrontare le limitazioni relative alla diversità dei dati e alla rappresentazione geografica sarà essenziale per far avanzare il campo.

#Conclusione

In sintesi, il nostro lavoro fornisce risorse e intuizioni preziose per la comunità del deep learning interessata al DDCFM. Introducendo il dataset CarbonSense e il modello EcoPerceiver, puntiamo a facilitare la ricerca e aiutare ad affrontare le sfide ambientali urgenti. Man mano che continuiamo a esplorare modi per applicare tecniche avanzate di machine learning alla modellazione del flusso di carbonio, invitiamo più ricercatori a contribuire a questo campo di studio critico.