Costruire un Framework per un'AI Sostenibile nella Finanza

Nel settore finanziario, il machine learning (ML) e l'intelligenza artificiale (AI) sono diventati strumenti fondamentali. Eppure, queste tecnologie devono seguire certi standard. Ci sono quattro aree principali che richiedono attenzione: Equità, Privacy, comprensione di come i modelli prendono decisioni e riduzione delle emissioni di gas serra. Questi elementi fanno parte di una conversazione più ampia su come rendere l'AI più sostenibile. Anche se molti ricercatori hanno esaminato queste aree, in pochi le hanno considerate insieme.

Ognuna di queste aree ha le sue sfide. Per esempio, migliorare l'accuratezza di un modello potrebbe ridurre l'equità o la privacy. Questo rende necessario pensare a tutte e quattro le aree contemporaneamente. Questo framework propone un nuovo modo di pensare al machine learning sostenibile attraverso un pipeline AI conosciuto come FPIG. L'obiettivo di FPIG è considerare tutti questi fattori importanti insieme per aiutare gli utenti a capire come bilanciarli meglio.

Utilizzando il framework FPIG, viene suggerito un nuovo metodo che aiuta a stimare le quattro aree importanti basandosi su un riassunto del dataset, il tipo di modello utilizzato e le sue impostazioni prima che inizi l'addestramento. Questo metodo consente agli utenti di scegliere il miglior tipo di modello per il loro dataset insieme alle loro esigenze specifiche riguardo all'equità, alla privacy e all'Interpretabilità. Per dimostrare come funziona, vengono forniti esempi utilizzando dataset ben noti. Questo mostra come questo nuovo approccio possa aiutare nella scelta del modello giusto.

L'AI sta diventando sempre più importante nel settore finanziario. Tuttavia, non si tratta solo di tecnologia; include anche considerazioni relative all'infrastruttura e all'ideologia. Questa complessità può rendere difficile definire chiaramente l'AI. Questa comprensione vaga dell'AI rende complicato gestirla e governarla in modo efficace. Sottolinea anche la necessità di discussioni flessibili riguardo all'etica e alla governance nell'AI.

Le attuali discussioni sull'etica dell'AI mostrano una vasta gamma di principi proposti. Tuttavia, manca un consenso su quali dovrebbero essere questi principi. I movimenti iniziali per i diritti ambientali e la giustizia climatica sono stati guidati da iniziative globali, come le Conferenze dell'ONU sui cambiamenti climatici e gli Obiettivi di sviluppo sostenibile. Oltre a ciò, l'ambiente, il sociale e la governance aziendale (ESG) stanno guadagnando importanza.

Mentre l'impatto dell'AI sull'ambiente inizia a essere affrontato, il concetto più ampio di sostenibilità nell'AI richiede ancora maggiore attenzione. Studi recenti tendono a concentrarsi in modo ristretto sull'AI sostenibile, trascurando la natura interconnessa delle varie sfide nella governance dell'AI. Una visione completa dell'AI sostenibile dovrebbe mescolare fattori economici, ambientali e sociali, richiedendo un approccio complesso.

Nel settore finanziario, ci sono responsabilità specifiche riguardanti l'AI che non devono essere trascurate. Le linee guida rigide sono stabilite da organizzazioni come l'Information Commissioner's Office (ICO) su questioni come la comprensione di come funzionano i modelli AI, la protezione dei dati e la privacy. Ci sono anche stati aggiornamenti recenti da parte di importanti organizzazioni focalizzate sulla regolamentazione dell'AI, che rafforzano la necessità di un'AI sostenibile. Per esempio, l'Unione Europea ha suggerito una legge, l'AI Act, che classifica le applicazioni AI in base al rischio e sottolinea l'importanza di una documentazione e convalida adeguate.

Questo documento sostiene l'incorporazione delle idee della scienza della sostenibilità nell'AI e analizza l'AI nel contesto di un sistema insostenibile. Il framework proposto si concentra su quattro principi fondamentali: equità, privacy, interpretabilità e riduzione delle emissioni. Questi quattro elementi sono strettamente legati alla sostenibilità, ma non sono stati affrontati insieme in un unico framework.

Innanzitutto, il framework mira a includere l'equità negli obiettivi del machine learning. Questo significa regolare il modo in cui misuriamo il successo per ridurre le discrepanze tra i diversi gruppi. Questo consente diversi livelli di equità, dall'ottimizzazione standard senza considerazioni di equità alle condizioni multi-obiettivo che mostrano i compromessi tra diverse metriche.

In secondo luogo, il framework incorpora metodi per garantire la privacy durante l'addestramento dei modelli. Questo avviene aggiungendo rumore durante il processo di addestramento, assicurando che vengano sviluppati modelli di qualità mantenendo la privacy.

Monitorare le emissioni di gas serra durante l'addestramento e l'inferenza dei modelli è un altro passo importante. Uno strumento software indipendente, CodeCarbon, può monitorare le emissioni e fornire approfondimenti sull'impronta di carbonio coinvolta.

In definitiva, viene proposto un nuovo metodo che aiuta gli utenti a trovare i migliori modelli e impostazioni in base ai loro dataset e agli obiettivi di sostenibilità che desiderano raggiungere. Le misure pratiche per la sostenibilità in questo framework includono privacy, equità, accuratezza, interpretabilità e emissioni di gas serra.

Per verificare l'efficacia del framework FPIG, vengono condotte valutazioni utilizzando diversi dataset e tipi di modelli di machine learning. I risultati evidenziano compromessi comuni tra i diversi obiettivi durante l'addestramento. Ad esempio, migliorare l'accuratezza può avere effetti negativi su equità e privacy.

Inoltre, i risultati mostrano i benefici di utilizzare un approccio di meta-learning, permettendo previsioni su come varie configurazioni di modelli si comporteranno rispetto ad accuratezza, equità ed emissioni senza passare attraverso il costoso processo di addestramento di tutti i modelli. Questo metodo dimostra la sua utilità attraverso un esempio specifico.

Il resto della discussione fornirà prima una panoramica del lavoro correlato, seguita da una spiegazione dettagliata del framework FPIG e poi presenterà i risultati sperimentali su vari dataset.

#Sostenibilità nel Machine Learning e nell'AI

L'idea di "AI sostenibile" è stata proposta da vari ricercatori che desiderano sottolineare come l'AI si relazioni alla sostenibilità. Tuttavia, il termine "sostenibile" è spesso frainteso come puramente legato all'essere ecologicamente corretto. Ad esempio, il manifesto "Sustainable AI" di Facebook AI si concentra principalmente sulla riduzione delle emissioni di carbonio dai sistemi AI promettendo di far progredire l'AI in modo responsabile. Questa visione ristretta rende più difficile convincere gli stakeholder a vedere una prospettiva più ampia sulla sostenibilità.

L'equità è una delle metriche chiave della sostenibilità, come indicato dagli Obiettivi di Sviluppo Sostenibile (SDGs). L'equità nei modelli di machine learning significa che le previsioni e le decisioni prese non favoriscono un gruppo rispetto a un altro. Questo comporta l'eliminazione dei bias dai dati e dagli algoritmi utilizzati per creare i modelli.

Possono essere adottati vari metodi per raggiungere l'equità, come regolare i dati prima dell'addestramento, utilizzare algoritmi progettati con l'equità in mente e applicare metriche di equità per valutare le prestazioni del modello. Ricerche recenti hanno introdotto modi diversi di misurare l'equità, comprese le metriche di equità di gruppo, che assicurano un trattamento equo tra i vari gruppi, e le metriche di equità individuale che si concentrano sull'equità a livello personale.

Con molti modelli tra cui scegliere, decidere quale utilizzare può essere complicato. Questo significa che la selezione dei modelli dovrebbe considerare anche come gestiscono l'equità.

La privacy nel machine learning si riferisce a mantenere i dati sensibili al sicuro da accessi o divulgazioni non autorizzate. È essenziale adottare forti misure di privacy. Alcuni metodi per mantenere la privacy includono l'anonimizzazione dei dati, la crittografia e l'utilizzo di computazione multi-party sicura. Lo standard d'oro per la privacy è spesso considerata la privacy differenziale, che garantisce che i dati individuali non possano essere facilmente identificati.

In termini di interpretabilità, i modelli ML devono offrire spiegazioni per le loro previsioni o decisioni. Esistono varie tecniche come l'analisi dell'importanza delle caratteristiche e metodi agnostici al modello per aiutare le persone a capire come i modelli raggiungano conclusioni. Questo è fondamentale per permettere agli utenti di fidarsi dei modelli con cui lavorano.

Per quanto riguarda le emissioni di gas serra, è necessario ridurre l'impatto dei modelli ML. Questo implica ottimizzare le risorse di calcolo utilizzate nella fase di addestramento. Le strategie possono includere l'utilizzo di hardware energeticamente efficiente, la compressione del modello per minimizzare la dimensione e sfruttare l'energia rinnovabile.

Mentre molti studi si concentrano sul miglioramento dell'efficienza del modello per abbassare le emissioni, l'area dell'AI spiegabile ha guadagnato anche attenzione tra i ricercatori. Tuttavia, questo framework intende essere il primo a riunire insieme tutti e quattro gli obiettivi di sostenibilità in un unico approccio.

#Il Framework FPIG

Questo framework integra i quattro fattori di sostenibilità nel processo di addestramento dei modelli. Si concentra sull'ottimizzazione in diverse aree come prestazioni, chiarezza, emissioni ed equità, tenendo conto anche della privacy.

#Approccio a Obiettivo Singolo

Tradizionalmente, la messa a punto degli iperparametri nel machine learning ha mirato a massimizzare una specifica metrica di interesse. Una volta scelta una metrica, l'obiettivo è trovare le migliori impostazioni che minimizzino la perdita, puntando a creare un modello di successo.

Per scenari a obiettivo singolo, viene spesso utilizzato un metodo chiamato Tree-structured Parzen Estimator (TPE). Questo metodo aiuta a identificare i migliori iperparametri attraverso un processo di iterazione e valutazione.

#Approccio Multi-Obiettivo

Al contrario, uno scenario multi-obiettivo è interessato a ottimizzare vari obiettivi conflittuali. Questo significa che trovare i migliori iperparametri comporta esaminare più metriche contemporaneamente. Il TPE può essere adattato a questo framework multi-obiettivo, mirando a trovare le combinazioni più promettenti che bilanciano le prestazioni in tutte le aree desiderate.

Il miglior modello può cambiare drasticamente a seconda del dataset utilizzato. I nostri test hanno coinvolto più dataset per valutare il potenziale del framework in vari scenari.

#Valutazione delle Emissioni di GHG

Per monitorare le emissioni associate alle pratiche ML, CodeCarbon è integrato nel framework. Aiuta a tenere traccia delle emissioni di carbonio durante le fasi di addestramento e inferenza dei modelli.

Gli esperimenti sono stati eseguiti su istanze cloud con risorse sostanziali, e ogni dataset è stato accuratamente valutato. I risultati forniscono approfondimenti sulle relazioni tra metriche chiave come accuratezza, equità ed emissioni, e mostrano come gli utenti possano selezionare modelli che bilanciano questi fattori.

#Incorporazione dell'Equità

L'equità è affrontata attraverso diverse metriche che misurano il bias algoritmico. Nel framework FPIG, viene impiegata la parità demografica, il che significa che le previsioni del modello non dovrebbero essere influenzate da attributi protetti come il genere. L'obiettivo è ridurre le disparità tra i gruppi il più possibile.

#Incorporazione della Privacy

Il framework enfatizza anche l'importanza della privacy. Viene utilizzata la privacy differenziale, che garantisce che i punti dati individuali rimangano indistinguibili. Raccolta dei dati in questo modo protegge le informazioni sensibili mantenendo l'utilità.

#Meta-Apprendimento

L'aspetto del meta-apprendimento del framework è progettato per aiutare gli utenti a trovare modelli adatti in base alle loro preferenze e requisiti. Esso utilizza le caratteristiche dei dati per prendere decisioni informate su quale modello addestrare, puntando a ridurre il tempo e le risorse spesso spesi nell'addestramento di modelli.

Valutando vari dataset e architetture di modelli, questo metodo apprende quali iperparametri e modelli si adattano meglio a ciascun compito specifico.

#Risultati e Osservazioni

Attraverso numerose valutazioni, è stato osservato che ci sono compromessi tra gli obiettivi. Gli utenti possono trovare modelli che raggiungono una prestazione equilibrata su tutte le metriche affrontando le loro esigenze specifiche.

Ad esempio, man mano che l'equità migliorava, spesso l'accuratezza ne risentiva. Tuttavia, è anche possibile trovare modelli che offrono miglioramenti in vari obiettivi, mostrando la flessibilità del framework.

Inoltre, lo studio ha rivelato che i modelli più semplici tendono a performare meglio in termini di equità ed emissioni. Questo indica che aumentare la complessità dei modelli può portare a una peggiore prestazione in queste aree.

#Conclusione

Questo framework per il machine learning sostenibile è costruito attorno all'idea che possiamo ottimizzare su più obiettivi: accuratezza, equità, privacy, interpretabilità e emissioni. Utilizzando questo framework su vari dataset, dimostriamo la possibilità di trovare modelli che possono bilanciare efficacemente questi obiettivi.

In generale, questo lavoro getta le basi per future ricerche sulle pratiche di AI sostenibili, incoraggiando più collaborazione e dialogo su queste questioni importanti.