Equità nell'apprendimento automatico: un approccio pratico

L'apprendimento automatico è ormai una parte importante di tanti settori, tipo prevedere se qualcuno commetterà di nuovo un crimine, analizzare i rischi di credito dei consumatori e stabilire i prezzi delle assicurazioni. Anche se queste tecniche portano molta eccitazione, scatenano anche dibattiti, soprattutto sulla giustizia. Molti sono preoccupati che i sistemi di machine learning possano risultare discriminatori verso certi gruppi. Questa preoccupazione è particolarmente importante quando i risultati possono influenzare fortemente la vita delle persone, come le decisioni su se qualcuno ottiene un prestito.

Per mantenere le cose eque, alcune caratteristiche delle persone, conosciute come attributi protetti, non dovrebbero influenzare queste previsioni. Questi attributi possono includere razza, genere, età, nazionalità e stato civile. Algoritmi giusti non dovrebbero permettere che tali caratteristiche influenzino le loro decisioni. Tuttavia, definire la giustizia non è semplice. Gruppi diversi hanno idee diverse su cosa significhi giustizia, causando disaccordi tra esperti.

Anche quando c'è un chiaro accordo su quali attributi dovrebbero essere protetti, le discussioni su come garantire la giustizia rimangono complicate. Questa sfida può essere difficile, specialmente quando i sistemi che creiamo sono utilizzati in contesti reali con fattori sociali complessi, rendendo difficile comprendere i risultati delle decisioni, come negare un prestito a qualcuno che ne ha davvero bisogno.

Per affrontare questi problemi di giustizia, alcuni ricercatori suggeriscono di usare un linguaggio formale per esprimere idee morali basate su una profonda comprensione del campo. Recenti progressi nella combinazione di apprendimento statistico e logica offrono modi per collegare il riconoscimento di schemi di base con Principi Etici di alto livello. Ad esempio, alcuni progetti mirano a costruire sistemi che seguono teorie morali o derivano regole morali generali dalle valutazioni degli esperti su dilemmi etici. C'è anche ricerca in corso per formalizzare concetti morali in relazione a credenze, desideri e intenzioni, e per applicare questi concetti al processo decisionale in situazioni reali.

#Obiettivi

In questa discussione, ci concentriamo sull'intersezione tra machine learning ed etica formalizzata per esplorare tre obiettivi principali:

1. Chiarire i requisiti di conoscenza: Vogliamo identificare quali conoscenze il sistema ha bisogno per prendere decisioni eque e come queste conoscenze influenzano le scelte fatte dagli algoritmi. Scomponendo i requisiti di conoscenza con un chiaro framework logico, possiamo determinare meglio le azioni intraprese dal sistema.

2. Condizionare le azioni sulla conoscenza di base: Comprendiamo che le azioni possono dipendere da vari elementi di conoscenza di base, come database e ontologie, così come da intenzioni e obblighi. Questa intuizione ci permette di connettere le azioni con le conoscenze disponibili.

3. Pianificazione come sequenza di eventi: Invece di vedere le azioni del sistema come decisioni una tantum, le consideriamo come sequenze di eventi che evolvono sulla base delle osservazioni. Queste sequenze possono comportare loop e ricorsioni, somigliando a programmi che portano a risultati specifici.

La nostra analisi mira non solo a concentrarsi su definizioni di giustizia individuali, ma anche a proporre un framework di ricerca più ampio che possa esplorare questi concetti insieme. Per radicare la nostra esplorazione in un contesto dinamico, esamineremo tre definizioni di giustizia: giustizia attraverso l'ignoranza, Parità Demografica e Giustizia controfattuale.

#Giustizia Attraverso l'Ignoranza

La giustizia attraverso l'ignoranza, o FTU, propone che un modello di apprendimento automatico giusto non dovrebbe usare attributi protetti quando fa previsioni. In uno scenario pratico, ad esempio, consideriamo un robot che deve decidere se approvare o meno un prestito per degli individui. Secondo FTU, la decisione non dovrebbe coinvolgere informazioni sugli attributi protetti di ciascuna persona, come il loro genere o origine etnica.

In questo documento, forniamo una definizione generale di FTU che aiuta a distinguere tra ciò che è vero in una situazione e cosa sa il decisore. Il robot dovrebbe agire in base ai dati fattuali senza mai conoscere le caratteristiche degli attributi protetti, garantendo imparzialità.

#Parità Demografica

La parità demografica (DP) è un altro standard di giustizia, richiedendo che le possibilità di un esito positivo, come l'approvazione di un prestito, siano le stesse tra diversi gruppi definiti da attributi protetti. Ad esempio, se guardiamo agli uomini e alle donne, il numero di uomini che ottengono prestiti dovrebbe essere all'incirca uguale al numero di donne che ottengono prestiti.

Chiariremo cosa significa per un sistema osservare questa parità in termini di pianificazione e azioni. Per mantenere DP, un modello dovrebbe garantire che i pagamenti, le approvazioni o le promozioni avvengano in modo equo, senza riguardo per genere, razza o attributi simili.

#Giustizia Controfattuale

La giustizia controfattuale (CF) significa che il risultato di una previsione dovrebbe rimanere lo stesso, anche se gli attributi protetti di una persona fossero diversi. In altre parole, se cambiassimo le caratteristiche di un individuo, la decisione del modello non dovrebbe cambiare. Questa definizione chiede al modello di considerare scenari alternativi mentre determina la giustizia.

Per valutare la CF in un contesto pratico, proponiamo un framework che ci permette di esaminare se alterare il contesto porterebbe comunque allo stesso risultato. Se il sistema di apprendimento automatico può assicurare che le sue decisioni siano indipendenti dalle caratteristiche che non dovrebbero contare, allora soddisfa questo criterio di giustizia.

#Esplorare le Definizioni di Giustizia

Nella nostra formalizzazione di FTU, DP e CF, è essenziale riconoscere che il nostro obiettivo non è stabilire una definizione come migliore di un'altra. Invece, cerchiamo di capire come ognuna possa operare all'interno di sistemi complessi e come possano essere implementate nella pratica. Inoltre, concentrandoci sulle azioni e sulle loro conseguenze, possiamo ottenere intuizioni su come equilibrare la giustizia in contesti diversi.

#Giustizia Attraverso l'Ignoranza in Profondità

FTU garantisce che quando viene presa una decisione, il sistema rimanga ignaro degli attributi protetti. Ciò significa garantire che il robot o l'agente automatizzato non apprenda alcuna informazione che potrebbe portare a bias. Nelle applicazioni del mondo reale, questo potrebbe essere raggiunto attraverso un’attenta progettazione del processo decisionale, in cui l'agente può analizzare i dati ma non accedere a dettagli specifici sugli attributi protetti degli individui.

Per esempio, diciamo che una banca vuole valutare le domande di prestito. Usare FTU significa che l'algoritmo della banca dovrebbe valutare i richiedenti solo in base alle loro capacità finanziarie, ignorando razza, genere o altri attributi protetti. Mantenendo questa ignoranza, la banca garantisce che le sue pratiche di prestito siano eque.

#Parità Demografica in Pratica

DP richiede la stessa opportunità per tutti i gruppi, indipendentemente dal loro stato protetto. Per raggiungere questo, le organizzazioni possono implementare audit sui loro algoritmi per garantire che le approvazioni dei prestiti, le promozioni o qualsiasi forma di opportunità siano distribuite equamente. Se emergono discrepanze, possono essere introdotte misure per correggere i disequilibri.

Ad esempio, se un certo gruppo demografico risulta ottenere prestiti a tassi inferiori rispetto ad altri nonostante qualifiche simili, le organizzazioni possono aggiustare i loro modelli o pratiche per portare equità. Monitorando attivamente e adattandosi per mantenere DP, le istituzioni dimostrano un impegno per la giustizia.

#Giustizia Controfattuale Esplorata

CF sfida il modello a pensare a scenari alternativi e determinare la giustizia in un senso più dinamico. Ad esempio, se una donna richiede un prestito, il prestatore dovrebbe poter valutare la sua domanda senza bias derivanti dal suo genere. Se la sua domanda fosse elaborata assumendo che fosse un uomo, la decisione dovrebbe rimanere invariata.

Per rendere ciò possibile, è fondamentale che le istituzioni di prestito costruiscano sistemi flessibili in grado di analizzare i dati delle domande attraverso uno spettro di scenari ipotetici. Implementare tali sistemi richiede una profonda comprensione sia degli aspetti tecnici del machine learning che un impegno verso considerazioni etiche.

#Combinare Concetti di Giustizia

Nella nostra ricerca di una comprensione completa della giustizia, possiamo mescolare concetti provenienti da FTU, DP e CF. Consentendo ai sistemi di apprendere e adattarsi tenendo la giustizia al centro, possiamo costruire algoritmi che riflettano davvero un impegno verso pratiche eque.

#Equità e Risultati Giusti

Andando oltre le definizioni di giustizia, dovremmo anche concentrarci sul raggiungimento di risultati equi. La giustizia non dovrebbe riguardare solo opportunità uguali, ma anche garantire che le persone abbiano accesso alla stessa qualità di risultati basati sulle loro azioni e capacità. L'equità significa che nel raggiungere la giustizia, dobbiamo considerare le specifiche circostanze di ciascuna persona.

Ad esempio, due individui potrebbero avere background finanziari diversi ma avere bisogno di supporto per accedere ai prestiti. Un sistema giusto dovrebbe riconoscere questi background e fare sforzi per aiutare chi ne ha bisogno, mantenendo al tempo stesso i principi di FTU, DP e CF.

#Conclusione

In questa analisi della giustizia attraverso le lenti del machine learning e dell'etica, abbiamo esplorato come le definizioni di giustizia possano essere formalizzate e applicate in contesti reali. Concentrandoci su FTU, DP, CF e equità, possiamo aprire la strada a sistemi che non solo sostengono la giustizia, ma garantiscono anche risultati giusti per gruppi diversi.

L'apprendimento automatico presenta un grande potenziale per influenzare vari settori, ma questo potenziale deve essere guidato con attenzione da principi che promuovono giustizia ed equità. Il cammino da seguire coinvolge ricerca continua, esplorazione e discussioni aperte attorno a considerazioni etiche, assicurando che la tecnologia serva tutti in modo equo e giusto. Attraverso questo percorso, ci sforziamo non solo per previsioni corrette, ma anche per una società giusta.