Cosa significa "Moltiplicità dei modelli"?

Indice

La molteplicità dei modelli significa che per molti compiti di previsione ci sono diversi modelli che possono ottenere risultati simili. Questo vuol dire che se un modello predittivo mostra un effetto di parte su certi gruppi demografici, probabilmente ce n'è un altro là fuori che funziona altrettanto bene ma non è discriminatorio.

Quando modelli diversi possono dare risultati diversi per la stessa persona, sorge una domanda importante: se un modello ha un effetto di parte, perché restare su quello quando potrebbe esserci un'opzione migliore? Le organizzazioni e gli sviluppatori dovrebbero cercare attivamente questi modelli migliori, chiamati alternative meno discriminatorie (LDA).

L'idea è che se esiste un modello altrettanto preciso ma più giusto, usare un modello di parte diventa difficile da giustificare. Questo concetto suggerisce che ci dovrebbe essere una responsabilità per gli sviluppatori di cercare queste opzioni più eque quando creano e usano sistemi predittivi, soprattutto in settori che riguardano i diritti civili.

In parole semplici, la molteplicità dei modelli evidenzia la necessità di non accettare solo il primo modello che funziona, ma di cercare scelte migliori e più eque che possano aiutare a evitare trattamenti ingiusti di diversi gruppi.