Promuovere la Pluralità nelle Conversazioni AI

Ci sono preoccupazioni che i modelli linguistici possano promuovere certe idee. Invece di cercare una prospettiva neutra, che ne dici di usare punti di vista diversi? Questo documento presenta Plurals, un sistema e una libreria Python pensata per la Deliberazione AI pluralistica. Plurals comprende Agenti (modelli linguistici con personalità opzionali) che deliberano all'interno di Strutture personalizzabili, sotto la supervisione di Moderatori. Il sistema crea ensemble sociali simulati e si connette a dataset governativi per formare personalità rappresentative a livello nazionale. Usa modelli di deliberazione ispirati alla teoria democratica e permette agli utenti di personalizzare come vengono condivise le informazioni e come avviene la deliberazione. Sei casi studio mostrano come il sistema aderisca a modelli teorici e abbia successo in applicazioni pratiche.

#Panoramica del Sistema

Plurals consente agli utenti di creare ensemble sociali simulati utilizzando Agenti, Strutture e Moderatori. Gli Agenti svolgono compiti all'interno di Strutture che determinano il flusso delle informazioni. I Moderatori possono riassumere discussioni tra più Agenti. Ogni componente è personalizzabile, permettendo agli utenti di utilizzare vari Agenti e adattare le loro istruzioni. Plurals offre template predefiniti basati sulla letteratura della deliberazione democratica.

#Fondamenti

Plurals si basa sulla letteratura della deliberazione e sui sistemi sociotecnici per ampliare i punti di vista tecnologici. Si allinea con i sistemi multi-agente, enfatizzando la collaborazione tra entità AI. Plurals integra principi di deliberazione democratica per creare gruppi sociali simulati che incoraggiano un discorso significativo.

#Metodologia

#Agenti

Gli Agenti sono grandi modelli linguistici incaricati di ruoli specifici. Le loro caratteristiche includono:

• Profilo: Istruzioni che definiscono il ruolo di un Agente. Possono essere creati manualmente o usando metodi basati su personalità.
• Compito: Un prompt dell'utente che guida le risposte dell'Agente.
• Istruzioni di Combinazione: Linee guida su come gli Agenti dovrebbero unire le informazioni da altri Agenti.
• Conoscenza: Modelli diversi potrebbero portare informazioni variegate a causa del loro addestramento.
• Tipo di Modello: Gli utenti possono scegliere tra oltre 100 modelli linguistici.

#Strutture

Le Strutture determinano come gli Agenti interagiscono mentre completano i compiti. Le strutture esistenti includono Catene, Grafi, Dibattiti ed Ensemble, ognuna con uno stile di condivisione e interazione dell'informazione diverso. Gli utenti possono anche costruire Strutture personalizzate.

#Moderatori

I Moderatori riassumono le discussioni tra gli Agenti. Possono avere ruoli unici o ereditare compiti dalle Strutture che supervisionano. I Moderatori possono essere progettati appositamente per generare automaticamente istruzioni basate sui compiti che gestiscono.

#Studi Empirici

#Panoramica dei Casi Studio

Abbiamo condotto sei casi studio per esaminare la fedeltà teorica ed efficacia di Plurals. Gli studi si concentrano su come Plurals generi output che risuonano con specifici gruppi di pubblico.

1. Diversità nelle Personalità ANES: Usare personalità intersezionali da dataset governativi porta a risposte più variegate rispetto a prompt a singolo attributo.
2. Adesione alle Istruzioni di Deliberazione: Gli Agenti hanno seguito con successo le istruzioni di combinazione, dimostrando processi di deliberazione fedeli.
3. Gruppi di Discussione Simulati: I gruppi di discussione simulati da Plurals hanno prodotto raccomandazioni preferite dai pubblici rilevanti rispetto alla generazione standard zero-shot.
4. Idee per Aziende di Pannelli Solari: Gli output dei gruppi di discussione simulati hanno superato le idee zero-shot tra i partecipanti conservatori.
5. Proposte per Scuole Charter: Successo simile si è riscontrato nella generazione di idee per scuole charter che i genitori liberali preferivano rispetto agli output zero-shot.
6. Idee per Rifugi per Senza Fissa Dimora: Le proposte per rifugi per senza fissa dimora risuonavano di più quando derivate da discussioni simulate rispetto a prompt generali.

#Limitazioni e Lavori Futuri

Il nostro sistema affronta limitazioni legate alle capacità dei modelli linguistici, specialmente riguardo alla direzionalità e fedeltà. Le iterazioni future mirano a investigare nuovi metodi di generazione delle personalità, integrare la generazione aumentata da recupero e esplorare strutture moderate per applicazioni etiche.

#Considerazioni Etiche

Il sistema Plurals solleva importanti questioni etiche, inclusi il rischio di rappresentazione errata attraverso le personalità e il potenziale uso per fini persuasivi. Riconosciamo queste preoccupazioni mentre enfatizziamo la necessità di un'attuazione cauta e di una valutazione continua.

#Conclusione

Plurals serve come sistema pratico per creare AI pluralistica. Concentrandosi su prospettive diverse e facilitando interazioni significative, promuove uno sviluppo riflessivo nelle tecnologie AI. La ricerca futura migliorerà la funzionalità e l'applicabilità di Plurals in vari contesti AI.