Simuler le comportement humain avec des modèles de langage

Simuler comment les humains se comportent dans des situations sociales nous aide à comprendre des systèmes sociaux complexes. Les méthodes traditionnelles, comme la Modélisation basée sur des agents (ABM), essaient de représenter ces systèmes en créant des règles simples que des individus, ou agents, suivent. Cependant, ces méthodes ont des limites et ne peuvent pas capturer pleinement la diversité du comportement humain. Récemment, les Grands Modèles de Langage (LLMs) sont devenus des outils populaires pour représenter les interactions humaines de nouvelles manières. Ces modèles peuvent générer du texte qui imite la façon dont les gens parlent et pensent, ce qui les rend utiles pour simuler des interactions humaines.

Dans notre travail, on a utilisé des LLMs pour créer des Simulations qui imitent le comportement humain. On s'est concentré sur deux types de simulations : une où deux agents négocient, et une autre où six agents collaborent pour résoudre un mystère de meurtre. En utilisant une technique appelée ingénierie des invites, on a défini les rôles de chaque agent pour produire des interactions plus crédibles.

#Modélisation Basée sur des Agents et Limitations

La modélisation basée sur des agents consiste à créer des agents virtuels qui suivent des règles spécifiques et interagissent entre eux. Ces agents peuvent représenter des individus dans un système social, comme des gens dans une communauté ou des joueurs dans un jeu. En observant comment ces agents interagissent, les chercheurs peuvent apprendre des comportements et des motifs qui émergent au niveau du groupe.

Cependant, l'ABM a ses limites. Elle se concentre souvent sur des motifs plus larges, comme comment les maladies se propagent ou comment les économies fonctionnent, plutôt que sur les comportements individuels qui alimentent ces processus. C'est là que les LLMs entrent en jeu. En combinant les forces de l'ABM et des LLMs, on peut mieux simuler des interactions humaines complexes.

#Combiner ABM avec LLMs

Notre recherche vise à fusionner l'ABM avec les LLMs pour créer des simulations plus riches du comportement humain. Les LLMs peuvent générer des réponses basées sur des invites, ce qui nous permet de créer des personas détaillés pour les agents dans nos simulations. Cela nous permet d'examiner divers scénarios, comme la Négociation ou la collaboration, de manière plus réaliste.

En utilisant le modèle gpt-3.5-turbo d'OpenAI, on a mis en place nos simulations et créé des invites pour définir comment chaque agent devait se comporter. On a aussi examiné d'autres modèles, mais on a trouvé que le gpt-3.5-turbo produisait les conversations les plus cohérentes et pertinentes.

#Ingénierie des Invites pour des Conversations Autonomes

Pour que nos simulations fonctionnent sans accroc, on avait besoin de créer un système qui permettait aux agents de communiquer entre eux. Ça a été fait en utilisant l'API Chat Completions d'OpenAI, qui nous a permis de définir trois entrées clés :

1. Système : Ça définit la personnalité de l'agent. Ça inclut les traits qui façonnent la façon dont l'agent va répondre.
2. Assistant : Ça fait référence à l'agent lui-même, qui génère des réponses basées sur sa personnalité définie.
3. Utilisateur : Ça représente l'invite, ou l'entrée donnée à l'agent. Dans notre cas, l'utilisateur est un autre agent autonome.

Avec cette configuration, on pouvait créer des conversations naturelles entre les agents. Chaque réponse était construite à partir du contexte des interactions précédentes, ce qui aidait à maintenir un fil logique dans le dialogue.

Cependant, au fur et à mesure que les conversations avançaient, la longueur des invites augmentait. Puisque la longueur maximale pour les invites est limitée (4 096 tokens), ça posait un problème. Plus la conversation était longue, plus il était difficile de faire fonctionner la simulation efficacement.

#Simulation Un-à-Un : Négociation de Cartes Pokémon

Dans notre premier essai, on a mis en place un scénario de négociation entre deux agents : un vendeur et un acheteur à une convention Pokémon. Chacun avait des objectifs clairs définis par leurs personas. Le vendeur voulait obtenir au moins 20 $ pour une carte Charizard, tandis que l'acheteur cherchait à payer le moins possible.

On a lancé la conversation en la commençant par une question initiale. De là, les deux agents se sont relancés, négociant le prix. Le vendeur a commencé par demander combien l'acheteur était prêt à payer, et l'acheteur a poussé pour un prix plus bas.

À travers ce processus de négociation, le vendeur a ajusté sa stratégie en commençant par un prix initial élevé. Le prix final convenu était de 25 $. Ce résultat a montré que le vendeur pouvait utiliser des tactiques de négociation avec succès, même sans instructions explicites pour le faire.

En modifiant légèrement les personas, on a exploré une variété de résultats. Les différences d'objectifs ont conduit à différents prix finaux, mettant en lumière comment le comportement des agents pouvait mener à des résultats inattendus.

#Simulation Un-à-Many : Résoudre un Mystère de Meurtre

Dans notre deuxième simulation, on a augmenté le nombre d'agents à six, avec un qui agissait en tant que capitaine et les autres comme passagers sur un bateau. Le but de cette simulation était de résoudre un meurtre fictif. Chaque agent avait un rôle unique, et le capitaine devait recueillir des informations auprès des passagers pour identifier le tueur.

Au début de la simulation, le capitaine posait une question à chaque passager à tour de rôle. Les réponses étaient compilées dans un flux de mémoire, ce qui aidait à garder le contexte de la conversation intact. C'était crucial pour que le capitaine pose des questions de suivi pertinentes et reste concentré sur l'enquête.

Par exemple, quand le capitaine demandait si quelqu'un portait une robe, les passagers fournissaient leurs réponses. À la fin de la simulation, le capitaine rassemblait les informations pour identifier le personnage le plus suspect, basé sur les réponses recueillies.

Même avec une configuration simple, cette simulation a mis en lumière le défi de gérer plusieurs agents tout en préservant le contexte de conversation. Ça nécessitait une approche structurée pour assurer la cohérence des interactions.

#Simulations Many-to-Many

Bien qu'on ne se soit pas penché sur les simulations many-to-many dans cet article, elles ont du potentiel pour simuler des scénarios complexes du monde réel. Un exemple serait la propagation de l'information, comme les fausses nouvelles, où divers groupes partagent des messages. Ces types de simulations pourraient offrir des aperçus précieux sur comment les idées et les comportements circulent entre les individus.

Cependant, mettre en œuvre des simulations many-to-many introduit des défis. La complexité des interactions augmente, et gérer le contexte de la conversation devient encore plus crucial. Les simulations qui utilisent des modèles plus grands avec des longueurs d'invite étendues pourraient donner de meilleurs résultats, mais ces modèles n'étaient pas le centre de notre recherche.

#Travaux Connexes et Innovations

Notre travail s'inscrit dans le cadre de recherches existantes sur l'IA centrée sur l'humain et l'utilisation des LLMs pour simuler le comportement humain. D'autres études ont exploré des moyens d'améliorer la façon dont les agents interagissent dans des environnements simulés. En utilisant des techniques comme l'apprentissage par renforcement, les modèles peuvent améliorer leurs réponses sur la base des interactions passées.

De plus, il y a des recherches en cours sur la façon dont les LLMs peuvent récupérer des informations pertinentes durant les conversations. Cette capacité pourrait aider à surmonter les limitations imposées par les limites de tokens fixes, permettant des simulations plus dynamiques et engageantes.

Dans l'ensemble, bien que nos simulations étaient basiques, elles ouvrent la voie à la création d'environnements numériques plus grands et plus complexes. Ceux-ci peuvent être utilisés pour évaluer le comportement humain.

#Défis à Venir

En regardant vers l'avenir des simulations alimentées par les LLMs, il y a deux défis clés. Le premier est la limite sur la quantité d'informations pouvant être traitées en une fois. Les modèles actuels restreignent cela à 4 096 tokens. Permettre des contextes plus larges pourrait améliorer considérablement notre capacité à réaliser des simulations plus longues et plus complexes.

Le deuxième défi concerne la récupération efficace des informations nécessaires dans le contexte. Au fur et à mesure que les agents interagissent, condenser les conversations précédentes sans perdre d'importants détails sera critique. Des techniques comme la résumation ou l'intégration de systèmes de mémoire pourraient offrir des solutions à ces obstacles.

#Conclusion

La combinaison des grands modèles de langage et de la modélisation basée sur des agents ouvre de nouvelles possibilités pour simuler les interactions humaines. Grâce à l'ingénierie des invites, on peut créer des agents qui répondent de manière naturelle et réaliste, permettant de tester des scénarios engageants et éclairants. Bien qu'il y ait des défis à surmonter, le potentiel de comprendre des comportements sociaux complexes à travers des simulations est prometteur. À mesure que le domaine évolue, on peut espérer des modèles plus sophistiqués qui peuvent mieux imiter les complexités de la vie humaine.