Évaluer le raisonnement multi-étapes dans les grands modèles de langage

Récemment, on s'est penché sur la façon dont les Grands Modèles de Langage, appelés LLMs, pensent et raisonnent. Plus précisément, on s'intéresse à un processus qui s'appelle le Raisonnement multi-sauts. Ça veut dire utiliser différentes pièces d'infos pour arriver à une conclusion. Dans notre cas, on veut voir si les LLMs peuvent répondre à des questions complexes en assemblant différents faits.

Par exemple, prenons la question "La mère du chanteur de 'Superstition' est." Ici, tu dois d'abord trouver qui est le chanteur de "Superstition" et ensuite identifier la mère de ce chanteur. Notre but est de découvrir si les LLMs peuvent relier ces points sans qu'on leur donne toutes les infos nécessaires au départ.

#C'est quoi les grands modèles de langage ?

Les grands modèles de langage sont des systèmes d'IA avancés qui sont entraînés sur des quantités énormes de texte. Ils apprennent à partir de ce texte et développent une compréhension du langage, des faits et des relations. Ces modèles peuvent générer du texte, répondre à des questions et même tenir des conversations.

Comment ça marche ? Les LLMs utilisent une structure connue sous le nom de transformateur, qui leur permet d'analyser le texte et de faire des prévisions basées sur ce qu'ils ont appris. Ils peuvent stocker des faits, comprendre le contexte et se souvenir d'infos quand c'est nécessaire.

#L'importance du raisonnement multi-sauts

Le raisonnement multi-sauts est crucial dans des scénarios où les réponses ne peuvent pas être trouvées dans une seule déclaration. Souvent, les gens doivent faire des connexions entre différentes pièces d'infos pour répondre avec précision. Par exemple, pour répondre à notre question précédente, il faut d'abord savoir qui chante "Superstition", puis se rappeler des détails sur la famille de ce chanteur.

Comprendre si les LLMs peuvent faire ce raisonnement est important. Si c'est le cas, ça suggère qu'ils ont une compréhension plus profonde des connexions entre les faits. Ça pourrait améliorer leur utilité dans des applications comme le service client, l'éducation, ou même l'écriture créative.

#Nos questions de recherche

Pour explorer ça, on a formulé deux questions principales :

1. À quel point les LLMs se souviennent-ils d'infos sur une entité intermédiaire quand on leur donne sa mention descriptive ? Pour notre exemple, l'entité intermédiaire est "Stevie Wonder", qui est le chanteur de "Superstition".

2. Une fois que les LLMs se souviennent de cette entité intermédiaire, à quel point utilisent-ils cette info pour compléter l'invite sur son attribut, comme identifier la mère de Stevie Wonder ?

#Explorer le raisonnement multi-sauts

Pour explorer ces questions, on a commencé par créer un ensemble d'invites qui nécessitaient un raisonnement multi-sauts. On a délibérément conçu des questions qui demanderaient aux LLMs de relier différentes pièces d'infos. Par exemple, changer "La mère du chanteur de 'Superstition' est" en "La mère du chanteur de 'Thriller' est" aide à tester si le modèle peut se concentrer sur la bonne entité.

On a réalisé des expériences extensives avec différents modèles et types d'invites. On a observé à quelle fréquence le LLM reconnaissait correctement l'entité intermédiaire et à quel point il répondait de manière cohérente aux questions suivantes.

#Le premier saut de raisonnement

Quand on a examiné le premier saut de raisonnement, on voulait voir à quelle fréquence le LLM pouvait se souvenir de l'entité intermédiaire à partir de l'invite. En gros, on voulait savoir si les modèles reconnaissaient "le chanteur de 'Superstition'" comme Stevie Wonder quand on leur demandait.

On a trouvé que dans beaucoup de cas, quand on concevait des invites pour mentionner l'entité intermédiaire, les LLMs avaient de meilleures performances. Par exemple, si on demandait au LLM qui est la mère du chanteur de "Superstition", il se rappelait souvent que le chanteur est Stevie Wonder. Ça montre que le premier saut de raisonnement a réussi.

#Le deuxième saut de raisonnement

Après avoir établi que les LLMs se souvenaient correctement des entités intermédiaires, on s'est concentré sur le deuxième saut de raisonnement. À ce stade, on a examiné s'ils utilisaient l'info rappelée pour répondre à la question originale sur la mère de Stevie Wonder.

On a cherché des connexions entre le rappel de l'entité intermédiaire par le modèle et la qualité de sa réponse à la question suivante. Si un modèle se souvenait qui était Stevie Wonder, on s'attendait à ce que sa réponse à la question sur sa mère soit plus cohérente avec ce qu'il avait appris.

#Résultats sur le raisonnement multi-sauts

Notre recherche a indiqué que les LLMs montrent de fortes preuves de réalisation du raisonnement multi-sauts, surtout pour certains types d'invites. Quand les invites étaient conçues d'une certaine manière, les modèles répondaient correctement plus de 80% du temps. Cependant, cette capacité variait selon la complexité des invites et les modèles utilisés.

Pour le premier saut de raisonnement, on a vu une amélioration notable avec des modèles plus grands. En augmentant la taille du modèle, la probabilité de se souvenir correctement de l'entité intermédiaire augmentait. Cependant, cette amélioration n’était pas aussi forte pour le deuxième saut, ce qui suggère un écart de performance quand les modèles devaient relier l'information rappelée à une question suivante.

#Implications de nos résultats

Que signifient ces résultats pour l'avenir des LLMs ? Si ces modèles peuvent réaliser du raisonnement multi-sauts, ça ouvre une gamme de possibilités dans leur application. Par exemple, ils pourraient être utilisés dans des systèmes de tutorat qui nécessitent qu'ils répondent à des questions complexes. De plus, cette capacité pourrait permettre aux LLMs de créer des récits plus détaillés en reliant des événements et des idées à travers différents contextes.

Cependant, l'incohérence dans le deuxième saut de raisonnement souligne aussi des domaines à améliorer. Ça suggère que même si les LLMs peuvent se souvenir de faits, leur application de ce savoir peut encore être limitée. Ça pourrait indiquer des ajustements nécessaires dans les méthodes d'entraînement ou l'architecture des modèles pour améliorer les capacités de raisonnement.

#Défis et limites

Pendant notre recherche, on a rencontré plusieurs défis. Un des principaux problèmes est la complexité de la langue humaine. La langue est souvent nuancée, pleine d'idiomes et de références culturelles. Les LLMs, malgré leur entraînement, peuvent avoir du mal avec ces subtilités dans les tâches de raisonnement multi-sauts.

Une autre limitation réside dans les données utilisées pour entraîner ces modèles. Si les données d'entraînement manquent d'exemples divers de raisonnement multi-sauts, les modèles peuvent ne pas développer les compétences nécessaires pour généraliser leur compréhension de nouvelles invites.

#Directions futures

Étant donné nos résultats, il y a plusieurs directions de recherche futures qu'on pourrait explorer. Une possibilité serait d'examiner différents types d'invites et comment elles impactent le raisonnement multi-sauts. Par exemple, on pourrait analyser comment le reformulation des questions affecte les réponses et la compréhension du modèle.

De plus, on pourrait aussi explorer comment différentes architectures de modèles gèrent les tâches de raisonnement multi-sauts. En expérimentant avec différents designs, on pourrait découvrir des manières plus efficaces d'entraîner les LLMs pour améliorer leurs capacités de raisonnement.

Enfin, on pourrait examiner le rôle des données de pré-entraînement. Comprendre quel type de données aide les LLMs à mieux performer dans les tâches de raisonnement multi-sauts pourrait informer les stratégies d'entraînement futures.

#Conclusion

En conclusion, notre recherche a révélé que les grands modèles de langage peuvent exhiber des capacités latentes de raisonnement multi-sauts dans certaines conditions. Ils montrent un bon rappel pour les entités intermédiaires et peuvent parfois utiliser efficacement ces infos pour répondre à des questions.

Cependant, il reste des progrès à faire, notamment concernant l'application des connaissances rappelées. Comprendre et améliorer ces voies de raisonnement pourrait mener à des modèles de langage plus performants, ouvrant de nouvelles possibilités pour leur utilisation dans diverses applications. Au fur et à mesure qu'on avance dans ce domaine, notre objectif est de créer des modèles qui sont non seulement plus intelligents mais aussi plus adaptables aux complexités de la langue et de la pensée humaines.