Améliorer le raisonnement des modèles de langage avec la chaîne de connaissances

Récemment, y a eu pas mal d'intérêt sur comment on peut améliorer les modèles de langage, comme GPT-3, pour résoudre des problèmes complexes. Ces modèles peuvent répondre à des questions, écrire des textes et même tenir des conversations. Par contre, ils font parfois des erreurs ou donnent des infos pas précises. Une des méthodes que les chercheurs essaient pour améliorer ces modèles s’appelle le "Chain-of-Knowledge" prompting. Cette approche aide les modèles à donner des réponses plus fiables en utilisant des morceaux de connaissance clairs.

#C'est quoi les Modèles de Langage ?

Les modèles de langage sont conçus pour comprendre et générer le langage humain. Ils apprennent à partir de grandes quantités de données textuelles et utilisent cette connaissance pour prédire ce qui vient ensuite dans une phrase ou comment répondre à une question. Bien que ces modèles aient montré un grand succès dans plusieurs tâches, ils rencontrent toujours des défis, surtout quand les questions demandent un raisonnement approfondi ou des faits.

#Le Problème de Fiabilité

Malgré leurs capacités, les modèles de langage peuvent parfois produire un raisonnement défaillant ou des réponses qui ne reposent pas sur des faits. Ce problème, souvent appelé "hallucination", se produit quand le modèle crée des infos qui ne sont pas vraies. Par exemple, s’il est interrogé sur un joueur de basket, le modèle pourrait suggérer à tort que le joueur est impliqué dans un autre sport.

Pour rendre ces modèles plus fiables, les chercheurs ont introduit diverses techniques de prompting. Une de ces techniques s'appelle le "Chain-of-Thought" (CoT) prompting, où le modèle est incité à réfléchir à un problème étape par étape. Bien que cette méthode ait été assez efficace, elle peut encore mener à des conclusions inexactes.

#Présentation du Chain-of-Knowledge Prompting

Pour régler les problèmes avec les méthodes de prompting traditionnelles, l’approche Chain-of-Knowledge (CoK) a été développée. Cette technique se concentre sur le fait d'inciter le modèle à générer des morceaux distincts de preuves de connaissance, présentés dans un format structuré. L'objectif est d'aider le modèle à baser ses réponses sur des infos factuelles, rendant son raisonnement plus solide.

En utilisant le CoK prompting, le modèle est guidé pour produire des preuves explicites sous forme de triples structurés. Un triple est une représentation simple qui inclut un sujet, une relation et un objet. Par exemple, pour décrire un joueur de basket, on pourrait former un triple comme (Derrick White, joue pour, Boston Celtics). Cette structure aide le modèle à comprendre clairement le raisonnement derrière ses réponses.

#Comment ça Marche le CoK ?

La méthode de prompting Chain-of-Knowledge comprend deux composants principaux : les triples de preuves et les indices d'explication. Les triples de preuves fournissent un soutien factuel pour les réponses du modèle, tandis que les indices d'explication clarifient le processus de raisonnement. Ensemble, ils guident le modèle à créer des réponses plus précises et fiables.

1. Triples de Preuves : Ce sont des énoncés qui fournissent des informations factuelles. Par exemple, si la question concerne un joueur spécifique, le modèle peut générer une preuve comme (Derrick White, position, guard).

2. Indices d'Explication : Ce sont de courtes phrases qui incitent le modèle à articuler son raisonnement. Un indice courant pourrait être "Pensons étape par étape." Cela encourage le modèle à décomposer le problème en parties plus gérables.

#Développer un Processus de Raisonnement Fiable

Pour s'assurer que les réponses générées par le modèle sont précises, il est essentiel de vérifier la fiabilité des chaînes de raisonnement. C'est là que la méthode F2-Verification entre en jeu. La F2-Verification évalue chaque preuve et explication fournie par le modèle.

Le processus de vérification comprend deux aspects principaux :

1. Factualité : Cela vérifie si la preuve correspond aux connaissances du monde réel. Cela garantit que les énoncés faits par le modèle sont précis.

2. Fidélité : Cela s'assure que les explications fournies par le modèle reflètent fidèlement le raisonnement derrière la réponse finale. Cela vérifie si le raisonnement du modèle est en accord avec ce qu'il a déclaré comme réponse.

Si une preuve ou une explication est jugée peu fiable, le modèle est incité à repenser sa réponse. Ce processus améliore non seulement la précision, mais aide aussi le modèle à apprendre de ses erreurs.

#L'Importance de la Méthodologie de Prompting

La façon dont les prompts sont structurés peut avoir un impact considérable sur la performance d'un modèle de langage. CoK, en mettant l'accent sur des preuves de connaissance structurées sous forme de triples, aide le modèle à mieux comprendre les infos nécessaires pour répondre correctement aux questions. Cette approche structurée est cruciale pour les tâches de raisonnement complexes, car elle empêche le modèle de tirer des conclusions basées sur des informations incomplètes.

#Scénario d’Exemple

Prenons un exemple où le modèle est interrogé : "La phrase 'Derrick White a fait un tir en backhand' est-elle plausible ?" Les méthodes de prompting traditionnelles peuvent amener le modèle à supposer à tort que Derrick White est un joueur de hockey, ce qui donnerait une mauvaise réponse.

Avec le CoK, le modèle générerait des triples de preuves comme :

• (Derrick White, a joué pour, Boston Celtics)
• (Derrick White, connu comme, joueur de basket)

Avec des preuves claires sous la main, le modèle peut conclure correctement que la phrase n'est pas plausible, menant à une réponse plus précise.

#Tester et Évaluer la Méthode

Les chercheurs ont entrepris des tests approfondis de la méthode de prompting CoK à travers diverses tâches de raisonnement. Ces tests comprennent le raisonnement de bon sens, les questions factuelles, le raisonnement symbolique et les problèmes arithmétiques. Les résultats indiquent que le CoK surpasse systématiquement les méthodes de prompting traditionnelles en termes d'exactitude et de fiabilité.

#Le Rôle des Bases de Connaissances

Pour soutenir le processus de génération de preuves, des bases de connaissances sont utilisées. Ces bases de données contiennent des infos structurées auxquelles le modèle peut accéder. Par exemple, une base de connaissances pourrait inclure des détails sur les joueurs de sport, leurs équipes et des records de leurs succès. En récupérant des infos de ces bases, le modèle peut fournir des réponses qui sont non seulement logiques, mais aussi factuellement correctes.

#Combiner des Techniques pour Améliorer

La méthode de prompting CoK peut être combinée avec d'autres stratégies, comme la cohérence interne, pour améliorer encore les performances. La cohérence interne implique que le modèle génère plusieurs chemins de raisonnement pour la même question et identifie ensuite la réponse la plus cohérente. Cela aide à réduire le risque d’hallucinations en moyennant les réponses sur plusieurs tentatives.

Les chercheurs ont découvert que la combinaison du CoK avec des méthodes de vérification et de cohérence interne donne les meilleurs résultats dans les tâches de raisonnement.

#Implications pour le Développement des Modèles de Langage

Les étapes prises pour améliorer le raisonnement des modèles de langage ont des implications plus larges. En s'assurant que les modèles génèrent un raisonnement basé sur des preuves, on peut créer des systèmes qui sont non seulement plus précis, mais aussi plus dignes de confiance. C'est essentiel car les modèles de langage sont de plus en plus utilisés dans des applications qui nécessitent des informations fiables, comme l'éducation, la santé et le service client.

#Limites et Directions Futures

Bien que l'approche CoK montre des promesses, elle n'est pas sans limites. Les bases de connaissances utilisées pour les triples de preuves sont finies et peuvent ne pas couvrir tous les scénarios possibles que les utilisateurs pourraient demander. Par conséquent, il est possible que certaines questions dépassent la capacité du modèle à y répondre avec précision, simplement à cause d'un manque de données disponibles.

En plus, le processus de repenser associé au CoK peut nécessiter plus de ressources informatiques comparé à des méthodes plus simples. Cela pourrait limiter la praticabilité de l'approche dans des applications réelles où l'accès à la puissance de calcul est restreint.

#Explorer Plus de Sources de Connaissances

Les chercheurs examinent des moyens d'améliorer les bases de connaissances utilisées pour la génération de preuves. L'intégration de sources de données en temps réel, comme les moteurs de recherche, pourrait fournir aux modèles des informations à jour. Cette expansion aiderait à répondre à la limite des bases de connaissances finies et améliorerait la précision globale des modèles.

#Accent sur l'Interprétabilité

À mesure que les modèles de langage deviennent plus complexes, comprendre comment ils arrivent à des réponses spécifiques est vital. Les recherches futures vont probablement se concentrer sur l'amélioration de l'interprétabilité dans le raisonnement des modèles. Cela implique de développer des méthodes pour expliquer les processus de raisonnement des modèles de manière claire pour les utilisateurs finaux. Quand les utilisateurs peuvent voir comment un modèle a tiré une conclusion, cela renforce la confiance dans la technologie.

#Conclusion

La méthode de prompting Chain-of-Knowledge représente une avancée significative sur la façon dont on peut aider les modèles de langage à raisonner plus précisément. En mettant l'accent sur des preuves de connaissance structurées et en mettant en œuvre des processus de vérification, les chercheurs cherchent à réduire les inexactitudes et à améliorer la fiabilité de ces systèmes.

Alors que le domaine du traitement du langage naturel continue d'évoluer, les enseignements tirés d'approches comme le CoK joueront un rôle crucial dans le développement de modèles de langage plus avancés et fiables. L'avenir semble prometteur pour la création de systèmes capables de fournir des informations précises et d'engager des conversations significatives, offrant ainsi de meilleures expériences utilisateur dans diverses applications.