Améliorer les LLM avec des outils spécialisés pour des tâches complexes

Les grands modèles de langage (LLMs) sont devenus des Outils essentiels dans de nombreux domaines, allant au-delà du simple traitement de texte. Ils sont maintenant vus comme des agents linguistiques polyvalents qui peuvent aider les gens dans diverses tâches complexes du monde réel. Cependant, ces tâches se déroulent souvent dans des environnements trop vastes pour que les LLMs puissent vraiment comprendre juste avec leur mémoire à court terme. Cet article explore comment des outils peuvent aider les LLMs à gérer efficacement ces environnements complexes.

#Le besoin d'outils

Quand les LLMs interagissent avec des environnements compliqués, ils peuvent avoir du mal à capturer toutes les informations nécessaires. Ils essaient souvent de caser l'environnement dans leur mémoire, qui a ses limites. À mesure que l'environnement devient plus complexe, cette méthode échoue. Une autre façon est de donner aux LLMs des outils qui leur permettent de rassembler activement des informations et d'interagir plus efficacement avec l'environnement. En utilisant le langage pour guider leurs actions, les LLMs peuvent décider quels outils sont les mieux adaptés pour la tâche à accomplir. Cette nouvelle approche n'a pas encore été vraiment étudiée en profondeur, et cet article vise à explorer l'efficacité de cette stratégie.

#Outils personnalisés pour des environnements complexes

Pour voir comment les LLMs peuvent gérer la complexité avec l'aide d'outils, nous avons conçu des outils spécifiques adaptés à deux types d'environnements complexes : les Bases de données et les Bases de connaissances (KBs). Contrairement à d'autres études qui ont utilisé des APIs existantes, nous avons créé nos outils à partir de zéro. Nous avons basé nos conceptions sur la façon dont les humains rassemblent des informations, comme la recherche de mots-clés ou l'examen des relations entre les données. L'objectif était de créer des outils qui agissent comme un tampon entre le LLM et l'environnement, rendant plus facile pour le LLM de comprendre et d'opérer à l'intérieur.

#Tester les outils

Nous avons réalisé des expériences pour évaluer comment ces outils améliorent les LLMs dans des tâches nécessitant une interaction avec des bases de données et des bases de connaissances. Les résultats étaient prometteurs. Par exemple, lorsqu'il était équipé de ces outils, GPT-4 a surpassé les solutions précédentes de manière significative dans les tâches nécessitant un accès à la base de données. En fait, il a montré une amélioration de performance de 2,8 fois dans les tâches de base de données et de 2,2 fois dans les tâches de base de connaissances par rapport aux meilleures méthodes existantes.

#Les principaux enseignements

Nos découvertes révèlent que les outils sont vitaux pour permettre aux LLMs de fonctionner efficacement dans des environnements difficiles. Les principales contributions de cette recherche incluent :

1. La création d'un nouveau cadre qui intègre des outils personnalisés pour les bases de données et les bases de connaissances, permettant aux LLMs de mieux gérer des tâches complexes.

2. Des tests approfondis de différents LLMs à travers divers benchmarks, démontrant l'efficacité de notre approche améliorée par les outils.

3. Une conclusion claire que les outils sont essentiels pour que les LLMs naviguent et opèrent avec succès dans des environnements complexes.

#Travaux connexes

Les méthodes précédentes qui dépendaient de l'alimentation directe de l'environnement dans les LLMs ont rencontré des défis, notamment en termes d'évolutivité. À mesure que les environnements devenaient plus complexes, il était souvent impraticable de les linéariser en tokens. D'autres études ont adopté des approches différentes, soit en générant des plans qui nécessitaient un raffinement ultérieur, soit en utilisant le LLM pour évaluer des plans prépréparés. Ces méthodes n'exploitaient pas pleinement les capacités de raisonnement des LLMs face à des tâches complexes.

Notre recherche s'appuie sur des travaux antérieurs mais vise à élargir cela en fournissant aux LLMs une gamme plus large d'outils spécialisés, leur permettant d'interagir avec les environnements à la demande. Bien que des méthodes existantes comme StructGPT aient tenté des stratégies similaires, leurs options d'outils limitées ont restreint leur efficacité dans la compréhension des environnements complexes.

#Outils personnalisés pour les bases de données

Nous avons spécifiquement conçu 12 outils pour les environnements de bases de données. Ces outils étaient divisés en deux catégories : outils de navigation et outils fonctionnels.

#Outils de navigation

Ces outils aident le LLM à explorer et extraire des données pertinentes de la base de données. Voici quelques exemples :

• Trouver des colonnes : Ces fonctions aident les LLMs à localiser les bonnes colonnes dans la base de données en fonction des valeurs qu'ils essaient de faire correspondre.

• Valeurs distinctes : Cette fonction retourne toutes les valeurs uniques d'une colonne spécifique, aidant à la prise de décision.

#Outils fonctionnels

Les outils fonctionnels permettent au LLM d'effectuer des opérations spécifiques au sein de la base de données :

• Exécution de requêtes SQL : Cette fonction aide le LLM à exécuter des requêtes SQL pour récupérer des données.

• Spécification de clauses : Fonctions qui aident le LLM à spécifier différentes clauses telles que FROM, WHERE, SELECT, etc., qui sont intégrales à la construction de requêtes SQL efficaces.

#Outils personnalisés pour les bases de connaissances

En plus des outils de base de données, nous avons également développé 7 outils spécialisés pour les bases de connaissances. Ces outils comprenaient à la fois des types de navigation et fonctionnels.

#Outils de navigation

Ces outils aident le LLM à parcourir la vaste quantité d'informations d'une base de connaissances :

• Obtenir des relations : Cette fonction permet au LLM de trouver toutes les relations connectées à une entité spécifique.

• Trouver des voisins : Cet outil aide à récupérer des entités connexes basées sur les relations identifiées.

#Outils fonctionnels

Ces outils permettent d'exécuter des tâches spécifiques dans une base de connaissances :

• Fonctions d'agrégation : Fonctions qui permettent au LLM de trouver des entités avec des valeurs maximales ou minimales pour un attribut donné.

• Compter les entités : Cet outil aide les LLMs à comprendre combien d'entités appartiennent à une variable spécifique.

#Intégrer le raisonnement avec les outils

Pour s'assurer que les LLMs peuvent utiliser efficacement ces outils, nous avons adopté un cadre appelé ReAct. Contrairement aux méthodes existantes qui suivaient souvent des procédures rigides, ReAct permet au LLM de décider quels outils utiliser en fonction du contexte auquel il fait face.

À chaque étape, le LLM prédit son action en fonction de l'état actuel, intégrant son processus de raisonnement avec les outils à sa disposition. Cette approche flexible améliore la capacité du LLM à répondre avec précision aux défis présentés par des environnements complexes.

#Expérimenter avec différents modèles

Pour évaluer notre cadre, nous avons testé plusieurs modèles de langue, à la fois des modèles avancés comme GPT-4 et des modèles open-source comme Llama2 et Mistral. Les résultats ont montré une amélioration significative des performances lorsque les LLMs étaient équipés de nos outils personnalisés.

Nous avons découvert que, tandis que les modèles Llama2 avaient généralement du mal à appliquer les outils, des modèles comme Mistral et Mixtral performaient mieux. Cependant, un écart notable existait toujours entre ces modèles et les modèles plus avancés GPT-3.5-turbo et GPT-4. Nos conclusions suggèrent que les modèles plus performants peuvent récupérer d'erreurs grâce à des retours d'expérience plus efficacement que les modèles plus faibles. En revanche, les modèles plus faibles bénéficiaient d'un raisonnement structuré lors de la prise de décisions concernant l'utilisation des outils.

#Outils comme middleware

Un aspect clé de notre recherche était d'examiner comment les outils fonctionnent comme une couche middleware. Nous avons comparé les performances des LLMs utilisant nos outils avec celles de ceux utilisant divers échantillons de données directement de l'environnement. Les résultats ont montré que, bien que certaines améliorations de performance se soient produites en utilisant des données supplémentaires, les LLMs avec outils ont constamment surpassé ceux s'appuyant uniquement sur l'interaction directe avec l'environnement.

#Conclusion et directions futures

Cette recherche souligne l'importance des outils personnalisés pour aider les LLMs à gérer les complexités des tâches du monde réel. Bien que nous ayons obtenu des résultats notables dans les bases de connaissances et les bases de données, nous reconnaissons qu'il existe des environnements plus difficiles qui manquent d'interfaces claires.

Les travaux futurs se concentreront sur la création d'outils pour des environnements plus larges, y compris ceux sans systèmes de requête clairs, comme les pages web ou même les espaces physiques. Notre article souligne le potentiel significatif de l'utilisation d'outils adaptés pour améliorer la capacité des LLMs et ouvrir la voie à leur utilisation dans des applications plus complexes.

#Remerciements

Nous remercions nos collègues qui ont fourni des retours éclairants, contribuant au développement et à l'affinement de cette recherche. Nos efforts ont été également soutenus par des financements de recherche de Cisco.

#Définitions des outils

Dans cette section, nous fournissons une description détaillée de nos outils personnalisés pour les bases de données et les bases de connaissances. Ces sélections d'outils ont été faites en fonction d'une connaissance approfondie du domaine et ont été soigneusement structurées pour répondre à un large éventail de besoins opérationnels.

#Statistiques de benchmark

Pour valider nos résultats, nous avons élaboré des benchmarks qui reflètent la complexité du monde réel, permettant une évaluation plus efficace des agents linguistiques. Ces benchmarks ont été choisis pour offrir une évaluation plus représentative de la capacité des différents modèles à gérer des tâches difficiles dans des environnements complexes.

#Résumé des résultats

Équipés d'outils spécialisés, les LLMs ont montré des performances remarquables à travers divers benchmarks. L'étude a souligné comment ces outils sont essentiels pour pousser les capacités des modèles de langage, leur permettant de fonctionner efficacement dans des environnements complexes.

Dans l'ensemble, notre recherche jette les bases des avancées futures dans les applications des modèles de langue, soulignant le rôle de la conception d'outils innovants dans l'expansion des capacités des LLMs à naviguer dans des tâches et des environnements compliqués.