Simple Science

La science de pointe expliquée simplement

# Informatique# Calcul et langage

Connecter des modèles de langage à des API RESTful

Un nouveau système pour améliorer les interactions API pour les modèles de langage.

― 3 min lire


Les modèles de langageLes modèles de langagerencontrent les APIlangage.connexions API avec des modèles deUn système pour améliorer les
Table des matières

Les modèles de langage ont beaucoup évolué récemment. Ils peuvent faire plein de trucs en utilisant des outils et des ressources externes. Cependant, beaucoup de méthodes galèrent encore face à des problèmes du monde réel, surtout ceux qui demandent de se connecter à plusieurs APIs.

Le Problème

La plupart des méthodes existantes sont limitées à quelques outils spécialement conçus. Ça les rend moins efficaces pour gérer des demandes complexes qui nécessitent différentes APIs. Le manque de standard clair pour la conception d’APIs complique aussi la connexion avec divers services.

La Solution

Dans ce travail, on propose un nouveau système qui connecte les modèles de langage aux APIs RESTful. Ce système vise à gérer efficacement des demandes utilisateurs complexes. Il inclut plusieurs composants clés :

  1. Planificateur : Décompose les instructions de l'utilisateur en sous-tâches plus petites.
  2. Sélecteur d’API : Choisit les bonnes APIs pour les étapes identifiées par le planificateur.
  3. Exécuteur : Appelle les APIs et traite les réponses.

Ce système utilise une approche de Planification étape par étape. Il peut ajuster sa stratégie en fonction des réponses qu’il reçoit des APIs.

Défis dans la Connexion aux APIs

Connecter des modèles de langage avec des APIs du monde réel pose plusieurs défis.

  • Situations Imprévisibles : Les APIs du monde réel peuvent se comporter de manière imprévisible. Le système doit pouvoir gérer ces situations efficacement.
  • Formats Spécifiques : Les paramètres et les réponses des APIs suivent souvent certains formats, ce qui peut compliquer leur utilisation.

Le Cadre

Le système proposé est construit autour de trois modules principaux :

  • Planification : Le planificateur génère un plan détaillé en langage naturel basé sur la demande de l'utilisateur.
  • Sélection d’API : Le sélecteur d’API associe le plan aux appels API correspondants.
  • Exécution : L'exécuteur effectue les appels API et traite les résultats.

Ce cadre permet une approche flexible pour résoudre des problèmes complexes.

Évaluation

Pour évaluer notre cadre, on a développé un benchmark appelé RestBench. Ce jeu de tests inclut des scénarios du monde réel et des demandes utilisateurs qui nécessitent d'interagir avec plusieurs APIs. En utilisant RestBench, on peut évaluer les performances de notre système dans des cas d'utilisation réels.

Résultats

Dans nos expériences, notre système proposé a montré de bonnes performances. Il a pu gérer efficacement des instructions utilisateurs complexes. Les résultats indiquent que notre cadre peut se connecter efficacement aux APIs RESTful.

Travaux Futurs

Pour l'avenir, on vise à élargir la gamme de tâches que notre système peut gérer. On va aussi explorer son potentiel dans divers domaines, à la fois académiques et industriels.

Conclusion

Ce travail présente une nouvelle façon de connecter des modèles de langage avec des APIs RESTful. En répondant aux limites des méthodes actuelles, on propose un système qui peut mieux satisfaire les besoins des utilisateurs dans des scénarios du monde réel.

Source originale

Titre: RestGPT: Connecting Large Language Models with Real-World RESTful APIs

Résumé: Tool-augmented large language models (LLMs) have achieved remarkable progress in tackling a broad range of tasks. However, existing methods are mainly restricted to specifically designed tools and fail to fulfill complex instructions, having great limitations when confronted with real-world scenarios. In this paper, we explore a more realistic scenario by connecting LLMs with RESTful APIs, which adhere to the widely adopted REST software architectural style for web service development. To address the practical challenges of tackling complex instructions, we propose RestGPT, which exploits the power of LLMs and conducts a coarse-to-fine online planning mechanism to enhance the abilities of task decomposition and API selection. RestGPT also contains an API executor tailored for calling RESTful APIs, which can meticulously formulate parameters and parse API responses. To fully evaluate the performance of RestGPT, we propose RestBench, a high-quality benchmark which consists of two real-world scenarios and human-annotated instructions with gold solution paths. Experiments show that RestGPT is able to achieve impressive results in complex tasks and has strong robustness, which paves a new way towards AGI. RestGPT and RestBench is publicly available at https://restgpt.github.io/.

Auteurs: Yifan Song, Weimin Xiong, Dawei Zhu, Wenhao Wu, Han Qian, Mingbo Song, Hailiang Huang, Cheng Li, Ke Wang, Rong Yao, Ye Tian, Sujian Li

Dernière mise à jour: 2023-08-26 00:00:00

Langue: English

Source URL: https://arxiv.org/abs/2306.06624

Source PDF: https://arxiv.org/pdf/2306.06624

Licence: https://creativecommons.org/licenses/by/4.0/

Changements: Ce résumé a été créé avec l'aide de l'IA et peut contenir des inexactitudes. Pour obtenir des informations précises, veuillez vous référer aux documents sources originaux dont les liens figurent ici.

Merci à arxiv pour l'utilisation de son interopérabilité en libre accès.

Plus d'auteurs

Articles similaires