LangServe: Tutoriel pour un déploiement facile de LangChain

Name: Lynn Mikami

Published on 30/04/2024

LangServe n'est pas juste un autre outil de l'écosystème LangChain ; c'est une véritable révolution. Si vous avez du mal avec les complexités du déploiement des exécutables et des chaînes LangChain, LangServe est la baguette magique que vous attendiez. Cet article vise à être votre guide ultime, en se concentrant sur l'utilisation de LangServe pour un déploiement de LangChain fluide.

L'importance de LangServe ne peut être sous-estimée. C'est le pont qui permet de passer de la phase de développement de vos projets LangChain à des applications concrètes. Que vous soyez un développeur chevronné ou un novice dans l'univers LangChain, maîtriser LangServe est crucial. Alors, plongeons-y.

Qu'est-ce que LangServe et pourquoi cela vous concerne

Qu'est-ce que LangServe ?

LangServe est un package Python conçu pour faciliter le déploiement de LangChain. Il vous permet de déployer n'importe quel exécutable ou chaîne LangChain en tant qu'API REST, transformant ainsi vos projets LangChain en applications prêtes pour la production.

Inférence automatique de schémas : Fini le travail manuel de définition des schémas d'entrée et de sortie. LangServe le fait pour vous.
Points de terminaison de l'API : Il est livré avec des points de terminaison d'API intégrés comme /invoke, /batch et /stream qui peuvent gérer plusieurs requêtes simultanément.
Surveillance : Grâce à la surveillance intégrée de LangSmith, vous pouvez garder un œil sur vos déploiements en temps réel.

Pourquoi cela vous concerne-t-il ?

Si vous êtes dans l'écosystème LangChain, LangServe est indispensable pour plusieurs raisons :

Simplifie le déploiement : LangServe élimine la nécessité de configurations complexes, ce qui vous permet de vous concentrer sur votre logique principale.
Évolutivité : Il est conçu pour mettre à l'échelle, ce qui signifie que lorsque votre projet LangChain se développe, LangServe grandit avec lui.
Gain de temps : Avec des fonctionnalités telles que l'inférence automatique de schémas et des points de terminaison d'API efficaces, LangServe vous fait gagner énormément de temps, accélérant ainsi la mise sur le marché de votre projet.

En essence, LangServe n'est pas qu'un simple outil ; c'est votre partenaire de déploiement. Il élimine les incertitudes des déploiements LangChain, vous permettant de vous concentrer sur ce que vous faites de mieux : créer des projets LangChain exceptionnels.

Principales fonctionnalités de LangServe dans le déploiement de LangChain

LangServe est doté de fonctionnalités qui en font la solution incontournable pour le déploiement de LangChain. Voici un aperçu de ses principales fonctionnalités :

Inférence automatique du schéma d'entrée et de sortie : LangServe infère automatiquement les schémas d'entrée et de sortie à partir de votre objet LangChain. Cela élimine le besoin de définir manuellement les schémas, simplifiant ainsi grandement votre vie.
Points de terminaison d'API efficaces : LangServe vous fournit des points de terminaison d'API efficaces tels que /invoke, /batch et /stream. Ces points de terminaison sont conçus pour gérer plusieurs requêtes simultanées, garantissant ainsi que votre application LangChain peut servir plusieurs utilisateurs simultanément sans effort.
Surveillance intégrée avec LangSmith : L'une des fonctionnalités phares de LangServe est sa traçabilité intégrée vers LangSmith. Cela vous permet de surveiller en temps réel vos déploiements LangChain, fournissant ainsi des informations précieuses sur les performances et la santé de votre application.

Chacune de ces fonctionnalités est conçue pour simplifier et rationaliser le processus de déploiement de vos projets LangChain. Que vous déployiez un simple chatbot ou un outil d'analyse de données complexe, LangServe a pensé à tout.

Configuration de LangServe pour le déploiement de LangChain : Guide étape par étape

Prérequis pour la configuration de LangServe

Avant de plonger dans la configuration de LangServe, il est essentiel de vous assurer d'avoir l'environnement adéquat. Voici ce dont vous aurez besoin :

Python 3.8 ou version ultérieure : LangServe est un package Python, vous aurez donc besoin d'avoir Python installé sur votre système.
Interface de ligne de commande LangChain : Il s'agit de l'interface en ligne de commande pour LangChain, que vous utiliserez pour installer LangServe.
Git : Vous aurez besoin de Git pour cloner les exemples de référence.

Une fois ces éléments en place, vous êtes prêt à installer LangServe et à commencer le déploiement de vos projets LangChain.

Installation de LangServe

L'installation de LangServe est un jeu d'enfant, grâce à l'interface en ligne de commande de LangChain. Ouvrez votre terminal et exécutez la commande suivante :

langchain-cli install langserve

Cette commande récupère la dernière version de LangServe et l'installe sur votre système. Une fois l'installation terminée, vous pouvez vérifier en exécutant :

langserve --version

Si vous voyez le numéro de version, félicitations ! Vous avez réussi à installer LangServe.

Création de votre premier exécutable LangChain

Maintenant que LangServe est installé, créons notre premier exécutable LangChain. Un exécutable est essentiellement un morceau de code qui effectue une tâche spécifique dans votre projet LangChain. Voici un extrait de code à titre d'exemple pour configurer un exécutable LangChain basique :

from langchain import Runnable
 
class MonExecutable(Runnable):
    def run(self, input_data):
        return {"output": input_data["input"] * 2}

Enregistrez ce code dans un fichier nommé mon_executable.py.

Déploiement de votre exécutable avec LangServe

Maintenant que votre exécutable est en place, il est temps de le déployer en utilisant LangServe. Créez un nouveau fichier Python nommé deploy.py et ajoutez le code suivant :

from fastapi import FastAPI
from langserve import add_routes
from mon_executable import MonExecutable
 
app = FastAPI()
executable = MonExecutable()
 
add_routes(app, executable)

Ce code configure une application FastAPI et ajoute des routes pour votre exécutable en utilisant la fonction add_routes de LangServe.

Pour exécuter votre application FastAPI, exécutez la commande suivante :

uvicorn deploy:app --reload

Votre LangChain runnable est maintenant déployé en tant qu'API REST, accessible à http://localhost:8000.

Tester votre déploiement

Après avoir déployé votre runnable, il est crucial de le tester pour vous assurer que tout fonctionne comme prévu. Utilisez curl ou Postman pour envoyer une requête POST à http://localhost:8000/invoke avec la charge JSON suivante :

{
  "input": 5
}

Si tout est configuré correctement, vous devriez recevoir une réponse JSON avec la valeur de sortie 10.

Options de déploiement pour LangServe

Déploiement de LangServe sur GCP Cloud Run

Google Cloud Platform (GCP) est l'un des services cloud les plus populaires, et LangServe facilite grandement le déploiement de vos projets LangChain sur GCP Cloud Run. Voici comment faire :

Créer une image Docker : Créez un Dockerfile dans le répertoire de votre projet avec le contenu suivant :

FROM python:3.8
COPY . /app
WORKDIR /app
RUN pip install -r requirements.txt
CMD ["uvicorn", "deploy:app", "--host", "0.0.0.0", "--port", "8080"]

Construire l'image :
```
docker build -t my-langserve-app .
```

Déployer sur Cloud Run :

gcloud run deploy --image gcr.io/your-project-id/my-langserve-app

Et voilà ! Votre projet LangChain est maintenant déployé sur GCP Cloud Run.

Déploiement de LangServe sur Replit

Replit est une excellente plateforme pour le prototypage rapide, et vous pouvez également l'utiliser pour déployer LangServe. Il suffit de cloner votre dépôt de projet LangServe dans Replit et de cliquer sur le bouton "Run". Replit détecte automatiquement l'application FastAPI et la déploie.

Évolutions futures de LangServe

LangServe n'est pas un outil statique ; il évolue continuellement pour répondre aux demandes croissantes de l'écosystème LangChain. Bien qu'il offre déjà un ensemble robuste de fonctionnalités pour le déploiement de LangChain, l'équipe de développement a prévu d'aller encore plus loin. Voici un aperçu de ce qui vient :

Prise en charge de plus de plateformes cloud : Alors que LangServe prend actuellement en charge le déploiement sur GCP Cloud Run et Replit, les futures mises à jour visent à inclure la compatibilité avec d'autres plates-formes cloud comme AWS et Azure.
Fonctionnalités de surveillance améliorées : La traçabilité intégrée de LangServe vers LangSmith n'est que la pointe de l'iceberg. Les prochaines versions prévoient d'offrir des fonctionnalités d'analyse et de surveillance plus approfondies pour vous aider à garder un œil plus attentif sur vos déploiements.
Fonctionnalités avancées de l'API : L'équipe de développement travaille sur l'ajout de fonctionnalités avancées de l'API, notamment le streaming de données en temps réel et les capacités de traitement par lots, pour rendre LangServe encore plus puissant.

Ces évolutions futures sont conçues pour faire de LangServe un outil encore plus indispensable pour le déploiement de LangChain. Que vous soyez un développeur solo ou membre d'une grande équipe, ces fonctionnalités à venir promettent de faciliter votre vie et de rendre vos déploiements plus robustes.

Ressources supplémentaires pour LangServe et le déploiement de LangChain

Bien que ce guide se veuille exhaustif, LangServe et LangChain ont beaucoup plus à offrir. Voici quelques ressources supplémentaires qui peuvent vous aider à approfondir votre compréhension et vos compétences :

Dépôts GitHub de déploiement de LangChain : Il existe plusieurs dépôts d'exemples disponibles sur GitHub qui démontrent différents types de déploiements de LangChain. Ce sont d'excellentes ressources pour apprendre et peuvent servir de modèles pour vos projets.
Documentation du serveur LangChain : Pour ceux qui veulent approfondir les aspects techniques, la documentation du serveur LangChain est une mine d'informations. Elle couvre tout, de la configuration de base aux fonctionnalités avancées.
Communauté Discord LangChain : Si vous avez des questions ou rencontrez des problèmes, la communauté Discord LangChain est un excellent endroit pour demander de l'aide. C'est aussi une plateforme fantastique pour établir des contacts avec d'autres développeurs LangChain et rester informé des dernières actualités et mises à jour.

LangServe Github (opens in a new tab)

LangServe API (opens in a new tab)

Conclusion

LangServe est un outil révolutionnaire qui simplifie la tâche complexe du déploiement de LangChain. Des fonctionnalités clés à un guide de configuration étape par étape détaillé, cet article vous a armé des connaissances nécessaires pour commencer à déployer vos projets LangChain comme un professionnel. Avec LangServe, le pouvoir de mise à l'échelle et de déploiement est à portée de main.

À mesure que LangServe continue d'évoluer, les opportunités de créer des déploiements LangChain plus robustes et évolutifs se multiplient également. Que vous débutiez ou que vous souhaitiez amener vos projets existants à un niveau supérieur, LangServe est l'outil que vous attendiez.

Comment utiliser le Transformer dans LangChain : Guide facile !LangSmith: Meilleure façon de tester les LLMs et applications AI