LangServe: Tutorial para implementación fácil de LangChain

Name: Lynn Mikami

Published on 30/4/2024

LangServe no es solo otra herramienta en el ecosistema de LangChain; es un cambio de juego. Si has estado luchando con las complejidades de implementar ejecutables y cadenas de LangChain, LangServe es la varita mágica que has estado esperando. Este artículo tiene como objetivo ser tu guía definitiva, centrándose en cómo usar LangServe para una implementación fluida de LangChain.

La importancia de LangServe no puede ser subestimada. Es el puente que lleva tus proyectos de LangChain desde la etapa de desarrollo hasta aplicaciones del mundo real. Ya seas un desarrollador experimentado o un novato en el universo de LangChain, dominar LangServe es crucial. Así que adentrémonos.

¿Qué es LangServe y por qué deberías preocuparte?

¿Qué es LangServe?

LangServe es un paquete de Python diseñado para facilitar la implementación de LangChain. Te permite implementar cualquier ejecutable o cadena de LangChain como una API REST, convirtiendo eficazmente tus proyectos de LangChain en aplicaciones listas para producción.

Inferencia automática de esquemas: No más trabajo manual para definir los esquemas de entrada y salida. LangServe lo hace por ti.
Puntos finales de API: Viene con puntos finales de API integrados como /invoke, /batch y /stream que pueden manejar múltiples solicitudes concurrentemente.
Monitoreo: Con el seguimiento integrado de LangSmith, puedes vigilar tus implementaciones en tiempo real.

¿Por qué deberías preocuparte?

Si estás en el ecosistema de LangChain, LangServe es indispensable por varias razones:

Simplifica la implementación: LangServe elimina la necesidad de configuraciones complejas, lo que te permite centrarte en tu lógica principal.
Escalabilidad: Está diseñado para escalar, lo que significa que a medida que crece tu proyecto de LangChain, LangServe crece contigo.
Ahorro de tiempo: Con funciones como inferencia automática de esquemas y eficientes puntos finales de API, LangServe te ahorra mucho tiempo, acelerando el tiempo de puesta en marcha de tu proyecto.

En esencia, LangServe no es solo una herramienta; es tu socio en la implementación. Elimina la incertidumbre de las implementaciones de LangChain, permitiéndote enfocarte en lo que haces mejor: crear increíbles proyectos de LangChain.

Características clave de LangServe en la implementación de LangChain

LangServe viene con características que lo convierten en la solución preferida para la implementación de LangChain. Aquí tienes un resumen de sus características clave:

Inferencia automática de esquema de entrada y salida: LangServe infiere automáticamente los esquemas de entrada y salida de tu objeto de LangChain. Esto elimina la necesidad de definiciones de esquemas manuales, facilitándote mucho la vida.
Puntos finales de API eficientes: LangServe te proporciona puntos finales de API eficientes como /invoke, /batch y /stream. Estos puntos finales están diseñados para manejar múltiples solicitudes concurrentes, asegurando que tu aplicación de LangChain pueda atender a varios usuarios al mismo tiempo sin problemas.
Monitoreo integrado con LangSmith: Una de las características destacadas de LangServe es su seguimiento integrado con LangSmith. Esto te permite monitorear tus implementaciones de LangChain en tiempo real, brindándote información valiosa sobre el rendimiento y la salud de tu aplicación.

Cada una de estas características está diseñada para simplificar y agilizar el proceso de implementación de tus proyectos de LangChain. Ya sea que estés implementando un chatbot simple o una herramienta de análisis de datos compleja, LangServe te tiene cubierto.

Configuración de LangServe para la implementación de LangChain: Una guía paso a paso

Prerrequisitos para la configuración de LangServe

Antes de adentrarte en la configuración de LangServe, es esencial asegurarte de tener el entorno correcto. Esto es lo que necesitarás:

Python 3.8 o superior: LangServe es un paquete de Python, por lo que necesitarás tener Python instalado en tu sistema.
LangChain CLI: Esta es la interfaz de línea de comandos para LangChain, que utilizarás para instalar LangServe.
Git: Necesitarás Git para clonar repositorios de ejemplo.

Una vez que tengas todo esto listo, estás preparado para instalar LangServe y comenzar a implementar tus proyectos de LangChain.

Instalación de LangServe

La instalación de LangServe es muy sencilla, gracias a la CLI de LangChain. Abre tu terminal y ejecuta el siguiente comando:

langchain-cli install langserve

Este comando obtiene la última versión de LangServe y la instala en tu sistema. Una vez que la instalación esté completa, puedes verificarlo ejecutando:

langserve --version

Si ves el número de versión, ¡felicidades! Has instalado LangServe correctamente.

Creación de tu primer ejecutable de LangChain

Ahora que LangServe está instalado, creemos nuestro primer ejecutable de LangChain. Un ejecutable es básicamente un fragmento de código que realiza una tarea específica en tu proyecto de LangChain. Aquí tienes un ejemplo de fragmento de código para configurar un ejecutable básico de LangChain:

from langchain import Runnable
 
class MyRunnable(Runnable):
    def run(self, input_data):
        return {"output": input_data["input"] * 2}

Guarda este código en un archivo llamado my_runnable.py.

Implementación de tu ejecutable con LangServe

Con tu ejecutable en su lugar, es hora de implementarlo usando LangServe. Crea un nuevo archivo de Python llamado deploy.py y agrega el siguiente código:

from fastapi import FastAPI
from langserve import add_routes
from my_runnable import MyRunnable
 
app = FastAPI()
runnable = MyRunnable()
 
add_routes(app, runnable)

Este código configura una aplicación FastAPI y agrega rutas para tu ejecutable usando la función add_routes de LangServe.

Para ejecutar tu aplicación FastAPI, ejecuta el siguiente comando:

uvicorn deploy:app --reload

El archivo Markdown ha sido traducido al español:

Tu LangChain runnable ahora está desplegado como una API REST, accesible en `http://localhost:8000`.

### Probando tu despliegue

Después de desplegar tu runnable, es crucial probarlo para asegurarte de que todo esté funcionando según lo esperado. Usa `curl` o Postman para enviar una solicitud POST a `http://localhost:8000/invoke` con la siguiente carga JSON:

```json
{
  "input": 5
}

Si todo está configurado correctamente, deberías recibir una respuesta JSON con el valor de salida de 10.

Opciones de despliegue para LangServe

Desplegando LangServe en GCP Cloud Run

Google Cloud Platform (GCP) es uno de los servicios en la nube más populares, y LangServe facilita enormemente el despliegue de tus proyectos de LangChain en GCP Cloud Run. Así es cómo:

Construye una imagen de Docker: Crea un Dockerfile en el directorio de tu proyecto con el siguiente contenido:

FROM python:3.8
COPY . /app
WORKDIR /app
RUN pip install -r requirements.txt
CMD ["uvicorn", "deploy:app", "--host", "0.0.0.0", "--port", "8080"]

Construye la imagen:
```
docker build -t my-langserve-app .
```

Despliégala en Cloud Run:

gcloud run deploy --image gcr.io/your-project-id/my-langserve-app

¡Y eso es todo! Tu proyecto de LangChain ahora está desplegado en GCP Cloud Run.

Desplegando LangServe en Replit

Replit es una excelente plataforma para prototipos rápidos, y también puedes usarla para desplegar LangServe. Simplemente clona tu repositorio de proyecto de LangServe en Replit y presiona el botón "Run". Replit detectará automáticamente la aplicación FastAPI y la desplegará.

Futuros desarrollos en LangServe

LangServe no es una herramienta estática; está en constante evolución para satisfacer las crecientes demandas del ecosistema de LangChain. Aunque ya ofrece un conjunto robusto de características para el despliegue de LangChain, el equipo de desarrollo tiene planes para llevarlo aún más lejos. Aquí hay un vistazo de lo que está por venir:

Soporte para más plataformas en la nube: Aunque LangServe actualmente admite el despliegue en GCP Cloud Run y Replit, las actualizaciones futuras tienen como objetivo incluir la compatibilidad con otras plataformas en la nube como AWS y Azure.
Mejora de las capacidades de seguimiento: El seguimiento incorporado de LangServe a LangSmith es solo la punta del iceberg. Las próximas versiones planean ofrecer funciones de análisis y seguimiento más detallados para ayudarte a controlar tus despliegues de cerca.
Funciones avanzadas de la API: El equipo de desarrollo está trabajando en agregar funciones más avanzadas de la API, incluyendo transmisión de datos en tiempo real y capacidades de procesamiento por lotes, para hacer que LangServe sea aún más poderoso.

Estos futuros desarrollos están diseñados para hacer de LangServe una herramienta aún más indispensable para el despliegue de LangChain. Ya sea que seas un desarrollador solitario o formes parte de un equipo grande, estas características próximas prometen hacer tu vida más fácil y tus despliegues más robustos.

Recursos adicionales para LangServe y el despliegue de LangChain

Si bien esta guía tiene como objetivo ser completa, LangServe y LangChain tienen mucho más que ofrecer. Aquí hay algunos recursos adicionales que pueden ayudarte a profundizar tu comprensión y habilidades:

Repositorios de GitHub para el despliegue de LangChain: Hay varios repositorios de ejemplo disponibles en GitHub que demuestran diferentes tipos de despliegues de LangChain. Estos son recursos excelentes para aprender y pueden servir como plantillas para tus proyectos.
Documentación del servidor de LangChain: Para aquellos que desean profundizar en los aspectos técnicos, la documentación del servidor de LangChain es un tesoro de información. Cubre desde la configuración básica hasta las características avanzadas.
Comunidad de Discord de LangChain: Si tienes preguntas o te encuentras con problemas, la comunidad de Discord de LangChain es un gran lugar para buscar ayuda. También es una plataforma fantástica para establecer contactos con otros desarrolladores de LangChain y estar al día de las últimas noticias y actualizaciones.

LangServe Github (opens in a new tab)

LangServe API (opens in a new tab)

Conclusión

LangServe es una herramienta revolucionaria que simplifica la tarea compleja del despliegue de LangChain. Desde sus características clave hasta una guía detallada paso a paso de configuración, este artículo te ha proporcionado el conocimiento que necesitas para comenzar a desplegar tus proyectos de LangChain como un profesional. Con LangServe, el poder de escalar y desplegar está al alcance de tus manos.

A medida que LangServe continúa evolucionando, también aumentan las oportunidades para crear despliegues de LangChain más robustos y escalables. Así que, ya sea que estés comenzando o buscando llevar tus proyectos existentes al siguiente nivel, LangServe es la herramienta que has estado esperando.

Cómo usar Transformer en LangChain: ¡Guía fácil!LangSmith: La mejor manera de probar LLMs y aplicaciones de IA