Want to Become a Sponsor? Contact Us Now!🎉

langchain-tutorials
LangServe: 쉬운 LangChain 배포를 위한 튜토리얼

LangServe: 쉬운 LangChain 배포를 위한 튜토리얼

Lynn Mikami
Name
Lynn Mikami

Published on

LangServe는 단순한 LangChain 도구가 아닙니다. 그것은 치열한 LangChain 실행 파일과 체인 배포의 복잡성에 대처하기 위한 도구입니다. LangServe는 당신이 기다리던 마법의 지팡이입니다. 이 문서는 LangServe를 사용하여 매끄러운 LangChain 배포 방법에 초점을 맞춘 궁극적인 가이드입니다.

LangServe의 중요성은 과장할 수 없습니다. LangServe는 당신의 LangChain 프로젝트를 개발 단계에서 실제 애플리케이션으로 이어주는 다리입니다. 당신이 경험 많은 개발자이든 LangChain 세계에서 새로운 사람이든, LangServe를 마스터하는 것은 중요합니다. 그러니 지금 바로 시작해보죠.

LangServe란 무엇이고 왜 신경 써야 할까요

LangServe란 무엇인가요?

LangServe는 LangChain 배포를 원활하게 만드는 Python 패키지입니다. 이를 사용하면 어떤 LangChain 실행 파일 또는 체인도 REST API로 배포할 수 있어, LangChain 프로젝트를 준비된 프로덕션 애플리케이션으로 바꿀 수 있습니다.

  • 자동 스키마 추론: 입력 및 출력 스키마를 정의하는 데 필요한 수동 작업을 거의 할 필요가 없습니다. LangServe가 대신 수행해줍니다.
  • API 엔드포인트: /invoke, /batch, /stream과 같은 기본 API 엔드포인트를 포함하고 있으며, 복수의 요청을 동시에 처리할 수 있습니다.
  • 모니터링: 내장된 LangSmith 추적 기능으로 실시간으로 배포 상태를 확인할 수 있습니다.

왜 신경 써야 할까요?

LangChain 생태계에 속한다면, LangServe는 여러 가지 이유로 필수적입니다:

  1. 배포 단순화: 복잡한 구성 설정을 필요로하지 않기 때문에, 핵심 로직에 집중하는 데 도움이 됩니다.
  2. 확장성: LangServe는 확장 가능하도록 설계되어 있습니다. 즉, LangChain 프로젝트가 성장함에 따라 LangServe도 함께 성장합니다.
  3. 시간 절약: 자동 스키마 추론 및 효율적인 API 엔드포인트와 같은 기능으로 인해, LangServe는 많은 시간을 절약해주며 프로젝트의 시장 진입 시간을 단축시킵니다.

요약하면, LangServe는 단지 도구가 아니라 배포 파트너입니다. LangChain 배포에 대한 추측을 없애줌으로써, 최고의 LangChain 프로젝트를 생성하는 데 집중할 수 있게 해줍니다.

LangChain 배포에 있어 LangServe의 주요 기능들

LangServe는 LangChain 배포를 위한 다양한 기능들을 제공합니다. 여기에는 다음과 같은 주요 기능들이 있습니다:

  • 자동 입력 및 출력 스키마 추론: LangServe는 LangChain 객체에서 자동으로 입력과 출력 스키마를 추론합니다. 이를 통해 수동 스키마 정의의 필요성을 제거하여 작업을 훨씬 간편하게 만들어줍니다.

  • 효율적인 API 엔드포인트: LangServe는 /invoke, /batch, /stream과 같이 효율적인 API 엔드포인트를 제공합니다. 이러한 엔드포인트는 여러 동시 요청을 처리하기 위해 설계되었으며, LangChain 애플리케이션이 스트레스 없이 여러 사용자에게 서비스를 제공할 수 있도록합니다.

  • LangSmith를 통한 내장된 모니터링: LangServe의 가장 돋보이는 기능 중 하나는 LangSmith에 대한 내장 추적 기능입니다. 이를 통해 애플리케이션의 성능과 상태에 대한 유용한 통찰력을 제공하여 LangChain 배포를 실시간으로 모니터링할 수 있습니다.

이러한 각 기능은 LangChain 프로젝트 배포 과정을 단순화하고 간소화하기 위해 설계되었습니다. 간단한 챗봇을 배포하거나 복잡한 데이터 분석 도구를 배포하든, LangServe가 도와줄 것입니다.

LangServe의 LangChain 배포를 위한 설정: 단계별 안내서

LangServe 설정을 위한 사전 요구 사항

LangServe 설정에 앞서 올바른 환경을 구성하는 것이 중요합니다. 다음이 필요합니다:

  • Python 3.8 이상: LangServe는 Python 패키지이므로 시스템에 Python 설치가 필요합니다.
  • LangChain CLI: 이는 LangChain의 명령 줄 인터페이스로, LangServe를 설치하는 데 사용됩니다.
  • Git: 예제 저장소를 클론하기 위해 Git이 필요합니다.

이들을 설치하면 LangServe를 설치하고 LangChain 프로젝트를 배포하기 준비가 됩니다.

LangServe 설치

LangServe를 설치하기는 매우 간단합니다. LangChain CLI 덕분에 용이하게 설치할 수 있습니다. 터미널을 열고 다음 명령을 실행하세요:

langchain-cli install langserve

이 명령은 최신 버전의 LangServe를 가져와 시스템에 설치합니다. 설치가 완료되면 다음 명령을 실행하여 확인할 수 있습니다:

langserve --version

버전 번호가 표시되면 축하합니다! LangServe를 성공적으로 설치했습니다.

첫 번째 LangChain 실행 파일 생성

이제 LangServe가 설치되었으므로 첫 번째 LangChain 실행 파일을 생성해보겠습니다. 실행 파일은 LangChain 프로젝트에서 특정 작업을 수행하는 코드 조각입니다. 다음은 기본적인 LangChain 실행 파일을 설정하기 위한 샘플 코드 스니펫입니다:

from langchain import Runnable
 
class MyRunnable(Runnable):
    def run(self, input_data):
        return {"output": input_data["input"] * 2}

이 코드를 my_runnable.py라는 이름의 파일에 저장하세요.

LangServe를 사용하여 실행 파일 배포

실행 파일을 준비한 상태에서 LangServe를 사용하여 배포해보겠습니다. deploy.py라는 새 Python 파일을 만들고 다음 코드를 추가하세요:

from fastapi import FastAPI
from langserve import add_routes
from my_runnable import MyRunnable
 
app = FastAPI()
runnable = MyRunnable()
 
add_routes(app, runnable)

이 코드는 FastAPI 애플리케이션을 설정하고, LangServe의 add_routes 함수를 사용하여 실행 파일에 대한 경로를 추가합니다.

FastAPI 애플리케이션을 실행하려면 다음 명령을 실행하세요:

uvicorn deploy:app --reload

LangServe markdown 파일을 번역해드리겠습니다. 번역 파일에 맞게 frontmatter의 language 매개변수도 ko로 번역해주시기 바랍니다. 코드는 번역하지 말고, 주석만 번역해주세요. 샘플 프롬프트의 내용은 번역하지 마십시오. Stable Diffusion과 Midjourney는 번역할 필요가 없는 제품명입니다. Kimi Chat은 중국어로 月之暗面입니다. 파일은 다음과 같습니다:

LangChain의 runnable 언어 체인이 REST API로 배포되었으며 http://localhost:8000에서 접속할 수 있습니다.

배포 테스트

runnable을 배포한 후에는 정상적으로 작동하는지 확인하기 위해 테스트하는 것이 중요합니다. 다음 JSON 페이로드를 사용하여 http://localhost:8000/invoke로 POST 요청을 보내려면 curl이나 Postman을 사용하세요:

{
  "input": 5
}

모든 것이 올바르게 설정되었다면, 출력값이 10인 JSON 응답을 받아야 합니다.

LangServe의 배포 옵션

GCP Cloud Run에 LangServe 배포하기

Google Cloud Platform (GCP)은 가장 인기 있는 클라우드 서비스 중 하나이며, LangServe를 사용하면 GCP Cloud Run에 LangChain 프로젝트를 배포하기가 매우 쉽습니다. 다음과 같이 진행하세요:

  1. Docker 이미지 빌드: 프로젝트 디렉토리에 다음 내용을 포함하는 Dockerfile을 생성하세요:

    FROM python:3.8
COPY . /app
WORKDIR /app
RUN pip install -r requirements.txt
CMD ["uvicorn", "deploy:app", "--host", "0.0.0.0", "--port", "8080"]

  2. 이미지 빌드하기:

    docker build -t my-langserve-app .

  3. Cloud Run에 배포하기:

    gcloud run deploy --image gcr.io/your-project-id/my-langserve-app

그리고 끝났습니다! LangChain 프로젝트가 이제 GCP Cloud Run에 배포되었습니다.

Replit에서 LangServe 배포하기

Replit은 빠른 프로토타이핑에 탁월한 플랫폼이며, LangServe를 배포하기 위해 이것을 사용할 수도 있습니다. LangServe 프로젝트 리포지토리를 Replit에 클론하고 "Run" 버튼을 누르면 됩니다. Replit은 FastAPI 애플리케이션을 자동으로 감지하여 배포합니다.

LangServe의 미래 개발 계획

LangServe는 정적인 도구가 아닙니다. LangChain 생태계의 성장에 부응하기 위해 지속적으로 진화하고 있습니다. 이미 LangChain 배포에 강력한 기능을 제공하지만, 개발 팀은 더 나아가기 위한 계획을 가지고 있습니다. 다가오는 개발 계획에 대한 미리보기를 제공합니다:

  • 더 많은 클라우드 플랫폼 지원: LangServe는 현재 GCP Cloud Run과 Replit에서 배포를 지원하고 있지만, 앞으로의 업데이트에서는 AWS와 Azure와 같은 다른 클라우드 플랫폼과의 호환성을 추가할 예정입니다.

  • 향상된 모니터링 기능: LangServe의 내장 추적 기능은 단지 시작입니다. 앞으로의 릴리스에서는 더 깊은 분석 및 모니터링 기능을 제공하여 배포 상황을 더욱 철저히 관리할 수 있게 될 것입니다.

  • 고급 API 기능: 개발 팀은 실시간 데이터 스트리밍 및 배치 처리 기능을 포함한 더 많은 고급 API 기능을 추가하려고 노력하고 있으며, 이로 인해 LangServe는 더욱 강력해질 것입니다.

이러한 미래 개발 계획은 LangChain 배포에 LangServe가 더욱 불가능한 도구가 되도록 설계되었습니다. 혼자 개발하거나 대규모 팀의 일원이든 상관없이, 이런 다가오는 기능들은 개발자의 삶을 더욱 편리하고 배포를 더욱 견고하게 해줄 것입니다.

LangServe와 LangChain 배포에 대한 추가 자원

이 가이드는 포괄적이지만, LangServe와 LangChain은 여러분에게 더 많은 것을 제공합니다. 다음은 여러분의 이해와 기술력을 더욱 깊이 있는 수준으로 향상시킬 수 있는 몇 가지 추가 자원입니다:

  • LangChain 배포 GitHub 리포지토리: GitHub에는 다양한 유형의 LangChain 배포를 보여주는 예제 리포지토리들이 몇 개 있습니다. 이러한 리포지토리들은 학습에 용이하며, 여러분의 프로젝트의 템플릿으로 사용될 수 있습니다.

  • LangChain 서버 문서: 기술적인 측면을 자세히 알고 싶은 사람들을 위해, LangChain 서버 문서는 정보의 보물 창고입니다. 기본 설정부터 고급 기능까지 모든 내용을 다루고 있습니다.

  • LangChain Discord 커뮤니티: 질문이 있거나 문제가 발생한 경우, LangChain Discord 커뮤니티는 도움을 받을 수 있는 좋은 장소입니다. 또한 다른 LangChain 개발자와 네트워킹을 할 수 있으며 최신 뉴스와 업데이트를 확인할 수 있는 훌륭한 플랫폼입니다.

결론

LangServe는 LangChain 배포의 복잡한 작업을 간소화하는 혁신적인 도구입니다. 핵심 기능부터 자세한 단계별 설정 가이드까지, 이 글은 여러분이 프로처럼 LangChain 프로젝트를 배포할 수 있도록 필요한 지식을 제공합니다. LangServe를 사용하면 확장성과 배포 능력이 손에 닿습니다.

LangServe가 계속 발전함에 따라 더 강력하고 확장 가능한 LangChain 배포 기회도 함께 발전합니다. 따라서 막 시작하려는 분들이나 기존 프로젝트를 더욱 발전시키려는 분들에게 기다리고 있던 도구가 바로 LangServe라는 것을 기억해주세요.

Anakin AI - The Ultimate No-Code AI App Builder
Transformer를 LangChain에서 사용하는 방법: 쉬운 가이드!LangSmith: LLM과 AI 어플리케이션 테스트하는 최고의 방법