title: "LangServe: 簡単なLangChainデプロイのためのチュートリアル" description: "LangServeという究極のLangChainデプロイツールに足を踏み入れてみましょう。この包括的なガイドでは、主要な機能、設定、デプロイオプションについて説明し、LangChainプロジェクトをプロのようにスケールさせる知識を提供します。" date: 2024-04-30 language: ja author: lynn

LangServe: 簡単なLangChainデプロイのためのチュートリアル

Published on 2024/4/30

LangServeは、LangChainエコシステムのただの別のツールではありません。それはゲームチェンジャーです。LangChainランナブルとチェーンのデプロイの複雑さに悩んでいるなら、LangServeは待ち望んでいた魔法の杖です。この記事は、LangServeをシームレスなLangChainデプロイに使用する方法に焦点を当てた究極のガイドです。

LangServeの重要性は言い尽くせません。それは、LangChainプロジェクトを開発段階から実世界のアプリケーションに移行する橋です。LangChainユニバースの経験豊富な開発者でも、LangChainの魔法の杖は習得する必要があります。さあ、始めましょう。

LangServeとは何か？そしてなぜ気にすべきか

LangServeとは？

LangServeは、LangChainのデプロイをバターのようにスムーズにするために設計されたPythonパッケージです。これにより、LangChainのプロジェクトが本番のアプリケーションとして展開されるように、LangChainランナブルまたはチェーンをREST APIとしてデプロイすることができます。

自動スキーマの推論: 入力と出力のスキーマを定義するために手作業が必要ありません。LangServeが代わりにやってくれます。
APIエンドポイント: /invoke、/batch、/streamなどの組み込みAPIエンドポイントがあり、複数のリクエストを同時に処理できます。
モニタリング: 組み込みのLangSmithトレーシングにより、デプロイのリアルタイムモニタリングが可能です。

なぜ気にすべきか？

LangChainエコシステムに属している場合、LangServeは以下の理由で不可欠です。

デプロイの単純化: LangServeは複雑な設定の必要性をなくし、あなたが本質に集中できるようにします。
スケーラビリティ: 成長するLangChainプロジェクトに対応できるように設計されており、LangServeも一緒に成長します。
時間の節約: 自動スキーマ推論や効率的なAPIエンドポイントなどの機能により、LangServeは多くの時間を節約し、プロジェクトのリリースまでの時間を短縮します。

要するに、LangServeは単なるツールではなく、デプロイのパートナーです。LangChainのデプロイに関する推測作業をなくし、あなたが得意なことに集中できるようにします：素晴らしいLangChainプロジェクトの作成。

LangServeの主要機能 - LangChainデプロイにおける

LangServeには、LangChainデプロイのためのゴートゥソリューションとなる機能が満載です。以下に主な特徴をまとめました。

自動的な入力と出力のスキーマ推論: LangServeはLangChainオブジェクトから入力と出力のスキーマを自動的に推論します。これにより、手動でのスキーマの定義が不要になり、より簡単になります。
効率的なAPIエンドポイント: LangServeは、/invoke、/batch、/streamなどの効率的なAPIエンドポイントを提供します。これらのエンドポイントは、複数の同時リクエストを処理できるように設計されており、LangChainアプリケーションがスムーズに複数のユーザーに対応できます。
LangSmithに組み込まれたモニタリング: LangServeの最も注目すべき特徴の1つは、LangSmithへのトレースが組み込まれていることです。これにより、LangChainのデプロイをリアルタイムでモニタリングし、アプリケーションのパフォーマンスと健全性に関する貴重な情報を提供できます。

これらの各機能は、LangChainプロジェクトのデプロイのプロセスを簡素化し、効率的にするために設計されています。単純なチャットボットから複雑なデータ分析ツールまで、LangServeはあなたをサポートします。

LangServeのLangChainデプロイのためのセットアップ - ステップバイステップのガイド

LangServeセットアップの前提条件

LangServeのセットアップに入る前に、適切な環境を整えることが重要です。以下が必要なものです。

Python 3.8以上: LangServeはPythonパッケージなので、システムにPythonがインストールされている必要があります。
LangChain CLI: これはLangChainのコマンドラインインターフェースであり、LangServeをインストールするために使用します。
Git: サンプルリポジトリをクローンするために、Gitが必要です。

これらを揃えてから、LangServeをインストールし、LangChainプロジェクトのデプロイを開始できます。

LangServeのインストール

LangChain CLIのおかげで、LangServeのインストールは簡単です。ターミナルを開き、以下のコマンドを実行します:

langchain-cli install langserve

このコマンドはLangServeの最新バージョンを取得し、システムにインストールします。インストールが完了したら、次のコマンドを実行してバージョン番号を確認できます：

langserve --version

バージョン番号が表示されれば、おめでとうございます！LangServeが正常にインストールされました。

最初のLangChainランナブルの作成

LangServeがインストールされたので、最初のLangChainランナブルを作成しましょう。ランナブルは、LangChainプロジェクトで特定のタスクを実行するコードの一部です。以下は基本的なLangChainランナブルをセットアップするためのサンプルコードの抜粋です：

from langchain import Runnable
 
class MyRunnable(Runnable):
    def run(self, input_data):
        return {"output": input_data["input"] * 2}

このコードをmy_runnable.pyという名前のファイルに保存します。

LangServeを使用してランナブルをデプロイする

ランナブルが準備できたら、LangServeを使用してデプロイします。deploy.pyという新しいPythonファイルを作成し、次のコードを追加します：

from fastapi import FastAPI
from langserve import add_routes
from my_runnable import MyRunnable
 
app = FastAPI()
runnable = MyRunnable()
 
add_routes(app, runnable)

このコードはFastAPIアプリケーションをセットアップし、LangServeのadd_routes関数を使用してランナブルのルートを追加します。

FastAPIアプリケーションを実行するには、次のコマンドを実行します：

uvicorn deploy:app --reload

あなたのLangChain runnableは、http://localhost:8000でアクセス可能なREST APIとして展開されました。

デプロイのテスト

デプロイしたrunnableをテストして、すべてが予想どおりに動作していることを確認するために、テストを行うことは重要です。次のJSONペイロードを使用して、http://localhost:8000/invokeにPOSTリクエストを送信するためにcurlまたはPostmanを使用します。

{
  "input": 5
}

すべてが正しく設定されている場合、出力値が10のJSONレスポンスを受け取るはずです。

LangServeの展開オプション

GCP Cloud RunでのLangServeの展開

Google Cloud Platform (GCP)は、最も人気のあるクラウドサービスの1つであり、LangServeを使用すると、LangChainプロジェクトをGCP Cloud Runに簡単に展開できます。以下の手順で展開できます。

Dockerイメージのビルド: プロジェクトディレクトリにDockerfileを作成し、次の内容を記述します。

FROM python:3.8
COPY . /app
WORKDIR /app
RUN pip install -r requirements.txt
CMD ["uvicorn", "deploy:app", "--host", "0.0.0.0", "--port", "8080"]

イメージのビルド:
```
docker build -t my-langserve-app .
```

Cloud Runに展開:

gcloud run deploy --image gcr.io/your-project-id/my-langserve-app

以上です！LangChainプロジェクトは、GCP Cloud Runに展開されました。

ReplitでのLangServeの展開

Replitは、素早いプロトタイピングに適した優れたプラットフォームであり、LangServeを展開するためにも使用できます。LangServeプロジェクトリポジトリをReplitにクローンし、「Run」ボタンを押すだけです。Replitは、FastAPIアプリケーションを自動的に検出して展開します。

LangServeの将来の開発

LangServeは静的なツールではありません。LangChainエコシステムの成長に対応するため、常に進化し続けています。LangChainの展開において既に強力な機能セットを提供していますが、開発チームはさらなる発展を計画しています。次の内容についての予告です：

より多くのクラウドプラットフォームのサポート: 現在LangServeはGCP Cloud RunとReplitでの展開をサポートしていますが、今後の更新ではAWSやAzureなどの他のクラウドプラットフォームとの互換性も目指します。
強化されたモニタリング機能: LangServeの組み込みトレーシングはまだ冒頭に過ぎません。今後のリリースでは、より詳細な分析とモニタリング機能を提供し、デプロイにより密な目を光らせるのに役立ちます。
高度なAPI機能: 開発チームは、リアルタイムデータストリーミングやバッチ処理機能など、より高度なAPI機能の追加に取り組んでおり、LangServeをさらに強力なツールにしています。

これらの将来の開発は、LangServeをLangChainの展開においてますます欠かせないツールにするために設計されています。単独の開発者であろうと、大規模なチームの一員であろうと、これらの今後の機能により、より簡単に、より堅牢なデプロイが実現されます。

LangServeとLangChainの展開に関する追加リソース

このガイドは包括的であることを目指していますが、LangServeとLangChainにはさらなる提供物があります。以下は、理解を深め、スキルを向上させるのに役立ついくつかの追加リソースです：

LangChain展開のGitHubリポジトリ：GitHubには、さまざまなタイプのLangChain展開を示すいくつかの例があります。これらは学習に優れたリソースであり、プロジェクトのテンプレートとしても利用できます。
LangChainサーバーのドキュメント：技術的な側面により深く入りたい方には、LangChainサーバーのドキュメントが情報の宝庫です。基本的なセットアップから高度な機能まで網羅しています。
LangChain Discordコミュニティ：質問や問題がある場合は、LangChain Discordコミュニティはお問い合わせの場所として最適です。また、他のLangChain開発者とのネットワーキングや最新のニュースとアップデートについての情報を得るためにも、素晴らしいプラットフォームです。

LangServe Github (opens in a new tab)

LangServe API (opens in a new tab)

結論

LangServeは、LangChainの展開という複雑なタスクを簡素化する画期的なツールです。この記事では、主要な機能から詳細な手順のセットアップガイドまで、プロ仕様のLangChainプロジェクトの展開を開始するために必要な知識を提供しました。LangServeを使用することで、スケーリングと展開の力が手の届く範囲にあります。

LangServeが進化し続けるにつれて、より堅牢でスケーラブルなLangChain展開の機会も拡大しています。ですので、初めての方でも既存のプロジェクトを次のレベルに引き上げたい方でも、LangServeは待ち望んでいたツールです。

LangChainでトランスフォーマーを使う方法：簡単ガイド！LangSmith: LLMとAIアプリケーションをテストする最良の方法