Skip to content

如何部署自托管数据平面

在部署之前,请查看 自托管数据平面的概念指南 部署选项。

重要

自托管数据平面的部署选项目前处于测试阶段,需要 企业版 计划。

先决条件

  1. 使用 LangGraph CLI 在本地 测试您的应用程序
  2. 使用 LangGraph CLI 构建 Docker 镜像(即 langgraph build),并将其推送到您的 Kubernetes 集群或 Amazon ECS 集群可以访问的注册表中。

Kubernetes

先决条件

  1. KEDA 已安装在您的集群中。

    helm repo add kedacore https://kedacore.github.io/charts 
    helm install keda kedacore/keda --namespace keda --create-namespace
    
  2. 您的集群中已安装有效的 Ingress 控制器。

  3. 您的集群中有足够的空间容纳多个部署。建议使用 Cluster-Autoscaler 自动分配新节点。

配置

  1. 您向我们提供 LangSmith 组织 ID。我们将为您的组织启用自托管数据平面。
  2. 我们为您提供一个 Helm chart,您运行此 chart 来配置您的 Kubernetes 集群。这个 chart 包含几个重要的组件。
    1. langgraph-listener: 这是一个服务,用于监听 LangChain 的 控制平面 中对您部署的更改,并创建或更新下游 CRDs。
    2. LangGraphPlatform CRD: 用于 LangGraph 平台部署的 CRD。它包含管理 LangGraph 平台部署实例的规格。
    3. langgraph-platform-operator: 此操作符处理您 LangGraph 平台 CRD 的更改。
  3. 配置您的 langgraph-dataplane-values.yaml 文件。

    config:
      langgraphPlatformLicenseKey: "" # 您的 LangGraph 平台许可证密钥
      langsmithApiKey: "" # 您的工作区 API 密钥
      langsmithWorkspaceId: "" # 工作区 ID
      hostBackendUrl: "https://api.host.langchain.com" # 仅当在欧盟时才覆盖此值
      smithBackendUrl: "https://api.smith.langchain.com" # 仅当在欧盟时才覆盖此值
    
  4. 部署 langgraph-dataplane Helm chart。

    helm repo add langchain https://langchain-ai.github.io/helm/
    helm repo update
    helm upgrade -i langgraph-dataplane langchain/langgraph-dataplane --values langgraph-dataplane-values.yaml
    
  5. 如果成功,您将在命名空间中看到两个服务启动。

    NAME                                          READY   STATUS              RESTARTS   AGE
    langgraph-dataplane-listener-7fccd788-wn2dx   0/1     Running             0          9s
    langgraph-dataplane-redis-0                   0/1     ContainerCreating   0          9s
    
  6. 您从 控制平面 UI 创建一个部署。

Amazon ECS

即将推出!