Skip to content

如何部署自托管数据平面

在部署之前,请查看自托管数据平面概念指南部署选项。

前提条件

  1. 使用 LangGraph CLI 在本地测试你的应用程序
  2. 使用 LangGraph CLI 构建一个 Docker 镜像(即 langgraph build),并将其推送到你的 Kubernetes 集群或 Amazon ECS 集群可以访问的镜像仓库。

Kubernetes

前提条件

  1. 你的集群已安装 KEDA

    helm repo add kedacore https://kedacore.github.io/charts 
    helm install keda kedacore/keda --namespace keda --create-namespace
    
  2. 你的集群已安装有效的 Ingress 控制器。

  3. 你的集群有足够的空闲空间用于多次部署。建议使用 Cluster-Autoscaler 自动调配新节点。

设置

  1. 你提供给我们你的 LangSmith 组织 ID。我们将为你的组织启用自托管数据平面。
  2. 我们会提供给你一个 Helm 图表,你可以运行该图表来设置你的 Kubernetes 集群。此图表包含几个重要组件。
    1. langgraph-listener:这是一个服务,用于监听 LangChain 的控制平面中部署的更改,并创建/更新下游自定义资源定义(CRD)。
    2. LangGraphPlatform CRD:用于 LangGraph 平台部署的自定义资源定义。它包含管理 LangGraph 平台部署实例的规范。
    3. langgraph-platform-operator:此操作符处理 LangGraph 平台自定义资源定义的更改。
  3. 配置你的 langgraph-dataplane-values.yaml 文件。

    config:
      langgraphPlatformLicenseKey: "" # 你的 LangGraph 平台许可证密钥
      langsmithApiKey: "" # 你的工作区 API 密钥
      langsmithWorkspaceId: "" # 工作区 ID
      hostBackendUrl: "https://api.host.langchain.com" # 仅在使用欧盟服务器时覆盖此值
      smithBackendUrl: "https://api.smith.langchain.com" # 仅在使用欧盟服务器时覆盖此值
    
  4. 部署 langgraph-dataplane Helm 图表。

    helm repo add langchain https://langchain-ai.github.io/helm/
    helm repo update
    helm upgrade -i langgraph-dataplane langchain/langgraph-dataplane --values langgraph-dataplane-values.yaml
    
  5. 如果部署成功,你将在你的命名空间中看到两个服务启动。

    NAME                                          READY   STATUS              RESTARTS   AGE
    langgraph-dataplane-listener-7fccd788-wn2dx   0/1     Running             0          9s
    langgraph-dataplane-redis-0                   0/1     ContainerCreating   0          9s
    
  6. 你可以从控制平面用户界面创建一个部署。

亚马逊弹性容器服务(Amazon ECS)

即将推出!

Comments