如何部署自托管数据平面¶
在部署之前,请查看 自托管数据平面的概念指南 部署选项。
重要
自托管数据平面的部署选项目前处于测试阶段,需要 企业版 计划。
先决条件¶
- 使用 LangGraph CLI 在本地 测试您的应用程序。
- 使用 LangGraph CLI 构建 Docker 镜像(即
langgraph build
),并将其推送到您的 Kubernetes 集群或 Amazon ECS 集群可以访问的注册表中。
Kubernetes¶
先决条件¶
-
KEDA
已安装在您的集群中。helm repo add kedacore https://kedacore.github.io/charts helm install keda kedacore/keda --namespace keda --create-namespace
-
您的集群中已安装有效的
Ingress
控制器。 - 您的集群中有足够的空间容纳多个部署。建议使用
Cluster-Autoscaler
自动分配新节点。
配置¶
- 您向我们提供 LangSmith 组织 ID。我们将为您的组织启用自托管数据平面。
- 我们为您提供一个 Helm chart,您运行此 chart 来配置您的 Kubernetes 集群。这个 chart 包含几个重要的组件。
langgraph-listener
: 这是一个服务,用于监听 LangChain 的 控制平面 中对您部署的更改,并创建或更新下游 CRDs。LangGraphPlatform CRD
: 用于 LangGraph 平台部署的 CRD。它包含管理 LangGraph 平台部署实例的规格。langgraph-platform-operator
: 此操作符处理您 LangGraph 平台 CRD 的更改。
-
配置您的
langgraph-dataplane-values.yaml
文件。config: langgraphPlatformLicenseKey: "" # 您的 LangGraph 平台许可证密钥 langsmithApiKey: "" # 您的工作区 API 密钥 langsmithWorkspaceId: "" # 工作区 ID hostBackendUrl: "https://api.host.langchain.com" # 仅当在欧盟时才覆盖此值 smithBackendUrl: "https://api.smith.langchain.com" # 仅当在欧盟时才覆盖此值
-
部署
langgraph-dataplane
Helm chart。helm repo add langchain https://langchain-ai.github.io/helm/ helm repo update helm upgrade -i langgraph-dataplane langchain/langgraph-dataplane --values langgraph-dataplane-values.yaml
-
如果成功,您将在命名空间中看到两个服务启动。
NAME READY STATUS RESTARTS AGE langgraph-dataplane-listener-7fccd788-wn2dx 0/1 Running 0 9s langgraph-dataplane-redis-0 0/1 ContainerCreating 0 9s
-
您从 控制平面 UI 创建一个部署。
Amazon ECS¶
即将推出!