如何部署自托管数据平面¶
在部署之前,请查看自托管数据平面概念指南部署选项。
前提条件¶
- 使用 LangGraph CLI 在本地测试你的应用程序。
- 使用 LangGraph CLI 构建一个 Docker 镜像(即
langgraph build
),并将其推送到你的 Kubernetes 集群或 Amazon ECS 集群可以访问的镜像仓库。
Kubernetes¶
前提条件¶
-
你的集群已安装
KEDA
。helm repo add kedacore https://kedacore.github.io/charts helm install keda kedacore/keda --namespace keda --create-namespace
-
你的集群已安装有效的
Ingress
控制器。 - 你的集群有足够的空闲空间用于多次部署。建议使用
Cluster-Autoscaler
自动调配新节点。
设置¶
- 你提供给我们你的 LangSmith 组织 ID。我们将为你的组织启用自托管数据平面。
- 我们会提供给你一个 Helm 图表,你可以运行该图表来设置你的 Kubernetes 集群。此图表包含几个重要组件。
langgraph-listener
:这是一个服务,用于监听 LangChain 的控制平面中部署的更改,并创建/更新下游自定义资源定义(CRD)。LangGraphPlatform CRD
:用于 LangGraph 平台部署的自定义资源定义。它包含管理 LangGraph 平台部署实例的规范。langgraph-platform-operator
:此操作符处理 LangGraph 平台自定义资源定义的更改。
-
配置你的
langgraph-dataplane-values.yaml
文件。config: langgraphPlatformLicenseKey: "" # 你的 LangGraph 平台许可证密钥 langsmithApiKey: "" # 你的工作区 API 密钥 langsmithWorkspaceId: "" # 工作区 ID hostBackendUrl: "https://api.host.langchain.com" # 仅在使用欧盟服务器时覆盖此值 smithBackendUrl: "https://api.smith.langchain.com" # 仅在使用欧盟服务器时覆盖此值
-
部署
langgraph-dataplane
Helm 图表。helm repo add langchain https://langchain-ai.github.io/helm/ helm repo update helm upgrade -i langgraph-dataplane langchain/langgraph-dataplane --values langgraph-dataplane-values.yaml
-
如果部署成功,你将在你的命名空间中看到两个服务启动。
NAME READY STATUS RESTARTS AGE langgraph-dataplane-listener-7fccd788-wn2dx 0/1 Running 0 9s langgraph-dataplane-redis-0 0/1 ContainerCreating 0 9s
-
你可以从控制平面用户界面创建一个部署。
亚马逊弹性容器服务(Amazon ECS)¶
即将推出!