LangGraph 平台¶
使用 LangGraph 平台 开发、部署、扩展和管理代理 —— 专为长期运行的代理工作流而设计的平台。
开始使用 LangGraph 平台
请查看 LangGraph 平台快速入门,了解如何使用 LangGraph 平台在本地运行 LangGraph 应用程序。
为什么使用 LangGraph 平台?¶
LangGraph 平台使得将你的代理(agent)部署到生产环境变得非常容易,无论它是用 LangGraph 还是其他框架构建的。这样你可以专注于应用程序逻辑,而不是基础设施。只需点击一次即可部署并获得一个实时端点,并利用我们强大的 API 和内置的任务队列来处理生产规模的需求。
-
流式传输支持: 随着代理变得更复杂,它们通常可以从向用户流式传输令牌输出和中间状态中获益。如果没有这种功能,用户在长时间操作时可能会没有反馈,只能等待。LangGraph 服务器提供了多种针对不同应用需求优化的流式传输模式。
-
后台运行: 对于需要较长时间处理的代理(例如数小时),保持连接开放可能不切实际。LangGraph 服务器支持在后台启动代理运行,并提供轮询端点和 Webhook 来有效监控运行状态。
-
支持长时间运行: 普通服务器设置在处理耗时较长的请求时,常常会遇到超时或中断的问题。LangGraph 服务器的 API 提供了对这些任务的强大支持,通过发送定期的心跳信号,防止在长时间过程中出现意外连接关闭。
-
处理突发流量: 某些应用,尤其是具有实时用户交互的应用,可能会经历“突发”请求负载,即大量请求同时到达服务器。LangGraph 服务器包含任务队列,即使在高负载情况下也能确保请求得到一致处理而不会丢失。
-
双发消息: 在由用户驱动的应用程序中,用户可能会快速发送多条消息。如果处理不当,这种“双发消息”可能会干扰代理流程。LangGraph 服务器提供内置策略来处理和管理此类交互。
-
检查点与内存管理: 对于需要持久化的代理(例如对话记忆),部署一个可靠的存储解决方案可能很复杂。LangGraph 平台包括优化的 检查点器 和 内存存储,可以在会话之间管理状态,无需自定义解决方案。
-
人工干预支持: 在许多应用中,用户需要一种方式来介入代理流程。LangGraph 服务器为人工干预场景提供专用端点,简化了人工监督在代理工作流中的集成。
-
LangGraph Studio: 支持可视化、交互和调试实现 LangGraph 服务器 API 协议的智能代理系统。Studio 还与 LangSmith 集成,以启用追踪、评估和提示工程。