流式处理¶
LangGraph 实现了一个流式系统,用于展示实时更新,从而实现响应迅速且透明的用户体验。
LangGraph 的流式系统允许你将图运行中的实时反馈显示在你的应用中。
你可以流式传输三种主要类型的数据:
- 工作流进度 — 每个图节点执行后获取状态更新。
- LLM 令牌 — 在语言模型生成时流式传输令牌。
- 自定义更新 — 发出用户定义的信号(例如,“已获取 10/100 条记录”)。
LangGraph 流式处理的可能功能¶
- 流式处理 LLM 令牌 — 从任何位置捕获令牌流:节点内部、子图或工具中。
- 从工具发出进度通知 — 直接从工具函数发送自定义更新或进度信号。
- 从子图流式处理 — 包括来自父图和任何嵌套子图的输出。
- 使用任何 LLM — 即使它不是 LangChain 模型,也可以通过
custom
流式处理模式从任何 LLM 流式处理令牌。 - 使用多种流式处理模式 — 可以选择
values
(完整状态)、updates
(状态差异)、messages
(LLM 令牌 + 元数据)、custom
(任意用户数据)或debug
(详细跟踪)。