1.是什么?

LangGraph 里的 “流式传输” 功能,核心就是让 AI 应用(比如用大语言模型做的工具、对话机器人)能 “实时输出结果”,
不用等整个流程跑完,体验更流畅。
 
 
用大白话拆解重点: 
大语言模型(LLM)回应通常有点慢,流式传输能让结果 “一点点蹦出来”(比如打字机似的),用户不用干等,体验更好。
简单说,这功能就是让 LangGraph 做的 AI 应用 “更透明、更流畅”,用户能实时看到进度,开发者也方便调试,还能灵活适配各种需求。
 
 
 
langchain流式输出,它主要是处理回复的长篇文字信息内容; 
langgraph流式输出,实时看流程状态 
 

2.能实现啥效果?
实时看流程状态:比如知道 AI 现在在处理哪个步骤、当前的结果是什么(比如 “正在细化主题”“已生成笑话初稿”);
 
实时看子流程结果:如果你的 AI 流程里嵌套了小流程(子图),也能同步看到子流程的进度;
 
实时看 LLM 输出的每一个字:比如 AI 写笑话时,每个词、每句话实时蹦出来,不是最后一次性显示;
 
自定义实时消息:比如让 AI 干活时,实时发 “进度 30%”“正在调用工具查数据” 这种自定义提示;
 
调试用:能看到流程里的详细细节,方便找问题。

3.怎么用?

就像选功能开关一样,用的时候指定 “模式” 就行

values:每步结束后,输出完整的当前状态(比如 “主题:冰淇淋和猫;笑话:xxx”);
updates:每步结束后,只输出变化的部分(比如只显示 “主题新增了‘和猫’”);
messages:专门实时输出 LLM 的每一个字 / 词,还带相关信息(比如是哪个步骤调用的 LLM);
custom:只输出你自定义的消息(比如进度提示);
debug:输出所有细节,方便调试。
 

4.基本用法

LangGraph有stream(同步)和astream(异步)方法,以迭代器的形式生成流式输出。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐