流式输出

定义

流式输出是在 token 生成时将 AI 模型输出增量发送给客户端的技术，而不是等待完整响应。这大大提高了感知响应速度——用户看到文字逐词出现，而不是长时间等待后突然出现完整回复。几乎所有现代 AI 聊天界面都使用流式输出。