上下文窗口

AI 在一次对话中能"记住"多少内容

定义

上下文窗口是语言模型一次能处理的最大文本量（以 token 计算），包括输入和输出。20 万 token 的上下文窗口大约可以容纳一本书的内容。更大的上下文窗口支持更长的对话、更复杂的任务，以及无需分块处理大型文档。