上下文窗口
Context Window
一次请求里模型能“看到”的词元总量上限,输入和输出一起算。
解释
上下文窗口包括:系统提示词、历史对话、你粘进去的文档、模型这次要写的回答。加起来超过上限,接口会直接报错,或者由客户端把最早的对话截掉。
窗口大不等于记得牢。内容放得越多,模型越容易漏掉中间的细节;真要处理长资料,先筛选再放进去,效果通常比整篇塞进去好。
常见误解
✕“窗口 100 万词元,所以可以随便塞。”能放下不代表能用好,而且输入越多越贵。
上下文窗口包括:系统提示词、历史对话、你粘进去的文档、模型这次要写的回答。加起来超过上限,接口会直接报错,或者由客户端把最早的对话截掉。
窗口大不等于记得牢。内容放得越多,模型越容易漏掉中间的细节;真要处理长资料,先筛选再放进去,效果通常比整篇塞进去好。