词元字典CIYUAN ZIDIAN

上下文窗口

Context Window
一次请求里模型能“看到”的词元总量上限,输入和输出一起算。

解释

上下文窗口包括:系统提示词、历史对话、你粘进去的文档、模型这次要写的回答。加起来超过上限,接口会直接报错,或者由客户端把最早的对话截掉。

窗口大不等于记得牢。内容放得越多,模型越容易漏掉中间的细节;真要处理长资料,先筛选再放进去,效果通常比整篇塞进去好。

常见误解

✕“窗口 100 万词元,所以可以随便塞。”能放下不代表能用好,而且输入越多越贵。

相关词条