用一个例子理解
准备一份长教案时,反复讨论可能积累大量历史。保留最新目标、确定的约束和关键资料位置,通常比把每一次闲聊原样塞回去更有帮助。
看图理解把过程看清楚
01完整历史与资料
可能超过可用容量
02选择、摘要、检索
保留当前任务重要部分
03本次上下文
模型实际收到的内容
再深入一层
截断会直接舍弃一部分内容;摘要压缩用较短表达保存要点;检索按当前问题取相关片段。应用可以组合这些方法,具体策略影响哪些信息最终进入模型。做长任务时可以维护简短任务摘要和可追溯的原始资料。
它不能说明什么
摘要也可能漏条件或改错细节。重要数字、限制和引用最好保留原文或明确来源位置。应用是否自动压缩以及何时触发,需以实际产品行为为准。
接下来可以了解
资料依据
- OpenAI · Conversation state:上下文窗口、输入输出和推理 Token;持久化状态与本次输入是不同层次。
- Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks:检索与生成结合;参考外部非参数化资料。
资料核验于 2026-09-09;原论文用于说明机制,文中例子为教学示例。