它们会毒害自身的语境。或许你可以称之为语境腐烂。随着语境的增长，尤其是在出现大量干扰和死胡同的情况下，输出质量会迅速下降。即使在语境良好的情况下，这种腐烂也会在大约 10 万个 token 时开始显现（使用 Gemini 2.5）。
他们确实需要找到一种方法来删除或“忘记”先前的上下文，以便用户甚至模型可以返回并修剪有害的标记。
现在，我解决这个问题的方法是定期对实例进行总结，然后根据新的上下文启动一个新实例，并输入前一个实例的总结。
— Workaccount2 在 Hacker News 上提出了“上下文腐烂”这一说法
原文： https://simonwillison.net/2025/Jun/18/context-rot/#atom-everything