![[AI 使用说明 #5] 对话变长后 AI 为什么会迷失？什么时候该开新聊天 封面图](/assets/images/posts/9f509556-9a46-43c9-9bb6-1f8d9ef334de/ai-context-window-1.jpg)
和 AI 工作一段时间后，总会出现奇怪的时刻。它明明会重新询问刚才确定的条件，把前面修改过的内容改回去，还悄悄忽略对话开头的指示。即使提醒它“我刚才说过了吧”，也只能暂时奏效。这不是故障，而是 AI 处理对话记忆的方式所导致的现象；理解原理后，应对方法其实很简单。
AI 不会记忆，而是每次重新读取
先纠正最大的误解。AI 并不是把对话内容一点点记在脑中。每次你发送消息时，它都会从头重新读取截至目前的完整对话，然后生成下一个回答。 每次都是如此。
不过，一次能够读取的内容量存在上限。这个工作空间称为上下文窗口。用书桌来比喻非常贴切。AI 每次回答时，只能看到摊在桌上的内容。对话变长，意味着文件不断堆积在桌上，而桌子的大小是固定的。
如今的模型拥有足够放下几本书的巨大书桌。即便如此，问题仍然会出现。原因有两个。
在书桌溢出之前，AI 会先分心
第一种情况是书桌真的溢出。 对话超过上限后，服务可能会截断旧对话，或将其压缩成摘要。最初确定的条件可能在这个过程中完全消失。“我刚才说过了吧”之所以不管用，是因为那个“刚才”已经被从书桌上收走了。
第二种情况更常见：书桌还没溢出，性能就已经下降。 多项研究反复确认了这一现象。面对长输入时，AI 能很好地参考开头和结尾，却相对容易忽略中间部分。这就像在堆满文件的书桌上，只有最上面和最前面的文件映入眼帘。对话越长、附件越厚，中间某处的指示和信息就越模糊。
上一篇说“数百页的资料可能会变得模糊”，原因就在这里。资料填满书桌后，其中间内容就会变得不清晰。
那么“记忆功能”是什么？
这是很容易混淆的部分。像 ChatGPT 的记忆这样能够记住用户的功能，与上下文窗口是分开的。通常有两种机制共同发挥作用。一种像笔记本，会提取并记录对话中的要点（“用户是营销人员”，“偏好使用敬语”）。另一种是搜索，需要时翻查过去的对话，找出相关段落。因此现在有时说“上周我们不是聊过这个吗”也确实有效。
不过，无论哪一种，都只是把找回来的片段放到当前书桌上，并不会让书桌本身变大。当前对话因变长而变模糊的问题，无法通过记忆解决。
3 个实用对策
对策 1：主题改变时，开启新聊天。 这是最重要、也最简单的对策。在规划旅行的聊天中继续处理报告，桌上的旅行文件会占用空间，让报告回答变得模糊。把“新主题 = 新聊天”设为默认规则吧。没有必要节省聊天记录，反正是免费的。
对策 2：长任务先总结，再迁移。 如果围绕一个主题来回交流几十次，AI 开始迷失，可以这样要求：“请总结截至目前确定的内容和决定事项。”把总结复制到新聊天的第一条消息中，然后继续。这就像清理凌乱的书桌，只把一份关键文件放到新桌上。
对策 3：重新说明重要指示。 如果必须维持长对话，就在最近的消息中偶尔重复核心条件（“使用敬语”，“不超过 300 字”）。相当于把它重新放回书桌最上方、AI 最容易看到的位置。
总结
- AI 不是在记忆，而是每次重新读取完整对话。可读取的内容量有限。
- 超过上限后，旧内容会被截断；即使尚未超过，中间内容也会先变得模糊。
- 记忆只会从过去的对话中找回必要片段并放到书桌上，不会让书桌变大。
- 新主题开新聊天，长任务总结迁移，重要指示反复说明
如果想更深入了解这个主题，尤其是使用 AI 编程工具的人，请参考本博客的 AI 上下文系列。系列会从技术角度介绍 token 和上下文管理策略。下一篇将讨论许多人期待已久的实用问题：ChatGPT、Claude、Gemini，到底该用哪个、该为哪个付费？我们将以 2026 年为基准进行梳理。