![[AI 使用說明 #5] 對話變長後 AI 為何會迷失？何時該開新聊天 封面圖](/assets/images/posts/9f509556-9a46-43c9-9bb6-1f8d9ef334de/ai-context-window-1.jpg)
和 AI 工作一段時間後，會出現奇怪的時刻。它明明會重新詢問剛才訂好的條件，把前面修正過的內容改回去，還悄悄忽略對話開頭的指示。即使提醒它「我剛才說過了吧」，也只能維持一下。這不是故障，而是 AI 記住對話的方式所造成的現象；了解原理後，應對方法其實很簡單。
AI 不會記憶，而是每次重新讀取
先釐清最大的誤解。AI 並不是把對話內容一點一點記在腦中。每次你傳送訊息時，它都會從頭重新讀取目前為止的完整對話，再產生下一個回答。 每一次都是如此。
不過，一次能讀取的內容量有上限。這個工作空間稱為 context window（上下文視窗）。用書桌來比喻很貼切。AI 每次回答時，只看得到攤在桌上的內容。對話變長，就代表文件不斷堆在桌上，而桌子的大小是固定的。
現在的模型擁有足以一次放下幾本書的巨大書桌，但問題仍會發生。原因有兩個。
在書桌溢出前，AI 會先分心
第一種情況是書桌真的溢出。 對話超過上限後，服務可能會依情況截斷舊對話，或壓縮成摘要。起初設定的條件可能在這個過程中完全消失。「我剛才說過了吧」之所以不管用，是因為那個「剛才」已經被從書桌上收走了。
第二種更常見：即使書桌還沒溢出，效能也會下降。 多項研究反覆確認了這個現象。面對長輸入時，AI 能良好參考前段和後段，卻相對容易忽略中間部分。這就像文件堆積如山的書桌上，只有最上方和最前面的文件映入眼簾。對話越長、附加文件越厚，中間某處的指示與資訊就越模糊。
上一篇提到「數百頁的資料可能會被弄得模糊」，原因就在這裡。資料塞滿書桌後，其中間內容就會變得不清楚。
那麼「記憶功能」是什麼？
這是很容易混淆的部分。像 ChatGPT 記憶這類會記住使用者的功能，和 context window 是分開的。大致上有兩種機制一起協助。一種像筆記本，會擷取對話中的重點（「使用者是行銷人員」、「偏好使用敬語」）並記下來。另一種則是搜尋，必要時翻找過去的對話，找出相關段落。因此現在也常會出現「上週不是談過那件事嗎」真的有效的情況。
但無論是哪一種，都只是把找回來的片段放到現在的書桌上，並不會讓書桌本身變大。現在這段對話因變長而變模糊的問題，無法靠記憶功能解決。
3 個實戰對策
對策 1：主題改變時，開啟新的聊天。 這是最重要、也最簡單的對策。在規劃旅行的聊天室裡接著做報告，桌上的旅行文件會佔據空間，讓報告回答變得模糊。把「新主題＝新聊天」當成預設吧。沒有必要節省聊天室，反正是免費的。
對策 2：長期工作先摘要，再搬家。 同一主題往返幾十次、AI 開始迷失時，可以這樣要求：「請整理目前為止確定的內容與決定事項。」把摘要複製到新聊天的第一則訊息，接著繼續。這就像清空凌亂的書桌，只把一張重要文件放到新桌上。
對策 3：重新說明重要指示。 如果必須維持長對話，就在最近的訊息中不時重複核心條件（「使用敬語」、「300 字以內」）。等於把它重新放回書桌最上方、AI 最容易看到的位置。
總結
- AI 不是在記憶，而是每次重新讀取完整對話。可讀取的內容量有限。
- 超過上限後，舊內容會被截斷；即使尚未超過，中間內容也會先變模糊。
- 記憶功能只會從過去對話找回必要片段放到書桌上，不會讓書桌變大。
- 新主題開新聊天，長期工作摘要搬家，重要指示反覆說明
如果想更深入了解這個主題，尤其是使用 AI 程式碼工具的人，請參考本部落格的 AI context 系列。系列會從技術角度探討 token 與 context 管理策略。下一篇是許多人期待已久的實戰問題：ChatGPT、Claude、Gemini，到底該用哪個、該付費哪個？以 2026 年為基準整理。