【代理人設計 #2】情境工程:像管理預算一樣使用情境視窗
情境視窗不是越大越好,而是相關性越高越好。本文整理四種把有限視窗當成預算使用的策略:選擇性載入、摘要、隔離與外部化,以及 CLAUDE.md 等常駐載入檔案的設計準則。
閱讀文章精選主題 · 6 篇文章
從基礎原理到實務取捨,系統化瀏覽 上下文工程 文章。
最新文章
情境視窗不是越大越好,而是相關性越高越好。本文整理四種把有限視窗當成預算使用的策略:選擇性載入、摘要、隔離與外部化,以及 CLAUDE.md 等常駐載入檔案的設計準則。
閱讀文章和 AI 工作一段時間後,會出現奇怪的時刻。它明明會重新詢問剛才訂好的條件,把前面修正過的內容改回去,還悄悄忽略對話開頭的指示。即使提醒它「我剛才說過了吧」,也只能維持一下。這不是故障,而是 AI 記住對話的方式所造成的現象;了解原理後,應對方法其實很簡單。
閱讀文章前幾篇介紹了節省上下文的方法:在工作邊界清除歷史紀錄(第3篇),並將固定成本設計得短小(第4篇)。但仍有些工作難以負荷,例如「請搞清楚這個程式碼庫中的付款邏輯如何流動」。認真的代理程式會讀取數十個檔案,所有內容都會堆進上下文。調查完成時,反而沒有足夠的上下文用來修改程式碼。
閱讀文章使用 Claude Code 等程式設計 Agent 時,畫面底部會出現「Context left until auto-compact: 8%」之類的警告。這是聊天型 AI 不會出現的提示。但能說明這個數字為何減少、歸零後會發生什麼事的人,意外地不多。
閱讀文章第 1 集我們看過上下文視窗為何有限。但看到最近的模型規格,不免會想:既然已經有 100 萬 token 的模型,直接把整個程式碼庫或文件一次放進去不就好了?還需要省著用嗎?
閱讀文章前兩篇已完成診斷。Context window 是有限的(第 1 篇),填滿也不代表全部都會被使用,而且越長效能反而越差(第 2 篇)。因此處方很明確:必須管理脈絡。包括 Claude Code 在內的程式碼代理,為此提供的最基本工具就是 /clear 與 /compact…
閱讀文章