[에이전트 설계 #2] 컨텍스트 엔지니어링, 컨텍스트 윈도우를 예산처럼 쓰는 법
컨텍스트 윈도우는 클수록 좋은 게 아니라 관련성이 높을수록 좋습니다. 유한한 창을 예산처럼 쓰는 선별 로딩·요약·격리·외부화 네 전략과 CLAUDE.md 같은 상시 로드 파일의 설계 기준을 정리했습니다.
읽어보기CURATED TOPIC · 6 POSTS
컨텍스트 윈도우, 메모리, 캐시와 정보 배치가 AI 에이전트 품질에 미치는 영향을 다룹니다.
LATEST ARTICLES
컨텍스트 윈도우는 클수록 좋은 게 아니라 관련성이 높을수록 좋습니다. 유한한 창을 예산처럼 쓰는 선별 로딩·요약·격리·외부화 네 전략과 CLAUDE.md 같은 상시 로드 파일의 설계 기준을 정리했습니다.
읽어보기AI와 한참 작업하다 보면 이상한 순간이 옵니다. 분명 아까 정한 조건을 다시 물어보고, 앞에서 고친 내용을 되돌려 놓고, 대화 초반의 지시를 슬그머니 무시합니다. "아까 말했잖아"라고 짚어줘도 잠깐뿐이죠. 고장이 아닙니다. AI가 대화를 기억하는 방식 자체에서 나오는 현상이고,…
읽어보기앞선 편들에서 컨텍스트를 아끼는 법을 봤습니다. 이력은 작업 경계마다 비우고(3편), 고정비는 짧게 설계하고(4편). 그런데 이렇게 아껴도 감당이 안 되는 작업이 있습니다. "이 코드베이스에서 결제 로직이 어떻게 흘러가는지 파악해줘" 같은 요청이 대표적이에요. 성실한 에이전트는…
읽어보기1편에서 컨텍스트 윈도우가 왜 유한한지를 봤습니다. 그런데 요즘 모델 스펙을 보면 이런 생각이 듭니다. 이미 100만 토큰짜리 모델이 나왔는데, 그냥 코드베이스든 문서든 통째로 넣으면 되는 것 아닐까. 아껴 쓰고 말고 할 게 있나.
읽어보기앞선 두 편에서 진단을 마쳤습니다. 컨텍스트 윈도우는 유한하고(1편), 채운다고 다 쓰이는 것도 아니며 길어질수록 오히려 성능이 떨어집니다(2편). 그럼 처방은 하나로 모입니다. 컨텍스트를 관리해야 합니다. 그리고 Claude Code를 비롯한 코딩 에이전트들이 이를 위해…
읽어보기Claude Code 같은 코딩 에이전트를 쓰다 보면 화면 아래에 "Context left until auto-compact: 8%" 같은 경고가 뜹니다. 채팅형 AI에서는 본 적 없는 표시죠. 그런데 이 숫자가 왜 줄어드는지, 0이 되면 무슨 일이 벌어지는지 설명할 수 있는…
읽어보기