대화형 코딩 에이전트가 단일 함수 작성을 넘어 전체 코드베이스를 다루기 시작하면서 시스템의 실질적인 병목은 모델 성능이 아닌 개발자의 '인지적 병목(오케스트레이션 관리 부담)'으로 이동하고 있다는 연구 결과가 나오기 시작하고 있습니다.
명령을 수동적으로 기다리는 1:1 챗봇을 넘어 팀 인프라에 상주하며 자율적으로 작업을 감지하고 완결 짓는 에이전트 아키텍처 설계 패턴을 다룬 글을 소개합니다.
■ 단일 세션 대화형 모델의 3대 구조적 한계
• 컨텍스트 오염: 토론, 컴파일러 로그, diff 혼재로 인한 주의력 저하 및 토큰 낭비
• 유휴 모니터링 비용: 단순 이벤트 감시에 무거운 추론 모델을 계속 호출하는 비효율
• 블로킹 I/O: 긴 빌드/테스트 중 세션이 갇혀 긴급 취소나 방향 전환이 불가능한 문제
■ Orchestrator-Worker 이중화 설계
• Orchestrator Layer: 경량 모델로 이벤트/메시지를 상시 감시하고 티켓 발행·우선순위 조율만 전담
• Worker Layer: 티켓 발행 시 동적으로 스폰되는 일회성 고성능 세션으로 격리 환경에서 도구 실행 및 작업 수행
■ 동시성 제어와 엔지니어링 구현
• git worktree 격리: 독립 브랜치와 분리된 작업 디렉터리를 할당해 동시 실행 시 소스 덮어쓰기나 Git Index Lock 충돌 방지
• 비동기 Shell 전환: 긴 명령을 백그라운드로 전환해 워커 입력 채널을 상시 개방, 실시간 인터럽트 보장
• 구독 기반 맥락 추적: PR 코멘트 이벤트를 신규 작업이 아닌 기존 Worker Queue로 라우팅해 컨텍스트 유지
에이전트를 단순 코드 생성기를 넘어 안전하게 격리된 '팀의 자율 협업 파트너'로 구축하려는 분들께 시스템 설계 시 도움이 될만한 정보라고 생각합니다. 아직 초기 아이디어이고 프로토타입 구현으로 검증한 내용이라 다양한 질문과 피드백 좋습니다.