- 에이전트가 빠르고 매끄러우며 대체로 정확한 답을 내놓을수록, 사람이 다시 살펴볼 계기는 줄어듦. 에이전트 사용을 줄이기보다 비판적 사고를 작업 흐름에 의도적으로 넣어야 함
- 작업을 맡기면서 결과에 대한 주도권을 유지하는 인지적 위임과, AI의 답을 확인 없이 자기 생각으로 받아들이는 인지적 항복은 다름. 에이전트의 도움으로도 결과를 설명할 수 없다면 주도권을 넘긴 상태임
- 검증의 병목은 테스트를 만드는 비용보다 좋은 검증이 무엇인지 판단하는 능력에 있음. 통과 표시만 볼 것이 아니라 무엇을 입증했고 무엇을 확인하지 않았는지 따져야 함
- 결과물 검토는 코드나 문서의 표면을 읽는 데서 끝나지 않음. 에이전트가 대신 정한 기본값, 가정, 범위와 요구사항 해석을 확인하고, 자신이 책임질 수 있는 속도로 작업량을 조절해야 함
- 사람의 사고는 작업 중간에서 요청과 맥락을 만드는 앞단, 결과를 평가하는 뒷단으로 이동함. 모델이 더 좋아져도 무엇을 왜 만들며 누구에게 영향을 주는지 판단하고 결과에 책임지는 일은 남음
- 비판적 사고의 기본은 새로운 정보를 겸손한 호기심과 건전한 의심으로 대하고, 여러 시각을 받아들인 뒤 스스로 판단하는 것임
- 과거에는 질문과 답 사이에서 많은 인지적 처리와 미적 판단이 이뤄졌지만, 에이전트는 그 간격을 몇 초로 줄임
- 모델이 개선될수록 명백한 오류가 줄고, 잘 쓰였으며 대체로 정확한 결과가 재검토를 유도하지 않을 수 있음
- 여러 에이전트를 병렬로 실행해도 결과를 보는 사람의 눈은 한 쌍뿐임
- 빠르고 쾌적하며 자주 맞는 답변은 바쁜 일상에 도움이 되지만, 그 편안함 때문에 경계심을 내려놓기 쉬움
- 필요한 것은 에이전트 중심 작업 흐름을 줄이는 일이 아니라, 저절로 일어나지 않는 비판적 사고를 일상에 설계하는 일임
- AI에 일을 맡기는 방식은 세 단계의 연속선으로 구분할 수 있음
- 인지적 위임(cognitive offloading): 작업은 AI에 맡기되 결과에 대한 주도권은 유지함
- 판단 유보(deferral): 도구의 결과를 더 이상 가설로 다루지 않고 다음 작업의 입력으로 받아들임
- 인지적 항복(cognitive surrender): AI의 출력이 조용히 자신의 생각이 되고, 확인할 필요를 느끼지 않음
- 인지적 항복은 Wharton의 Steven Shaw와 Gideon Nave가 만든 용어임
- 신뢰나 나태함이 커지면서 답을 정독하던 사람이 다음에는 훑어보고, 그다음에는 구조만 살펴보는 식으로 점차 이동할 수 있음
- 각각의 변화는 합리적으로 보여 잘 드러나지 않지만, 특정 줄에 대한 질문을 받았을 때 에이전트의 도움으로도 설명하지 못하는 순간 문제가 드러남
- 이런 과정에서 인지 부채(cognitive debt) 가 쌓이며, 시스템에 대한 머릿속 이해 모형을 적용하려 할 때 그것이 없다는 사실을 발견하게 됨
- Margaret-Anne Storey는 팀이 공유하는 시스템 이론에 대한 이해가 약해지는 문제를 다뤘음
- 코드에서는 Jeremy Twei가 만든 용어인 이해 부채(comprehension debt) 와 연결됨
- 코드가 깔끔하고 테스트가 통과해도, 변경이 필요해진 뒤에야 아무도 시스템을 이해하지 못한다는 사실이 드러날 수 있음
- 전략 문서나 명세의 목차만 읽고 승인하는 경우에도 같은 문제가 적용됨
- 대규모 현대 코드베이스의 전체 이해 모형을 머릿속에 유지하는 것은 불가능하며, 필요한 부분의 이해를 그때그때 재구성할 수 있다면 전체를 기억할 필요는 없음
- Claude Code 팀은 필요한 부분을 Claude에게 설명하게 하면서 이해를 재구성한다고 공개적으로 밝혔음
- 이런 부채는 많은 엔지니어가 예상하는 것보다 회복 가능하지만, 자신이 무엇을 이해하지 못하는지는 알아야 함
- 틀렸을 때의 비용이 낮은 일은 완전히 위임해도 됨
- 강의 녹화 장소로 평점이 비슷한 호텔 세 곳 중 하나를 고르는 일에서는, 모든 후기를 직접 읽는 대신 AI에 선택을 맡겨 만족스러운 결과를 얻은 경험이 있음
- 투자, 자녀의 진로 조언, 무엇을 만들지, 변경이 어떤 사용자에게 영향을 줄지, 출시가 안전한지 등의 결정에서는 같은 방식으로 판단을 넘기지 않아야 함
- 다른 사람이 결과를 감당해야 하는 일이라면 판단 근거를 유지해야 하며, 에이전트의 도움으로도 답을 설명하지 못한다면 주도권을 넘긴 상태임
- 기존의 기본 질문은 여전히 유효함: 올바른 문제를 풀고 있는가, 올바른 방식인가, 결론을 뒷받침할 증거가 있는가, 언제 끝났다고 판단하는가
- 누가, 무엇을, 어디서, 왜, 언제, 어떻게라는 단순한 질문도 평소 놓치는 범주를 생각하게 함
-
질문 전에 가설을 세웠는가?
- 사소하지 않은 작업을 맡기기 전에 예상 답을 짧게라도 정리함
- 틀린 추측이어도 괜찮지만, 잘 쓰인 답을 먼저 읽으면 다른 가능성을 상상하기 어려워짐
- 아무런 단서가 없다면 Thariq Shihipar가 부르는 블라인드 스폿 점검(blind spot pass) 을 활용해, 자신이 아는 내용을 주고 미처 모르는 공백을 찾게 함
-
생각과 판단을 어디까지 맡길 것인가?
- 생각을 돕게 하는가, 생각 자체를 넘기는가? 둘 다 가능하지만 어느 쪽인지 알아야 함
- 이 답이 틀리려면 무엇이 참이어야 하는가? 모델의 자신감 평가보다 실제 수행할 수 있는 테스트로 확인함
- 다른 각도의 반론을 들었는가? 정답이 열려 있는 문제에 강한 입장을 취했다면 여러 모델에 반대편 논리를 요청하고, 검토한 뒤 스스로 판단함
- 유지보수할 사람 앞에서도 이 결과를 책임질 수 있는가? 코드뿐 아니라 모든 전달물에 적용할 책임의 기준임
- 더 이상 연습하지 않는 것은 무엇인가? 일상적인 디버깅 일부를 내려놓더라도 의도적으로 선택해야 함
- 병목은 코드를 쓰는 일에서 결과가 맞는지 확신하는 일로 이동하고 있음
- 에이전트에 검증 수단을 주면 사람이 보기 전에 변경, 검증 실행, 결과 확인, 재시도까지 반복할 수 있음
- 종단 간 테스트, 속성 기반 테스트, 실제 앱 상호작용 등을 사용할 수 있음
- Boris Cherny의 “Claude가 자기 작업을 검증할 방법을 제공하라”는 원칙에 해당함
- 사람의 역할은 모든 줄을 읽는 데서 이런 루프를 구성하고 증거를 검토하는 쪽으로 옮겨감
- 검증 자체도 항복의 대상이 될 수 있음
- “결론을 지지하는 증거가 있는가?”가 “체크가 초록색인가?”로 바뀔 수 있음
- 기능과 테스트가 같은 오류를 공유하면 기능이 깨져 있어도 테스트는 통과함
- 하나의 통과 표시는 한 가지 속성만 확인하므로, 무엇을 입증했고 무엇을 입증하지 않았는지 물어야 함
- 검증 완료의 기준은 사전에 정의해야 함
- 사후에 정하면 어떤 결과든 합리화하기 쉬움
- 완료 기준은 통과한 테스트, 스크린샷, 로그, 실행 추적처럼 구체적인 증거여야 함
- 에이전트의 완료 알림을 받으면 요약보다 먼저 실제 실행한 명령과 출력을 확인함
- Claude Code의 새 컨텍스트 하위 에이전트를 통한 자기비판을 매번 실행되는 검증 루프에 넣을 수 있음
- 복잡한 기능을 검토한 뒤에도 “놓친 것이 있는가?”라고 물으면 두세 가지 추가 사항을 찾는 경험이 있어, 마지막 확인 질문으로 활용함
- 모든 작업을 깊게 검토할 필요는 없지만, 체크가 놓칠 내용을 말할 수 없다면 빠른 승인 대신 제대로 된 검토를 요청해야 함
- 코드 밖에서도 원자료를 확인해야 함
- 고객 통화 50건의 종합이나 경쟁 분석을 받았다면 원문 몇 개를 대조함
- 권고안이 의존하는 숫자는 계산이 맞는지 확인함
- 에이전트는 검증을 구축하는 비용을 낮췄지만, 좋은 검증을 알아보는 일은 여전히 사람에게 어려운 과제임
- 600줄짜리 PR의 구조, 변수명, 테스트 통과 여부만 확인하면 미묘한 문제를 놓칠 수 있음
- 트랜잭션 경계의 실행 순서 변경이나 예상하지 못한 예외 상황의 기본값 반전이 숨어 있을 수 있음
- 이미 예상했던 것만 찾아보는 검토는 형식적인 승인으로 바뀔 수 있음
- AI가 썼다는 사실과 무관하게 변경 내역을 읽고, 그 너머의 결정과 가정을 확인해야 함
- 긴 세션 동안 에이전트는 기본값, 범위 밖 항목, 충돌하는 요구사항 중 무엇을 재해석할지 등을 결정함
- “모두 잘 끝났다”는 요약 대신 결정과 가정 목록을 요청함
- 이해도를 직접 시험할 수 있음
- 임의의 코드 줄을 골라 이유를 설명해 봄
- 문서는 닫은 뒤 핵심 논리를 기억으로 다시 써 봄
- 긴 세션에서는 변경 보고서와 퀴즈를 만들게 하고, 퀴즈를 완벽히 통과한 뒤에만 병합하는 방식도 가능함
- 에이전트는 주의를 집중할 곳을 좁히는 역할도 할 수 있음
- PR이 많이 들어오는 오픈소스 프로젝트에서 유입 변경, 지침 위반, 사람이 주목할 부분을 추리는 데 활용할 수 있음
- 최종 판단까지 맡기기보다, 사람이 올바른 문제를 올바르게 푸는 변경인지 생각할 여력을 확보하는 방식임
- 오케스트레이션 비용(orchestration tax) 은 에이전트의 생성량과 자신의 이름을 걸 수 있는 결과량 사이의 격차임
- 완료된 작업이 검토 속도보다 빠르게 쌓인다면 세션을 더 늘려도 해결되지 않음
- 검증을 강화해 사람의 개입 필요량을 줄이거나 생성 속도를 낮춰야 함
- 책임질 수 있는 양보다 더 많이 생산한다면 검토가 아니라 잘됐기를 바라는 상태임
- 사람의 이해 모형은 작업 중간보다 요청과 맥락을 만드는 앞단, 결과를 검토하는 뒷단에 더 많이 쓰임. 좋은 프롬프트 작성도 비판적 사고 능력임
- 모호한 요청을 받은 사람은 되물을 수 있지만, 에이전트는 빈칸을 채워 완성된 듯한 결과를 돌려줄 수 있음
- 아직 정리되지 않은 목표, 제약, 근거가 직접 쓰지 않은 산출물에 묻히는 것이 의도 부채(intent debt) 임
- 의도는 본인에게서 나와야 하므로 다른 사람이 대신 해결할 수 없음
- 도움을 요청하기 전에 자기 말로 요청 개요를 작성함
- 대상 독자나 사용자, 범위 밖 항목, 완료의 정의를 포함함
- 두 번째 수정 요청까지 원하는 결과에 도달하지 못했다면 조금씩 고치기를 멈추고 프롬프트를 다시 작성함
- Andy Clark가 구분하는 AI에 위임하기와 AI와 협업하기는 다름
- 협업에서는 프롬프트가 출력을 개선하고, 출력이 다음 프롬프트와 문제 이해를 다시 정교하게 만드는 상호 증폭이 일어남
- 불명확한 부분을 에이전트가 인터뷰하도록 요청할 수 있음
- 세션을 마칠 때 자신의 이해 모형이 더 명확해졌다면 성공의 신호임
- 입력이 원문과 연결되어 있는지도 점검해야 함
- 각 에이전트가 이전 에이전트의 요약만 넘겨받으면 세 번째 에이전트는 원문을 읽지 않은 상태가 될 수 있음
- 매끄러운 형식과 자신감 있는 문체는 더 이상 품질을 판별할 유용한 신호가 아님
- 자신의 결과물이라고 밝히기 어려운 산출물은 내보내지 않는 기준을 유지함
- 기준에 못 미친 이유를 공유 설정, 훅, 테스트에 기록해 같은 문제가 반복되지 않게 함
- 탈락 이유를 명시하는 과정 자체가 연습이며, 이렇게 안목을 축적할 수 있음
- 앞으로 1~2년 안에 모델이 사람이 찾는 문제를 더 잘 발견할 수 있다는 가능성은 있지만, 탐지 능력과 결과에 대한 책임은 별개임
- 어떤 작업에서 에이전트를 얼마나 신뢰할지 정하는 일 자체가 판단이며, 모델이 틀리는 부분은 계속 바뀌므로 직접 검토하며 판단을 보정해야 함
- Anthropic의 엔지니어와 연구자 대상 연구는 감독의 역설(paradox of supervision) 을 짚음
- Claude를 감독하려면 바로 그 코딩 능력이 필요하지만, AI 과용은 그 능력을 약화시킬 수 있음
- 더 나은 모델도 사람이 답해야 할 질문을 없애지 못함
- 무엇을 만드는가, 왜 가치가 있는가, 누구에게 영향을 주는가, 무엇을 희생할 의향이 있는가를 판단해야 함
- 에이전트는 판단을 도울 수 있지만 최종 결정은 사람의 몫임
- 작업과 감사의 상당 부분은 위임할 수 있어도 책임은 위임할 수 없음
- 모든 방법을 엄격하게 적용하기보다 자신의 작업 흐름에 맞는 습관을 선택함
- 매주 한 번은 에이전트 없이 코드를 쓰거나, 잊으면 곤란한 실제 작업을 직접 수행함
- 매달 하지 않게 된 일을 적고, 그중 무엇을 더 이상 하지 않아도 괜찮은지 결정함
- “AI가 없다면 얼마나 막막할까?”를 스스로 점검함
- 이해 수준을 넘어서는 내용은 직접 학습함
- 생소한 표현을 한 줄짜리 설명만 보고 사용하는 대신, 조금 더 조사해 어디에 들어맞는지 이해함
- 기계의 결과를 제대로 확인하는 일도 실제 업무이므로 일정에 별도 항목으로 넣어야 함
- 검토는 공짜가 아니며, 비용을 없는 것처럼 취급하면 팀은 결국 수행하지 않게 됨
- 연습하지 않는 능력은 사라지므로 포기하지 않을 능력은 계속 사용해야 함
- 일상적인 기준은 가설, 증거, 결정, 품질 기준을 중심으로 유지할 수 있음
- 질문 전에 가설을 세우고, 요약 전에 실행 증거를 읽음
- 테스트가 확인한 것과 놓친 것, 에이전트가 대신 내린 결정을 확인함
- 자신의 이해를 반영한 요청을 쓰고, 자신의 이름을 걸 수 없는 결과는 내보내지 않음
- 가장 작은 실천은 요청 전에 예상 결과를 적고, 완료 뒤에는 에이전트가 확인하지 않은 한 가지를 적는 것임
- 중요한 능력을 직접 사용하면서 독립적으로 생각하고, 더 나은 질문을 하며, 결과에 책임져야 함