← 목록으로

내가 코딩에 LLM을 사용하지 않으려는 이유

요약
  • 실무 머신러닝 개발자 Kristian Polso는 인지적 부채, 코드 품질 저하, 환경 파괴 및 데이터 주권 문제를 이유로 업무에서 LLM과 AI 에이전트 사용을 거부하기로 했습니다.
  • 그는 AI가 제공하는 복잡한 코드보다 직접 코딩을 통한 문제 해결 과정을 중시하며, 기술의 존재와 사용의 필요성은 별개라고 강조했습니다.
  • 약 10년간 실무 머신러닝을 구현해 온 Kristian Polso는 인지적 영향, 코드 품질, 유지보수, 환경과 정치적 우려 때문에 업무에서 LLM과 AI 에이전트를 사용하지 않기로 함
  • 수 시간 LLM을 사용한 뒤 혼란과 방향 감각 상실을 느꼈으며, 동료들의 경험과 인지적 노력 감소 및 의존성 관련 연구도 사용을 꺼리는 근거가 됨
  • 풍부한 주석과 테스트가 코드 품질을 보장하지는 않음. 실제 업무에서는 간단한 스키마 변경과 마이그레이션으로 해결할 문제를 Claude가 불필요하게 복잡하게 구현한 사례를 경험함
  • 직접 코드를 쓰는 일은 문제 해결과 발견의 과정이며, 에이전트가 모든 코드를 작성해 사람이 동작을 이해하지 못하게 되는 상황을 원하지 않음
  • 막힌 구현을 풀어갈 계획을 얻는 등 장점도 경험했지만 개인적으로는 비용과 우려가 더 크다고 판단함. AI 지원 코딩이 계속 존재한다는 사실이 사용 의무를 뜻하지는 않음
사용하지 않겠다는 결정과 기술 경험
  • 코딩을 계속하고 싶은지에 대한 고민과 AI 소프트웨어 개발에 대한 이전 글에 이어, 전문 업무에서 LLM과 AI 에이전트를 의도적으로 사용하지 않기로 결정함
  • Polso는 지난 약 10년간 여러 고객을 위해 프로덕션용 머신러닝을 구현한 경험이 있음
    • Keras 기반 CNN 이미지 인식과 Tensorflow 기반 대기질 예측 모델 등을 개발함
    • 홈랩에서 로컬 LLM과 이미지 확산 모델을 실행했고 GitHub 기여 경험도 있음
  • LLM과 트랜스포머 자체는 흥미로운 기술로 보지만, 현재의 과도한 열풍은 사람들의 업무와 건강에 해롭다고 봄
도구가 아니라 외부 기업에 의존하는 서비스
  • Esther Weidauer의 「Why I Resist Generative "AI"」를 추천하며, 모든 세부 사항에 동의하지는 않지만 전반적인 정서와 우려를 공유함
  • 특히 LLM을 단순한 도구로 보기보다 외부 기업에 일을 맡기는 서비스로 보는 구분에 공감함
    • 업무가 대개 미국에 기반을 둔 제3자 기업의 결정에 좌우된다는 점을 문제로 여김
인지적 영향과 의존성
  • 동료 개발자들로부터 한 해 동안 ‘LLM 브레인 포그’ 경험을 들었으며, 본인도 수 시간 사용 후 종종 혼란스럽고 방향 감각을 잃는 느낌을 받음
  • 인지적 영향과 의존성에 대한 우려의 근거로 다음 연구를 참고함
    • Microsoft의 지식 노동자 설문 연구: 생성형 AI 사용 시 인지적 노력 감소에 대한 자기 보고와 자신감의 영향을 다룸
    • Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task: AI 보조 글쓰기에서 인지적 부채 축적을 다룸
    • Large-Language Models as a Cognitive Virus: 여러 작업에서 LLM에 점차 의존하게 되는 문제를 다룸
  • 이런 사용 경험은 본인에게 건강한 활동이 아니라고 판단하는 이유가 됨
겉보기 완성도와 실제 코드 품질의 차이
  • 장황한 출력은 경험이 부족한 개발자가 생성 코드의 품질을 과대평가하게 만들 수 있다고 봄
    • Claude가 모든 메서드와 변수에 주석을 달고 테스트까지 생성하면 첫인상은 인상적이지만, 자세히 보면 부실한 경우가 있음
  • 실제 업무에서 검토한 Claude 생성 코드 중에는 몇 줄의 스키마 변경과 마이그레이션으로 더 깔끔하게 해결할 수 있는 사례가 여러 차례 있었음
    • 대신 프레임워크의 최신 훅과 메서드를 사용해 새로운 구조를 만들고, 필드 하나에 여러 테스트를 생성하는 식으로 구현이 복잡해짐
  • LLM 사용에서 개발자의 코드 이해력 격차가 드러나며, 생성 코드의 문제를 알아보지 못한다면 LLM은 그 문제를 더 빠르게 놓치게 할 뿐이라고 봄
유지보수와 직접 코딩하는 즐거움
  • 에이전트가 모든 코드를 작성하면 언젠가는 사람이 코드의 동작을 이해하지 못하게 될 수 있다는 점을 우려함
    • 코드가 무엇을 왜 하는지를 OpenAI, Anthropic, Elon Musk에게 맡기는 상황을 받아들이기 어려워함
  • 직접 코드를 쓰는 일은 문제 해결 과정의 일부임
    • 내용을 순회하는 최적의 방식이나 애플리케이션 계층에서 데이터를 둘 위치처럼, 작성 도중 작은 깨달음을 얻음
  • 다른 사람의 코드를 읽을 때도 그 사람의 사고방식, 계획, 실행, 동기, 목표와 전문성을 이해하고 싶어 함
    • AI 출력에는 이런 인간적 뉘앙스가 없다고 느낌
데이터센터의 환경 비용
  • 새로운 AI 데이터센터의 전력 사용량과 새로운 화석연료 공급원까지 동원하는 사례를 우려함
  • 핀란드에서는 Google이 데이터센터 건설을 위해 허가 없이 수백 헥타르의 숲을 벌채한 사건이 한동안 뉴스를 지배함
  • 데이터센터 열풍이 사람들의 판단을 흐리고 지구에 해를 끼친다고 봄
기업 의존과 데이터 관할권
  • OpenAI, Anthropic, Cursor/SpaceX 같은 기업에 자신의 업무를 맡기는 데 개인적인 거부감을 느낌
  • EU 시민으로서 미국 기반 주요 AI 제공업체를 이용할 때의 GDPR 문제도 우려함
    • 2026년 AI 열풍 속에서 이런 문제가 잊히고 있다고 느낌
    • 데이터가 EU 지역에 머문다는 약속이 있더라도, 미국 기업에는 CLOUD Act에 따라 미국 연방 법 집행기관이 세계 어디에 저장된 데이터든 요구할 수 있음
  • AI 지원 코딩이 생업을 상용 소프트웨어에 종속시키는 ‘엘리트의 도구’라는 온라인 논의는 다소 과장됐다고 보지만, 일부 진실도 있다고 느낌
유용했던 경험과 사용하지 않을 자유
  • 구현이 완전히 막혔을 때 AI 에이전트에 간단한 질문을 던져 어느 정도 일관된 실행 계획을 얻은 경험은 긍정적이었음
  • 다만 앞선 우려들을 고려하면 개인적으로는 그 도움을 받을 가치가 충분하지 않다고 판단함
  • Weidauer가 “AI는 사라지지 않는다”는 말에 “헤로인도 그렇지만 누구에게도 권하지 않는다”고 응수한 비유에 공감함
    • 기술이 계속 존재한다는 사실과 그 기술을 사용하는 것이 좋은 선택인지는 별개라고 봄
  • AI 지원 코딩이 하루아침에 사라지지는 않겠지만, 반드시 사용할 필요는 없다고 봄
    • 현재 토큰 가격에는 보조금이 투입되고 있다는 전제에서, 앞으로 기업의 AI 사용 장려가 줄어들 것이라고 예상함
  • 당분간 AI 에이전트와 하네스에 관한 탐구를 멈추고 직접 코드를 작성하는 방식으로 돌아가려 함
    • 다른 사람의 의견을 바꾸거나 사용을 막으려는 의도는 없으며, 현재 AI 지원 환경에 만족하는 사람은 계속 사용해도 된다고 봄
    • 자신의 판단이 틀릴 가능성도 열어두되, 지금은 인간의 손으로 평온하게 코드를 쓰고 싶어 함
그냥 목록으로
원문 보기 ↗