← 목록으로

AI는 SRE를 대체하는 게 아니라 숙련도를 떨어뜨리고 있음

요약
  • AI가 SRE의 일상적인 장애 대응과 인지 작업을 대체하면서 생산성은 향상되지만, 복잡한 장애에 대응할 직관과 전문성을 쌓을 기회가 사라지는 '자동화의 역설'이 발생하고 있습니다.
  • 이는 주니어 엔지니어의 기초 역량 형성을 방해하며, 이를 해결하기 위해서는 의도적인 수동 연습과 인간이 문제 해결에 직접 참여하는 설계가 필요합니다.
  • AI가 일상적인 장애 대응을 맡을수록 SRE는 드물고 복잡한 장애에 집중하게 되지만, 이를 해결할 직관과 전문성을 연습할 기회는 줄어듦
  • 자동화의 역설은 자동화가 실패할 때 인간의 역할이 더 중요해지는 동시에, 개입에 필요한 숙련도는 실전 경험 부족으로 약해지는 데 있음
  • 로그 읽기, 원인 가설 수립, 시스템 구조 이해를 AI에 넘기는 일은 각각 생산성 향상처럼 보이지만, 합쳐지면 예상 밖 장애에 대응하는 전문성을 약화시킬 수 있음
  • 주니어 SRE에게는 기존 능력을 잃는 문제를 넘어, 기초 역량을 처음부터 쌓지 못하는 역량 형성 실패(never-skilling) 위험이 있음
  • 대응책은 AI를 거부하는 것이 아니라 의도적인 수동 연습과 인간이 문제 해결에 적극 참여하는 설계를 통해, 자동화와 숙련도 유지를 함께 추구하는 것임
자동화가 남기는 가장 어려운 일
  • “SRE가 모든 소프트웨어 엔지니어링의 미래”라는 전망과 AI가 SRE를 포함한 모든 기술 직무를 대체한다는 전망보다, AI 사용이 실제 대응 역량에 미치는 영향을 살펴볼 필요가 있음
  • AI가 장애 대응의 95%를 처리할 때, 인간이 정말 중요한 나머지 5%를 처리할 능력을 잃게 되는지가 핵심 질문임
    • 이 비율은 현재 자동화 수준의 측정치가 아니라 문제를 살펴보기 위한 가정임
  • 인지심리학자 Lisanne Bainbridge의 1983년 논문 Ironies of Automation은 자동화의 역설을 다룸
    • 공장과 산업 시스템의 자동화가 늘수록, 드물게 자동화가 실패하는 순간에는 인간 작업자가 더욱 중요해짐
    • 그러나 작업자는 개입을 연습할 기회를 잃고, 오랜 수동적 감시 끝에 준비가 부족한 상태로 중대한 위기를 처리해야 함
  • 산업 자동화가 반복적인 육체노동을 대신했듯, AI는 일상적인 인지 작업인 패턴 인식, 초기 분류, 알려진 문제 해결을 대신함
    • 인간에게 남는 것은 드물고 복잡하며 모호한 문제이며, 여기에 필요한 전문성은 연습을 멈추면 약해짐
SRE 자동화의 현재와 다음 단계
  • 현재 이미 자동화되었거나 AI 지원 비중이 높은 작업은 알림 잡음 감소와 지능형 그룹화, 알려진 문제의 런북 실행, 로그 패턴 탐지와 이상 징후 표시, 과거 장애 데이터 기반의 기본적인 근본 원인 추천임
    • 중단된 파드 재시작이나 부하가 높은 서비스의 확장처럼 잘 이해된 장애 유형은 자동 복구 대상임
  • 가까운 자동화 목표에는 메트릭/로그/트레이스의 다중 신호 상관 분석, 부분적으로만 이해된 장애의 자율적 근본 원인 분석이 있음
    • 사용자에게 영향이 발생하기 전의 장애 예측, AI 기반 변경 위험 평가, 자동 롤백도 포함됨
  • PagerDuty의 3단계 모델은 장애를 다음과 같이 구분함
    • Tier 1: 알려진 문제와 알려진 해결책은 완전히 자동화함
    • Tier 2: 부분적으로 이해된 문제에는 AI가 해결책을 추천하고 인간이 검증함
    • Tier 3: 새롭고 복잡한 연쇄 장애는 인간이 주도하고 AI가 맥락 정보를 지원함
  • 인간이 Tier 3에만 참여하면, 이를 처리할 직관을 어디서 쌓을 것인가라는 문제가 남음
    • 직관은 수년간의 직접적인 장애 대응, 반복적인 패턴 인식, 심야 장애 해결 같은 경험을 통해 형성됨
숙련도 저하는 생산성 향상에 가려질 수 있음
  • 다른 분야의 연구에서도 AI와 자동화 의존에 따른 숙련도 저하가 관찰됨
    • 내시경 연구에서 AI로 용종 탐지를 보조받은 의사들은 일정 기간 사용 후 AI 없이 탐지했을 때 탐지율이 28%에서 22%로 하락함
    • 항공 연구는 자동조종 의존도가 높은 장거리 조종사의 상황 인식과 수동 비행 능력 저하를 보여주며, FAA는 이를 상쇄하기 위해 더 많은 수동 비행 시간을 의무화함
  • 개인적인 AI 사용 경험에서도, 가끔 찾던 도구가 항상 먼저 찾는 도구로 바뀌면서 직접 사고하는 시간이 불가피한 순간에만 남는 변화가 나타남
  • 체감 난도 하락과 가시적인 성과 향상은 실제 숙련도 저하를 가릴 수 있음
    • 인지 연구에 따르면 사용자는 AI 덕분에 일이 쉬워지고 성과가 좋아질 때 자신의 실제 역량을 정확히 판단하지 못하는 경우가 있음
    • 자신은 유능하다고 느끼고 대시보드는 정상이어도, AI가 보지 못한 유형의 장애가 발생하면 약해진 대응 역량이 드러날 수 있음
  • SRE 업무에서는 세 가지 연습 기회의 상실로 이어짐
    • AI가 로그를 요약하므로 원시 로그 스트림을 직접 읽지 않게 됨
    • AI가 근본 원인을 추천하므로 장애 원인에 대한 가설을 직접 세우지 않게 됨
    • AI가 의존성을 그려주므로 시스템 아키텍처의 정신 모형을 직접 구축하지 않게 됨
  • 각각은 생산성 향상처럼 보이지만, 함께 누적되면 예측하지 못한 장애에 대응하는 전문성을 약화시킴
주니어의 역량 형성까지 끊기는 문제
  • 숙련도 저하(deskilling) 는 한때 보유했던 능력을 잃는 것이고, 역량 형성 실패(never-skilling) 는 그 능력을 처음부터 개발하지 못하는 것임
  • AI가 장애 대응 흐름 대부분을 처리하는 환경에 입문하는 주니어 SRE는 기초 직관과 실전 감각을 쌓을 기회가 줄어듦
    • 개인의 기존 역량뿐 아니라 인력 양성 경로 자체가 손상되며, 저절로 회복되지 않음
  • SRE가 역량 저하를 보완하려 AI에 더 의존하고, 그 의존이 다시 역량을 떨어뜨리는 악순환도 발생함
의도적인 비효율과 적극적인 인간 참여
  • 해법은 AI 도구를 거부하는 것이 아니라, 더 깊이 도입하면서도 숙련도를 유지할 방식을 마련하는 데 있음
  • 의도적인 비효율을 도입해 AI가 해결할 수 있는 일부 장애도 인간의 연습 기회로 지정할 수 있음
    • 자동조종이 가능해도 수동 비행을 연습하듯, 해결 속도를 일부 희생하더라도 역량 유지를 위한 장기 투자로 볼 수 있음
  • 인간이 옆에서 승인만 하는 구조가 아니라 문제 해결 과정에 직접 참여하는 구조가 필요함
    • AI 추천을 승인하는 감독 역할은 Bainbridge가 다룬 주의력 저하로 이어질 수 있음
    • AI와 함께 문제를 적극적으로 풀면 인간의 인지적 참여를 유지할 수 있음
소프트웨어 엔지니어링 전반과 SigNoz의 접근
  • 자동화의 역설, 숙련도 저하, 역량 형성 실패는 SRE만의 문제가 아님
    • AI가 코드 작성, PR 검토, 디버깅을 더 많이 처리하는 소프트웨어 엔지니어링 전반에도 같은 긴장이 존재함
  • 오픈소스 관측 가능성 플랫폼 SigNoz는 메트릭, 트레이스, 로그로 시스템을 깊이 이해하도록 돕는 제품에 인간 통제 중심의 AI 보조 도구를 먼저 도입하는 접근을 택함
    • 이후 명확한 안전장치 안에서 신뢰가 쌓이는 만큼 자율성을 확대할 계획임
  • SigNoz는 데이터 계층을 직접 보유한다는 점을 AI 기능 개발의 강점으로 내세움
    • 대부분의 AI SRE 제품은 관측 가능성 도구의 API를 통해 제한적인 간접 정보를 얻는 반면, 직접 보유한 데이터를 활용하면 더 깊고 맥락을 이해하는 AI 기능을 구축할 수 있다고 봄
  • 목표는 SRE 대체가 아니라 SRE의 역량 강화이며, 특히 프로덕션 인프라에 영향을 주는 중요한 결정에는 인간이 계속 필수적이라고 봄
  • 인간을 예리하고 적극적인 상태로 유지하도록 설계한 AI와 함께, SRE가 정말 중요한 나머지 5%에 대비하도록 하는 것이 목표임
그냥 목록으로
원문 보기 ↗