← 목록으로

GitHub의 새 Git 스토리지 아키텍처 - 저장소 하나에서 초당 7,200회 푸시를 처리

요약
  • GitHub는 단일 저장소에서 초당 수천 회의 푸시를 처리하기 위해 'Rubicon'이라는 새로운 Git 스토리지 아키텍처를 도입했습니다.
  • 이 아키텍처는 불변 Git 객체를 Azure Blob Storage에 병렬로 저장하고, 참조 관리는 Ref-CAS를 통해 분산 처리하여 확장성과 성능을 극대화합니다.
  • GitHub의 새 스토리지 아키텍처 Rubicon은 단일 저장소에 에이전트 5,000개가 초당 7,200회 푸시하는 동안 읽기 지연 시간을 낮게 유지함
  • 불변 Git 객체는 Azure Blob Storage에 병렬로 저장하고, 브랜치가 가리키는 커밋처럼 갱신 순서를 조정해야 하는 참조는 Ref-CAS에서 관리함
  • Ref-CAS는 각 푸시가 바꾸는 참조만 잠그고, 로그 복제본 과반수가 기록하면 변경을 확정. 에이전트가 각자 다른 브랜치에 푸시하면 대부분 서로 기다릴 필요가 없으며, 읽기 시 참조 상태가 최신이면 버전 비교 한 번으로 확인을 마침
  • 요청 처리와 팩 병합을 별도 노드에 맡겨 각각 필요한 만큼 확장함. 백그라운드에서 여러 샤드의 팩을 병렬로 합쳐 푸시가 늘어도 조회할 팩 수를 거의 일정하게 유지함
  • 개발자의 push/fetch/브랜치 작업과 기존 보호 장치는 그대로 유지하며 현재 제한적 비공개 프리뷰로 2027년 초 확대 배포 예정
  • 후속 기능으로 저장소 전체를 클론하지 않고 필요한 파일만 읽는 작업 방식과 여러 파일을 한 번에 반영하는 커밋 API를 계획중
에이전트 규모를 위한 설계 요구사항
  • 설계의 출발점은 조정 최소화와 스토리지와 컴퓨팅의 분리임
    • 첫 번째 글에서 두 원칙을 정립함
    • 이전 단계에서는 저장소 99.99999%를 Azure로 옮기고, 쓰기 쿼럼을 개별 참조 단위로 좁혔으며, Azure Blob Storage 기반 가상 복제본을 도입함
    • 가상 복제본은 저장소를 새 아키텍처로 편입하는 수단이기도 함
  • Git 객체는 불변이며 내용으로 이름이 결정되므로, 여러 작성자가 서로 합의하지 않고 동시에 저장할 수 있음
    • 푸시에서 합의가 필요한 부분은 객체 데이터에 비해 매우 작은 참조 업데이트뿐임
  • 확장성은 두 축으로 나눔
    • 수평 확장은 여러 저장소에서 작업하는 개발자와 에이전트의 수를 늘리는 것으로, 기존 테넌트 분할, 트래픽 격리와 공정성 보장, 부하 기반 라우팅을 계승함
    • 수직 확장은 하나의 저장소에서 작업하는 개발자와 에이전트의 수를 늘리는 것으로, 에이전트에 따른 저장소 크기와 활동량 증가를 예상해 새 요구사항 대부분을 이 축에서 도출함
  • 현재 가장 바쁜 저장소도 짧은 순간에 초당 수십 회 쓰기가 발생하는 수준이지만, GitHub는 병렬로 상시 실행되는 에이전트 때문에 향후 1년 안에 이것이 지속적인 처리율이 될 것으로 예상함
    • 푸시마다 CI, 배포 시스템, 다른 에이전트의 fetch가 뒤따르므로 읽기 요청이 분기되며 전체 트래픽이 증폭됨
    • 한 저장소는 3월부터 5월까지 일일 요청량이 약 4배 증가했고, 이후에도 지수적인 증가 추세가 이어짐
  • 목표는 단순한 점진적 개선이 아니라 최소 100배 규모 확대이며, 단일 저장소에 다음 조건을 요구함
    • 초당 수천 회 쓰기를 받아들이고 여러 쓰기 노드를 지원함
    • 입력 팩 인덱싱과 객체 연결성 검사는 쓰기에서 CPU 비용이 가장 크고 쓰기 크기에 비례하므로 여러 노드로 분산함. 이는 내결함성을 높이고 노드 장애 시 복구 시간도 줄임
    • 에이전트가 다음 단계로 넘어가기 전에 푸시 완료를 기다리므로 커밋 지연 시간을 최소화함
    • 참조별 변경 순서를 기록하고 참조 간 순서도 신속하게 선형화할 수 있어야 함
    • 뒤처진 가상 복제본은 요청 처리에 필요한 데이터만 내려받아 따라잡고, 변경이 없을 때의 읽기는 저렴하게 유지함
    • 각 구성요소의 독립 확장과 함께 전반적인 신뢰성 향상 및 전 세계 규모 확장을 지원해야 함
Project Rubicon의 구성과 요청 흐름
  • Rubicon 설계는 초기 Azure 이전 직후인 2026년 5월 시작함
    • 모든 시안에서 팩 데이터는 Blob Storage에 두었고, 일부에서는 참조 상태도 함께 저장하는 방식을 실험함
    • 최종 설계는 정확성, 내구성, 가용성, 지연 시간 보장을 유지하면서 처리량을 극대화하는 데 초점을 맞춤
    • 이름은 에이전트 기반 개발로 업계가 되돌아갈 수 없는 지점을 넘었다는 뜻에서 선택함
  • Git 클라이언트, API, 웹 UI 요청은 기존처럼 Spokes로 들어오지만, 그 아래 데이터 플레인은 새로 구성함
    • Spokes는 라우팅, 부하 분산, GitHub 내부의 저장소 읽기/쓰기 API를 담당함
    • 배치와 균형 조정, 테넌트 분할, 격리, 공정성 보장도 계속 수행함
    • 가상 복제본의 소프트웨어 구성부터 트래픽 라우팅과 작업 스케줄링까지, 다수의 작은 저장소와 하나의 큰 저장소 등 사용 사례에 맞춰 조정함
  • 가상 복제본은 읽기와 쓰기를 처리하는 교체 가능한 컴퓨팅 자원이며, 로컬 디스크는 언제든 재구축할 수 있는 캐시임
    • Spokes는 저장소에 할당된 소수의 복제본 중 하나로 요청을 보냄
    • 가능하면 같은 복제본으로 라우팅해 캐시를 유지하지만, 정확성은 특정 복제본에 요청이 도착하는지에 의존하지 않음
    • 복제본이 사라지면 다른 복제본이 계속 요청을 처리하고, 대체 복제본은 트래픽을 받으며 캐시를 채움
    • 저장소 활동량이 늘면 복제본을 추가함
  • 영속 상태는 두 곳으로 나뉨
    • Azure Blob Storage에 Git 객체 팩과 읽기 가속용 보조 데이터를 저장함
    • 복제 로그 서비스 Ref-CAS(Reference Compare-and-Swap) 에 참조와 저장소를 구성하는 팩 목록인 팩 매니페스트를 저장함
  • 쓰기 요청은 가상 복제본이 입력 팩을 인덱싱하고 Blob Storage에 업로드한 뒤, Ref-CAS 트랜잭션 하나로 팩 등록과 참조 갱신을 수행함
    • 이후 별도 병합 노드가 다른 팩과 합쳐 읽기 성능을 유지함
  • 읽기 요청은 가상 복제본이 Ref-CAS에서 참조 버전을 확인하고, 필요한 팩을 Blob Storage에서 캐시로 가져와 처리함
  • 유지보수 노드는 Blob Storage와 Ref-CAS를 직접 이용해 팩 병합과 도달 불가능한 객체 제거를 수행함
    • 이 작업은 가상 복제본에서 실행하지 않으므로 요청 처리에 CPU와 메모리를 거의 전부 사용할 수 있음
Blob Storage만으로 참조를 관리하지 않는 이유
  • Azure Blob Storage는 내구성, 복제, 저장 용량, 낮은 바이트당 비용을 제공하고, 여러 키로 트래픽을 분산하면 높은 총처리량을 낼 수 있음
    • 푸시, 팩 병합, 가비지 컬렉션이 만드는 팩과 인덱스를 저장함
    • 다중 팩 인덱스, 도달 가능성 비트맵, 자체 형식 등 읽기 가속 데이터를 저장함
    • 유지보수 작업의 재개와 감사를 위한 기록, 병합 노드의 작업 점유용 임대 정보를 저장함
    • 반복적인 fetch의 응답 캐시와 참조 상태 체크포인트도 저장하지만, 요청 처리의 기준이 되는 참조 상태는 저장하지 않음
  • 이 데이터 대부분은 고유 키에 한 번 쓰고 변경하지 않는 데이터여서 객체 스토리지에 적합함. 반면 참조는 여러 쓰기가 동시에 갱신하려는 작은 상태여서 접근 패턴이 다름
  • 첫 시안은 모든 참조의 선행 기록 로그를 단일 블롭으로 인덱싱하고, 모든 업데이트를 해당 블롭에 대한 조건부 쓰기로 처리함
    • 조건부 쓰기로 비교 후 교환을 구현할 수 있고, 읽기는 블롭 변경 여부만 확인하면 되어 저렴함
    • 그러나 블롭 하나에는 조건부 쓰기 하나만 진행할 수 있어, 도착한 푸시를 배치로 묶어도 매 왕복당 한 번만 기록할 수 있음
    • 실제 쓰기 처리량은 초당 수백 회 중반 수준에 머묾
  • 두 번째 시안은 참조를 해시로 여러 세그먼트 블롭에 분산함
    • 서로 다른 세그먼트의 쓰기가 기다리지 않아 쓰기 한도는 높아짐
    • 읽기는 변경 여부를 확인하려고 모든 세그먼트를 검사해야 하며, 가장 느린 세그먼트가 지연 시간을 결정함
    • 읽기가 쓰기보다 몇 자릿수 더 많은 상황에서 쓰기 지연 개선을 위해 읽기 지연을 희생하는 방식이어서 요구사항을 충족하지 못함
Ref-CAS의 합의와 버전 확인
  • Ref-CAS는 참조 전용의 작은 합의 그룹을 갖춘 복제 로그 서비스임
    • 트랜잭션이 건드리는 참조만 잠그고, 각 참조가 작성자가 예상한 값을 여전히 갖는지 검사함
    • 로그 복제본 과반수가 기록하면 변경이 보이게 됨
    • 에이전트는 대체로 자기 브랜치에 푸시하므로 업데이트 대부분은 충돌 없이 병렬 복제됨
    • 두 푸시가 같은 참조를 갱신하려 하면 하나만 로그에 추가됨
  • 각 커밋에는 로그 시퀀스 번호(LSN) 를 부여하고, 최신 커밋의 LSN을 저장소 버전으로 사용함
    • 가상 복제본은 자신이 보유한 참조 상태 버전을 보내 최신 여부를 확인함
    • 최신이면 응답에 참조를 담지 않으며 비교 한 번으로 끝남
    • 뒤처졌다면 현재 참조와 버전, 팩 데이터 포인터, 마지막 가비지 컬렉션 시점 등 필요한 정보를 받음
  • 기존 합의 그룹과 달리 Ref-CAS는 객체 데이터를 보관하거나 검증하지 않고 포인터만 저장함
    • 팩을 Blob Storage에 업로드한 뒤 참조 트랜잭션을 커밋하므로, 참조는 이미 영속 저장된 객체만 가리킴
  • 참조 상태만 처리하는 트랜잭션은 초당 수만 회 가능함
    • 복제 로그에 추가 정보를 붙여 읽기 요청별로 어떤 데이터를 내려받아야 하는지 판단하는 기반도 제공함
요청 처리와 분리한 팩 병합 및 가비지 컬렉션
  • 푸시마다 팩이 추가되고 팩 수가 늘수록 조회 비용도 증가하므로 팩 수를 제한하는 병합이 필요함
    • 기존 구조에서는 요청을 처리하는 모든 복제본에서 병합을 실행했음
    • 새 구조에서는 별도 노드가 영속 스토리지를 대상으로 실행하고, Ref-CAS를 통해 변경 상태를 가상 복제본에 알림
  • 병합 노드는 Blob Storage의 샤드에 임대(lease) 를 획득해 같은 샤드를 동시에 두 노드가 병합하지 않도록 함
    • 가상 복제본은 그동안에도 팩을 업로드하고 매니페스트에 등록함
    • 병합 노드는 매니페스트에서 새 팩을 찾아 열린 세그먼트에 모음
    • 팩 수, 크기, 경과 시간 중 정해진 기준에 도달하면 세그먼트를 닫고 더 적고 큰 팩으로 합침
    • 병합 중에도 다음 세그먼트는 새 입력 팩을 받을 수 있음
  • 결과를 공개하기 전에 입력과 출력의 객체 집합이 정확히 같은지 검증함
    • 새 팩을 업로드해 매니페스트에 추가한 다음, 두 번째 트랜잭션으로 입력 팩을 매니페스트에서 제거함
    • 실제 입력 팩 삭제는 이후 정리 과정에서 수행함
  • 팩 해시로 샤드를 정하고 여러 샤드에서 독립 실행하므로 샤드와 노드 추가로 병합 처리량을 확장할 수 있음
    • 병합 결과가 크기 제한 미만이면 새 해시에 따라 다시 샤드로 들어가 병합되며, 제한에 도달할 때까지 단계적으로 커짐
    • 푸시가 늘어도 팩 수는 사실상 일정하게 유지됨
  • 가비지 컬렉션은 모든 객체를 보존하는 팩 병합과 달리, 브랜치 삭제나 강제 푸시로 더 이상 참조되지 않는 객체를 제거함
    • 계산량이 많은 부분은 병합과 유사하게 전용 작업자가 처리함
    • 안전한 삭제를 위한 별도 동작도 있지만 이번 공개에서는 상세히 다루지 않음
  • 이 구조로 쓰기 증가에도 지연 시간이 거의 늘어나지 않는 결과를 반복해서 확인했으며, 병합과 가비지 컬렉션 자체의 성능을 높이는 추가 최적화도 계획함
모든 저장소를 위한 단일 아키텍처
  • 읽기와 쓰기는 가상 복제본 추가, 유지보수는 병합 노드 추가로 확장하고, Ref-CAS는 저장소 전체가 아닌 참조별로 순서를 관리함
  • 개인 프로젝트부터 가장 바쁜 모노레포까지 특별 처리 없는 동일한 아키텍처에서 운영하는 것이 목표임
    • 작은 프로젝트에 에이전트가 갑자기 대거 투입돼도 별도 이전 없이 대응하려 함
    • 아키텍처가 하나이면 개선 사항을 모든 저장소에 함께 적용할 수 있음
  • 후속 작업은 예상 이상의 규모 확장, 에이전트 작업 효율 개선, 에이전트 개발에 맞춘 Git 개선의 세 영역에 집중함
계획 중인 스토리지 아키텍처 개선
  • 필요한 객체만 읽기: 객체가 들어 있는 팩 전체 대신 Blob Storage에서 객체 하나만 가져오도록 개선할 계획임
  • 객체 유형별 팩 구성: 커밋, 트리, 블롭을 각각 묶어 많은 요청이 접근하는 데이터량을 줄이려 함
  • 부분 복제본: 모든 팩을 로컬 디스크에 두지 않고도 요청을 처리하도록 할 계획임
  • 구체화된 뷰(materialized views): 준비된 아카이브, 거의 실시간인 기본 브랜치의 얕은 복사본, 커밋별 에이전트 세션 문맥 등 바로 사용할 수 있는 형태로 데이터를 유지하려 함
  • 글로벌 복제본: 워크로드와 가까운 어느 리전에나 복제본을 배치하고, 읽기의 최신 쓰기 대비 뒤처짐을 정해진 한도 안에 유지할 계획임
  • 제로까지 축소: 실제로 활성 상태인 저장소에 맞춰 컴퓨팅 자원을 늘리거나 줄이려 함
GitHub에서 에이전트 작업 비용 줄이기
  • 스토리지 개선을 바탕으로 전송 바이트, 왕복 횟수, 변경 대기 시간을 줄이는 후속 기능을 추진함
  • 클론 없는 작업: 전체 작업 트리가 필요하지 않은 에이전트가 소수의 파일과 변경에 필요한 문맥을 서버에서 직접 읽도록 함
  • 원자적 커밋 API: 여러 파일의 변경을 한 번에 반영하고, 전체를 커밋하거나 충돌 시 전체를 명확하게 거부하도록 함
  • 이벤트 스트림: 에이전트와 주변 시스템이 변경을 구독하고 발생 즉시 반응할 수 있는 범용 스트림을 추진함
에이전트를 위한 Git 자체의 개선과 배포 일정
  • 가벼운 클론을 위해 부분 클론, 얕은 클론, 희소 체크아웃 각각의 부족한 점과 상호 호환성을 개선하려 함
  • 숨은 확장 비용을 줄이려 함
    • Git에는 저장소 증가 속도보다 훨씬 빠르게 느려지는 코드 경로가 남아 있음
    • 최근 릴리스에서 일부를 수정했지만 추가 사례가 있을 것으로 예상함
  • 빠른 이력 탐색을 추진함
    • commit-graph 같은 메타데이터로 모든 커밋을 순회하지 않고도 merge-base와 도달 가능성을 판단할 수 있음
    • 에이전트 API 호출이 서버의 Git 작업으로 이어질 때 특히 중요함
  • 흔한 실수의 사전 경고를 강화하려 함. 에이전트도 개발자와 같은 실수를 하므로 피해가 생기기 전에 Git이 더 많은 오류를 감지하도록 개선함
  • 새 아키텍처는 현재 제한적인 비공개 프리뷰로 제공하며, 2027년 초 확대 배포를 예정함. GitHub는 고객 및 Git 커뮤니티와 함께 Git과 GitHub를 계속 발전시킬 계획임
그냥 목록으로
원문 보기 ↗