← 목록으로

Claude Fable 5.2로 에이전트 1,000개 팀 안전하게 돌리기 - 페르마의 마지막 정리 형식화 실험

요약
  • Anthropic 연구진은 Claude Fable 5.2를 활용해 1,000개의 에이전트를 동원하여 페르마의 마지막 정리를 Lean으로 형식화하는 실험을 진행했습니다.
  • 별도의 협업 도구 없이 Git과 공유 DB만으로 조율을 수행했으며, 샌드박스와 모니터링을 통한 안전 설계를 통해 성공적으로 과업을 완수했습니다.
  • Anthropic 연구진이 출시 전 Claude Fable 5.2로 리드 에이전트 1개와 헬퍼 999개를 돌려, 페르마의 마지막 정리 증명을 Lean으로 형식화하는 데 28.7시간이 걸렸음
  • 9월 실험(에이전트 수십 개, 연구자 지휘, 11일)과 비교해 출력 토큰은 1/3, 증명 길이는 1/7
  • 별도 협업 도구 없이 에이전트별 Git 브랜치와 공유 Postgres만 사용. 리드가 첫 10분 안에 Announce / Assign / Notes / Subtasks / Landed 다섯 개 표를 만들었고, 가장 어려운 정리(Langlands–Tunnell)는 헬퍼 약 750개가 붙어 최대 10단계, 2,418개 작업으로 쪼갬
  • 안전 설계: 에이전트마다 네트워크 없는 경량 VM, sudo 제거, 샌드박스 안에 API 키 없음, SQL 구문당 5초 제한. 모든 셸 명령과 파일 수정을 실행 전에 LLM 분류기가 검사하는 fail-closed 구조였고, 100만 건 넘는 도구 호출 중 차단 기준에 걸린 것은 없었음
  • 실패 기록
    • 공유 머신 한 대로는 에이전트 100개 근처에서 메모리·디스크·CPU가 바닥나 1,000개 샌드박스 구조로 바꿈
    • 헬퍼들이 초반에 60개 명제 중 47개를 예산 안에 불가능하다고 판단했지만 대부분 증명해 냄
    • 리드가 너무 일찍 멈추지 않도록 남은 시간 알림을 19번 자동으로 보내야 했음
  • 저자들은 이를 "장난감 실험"이라 부르며, 조율에는 Git과 공유 DB면 충분했고 실험을 가능하게 한 것은 샌드박스와 모니터라는 안전 경계였다고 정리함
그냥 목록으로
원문 보기 ↗