← 목록으로

구글이 AI 에이전트마다 '컴퓨터 한 대'를 제공하려는 이유

요약
  • 구글은 AI 에이전트의 독립적인 실행과 보안, 비용 효율성을 위해 설계된 새로운 컴퓨팅 인프라 'Agent Compute Engine'을 공개했습니다.
  • 이 기술은 마이크로VM을 활용해 에이전트마다 독립된 환경을 제공하며, 장기 인증정보 분리와 유휴 자원 회수 등을 통해 안전하고 경제적인 운영을 지원합니다.

구글이 10월 22일 Agent Compute Engine이라는 새로운 AI 에이전트 전용 컴퓨팅 인프라의 설계를 공개했습니다.

지금까지 클라우드 인프라는 웹서비스나 애플리케이션을 실행하는 데 최적화되어 있었습니다. 하지만 AI 에이전트는 조금 다릅니다.

에이전트는 코드를 작성하고, 브라우저를 조작하고, 파일을 저장하며, 때로는 며칠에 걸쳐 작업을 이어갑니다. 이런 에이전트가 수억 개까지 늘어난다면 기존 서버 구조로 감당할 수 있을까요?

구글은 이 문제를 해결하기 위해 인프라 자체를 다시 설계했다고 설명합니다.

1. 에이전트마다 독립된 컴퓨터가 필요하다

기존 VM은 격리성이 뛰어나지만 시작과 재개에 시간이 걸리고 자원 소모가 큽니다. 컨테이너는 빠르고 가볍지만 호스트 운영체제의 커널을 공유합니다.

구글은 두 방식의 장점을 결합해, 에이전트마다 하드웨어 수준으로 격리된 경량 가상머신(microVM)을 제공하는 구조를 만들었습니다.

에이전트의 판단과 작업을 지시하는 부분(Harness)과 실제 코드를 실행하는 환경(Sandbox)도 분리했습니다.

2. 에이전트가 해킹당해도 훔칠 비밀번호가 없다

가장 인상적인 부분은 보안 설계입니다.

구글은 에이전트가 악성 이메일을 읽거나 프롬프트 인젝션에 속아 잘못된 명령을 실행할 가능성을 전제로 설계했습니다.

이를 위해 실행 환경에는 API 키나 OAuth 토큰 같은 장기 인증정보를 아예 보관하지 않습니다. 외부 서비스에 접근할 때는 별도의 Agent Gateway가 사용자 위임 권한과 에이전트 신원을 검증한 뒤 필요한 인증정보를 전달합니다.

에이전트가 완전히 탈취되더라도 내부에서 장기 인증정보를 훔칠 수 없도록 하는 구조입니다.

3. 에이전트는 대부분의 시간을 기다리고 있다

구글이 실제 에이전트 실행 패턴을 분석하면서 발견한 중요한 사실입니다.

에이전트는 계속 계산하는 것이 아닙니다. LLM의 응답이나 사용자 입력을 기다리는 시간이 상당히 많습니다.

그런데 모든 에이전트에 CPU와 메모리를 상시 할당하면 비용이 급격히 증가합니다.

구글은 에이전트가 유휴 상태에 들어가면 실행 상태를 저장하고 컴퓨팅 자원을 회수합니다. 다음 작업이 발생하면 이전 상태에서 빠르게 재개합니다.

여기에 메모리 중복 제거, 사전 준비된 스냅샷, Copy-on-Write 기술을 결합해 수많은 에이전트가 공통 실행 환경을 공유하도록 했습니다.

4. 어제 하던 일을 오늘도 이어서 한다

에이전트가 매번 실행 환경을 새로 만들면 설치했던 라이브러리, 작성한 코드, 작업 파일 등을 다시 준비해야 합니다.

Agent Compute Engine은 임시 데이터, 공통 읽기 전용 데이터, 영구 작업 공간을 구분합니다.

이를 통해 에이전트는 며칠이 지나도 이전 작업을 이어갈 수 있고, 동일한 환경을 복제해 수천 개의 병렬 실험을 수행할 수도 있습니다.

5. 전 세계 에이전트를 하나의 컴퓨팅 자원 풀에서 운영한다

개인용 에이전트, 기업용 에이전트, 모델 평가 작업은 자원을 사용하는 시간이 서로 다릅니다.

구글은 이들을 공통 자원 풀에서 운영하며, 실시간 작업을 우선 처리하고 중요도가 낮은 평가나 배치 작업은 여유 시간에 배치합니다.

하드웨어를 무조건 추가하기보다 기존 자원의 가동률을 높이겠다는 접근입니다.

이 발표에서 흥미로운 점은 AI 모델의 성능이 아니라 AI 에이전트를 실행하는 컴퓨터의 구조 자체가 변화하고 있다는 것입니다.

기존 클라우드가 애플리케이션과 서비스를 위한 인프라였다면, 이제는 독립적으로 판단하고 행동하는 에이전트를 위한 인프라가 등장하고 있습니다.

구글은 이미 Gemini와 Antigravity, 내부 AI 평가 시스템 등에 이 기술을 사용하고 있으며, 향후 수개월 내 Google Cloud 프리뷰 제공을 목표로 하고 있습니다.

아직 외부 서비스의 가격이나 구체적인 성능 수치는 공개되지 않았습니다.

앞으로 AI 서비스의 경쟁력은 모델의 지능뿐 아니라, 수많은 에이전트를 얼마나 안전하고 저렴하게 지속적으로 실행할 수 있는지에 따라서도 달라질 것 같습니다.

그냥 목록으로
원문 보기 ↗