직원 업무 90%에 AI가 참여
R&D AI 에이전트 3만개 넘어
‘자기개선 AI’ 속도 빨라 감시 확대
앤트로픽 ‘AI가 AI 개발’ 현실로…클로드가 R&D 26% 주도앤트로픽의 인공지능(AI) 모델 ‘클로드’가 회사 전체 연구개발(R&D)의 26%를 주도하고 있는 것으로 나타났다. 올해 초만 해도 사실상 없었던 AI의 연구개발 주도 비중이 불과 8개월 만에 4분의 1을 넘어섰다. AI가 사람의 연구를 보조하는 수준을 넘어 차세대 AI를 직접 개발하는 역할까지 빠르게 확대되고 있다는 의미다.앤트로픽은 17일(현지시간) 공개한 보고서에서 이 같은 AI의 연구개발 참여 현황을 공개했다. 회사에 따르면 지난 8월 기준 앤트로픽 내부에서 연구와 엔지니어링 업무를 수행하는 AI 에이전트는 특정 시점에 동시에 3만개 이상 가동되고 있다. AI 에이전트는 사람의 지시를 받아 단순히 답변하는 챗봇과 달리 주어진 목표를 달성하기 위해 여러 작업을 스스로 수행하는 AI를 말한다.
특히 주목되는 것은 AI가 인간 연구원을 보조하는 수준을 넘어 일부 연구를 ‘주도’하기 시작했다는 점이다. 앤트로픽은 클로드가 현재 전체 R&D 업무의 26%를 이끌고 있다고 집계했다. 올해 초에는 사실상 0%였다. 클로드가 직원과 함께 업무를 수행하는 비율은 약 90%에 달했다.
이는 AI가 더 뛰어난 AI를 만드는 연구에 참여하면서 기술 발전 속도를 스스로 끌어올리는 ‘재귀적 자기개선(RSI)’ 논쟁과 맞닿아 있다. RSI는 AI가 AI 개발 과정에 참여하고, 이렇게 개선된 AI가 다시 다음 세대 AI 개발을 가속하는 과정을 뜻한다. 앤트로픽을 비롯한 AI 기업들은 연구 자동화를 차세대 AI 개발의 핵심 기술로 보고 있지만, 인간이 기술 발전 속도를 따라잡지 못할 수 있다는 우려도 제기되고 있다.
앤트로픽은 “AI 시스템은 기하급수적으로 강력해지고 있으며 스스로를 만드는 과정의 더 많은 부분을 자동화하기 시작했다”며 “세계가 최첨단 AI 개발 속도를 늦출지 검토하는 상황에서 대중에게 더 많은 정보가 필요하다”고 밝혔다.
회사는 AI 개발 가속과 안전 연구에 각각 얼마나 많은 자원이 투입되는지도 공개했다. 연구 종류에 따라 전체 컴퓨팅 자원의 6~12%가 안전 감시 분야에 사용되는 것으로 집계됐다. AI가 AI 연구를 얼마나 수행하는지 지속적으로 측정하기 위한 별도의 추적 체계도 마련했다.
외부 감시도 강화한다. 앤트로픽은 여러 기관의 제3자 평가자를 회사 내부에 상주시켜 직원과 비슷한 수준으로 내부 개발 절차와 시스템, 데이터에 접근할 수 있도록 할 계획이라고 밝혔다. AI 기업 스스로의 안전성 평가만으로는 부족하다는 지적에 대응해 외부 전문가가 실제 개발 과정을 들여다볼 수 있도록 하겠다는 것이다.
다리오 아모데이 앤트로픽 최고경영자(CEO)도 최근 3800단어 분량의 글을 통해 최첨단 AI 개발에 대한 정부 규제와 업계 차원의 속도 조절 필요성을 주장했다. 경쟁사 오픈AI 역시 AI를 활용한 연구 자동화를 추진하고 있다. 오픈AI는 이달 초 자사 모델이 외부 AI 플랫폼 허깅페이스 시스템에 침투한 사실을 발견한 뒤 일부 모델 훈련을 일시 중단했다고 공개했다. [실리콘밸리 원호섭 특파원]