← 목록으로

“인류 위한다더니 인간혐오”…상장 앤스로픽에 석학들 집단 비판

요약
  • 앤스로픽이 IPO를 앞두고 AI 안전을 강조하면서도 정작 위험한 기술을 개발하고 규제 완화 로비를 벌이고 있다는 비판에 직면했습니다.
  • 노벨상 수상자 등 석학들은 '미스앤스로픽 성명'을 통해 앤스로픽의 행보가 설립 명분과 정반대라고 지적하며 공동 대응에 나섰습니다.
3줄 요약

  • ㆍ노벨상 수상자 등 앤스로픽 비판 성명
  • ㆍ안전 강조 뒤 RSI 기술 개발·규제 약화 로비
  • ㆍ가속·감속론자 연대해 앤스로픽 견제 필요성 제기

  • 앤스로픽 로고. /로이터 연합뉴스 앤스로픽 로고. /로이터 연합뉴스
    “앤스로픽은 자기 스스로 발전하는 인공지능(AI)이 권력을 집중시키고 인간의 통제를 벗어날 수 있다고 경고하면서도, 정작 그 기술을 가장 먼저 개발하기 위해 경쟁하고 있다.”

    생성형 AI ‘클로드’ 개발사 앤스로픽이 기업공개(IPO)를 앞두고 세계적인 석학과 AI 업계 주요 인사들의 집단 비판에 직면했다. AI의 안전성을 최우선 가치로 내세워 성장해 온 앤스로픽이 정작 위험하다고 경고해 온 기술 개발에 앞장서고, 안전성에 관한 기존 약속마저 저버리고 있다는 것이다.

    18일(현지 시각) 미국 비영리 연구기관 AI안전센터(CAIS)는 이 같은 내용의 ‘미스앤스로픽 성명(MisAnthropic Statement)’을 공개했다. 인류와 관련된다는 뜻의 앤스로픽(Anthropic)을 인간 혐오적이라는 뜻의 미스앤스로픽(Misanthropic)으로 비틀어, 기업의 설립 명분과 실제 행보가 정반대라는 점을 비판한 것이다.

    노벨 경제학상 수상자인 올리버 하트, 노벨 물리학상 수상자인 셸던 글래쇼, 튜링상 수상자인 주디아 펄을 비롯해 세계 최대 오픈소스 AI 플랫폼 허깅페이스의 공동 창업자 토머스 울프, xAI 공동 창업자 이고르 바부슈킨 등이 서명에 참여했다.

    이들은 성명에서 “앤스로픽은 ‘안전’이라는 이미지를 내세워 투자자와 직원, 대중의 마음을 얻으면서도 뒤에서는 조용히 안전성에 관한 약속을 약화시키고 자신에게 유리한 규제를 만들기 위해 로비를 벌여 왔다”고 했다. 이어 “앤스로픽은 안전한 AI 기업이 아니다”라며 “더 큰 선(善)이라는 명분 아래 권력을 축적하려는 무모한 시도를 거부해야 한다”고 했다.

    앤스로픽은 글로벌 AI 기업 가운데서도 대표적으로 안전성을 강조해 온 기업이다. 창업자인 다리오 아모데이 최고경영자(CEO)는 오픈AI에서 연구 담당 부사장으로 일하다 AI의 안전성과 회사의 경영 방향을 둘러싼 이견으로 회사를 떠나 2021년 앤스로픽을 설립했다.

    인류에 도움이 되는 안전한 AI를 개발하겠다는 것이 창업 명분이었다. 아모데이는 지난 9월에도 “AI 모델의 능력을 개선하는 속도를 늦춰야 한다”며 ‘AI 감속론’을 제기했다. AI 기술 발전 속도를 안전성 연구가 따라잡지 못하고 있다는 이유에서였다.

    그러나 정작 앤스로픽은 AI 개발 경쟁의 선두에서 막대한 자금을 쏟아붓고 있다. 특히 이번 성명에 참여한 인사들은 앤스로픽이 위험하다고 경고해 온 ‘재귀적 자기 개선(RSI·Recursive Self-Improvement)’ 기술을 문제 삼았다. AI가 더 뛰어난 AI를 개발하고, 이렇게 개발된 AI가 다시 더 뛰어난 AI를 개발하는 방식으로 기술 발전 속도가 기하급수적으로 빨라질 수 있다. 앤스로픽은 그동안 이런 기술이 소수 기업에 막대한 권력을 집중시키고 AI가 인간의 통제를 벗어나는 결과를 초래할 수 있다고 경고해 왔다. 그러나 이번 IPO 과정에서는 오히려 이를 자사의 핵심 경쟁력으로 내세웠다.

    실제 앤스로픽은 미국 증권거래위원회(SEC)에 제출한 증권신고서에서 클로드의 각 버전이 다음 버전의 개발을 돕는 선순환 구조를 AI 경쟁에서 가장 중요한 구조적 우위 중 하나로 꼽았다. 대중에게는 인류를 위협할 수 있는 기술이라고 경고하면서 투자자들에게는 기업의 성장 동력이라고 홍보하는 셈이다. 이미 앤스로픽 내부에서는 각종 실험과 학습 데이터 생성·처리, 코드 작성 등에 클로드가 활용되고 있다. 지난 9월 앤스로픽의 코드 기여분 가운데 클로드가 작성한 비율은 90% 이상에 달했다.

    안전성에 관한 기존 약속도 후퇴했다. 앤스로픽은 지난 2월 자체 AI 안전 지침인 ‘책임 있는 확장 정책(RSP)’을 개정하면서 안전장치가 충분하지 않을 경우 독자적으로 AI 개발을 중단하겠다는 기존 약속을 없앴다. CAIS는 앤스로픽이 대외적으로 AI 규제의 필요성을 강조하면서도 실제로는 캘리포니아주와 뉴욕주 등에서 AI 규제 법안을 약화시키기 위한 로비를 벌였다고 주장했다.

    이번 성명에는 AI 개발 속도를 늦춰야 한다고 주장해 온 안전성 연구자들뿐 아니라, 오히려 AI 기술 발전을 가속해야 한다고 주장해 온 인사들도 대거 참여했다. 미국 테크 매체 기즈모도는 “앤스로픽은 AI 가속론자와 감속론자를 하나로 결집시키는 불가능해 보였던 일을 해냈다”며 “공교롭게도 이들의 공동 목표는 앤스로픽을 막는 것”이라고 했다.

    그냥 목록으로
    원문 보기 ↗