3줄 요약
도널드 트럼프 미국 대통령과 시진핑 중국 국가주석. /연합뉴스인공지능(AI)의 비약적 발전으로 “인간이 AI에 대한 통제력을 잃을 수 있다”는 경고가 쏟아지는 가운데, 개발 속도를 늦추자는 ‘AI 감속론’이 확산하고 있다. 최근에는 이러한 주장이 업계를 넘어 국제사회의 의제로 떠오르는 상황이다. 하지만 경쟁에 제동을 걸 공동의 ‘브레이크’는 좀처럼 실마리를 찾지 못하고 있다.
도널드 트럼프 미국 대통령과 시진핑 중국 국가주석은 24일 미국 워싱턴에서 열린 미·중 정상 회담에서 AI 안전 문제를 주요 의제로 다뤘다. 양국은 ‘8개 합의 사항’을 통해 AI의 위험과 이익을 논의하는 공식 대화를 만들고, AI 관련 사고가 발생했을 때 소통할 수 있는 양자 채널(핫라인)을 구축하기로 했다.
하지만 AI 모델 개발 속도를 늦추거나 성능 상한을 정하고, 일정 수준 이상의 모델 개발을 공동 중단하는 개발 통제 조치는 포함되지 않았다. 말로는 “속도 조절이 필요하다”고 주장하면서도 계속 신형 모델을 내놓으며 오히려 경쟁을 가속화하고 있는 양국 AI 기업들의 입장과 크게 다르지 않다. AI가 향후 국가 경쟁력과 안보를 좌우할 핵심 기술로 떠오르면서 “국가도 기업도, 쉽게 가속 페달에서 발을 뗄 수 없다”는 전망마저 나온다.
그래픽=박상훈위험 경고 속에도 계속되는 경쟁
AI 안전을 위한 국제 공조 요구는 정상회담에 앞서 열린 유엔 안전보장이사회에서도 나왔다. 지난 23일 뉴욕 유엔본부에서 열린 안보리 회의에는 샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤스로픽 CEO, 클레망 들랑그 허깅페이스 CEO 등이 대면·화상으로 참여해 AI 통제 방안을 논의했다. 올트먼은 “경쟁에서 다른 기업을 이기는 것이 성급한 결정을 내릴 이유가 될 수 없다”며 인간이 통제할 수 있다는 근거가 있는 모델만 학습시켜야 한다고 강조했다.
이러한 우려를 뒷받침하는 사례도 잇따르고 있다. 오픈AI는 16일 보고서에서 최근 6개월간 확인한 AI의 이상 행동 6건을 공개했다. 대화 요약문에 자신의 실수와 일탈을 사용자에게 숨기라는 지시를 남기거나, 유출된 접속 인증키를 무단 사용한 뒤 데이터를 지어낸 사례 등이 나왔다.
하지만 다음 날 열린 미·중 정상회담에서는 AI 안전을 위한 실질적인 협력 방안은 나오지 못했다. 로이터 등 외신은 “미·중 양쪽 모두 원론적 입장에 머무른 셈”이라고 지적했다. AI 강국인 양국 모두 AI 위험 관리의 필요성에는 공감하지만, 기술 패권 경쟁 자체를 늦추려는 움직임은 보이지 않은 것이다.
높아지는 경고 속에서도 최신 AI 개발 경쟁은 계속되고 있다. 속도조절론을 주도한 앤스로픽은 22일 성능을 높이고 작업 비용은 낮춘 ‘클로드 오퍼스 5.5’를 공개했다. 오픈AI도 같은 날 최고 성능 모델 ‘GPT-6 아스트라’에 기반한 ‘솔’과 ‘루나’를 내놨다. 스페이스XAI 역시 21일 코딩과 지식 작업 성능을 강화한 ‘그록 4.7’을 선보였다.
그래픽=박상훈“국가 패권, 경제적 이득이 우선”
이처럼 국가와 기업 모두 AI 개발 감속을 놓고 모순적 행보를 보이자 “전형적 ‘죄수의 딜레마’ 상황”이란 지적이 나온다. 미국은 자국 기업만 속도를 늦추면 중국에 추월당할 수 있고, 중국도 미국이 개발을 이어가는 상황에서 먼저 감속할 유인이 적다. 블룸버그통신은 “미·중 어느 쪽도 AI에서 브레이크를 밟을 여유가 없다”고 했다.
아모데이 엔스로픽 CEO조차 최근 “중국도 자제할 것으로 믿고 개발을 늦췄다가 중국이 약속을 어기면 기술 우위를 내줄 수 있다”고 지적했다. 그는 “국제 공조와 함께 대중국 첨단 반도체 수출 통제가 필요하다”고도 주장했다. 냉전기 미·소의 전략무기제한협정(SALT)처럼 AI가 다음 AI를 만드는 속도를 제한하는 방안도 제안했다.
기업 입장에서는 투자금 회수와 시장 점유율 경쟁이 문제다. 데이터센터와 AI 칩, 인재 확보에 막대한 돈을 쏟아부은 상황에서 개발을 늦추면 수익과 기업 가치가 흔들리고, AI 붐에 기대는 미국 경제 전체에도 충격이 갈 수 있다. 미 매체 악시오스는 “투자금 회수와 기업 가치 방어가 빠른 AI 개발을 재촉한다”며 “AI 개발 속도를 늦추려면, 속도를 늦춰도 살아남을 수 있는 방법이 필요하다”고 했다.
하지만 공동 안전장치의 현실화는 요원한 상황이다. 국가 간은 물론이고, AI를 개발하는 기업들끼리도 AI 속도 조절론에 대한 의견이 엇갈리고 있다. 젠슨 황 엔비디아 CEO와 마크 저커버그 메타 CEO 등은 앤스로픽·오픈AI 등이 제안한 ‘공동 속도 조절’에 반대하며 “개별 기업이 제품 안전에 책임을 져야 한다”는 입장이다. 황 CEO는 23일 뉴욕타임스에 “AI를 통제할 수 없다면, 통제할 수 있을 때까지 제품을 출시하지 말라”고도 했다.