‘AI 종말론’ 촉발자…27세 수학 천재는 왜 회사를 떠났나

WSJ, 제이컵 콕슨 전 앤트로픽 연구원 조명
케임브리지 수학 전공·국제수학올림피아드 메달
오픈AI 거쳐 앤트로픽 입사 넉달 만에 퇴사
‘AI 기업 내부선 인류 멸종 위험 실제로 우려’
무명 연구원 경고 일주일 만에 글로벌 논쟁으로

제이컵 콕슨 전 앤트로픽 연구원 X [X 캡처]“이 회사 사람들은 AI가 10년 안에 우리 모두를 죽일 수 있다고 진지하게 믿고 있다.”

세계 인공지능(AI) 업계를 뒤흔든 ‘AI 개발 속도조절론’의 불씨를 댕긴 제이컵 콕슨 전 앤트로픽 연구원은 불과 일주일 전까지만 해도 업계 밖에서는 거의 알려지지 않은 27세 수학자였다. 월스트리트저널(WSJ)은 16일(현지시간) 콕슨의 성장 과정과 오픈AI·앤트로픽에서의 경험을 집중 조명하며 그가 어떻게 글로벌 AI 안전 논쟁의 중심에 서게 됐는지를 전했다.

WSJ에 따르면 영국 출신인 콕슨은 학생 시절부터 수학에 두각을 나타냈다. 영국 대표로 국제수학올림피아드(IMO)에 출전해 2016년 은메달, 이듬해 동메달을 땄다. 이후 케임브리지대에서 수학을 공부했다. 2020년 오픈AI가 GPT-3를 내놓자 AI의 발전 가능성에 강한 인상을 받았고 원자재 거래 분야에서 통계와 머신러닝을 활용해 에너지 가격을 예측하는 일을 거쳐 AI 업계에 뛰어들었다.

AI 위험에 대한 관심은 그보다 훨씬 전부터 시작됐다. 학창 시절 철학자 닉 보스트롬의 저서 ‘슈퍼인텔리전스’를 접했고 2016년에는 구글 딥마인드의 알파고가 세계 정상급 바둑기사를 꺾는 모습을 지켜봤다. 다만 당시부터 AI 개발 중단을 주장하는 활동가는 아니었다. 주변 동료들도 그를 특별히 AI 안전 문제에 목소리를 높이는 연구원이 아니라 평범한 연구자로 기억했다고 WSJ는 전했다.

콕슨은 2023년 오픈AI에 합류했다. AI 경험이 많지 않은 연구자를 선발하는 6개월 과정의 레지던시 프로그램을 거쳐 대규모 데이터를 모델에 학습시키는 ‘사전학습’ 분야에서 일했다. 2023년 말에는 오픈AI의 초기 추론 모델 Q*를 직접 시험했다. 복잡한 문제를 여러 단계로 나눠 풀어나가는 모습을 보며 AI 능력의 빠른 발전을 체감했다.

그의 불안이 커진 것은 AI의 발전 속도가 예상보다 빨라지면서다. 특히 자신이 가장 잘 아는 수학 분야에서 변화가 두드러졌다. 2024년 구글 딥마인드 AI가 IMO 은메달 수준의 성과를 냈고, 2025년에는 딥마인드와 오픈AI가 각각 금메달 수준에 도달했다고 WSJ는 전했다.

올해 들어서는 사이버 공격 능력까지 빠르게 향상됐다. 특히 지난 7월 오픈AI의 미공개 모델이 시험용 격리환경을 벗어나 AI 플랫폼 허깅페이스를 해킹한 사건과 이후 공개된 관련 조사 결과가 결정적 계기가 됐다. 콕슨은 이 보고서를 접했을 때 자신과 동료들이 받은 충격을 강한 표현으로 설명했다.

그는 지난 5월 오픈AI를 떠나 경쟁사 앤트로픽으로 옮겼다. 앤트로픽이 AI 위험을 상대적으로 투명하게 공개한다고 판단했기 때문이다. 하지만 AI가 더 뛰어난 AI를 만들고, 새 AI가 다시 다음 세대 AI 개발을 가속하는 ‘재귀적 자기개선(RSI)’ 가능성에 대한 우려가 커지면서 생각이 바뀌었다. 앤트로픽 내부에서 안전 업무로 옮기는 방안도 검토했지만 결국 퇴사를 택했다. 그는 “앤트로픽에서 안전 연구를 하는 것조차 경쟁에 가담하는 것처럼 느껴졌다”고 WSJ에 말했다.

콕슨이 요구하는 것은 AI 개발의 영구 중단이 아니라 필요할 때 속도를 낮출 수 있는 국제적 장치다. 미국과 중국 등 주요국이 핵 군축 협정과 비슷한 방식으로 AI 위험에 대응해야 한다는 주장이다. 그를 포함해 약 1400명의 연구자가 필요할 경우 AI 개발에 ‘브레이크’를 걸 수 있는 정부 차원의 장치를 마련하라는 성명에 서명했다.

콕슨의 경고 이후 다리오 아모데이 앤트로픽 최고경영자(CEO)를 비롯한 AI 업계 수장들이 개발 속도와 안전 문제에 잇따라 목소리를 내면서 논쟁은 실리콘밸리를 넘어 미국 정치권까지 번졌다. 반면 젠슨 황 엔비디아 CEO 등은 콕슨이 우려를 공개한 용기는 높이 평가하면서도 AI의 파국적 미래를 단정적으로 예측하는 데에는 선을 그었다.

콕슨은 자신을 ‘내부고발자’라고 부르는 데도 동의하지 않는다. 회사의 비밀을 폭로한 것이 아니라 AI 연구자들이 내부에서 이미 논의해온 걱정을 밖으로 꺼냈을 뿐이라는 것이다. [실리콘밸리 원호섭 특파원]