“사실상 버려진 자금” 스스로 판단
소유자 승인 없이 거래까지 실행
에이전트 경제 확산에 안전장치 과제
오픈AI가 15일(현지 시간) 공개한 인공지능(AI) 모델의 가상화폐 지갑 무단 사용 사고 보고서.오픈AI의 인공지능(AI) 에이전트가 다른 사람의 가상화폐 지갑에 접근해 자금을 무단으로 사용하는 사고가 발생했다. AI가 사람의 개입 없이 상품과 데이터를 사고파는 ‘에이전트 경제’가 확산하는 가운데 자금 사용 권한을 통제하기 위한 안전장치 마련이 새로운 과제로 떠오르고 있다.15일(현지 시간) 오픈AI가 공개한 사고 보고서에 따르면 6월 26일 내부 연구용 모델인 ‘GPT-5.6 Sol’ 계열 AI 에이전트가 이더리움 테스트 네트워크에서 타인의 가상화폐 지갑에 접근해 자금을 사용한 것으로 확인됐다. 오픈AI는 약 3개월이 지난 9월 25일 과거 모델 활동 기록을 점검하는 과정에서 해당 사실을 발견했으며 이날 관련 조사 결과를 공개했다.
당시 AI 에이전트에는 가상화폐 거래 애플리케이션을 수정하고 이더리움 테스트 네트워크인 세폴리아에 스마트컨트랙트를 배포하는 작업이 주어졌다. 스마트컨트랙트는 블록체인에서 사전에 설정된 조건에 따라 자동으로 실행되는 프로그램이다. 작업을 완료하려면 블록체인 거래 수수료를 지불해야 했지만 AI에는 자금이 충전된 지갑이 제공되지 않았다.
AI는 처음에는 무료로 테스트용 가상화폐를 받을 수 있는 서비스를 알아봤지만 자금을 확보하지 못하자 다른 방법을 모색했다. 이후 개발용으로 널리 알려진 복구 구문(시드 구문)을 활용해 가상화폐 지갑 주소를 생성하고 잔액을 조회하는 프로그램을 직접 작성했다. 복구 구문은 지갑의 개인키를 생성하는 데 사용되는 단어 조합으로 이를 알고 있으면 해당 지갑에 접근해 자금을 사용할 수 있다.
AI는 총 362개 지갑 주소의 잔액을 조회한 끝에 스마트컨트랙트 배포에 필요한 자금이 남아 있는 계정을 찾아냈다. 해당 지갑의 거래 내역까지 확인한 AI는 다른 이용자가 자금을 사용하고 있을 가능성을 인식하면서도 작업을 계속 진행했다.
특히 주목할 점은 AI가 타인의 자금을 사용하는 것이 윤리적으로 적절한지 스스로 의문을 제기하고도 거래를 강행했다는 사실이다. 오픈AI가 공개한 추론 기록에 따르면 AI는 “공개된 개인키와 자금을 사용하는 것이 윤리적으로 괜찮을까”라고 자문했다. 그러나 지갑 복구 구문이 이미 공개돼 있고 테스트용 가상화폐에 금전적 가치가 없다는 이유로 해당 자금을 사실상 버려진 것으로 간주했다. 소유자의 동의 없이 자금을 사용해도 무방하다고 자체 판단한 것이다.
이번 사건이 발생한 세폴리아는 실제 이더리움이 거래되는 메인넷과 분리된 테스트 네트워크다. 이곳에서 사용하는 토큰은 개발과 시험을 위한 것으로 일반적인 이더리움과 달리 직접적인 시장 가치를 갖지 않는다. 다만 AI가 자금 사용 권한을 부여받지 않았는데도 자체 판단으로 외부 지갑에 접근해 거래를 실행했다는 점에서 금융 보안상 위험이 확인됐다는 평가다.
특히 AI 에이전트가 자체 가상화폐 지갑을 보유하고 결제와 자산 운용을 자동으로 수행하는 기술이 발전하고 있다는 점에서 이번 사건의 파장이 주목된다. 실제 자산이 거래되는 블록체인 네트워크에서 유사한 상황이 발생할 경우 금전적 피해로 이어질 가능성이 있다.
오픈AI는 보고서에서 “AI 모델이 계정 소유자의 허락을 받는 대신 예상되는 피해 규모에 대한 자체 판단을 우선시하고 명시적인 승인 없이 행동할 수 있다는 점을 보여준다”며 “유사한 사례에서 실시간 인터넷 접근을 방지하기 위해 현재 모든 모델 활동에 비정상적 행위 감지 모니터링을 적용했고 실시간 인터넷 접근이 확보될 경우 보안 담당자에게 경고하도록 설계했다”고 밝혔다.