앤트로픽의 인공지능(AI) 챗봇 클로드 / 연합뉴스인공지능(AI)이 매번 사용자에게 허락을 구하지 않고 작업하게 하는 ‘다시 묻지 않기’ 기능이 비밀번호 유출 통로가 된 것으로 나타났다. AI가 승인받은 작업을 기록하면서 비밀번호까지 저장했고, 이 파일이 개발 코드와 함께 인터넷에 공개된 것이다. AI가 사람 대신 일을 처리하는 과정에서 새로운 정보 유출 경로가 생겨난 셈이다.
9일 이스라엘 보안업체 아피이로에 따르면, 이 회사는 개발자들이 프로그램을 올려 공유하는 사이트 ‘깃허브’의 공개 저장소 1994곳에서 비밀번호 등 접속 정보 2539건을 발견했다. 현재 공개된 파일뿐 아니라 과거 수정 기록과 AI 대화 기록까지 조사한 결과다. 개인 개발자 외에 기업·학생 단체 등 63개 조직의 정보도 포함됐다.
대표적인 유출 경로는 앤스로픽의 AI 개발 도구 ‘클로드 코드’에 있는 ‘다시 묻지 않기’ 기능이었다. 클로드 코드는 자료가 보관된 데이터베이스에 접속하는 등의 작업을 하기 전에 이용자에게 허락을 구한다. 이용자가 매번 승인하는 번거로움을 줄이려고 ‘다시 묻지 않기’를 선택하면, 어떤 작업을 허락받았는지 별도 파일에 기록한다.
문제는 승인받은 작업의 명령어에 비밀번호가 들어 있으면, 이 비밀번호까지 함께 저장한다는 점이다. 개발자들은 동료와 함께 작업하거나 프로그램을 공개하기 위해 깃허브에 코드를 올린다. 클로드 코드는 이 기록 파일을 올리지 않도록 기본 설정을 해두지만, 개발자가 이미 공유 대상으로 등록한 파일에는 이 설정이 적용되지 않는다. 이런 파일에 비밀번호가 기록되면, 개발자가 작업 내용을 올릴 때 비밀번호도 함께 인터넷에 공개될 수 있다.
보안 검사를 거쳐도 비밀번호 노출을 발견하지 못할 수 있다. 아피이로는 비밀번호 등 접속 정보가 담긴 파일 1122개를 보안 도구 두 종류로 검사했다. 이 가운데 215개 파일에서는 두 도구 모두 비밀번호 등이 들어 있다는 사실을 감지하지 못했다. 아피이로는 작업 명령어에 섞인 비밀번호가 일반적인 단어처럼 보여 탐지 도구가 놓치는 경우가 많았다고 설명했다.
한번 공개된 정보는 파일을 지우는 것만으로 회수하기 어렵다. 과거 수정 기록이나 다른 사람이 복사한 파일에 비밀번호가 남을 수 있기 때문이다. 아피이로는 노출된 비밀번호와 접속용 인증키를 교체하고, AI가 작업을 기록할 때 실제 비밀번호가 저장되지 않도록 설정할 것을 권고했다. 점검 대상도 프로그램 코드뿐 아니라 AI와 나눈 대화, 작업을 기억하기 위해 남긴 메모 등으로 넓힐 것을 제안했다.
앤스로픽도 대응 방안을 검토하고 있다. 아피이로에 따르면 클로드 코드 책임자 보리스 처니는 이번 문제를 막을 방법을 살펴보고 있다고 밝혔다. 자동으로 작업을 승인하는 과정에서 민감한 정보가 포함됐는지 확인하고, 비밀번호 등을 찾아내는 기본적인 탐지 기능을 도구에 넣는 방안이다.