챗GPT 생성 일러스트고가의 인공지능(AI) 서비스를 이용하는 계정과 기업의 연산 자원이 해커들의 새로운 표적이 되고 있다. 유료 AI 계정의 로그인 정보를 훔쳐 암시장에서 판매하는 데서 나아가, 기업 클라우드에 침입해 AI 모델을 무단으로 가동하는 사례도 확인됐다. 해커는 AI 이용 비용을 줄이고, 피해자는 이용권과 연산 자원을 도둑맞는 구조다.
◇계정 도둑질… 훔친 AI 이용권 팔고 차단되면 새 계정까지
사이버 위협을 조사·분석하는 구글 위협정보그룹의 존 헐트퀴스트 수석 분석가는 올해 들어 이른바 ‘LLM 재킹’이 크게 늘었다고 지난 26일(현지 시각) 파이낸셜타임스(FT)에 밝혔다. LLM 재킹은 탈취한 계정이나 클라우드 접근 권한으로 대규모 언어 모델(LLM) 서비스와 연산 자원을 무단 사용하는 행위를 뜻한다.
구글 위협정보그룹은 지난 8일 공개한 AI 위협 보고서에서 AI 계정을 탈취해 재판매하거나 기업 클라우드의 연산 자원을 가로채는 침입 사례가 늘고 있다고 밝혔다. 공격자들이 고가 AI 서비스와 고성능 연산 장비의 이용 비용을 피하기 위해 타인의 계정과 서버를 노린다는 것이다.
판매 방식도 조직화되고 있다. 헐트퀴스트는 AI 기업이 악용 계정을 차단하면 새 로그인 정보를 추가 비용 없이 제공하겠다는 ‘접속 보장’을 내건 판매자도 등장했다고 설명했다. 구글 보고서에 따르면, 구글이 추적한 지하 게시판에서는 올해 AI 계정을 사려는 이용자와 판매자가 모두 늘었고, 계정당 평균 거래 가격은 지난해의 두 배 이상으로 올랐다. 클로드·제미나이 계정뿐 아니라 AI 코딩 도구의 이용권도 거래 대상이 됐다.
공격자는 개발자가 AI 서비스를 연결할 때 사용하는 API 키(프로그램이 다른 서비스의 기능이나 데이터에 접근할 때 사용하는 고유한 인증 코드)도 노린다. 구글은 지난 5월 정보 탈취 악성코드가 AI 코딩 도구의 설정 파일을 수집하려 한 사례를 확인했다. 이 파일에 저장된 키가 유출되면 공격자가 피해자의 유료 AI 서비스를 무단으로 이용하거나 관련 인프라에 접근할 수 있다.
◇서버 도둑질… 남의 클라우드에 AI 설치하고 연산비 떠넘겨
기업 클라우드 자체를 공격자의 AI 운영 기반으로 삼는 사례도 나왔다. 구글 산하 사이버 보안 업체 맨디언트가 조사한 지난 4월 사건에서는 공격자가 노출된 깃허브 개인 접근 토큰을 통해 기업 클라우드에 침입했다. 이후 AI 서비스를 무단 배포하고 고성능 연산 장비를 가동했으며, 엔비디아 RTX 6000의 사용 한도 확대까지 요청했다.
구글은 중국 연계 사이버 첩보 조직 UNC6508로 의심되는 활동에서도 침해한 클라우드에 가중치가 공개된 AI 모델을 설치한 정황을 포착했다. 피해자의 연산 자원을 이용하면서 상용 AI 서비스의 API 이용 감시를 피하는 방식이다.
피해를 곧바로 알아채기도 어렵다. 헐트퀴스트는 기업들이 AI 인프라를 막 도입하는 시기에는 연산 사용량이 갑자기 늘어도 정상적인 사용 증가로 여길 수 있다고 지적했다.