AI 안전 및 기업 보안 ‘양면 대책’ 마련돼야
“해킹 역량 대중화돼… 올바른 사용 교육 필요”
챗GPT가 그린 일러스트.“공격 대상에 침투해줘. 지정한 대상만 공격해줘.”
짧은 지시를 받은 인공지능(AI)이 서버의 취약점을 찾고 내부망까지 파고들었다. 최근 국내 금융권 해킹 사태로 주목받은 AI 기반 침투 도구 ‘아르텍스’(ARTEX)를 보안기업 안랩이 시험한 결과다.
전문가들은 특정 도구보다 ‘해킹 역량의 대중화’에 주목해야 한다고 지적한다. 유사 도구와 변형판이 확산하는 만큼 기업의 방어 체계와 AI의 악용 방지 장치를 함께 강화해야 한다는 것이다.
안랩이 지난 15일 공개한 실험에서 아르텍스는 이 두 문장만으로 스스로 진입점을 찾아냈다. 보안 전문가가 단계마다 명령을 입력할 필요도 없었다. 아르텍스는 지난달 말부터 이달 초까지 이어진 국내 금융권 연쇄 해킹에 쓰인 정황이 드러난 도구다.
금융당국이 지난 14일 집계한 침해 금융사는 16곳, 유출 정보는 약 10만건이다. 앞서 미국 보안기업 크라우드스트라이크는 지난 7일(현지시간) 보고서에서 공격자가 아르텍스에 중국 딥시크를 주 모델로 붙이고 GLM·그록 등 여러 모델을 섞어 썼다고 분석했다. 그렇게 숙련된 해커가 아니었다는 견해도 전한 바 있다.
아르텍스만의 문제도 아니다. 개발자는 지난 8일 깃허브에서 아르텍스 저장소를 닫았지만, 안랩에 따르면 이후 이름과 언어만 바꾼 ‘카피캣’ 배포본이 늘어나고 있다. 18일 깃허브에선 한국어를 지원하는 파생본 두 곳의 복제(포크) 건수만 2400건을 넘었다. 변종이 워낙 많아 위험한 도구를 일일이 꼽기도 어려울 지경이다.
올해 초 포티넷 포티게이트 방화벽 침해 사건의 공격 서버에서 발견된 ‘사이버스트라이크AI’ 등 유사 도구들도 이미 공개돼 있다. 나아가 중국 보안기업 스렛북은 지난달 사이버스트라이크AI를 사들여, 상용판 ‘아르텍스 프로’ 등과 묶어 기업용 보안 점검 플랫폼을 지난 16일 내놓기도 했다.
문턱이 낮아진 것은 전 세계 마찬가지다. 포티게이트 사건을 처음 알린 아마존은 지난 2월 기술 수준이 높지 않은 공격자가 생성형 AI의 도움으로 5주여 만에 55개국 이상에서 장비 600여대를 침해했다고 밝힌 바 있다. 공격자가 새 취약점이 아니라 노출된 관리 접점과 허술한 단일 인증을 노렸다는 점에서 외곽 시스템의 인증·접근통제 허점이 뚫린 국내 금융권 연쇄 해킹과 궤를 같이한다.
챗GPT로 그린 일러스트.아르텍스 같은 AI 기반 침투 도구들은 AI 모델 자체가 아니라 AI에 정찰과 취약점 탐색, 도구 실행을 나눠 맡기는 작업 체계인 ‘하네스’다. 합법적 점검과 악성 공격에 모두 쓰일 수 있는 기술인 만큼, 도구의 존재 자체보다 누가 어떤 권한으로 사용하는지가 관건이다. 누구나 악용할 수 있다는 점이 가장 큰 우려를 불러 일으킨다.
모델에 충분한 안전장치가 보편적으로 마련되면 이를 기반으로 한 도구의 악용도 상당 부분 줄일 수 있다. 하지만 중국산 오픈웨이트 모델들을 비롯해 안전장치가 부실·부재한 AI들도 널리 쓰이고 있고, 안전장치가 있어도 공격 작업 등을 쪼개서 실행하면 AI가 개별 요청만 살피다가 전체 유해성을 가리기 어려울 수 있다. 애초에 미·중 양강이 미래 기술패권을 두고 격돌하는 상황에서 AI 안전을 성능 개발보다 앞세우거나 국제적 합의를 끌어내기도 쉽지 않다.
이런 상황에서 기업·기관에 필요한 것도 결국 보안 기본기다. 이상근 고려대 AI보안연구소장은 “IT 자산 목록을 문서로 관리하는 데 그치지 말고, 외부에서 직접 탐색해 공격 표면을 확인해서 ‘섀도 IT’를 파악해야 한다”며 “공격자가 이 정도는 할 거라고 보고 방어해야 하는 만큼, ‘상시 레드티밍’(모의해킹)밖에 답이 없다”고 짚었다.
정보보호 투자 여력이 부족한 국내 중견·중소기업 등이 AI발 사이버공격 확산에 취약할 수 있다. 공격 속도와 범위가 함께 증대되는 가운데, 같은 취약점을 두고 여러 곳이 동시다발적으로 피해를 입는 사례도 늘어날 전망이다. 이에 정부는 전반적인 방어 역량을 높이기 위해 국가 차원의 AI 기반 사이버 방어 체계를 개발하는 대형 연구개발(R&D) 과제 ‘AI 사이버 쉴드 돔’을 기획해 내년 본격적인 추진을 앞두고 있다.
사이버보안을 위한 점검 범위와 실행 권한, 서비스 부하를 통제하지 않으면 사이버 방어 도구도 문제를 일으키거나 악용될 가능성이 있다. 이 소장은 “해킹 역량이 대중화되고 있다”며 “전문가가 아니어도 도구를 내려받아 언어모델만 연결하면 누구나 돌릴 수 있는 만큼, 학생들이 호기심에 따라 하지 않도록 관련 교육도 서두를 필요가 있다”고 밝혔다.