24일 업계에 따르면 생성형 AI 확산으로 대규모 GPU 인프라 수요가 증가하면서 국내 데이터센터 시장도 AIDC 중심으로 빠르게 재편되고 있다.
한국데이터센터연합회가 발간한 '코리아 데이터센터 마켓 2026~2029' 보고서에 따르면 국내 민간 데이터센터는 지난해 기준 182개로 늘었으며 현재 계획·구축이 추진되는 신규 데이터센터 부지만 72곳에 달한다. 국내 상업용 민간 데이터센터 시장은 2024년 6조 2200억원에서 2029년까지 연평균 12.4% 성장할 것으로 전망됐다.
국가 AI컴퓨팅센터 조감도 (이미지=삼성SDS)일반 데이터센터와 AIDC의 가장 큰 차이는 서버가 사용하는 전력의 밀도다. 기존 데이터센터는 중앙처리장치(CPU) 중심 서버와 스토리지, 네트워크 장비 등을 운영하는 데 초점을 맞췄다면 AIDC는 여러 GPU를 한 서버에 집약해 대규모 AI 모델을 학습하고 추론한다. 같은 공간에 훨씬 많은 연산 장비가 들어가면서 하나의 랙이 소비하는 전력도 크게 높아지고 데이터센터 전체가 감당해야 하는 전력량도 함께 늘어난다.
전력 사용량이 늘면서 냉각 방식도 달라지고 있다. 기존 데이터센터는 차가운 공기를 서버에 공급하는 공랭식 냉각이 주로 활용됐지만 고성능 GPU가 밀집한 환경에서는 발생하는 열을 처리하는 것이 갈수록 어려워진다. 이에 냉각수를 서버 내부 또는 가까운 곳까지 공급해 열을 직접 식히는 액체냉각 등 고밀도 환경에 대응하기 위한 기술의 중요성이 커지고 있다. 전력과 냉각, 빌딩 설비를 함께 관리하는 데이터센터 인프라 관리 기술 역시 AIDC의 주요 요소로 꼽힌다.
이 때문에 기존 데이터센터를 AIDC로 바꾸는 일도 단순히 CPU 서버를 빼고 GPU 서버를 넣는 것으로 끝나지 않는다. 기존 시설이 고밀도 GPU 장비에 필요한 전력을 공급할 수 있는지, 전력 설비와 냉각 시스템이 늘어난 발열을 감당할 수 있는지 등을 함께 따져야 한다. 건물 안에 서버를 설치할 공간이 남아 있더라도 공급 가능한 전력이 부족하면 추가 GPU를 들여놓기 어렵다.
실제 국내에서도 이런 문제가 나타나고 있다. 업계에 따르면 국내 데이터센터의 70% 이상이 수도권에 있고 상당수가 과거에 구축된 시설이다. 일부 기존 데이터센터를 AIDC로 전환한 사례에선 서버 집약도가 높아지면서 공간은 기존의 4분의 1 정도만 사용했지만 추가로 공급할 전력이 부족한 상황이 발생 중이다. 이미 지어진 데이터센터를 활용하면 AIDC 구축 시간을 줄일 수 있지만 결국 전력 확보가 전환 속도를 좌우하는 셈이다.
신규 AIDC도 전력 확보가 최대 관문이다. 2024년 8월부터 올해 3월까지 수도권에서 데이터센터 전력계통영향평가 1차 기술검토를 신청한 522건 가운데 최종 공급 가능 승인을 받은 사업은 10건, 1010메가와트(MW)에 그친 것으로 나타났다. 현재 심사가 진행 중인 사업도 있어 이를 최종 승인 확률로 볼 수는 없지만 AI 인프라 확대 과정에서 서버 확보 못지않게 전력 공급이 중요해졌다는 점을 보여준다.
정부도 AIDC 확산에 맞춰 관련 제도 마련에 나서고 있다. 내년 3월 시행되는 AIDC 특별법 하위법령에선 AI 학습·추론용 가속기뿐 아니라 이를 운용하기 위한 전력·냉각 설비를 갖추도록 하고 일정 수준 이상의 전력밀도와 AI 장비 전력 비율 또는 규모를 AIDC 인정 기준으로 적용하는 방안이 검토되고 있다. 연산 성능만 기준으로 삼으면 기술 발전에 따라 적은 수의 최신 가속기만 설치해도 기준을 충족할 수 있다는 점을 고려해 전력을 주요 판단 기준으로 삼은 것이다.
송도영 법무법인 지평 변호사는 지난 9일 공개토론회에서 "데이터센터에 가속기나 랙 하나를 갖다 놓았다고 AIDC로 인정해 이 법에서 요구하는 특례나 혜택을 받도록 하는 것은 적절치 않다"며 "현재로선 전력을 기준으로 하되 구체적인 수치는 향후 더 논의해 정할 예정"이라고 밝혔다.