GPU만으론 안 된다…AI 병목 푸는 델의 스토리지 해법

델 테크놀로지스의 인공지능(AI) 워크로드를 위한 스토리지 '델 파워스케일(Dell PowerScale)' /사진 제공=델 테크놀로지스

기업들이 인공지능(AI) 투자를 이야기할 때 가장 먼저 떠올리는 건 그래픽처리장치(GPU)다. 하지만 실제 운영 현장에서는 다른 그림이 펼쳐진다. 아무리 고성능 GPU를 쌓아도 데이터가 제때 도착하지 않으면 연산은 멈춰 서고 값비싼 GPU는 대기 상태에 머무른다.

이 때문에 AI 성능을 좌우하는 변수는 데이터를 얼마나 빠르게 저장·이동·공급하느냐가 관건으로 꼽힌다. 데이터 저장장치인 스토리지가 △GPU 활용률과 학습 속도 △추론 응답성 △총소유비용(TCO)을 좌우하는 핵심 인프라로 떠오른 이유다.

AI는 데이터 파이프라인AI는 △데이터 수집·보관 △전처리·정제 △학습 △추론 △검색증강생성(RAG, 외부 데이터를 검색해 답변 품질을 높이는 기법) 등 단계마다 요구되는 인프라의 성격이 다르다. 보관 단계는 대용량·경제성·보안이, 학습·추론 단계는 저지연·고성능이 관건이다. 하나의 스토리지로 전 단계를 획일적으로 감당하기보다 단계별로 맞는 구조를 조합해 쓰는 게 유리하다는 분석이다.

기업에게 AI의 성능만큼 운영 일관성도 필수 조건이다. AI만을 위한 별도 데이터 섬을 만들기보다 기존 데이터 환경과 연결되면서 보안·거버넌스를 유지해야 하고 AI 에이전트의 민감 데이터 접근도 권한·감사·암호화 체계로 통제돼야 한다. 글로벌 시장조사기관 가트너는 비용 증가와 리스크 관리 미흡 등으로 2027년 말까지 에이전틱 AI 프로젝트의 40% 이상이 취소될 것으로 전망했다. 이는 탄탄한 데이터 기반 없이는 AI 프로젝트가 파일럿을 넘어서기 어렵다는 의미다.

특정 공급업체에 데이터를 가두지 않는 개방형 생태계도 같은 맥락의 업계 화두다. 엔비디아·AMD·인텔·퀄컴 등 실리콘 진영이 서로 다른 구조를 내놓는 데다 구글 제미나이·xAI 그록·오픈AI 챗GPT 같은 프론티어 모델을 클라우드가 아닌 온프레미스(기업 자체 전산 환경)로 구동하려는 수요까지 늘면서 특정 제조사에 갇히지 않는 데이터 인프라의 중요성이 커지고 있다.

델의 AI 데이터 플랫폼 포트폴리오이런 가운데 글로벌 스토리지 1위 기업 델 테크놀로지스는 데이터 수집부터 △전처리 △학습 △추론 △RAG 등 AI 파이프라인 전 구간을 지원하는 포트폴리오인 '델 AI 데이터 플랫폼 (Dell AI Data Platform)'을 갖추며 기업 수요에 대응하고 있다. 델 AI 데이터 플랫폼은 델 AI 인프라 솔루션 전략의 핵심이다.

델은 고객들이 견고한 데이터 기반을 확보할 수 있도록 '스타버스트(Starburst)'와 같이 업계를 선도하는 데이터 관리 솔루션 업체들과 협력해 기업들이 직면한 데이터 파편화 문제를 해결하고 에이전틱 AI를 위한 토대를 제공한다. 이는 여러 위치와 데이터 소스의 데이터를 이동시키거나 통합하지 않고도 접근할 수 있도록 하는 개방형 생태계를 조성하기 위함이다.

제품별 특징을 살펴보면 델 파워스케일(PowerScale)은 스케일아웃 방식의 네트워크 결합형 스토리지(NAS)다. 글로벌 시장조사기관 IDC 기준 22년 연속 세계 1위이자 가트너 매직 쿼드런트 파일·오브젝트 스토리지 부문 10년 연속 리더다. 엔비디아 인증을 받은 F710 모델은 델 자체 테스트에서 1만6384개 이상 GPU 규모에서 동급 타사 대비 최대 5배 적은 랙 공간, 88% 적은 네트워크 스위치, 최대 72% 낮은 전력 소비를 기록했다는 것이 회사의 설명이다.

델 오브젝트스케일(ObjectScale)은 최소 60테라바이트(TB)부터 단일 랙 47페타바이트(PB)까지 확장되는 S3 호환 오브젝트 스토리지다.

델 라이트닝 파일 시스템(Lightning File System)은 델이 세계 최고 속도라고 소개하는 병렬 파일 시스템이다. 수만 개 GPU와 초당 4테라바이트(TB/s) 이상의 처리량이 필요한 초대규모 환경까지 확장된다는 게 델의 설명이다.

파워스케일의 경우 광범위한 AI 데이터 라이프사이클에 적용한 데 비해 오브젝트스케일은 대규모 비정형 데이터셋에 특화됐다. 라이트닝 파일 시스템은 초거대 규모의 AI 트레이닝 및 추론에서 그 진가를 발휘한다.

또한 파워스케일은 기존의 엔터프라이즈 환경에서 운영하던 NAS 스토리지를 데이터 수집, 관리, 학습, 추론 과정에 간편하게 적용할 수 있다. 오브젝트스케일은 S3 호환 오브젝트 엔진을 내세워 AI에 최적화된 검색 기능을 내장했다. 라이트닝 파일 시스템은 수천 개의 GPU에 데이터를 지속적으로 공급할 수 있게 설계된 병렬 파일 시스템이다.

이 위에 통합 관리 계층인 델 AI 데이터 플랫폼이 놓인다. 이는 흩어진 데이터를 수집·정리해 AI가 즉시 쓸 수 있는 형태로 자동화하는 솔루션이다. 데이터 라이프사이클을 제어하는 오케스트레이션 엔진, 이동 없이 즉시 통합 쿼리를 수행하는 애널리틱스 엔진, 대규모 배치·실시간 처리를 담당하는 프로세싱 엔진, 자연어 질의로 비정형 데이터를 찾고 RAG를 지원하는 검색 엔진으로 구성된다.

조용노 한국 델 테크놀로지스 전무는 "AI 모델은 기업 고유의 독점 데이터를 기반으로 작동하는데 데이터가 사일로에 갇혀 있으면 파일럿을 실제 운영으로 확장하기 어렵다"며 "GPU 성능이 높아도 스토리지 단에서 병목이 생기지 않도록 데이터를 효율적으로 공급할 경로를 마련하는 게 우선"이라고 말했다.