델 테크놀로지스, ‘델 AI 데이터 플랫폼’ 업데이트 실시

델 테크놀로지스는 데이터 사일로 문제를 해결하고 AI 성과를 가속화할 수 있도록 설계된 ‘델 AI 데이터 플랫폼’을 업데이트했다고 29일 밝혔다.

델 AI 팩토리의 핵심 구성 요소이며 개방형 모듈식 기반을 제공하는 ‘델 AI 데이터 플랫폼’은 데이터 스토리지와 프로세싱을 분리하여 병목 현상을 제거하고 학습, 미세 조정, 검색 증강 생성(RAG), 추론 등 다양한 AI 워크로드에 필요한 유연성을 제공한다.

‘델 AI 데이터 플랫폼’은 엔비디아 AI 데이터 플랫폼 레퍼런스 설계와 통합됐으며, 네 가지 핵심 요소로 구성되어 있다. 스마트한 데이터 배치 및 원활한 데이터 이동을 위한 스토리지 엔진, 데이터를 실행 가능한 인사이트로 전환하는 데이터 엔진, 내장형의 사이버 복원력 기능, 효율적인 데이터 관리 서비스 등이다.

‘델 AI 데이터 플랫폼’의 스토리지 엔진인 ‘델 파워스케일’과 ‘델 오브젝트스케일’은 AI 데이터에 필수적인 성능, 보안 및 멀티 프로토콜 액세스를 제공한다. 델 파워스케일은 학습, 미세 조정, 추론 및 검색 증강 생성(RAG) 파이프라인과 같은 AI 워크로드에 NAS의 심플함과 병렬 성능의 이점을 제공한다.엔비디아 GB200및 GB300 NVL72의 새로운 통합 및 지속적인 소프트웨어 업데이트를 통해 델 파워스케일은 안정적인 성능과 간소화된 관리 기능을 제공한다.

고성능 스토리지에 대한 엔비디아 클라우드 파트너(NCP) 인증을 획득한 파워스케일 F710은 동급의 타사 솔루션 대비 최대 5배 적은 랙 공간, 88% 적은 네트워크 스위치, 최대 72% 낮은 전력 소비로 16k 이상의 GPU 규모를 제공한다

델 오브젝트스케일은 대규모 AI 워크로드를 위한 뛰어난 성능과 확장성을 갖춘 S3 네이티브 오브젝트 스토리지다. 어플라이언스로 제공되거나, 새로운 소프트웨어 정의 스토리지(SDS) 옵션을 통해 델 파워엣지 서버에서도 사용할 수 있으며, 기존 대비 최대 8배 빠른 속도를 제공한다. 향후 지원 예정인 RDMA를 사용한 S3 연결 (S3 over RDMA)을 통해, 기존의 전통적인 S3에 비해 최대 230% 더 높은 처리량(, 80% 더 낮은 지연 시간, 98% 더 낮은 CPU 사용량을 제공한다.

델은 엔비디아, 엘라스틱, 스타버스트 등과 협력해 AI 데이터를 구성, 쿼리, 활성화하는 데이터 엔진을 지속적으로 확장하고 있다.

엘라스틱과 협력 하에 개발한 새로운 ‘데이터 검색 엔진(Data Search Engine)’은 자연어로 질문을 하듯 자연스럽게 데이터와 상호 작용하며 의사 결정 속도를 높이도록 설계됐다. RAG, 시맨틱 검색, 생성형 AI 파이프라인과 같은 작업을 위해 고안된 이 엔진은 데이터 검색 소프트웨어인 ‘메타데이터IQ와 통합돼 세분화된 메타데이터를 사용해 파워스케일 및 오브젝트스케일 내 수십억 개의 파일을 검색할 수 있다. 개발자는 이 엔진을 통해 랭체인과 같은 도구에서 더 스마트한 RAG 애플리케이션을 구축할 수 있으며, 업데이트된 파일만 수집하여 계산 시간을 절약하고 벡터 데이터베이스를 최신 상태로 유지할 수 있다.

스타버스트와 협력해 개발된 ‘데이터 애널리틱스 엔진’은 스프레드시트, 데이터베이스, 클라우드 웨어하우스, 레이크하우스 전반에서 원활한 데이터 쿼리를 가능하게 한다. 새로운 ‘데이터 애널리틱스 엔진 에이전틱 레이어’는 LLM을 사용해 문서 작성을 자동화하고 인사이트를 수집하며 SQL 워크플로우에 AI를 내장함으로써, 원시 데이터를 단 몇 초 만에 비즈니스에 바로 사용할 수 있게끔 변환한다. 벡터 스토어에 대한 액세스를 통합하여 아이스버그, 델 데이터 검색 엔진, 포스트그레SQL + PG벡터 등에서 RAG 및 검색 작업을 수행할 수 있도록 한다. 엔터프라이즈급 AI 모델 모니터링 및 거버넌스 조직에서는 이를 통해 AI 사용량을 추적, 감사 및 제어할 수 있다. 새로운 ‘데이터 애널리틱스 엔진용 MCP 서버’는 멀티 에이전트 및 AI 애플리케이션 개발을 지원한다.

델 AI 데이터 플랫폼은 엔비디아 cuVS와 통합 가능해 엔터프라이즈 AI 환경을 위한 벡터 검색 성능 및 턴키 구축 프로세스를 향상시킨다. GPU 가속 하이브리드(키워드 + 벡터) 검색을 데이터 검색 엔진에 도입하여 온프레미스로 완벽하게 제어하며, 더 빠르고 효율적으로 인사이트를 확보할 수 있다. 엔비디아 cuVS와 델의 안전한 인프라스트럭처를 기반으로 하는 완전 통합형 턴키 솔루션은 GPU 기반 검색을 즉시 구축하고 확장하는데 탁월하다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network