델 “AI 인프라, 온프레미스가 클라우드보다 낫다”
“AI에서 변화의 속도는 정말 중요하고, 그 속도의 핵심은 데이터다. 오늘날 대형언어모델(LLM)은 공개적으로 확보가능한 1페타바이트(PB) 정도의 데이터로 학습했다. 반면에, 기업은 수백 PB 규모의 데이터를 관리하고 있다. 아직 AI가 실현하지 못한 가치가 그만큼 있다는 것이다.”
비벡 모힌드라 델테크놀로지스 수석부사장(표지 사진)은 한국델테크놀로지스에서 17일 삼성동 코엑스 오디토리움에서 개최한 ‘델테크놀로지스포럼 2025’ 기조연설에서 AI 인프라의 중요성을 역설하며 이같이 밝혔다.
비벡 모힌드라 부사장은 “매년 전세계 데이터의 50%는 중앙이 아니라 엣지에서 생성되고, 그 대다수는 퍼블릭 클라우드 바깥에 있다”며 “AI를 데이터로 가져가는 것이 데이터를 AI로 가져가는 것보다 더 효율적이고 비용 효과가 크다”고 강조했다.
그는 이어 “하나의 만능 모델로 모든 걸 해결할 수 없고, 다양한 사용처와 상황에 따라 크고 작은 모델을 목적에 적합하게 써야 한다”며 “현 모델 개발 속도를 고려하면 현존의 최신 LLM의 성능이 1년전 모델모다 좋고, 목적별 소형 모델이 작년 LLM보다 더 뛰어나며 PC에서도 구동가능하다”고 덧붙였다.
델테크놀로지스는 AI 구축과 활용에 엔드투엔드 솔루션을 제공할 수 있다는 점을 강조한다. AI PC부터 데이터센터 하드웨어 및 소프트웨어, 전문 서비스 등을 제공하고 있다. AI 인프라 구축에 필요한 솔루션으로 ‘델 AI 팩토리’를 제공 중이다. 델은 2023년 이 포트폴리오를 출시한 후 3000여개 고객사례를 확보했다고 밝혔다.
델테크놀로지스는 전세계 기업과 조직의 생성형 AI 개발과 활용에서 퍼블릭 클라우드보다 온프레미스를 사용하는 추세라고 밝혔다. 개념검증(POC)과 파일럿 프로젝트의 경우 빠른 시도를 위해 퍼블릭 클라우드를 활용했지만, 실제 운영 단계로 확장 배포하는 단계에서 데이터 활용과 보호에서 유리한 온프레미스 인프라를 이용한다는 것이다.
여기에 구형 모델 서버 7대를 1대로 통합할 수 있는 최신 세대의 델 파워엣지 서버, 대규모로 고속 데이터 스토리지를 구축할 수 있는 델 파워스케일 및 파워스토어, 800G급 인피니밴드와 이더넷 네트워크를 지원하는 델 파워커넥트, 냉각 전력 소모를 줄여주는 냉각 솔루션 ‘eRDHx’, 비용을 80% 절감시켜주는 델 파워프로텍트 데이터도메인, 유기적으로 자원을 관리할 수 있는 델 오토메이션 플랫폼 등으로 기업의 AI 활용 고민을 덜어주는 포괄적 솔루션을 제공할 수 있다고 한다.
모힌드라 부사장은 “전세계 많은 기업들이 AI로 인해 더욱 빨라진 변화의 속도를 인지하고 있지만, 그에 맞게 내부 역량이 준비된 조직은 많지 않다”며 “전세계 절반에 가까운 기업과 기관들이 이미 생성형 AI 여정의 중간 지점을 지나고 있으며, AI를 데이터에 가까운 곳으로 가져와 워크로드 수요를 충족할 수 있게끔 본격적으로 아키텍처를 최적화해야 한다”고 강조했다.
그는 이를 위한 방안으로 고도로 효율화 된 분리형 인프라(disaggregated infrastructure)의 중요성을 언급했다. 모힌드라 수석부사장은 44%의 기업이 2025년 주요 IT 과제로 ‘AI를 위한 데이터 준비’로 꼽았다는 점에 주목하며, 데이터의 잠재력을 활용하기 위해 확장성과 복원력을 갖춘 미래에 대비한 인프라가 중요하다고 역설했다. 비용 상승, 라이선스 모델 변화, 클라우드 비용 증가, 워크로드의 급격한 변화 등의 과제에 대비하기 위해 선제적으로 데이터 센터를 현대화해야 한다고 했다.
이와 함께 AI PC로 생산성이 재정의 되고 있는 추세를 설명하며 ‘모던 워크플레이스(업무 환경 현대화)’의 중요성을 강조했다. 그는 AI PC에 주목해야 하는 이유로 3가지를 꼽으며, 첫째, 고성능에 대한 조직 구성원들의 높아진 기대치를 충족해야 하는 점, 둘째, 디바이스에 탑재된 AI로 급증하는 인프라 비용을 관리할 수 있다는 것, 셋째, 데이터 및 개인정보 보호를 강화해야 하기 때문이라고 밝혔다.
이어 기조연설 초대 연사로 ‘엘리스그룹’ 김재원 CEO와 2024 타임지 선정 AI 100대 인물 ‘이교구 교수’가 참여했다.
엘리스그룹 김재원 CEO는 ‘Everything of AI: AI 생태계 혁신을 위한 모든 것’이라는 제목으로 AI 교육 플랫폼에서 시작해 AI 클라우드 인프라까지, AI 생태계 혁신을 이끌고 있는 엘리스그룹의 AI 특화 이동형 모듈러 데이터센터(PMDC)에 대해 소개했다. 이어 크리에이터를 위한 AI 보이스 기술을 개발하는 AI 오디오 기업 ‘수퍼톤’의 CEO이자 서울대학교 융합과학기술대학원 교수로 재직중인 이교구 교수가 ‘기술’과 ‘창의성’의 만남을 통한 혁신의 경험을 공유했다.
김경진 한국델테크놀로지스 총괄 사장은 “지금은 인간과 AI 간 거대한 경주의 시대”라며 “인간은 AI보다 더 빠르게 변화하고 움직여야 그 경주에서 이길 수 있고, 살 수 있다”고 말했다.
김경진 사장은 “개인뿐 아니라 기업도 성공과 성장을 보장받는 데 필요한 경주를 펼치고 있으며, 인간은 AI를 극복하고 AI를 이용하는 쪽에 서야 하고 AI에 종속되고 지배되는 쪽에 서면 안 된다”며 “모두가 AI를 어떻게 만들 지, 인프라를 어떻게 구축하고 관리할 지, 수많은 AI 도구와 모델을 자신과 회사, 조직, 국가를 위해 어떻게 펼칠 지 고민해야 한다”고 강조했다.
그는 “AI 혁신에 대한 관심이 높아지고 있지만, 가장 좋은 AI 모델도 적절한 인프라가 뒷받침되지 않으면 속도면에서 뒤쳐지게 된다”며 “새로운 종류의 AI 워크로드를 지원하기 위해 PC에서부터 데이터센터, 그리고 클라우드까지 모든 영역에서의 기술이 새롭게 정의되고 있는 만큼 델은 엔드-투-엔드 포트폴리오와 개방형 생태계를 통해 AI의 초기 단계에서부터 대규모로 확장된 미래의 AI 까지 지원할 수 있는 기반을 제공하는 데 힘쓸 것”이라고 덧붙였다.
글. 바이라인네트워크
<김우용 기자>yong2@byline.network
