에듀테크 기업, 엘리스그룹은 왜 ‘데이터센터’에 꽂혔나

인공지능(AI) 기술 기반 교육 플랫폼 사업을 펼쳐온 회사가 이제 데이터센터 사업까지 나선다고 한다. 창립 10년차에 접어든 회사 입장에서는 모험인 셈인데, 이야기를 들어보니 허무맹랑한 이야기는 아니다.

AI 모델 지원에 특화한 모듈형 데이터센터 기술을 이미 개발한 데다 머지않은 시간에 직접 데이터센터를 구축하기로 했다. 새로운 사업 모델 중 하나로 데이터센터를 내세우고, 지금 제공하는 서비스를 효과적으로 돌리는 데도 자체 데이터센터 기술을 활용한다. 일종의 양동 작전 같은 묘수인데 구체적인 청사진은 무엇일까.

에듀테크 스타트업 엘리스그룹은 17일 강남구 인터컨티넨탈 서울 코엑스에서 기자간담회를 열었다. 엘리스그룹은 AI 기술을 활용해 기업과 기관을 대상으로 한 맞춤형 교육 콘텐츠를 제공하는 기업이다.

2015년 설립한 회사는 SK와 LG, 현대자동차 등 국내 대기업을 비롯해 서울대, 카이스트 등의 대학과 정부 기관을 대상으로 교육 콘텐츠를 제공하고 있다. 외국어 콘텐츠를 자동 번역 하거나 콘텐츠 제공자들이 올린 정보들을 큐레이션하고 지식상태를 추론하는 등 AI 기술이 서비스의 근간이다. 엘리스그룹 차원에서도, 콘텐츠 이용자 차원에서도 효과적인 클라우드 인프라 활용이 필연적이다.

데이터센터가 컨테이너에…‘PMDC’ 활용한다

이날 간담회에서 박정국 최고기술책임자(CTO)는 “AI 서비스를 운영하는 데 필요한 그래픽처리장치(GPU)는 전통적인 인프라가 지원할 수 없는 전력 밀도를 요구한다”며 “높은 열이 발생하고 이를 냉각하기 위해 또 전력을 소비하는 구조”라고 설명했다.

그래서 엘리스그룹이 내놓은 카드가 ‘이동형 모듈러 데이터센터(PMDC·Portable Modular Data Center)’다. 엘리스그룹의 자체 서비스를 돌리는 데 활용하는 것은 물론 신사업 모델로도 활용한다.

PMDC의 구조를 알면 이해가 쉽다. 전통적인 데이터센터 활용 형태는 하이퍼스케일러가 지은 센터 상면을 빌리고 이에 대한 비용을 내는 식이다. 허나 문제는 AI에 특화한 데이터센터가 아직 흔치 않다는 점이다. 박정국 CTO의 언급처럼 높은 전력량에 따른 비용 문제, 개발 확대에 따른 확장이 불편한 점도 걸림돌이다.

엘리스그룹은 GPU를 비롯해 신경망처리장치(NPU), 스토리지 등 AI 모델 개발에 특화한 인프라를 갖춘 PMDC를 자체 개발했다. 모양새를 보면 진짜 화물 컨테이너 박스처럼 생겼다. 여기에 인프라를 넣어놓고 컨테이너를 쌓아 올리며 쉽게 확장할 수 있는 소형 데이터센터다.

단순히 크기만 줄인 것도 아니다. 발열을 잡고 에너지 효율을 높여 더 효과적인 업무가 가능하다는 게 박정국 CTO의 설명이다.

높은 전력 밀도를 갖출수록 데이터센터는 에너지 효율이 높은 것으로 본다. 엘리스그룹의 PMDC 전력 밀도는 20~40kW/rack 수준이다. 엘리스그룹은 국내 데이터센터 평균은 3.3kW/rack보다 앞설 뿐더러, 1에 가까울수록 좋은 전력사용효율지수(PUE)도 1.27로 국내 평균 2.3보다 앞선다고 강조했다.

회사 차원에서는 이미 PMDC를 적극 활용하는 중이다. AI 기술 기반 교육 플랫폼 ‘엘리스 LXP’를 비롯해 ▲역량 테스트가 가능한 ‘엘리스테스트’ ▲다양한 제휴 콘텐츠를 제공하는 ‘엘리스라이브러리’ 등 회사 핵심 서비스를 제공하는데 PMDC를 활용한다.

특히 교육 콘텐츠 제공에 초점을 맞춘 이들 서비스와 달리 인프라 제공이 핵심인 ‘엘리스클라우드’ 서비스는 PMDC가 능력을 십분 발휘한다.

엘리스클라우드는 크게 ▲엘리스프로젝트 ▲엘리스클라우드 온디맨드 ▲엘리스 머신러닝(ML) 응용프로그래밍인터페이스(API) 등 3가지 줄기 나뉜다.

엘리스프로젝트는 미리 설정된 개발 환경과 GPU자원을 제공하는 월 구독 서비스다. 엘리스클라우드 온디맨드는 대규모의 GPU 개발 환경이 필요한 기업이나 연구소가 원하는 사양을 제공해 사용량 만큼 과금하는 서비스다.

특히 2월 오픈하는 엘리스ML API는 흥미롭다. 사용자들이 만든 AI 모델을 API로 배포해주는 서비스다. 일종의 마켓플레이스 성격으로 사용자는 모델만 업로드하면 자동으로 배포 환경을 구축해준다.

3가지 모두 클라우드 인프라가 뒷받침돼야 한다. 회사는 PMDC를 통해 퍼블릭 클라우드가 메꾸지 못하는 부분을 채울 수 있다고 판단했다. 현재는 일부 AI 스타트업들이 엘리스그룹의 PMDC를 활용하는 가운데 향후에는 대기업군으로도 사업 범위를 확대할 에정이다.

부산에 데이터센터도 구축

이뿐만 아니다. 10년차 스타트업이 데이터센터 사업을 예고했다. 적지 않은 자금이 필요한 사업이다. PMDC로 기술력은 갖췄다고 쳐도 부지를 찾고 데이터센터를 짓는 건 또 다른 이야기다.

부산시와 손을 잡아 난관을 돌파한다. 부산 에코델타시티에 마련되는 데이터센터 집적단지 사업에 참여한다. 이를 통해 늦어도 2년 안에는 데이터센터를 세울 수 있을 것으로 본다. 이를 지원할 자금도 확보다. 엘리스그룹은 최근 글로벌 벤처캐피털 버텍스(Vertex)로부터 200억원의 투자를 유치했다. 이를 포함해 이제까지 유치한 투자금만 335억원이다.

한편 엘리스그룹은 그동안 누적한 교육데이터를 토대로 교육특화 소형언어모델(sLM) 개발에 성공했다. 매개변수 70억개(7b) 모델로 GPT를 비롯해 오픈소스 LLM을 섞어 개발하는 앙상블(Ensemble) 기법을 썼다. 학습 보조 챗봇 ‘AI 헬피’에 접목해 학습자의 질문에 맞춘 최적의 결과를 내놓는다는 게 회사의 설명이다.

회사가 이날 제시한 슬로건은 ‘AI의 모든 것(Everything of AI)’이었다. 김재원 대표는 “데이터센터 구축 등 AI 솔루션 기업으로의 사업 외연을 확장하고, 글로벌 진출에도 박차를 가할 계획”이라고 강조했다.

글. 바이라인네트워크
<이진호 기자>jhlee26@byline.network