베슬AI, 네오클라우드 경쟁력 강화
“메타가 대규모 모델을 학습할 때 수만장 규모의 그래픽처리장치(GPU) 클러스터에서는 30초마다 한 번꼴로 하드웨어 장애가 발생합니다. 베슬AI는 분산된 GPU를 단일 자원처럼 통합하고, 치명적인 고장의 80%를 사전에 차단하는 기술력을 바탕으로 글로벌 기업들의 인프라 병목을 해결하고 있습니다.”
안재만 베슬AI 대표는 15일 서울 서초구 드림플러스 강남에서 열린 ‘베슬AI 2026 네오클라우드 전략 발표회’에서 이같이 말했다. 이날 발표회는 급변하는 인공지능(AI) 연산 시장 흐름을 진단하고, 소프트웨어 스타트업으로 출발한 회사가 대규모 인프라를 직접 제공하는 네오클라우드 사업자로 전환한 배경과 향후 계획을 공유하기 위해 마련됐다.
안 대표는 현재 시장을 수요 급증과 공급 제한이 맞물린 극심한 불균형 상태로 진단했다. 과거 챗지피티 등에 질문하고 답변을 받는 방식으로 AI를 활용할 때는 한 번의 연산에 수백~수천 개의 토큰이 소모됐다. 그러나 컴퓨터가 사람을 대신해 장시간 업무를 수행하는 에이전틱 AI 시대가 열리면서 개인별 데이터 처리량은 수십만~수백만 개 단위로 급증했다. 향후 현재 전 세계 인구의 0.1%에 불과한 AI 활용 인구가 점차 늘어나면 전체 컴퓨팅 수요가 수백~수천 배 이상 증가할 수 있다는 분석이다.
반면 인프라 공급은 수요를 따라가지 못하고 있다. 핵심 하드웨어인 고대역폭메모리(HBM) 생산량을 단기간에 늘리기 어렵고, 대규모 데이터센터 운영에 필요한 전력망 확보도 현실적인 제약으로 작용하고 있다. 이에 기업들은 막대한 자금을 투입해 GPU를 확보하고 있다. 하지만 수천 장 규모의 클러스터를 구축하더라도 기기 중단이나 네트워크 통신 오류가 반복되면 장비를 제대로 활용하기 어렵다.
전지환 최고기술책임자(CTO)는 막대한 자본을 투입하고도 장비를 제대로 활용하지 못하는 인프라 비효율을 해결할 핵심 기술로 자사 고유 기술인 ‘플루이드 컴퓨팅’을 제시했다.
수십만 장의 GPU를 단일 데이터센터에 집적하는 것은 전력 공급과 공간 확보 문제로 사실상 어렵다. 이에 기업들은 장비를 전 세계 수십~수백 개 거점에 분산 배치할 수밖에 없다. 플루이드 컴퓨팅은 국가와 지역별로 분산된 다양한 종류의 이기종 장비를 논리적으로 통합해 하나의 대규모 자원 풀처럼 유연하게 제어하는 기술이다. 사용자가 개별 거점을 직접 확인하지 않고 필요한 작업 규모만 입력하면 시스템이 학습과 추론에 적합한 장비를 찾아 자동으로 배치한다.
장애 대응 기능도 플루이드 컴퓨팅의 주요 특징이다. 수만 장 규모의 GPU를 활용하는 연산 과정에서는 수십 초마다 장비 장애가 발생할 정도로 고장 빈도가 높아 사람이 일일이 대응하기 어렵다. 전 CTO는 “글로벌 클라우드 사업자 대다수는 장비가 멈춘 뒤에야 사후 대응에 나서거나, 전체 장애의 3분의 2가량은 고객 신고를 받은 뒤에야 복구하는 실정”이라며 기존 운영 방식의 한계를 지적했다.
반면 베슬AI는 에이전트 기반 자동화 관측 모델을 도입해 전체 이슈의 80% 이상을 선제적으로 감지한다. 장애 징후가 나타나거나 고장 난 장비가 확인되면 시스템이 이를 스스로 찾아 격리하고 교체한다.
이날 베슬AI는 운영 자동화와 추론 최적화 성과도 공개했다. GPU 인프라 관리에 에이전트 기반 인터페이스를 도입해 사용자가 직접 수행해야 하는 수동 작업을 약 30% 줄였다. 작업할당을 자동화해 전체 운영 속도와 효율성을 높인 결과다.
에이전틱 AI의 핵심인 추론 성능을 높이기 위한 최적화 기술도 적용했다. 회사에 따르면 긴 문맥을 유지하고 데이터를 빠르게 불러오는 데 필요한 캐시 적중률을 두 배 높였으며, 전체 토큰 처리 효율은 최대 2.7배 향상했다. 이를 위해 자체 커널을 개발하고 추론 가속 관리 모델을 직접 학습시켰다. 서비스 수준 협약(SLA) 기준 가용성은 99.99%를 달성했다.
실제 서비스에도 베슬AI의 기술이 적용되고 있다. 업스테이지가 글로벌 시장에 출시한 사전학습 언어 모델 ‘솔라 프로 4(Solar Pro 4)’의 대규모 추론 작업을 베슬AI가 지원하고 있다. 솔라 프로 4가 오픈라우터 플랫폼에서 하루 동안 처리하는 2850억~3000억 개의 토큰 가운데 1550억 개를 전담하며 대규모 추론 연산을 지원하고 있다.
글로벌 프런티어 랩들의 합류도 이어지고 있다. 오픈AI와 딥마인드 출신 연구진이 설립한 해외 기술 기업들은 맞춤형 컨설팅인 ‘다이렉트 투 엑스퍼트(Direct-to-Expert)’를 이용하고 있다. 이는 전문가들이 고객사와 직접 협력해 네트워크 대역폭 제약을 극복하고 유휴 자원을 줄여 장비 가동률을 높이는 방식이다.
전 CTO는 “해외 유수 연구진들로부터 다른 인프라보다 몇 배 더 안정적이고 학습이 중단되지 않는다는 평가를 받고 있다”고 말했다. 이어 자원 배분을 넘어 운영 전반의 자동화를 구현해 인프라 신뢰성을 더욱 높이겠다고 밝혔다.
베슬AI는 소프트웨어 기술을 기반으로 인프라 사업 확대를 위한 매출 목표와 하드웨어 투자 계획도 제시했다. 안 대표는 현재 연 환산 기준 계약 매출액이 1300억원 규모라고 밝혔다. 매달 200억~300억원씩 증가하고 있어 올해 말까지 2500억원을 달성할 수 있을 것으로 내다봤다. 이어 내년 7000억원, 내후년 2조원 이상으로 규모를 확대한다는 목표를 제시했다.
실적 확대를 위해서는 연산 장비 확보가 관건이다. 현재 7000여 장인 GPU를 올해 말까지 1만 장으로 늘리고, 내년에는 5만 장 규모로 확대할 계획이다. 2030년까지는 최소 20만 장을 확보해 증가하는 AI 수요에 대응한다는 방침이다.
이를 위한 자금 조달 규모도 크다. 내년 GPU 5만 장을 확보하려면 칩셋 가격에 따라 최소 5조~10조원의 자본 지출(CAPEX)이 필요하다. 베슬AI는 이를 위해 국내외 투자은행(IB)과 협력해 GPU 금융 조달 구조를 마련하고 있다. 우선 내년 상반기까지 4000억원 규모의 초기 자금을 조달하고, 내년 중 2조원 규모의 추가 금융을 조달해 장비 확보에 속도를 낼 계획이다. 단일 기업의 신용도에만 의존하는 방식에서 벗어나 SK텔레콤, NHN클라우드 등 대기업 파트너사와 고객 포트폴리오를 연계한 자산 기반 금융 구조를 구축해 재무 위험을 분산한다는 구상이다.
GPU를 설치할 공간과 전력망 확보도 병행한다. 2028년까지 500메가와트(MW) 규모의 데이터센터를 확보할 계획이다. 거점당 최소 100MW 이상의 전력을 공급할 수 있는 부지 8곳을 대상으로 구체적인 계약을 조율하고 있다.
2028년에는 엔비디아 칩에 대한 의존도를 낮추고 리벨리온 등 국산 신경망처리장치(NPU)를 결합한 전용 AI 팩토리도 구축할 계획이다. 추론 연산에 특화된 칩을 활용해 시스템 효율을 높이고, 글로벌 학습·추론 수요를 국내로 유치한다는 목표다.
안 대표는 급격한 인프라 투자 과정에서 불거질 수 있는 재무적 리스크 우려에 관해 “대규모 부채에 의존해 하드웨어를 찍어내는 일부 경쟁사와 달리 우리는 신용등급이 높은 대기업 파트너사들과 다각도로 펀드를 조성해 위험을 분산하는 자산 경량화 전략을 펴고 있다”고 선을 그었다.
이어 “단순히 데이터센터에 칩을 꽂아 임대하는 비즈니스가 아니라 극한의 운영 최적화로 고객 수익률(ROI)을 극대화하는 것이 진짜 네오클라우드의 본질”이라며 “한국의 딥테크 경쟁력을 무기 삼아 글로벌 AI 연산 공급망의 중심축으로 성장하겠다”고 강조했다.
글. 바이라인네트워크
<김원민 기자>wmkim627@byline.network
함께 보면 좋은 자료
