래블업, 여섯번째 기술 컨퍼런스 29일 개최

AI 인프라 관리·운영 소프트웨어 기업 래블업(대표 신정규)은 오는 29일 서울 삼성동 코엑스 3층 컨퍼런스룸에서 연례 기술 컨퍼런스 ‘lab | up > /conf/6’를 개최한다고 9일 밝혔다.

올해로 6회째인 래블업 컨퍼런스 ‘lab | up > /conf/6’은 래블업의 AI 인프라 기술과 연구개발 성과를 공유하고, AI 업계의 기업 관계자와 개발자들이 기술적 과제와 해결 방안을 논의하는 자리다. 2021년 온라인으로 처음 시작된 이후 매년 AI 산업의 주요 기술 변화에 맞춰 주제를 확장해 왔다.

올해 컨퍼런스의 주제는 ‘Make AI Composable²’​다. 지난해 제시한 ‘Make AI Composable’의 개념을 한 단계 확장해 빠르게 다변화하는 AI 모델과 반도체, 인프라, 데이터, 에이전트 기술을 필요에 따라 선택하고 조합하면서도 하나의 환경에서 유기적으로 운영할 수 있는 AI 인프라의 방향성을 제시한다.

최근 AI 산업은 대규모 모델 학습을 위한 GPU 인프라 구축을 넘어 실제 서비스 단계에서의 추론 성능과 비용 효율화, 다양한 AI 가속기 활용, 멀티클라우드 운영, AI 에이전트 관리 및 보안 등으로 기술적 요구가 빠르게 확대되고 있다. 특히 AI 서비스 이용량이 늘면서 다양한 모델을 효율적으로 연결하고 토큰 사용량까지 체계적으로 관리하는 인프라 운영 역량의 중요성도 커지고 있다.

신정규 래블업 대표는 ‘AI 산업 시대의 엔드투엔드에 대하여’를 주제로 오프닝 키노트에 나선다. 개발 중심에서 산업과 서비스로 빠르게 확산하는 과정에서 인프라 구축부터 모델 학습과 추론, 서비스 운영까지 전 과정을 연결하는 엔드투엔드 AI 플랫폼의 필요성과 래블업의 방향성을 공유할 예정이다.

이어 ‘AI 병목을 해결하는 인퍼런스 최적화’를 주제로 패널 토크가 진행된다. 김준기 래블업 CTO를 비롯해 노정석 비팩토리 대표, 김태호 노타AI CTO, 이진원 하이퍼엑셀 CTO, 이활석 업스테이지 CTO가 참여해 AI 서비스 확대에 따라 중요성이 높아지고 있는 추론 성능과 인프라 효율화 방안을 논의한다.

이와 함께 래블업은 여러 AI 모델을 하나의 창구로 연결하는 ‘Continuum Router’와  ‘Continuum Hub’​를 소개한다. 김종민 래블업 GTM 리드의 발표 세션에서 다양한 AI 모델 간 요청을 유연하게 라우팅하고 토큰 사용량을 통합 관리하는 기술을 중심으로, 래블업이 제시하는 ‘토큰팩토리(Token Factory)’ 개념​을 설명할 예정이다. 행사장에서 참가자들이 Continuum Router와 Hub의 기능을 직접 확인할 수 있는 데모도 진행한다.

그밖에 AI 인프라와 인퍼런스·서빙, AI 에이전트, 플랫폼 엔지니어링, 보안, 데이터 파이프라인, 피지컬 AI 등 다양한 주제를 중심으로 기술 동향뿐 아니라 실제 AI 시스템 구축과 운영 과정에서 발생하는 과제와 해결 방안, 산업 현장의 적용 사례까지 폭넓게 공유할 예정이다.

외부 연사로 엔비디아, 배스트데이터(VAST Data), KT클라우드, 퓨리오사AI, 삼성 웰스토맂, 리얼월드, 에임인텔리전스, KAIST 등이 참여한다. ▲AI 에이전트 시대의 시스템 가속 ▲AI 팩토리 구축의 핵심 원칙 ▲컴포저블  플랫폼 설계 ▲퓨리오사AI의 ‘RNGD’ 기반 고성능 LLM 서빙 ▲기업 환경의 AI 에이전트 워크플로우 ▲AI 에이전트 보안 ▲멀티에이전트 시스템을 위한 효율적인 LLM 서빙 등 실제 AI 도입 및 운영 현장에서 요구되는 기술적 과제를 다룰 예정이다.

신정규 래블업 대표는 “AI 산업이 빠르게 양한 모델과 인프라를 어떻게 연결하고, 생성되는 토큰을 얼마나 효율적으로 관리하느냐가 중요한 경쟁력이 되고 있다”며 “이 행사에서 실제 AI 운영 환경에서 어떻게 구현되는지 보여드리겠다”고 밝혔다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network