래블업, GPU 비효율 잡고 코스닥 상장 도전
|

래블업, GPU 비효율 잡고 코스닥 상장 도전

By김원민

래블업이 GPU 자원 분할 가상화와 자동 장애 복구 기술을 앞세워 AI 인프라 운영 효율화 시장 공략에 나선다. 실제 고객사 적용 사례에서 GPU 활용률을 30%에서 85%로 높이고, 대규모 AI 모델 학습 기간을 120일에서 66일로 단축하는 성과를 거뒀다. 코스닥 상장을 통해 확보한 공모 자금은 하드웨어 인프라 확충과 글로벌 네오클라우드 시장 진출에 투입할 계획이다.

“AI 판도 6개월마다 변한다” AI 기술 리더가 짚은 생존 전략
| |

“AI 판도 6개월마다 변한다” AI 기술 리더가 짚은 생존 전략

By김원민

AI 기술 발전 주기가 빨라지면서 빅테크의 칩·인프라·LLM·앱 전방위 확장에 대응하기 위한 기업들의 생존 전략이 논의됐다. 패널들은 이기종 칩 최적화, 하드웨어의 긴 개발 주기, 에이전트 최적화, 인프라 조합 증가에 따른 테스트 부담 등을 주요 병목으로 꼽았다. 특화 도메인, 비용 효율성, 최적화 기술, 브랜드와 신뢰 등을 차별화 요소로 제시하며 AI 인프라의 변화 방향을 전망했다.

“쿠버네티스는 GPU를 잘 활용하기 힘든 플랫폼”

“쿠버네티스는 GPU를 잘 활용하기 힘든 플랫폼”

By김우용

쿠버네티스는 클라우드의 운영체제라 불릴 정도로 스테이트리스 서비스 운영의 기본 선택지로 자리잡았다. 그렇게 좋은 쿠버네티스지만, CPU와 메모리 자원을 최적화하는 걸 목적으로 태어났기 때문에, 학습과 추론의 AI 워크로드를 운영할 때 GPU를 효율적으로 활용하기에 어려운 부분이 많다. 쿠버네티스에서 GPU를 잘 활용하려면 실제 플랫폼을 구축할 때 발생하는 문제를 운영 관점에서 어떻게 해결할 수 있을 지 봐야 한다.

End of content

End of content