클라우드 대신 ‘내 책상‘’…델의 하이브리드 AI 승부수

“인공지능(AI)에서 가장 중요한 것이 성능이라고 더 이상 누구도 얘기하지 않는다. 보안과 비용, 운영을 어떻게 효율적으로 관리할 것인지가 더 심각하고 풀기 어려운 과제다. 회사가 토큰 사용량을 견제하고 중앙에서 컨트롤할 방법이 현재는 없다. 지금은 AI 활용을 부추기지만 절대 그렇게 지속될 수 없다.”

그는 델이 클라우드, 데이터센터 서버, AI 스토리지부터 워크스테이션과 AI PC까지 아우르는 제품군을 갖추고 있다고 소개했다. 이를 통해 변화하는 AI 활용 방식에 대응하고, 기업이 보안에 최적화된 방식으로 AI를 사용할 수 있도록 지원하겠다는 계획이다.

달라진 AI 업무 환경…델의 진단

AI 기술이 발전하면서 에이전트 AI가 급부상했고, 일상적인 업무에서도 끊임없는 추론이 이어지고 있다. 델은 여기에 더해 AI 처리 위치가 데이터센터 밖으로 확장되고 있다고 진단했다. 델은 업무 환경의 흐름이 바뀌면서 ‘데스크사이드’, ‘AI PC’, ‘엔드포인트 보안’을 변화의 핵심으로 꼽았다.

정재욱 한국 델 테크놀로지스 FPM팀 이사는 “조직의 AI 전환과 관련해 어떤 디바이스 전략이 필요한가, 이를 판단하는 데 있어 세 가지 흐름이 중요하다고 본다”며 “첫 번째는 AI 워크로드가 클라우드뿐 아니라 온프레미스 데이터센터와 데스크사이드까지 확장되는 것, 두 번째는 네이티브 조직의 중심이 AI PC는 것, 세 번째는 엔드포인트 보안이 더욱 중요해졌다는 것이다”라고 강조했다.

특히 그는 AI 활용에 따른 토큰 비용이 증가하고 있다는 점을 우려했다. 정 이사는 “토큰 단가가 내려가고 있는데도 총 사용량이 증가하면서 실제 청구 금액이 오히려 커지고 있다”며 “AI를 많이 쓸수록 비용도 함께 올라가는 딜레마에 빠졌다”라고 말했다. 이어 “AI 아키텍처를 설계하는 단계부터 토큰이 어떻게 쓰일지 고려해야 한다”고 덧붙였다.

업무에 맞는 인프라 활용 ‘하이브리드 AI’

델이 제시한 방법은 ‘하이브리드 AI’다. 업무 특성에 따라 클라우드, 데이터센터, 데스크사이드를 조합해서 AI를 사용하는 전략이다. 하나의 환경에 모든 작업을 맡기지 않고 요구되는 성능과 비용 등을 고려해 처리 위치를 정한다. 즉 대규모 학습과 추론에 필요한 인프라와 단순 반복 업무에 필요한 인프라를 상황에 맞게 활용하는 방식이다.

클라우드는 최신 AI 모델을 빠르게 도입하거나, 갑작스러운 수요 급증에 대응하거나, 대규모 학습을 진행할 때 적합하다. 데스크사이드 환경은 반복적인 추론이나 개인화 작업, 민감한 데이터를 외부로 보내지 않고 처리해야 하는 업무에 유리하다. 비용을 예측하기 쉬워 효율화에도 도움이 된다.

정 이사는 “핵심은 어느 하나만 선택하는 것이 아니라 워크로드 특성에 맞게 세 가지 방식을 조합하는 것”이라며 “모든 토큰을 클라우드에서 빌릴 필요는 없다”고 설명했다.

책상 위 AI 인프라

델은 하이브리드 AI 전략을 구현할 제품으로 워크스테이션 ‘델 프로 맥스 위드 GB10·GB300’과 ‘델 프로 프리시전’, AI PC 제품군 ‘델 프로’를 제시했다.

워크스테이션 델 프로 맥스 위드 GB10은 128GB 통합 메모리를 탑재했고 최대 2000억개 매개변수 규모 언어모델을 구동할 수 있다. 최대 3대를 연결해 성능을 높일 수 있다. 델 프로 맥스 위드 GB300은 엔비디아 그레이스 블랙웰 울트라 GB300을 탑재해 FP4 기준 2만테라플롭스(TFLOPS) 연산 성능을 제공한다. 최대 매개변수 규모 1조개 AI 모델도 지원한다.

델 프로 프리시전 9 시리즈는 사용 목적에 따라 T2·T4·T6 세 가지 형태로 제공된다. 인텔 제온 600 프로세서와 엔비디아 RTX 프로 블랙웰 그래픽처리장치(GPU)를 탑재한다. T6 모델은 최대 15개의 PCIe 슬롯과 4TB 메모리, 316TB 저장공간을 갖출 수 있다.

사용 환경에 따라 델 프로 맥스 위드 GB10과 델 프로 프리시전 9 T2 모델은 소규모 에이전트 프로토타입 개발 환경에 적합하다. 프리시전 9 T4 모델은 전문적인 AI 개발 환경, 프리시전 9 T6와 델 프로 맥스 위드 GB300은 다중 에이전트 환경에 최적화돼 있으며, 로컬 모델 튜닝과 대규모 워크로드 운영에 맞는 제품이라는 설명이다.

AI PC 제품군인 델 프로는 성능과 사용 목적에 따라 3·5·7·프리미엄으로 나뉜다. 최신 인텔 코어 울트라 시리즈3와 AMD 라이젠 AI 400 시리즈 프로세서를 탑재한다. 주력 제품인 델 프로 5는 14인치와 16인치로 제공되며 인텔과 AMD 프로세서를 선택할 수 있다. 최대 50TOPS(AMD 기반 제품은 최대 55TOPS)의 신경망처리장치(NPU) 성능을 갖췄다.

소형 데스크톱인 델 프로 5 마이크로는 인텔 코어 울트라 시리즈3 프로세서와 최대 50TOPS 성능의 NPU를 탑재했다. USB-C 케이블 하나로 최대 100W의 전원과 디스플레이를 연결할 수 있으며 최대 4대의 4K 모니터를 지원한다.

한층 강화한 보안

델은 자사 비즈니스 AI 제품군에 하드웨어와 소프트웨어를 아우르는 다층 보호 체계를 적용했다고 강조했다. ‘시큐어 디벨롭먼트 라이프사이클’을 기반으로 설계와 개발, 테스트 전 과정에서 보안 수준을 점검하고, ‘세이프바이오스’를 통해 공격 징후와 알려진 취약점을 탐지하고 무결성을 확인한다는 설명이다. 향후 양자컴퓨터 등장에 대비해 양자 내성 보안도 적용했다.

정 이사는 “AI 도입이 늘어나면서 엔드포인트 보안 취약성도 커지고 있다”며 “올해 외부 조사에 따르면 공격의 61%가 기업용 기기 직접 침해와 관련됐다”고 말했다. 이어 “델은 첫째 공급망 보안으로 하드웨어가 전달될 때부터 신뢰를 확보하고, 둘째 바이오스와 펌웨어 수준의 보안으로 공격을 막은 뒤 마지막으로 소프트웨어 보안을 통해 기기 전체의 위협 대응력을 높인다”고 강조했다.

글. 바이라인네트워크
<윤정환 기자>yjh@byline.network