AWS 데이터센터 AI 인프라(출처=AWS)

메타, AWS 그래비톤 칩 대규모 도입

아마존웹서비스(AWS)는 메타와 ‘AWS 그래비톤’ 프로세서를 대규모로 도입하기 위한 계약을 체결했다고 28일 발표했다.

양사의 계약은 수천만개의 그래비톤 코어를 시작으로, 메타의 AI 역량 성장에 맞춰 유연하게 확대할 수 있는 구조로 설계됐다. 이번 계약은 AI 인프라 구축 방식의 변화를 반영한다. GPU가 대규모 모델 학습에 여전히 필수적인 반면, 에이전트 AI의 부상으로 실시간 추론, 코드 생성, 검색, 다단계 작업 오케스트레이션 등 CPU 집약적 워크로드에 대한 수요가 급격히 증가하고 있다. 그래비톤5는 이러한 워크로드에 최적화된 설계로, 메타가 대규모 환경에서 이를 효율적으로 실행할 수 있는 연산 능력을 제공한다.

이번에 도입되는 칩은 메타의 다양한 워크로드에 활용되며, 특히 회사의 AI 서비스를 지원하는 데 중점적으로 쓰인다. 이러한 작업을 수행하려면 수십억 건의 상호작용을 처리하는 동시에 복잡한 다단계 에이전트 워크플로우를 조율할 수 있는 인프라가 필요하며, 이는 바로 그래비톤이 최적화된 CPU 집약적 워크로드다.

스스로 추론하고 계획을 세우며 복잡한 과제를 수행하는 자율 시스템인 에이전트 AI의 도입이 확산되면서, 고성능·고효율 컴퓨팅 인프라에 대한 수요가 그 어느 때보다 높아지고 있다. 메타는 에이전트 AI의 최전선에서 사업을 확장하고 있으며, 그래비톤의 대규모 도입은 코드 생성, 실시간 추론, 차세대 모델 학습 등 에이전트 워크로드의 CPU 집약적인 특성과, 전용 설계 칩이 이를 가장 효율적으로 처리할 수 있다는 점을 반영한다.

그래비톤5는 192개의 코어를 탑재하고, 이전 세대 대비 5배 확장된 캐시를 통해 코어 간 통신 지연을 최대 33% 단축한다. 이를 통해 더 넓은 대역폭으로 더 빠른 데이터 처리가 가능해지며, 이는 다단계 작업을 지속적으로 추론하고 실행해야 하는 에이전트 AI 시스템의 핵심 요건을 충족한다.

그래비톤은 고성능, 고가용성, 높은 보안을 제공하는 전용 하드웨어 및 소프트웨어 기반의 AWS 니트로 시스템 위에 구축됐다. 니트로 시스템은 베어메탈 인스턴스를 지원해 하드웨어에 직접 접근할 수 있으면서도, 메타가 성능 손실 없이 자체 가상 머신을 운영할 수 있도록 ENA와 아마존 엘라스틱 블록 스토어(EBS) 환경을 그대로 지원한다.

그래비톤5 인스턴스 라인업은 EFA도 지원해 인스턴스 간 저지연·고대역폭 통신을 가능하게 한다. 대규모 작업을 다수의 프로세서에 분산해 처리해야 하는 메타의 에이전트 AI 워크로드에 있어 이는 필수적인 요소다.

AWS 그래비톤5는 3나노미터(nm) 공정 기술을 기반으로 설계됐다. 이 제조 공정은 더 작고 효율적인 프로세서 생산을 가능하게 한다. AWS는 칩 설계부터 서버 아키텍처까지 전 과정을 자체적으로 설계하고 통제하기 때문에, 범용 프로세서로는 구현하기 어려운 수준으로 성능과 효율을 최적화할 수 있다.

그 결과, 이전 세대 대비 최대 25% 향상된 성능을 제공하면서도 높은 에너지 효율을 유지하는 인프라가 완성됐다. 이를 통해 메타는 지속가능성 목표를 달성하면서도 AI 서비스를 추진할 수 있게 됐다.

아마존의 나페아 브샤라 부사장 겸 수석 엔지니어는 “이번 계약은 단순히 칩에 관한 것이 아니라 전 세계 수십억 명의 사용자에게 상황을 이해하고 예측하며 효율적으로 확장되는 AI를 구축할 수 있도록, 인프라 기반과 데이터·추론 서비스를 고객에게 제공하는 것”라며 “수천만 개의 그래비톤 코어를 도입하는 메타와의 파트너십 확대는, 전용 설계 실리콘과 AWS의 완전한 AI 스택을 결합해 차세대 에이전트 AI를 구동할 때 어떤 성과가 나오는지를 잘 보여준다”고 밝혔다.

메타의 산토시 자나단 인프라 책임자는 “메타의 AI 인프라를 확장해 나가는 과정에서 컴퓨팅 소스의 다변화는 전략적으로 필수적인 과제”라며 “AWS는 수년간 신뢰할 수 있는 클라우드 파트너였으며, 그래비톤으로의 확장을 통해 에이전트 AI를 뒷받침하는 CPU 집약적 워크로드를 우리 규모에 걸맞은 성능과 효율로 실행할 수 있게 됐다”고 강조했다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network

일간 바이라인 구독하기

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다


The reCAPTCHA verification period has expired. Please reload the page.