AWS, 기존 인프라 AI 환경으로 전환하는 ‘AWS AI 팩토리’ 발표

아마존웹서비스(AWS)는 최근 개최한 ‘AWS 리인벤트 2025’에서 고객의 기존 인프라를 고성능 AI 환경으로 전환하는 새로운 서비스 ‘AWS AI 팩토리’를 발표했다.

일부 정부와 대규모 조직들은 AI 프로젝트의 확장을 모색하는 과정에서 주권 및 규제준수 요구사항을 해결하기 위해 ‘AI 팩토리’라는 개념을 고려하고 있다. 하지만 고성능 AI 팩토리 구축을 위해서는 포괄적인 관리, 데이터베이스, 스토리지, 보안 서비스가 필요하며, 이러한 복잡성을 직접 감당하고자 하는 고객은 많지 않다.

이를 해결하기 위해, AWS는 기업과 정부 기관이 자체 데이터센터에 전용 AWS AI 인프라를 구축할 수 있도록 지원하는 신규 서비스인 ‘AWS AI 팩토리’를 공개했다. AWS AI 팩토리는 최첨단 엔비디아 AI 컴퓨팅과 트레이니움 칩을 포함한 최신 AI 가속기, AWS 고속·저지연 네트워킹, 고성능 스토리지 및 데이터베이스, 보안, 에너지 효율적인 인프라와 아마존 베드록 및 아마존 세이지메이커와 같은 포괄적인 AI 서비스를 결합해 고객이 AI 애플리케이션을 대규모로 빠르게 개발 및 배포할 수 있도록 지원한다.

규제 산업 및 공공 부문의 조직은 대규모 AI 프로젝트를 배포하는 데 있어 중대한 AI 인프라 과제에 직면해 있다. 자체적인 AI 역량 구축을 위해서는 GPU, 데이터센터, 전력에 대한 막대한 자본 투자가 필요할 뿐만 아니라 복잡한 조달 절차를 거쳐야 하고, 각 사용 사례에 적합한 AI 모델을 선택하고, 다양한 AI 제공업체로부터 모델 라이선스를 확보해야 한다. 이는 수년에 걸친 구축 기간과 운영 복잡성을 야기하며, 조직이 핵심 비즈니스 목표에 집중하는 것을 어렵게 만든다.

AWS AI 팩토리는 고객의 기존 데이터센터에 전용 AWS AI 인프라를 구축하고 고객 전용으로 운영함으로써 이러한 문제를 해결한다. AWS AI 팩토리는 마치 프라이빗 AWS 리전처럼 작동해 컴퓨팅과 스토리지, 데이터베이스, AI 서비스에 대한 보안성이 높고 지연 시간이 짧은 접근을 가능하게 한다.

이 같은 방식은 고객이 이미 확보한 기존 데이터센터 공간과 전력 용량을 활용할 수 있게 하며, 훈련과 추론을 위한 최신 AI 칩부터 AI 모델 구축·훈련·배포 도구에 이르기까지 포함한 AWS의 AI 인프라 및 서비스에 대한 접근을 제공한다. 또한 고객은 모델 제공업체와 별도 계약을 체결할 필요 없이 주요 파운데이션 모델에 대한 접근을 제공하는 관리형 서비스를 활용할 수 있으며, 데이터가 처리·저장되는 위치에 대한 보안, 데이터 주권 및 규제 요건을 충족하는 데 도움을 받을 수 있다.

AWS는 약 20년에 걸친 클라우드 기술 리더십과 대규모 AI 시스템 설계에 대한 풍부한 경험을 바탕으로 고객 자체 구축보다 더 빠르게 안전하고 신뢰할 수 있는 AI 인프라를 배포할 수 있으며, 이를 통해 구축을 위한 수년에 걸친 노력을 절감하고 운영 복잡성을 관리할 수 있다.

AWS와 엔비디아의 관계는 15년 전 AWS가 GPU 클라우드 인스턴스를 출시한 시점까지 거슬러 올라가며, 현재 AWS는 고객을 위한 가장 폭넓은 GPU 솔루션을 제공하고 있다. 첨단 AI 인프라를 제공하기 위한 양사의 오랜 협력 관계를 바탕으로 AWS와 엔비디아는 이제 고객이 자체 데이터센터 내에서 다른 어떤 곳보다 더 빠르게, 더 큰 규모로, 그리고 더 안전하게 대규모 언어 모델을 구축 및 운영할 수 있도록 지원한다. 엔비디아-AWS AI 팩토리 통합을 통해 AWS 고객은 엔비디아의 가속 컴퓨팅 플랫폼, 풀스택 엔비디아 AI 소프트웨어, 수천 개의 GPU 가속 애플리케이션에 매끄럽게 접근하여 차세대 AI 솔루션 구축을 위한 고성능, 효율성, 확장성을 제공받을 수 있다.

AWS와 엔비디아는 양사가 보유한 최고의 기술들을 지속적으로 결합해 나가고 있다. AWS 니트로 시스템, 페타비트 규모의 EFA 네트워킹, 아마존 EC2 울트라클러스터는 최신 엔비디아 그레이스 블랙웰 및 차세대 엔비디아 베라 루빈 플랫폼을 지원한다. 향후 AWS는 차세대 트레이니움4와 그래비톤 칩, 니트로 시스템에서 엔비디아 NV링크 퓨전(NVIDIA NVLink Fusion) 고속 칩 인터커넥트 기술을 지원할 예정이다.

AWS AI 팩토리는 정부 기관이 가장 민감한 워크로드를 모든 기밀 등급(Unclassified, Sensitive, Secret, Top Secret)에 걸쳐 실행할 수 있을만한 신뢰성을 제공하는 AWS의 엄격한 보안 기준을 충족하도록 설계됐다. AWS AI 팩토리는 또한 전 세계 정부에 자국 경제를 발전시키고 AI 기술의 혜택을 활용하는 데 필요한 가용성과 안정성, 보안성, 제어력을 제공할 것이다.

AWS와 엔비디아는 사우디아라비아에 본사를 둔 글로벌 기업 휴메인(HUMAIN)과 전략적 파트너십을 체결해 협력하고 있다. 휴메인은 풀스택 AI 역량을 구축하는 기업으로, AWS는 사우디아라비아에 최초의 ‘AI 존’을 구축하고 있다. 이 AI 존은 GB300 GPU를 포함한 최대 15만 개의 AI 칩, 전용 AWS AI 인프라 및 AWS AI 서비스가 포함되며, 모두 휴메인이 특별히 구축한 데이터센터 내에 배치된다.

이안 벅 엔비디아 부사장 겸 하이퍼스케일·HPC 부문 총괄은 “대규모 AI는 고급 GPU와 네트워킹에서부터 데이터센터의 모든 레이어를 최적화하는 소프트웨어와 서비스에 이르기까지 풀스택 접근이 필요하다”며 “AWS와 함께 우리는 이러한 모든 요소를 고객 환경에 직접 제공하고 있다”고 밝혔다.

그는 “AWS AI 팩토리는 엔비디아의 최신 그레이스 블랙웰 및 베라 루빈 아키텍처와 AWS의 안전하고 고성능의 인프라 및 AI 소프트웨어 스택을 결합함으로써 조직이 강력한 AI 역량을 훨씬 짧은 시간 안에 구축하고 통합이 아닌 혁신에 오롯이 집중할 수 있도록 돕는다”고 강조했다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network