AMD “10대 AI 기업 중 7곳이 우리 가속기 선택”

“10대 AI 기업 일곱 곳이 AMD 인스팅트 가속기를 채택했다”

리사 수 AMD 최고경영자(CEO)는 12일(현지시각) 미국 새너제이에서 개최한 연례행사 2025 어드밴싱 AI 무대에 올라 “세계 10대 AI 모델 구축 기업 중 일곱 곳에서 AMD 인스팅트 가속기를 사용하고 있다”며 “신형 가속기의 가격 대비 성능은 경쟁사(엔비디아)보다 최대 40% 높다”고 AI 가속기 시장에서 AMD의 경쟁력을 말했다.

엔비디아가 장악한 AI 반도체 시장에서 AMD도 존재감을 갖고 있단 걸 강조한 것이다. 이날 AMD는 신형 가속기 인스팅트 MI350 시리즈를 포함, 하드웨어·소프트웨어·솔루션 등 AI 전체 스펙트럼에 걸친 신제품과 로드맵을 선보였다.

이번에 발표한 인스팅트 MI350 시리즈는 MI350X와 MI355X GPU, 그리고 플랫폼으로 구성된다. 전작 대비 AI 연산 성능은 4배, 추론 성능은 35배 향상됐다. MI355X의 달러당 토큰 생성량은 경쟁사 솔루션 대비 최대 40% 많다고 AMD는 설명했다.

AMD는 AI 훈련과 고성능컴퓨팅(HPC) 노드의 에너지 효율을 5년간 30배 개선하겠다는 목표를 세운 바 있다. 회사는 MI350 시리즈의 등장으로 에너지 효율을 5년 전보다 38배 개선했다며 목표를 초과 달성했다고 밝혔다.

새로운 목표도 제시했다. AMD는 2030년까지 랙 스케일 에너지 효율을 2024년 대비 20배 향상시키겠다고 알렸다. 2030년까지 전력 소비량을 95% 줄이겠다는 이야기인데, 이는 현재 AI 모델 학습에 필요한 275개 이상의 랙을 단일 랙으로 처리할 수 있을 정도여야 가능한 수치다.

AMD는 MI350 시리즈 가속기, 5세대 에픽(EPYC) 프로세서, 펜산도 폴라라 NIC(네트워크 인터페이스 카드)를 활용한 엔드투엔드 오픈 스탠다드 랙 스케일 AI 인프라를 시연했다. 회사는 오라클 클라우드 인프라스트럭처(OCI)에서 이미 해당 인프라를 운영하고 있으며, 올 하반기 출시 예정이라고 밝혔다.

이날 AMD는 MI400 시리즈 GPU 기반 AI 랙 ‘헬리오스’를 선공개했다. 여기에는 젠 6 아키텍처 기반 ‘베니스’ 에픽 CPU와 펜산도 불카노 NIC를 탑재했으며, 이전 세대 대비 MoE 모델 추론 성능이 최대 10배 높다고 회사는 소개했다. 헬리오스는 2026년 출시 예정이다.

소프트웨어 측면에서는 최신 오픈소스 AI SW 스택 ‘ROCm 7’을 공개했다. 업계 표준 프레임워크 지원과 호환성을 확대하고, 생성형 AI와 HPC 워크로드에 맞춰 설계해 개발자 경험을 끌어올린다는 설명이다.

개발자와 오픈소스 커뮤니티를 위한 서비스 ‘AMD 개발자 클라우드’는 고성능 AI 개발을 목표로 설계됐다. 개발자가 프로젝트를 빠르게 시작하도록 다양한 도구와 확장성을 제공한다. 개발자는 값비싼 하드웨어를 직접 구매하거나 복잡한 설정을 할 필요 없이 AI 개발을 시작할 수 있다.

한편 이날 행사에서는 메타, 오픈AI, 마이크로소프트, xAI 등 인스팅트 가속기를 사용하는 기업 관계자가 AMD 솔루션 활용 사례를 공유했다.

글. 바이라인네트워크
<이병찬 기자>bqudcks@byline.network