Arm, 직접 AI 서버용 CPU 만들어 판다

Arm이 칩 설계에서 벗어나 직접 에이전틱 AI 워크로드를 위한 CPU를 제작해 공급한다. 메타가 첫 고객이고, 우리나라의 SK텔레콤도 도입을 예정했다.

Arm홀딩스는 24일(현지시간) AI 데이터센터를 위해 설계된 양산형 실리콘 제품 ‘AGI CPU’를 출시한다고 발표했다.

Arm은 그동안 반도체 플랫폼을 설계해 타사에 라이선스하는 사업을 이어왔다. Arm의 AGI CPU는 그간의 원칙에서 벗어난 첫 제품이다

회사측은 “AI가 전세계 컴퓨팅 인프라를 혁신함에 따라 생태계 전반의 파트너들은 Arm 기술을 대규모로 배포할 방법을 요구하고 있다”며 “이에 IP 및 컴퓨팅 서브시스템(CSS)을 넘어 Arm이 설계한 실리콘 제품까지 포함하는 플랫폼 전략 확장은 파트너에게 Arm 기반 구축을 위한 가장 폭넓은 옵션을 제공하고 AI 생태계 전반에 더 빠른 혁신을 가능하게 한다”고 설명했다.

Arm AGI CPU는 최대 136개의 Arm 네오버스V3 코어를 탑재하고, 코어, SoC, 블레이드 및 랙 당 최고 성능을 제공한다. 코어 당 6GBps의 메모리 대역폭과 100나노초(ns) 미만의 지연시간을 지원한다.

300와트 TDP와 프로그램 스레드 당 전용 코어를 통해 지속적 부하에서도 안정적 성능을 제공하고, 스로틀링 및 유휴 스레드를 제거한다.

랙 당 최대 8160개 코어의 공냉식 시스템과, 랙 당 4만5000개 이상 코어의 수냉식 시스템 등을 지원하는 고밀도 1U 서버 셰시를 지원한다.

Arm AGI CPU는 x86 CPU 대비 랙 당 2배 이상의 성능을 제공하고, AI 데이터센터 용량 GW 당 최대 100억달러의 구축비용 절감 효과를 가져온다고 회사측은 설명했다.

Arm AGI CPU의 첫 고객은 메타다. 메타는 공동 개발사로서 Arm AGI CPU를 애플리케이션 제품군의 인프라에 배포하고, 메타 자체 맞춤형 실리콘인 MTIA와 함께 대규모 AI 시스템에 활용한다. 메타는 향후 Arm과 여러 세대의 AGI CPU 로드맵에서 협력할 예정이다.

Arm은 메타 외에도 세레브라스, 클라우드플레어, F5, 오픈AI, 포시트론, 리펠리온, SAP, SK텔레콤 등과 협력해 추가적인 사업 확장을 확정했다고 밝혔다. 이들은 가속기 관리, 제어 평면 처리, 클라우드 및 기업 기반 API, 작업 및 애플리케이션 호스팅 등 주요 에이전트 기반 CPU 사례에 Arm AGI CPU를 도입할 계획이다.

시스템 파트너로, ASRock Rack, 레노버, 콴타컴퓨터, 슈퍼마이크로 등 OEM, ODM 기업이 협력중이다.

이밖에도 AWS, 브로드컴, 구글, 마벨, 마이크론, 마이크로소프트, 엔비디아, 삼성전자, SK하이닉스, TSMC 등이 지지 의사를 밝혔다.