AMD, CUDA 해자 ‘바이브코딩’으로 넘는다
AMD가 엔비디아 GPU의 CUDA 해자를 넘기 위해 바이브코딩을 채택했다. AMD GPU 상에서 구동되는 AI 모델의 성능을 극대화하는 작업을 바이브코딩으로 하게 하는 것이다.
AMD는 최근 개최한 ‘어드밴싱 AI’ 행사에서 자사 GPU 칩의 소프트웨어 플랫폼에 생성형 AI 기반의 자동화 도구를 제공하는 개발자 경험 플랫폼 ROCm.AI를 공개했다.
ROCm.AI는 AMD GPU 소프트웨어 스택 상에 AI 에이전트와 각종 자동화 도구를 결합해 AMD GPU 하드웨어를 위한 소프트웨어를 더 쉽게 다룰 수 있게 한다.
그동안 AMD의 GPU는 하드웨어 자체 성능의 업그레이드에도 불구하고 엔비디아의 CUDA를 지원하지 않아 소프트웨어 성능에서 격차를 보인다고 지적받아왔다. AMD는 이에 엔비디아의 CUDA란 해자를 뛰어널기 위해 AI 연구자가 바이브코딩 방식을 통해 하드웨어 수준의 AI 소프트웨어 코드를 쉽게 작성하고, 성능을 극대화한다는 전략을 마련했다.
ROCm.AI는 AMD 스킬(skills)을 통해 개발자의 에이전트와 연동한다. AMD가 검증한 ROCm 지식을 클로드, 커서, 코덱스 등 주요 AI 코딩 도구에서 직접 제공하고, 명령어 수동 조합이나 문서 검색 없이 사용자 의도에 맞춰 하드웨어, ROCm 버전, 지원 소프트웨어 경로에 최적화된 안내를 제공한다.
AMD 스킬 샘플로 ROCm의 vLLM을 사용해 AMD 인스팅트 GPU에 프로덕션 LLM 엔드포인트를 배포하는 ‘serving-llms-on-instinct’, 파이토치 프로파일러 추적 결과를 실행 가능한 성능 보고서로 변환해 추론 및 학습 속도를 향상시키는 ‘tracelens’, 이미지, 음성 및 텍스트 음성 변환 데이터를 AMD 클라이언트 하드웨어의 로컬 서버로 전송해 개인 환경에서 클라우드 비용 없이 사용하게 하는 ‘local-ai-use’, NPU·iGPU·dGPU를 통해 기기 내 AI를 자체 앱에 내장하는 ‘로컬 AI 앱 통합’ 등이 있다.
ROCm 개발에 AI 에이전트 기반 워크플로우를 적용함으로써 AI 연구자의 설정 과정에서 어려움을 줄이고, 문제 진단을 간소화하며, AI 워크로드를 더 빨리 활용하게 지원한다.
특히, ROCm Hyperloom이란 자율 최적화 에이전트 시스템을 통해 성능을 향상시키며, 이 시스템은 병목 현상을 식별하고, 목표에 맞는 최적화를 적용하며, 정확성을 검증해 엔드투엔드 추론 워크로드를 최적화한다. 호스트 코드와 GPU 커널을 함께 분석 및 튜닝하고, 성능과 정확성을 자동 검증해 수동 프로파일링의 번거로움을 줄여준다.
실행 계층인 ROCm CLI는 ROCm 소프트웨어 설치, 환경 검사, 모델 제공, 구성 요소 업데이트, 진단 등을 생성할 수 있는 커맨드라인 인터페이스를 제공한다. 결정론적이며 스크립트 작성이 가능하다. 개발자가 직접 실행할 수 있고, CI 환경에서 스크립트로 호출할 수 있으며, 코딩 에이전트가 권한을 부여받아 실행할 수 있다.
ROCm 콘솔로 원격 측정과 진단이 가능하다. 원격 측정 데이터, 로그, 런타임 상태 및 진단 컨텍스트를 표시해 시스템에서 발생하는 상황을 파악하게 해준다.
엔비디아 CUDA 해자는 지난 몇년 사이 많이 얕아진 상태다. 파이토치, JAX 같은 프레임워크는 CUDA나 ROCm 같은 HIP 라이브러리를 직접 다루지 않고 추상화된 코드를 작성해 여러 곳에서 실행할 수 있게 해준다. 그러나 하드웨어의 성능 잠재력을 최대한 끌어내려면 여전히 저수준의 코드를 다뤄야 한다.
GPU 커널, 일반 행렬 곱셈(GEMM) 루틴을 수동으로 최적화하는 일인데, 이같은 역량을 갖춘 인력은 매우 적다. 그리고 그 역량있는 인력이 대부분 CUDA 생태계에 몰려있다.
최근 AI 모델이 발전하면서, 여러 모델이 GPU 최적화에서 높은 역량을 발휘하고 있다. AMD는 이런 역량을 통해 CUDA의 장벽을 건너뛰려 하고 있다.
ROCm.AI의 하이퍼룸 에이전트를 코딩 도구에 연동한뒤 ‘Hyperloom으로 MiniMax M3 최적화하라’고 요청하면 모든 과정을 완료해 사용자지정 CPU 커널을 생성할 수 있다.
AMD 스킬 카탈로그는 로컬 시스템, 개발자 워크스테이션, 데이터센터 인프라 등의 워크플로우로 계속 늘어날 예정이다. 오류 근본 원인 분석을 지원하는 ‘HIP 런타임 재생 분석’, 오류 진단도구 ‘ROCm 닥터’, GPU 병목 식별과 코드 변경 평가를 수행하는 ‘Hyperloom 커널 최적화 도구’, APU에서 공유 및 전용 메모리 할당을 분석 조정해 모델 적합도와 로컬 AI 성능을 향상시키는 ‘APU 메모리 튜너’ 등이 현재 기술 미리보기 버전으로 이용가능하다.
AMD 측은 “미래의 AI 인프라는 하드웨어만으로 결정되지 않을 것”이라며 “강력한 하드웨어를 더욱 쉽게 사용하고, 최적화하고, 신뢰할 수 있도록 만드는 플랫폼이 미래를 만들어갈 것”이라고 강조했다.
이어 “ROCm.AI를 통해 AMD 기반 AI 구축, 운영 및 튜닝을 간소화해 개발자가 더 빠르게 개발하고 의사 결정권자가 AMD AI 인프라를 더욱 확신 있게 도입할 수 있도록 지원할 것”이라고 덧붙였다.
글. 바이라인네트워크
<김우용 기자>yong2@byline.network
