“GTC는 AI 우드스톡, 젠슨 황은 남자 테일러 스위프트”
이번 주 IT 업계에서 가장 눈길을 끄는 행사는 미국 캘리포니아 새너제이에서 열리고 있는 엔비디아의 연례 컨퍼런스인 ‘GTC 2004’입니다. 스티브 잡스 생존 당시 아이폰 발표 행사와 비견될 정도로 이목을 집중시키고 있습니다. 엔비디아가 현재 얼마나 뜨거운 회사인지 보여주는 대목이죠.
해외 언론에서는 GTC 행사를 두고 ‘AI 우드스톡’이라고 표현하네요. 우드스톡은 매우 유명한 ‘록 페스티벌’입니다. 무대 위의 젠슨 황 CEO과 그에 대한 청중의 열광적 반등을 보며 “남자 테일러 스위프트”라고 칭하는 보도도 나옵니다.
GTC 2024가 얼마나 뜨거운 열기에 휩싸여 있는지 보여주는 대목입니다. 그만큼 AI에 대한 관심이 폭발적이라는 이야기도 됩니다. 현재의 AI 열풍을 뒷받침하기 엔비디아의 GPU가 얼마나 필수적인지도 보여줍니다. 작년에 엔비디아 주가 240%가 뛰어오른 이유기이기도 하죠.
‘AI 우드스톡’의 키노트 무대에 오른 ‘남자 테일러 스위프트’는 ‘블랙웰’이라는 새로운 아키텍처의 소개를 소개했습니다. 과거의 GTC 행사보다 좀더 제품과 기술 소개에 많은 시간을 할애했습니다. 많은 이들이 엔비디아 새로운 제품과 기술에 관심을 집중하고 있기 때문에 부수적인 이야기는 안 해도 된다고 판단했을까요?
관련기사 : 엔비디아, H100보다 4배 빠른 괴물 GPU ‘블랙웰’ 공개
블랙웰은 엔비디아가 2년마다 선보이는 새로운 아키텍처의 이름입니다. 지난 2년 동안은 ‘호퍼’라는 아키텍처가 메인이었습니다. 한 대에 5000만원도 넘지만 없어서 못 판다는 엔비디아의 H100이 바로 이 호퍼를 기반으로 하고 있습니다. ‘호퍼’ 2년 전에는 ‘암페어’라는 아키텍처가 있었습니다.
암페어는 A100이라는 GPU에 탑재됐고, 호퍼는 H100이라는 GPU에 탑재됐습니다. 여기에서 블랙웰이 탑재된 GPU 이름을 예상할 수 있겠죠? 네 맞습니다. B100입니다. 블랙웰 기반의 GPU가 호퍼보다 30배 이상의 성능을 내고, 에너지 소비는 25배 이상 절감한다고 회사 측은 강조했습니다.
가장 유명한 LLM 모델인 GPT4는 A100을 기반으로 학습된 것으로 알려져 있습니다. 올해 공개될 것으로 예상되는 GPT5는 H100이 사용됐다는 이야기가 나옵니다. 그렇다면 GPT6에는 B100이 사용될까요? A100에서 H100으로 넘어갈 때 가격이 서너 배 올랐는데, B100은 그보다 더 비쌀 전망입니다. H100이 2만5000~4만 달러에 거래되는데 B100은 5만 달러가 넘겠네요.
젠슨 황 CEO는 GB200이라는 GPU도 소개했습니다. 이름 맞추기를 다시 해볼까요? 일단 GB200에서 B는 앞서 언급한 것처럼 블랙웰을 상징합니다. 그럼 G는 뭘까요? ‘그레이스’라는 단어를 뜻합니다.
그레이스는 엔비디아의 CPU 아키텍처 이름입니다. 엔비디아는 GPU 회사인데 웬 CPU냐는 생각이 들겠죠? H100이나 B100과 같은 GPU는 단순한 칩이 아니라 사실상 하나의 컴퓨터입니다. 이 안에는 GPU 칩 이외에 CPU도 포함돼 있습니다. 보통 인텔의 X86 아키텍처 CPU를 사용하는데, 엔비디아는 인텔 좋은 일 시켜주는 게 싫었는지 2년 전 ‘그레이스’라는 자체적인 CPU 칩을 만들었습니다. 그레이스는 ARM 아키텍처를 기반으로 하고 있습니다. 그래서 나온 게 GB200입니다.
또하나 주목해야 주목해야 할 부분은 NIM(Nvidia Inference Microservices)입니다. NIM은 기업이 AI 모델을 배포하기 위해 필요한 요소들을 사전에 만들어 컨테이너에 담아둔 서비스입니다. AI 모델 배포를 위해 열심히 개발할 필요없이 NIM과 API를 연결하면 손쉽게 배포할 수 있다는 것입니다. 회사 측에 따르면, NIM을 활용하면 단 세 줄의 코드만으로 AI 앱을 배포할 수 있다고 합니다.
엔비디아는 GPU뿐 아니라 AI 관련 소프트웨어 분야에도 다양한 지배력을 가지고 있습니다. 쿠다(CUDA)가 대표적이죠. 엔비디아 GPU 기반으로 프로그래밍을 할 때 사용되는 소프트웨어입니다. 쿠다는 이제 사실상 업계 표준이 되었죠. NIM은 이런 소프트웨어 지배력을 이어가려는 엔비디아의 시도로 보입니다. NIM이 쿠다처럼 인기를 끌게 되면 AI 개발자들은 엔비디아 GPU를 사용하고 싶지 않아도 쿠다나 NIM을 사용하기 위해 엔비디아 GPU를 선택해야 할테니까요.
글. 바이라인네트워크
<심재석 기자>shimsky@byline.network
