‘로컬 AI 시대’, 엔비디아 ‘RTX 스파크’가 그리는 미래

“올해는 로컬 AI 에이전트의 해라고 할 수 있을 만큼 중요한 변곡점이었다. AI는 우리가 PC와 상호작용하는 방식과 사용하는 방법을 바꿔놓고 있다. 로컬 에이전트의 지능도 상당히 향상돼 고성능 프런티어 모델에 가까운 수준으로 발전하고 있다. 앞으로 AI 에이전트가 실행되는 PC에 대한 요구사항도 달라질 것이라고 보고 있다.”

제프 옌 엔비디아 아시아태평양(APAC) 테크니컬 마케팅 디렉터는 6일 서울 서초구 JW 메리어트 호텔 서울에서 열린 기자간담회에서 이같이 말했다. 그는 AI가 질문에 답하는 수준을 넘어 사용자의 목표를 이해하고 실제 작업까지 수행하는 에이전트로 발전하면서 PC에 요구되는 역할과 성능도 달라지고 있다고 강조했다.

엔비디아가 이러한 변화에 대응하기 위해 선보인 신제품이 ‘RTX 스파크’다. 로컬 AI 실행을 겨냥한 새로운 PC 플랫폼으로, 최대 128GB 통합 메모리와 고성능 AI 연산 능력을 갖췄다. 회사는 이날 제품의 개발 배경과 핵심 기술을 소개했다. 이와 함께 로컬 AI 에이전트, 콘텐츠 제작, 게임 구동 등 다양한 활용 방안을 시연했다.

로컬 AI 시대 겨냥한 RTX 스파크

AI 에이전트는 생성형 AI 챗봇과 같지 않다. 챗봇은 사용자 질문에 대답하는 기능에 충실하지만 AI 에이전트는 주어진 목표를 달성하기 위해 여러 도구를 활용한다. 이메일을 분석하고 적절한 내용을 작성해 회신하거나, 소프트웨어를 사용해 결과물을 만들어낼 수도 있다. 이에 엔비디아는 PC가 도구가 아닌 일하는 동료가 될 것으로 보고 있다.

특히 회사가 주목한 분야는 로컬 AI다. 클라우드를 활용해 외부 서버에서 연산을 처리하는 AI 서비스와 달리 사용자가 보유한 기기에서 AI 모델을 구동하는 방식이다. 이는 데이터를 밖으로 전송할 필요가 없어 보안에 유리하며 인터넷 연결이 힘든 환경에서도 작업을 이어갈 수 있다는 장점이 있다. 토큰 비용 절감 효과도 기대할 수 있다.

하지만 로컬 환경에서 AI 에이전트를 원활하게 구동하려면 하드웨어 성능이 뒷받침돼야 한다. 오랜 시간 작업을 이어가기 위해서는 전력 효율도 높아야 한다. 엔비디아가 선보인 RTX 스파크는 이러한 요구에 부합한다. 구조부터 기존 PC 프로세서와 다르다. 블랙웰 아키텍처 기반 GPU와 ARM 기반 CPU를 하나로 결합한 시스템온칩(SoC) 형태다.

CPU와 GPU는 하나의 칩 안에서 고속 NVLink-C2C 인터페이스로 연결되며 최대 128GB 통합 메모리를 공유한다. CPU와 GPU가 하나의 메모리 공간에 접근할 수 있어 대규모 AI 모델을 로컬에서 구동하는 데 유리한 구조다. AI 연산 성능은 FP4(4비트 부동소수점) 기준 최대 1페타플롭(PFLOPS, 초당 1000조번 연산)에 달한다.

전력 효율도 뛰어난 편이다. 엔비디아가 공개한 자체 벤치마크에 따르면 배터리로 구동할 때도 전원 어댑터를 연결한 상태 대비 약 98%의 성능을 유지했다. 회사는 이를 통해 전력 공급이 제한적인 환경에서도 높은 연산 성능을 활용할 수 있다고 강조했다.

AI 모델을 효율적으로 구동하기 위한 기술도 소개했다. 엔비디아는 메모리 사용량과 연산 부담을 줄이기 위해 AI 모델에 양자화 기술을 적용했다. 대표적으로 엔비디아가 개발한 AI 언어모델 ‘네모트론 3.5 볼트 74B-A9B’는 2비트 양자화를 적용해 약 24GB 메모리에서 실행할 수 있도록 설계됐다. 엔비디아는 2비트 양자화에 따라 정확도가 일부 낮아지지만 처리 속도와 메모리 효율을 고려하면 충분히 감수할 수 있는 수준이라고 설명했다.

AI 에이전트가 실제 업무를 수행하기 위해서는 소프트웨어와의 연동도 필요하다. 엔비디아는 마이크로소프트를 비롯한 주요 개발사와 협력해 여러 AI 에이전트를 RTX 스파크에 최적화했다. 사용자가 필요한 모델과 도구를 설치해 로컬 환경에서 활용할 수 있도록 관련 가이드도 제공한다.

모든 작업을 로컬에서 처리하는 것이 최선은 아니다. 엔비디아는 일반적인 작업은 PC에서 수행하고, 더욱 복잡한 추론이 필요한 경우 클라우드 모델을 활용하는 하이브리드 방식도 제시했다. 이를 위해 작업에 따라 적절한 AI 모델을 선택하는 기술인 ‘네모 스위치야드’를 소개했다.

옌 디렉터는 “로컬 모델은 클라우드의 최첨단 모델 성능을 빠르게 따라잡고 있지만 고난도 작업을 처리하려면 최고 수준의 성능을 갖춘 프런티어 모델이 필요한 경우도 있다”며 “일반적인 질문은 RTX 스파크에서 처리하고 고도의 추론이 필요한 일부 질문에만 클라우드 모델을 사용하도록 한다”고 설명했다.

현장에서 마주한 RTX 스파크 활용 방법

엔비디아가 제시한 AI 에이전트의 활용 방식은 핸즈온 시연에서 구체적으로 확인할 수 있었다. 현장에는 이메일과 일정 관리, 로봇 학습, 영상 제작 등 서로 다른 작업을 수행하는 RTX 스파크 탑재 노트북이 놓여 있었다.

먼저 AI 에이전트 ‘치프 오브 스태프’를 활용해 이메일과 일정 등 일상적인 업무를 관리하는 과정을 선보였다. 당일 업무를 정리해 달라고 요청하자 AI가 주요 메시지와 처리할 일을 요약하고 관련 이메일로 연결되는 링크를 제공했다. 이 밖에도 회신 초안을 작성하거나 일정의 성격에 따라 캘린더 색상을 구분했다.

소형 로봇 ‘마이크로덕’을 AI 에이전트로 제어하고 학습시키는 과정도 선보였다. 시연자는 로봇 관련 자료가 공개된 깃허브 주소를 AI에 전달해 가상 시뮬레이션 환경을 구축했다. 이후 고개를 돌리라는 명령을 내리자 별도의 제어 코드를 작성하지 않아도 화면 속 로봇이 움직였다.

영상 편집 시연에서는 AI 에이전트 ‘에르메스’가 전문 영상 편집 프로그램 ‘다빈치 리졸브’를 직접 조작했다. 약 3시간 분량의 컴퓨텍스 기조연설 영상에서 RTX 스파크가 언급된 부분만 추출하도록 요청하자 약 3분 길이의 영상이 만들어졌다. 이후 화면 비율을 다섯 가지로 변경하는 작업도 진행했다. 특히 이 과정은 사전에 설치한 AI 모델을 활용해 인터넷 연결이나 외부 서비스 이용료 없이 로컬에서 이뤄졌다.

AI를 활용해 기존 공연 영상을 새로운 모습으로 바꾸는 과정도 공개했다. 영상 속 인물의 움직임을 추출한 뒤 AI로 생성한 캐릭터와 배경에 적용하는 방식이다. 전체 영상을 64개 클립으로 나눠 작업했으며, 영상 생성에는 클라우드 AI를 활용했다. 완성된 영상의 해상도를 1080p에서 4K로 높이는 작업은 로컬에서 진행했다.

게임 구동 성능도 선보였다. 현장에서는 ‘NBA 2K27’과 엔씨소프트의 ‘아이온2’를 RTX 스파크에서 실행했다. NBA 2K27에서는 DLSS 5를 적용한 그래픽과 프레임 향상 효과를 소개했다. 아이온2 시연에서는 해상도를 3000픽셀 이상으로 설정한 상태에서 약 25W에서 27W의 전력이 소비된다는 게 현장 관계자 설명이다.

다만 ARM 기반 CPU를 사용하는 만큼 기존 x86 PC 게임과의 호환성은 과제로 남아 있다. 일부 게임은 에뮬레이션을 통해 실행해야 하고 안티치트 시스템 등의 문제로 구동이 제한되기도 한다. 엔비디아는 출시 시점 기준 인기 PC 게임 100개 중 97개를 실행할 수 있으며 게임사와 협력해 지원 범위를 확대하고 있다고 전했다.

초기 구매층은 ‘개발자·창작자’

RTX 스파크는 고성능 AI 작업부터 콘텐츠 제작, 게임까지 다양한 용도로 활용할 수 있지만 가격대는 높은 편이다. 국내 판매가는 24GB 메모리 탑재 제품 기준 469만9000원부터 시작하며, 64GB와 128GB 모델은 각각 700만원, 900만원 안팎이다. 이날 기자간담회에서도 이러한 가격이 일반 소비자에게 부담스럽다는 우려의 목소리가 나왔다.

엔비디아도 가격 부담을 인정했다. 옌 디렉터는 “가격대가 높게 형성된 것은 사실이며, 저렴한 수준이라고 말씀드리기 어렵다”며 RTX 스파크 제품군을 프리미엄 라인업이라고 설명했다. 그러면서 초기 주요 구매층으로 AI 개발자와 콘텐츠 제작자를 꼽았다. 새로운 기술을 기다려온 이용자들이 먼저 제품을 구매할 것이라는 전망이다.

기존 고성능 노트북과의 관계에 대해서는 사용 목적에 따라 선택이 달라질 것으로 내다봤다. 옌 디렉터는 x86 기반 CPU와 외장 GPU를 탑재한 기존 PC를 선호하는 소비자도 있을 것이라며 두 제품군이 시장에서 공존할 것으로 전망했다. 김선욱 엔비디아코리아 테크니컬 마케팅 상무는 “게임에 초점을 맞춘 분들은 RTX 스파크보다 기존의 RTX 5080 게이밍 제품을 구매하는 게 목적에 더 맞을 것 같다”고 말했다.

글. 바이라인네트워크
<윤정환 기자>yjh@byline.network