AI 비용과 보안, 델은 ‘책상 위’에서 해결한다

AI 에이전트를 업무에 쓰는 기업이 늘면서 사용 비용과 보안 부담이 고민거리가 되고 있다. 델 테크놀로지스는 에이전트의 반복 작업을 클라우드가 아닌 사용자 책상 옆 고성능 컴퓨터(워크스테이션)에서 처리하는 ‘데스크사이드 에이전틱 AI’로 이 부담을 줄일 수 있다고 제안했다. 델은 이 방식이 클라우드 기반의 AI 서비스를 쓸 때보다 2년간 AI 사용 비용을 최대 87% 줄이고, 이르면 3개월 만에 투자 비용을 회수할 수 있다고 밝혔다.

스스로 계획을 세우고 여러 도구를 활용해 업무를 수행하는 에이전틱 AI 활용이 늘어나면서 기업이 감당해야 할 비용과 보안 부담이 커지고 있다. 단순히 질문에 답하고 멈추는 챗봇과 달리 스스로 자료를 찾고 필요에 따라 다른 시스템이나 프로그램과 연동하기 때문이다. 과정을 반복할수록 추론에 필요한 토큰 사용량이 늘어날 수밖에 없다.

보안 문제도 복잡해졌다. AI가 사내 문서, 소스코드, 업무용 프로그램과 시스템까지 접근하면서 데이터 보호를 넘어 접근 권한과 행동 범위까지 관리할 필요성이 생겼다. 기업 입장에서는 AI를 얼마나 잘 활용할지를 넘어 늘어나는 비용을 어떻게 통제하고, 데이터와 권한을 어떻게 보호할지 함께 고민해야 하는 셈이다.

늘어나는 추론 비용과 보안 문제

에이전틱 AI는 단일 챗봇 대비 많은 단계의 작업을 수행하며 과정이 반복될수록 토큰 사용량이 늘어난다. 기술 분석업체 시그널65가 분석한 보고서에 따르면 기업의 93%가 AI 에이전트를 연구하거나 시험·도입 중이다. 이러한 에이전틱 AI 환경에서는 일반적인 챗봇 방식 대비 4배에서 15배까지 더 많은 토큰을 사용할 수 있다.

델 역시 이러한 문제에 주목하고 있다. 정재욱 델 테크놀로지스 FPM팀 이사는 ‘델 테크놀로지스 포럼 2026’에서 토큰당 가격은 낮아지고 있지만 에이전틱 AI 확산으로 전체 사용량이 빠르게 늘며 기업의 비용은 커질 수 있다고 지적했다. 그는 AI 에이전트를 반복 사용하는 과정에서 토큰이 계속 소모되면서 사전 예측도 어려워졌다고 우려했다.

보안 부담도 커지고 있다. AI 에이전트가 웹페이지와 문서, 이메일 등을 읽고 사내 데이터나 업무 시스템과 연결되면서 어떤 자료에 접근하고 행동을 어디까지 허용할 것인지가 새로운 관리 영역으로 떠올랐다. 대표적인 위협은 외부 콘텐츠에 숨겨진 악성 지시를 AI가 명령으로 받아들이는 ‘간접 프롬프트 인젝션’이다.

팔로알토 네트웍스는 2026년 실제 웹 환경에서 이러한 공격이 관찰되고 있다고 밝혔다. AI가 사용하는 데이터에 악성 프롬프트를 심어 이를 읽은 AI 에이전트가 사용자가 의도하지 않은 행동을 하도록 유도하는 것이다. 앞서 마이크로소프트(MS)도 이러한 위협으로 인해 AI 에이전트의 의사결정과 데이터 처리가 영향을 받을 수 있다고 경고했다.

델이 꺼낸 해법 ‘데스크사이드 에이전틱 AI’

델은 이같은 문제의 해법으로 ‘데스크사이드 에이전틱 AI’를 제시했다. 이는 AI 워크로드를 성격에 따라 클라우드와 데이터센터, 책상 위(데스크사이드)에 나눠 배치하는 델의 ‘하이브리드 AI’ 전략의 한 축이다. 데스크사이드 영역의 AI 에이전트 구축과 운영에 필요한 하드웨어, 소프트웨어, 보안 기술 등을 하나로 묶은 종합 솔루션 개념이다.

델은 각 환경의 특성에 맞춰 역할을 나눈다. 대규모 학습이나 갑작스러운 연산 수요, 최신 프론티어 모델 활용은 클라우드에 맡기고 기업 내부의 핵심 데이터와 주요 업무는 데이터센터에서 처리한다. 이와 달리 반복적인 추론이나 외부 반출에 주의가 필요한 민감한 자료는 사용자 주변에 배치한 고성능 워크스테이션에서 다룬다.

반복 추론은 데스크사이드에서

데스크사이드 에이전틱 AI 솔루션은 반복적으로 발생하는 추론을 자체 고성능 워크스테이션에서 처리해 기업의 비용 절감을 돕는다.

델에 따르면 데스크사이드 에이전틱 AI를 활용하면 외부 클라우드 API 대비 2년간 토큰 비용을 최대 87% 절감할 수 있다. 이르면 3개월 만에 손익분기점에 도달할 수 있다는 분석도 내놨다. 일반 사무와 영업, 소프트웨어 개발 업무를 주 5일 수행하는 환경을 가정해 외부 클라우드 API와 델 솔루션 비용을 비교한 결과다.

데스크사이드 에이전틱 AI는 업무 규모에 따라 활용할 수 있는 하드웨어를 세분화했다. 워크스테이션 델 프로 맥스 위드 GB10과 델 프로 프리시전 T2 타워는 소규모 에이전트 운영에 적합하다. 최대 2000억 매개변수 규모의 AI 모델과 최대 3개 에이전트를 운용할 수 있어 초기 도입이나 소규모 업무 환경에 활용할 수 있다.

큰 모델과 다수의 에이전트가 필요한 경우에는 상위 모델을 활용할 수 있다. 델 프로 프리시전 T4 타워는 최대 5000억 매개변수 규모의 모델과 최대 10개 에이전트를 지원한다. 델 프로 프리시전 T6 타워와 델 프로 맥스 위드 GB300은 최대 1조개 매개변수 규모의 모델과 20개 에이전트를 운용할 수 있다. 보다 복잡한 업무에 적합한 구성이다.

델은 업무 규모가 워크스테이션 수준을 넘어설 경우 서버 환경으로도 확장할 수 있도록 구성했다. AI 인프라 통합 플랫폼 ‘델 AI 팩토리 위드 엔비디아’와 연계해 데스크사이드에서 시작한 AI 작업을 파워엣지(PowerEdge) 서버로 확대할 수 있도록 했다. 처음부터 대규모 인프라를 갖추기보다 필요한 수준에서 시작한 뒤 수요에 맞춰 연산 자원을 늘리는 방식이다.

에이전트 행동 제한하고 실행 환경까지 보호

델 데스크사이드 에이전틱 AI는 민감한 데이터를 로컬에서 처리하고 AI 에이전트 행동 범위를 통제하는 방식으로 보안을 강화한다. 에이전트가 다루는 프롬프트와 문서, 소스코드, 업무 데이터 등을 조직 경계 내부에 두고 외부 클라우드로 전송되는 범위를 줄이는 방식이다. 외부로 나가는 경로 자체가 없애 유출 가능성을 구조적으로 제거하는 것이다. 금융과 공공, 의료, 첨단 제조처럼 민감한 정보를 다루는 분야에서는 데이터 처리 장소가 중요한 보안 요건이 될 수 있다.

기업이 이를 실제 업무에 적용하려면 보안 소프트웨어와 위협 탐지 기술 그리고 이를 구동할 하드웨어를 따로 구축해야 한다는 부담이 있다. 델은 기업이 각각의 요소를 구성하기 위해 애쓸 필요 없이 하나의 실행 환경으로 구성해 현장에서 바로 AI 에이전트를 운용할 수 있도록 했다.

주목할 점은 단순히 데이터를 내부에서 처리하는 선에서 끝내지 않는다는 것이다. AI 에이전트의 데이터 접근 권한과 행동 범위까지 관리한다. 델은 이를 위해 엔비디아 ‘네모클로(NemoClaw)’ 기반 환경을 구축했다. 이는 상시 작동하는 AI 에이전트를 안전하게 관리하기 위한 일종의 기업용 AI 에이전트 감시 시스템이다. 처음부터 에이전트를 격리된 환경에서 실행하고 행동 범위를 제한하도록 설계됐다.

네모클로는 ‘오픈쉘(OpenShell)’과 ‘크라우드스트라이크 팔콘(CrowdStrike Falcon)’ 등 두 가지 보안 기술을 활용한다. 오픈쉘은 에이전트가 접근할 수 있는 파일과 시스템, 사용 가능한 기능을 제한한다. 에이전트 행동 범위를 정의하는 것이다. 이를 통해 AI 에이전트가 웹페이지나 문서에 숨겨진 악성 프롬프트에 노출되더라도 허용되지 않은 파일에 접근하거나 데이터를 외부로 보내는 행동으로 이어지지 않도록 차단한다.

크라우드스트라이크 팔콘은 에이전트가 구동되는 엔드포인트에서 발생하는 위협을 탐지하고 대응한다. 오픈쉘이 AI 에이전트의 행동 범위를 통제한다면 크라우드스트라이크 팔콘은 에이전트가 실행되는 장비에서 발생하는 공격과 이상 행위를 감지한다. 델 워크스테이션에서는 바이오스 검증 정보를 연동해 운영체제 아래 영역까지 확인 가능하다.

하드웨어에도 보안 기능을 적용했다. GB10과 GB300 기반 제품은 신뢰할 수 있는 장비인지 확인하는 TPM 2.0(Trusted Platform Module 2.0)을 지원한다. 특히 GB300 기반 제품은 외부 네트워크와 물리적으로 분리해 사용하는 에어갭(Air Gap) 환경을 지원하고, 시스템이 변조되지 않았는지 확인하는 하드웨어 루트 오브 트러스트(Root of Trust)와 보안 부팅 기능도 갖췄다.

회사는 데스크사이드 에이전틱 AI 보안 솔루션을 검증-확장-오케스트레이션(여러 AI 에이전트를 조율해 하나의 업무를 수행하는 단계)으로 이어지는 단계적 구조로 제시했다. 처음부터 전사 규모로 구축하기보다 작은 환경에서 보안과 운영 방식을 먼저 검증한 뒤 활용 범위를 단계적으로 넓히는 방식이다.

초기에는 GB10 기반 제품을 활용해 에이전트를 로컬에서 시험하고 보안성과 운영 통제 수준을 확인할 수 있다. 이후 프리시전 9 타워형 워크스테이션을 활용해 검증된 데이터를 팀 단위 업무에 적용하고 여러 에이전트를 함께 운영한다. 마지막 AI 오케스트레이션 단계에서는 고성능 GB300 기반 제품을 활용해 다수의 에이전트를 조율하거나 복잡한 자동화 업무를 장시간 수행하는 환경으로 넓힐 수 있다.

종합하면 델 데스크사이드 에이전틱 AI는 기업이 에이전틱 AI를 도입하는 과정에서 마주하는 비용과 보안 문제를 함께 해결하기 위한 전략이다. 대규모 클라우드에 의존하기보다 데스크사이드에서 AI 에이전트를 먼저 구축·검증하고 필요에 따라 활용 범위를 단계적으로 넓히도록 한다. 이러한 단계적 하이브리드 접근법이 기업의 표준 선택지로 자리 잡을 수 있을지 주목된다.

글. 바이라인네트워크
<윤정환 기자>yjh@byline.network