끝없이 진화하는 AI, 메가존클라우드 ‘AIR 스튜디오’

[바이라인네트워크 기획 시리즈 / AI 에이전트 플랫폼⑥]

기업의 AI 에이전트 도입은 짧다면 짧고, 길다면 긴 여정이다. 그리고 완주하기 힘든 여정이기도 하다. 출발선을 긋는 것부터 힘들고, 목표 지점을 잡는 것도 힘들다. AI 에이전트 여정에 존재하는 어려움은 무엇이고, 어떻게 여정을 계획해야 하며, 또 어떻게 여정을 진행할 것인가. 많은 질문이 시중을 뒤엎고 있다. 현재 AI 에이전트 프로젝트에서 발견되는 공통의 문제점과 그 해결 방안, 기술적 논쟁을 분석하고, 현재와 앞으로 AI 사업자의 시장 경쟁 양상을 전망해본다.

오늘날 기업의 AI 에이전트 도입이 어려운 이유는 모델의 성능보다 운영 체계의 부적합으로 설명된다. 사람과 기존 시스템을 기준으로 설계한 업무 체계에 AI 에이전트만 끼워 넣고 같은 성과를 기대하는 데서 어려움이 시작된다. 문서화되기 어려운 관행, 애매한 상황, 특정 기업만의 독특한 시스템 등의 가운데에 놓인 AI 에이전트는 업무를 멈추고 만다. 관행과 기업 맥락을 모르는 AI 에이전트는 막 입사한 신입 직원에 불과하다.

메가존클라우드는 AI 에이전트 플랫폼에 대해 에이전트 개발도구와 모니터링의 결합이라고 설명하지 않는다. 어떤 업무에 적용할지, 무엇을 성공으로 볼지, 어느 지점에서 사람이 개입할지 정하는 단계부터 운영 관점을 녹인 총체적 플랫폼으로 접근한다. 메가존클라우드는 전사 AI 운영과 현업의 업무 실행을 구분해 접근한다.

메가존클라우드가 ‘에이전틱 AI 운영체제(OS)’라고 설명하는 ‘AIR 스튜디오’는 기업의 공통 AI 운영 기반과 개인과 팀이 자신의 업무 방식에 맞는 에이전트를 활용하는 데 초점을 둔다. 두 기능은 서로의 대체재로 보기보다, 기업의 공통 기준과 현업의 자율성을 연결하는 구성이다. AIR 스튜디오는 기업의 AI 설계·구축(Build), 실행(Run), 통제(Govern)를 연결하는 엔터프라이즈 AI 운영 플랫폼이다. 사내 문서와 데이터를 지식베이스로 만들고, 이를 사용하는 에이전트와 워크플로우를 구성하며, 관리자는 권한과 사용 정책, 활용 현황을 관리하는 구조다. 주요 AI 서비스 연동, 워크플로우 통합 자동화, 개인·팀 지식베이스, 사용 현황 분석이 포함된다. 특정 모델 하나를 도입하는 데서 끝내지 않고 기업의 데이터와 업무, 운영 정책을 함께 다루게 한다.

특히 기업에서 에이전트 도입에 가장 중요하면서 어려움을 겪는 거버넌스 역량 강화를 강조한다. 실제로 기업에서 에이전트 개발하는 것은 너무 쉬워졌지만, 이 에이전트를 기업의 인프라 환경으로 배포해 운영하고, 통제, 확산하는 업무는 전혀 다른 차원의 영역이다. 쉽게 시작도 할 수 없고, 많은 고민과 시행착오를 겪어도 어려운 영역이란 게 메가존클라우드의 강조점이다.

‘AIR 스튜디오’는 지난달 세번째 버전으로 업데이트됐다. 메가존클라우드의 ‘AIR 스튜디오 v3’는 핵심 기능들을 ▲데이터 ▲에이전트 ▲ Ops ▲ 거버넌스 등 4개 영역으로 모듈화해 기업들이 각자의 AI 도입 단계와 수요에 따라 필요한 기능부터 선택적으로 적용할 수 있도록 했다. 지난해 8월 출시한 AIR 스튜디오 v1과 올해 4월 출시한 v2를 금융·리테일·제조·건설 등 다양한 분야의 국내외 기업에 구축하며 축적된 AX경험을 기반으로 이번 ‘AIR 스튜디오 v3’의 모듈 구조를 설계했다.

메가존클라우드는 기업마다 AI 도입 수준과 해결 과제가 다르다는 점을 고려해 AIR 스튜디오 v3를 모듈 구조로 설계했다. 이에 따라 기업들은 전체 플랫폼을 일괄 도입하지 않고 데이터 정비, 에이전트 개발, 운영 과제, 보안·비용 통제 등 당면 과제 해결에 필요한 모듈부터 적용한 뒤 필요에 따라 단계적으로 확장할 수 있다.

기존 데이터의 AI 활용 기반 구축이 필요한 기업은 Data 모듈을, 현업 맞춤형 에이전트 개발이 필요한 기업은 에이전트 모듈을 먼저 도입하는 식이다. 이미 다양한 에이전트를 활용하고 있는 기업은 Ops 모듈로 통합 운영·관제 체계를 구축하거나 거버넌스 모듈을 통해 AI 사용에 따른 보안과 정책을 통제할 수 있다.

김한수 메가존클라우드 AIR 기술유닛 리더는 “기업마다 AI 도입의 수준과 겪는 병목이 완전히 다르다”며 “어떤 기업은 당장 데이터 정비와 RAG 파이프라인 구축이 급선무인 반면, 이미 다양한 에이전트를 만들어 쓰고 있지만 통제와 비용 관리가 안 돼 골머리를 앓는 곳도 많다”고 설명했다.

그는 “전체 플랫폼을 무겁게 일괄 도입할 필요 없이, 기업이 당면한 과제에 맞춰 필요한 모듈부터 유연하게 시작하고 단계적으로 확장할 수 있어야 실질적인 AX 성공률을 높일 수 있다”고 말했다.

데이터 모듈은 기업이 보유한 다양한 데이터를 AI가 활용할 수 있는 형태로 전환하고 관리하는 데이터 기반 구축 영역이다. 이 모듈은 AI 에이전트가 참조할 데이터를 수집하고, AI가 인식할 수 있는 형태로 가공해 보관·관리하는 전 과정을 자동화함으로써 A 레디 데이터 파이프라인을 구축한다. 메가존클라우드는 다양한 기업들의 데이터 가공 경험과 노하우를 기반으로 데이터 종류에 따라 최적의 가공방식을 적용하는 데이터 전용 엔진을 탑재해 AI 인식률과 RAG 성능을 높일 수 있도록 했다.

김한수 리더는 “실제 현장에 나가보면 RAG 구축에서 가장 공수가 많이 들고 성패를 가르는 영역이 바로 기업 고유의 비정형 문서를 처리하는 파서”라며 “고객사마다 문서 서식과 양식이 수백 종에 달하고, 복잡한 표나 엑셀, 도면 등은 단순 표준 라이브러리만으로는 맥락이 다 깨지는데, 데이터가 정확하게 정제돼 올라가지 않으면 뒤단의 에이전트 성능과 답변 품질도 담보할 수 없기 때문에 데이터 전용 엔진과 유연한 파서 체계가 핵심”이라고 강조했다.

에이전트 모듈은 기업이 업무에 필요한 AI 에이전트를 개발하고 다양한 외부 도구와 연결할 수 있도록 지원하는 에이전트 구축·연동 영역이다. 이 영역은 에이전트의 개발·설계·등록 기능을 제공하는 동시에 슬랙, GWS, 지라 등 기업이 사용하는 외부 도구와의 연동을 지원한다. AI 에이전트를 외부 도구와 연결하려면 MCP를 활용한 별도의 개발과 인증 작업이 필요한데, 그 도구 공급자가 MCP를 제공하지 않는 경우 개발자가 이를 직접 개발한 뒤 인증·연동하는 작업까지 수행해야 해 수십 일씩 소요되기도 했다. 메가존클라우드는 이런 과정을 최소화할 수 있도록 자체 개발하거나 검증해 사전 인증까지 마친 구글 워크스페이스, 지라, 슬랙 등 70여 종의 ‘핵심 비즈니스 애플리케이션 커넥터’를 AIR 스튜디오 v3에 내장했다.

복잡한 인증 과정을 돕는 이 커넥터들을 활용하면, 비개발자들도 내장 커넥터 목록에서 원하는 항목을 선택하고 ‘연결하기’ 버튼만 누르면 즉시 연동이 완료된다. 이에 따라 기존에 최장 수십 일이 걸리던 외부 도구 연동을 단 몇 분 만에 완료할 수 있게 됐다.

김한수 리더는 “요즘은 프롬프트나 바이브 코딩으로 에이전트 자체를 뚝딱 만드는 것은 쉬워졌지만, 진짜 난관은 사내 시스템과 외부 도구의 연동 및 권한 관리”라며 “복잡한 인증 절차와 연동 작업을 사전 검증된 커넥터로 단 몇 분 만에 안전하게 해결함으로써, 현업 실무자들도 개발 장벽 없이 즉시 업무에 에이전트를 투입할 수 있다”고 말했다.

Ops 모듈은 에이전트 배포·운영·모니터링 자동화 모듈이다. Ops 모듈에 탑재된 에이전트옵스는 AIR 스튜디오로 개발한 에이전트 뿐 아니라 외부에서 개발된 에이전트까지 성능과 권한을 중앙에서 통합 관리할 수 있도록 해주며, MCPOps는 내·외부 MCP 서버의 도구 검증부터 연동까지 관리할 수 있다. 이를 통해, 에이전트와 MCP 전반의 배포 상태, 성능, 로그를 한곳에서 실시간 확인하고, 필요할 경우 즉시 중지하거나 재배포할 수 있다.

김한수 리더는 “많은 기업이 에이전트를 ‘만들고 나서 배포한 이후’를  에이전트옵스라고 오해하지만, 진짜 에이전트옵스는 ‘어떤 업무에 에이전트를 적용할 것인가’를 기획하는 단계부터 완료 조건 정의, 휴먼 피드백(HITL) 설계, 그리고 지속적인 확산과 개선까지 아우르는 전체 라이프사이클이어야 한다”며 “시스템적인 실행 완료뿐 아니라 업무 프로세스 관점의 완료 기준이 설계 단계부터 잡혀 있어야 실제 비즈니스 생산성으로 연결된다”고 강조했다.

거버넌스 모듈은 기업 내 AI 활용이 확대되는 과정에서 필요한 보안·컴플라이언스와 사용 정책을 일관되게 적용하는 통제 영역이다. 거버넌스 모듈은 업무에 사용되는 다양한 AI 모델과 에이전트, 외부 도구에 공통된 보안 및 사용 정책을 적용하고, 접근 권한과 사용 현황을 중앙에서 관리할 수 있도록 해준다. 이를 통해 개별 조직이나 사용자가 서로 다른 AI 서비스를 활용하더라도 기업 차원의 일관된 관리·통제 체계를 유지할 수 있다.

AIR 스튜디오 v3는 메가존클라우드가 자체 개발한 AI 게이트웨이를 통해 AI 호출을 단일 통제 지점에서 관리하고, 외부 MCP와 도구 연동이 늘어날수록 확대될 수 있는 보안 사각지대를 줄였다. 원본 인증키 노출을 막는 가상키 발급과 감사 로그 추적, 우회 API 호출 차단 등의 기능을 제공해 AI 사용 과정에서 발생하는 접근 권한과 호출 이력을 중앙에서 관리할 수 있도록 했다.

AI 사용량 증가에 따른 비용 관리 기능도 대폭 강화했다. AIR 스튜디오 v3의 핀옵스 대시보드는 단순히 사용금액을 확인하는 데 그치지 않고 조직과 사용자 역할·직급 등에 따라 토큰 한도와 예산을 세분화해 할당하고, 실제 사용량과 예상 비용을 실시간으로 확인할 수 있도록 해준다. 관리자는 검토·승인을 기반으로 부서별 AI 사용량과 비용을 통제하고, 설정된 예산을 초과하면 API 호출을 즉시 제한할 수 있다. 이를 통해 AI 사용량이 빠르게 증가하더라도 조직별 비용을 사전에 예측하고 예상하지 못한 비용 증가를 방지할 수 있다.

김한수 리더는 “최근 엔터프라이즈 시장의 가장 큰 현실적 고민은 섀도우 AI 차단과 통제 불가능한 토큰 비용”이라며 “무조건 고성능 모델만 쓸 수는 없고, 업무 경중에 맞춘 인텔리전트 모델 라우팅과 부서별 예산 통제가 필수적”이라고 설명했다.

그는 “AI 게이트웨이를 통한 가상키 발급, 감사 로그, 그리고 실시간 예산 초과 시 즉각적인 호출 제어 등 확실한 안전장치(거버넌스)가 갖춰져야만 기업 차원에서 안심하고 AI를 전사적으로 확산시킬 수 있다”고 강조했다.

[1편 AI 에이전트, 긴 여행의 시작…출발선은 어디인가 바로가기]
[2편 기업 AI 에이전트의 성공은 어떻게 이뤄질까 바로가기]
[3편 AI 에이전트의 긴 여정, 안전벨트는 준비됐나 바로가기]
[4편 미래의 AI 에이전트 플랫폼은 어디로 흘러갈까 바로가기

글. 바이라인네트워크
<김우용 기자>yong2@byline.network