AI 에이전트도 관리가 핵심…한컴, 에이전틱 OS 승부수

[바이라인네트워크 기획 시리즈 / AI 에이전트 플랫폼⑬]

기업의 AI 에이전트 도입은 짧다면 짧고, 길다면 긴 여정이다. 그리고 완주하기 힘든 여정이기도 하다. 출발선을 긋는 것부터 힘들고, 목표 지점을 잡는 것도 힘들다. AI 에이전트 여정에 존재하는 어려움은 무엇이고, 어떻게 여정을 계획해야 하며, 또 어떻게 여정을 진행할 것인가. 많은 질문이 시중을 뒤엎고 있다. 현재 AI 에이전트 프로젝트에서 발견되는 공통의 문제점과 그 해결 방안, 기술적 논쟁을 분석하고, 현재와 앞으로 AI 사업자의 시장 경쟁 양상을 전망해본다.

최근 많은 기업이 인공지능(AI) 기술의 가능성을 확인하기 위해 개념 검증(PoC) 단계에서 단일 챗봇이나 AI 에이전트를 도입해 초기 성과를 거두고 있다. 그러나 이를 실제 핵심 업무 환경인 프로덕션 단계로 확대하는 과정에서는 여러 과제가 드러난다. 기업에서는 마케팅·개발·기획 등 각기 다른 업무를 담당하는 다수의 AI 에이전트가 사내 시스템과 연동해 정보를 주고받고 협업해야 하기 때문이다. 이에 따라 개별 에이전트의 성능을 높이는 것뿐 아니라, 여러 에이전트가 복잡한 업무 환경에서 오류나 충돌 없이 작동하도록 관리하고 조율하는 통합 관리 체계인 오케스트레이션의 중요성이 커지고 있다.

기업들이 AI를 실제 업무에 도입하는 과정에서 가장 먼저 고려하는 것은 투자 대비 효과(ROI)다. AI 인프라 구축과 운영에 상당한 비용이 드는 만큼, 이를 통해 인건비를 절감하고 업무 생산성을 얼마나 높일 수 있는지 입증해야 한다. 보안과 권한 통제도 주요 과제다. 기업의 핵심 기술과 재무 정보, 영업 기밀 등 민감한 데이터를 AI에 제공해도 안전한지, 발주나 결재 등 실제 업무 권한을 AI 에이전트에 부여해도 문제가 없는지 검토해야 한다. AI 사용량 증가에 따른 비용 관리 역시 필요하다. AI는 사용량에 따라 토큰 비용이 발생하기 때문에 전사적으로 활용 범위가 확대되면 예산을 초과할 가능성이 있다. 여기에 ERP(전사적자원관리)와 그룹웨어 등 기존 레거시 시스템을 AI와 연동해야 하는 과제까지 더해진다. 기업이 기존 업무 시스템을 유지하면서 AI를 안정적으로 도입하려면 시스템 간 연동과 운영 체계를 함께 마련해야 한다.

한글과컴퓨터(한컴)는 기업의 AI 도입 과정에서 발생하는 이러한 과제를 해결하기 위한 통합 플랫폼으로 ‘에이전틱 운영체제(OS)’를 제시한다. 에이전틱 OS는 AI 에이전트 생성부터 다중 에이전트 간 업무 조율, 권한 및 보안 관리, 실행 상태 모니터링, 비용 관리까지 지원하는 플랫폼이다. 대형언어모델(LLM)이 AI의 언어 이해와 판단을 담당하는 두뇌라면, 에이전틱 OS는 AI 에이전트가 사내 데이터와 업무 시스템을 활용해 실제 업무를 수행할 수 있도록 연결하고 관리하는 역할을 한다. PC OS가 여러 프로그램의 실행과 자원 배분, 접근 권한 등을 관리하듯 에이전틱 OS도 기업 내 다수의 AI 에이전트가 각자의 역할을 수행하고 협업하는 과정을 조율한다.

정지환 한컴 최고기술책임자(CTO)는 “도입이 확산될수록 더 큰 과제는 개별 에이전트를 만드는 것이 아니라, 수많은 에이전트가 기업의 업무와 시스템 안에서 안전하고 효율적으로 동작하도록 관리하는 것”이라며 “PoC 테스트에서 AI가 업무를 수행할 수 있다는 것을 확인하는 것과 이를 실제 기업 업무에 적용하는 것은 다른 문제”라고 말했다.

이어 “결국 프로덕션 확산의 핵심은 ‘에이전트를 만들 수 있는가’가 아니라, ‘기업이 신뢰할 수 있는 비용과 통제 수준으로 실제 업무에 지속적으로 사용할 수 있는가’에 있다”고 덧붙였다.

한컴이 에이전틱 OS의 차별화 요소로 내세우는 것은 36년간 축적한 문서 데이터 처리 기술이다. 기업의 핵심 지식과 업무 노하우는 데이터베이스뿐 아니라 한글(HWP), PDF 등 다양한 형태의 비정형 문서에도 축적돼 있다. AI가 이러한 문서의 구조와 내용을 제대로 파악하지 못하면 기업 내부 정보를 활용한 답변의 정확성과 신뢰도를 확보하기 어렵다.

한컴은 PDF 데이터 추출 기술인 ‘오픈데이터로더(ODL) 2.0’과 다양한 오피스 문서를 처리하는 ‘한컴데이터로더’를 통해 비정형 문서를 AI가 활용할 수 있는 구조화된 데이터로 변환한다. 특히 오픈소스로 공개한 ODL 2.0은 문서의 읽기 순서와 표, 제목, 단락 구조 등을 인식해 데이터를 추출하는 기술이다. 해당 기술은 글로벌 오픈소스 벤치마크에서 성능을 인정받았으며, 깃허브 트렌딩 1위에도 오른 바 있다.

이렇게 추출·정제한 데이터는 검색증강생성(RAG) 기술의 기반으로 활용된다. 문서의 구조와 내용을 반영해 데이터를 구성하면 AI가 기업 내부 정보를 검색하고 답변을 생성하는 과정에서 정확도를 높일 수 있다. 나아가 기업의 업무 특성에 맞춰 데이터 간 객체와 관계를 정의하는 온톨로지를 구축하는 데도 활용된다. 이를 통해 AI 에이전트가 단순히 유사한 키워드를 검색하는 데 그치지 않고, 기업 내부 데이터와 업무 간 관계를 파악해 업무 맥락에 맞는 정보를 활용할 수 있도록 한다.

한컴은 에이전틱 OS를 기반으로 기업의 업무 프로세스 개선도 추진하고 있다. 기존 업무 환경에서는 기획자, 프로젝트 매니저(PM), 개발자, 검증 조직 등 각 직군이 업무를 순차적으로 전달하고 조율하는 과정에서 대기 시간과 병목이 발생하기 쉽다. 소프트웨어 개발을 예로 들면 기획자가 작성한 기획안을 PM이 검토한 뒤 개발자에게 전달하고, 개발이 완료되면 다시 PM을 거쳐 검증 조직에 테스트를 요청하는 방식이다.

에이전틱 환경에서는 기획, PM, 개발, 검증 등 각 역할을 담당하는 AI 에이전트가 필요한 정보를 직접 주고받으며 병렬로 업무를 수행하도록 구성할 수 있다. 기존의 순차적인 업무 전달 과정을 에이전트 간 협업 방식으로 전환해 부서와 직군 사이의 불필요한 전달과 대기, 조율 단계를 줄이는 것이다. 이를 통해 개별 업무의 자동화를 넘어 업무 전반의 흐름을 재구성할 수 있다는 게 회사측 설명이다.

정 CTO는 “에이전트 구축은 개별 업무를 자동화하는 데 그치지 않는다”며 “기존의 조직·직군·역할 간 경계를 AI가 넘나들며 연결하고, 그 과정에서 불필요한 전달과 대기, 조율 단계를 제거해 업무의 전체 흐름을 새롭게 표준화하는 것이 에이전트 도입의 가장 큰 효과”라고 말했다.

다수의 AI 에이전트가 실제 업무에 투입되면서 권한 관리와 실행 통제 체계의 중요성도 커지고 있다. 한컴은 에이전틱 OS에 데이터 거버넌스와 에이전트 거버넌스를 구분해 적용하고, 기업의 기존 권한 및 결재 체계와 연동하는 기능을 구현했다.

데이터 거버넌스가 직원의 사내 데이터 접근 권한을 관리하는 체계라면, 에이전트 거버넌스는 AI 에이전트가 어떤 업무를 어디까지 자율적으로 수행할 수 있는지 통제하는 체계다. 한컴은 직원이 특정 계약서를 열람할 수 있는지 확인하는 것과 해당 계약서를 검토한 AI 에이전트가 담당자의 승인 없이 발주까지 진행할 수 있는지를 판단하는 것은 별개의 문제며, 한컴은 두 가지 권한 체계를 기업의 기존 조직 및 결재 권한과 연동해 에이전트가 허용된 범위 안에서 업무를 수행하도록 관리한다고 예시를 들었다.

에이전트의 실행 과정을 모니터링하고 문제가 발생했을 때 대응하는 기능도 제공한다. 에이전트가 부여된 권한을 벗어난 작업을 수행하려 하거나 판단에 확신이 없을 경우, 또는 예상치 못한 시스템 오류가 발생하면 실행을 중단하고 사람에게 개입을 요청하도록 설계했다. 이를 통해 AI의 자율적인 업무 수행과 사람의 통제 사이에 안전장치를 마련한다.

정 CTO는 “신뢰할 수 있는 에이전트는 단순히 자율적으로 일을 잘하는 에이전트가 아니라, 자신이 해야 할 일의 범위를 명확히 알고, 판단 확신도가 낮거나 문제가 생겼을 때 안전하게 멈추고 사람에게 통제권을 돌려줄 수 있는 에이전트”라고 말했다.

한컴은 에이전틱 OS를 바탕으로 공공·국방·금융 등 기업용 시장과 개인·소규모 사업자 시장을 동시에 공략한다. 먼저 보안과 데이터 주권이 중요한 공공·국방·금융 분야를 대상으로 폐쇄망과 온프레미스 환경에 구축할 수 있는 ‘소버린 에이전틱 OS’를 선보인다. 외부 네트워크와 분리된 환경에서도 AI 에이전트를 운영할 수 있도록 해 기업과 기관이 데이터와 시스템에 대한 통제권을 유지할 수 있도록 한다는 전략이다.

클라우드 기반 서비스 ‘노마디안(Nomadian)’도 준비하고 있다. 노마디안은 데이터 분석과 마케팅 등 서로 다른 업무를 담당하는 AI 에이전트가 하나의 팀처럼 협업하며 1인 창업가와 소규모 사업자의 업무를 지원하는 서비스다. 한컴은 올해 12월 말 미국 시장에서 베타 서비스를 선보이고, 2027년 정식 구독형 서비스로 출시할 계획을 밝혔다.

한컴은 글로벌 빅테크 기업들이 AI 모델 경쟁을 주도하는 상황에서 모델 자체의 개발보다는 기업 환경에 맞춰 AI를 연결하고 운영하는 플랫폼 역량을 경쟁력으로 내세우고 있다. 우수한 AI 모델을 확보하는 것만으로는 실제 업무 적용에 한계가 있으며, 기업의 내부 데이터와 기존 시스템, 보안 및 권한 체계에 맞게 연동하고 관리하는 과정이 필요하다는 판단이다.

정 CTO는 “글로벌 빅테크가 뛰어난 AI 모델을 제공하고 있지만, 기업이 AI를 실제 업무에 적용하려면 모델을 기업의 데이터와 시스템, 보안과 권한 체계에 맞게 연결하고 운영하는 과정이 반드시 필요하며 국내 플랫폼의 경쟁력은 바로 이 지점에서 만들어진다”며 “단순히 AI를 ‘사용하는 것’을 넘어, AI와 함께 일하면서 개인과 조직이 기존보다 더 많은 업무를 수행할 수 있는 환경을 만드는 것이 한컴이 바라보는 다음 단계”라고 말했다.

[1편 AI 에이전트, 긴 여행의 시작…출발선은 어디인가 바로가기]
[2편 기업 AI 에이전트의 성공은 어떻게 이뤄질까 바로가기]
[3편 AI 에이전트의 긴 여정, 안전벨트는 준비됐나 바로가기]
[4편 미래의 AI 에이전트 플랫폼은 어디로 흘러갈까 바로가기]

글. 바일인네트워크
<김원민 기자>wmim627@byline.network