기업 AI, 만들고 쓰고 지킨다…아이티센 ‘에이전트고’

[바이라인네트워크 기획 시리즈 / AI 에이전트 플랫폼⑨]

기업의 AI 에이전트 도입은 짧다면 짧고, 길다면 긴 여정이다. 그리고 완주하기 힘든 여정이기도 하다. 출발선을 긋는 것부터 힘들고, 목표 지점을 잡는 것도 힘들다. AI 에이전트 여정에 존재하는 어려움은 무엇이고, 어떻게 여정을 계획해야 하며, 또 어떻게 여정을 진행할 것인가. 많은 질문이 시중을 뒤엎고 있다. 현재 AI 에이전트 프로젝트에서 발견되는 공통의 문제점과 그 해결 방안, 기술적 논쟁을 분석하고, 현재와 앞으로 AI 사업자의 시장 경쟁 양상을 전망해본다.

기업들의 생성형 AI 도입이 확산되면서 사내에 수많은 AI 도구가 생겨나는 가운데, 파편화된 시스템과 보안 위협을 통제해야 하는 새로운 과제가 떠오르고 있다. 중앙 통제 없이 임직원들이 무분별하게 비인가 AI를 사용하는 ‘섀도우 AI’ 문제가 대두되고, 기업의 민감 데이터가 외부로 유출될 위험이 커졌기 때문이다.

아이티센그룹은 이러한 기업들의 고민을 해결하기 위해 개발부터 운영, 강력한 보안 통제까지 아우르는 엔터프라이즈 멀티 AI 에이전트 관리 플랫폼 ‘에이전트고 2026(AgentGo 2026)’을 선보였다. 이와 함께 사내 전반의 행정 및 업무 효율을 30% 이상 끌어올린 맞춤형 AI 비서 ‘세니(CENI) 3.0’을 전사 도입하며 실질적인 생산성 혁신을 증명하고 있다.

에이전트고는 단순한 챗봇을 넘어 기업의 복잡한 비즈니스 환경에 맞춰 멀티 에이전트를 지휘하는 지능형 오케스트레이션 플랫폼이다. 아이티센은 기업의 성공적인 AI 도입을 위해 에이전트고를 플랫폼, 매니지먼트, 마켓플레이스, 코더, 플로우, 가드까지 6가지 핵심 모듈로 구성했다. 퍼블릭 클라우드부터 완벽한 폐쇄망 환경까지 유연하게 배포할 수 있는 인프라 플랫폼 위에, 조직도와 연동된 세밀한 접근 통제 및 권한 관리 시스템을 제공한다.

사용자는 마켓플레이스에서 표준 에이전트를 바로 활용할 수 있으며, 개발 환경을 돕는 ‘코더(Coder)’와 ‘플로우(Flow)’ 모듈을 통해 맞춤형 에이전트와 워크플로우를 직접 구축할 수 있다. 플로우는 노드(Node)와 엣지(Edge)를 드래그 앤 드롭 방식으로 연결해 복잡한 워크플로우를 시각적으로 설계할 수 있는 모듈이다. 코더는 개발자들이 주로 사용하는 기존 통합개발환경(IDE)인 ‘비주얼 스튜디오 코드(VS Code)’ 등에 연동되어 자연어 명령만으로 코드를 자동 생성한다. 이를 통해 별도의 개발 지식이 없는 현업 실무자도 자연어와 드래그 앤 드롭 방식으로 에이전트와 워크플로우를 구성할 수 있다.

정승모 아이티센글로벌 AI이노베이션센터장은 “글로벌 퍼블릭 LLM을 자유롭게 활용하기 어려운 폐쇄망 환경의 온프레미스 고객을 위해 보안성을 갖춘 바이브 코딩 도구를 자체 개발해 제공하고 있다”고 설명했다.

이처럼 에이전트 구축 장벽이 낮아지면서 기업들은 새로운 관리 과제에 직면하게 됐다. 정 센터장은 “사내에 도입되는 에이전트가 소수일 때는 큰 문제가 없지만, 다양한 도메인의 수많은 에이전트가 무분별하게 생성되면 이를 어떻게 관리할지가 기업의 가장 큰 과제가 된다”며 “누가 어떤 툴을 써서 무엇을 만들고 있는지, 관련 비용이 얼마나 발생하는지 중앙에서 통제하지 못하면 섀도우 AI 문제는 걷잡을 수 없이 커지게 된다”고 지적했다.

섀도우 AI 문제와 보안 위협을 원천 봉쇄하기 위해 아이티센이 강조하는 차별점은 엔터프라이즈 환경에 특화된 독립형 보안 플랫폼 ‘에이전트고 가드(AgentGo Guard)’다. 에이전트고 가드는 특정 플랫폼 내부에 종속된 단순 보안 모듈에 그치지 않고, 기업이 자체적으로 구축한 AI 애플리케이션이나 RAG 환경에도 응용 프로그램 인터페이스(API) 형태로 유연하게 연동할 수 있는 독립형 플랫폼이다. 금칙어와 정규식 기반 탐지는 물론, 대형언어모델(LLM)을 활용한 자연어 기반 문맥 분석으로 통해 프롬프트 인젝션과 에코 챔버 등 우회 공격을 탐지하고 실시간으로 차단한다. 나아가 주민등록번호와 계좌번호 등 핵심 개인식별정보(PII)도 자동으로 비식별화 할 수 있다.

에이전트고 가드의 핵심 기술은 정규식 기반의 신속한 탐지와 LLM 기반의 정밀 검증을 결합한 ‘하이브리드 다층 방어’ 체계에 있다. 기업은 자체 애플리케이션에서 가드 API를 호출해 금칙어 탐지, 개체명 인식(조직명·인명), 프롬프트 인젝션 차단 등 필요한 보안 정책을 선택적으로 조합하고 적용할 수 있다. 또 보안 정책 위반 시 일방적으로 서비스를 차단하는 대신, 비식별화 처리된 데이터와 원본 프롬프트를 함께 반환하는 것도 특징이다. 이를 바탕으로 애플리케이션에서 최종 차단 여부를 결정할 수 있어 기업별 보안 정책에 맞춰 대응 방식을 조정할 수 있다.

정 센터장은 “회사마다 보안 룰과 정책이 다르기 때문에 무조건적인 차단 대신 비식별화 강도까지 세밀하게 조절할 수 있도록 했다”며 “애플리케이션이 가드 API를 호출하면 위반된 보안 정책과 함께 비식별화된 결과를 반환해 과도한 차단으로 인한 사용자 불편을 줄이고, 애플리케이션에 맞는 유연한 보안 로직을 구현할 수 있도록 했다”고 기술적 배경을 설명했다.

이어 “AI 입장에서의 진정한 보안은 다층 방어 체계를 통해 기밀 유출과 악의적 공격을 선제적으로 막아내는 것이 핵심”이라며 “가령 보안망을 우회하려는 시도가 발생하더라도, 어떤 사용자가 어떤 프롬프트와 데이터를 LLM에 던졌는지에 대한 모든 세션을 암호화된 감사 로그로 투명하게 남겨 엄격한 사후 추적성을 확보해야 한다”고 덧붙였다.

철저한 보안 통제망을 갖췄다면, 안전한 제어만큼이나 중요한 것은 데이터의 품질이다. 에이전트고는 환각 현상을 억제하고 신뢰도 높은 답변을 내놓기 위해 검색증강생성(RAG) 고도화 기술을 지원한다. 유효한 지식 데이터를 벡터 DB에서 정확히 끌어오려면 문서를 적절한 차원 공간으로 쪼개는 파싱(Parsing)과 청킹(Chunking) 기술이 필수적이다. 글로벌 빅테크의 도구들이 존재하지만, 표 안에 표가 들어가거나 엑셀 안에 이미지가 삽입되는 등 복잡한 한국형 기업 문서 환경에서는 그대로 적용하기 어렵다는 것이 아이티센의 분석이다.

정 센터장은 “아무리 훌륭한 LLM이라도 복잡다단한 사내 데이터를 가공 없이 통째로 던져주면 결국 ‘가비지 인 가비지 아웃(Garbage in, Garbage out)’이 될 수밖에 없다”며 “AI가 데이터를 정확히 임베딩할 수 있도록 데이터 클렌징과 청킹 로직을 정교하게 다듬는 과정이 필수적”이라고 짚었다.

또한 아이티센은 현장 기업들이 겪는 레거시 시스템 연동의 현실적인 난관에 대해서도 실용적인 접근법을 제시한다. 기존 사내 시스템들이 최신 API 기반으로 현대화되어 있지 않은 상태에서 무리하게 AI 통합부터 시도하는 것은 실패 확률이 높다는 분석이다.

정 센터장은 “API 기반으로 열려있지 않은 복잡한 모놀리틱 레거시 애플리케이션에 무작정 인터페이스를 열고 MCP(머신컴퓨팅프로토콜)를 씌워 에이전트를 연결하라는 것은 프로젝트가 망하는 지름길”이라며 “모든 회사가 공통으로 사용하며 비교적 표준화하기 쉬운 메일, 캘린더, 회의실 예약 등 그룹웨어 영역부터 작게 시작해 현업의 자동화 체감을 점진적으로 높이는 것이 현실적인 해법”이라고 강조했다.

이러한 단계적 실용주의 철학은 아이티센그룹 내부에 전사 도입된 업무 맞춤형 AI 비서 ‘세니 3.0’을 통해 입증되었다. 세니 3.0은 인사, 행정, 재무, 법무 등 25개의 밀착형 에이전트 라인업을 갖추고 있으며, 사용자의 자연어 명령을 호스트 에이전트가 해석해 전문 하위 에이전트들에게 자율적으로 분배하고 연계 처리한다. 그 결과 그룹 내 미팅 조율 및 메일 작성 시간은 평균 10분에서 1분으로, 법무 검토 업무는 45분에서 7분으로 단축되는 등 단순 반복성 행정 업무의 리소스를 대폭 절감했다.

나아가 아이티센은 기업 내 문서화되지 않은 관행과 경험, 즉 ‘암묵지’를 AI 에이전트가 스스로 이해할 수 있는 형식지로 전환하는 연구에 집중하고 있다.

정 센터장은 “과거 수십 년간 지식관리시스템 등을 통해 임직원의 암묵지를 형식지로 바꾸려 노력해왔으나, 에이전트 시대의 진짜 핵심은 AI가 대화의 문맥을 파악하는 것”이라며 “대화의 롱텀 메모리를 바탕으로 동일한 질문이라도 발화자가 어떤 부서의 누구인지, 어떤 맥락에서 지시를 내렸는지 AI가 꼬리를 물고 스스로 이해하게 만드는 것이 맞춤형 에이전트 진화의 최종 목표”라고 덧붙였다.

[1편 AI 에이전트, 긴 여행의 시작…출발선은 어디인가 바로가기]
[2편 기업 AI 에이전트의 성공은 어떻게 이뤄질까 바로가기]
[3편 AI 에이전트의 긴 여정, 안전벨트는 준비됐나 바로가기]
[4편 미래의 AI 에이전트 플랫폼은 어디로 흘러갈까 바로가기

글. 바이라인네트워크
<김원민 기자>wmkim627@byline.network