“엔드투엔드 옵저버빌리티란 모든 IT 관계자를 아우르는 것”

[인터뷰] 스리하리 아바르 eG이노베이션스 글로벌 솔루션 엔지니어링 총괄

“엔드투엔드 옵저버빌리티란 단순히 모든 시스템을 볼 수 있다는 개괄에 그치지 않고 모든 영역 개별 스택에 심층적 분석까지 가능한 것이다. 특히 모든 IT 이해 당사자를 아우르는 게 중요하다.”

스리하리 아바르 eG이노베이션스 글로벌 솔루션 엔지니어링 총괄은 최근 본지와 인터뷰에서 AI 에이전트 시대의 이상적 엔드투엔드 옵저버빌리티를 이같이 밝혔다.

그는 “ 각 영역 직무별 옵저버빌리티를 확보한 일선의 담당자는 한 화면에서 상황 발생을 보고 근본 원인을 찾아내며, 사용자나 앱에 미치는 영향을 맥락에 기반해 파악하고 개선 방향까지 볼 수 있어야 한다”며 “전체 인프라나 데이터센터를 큰 시각으로 조망해야 하는 임원이라면 한 화면에서 비즈니스와 인프라의 현재 상태와 현황을 볼 수 있어야 하고, 아키텍트라면 발생할 용량이나 성능 문제를 선제적이고 예측적으로 파악해 심층적 분석을 통해 대응할 수 있어야 한다”고 설명했다.

그는 “eG이노베이션스의 옵저버빌리티 솔루션 ‘eG엔터프라이즈’는 아키텍트에게 코드 베이스와 데이터베이스 쿼리에 이르기까지 다양한 최적화 방안을 제안할 수 있다”며 “IT팀의 직무에 따라, 담당자의 레벨에 따라 여러가지 접근법을 취사선택해 대시보드를 채택할 수 있다”고 강조했다.

eG이노베이션스는 엔드투엔드 모니터링 분야를 중심으로 현재 전 세계 13개국에 걸쳐 14개의 지사를 운영하는 기업이다. 650종 이상의 기술을 지원하고 1000여곳의 엔터프라이즈 고객을 보유했다. 우리나라에서 인지도는 부족하지만, 18년 동안 국내 대형 기업 SAP ERP 시스템 모니터링에 솔루션을 공급해왔다.

이 회사의 통합 모니터링 솔루션 ‘eG 엔터프라이즈’는 디지털 경험 모니터링, 애플리케이션 모니터링, 클라우드 모니터링, 네트워크 및 스토리지 모니터링 등을 단일 플랫폼에서 제공한다. 자동 근본 원인 분석, 자가 학습 기반 베이스라인, 생성형 AI 연계 기능을 포함한다. 데이터센터, 클라우드, 애플리케이션, 스토리지, 네트워크, 사용자 경험 등 모든 IT 스택에 통합된 옵저버빌리티를 제공하며, 인프라 모든 요소의 종속성과 상관관계를 분석해 근본적인 원인을 빠르게 파악할 수 있게 한다. AI 기능을 통해 용량 계획, 최적 용량 추천 등도 기본 제공해 운영 효율성을 향상시킨다.

아바르 총괄은 “현재 한국과 전세계에 다양한 도구가 있고 다양한 방식으로 모니터링을 수행하지만, 로그 모니터링, 네트워크 모니터링 등 특정 영역에 맞는 일반적 메트릭만 활용한다”며 “네트워크 측면에서 애플리케이션의 가시성을 갖지 못하고, 스토리지 같이 어떤 부분에서 애플리케이션 성능을 떨어뜨리는 지 구체적으로 알지 못한다”고 설명했다.

그는”eG엔터프라이즈의 경우 네트워크 성능이 애플리케이션 성능과 어떻게 연관되는지 시그널을 수집해 각각의 상관관계를 정확히 분석하며 모니터링할 수 있다”고 덧붙였다.

eG이노베이션스는 옵저버빌리티 솔루션을 ‘AIOps’ 솔루션으로 진화시켜 진정한 제로터치 IT 운영을 구현한다는 계획이다. 검색증강생성(RAG) 기반 지식 봇, 자율형 장애 관리, 셀프 힐링 인프라 등을 포함한 자율형 IT 운영 로드맵이 마련됐다.

아바르 총괄은 “현재 중요한 KPI 성능 지표를 수집하거나, 측정치를 가져오는 부분에 AI 기능이 반영돼 있고, 이런 지표 데이터는 이상징후 발생 시 심층적으로 근본 원인 분석을 수행하게 하는 관리 데이터베이스에 저장된다”며 “에이전트는 빈번하게 접근되는 데이터를 메모리에 캐시했다가 분석하고, 이런 지표 데이터를 기반으로 고객에게 예측전망 보고서나 용량 설계 보고서를 몇개월 단위로 제공할 수 있다”고 말했다.

eG엔터프라이즈의 LLM 모니터링의 경우 모델 자체에 대한 엔드포인트 모니터링을 통해 서비스 수행에 걸리는 시간, 프롬프트 반응시간 등을 측정하며, 비용에 해당하는 토큰 사용량과 데이터 캐싱 등을 측정하게 된다. 온프레미스에 구축된 LLM의 경우 서버와 하드웨어에 대한 심층적 이해를 바탕으로 특정 서버 내 GPU 단위를 모니터링하고, LLM 서버의 트랜잭션 성능과 관련한 상세 정보까지 확보할 수 있다고 한다.

기술적 관점 외에 eG이노베이션스의 장점은 비용이다. 일반적인 모니터링 솔루션의 경우 코어 수를 기준으로 라이선스를 구매해야 하지만, eG엔터프라이즈는 운영체제(OS) 단위로 라이선스를 구매하게 된다.

김현찬 eG이노베이션스코리아 지사장은 “적은 규모의 운영 인력으로 수많은 시스템을 운영해야 하는 국내 기업에게 더 저렴한 비용으로 광범위하게 모니터링할 수 있다는 게 큰 장점”이라고 말했다.

오늘날 IT 옵저버빌리티 솔루션은 특정 영역에 대한 전문 엔지니어의 깊이있는 분석에 초점을 맞춘다. eG이노베이션스는 그보다 일선 운영자의 종합적 활용에 집중한다. 운영자가 전체 현황 속에서 요소 요소의 상관관계를 알아냄으로써 각 분야 전문가의 구체적 사후 조치로 가는 경로를 통제하는 것이다. 그렇기 때문에 적절하게 모니터링과 대응 상황을 통제하고, 자동화 수준을 조절하는 것을 중요하게 여긴다.

아바르 총괄은 “eG이노베이션스는 뚜렷한 프레임워크로 역할과 업무의 정의를 세우고, 사람이 그에 맞춰 관리하게 한다”며 “모든 통제권을 IT 조직이 가지면서, 뚜렷한 권한 및 책임(R&R)을 가져가면서 일할 수 있게 지원한다”고 강조했다.

그는 “eG엔터프라이즈는 단일 에이전트, 단일 데이터 모델, 단일 상관관계 뷰를 통해 SAP, VDI, 클라우드, 최종사용자경험 등에 통합된 옵저버빌리티를 제공할 수 있다”며 “근본 원인 분석, 자체 베이스라인 등의 AI 기능은 대부분 이미 출시돼 바로 활용 가능하며, 자율 운영에 대한 비전은 이론을 넘어 구체적 엔지니어링을 수행하는 발전 단계에 있다”고 덧붙였다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network