베스핀글로벌 “AI 에이전트 늘려도 성과 없는 이유는 ‘오정렬’”

“전 세계 생성 AI 투자가 이미 50조원에 육박한다고 합니다. 이걸 가지고 정말 성과를 내고 있는지는 다시 한번 짚어봐야 합니다. 지금까지는 어떤 모델을 도입하고 이를 잘 이용하는 데 집중했습니다. 하지만 이제 더 중요한 건 어떤 비즈니스에 적용하고 검증할지, 결과를 어떻게 성과로 증명할지입니다.”

이세영 베스핀글로벌 전무는 22일 <바이라인네트워크>가 여의도 FKI타워 컨퍼런스센터에서 개최한 ‘금융 테크 컨퍼런스 2026’에서 이같이 말했다. 이 전무는 기업이 다양한 AI 에이전트를 사용하고 있지만 실제 성과로 이어지지 않는 이유를 짚었다. 그는 “두 개의 AI 에이전트를 운영하면 내가 원하는 만큼의 결과를 더 쉽게 내겠지라고 생각하기 쉽지만, 현실은 이 에이전트끼리 서로 충돌하거나 원하는 결과를 내기 위해 협업하는 모습을 보이지 않은 경우가 있다”며 “했던 일을 또 하는 이런 방식의 원하지 않는 상황에 비즈니스 성과가 나오지 않는 경우가 발생한다”고 말했다.

그는 미국 MIT 대학 연구 결과를 인용하며 기업들이 수십조원을 투자하고도 95%는 뚜렷한 성과를 내지 못했다고 우려했다. 연구는 50명의 임원과 150명의 리더, 350여명의 직원 인터뷰를 바탕으로 진행됐다. 그 결과 미국 기업들은 엔터프라이즈 AI에 350~400억달러(한화 약 47~54조원)를 투자하고 있었지만 매출 성장을 이룬 사례는 단 5%에 불과했다.

특히 이 전무는 향후 기업의 AI 에이전트 활용이 크게 늘어날 것이며, 이에 따라 ‘성과’, ‘비용’, ‘일’ 등 세 가지 요소를 놓칠 수 있다고 봤다. 가트너에 따르면 지난해 포춘 500 기업이 보유한 AI 에이전트 수는 평균 15개에 불과하지만, 오는 2028년에는 기업당 15만개를 도입하게 될 것이라고 예상했다.

이 전무는 ‘성과’ 측면에서 에이전트를 도입하기 전 어떤 가치를 만들 것인지 명확히 정하지 않으면 경영진 입장에서 실제 개선 효과를 확인하기 어렵다고 설명했다. ‘비용’에 대해서는 에이전트가 반복 작업에 빠지면 평소보다 많은 토큰을 소모하지만 실제 비용은 뒤늦게 확인되는 경우가 있다고 강조했다.

마지막으로 ‘일’에 대해서는, 에이전트가 많아질수록 각각 어떤 업무를 수행하고 있는지 파악하기 어려워질 것이라고 우려했다. 에이전트가 실제 사람처럼 업무를 처리하려면 툴과 데이터 접근 권한을 부여해야 하고, 기업의 보안 기준과 컴플라이언스도 충족해야 한다. 그러나 에이전트 수가 늘어날수록 이들이 제대로 작동하고 있는지 관리하기가 쉽지 않다는 것이다.

이 전무는 AI 에이전트가 단계를 거치며 정확도가 낮아질 수 있다며 검증 과정이 중요해졌다고 봤다. 그는 “검증 과정을 거쳐 비즈니스에서 사용하려면 모델 자체도 중요하지만 에이전트가 거치는 각 단계와 단계별 인풋 값을 잘 정리해야 한다”며 “저희가 크게 중요하게 보는 건, 앞서 말씀드린 것과는 별개로 검증 단계에서 놓치기 쉬운 세 가지 오정렬을 막는 것”이라고 말했다.

세 가지 오정렬은 ‘사람’, ‘손익’, ‘역량’으로 나뉜다. 회사가 AI 전략을 세워도 현업이 실제로 사용하지 않으면 성과로 이어지지 않고(사람), 투입 비용에 비해 효과가 작다면 ROI를 확보하기 어렵다(손익). 또 GPU와 모델 도입에 비해 데이터와 운영 역량에 대한 투자가 부족한 점(역량)도 성과를 가로막는다는 설명이다.

이 전무는 이러한 문제를 해결하기 위해 AI 운영 체계를 7단계로 나누고 특정 영역에 집중할 필요가 있다고 봤다. 1단계는 인프라, 2단계는 모델, 3단계는 데이터옵스다. 4단계는 온톨로지, 5단계는 에이전트 빌드, 6단계는 거버넌스와 컴플라이언스, 7단계는 아웃컴과 ROI 등이다.

이 전무는 GPU, 모델, 에이전트 구축에는 투자가 집중됐지만 데이터옵스와 온톨로지는 상대적으로 공백이 크다고 진단했다. 거버넌스는 최근 본격적으로 중요성이 커지는 영역이며 결국 아웃컴과 ROI를 중심에 둬야 한다고 주장했다. 그는 “우리가 AI로 만들고자 하는 것은 비즈니스 결과”라며 “어떤 아웃컴을 만들지 정의해야 한다”고 말했다.

베스핀글로벌은 이를 회사 내부에 적용하고 있다. 약 910개의 에이전트를 만들었고 이 가운데 511개를 등록했으며 현재 121개를 가동하고 있다. 이를 통해 연간 약 16억원을 절감하고 있다. 이 전무는 “어떤 성과를 낼 것인지 확실하게 정의하고 가야 원하는 결과를 만들 수 있다”고 강조했다.

글. 바이라인네트워크
<윤정환 기자>yjh@byline.network