와이즈넛, AI 에이전트 최적화 신제품 공개 “개발부터 운영까지”
생성형 AI를 어디에 도입할지 고민하던 시기를 넘어, 이제 AI 에이전트를 실제 업무에 어떻게 적용할지 고민해야 하는 때다. 이에 와이즈넛은 AI 에이전트 최적화를 위한 신제품을 공개했다.
와이즈넛은 17일 서울 양재 엘타워에서 ‘와이즈 엣지(WISE Edge)’를 개최하고, AI 에이전트 구축 최적화를 위한 신제품 ▲와이즈 에이전트 스피어(WISE Agent Sphere) ▲와이즈 에이전트 랩스(WISE Agent Labs) ▲와이즈 로아(WISE LLOA) 등을 선보였다.
와이즈 에이전트 스피어는 멀티 에이전트 협업 플랫폼이다. 다양한 AI 에이전트가 자율적으로 협업하고, 통제하는 일종의 AI 팀이 되는 지능형 협업 공간이다. 특정 영역만 담당하는 개별 버티컬 AI 에이전트를 연결해, 복잡한 업무를 설계하고 최종 실행까지 조율하는 역할을 수행한다.
예를 들어, “이번 달에 자동이체가 2번 됐다”라는 고객 불만 메일이 접수된다면, 특정 AI 에이전트가 해당 내용을 분류한다. 이후 또 다른 에이전트가 지식관리시스템(KMS)에서 답변 근거를 검색한다. 와이즈 에이전트 스피어는 이 과정을 통합해 메일 접수부터 최종 회신까지 이어지게 하는 역할이다.
답변을 넘어 실제 실행까지 수행하는 와이즈 에이전트 스피어의 기술 구성은 ▲고객 데이터 처리와 관계 그래프 생성 ▲업무 이해 및 의사결정을 담당하는 코어 인텔리전스 ▲툴(Tool) 콜링과 실시간 리즈닝 ▲에이전트 운영 관리와 협업 지원 등으로 이뤄져 있다.
버티컬 AI 에이전트를 구성하는 핵심 제품들은 와이즈 아이랙(WISE iRAG), 와이즈 로아, 와이즈 에이전트 랩스 등으로 구성되어 있다.
AI 에이전트 도입 후 만들어진 모델을 검증하고 실제 운영하는 건 또 다른 고민거리다. 권준성 와이즈넛 AI혁신연구소장은 “AI 기술이 현장에서 도입은 늘었지만, 활용 효과는 저조하다”며 “AI 에이전트 전 주기를 통합 운영하는 솔루션이 필요하다”고 설명했다.
와이즈 에이전트 랩스는 설계·개발·검증 등 AI 에이전트 제작 운영 사이클 전체를 하나의 체계 안에서 관리하는 솔루션이다. 크게 5가지 핵심 구성요소 ▲데이터 수집·정제·파이프라인 ‘데이터옵스’ ▲모델학습·배포·버전관리 ‘ML옵스’ ▲인프라·지속적통합/지속적배포(CI/CD)·배포자동화 ‘데브옵스’ ▲모델 성능·프롬프트·애플리케이션 프로그래밍 인터페이스 호출(API Call) 성공률 모니터링 ‘옵저버빌리티’ ▲거버넌스·보안·컴플라이언스 ‘트러스트옵스’ 등을 기반으로 만들었다.
전체적으로는 실험 단계, 운영/관리 단계, 개선 단계로 구성됐다. 실험 단계에서는 업무 플로우를 설계한 뒤 해당 모델이 잘 돌아가는지 실험해 볼 수 있다. 문제없이 작동할 수 있을 때까지 반복 개발한다. 운영/관리 단계에서는 이렇게 만들어진 모델을 배포하고, 버전을 관리할 수 있다. 마지막 개선 단계에서는 응답 품질이나 안정성 등을 모니터링하고, 사용자 피드백과 로그 등을 분석할 수 있다. 이 과정으로 시스템을 계속 개선할 수 있다.
예시로 인사(HR) 특화 에이전트를 구현하는 시뮬레이션 영상을 공개했다. 인사·규정 검토 업무를 담당하는 HR 에이전트를 실제 구현하는 과정이 이뤄졌다. 파이프라인을 관리하고, 실험 과정을 통해 적절한 파이프라인을 구성해 테스트할 수 있다.
와이즈넛은 에이전트 특화 거대언어모델(LLM)인 와이즈 로아를 소개했다. 에이전트는 계획을 세우고, 판단하고, 적절한 우선순위를 부여해 실행을 한다. 결과에 개선점이 있는지 피드백 과정을 통해 다시 계획을 수립하는 과정을 거친다. 이러한 AI 에이전트에 특화된 LLM은 회사 업무를 이해하고 계획을 짤 수 있다.
주요 특징은 ▲복잡한 논리적 추론과 계획 수립 능력 ‘강화된 추론 능력’ ▲API, 데이터베이스, 외부 시스템 연동 및 오류 처리 ‘도구 사용 최적화’ ▲단기 및 장기 메모리 구조를 통한 지속적 학습과 경험 축적 ‘메모리 아키텍처’ ▲실행 결과를 바탕으로 한 자체 개선 매커니즘 ‘피드백 루프’다.
와이즈 로아는 와이즈넛의 고유 학습 기술 ‘다트(DART)’를 적용했다. 다트 기술을 적용하면 전체 재학습 없이 필요한 부분만 정밀 학습할 수 있다. 기존 역량을 유지하면서도 망각은 최소화하는 기능을 갖췄다. 예를 들어, 고객사에 대행했던 이전 업무 사례나 프로젝트들을 잃어버리는 상황을 최소화한다. 또, 메일이나 이슈트래커 등 도구 호출 순서를 최적화하는 기능 등이 있다.
와이즈넛은 퓨리오사AI와 협력한 AI 어플라이언스 제품 출시를 예고했다.
AI 검색·검색증강생성(RAG) 기반 에이전트 구축에 특화된 와이즈 아이랙 어플라이언스와 자연어 검색·유사검색에 특화된 서치포뮬러원 V7 벡터 에디션(Search Formula-1 V7 Vector Edition) 어플라이언스다.
두 제품은 퓨리오사AI의 고성능 신경망처리장치(NPU)를 기반으로 한 인공지능 검색, RAG 적용 특화형 하드웨어 일체형 솔루션이다. 하드웨어와 소프트웨어가 일체형으로 제공되는 제품군으로 AI 에이전트 도입 장벽을 최소화하고 확산을 가속화한다는 구상이다.
챗봇보다 진화한 대화 에이전트 제품인 ‘현명한 앤써니(WISE Answerny)’도 새롭게 출시했다.
현명한 앤써니는 기존 질의응답 형태의 서비스형소프트웨어(SaaS)형 챗봇을 넘어 대화 에이전트 서비스로 진화한 업그레이드 버전이다.
빠르게 서비스를 적용할 수 있다는 점이 가장 큰 특징이다. 사용자는 홈페이지에서 구독 신청과 승인이 이뤄지면 바로 대화 에이전트를 적용할 수 있다. 원하는 문서를 업로드하거나 URL를 첨부하면, 해당 내용들을 바로 반영한 챗봇 서비스를 운영할 수 있다. URL을 첨부하면 사이트에서 정보를 수집해 해당 홈페이지에서 바뀐 내용을 반영하기 때문에, 매번 업데이트하는 번거로움을 줄였다.
실무 적용에서 에이전틱 AI는 신뢰성 확보나 보안, 책임 소재 불명확성 등 여러 문제가 있을 수 있다.
예를 들어, 금융 상담 에이전트가 잘못된 금리 계산으로 고객이 손해를 본다거나 해커가 AI 에이전트의 외부 API 연동 권한을 얻어 내부 데이터를 탈취하는 경우가 있을 수 있다. 또, 보험금 지급 사유를 설명하지 못하는 AI나 에이전틱 AI가 자동 계산한 계약서의 문구에 오류가 있다면 누가 책임질지 등 해결할 과제들이 존재한다.
이에 장정훈 와이즈넛 최고기술책임자(CTO)는 “단순한 오픈소스 조합으로는 발생할 수 있는 이런 문제들을 어떻게 대처해나갈 것인가에 대해 말씀드리고 싶다”며 와이즈넛의 혁신 가치 세 가지 ▲신뢰로 작동하는 자율화(Trust-by-design) ▲답변이 아닌 실행으로 연결되는 투자수익률(Action-to-ROI) ▲어디서나 같은 아키텍처(Any environment)를 소개했다.
장정훈 CTO는 “자율화는 신뢰로 작동하는 자율화가 되어야 하며, 답변만 잘하는 것이 아닌, 실행이 곧 ROI가 되도록 할 것”이라며 “어디서나 같은 아키텍처를 제공해, 와이즈넛이 업그레이드 되는 만큼 고객도 업그레이드 되는 가치를 제공하고자 한다”고 덧붙였다.
강용성 대표는 “와이즈넛은 데이터를 수집하고 전처리하는 검색 엔진부터 시작해 AI가 잘 이해할 수 있도록 전처리하는 기술에 대한 이해도가 높고, 언어 처리에서 25년간 노하우를 바탕으로 특화 모델 개발에 나선 것”이라며 “한국 AI 시장에서 모두가 AI 에이전트 얘기를 하지만, 우리가 잘할 수 있는 영역에 특화된 서비스 개발로 다양한 AI 시장을 형성해 전체 산업이 발전할 수 있도록 노력하겠다”고 강조했다.
글. 바이라인네트워크
<최가람 기자> ggchoi@byline.network
