AWS, ‘아마존 베드록’에 멀티 에이전트 기능 추가

아마존웹서비스(AWS)는 5일 열린 ‘AWS 리인벤트’에서 생성형 인공지능(AI) 양산 플랫폼 ‘아마존 베드록(Bedrock)’의 새 기능을 대거 발표했다.

아마존 베드록은 여러 기반 모델을 활용해 생성형 AI 애플리케이션을 손쉽게 구축하고 확장할 수 있는 매니지드 서비스다.

아마존 베드록은 자동화 추론(Automated Reasoning) 검증 기능을 제공한다. 이 기능은 AI 모델의 환각으로 인한 사실 오류를 방지하는 생성형 AI 안전장치다.

환각 현상은 생성형 AI에 대한 신뢰도를 저하시켜 업계 전반에서 중요한 과제로 남아 있다. 의료, 금융 서비스, 정부 기관 등 규제 산업에서 모델의 정확성을 확인하는 감사가 필수적이다. 자동 추론 검증은 논리적으로 정확하고 검증 가능한 추론을 통해 환각 현상으로 인한 사실 오류를 방지한다.

자동화된 추론은 수학을 활용해 어떤 것이 올바른지 증명하는 AI의 한 분야다. 이 기술은 사용자가 정교한 규칙이나 지식 체계가 잘 정의된 대규모 복잡한 주제에 대해 정확한 답을 원할 때 필요하다. AWS는 지난 10년간 해당 기술을 활용해 보안 강화를 위해 권한 및 접근 제어가 올바르게 구현됐는지 검증하거나, 아마존 S3에서 수백만 개의 시나리오를 배포 전에 점검해 가용성과 내구성을 보장하는 등 다양한 AWS 서비스 경험을 개선해왔다.

아마존 베드록 가드레일은 생성형 AI 애플리케이션에 검증 기능을 손쉽게 더해 안전성과 책임성을 높일 수 있다. 이를 통해 고객은 모델이 관련 주제에만 응답하도록 가이드를 설정할 수 있다. 아마존 베드록 가드레일을 통해 제공되는 자동화 추론 검증은 아마존 베드록이 응답의 정확성을 검증하고, 감사 가능한 결과물을 생성하며, 모델이 특정 결과에 도달한 이유를 고객에게 명확히 제시할 수 있도록 한다. 이는 투명성을 강화하고, 모델 응답이 고객의 규칙과 정책에 부합하도록 보장한다.

베드록 다중 에이전트 협업 기능은 고객이 여러 AI 에이전트를 손쉽게 구축하고 오케스트레이션해 문제를 함께 해결할 수 있도록 지원한다.

AI 기반 에이전트는 이러한 요구를 충족하기 위해 모델의 추론 능력을 활용해 작업을 세분화하고 실행 가능한 단계로 나눔으로써, 제품의 반품이나 고객 데이터 분석과 같은 작업을 수행할 수 있도록 돕는다.

아마존 베드록 에이전트는 고객이 기업의 시스템과 데이터 소스에서 이러한 에이전트를 손쉽게 구축하고 작동시킬 수 있도록 지원한다. 단일 에이전트뿐 아니라 수백 개에서 수천 개의 다양한 변수를 다루는 금융 분석과 같은 복잡한 작업에서 다중 에이전트를 조율할 수 있다. 고객은 고도로 전문화된 에이전트를 쉽게 구축하고 복잡한 워크플로우를 효율적으로 실행할 수 있다.

아마존 베드록의 다중 에이전트 협업 기능을 통해 고객은 프로젝트의 각 단계에 특화된 에이전트를 생성하고 할당함으로써 더 정확한 결과를 얻을 수 있다. 여러 에이전트를 병렬로 조율하여 작업 속도를 높일 수 있다. 각 에이전트의 작업을 관리하고 조정하는 수퍼바이저 에이전트를 추가로 생성해 작업을 세분화해 각 에이전트에 할당하고, 에이전트의 작업 완료에 필요한 정보를 제공할 수 있다. 모든 에이전트가 작업을 완료하면, 수퍼바이저 에이전트는 이를 종합해 결과를 분석하고 최종적으로 전반적인 위험 프로파일을 도출한다.

모델 증류(Model Distillation) 기능은 대규모 고성능 모델의 특정 지식을 더 작고 효율적인 모델로 이전할 수 있도록 지원한다. 최대 500% 빠르고 비용을 75%까지 절감할 수 있다는 게 회사측 설명이다.

대규모 모델은 더 많은 정보를 처리할 수 있지만 긴 응답 시간과 고비용의 문제를 갖는다. 반면, 소규모 모델은 빠르고 실행 비용이 낮지만 처리 역량이 제한적이다. 모델 증류는 대규모 모델의 지식을 소규모 모델로 이전하면서도 소규모 모델의 성능 특성을 유지한다. 훈련 데이터를 다루고, 모델을 수동으로 세밀히 조정하며, 초기 소규모 모델의 성능을 훼손하지 않고 가중치를 조정할 수 있는 전문적인 기술을 요구한다.

아마존 베드록 모델 증류는 독자적인 모델을 증류해, 원래 모델보다 최대 500% 더 빠르게 실행하고 비용은 75%까지 절감하며, 정확도 손실은 2% 미만으로 유지할 수 있다. 이는 검색 증강 생성(RAG) 사례에도 적합하다. 모델 증류는 앤트로픽과 메타의 모델을 지원한다.

자동화된 추론 검증, 다중 에이전트 협업, 그리고 모델 증류는 현재 미리보기로 제공된다.

AWS는 이와 함께 아마존 베드록에서 100여개의 신규 AI 모델을 추가 제공한다고 밝혔다. 루마(Lum), 풀사이드(poolside)와 스태빌리티 AI의 최신 모델도 추가될 예정이다.

AWS는 ‘아마존 베드록 마켓플레이스’도 선보였다. 이 마켓플레이스에서 인기 모델, 신생 모델, 특화 모델 중 가장 적합한 모델을 간편하게 선택하고 사용할 수 있다.

이밖에 프롬프트 캐싱, 아마존 베드록 인텔리전트 프롬프트 라우팅 기능을 새로 출시했으며, 아마존 베드록 날리지 베이스에 구조적 데이터 검색과 그래프 RAG 기능을 추가했다. 아마존 베드록 데이터 자동화는 비정형 멀티모달 데이터를 코딩 없이도 구조화된 데이터로 변환할 수 있는 기능을 제공하게 됐다.

스와미 시바수브라마니안 AWS 데이터 및 AI 부문 부사장은 “아마존 베드록 사용 고객은 지난 1년 간 4.7배 성장했다”며 “새로운 기능으로 고객을 대신해 환각 현상이나 비용과 같은 업계 전반의 주요 과제를 해결하며 혁신을 이루고 있다”고 말했다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network