레드햇, 에이전틱 워크플로우 간소화 ‘레드햇 AI 3.4’ 공개

레드햇은 AI 실험 단계와 프로덕션 수준의 운영의 간극을 해소할 수 있도록 지원하는 ‘레드햇 AI’ 포트폴리오 전반에 걸친 주요 업데이트를 13일 발표했다.

레드햇 AI 3.4는 통합된 메탈-투-에이전트 플랫폼을 통해 에이전틱 워크플로우의 개발 및 배포를 간소화하며, 기업이 파일럿을 넘어 전체 인프라에 걸쳐 확장 가능한 AI를 구현할 수 있도록 지원한다.

레드햇은 개발자와 운영자를 위한 일관된 프레임워크를 제공함으로써, 기업이 현대 엔터프라이즈 환경에서 요구되는 제어 기능, 보안 역량 및 하드웨어 효율성을 유지하면서 자율 시스템을 확장할 수 있는 기반을 마련한다.

레드햇 AI 3.4는 하이브리드 클라우드 전반에서 모델과 에이전틱 워크플로우를 확장하는 데 필요한 아키텍처 기반과 운영 도구를 제공하는 통합 플랫폼이다. 핵심은 서비스형 모델(MaaS)이다. 이번 업데이트를 통해 개발자는 선별된 모델에 단일 거버넌스 인터페이스를 통해 접근하는 동시에, 관리자가 사용량을 모니터링하고 정책을 적용할 수 있도록 한다. 이는 vLLM과 llm-d를 기반으로 하는 고성능 분산 추론 위에 구축되어 다양한 환경에서 최적화되고 효율적인 모델 서빙을 유지한다.

AI 에이전트가 추론 수요를 기하급수적으로 증가시키는 가운데, 레드햇 AI는 에이전트 프레임워크에 관계없이 대규모로 에이전트를 배포하고 관리할 수 있는 기능을 제공한다. 새롭게 도입된 에이전트옵스 도구는 통합 추적, 가시성, 암호학 신원 관리 및 라이프사이클 관리 기능을 통해 개발 단계부터 운영 단계까지 에이전트를 관리한다.

엔터프라이즈 데이터를 모델 및 에이전트와 통합하기 위해, 레드햇 AI 3.4는 프롬프트를 핵심 데이터 자산으로 관리하는 프롬프트 관리 기능과 모델 및 에이전트의 정확성·품질·안전성을 평가하는 평가 허브를 새롭게 제공한다. 이 기능들은 생성형 AI와 예측형 AI에 대해 통합된 실험 추적 및 아티팩트 관리 기능을 제공하는 ML플로우 플랫폼을 기반으로 한다. 또한 채터박스 랩스 기술과 가락(Garak) 프로젝트를 활용한 자동화된 안전성 테스트 및 레드팀 기능을 통해, 사용자가 모델과 에이전트의 안전성을 검증할 수 있도록 지원하며, 실험적 파일럿에서 프로덕션 환경에 적용 가능한 엔터프라이즈 유틸리티로 이어지는 보안 중심의 경로를 제공한다.

실험적 챗봇에서 프로덕션 수준의 자율 시스템으로의 전환은 IT 팀 간 협업 방식의 근본적인 변화를 요구한다. 많은 기업이 비용을 효율적으로 관리하고 프라이빗·소버린 AI 활용 사례를 구현하기 위해, 단순히 AI 서비스를 소비하는 ‘토큰 소비자’에서 AI를 직접 운영하는 ‘토큰 제공자’로 전환해야 할 필요성을 인식하고 있다. 그러나 개발자와 인프라 관리자 사이의 마찰은 여전히 도입의 주요 장애물로 남아 있다. 두 역할을 조율하는 통합된 접근 방식 없이는 인프라 접근 장벽은 혁신을 저해하고, ‘섀도우 AI’로 인한 거버넌스 공백과 예측 불가능한 비용 증가로 이어질 수 있다.

레드햇 AI 3.4는 확장 가능한 추론과 자율 에이전트 배포를 위한 엔터프라이즈 기반을 제공해 이러한 상충 관계를 해소하며, 엄격한 리스크 및 거버넌스 기준을 충족하는 데 필요한 투명성과 제어 기능을 제공한다. 에이전트는 일정 수준의 자율성을 가지고 작동하기 때문에, 의사결정 과정에 대한 가시성 부족은 심각한 보안 위험 요소가 된다. 레드햇 AI는 행동, 추론 단계, 도구 호출을 추적할 수 있는 인프라를 제공해, 에이전트가 어떤 과정을 거쳐 특정 결과에 도달했는지 감사할 수 있다. 암호화 신원 관리 기능 통합을 통해, 모든 행동을 검증된 신원과 연결함으로써 어떤 주체가 해당 작업을 수행했는지 확인할 수 있다. 이러한 기능들은 기업이 분산화된 파일럿을 넘어 AI를 확장 가능하고 예측 가능하며, 무엇보다 책임 있는 엔터프라이즈 인프라로서 운영할 수 있도록 지원한다.

조 페르난데스 레드햇 AI 비즈니스 유닛 부사장 겸 총괄 관리자는 “에이전틱 시대는 레드햇 플랫폼이 기존 애플리케이션 실행에서 지능형 자율 시스템 운영으로 진화하는 전환점을 의미한다”며 “기업이 AI를 실행하는 방식에 대한 개방형 표준을 정의하고 있다”고 밝혔다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network