레드햇 주도 AI 거버넌스 자동화 오픈소스 ‘아사고’ 출범
레드햇은 AI 거버넌스 정책을 실제 운영 가능한 안전한 AI 시스템으로 자동 전환하는 것을 목표로 하는 오픈소스 커뮤니티 프로젝트 ‘아사고(asago, AI Safety And Governance Orchestration)’ 출범을 5일 발표했다.
아사고는 엔지니어링팀과 컴플라이언스팀에 분산돼 있던 절차와 도구, 요구사항을 하나로 연결해 자동화, 감사 및 추적이 가능한 워크플로우를 만든다. 이를 통해 더 안전하고 프로덕션에 바로 투입할 수 있는 AI 시스템을 몇 개월, 몇 년이 아닌 며칠 만에 구현하도록 지원하는 것이 목표다.
아사고는 표준화된 오픈소스 플랫폼과 자동화된 워크플로우를 활용해 복잡한 기업 및 규제 AI 거버넌스 정책을 실제 운영 통제 체계로 전환할 계획이다. 이는 레드햇과 엔비디아가 오픈 시큐어 AI 얼라이언스 회원으로서 추진해 온 협력의 연장선에 있으며, 개발자의 유연성과 운영 조직의 거버넌스 요구를 4단계에 걸쳐 연결한다.
1단계인 리스크 매핑으로 프레임워크가 업로드된 AI 거버넌스 정책을 자동으로 분석하고 해석한다. 조직의 요구사항을 NIST AI RMF, OWASP LLM Top 10, IBM AI 리스크 아틀라스를 통한 EU AI 법 등 검증된 AI 리스크 프레임워크와 온톨로지, 표준에 직접 매핑한 후, 실제 실행 가능한 리스크 프로파일로 변환한다.
2단계인 리스크 평가로 식별된 위험 요소를 기반으로 사용 사례별 AI 안전성 테스트 시나리오를 자동 생성하고 실행한다. 단순한 범용 벤치마크에 의존하지 않고, 실제로 유해한 동작이 발생할 수 있는지를 중심으로 AI 시스템을 평가한다.
3단계인 리스크 완화에서 테스트 결과를 토대로 안전 가드레일을 포함한 위험 완화 방안을 제안하고, 검토가 가능하도록 명확한 근거와 감사 추적 기록을 함께 생성한다.
4단계인 프로덕션 배포를 통해 아사고는 권장 통제 방안을 하이브리드 클라우드와 쿠버네티스를 포함한 여러 플랫폼에 배포 가능한 구성으로 조율해, 인프라에 대한 수동 코딩 작업을 없앤다.
각 단계는 정책 조항과 테스트 결과, 운영 중인 통제 체계를 지속적으로 연결하는 감사 추적 기록을 생성한다. 이를 통해 검토자는 각 통제 조치가 어떤 리스크를 해결하기 위한 것인지 명확하게 확인할 수 있으며, AI 안전성을 보다 예측 가능하고 체계적으로 관리할 수 있는 기업용 유틸리티로 전환한다.
추상적인 정책 지침을 실제 소프트웨어 구성으로 전환하는 과정은 AI 혁신 속도를 늦추고, 사람 간 소통 오류와 오해로 인한 추가 리스크를 초래할 수 있다. 컴플라이언스 담당자는 엄격한 리스크 평가와 검증 가능한 증거를 요구하는 반면, 플랫폼 엔지니어는 표준 데브옵스 및 깃옵스 워크플로우 내에서 유지 관리할 수 있는 구조화된 구성이 필요하다. EU AI법과 같은 광범위한 규제가 시행됨에 따라, 기업은 수 개월에 걸친 수작업 검토로 혁신이 지연되거나, 적절한 안전장치 없이 관리되지 않는 섀도우 AI 가 운영되는 상황을 감수할 수 없는 환경에 놓였다.
아사고는 컴플라이언스팀과 데이터 과학자, 인프라 관리자가 모두 활용할 수 있는 단일 개방형 표준을 제공함으로써 이러한 문제를 해결하고자 한다. 모든 이해관계자를 동등한 사용자로 고려해 설계된 플랫폼으로, 수작업 변환 과정에서 발생하는 불일치 없이 자율 AI 에이전트와 기업용 대규모 언어모델(LLM)을 위한 안전 통제 체계를 구축하게 된다.
아사고는 수작업 해석과 커스텀 스크립트를 통합 오케스트레이션 워크플로우로 대체해, 배포 기간을 수개월에서 수일로 단축한다. 정책 담당자와 CIO, AI 개발자, 플랫폼 엔지니어, 외부 감사인은 하나의 통합된 추적 인터페이스 안에서 협업할 수 있게 된다. 아파치 라이선스 2.0으로 공개돼, 더 넓은 AI 안전 생태계 전반의 개방형 협업을 촉진한다. 쿠버네티스, 테라폼, 앤서블용 선언형 구성을 출력해, 여러 클라우드와 온프레미스 환경 전반에서 일관된 안전 태세를 유지할 수 있다.
아사고 프로젝트에는 레드햇, 브레이브 소프트웨, EvalEval 연합, IBM 리서치, 오스트리아 인터디시플리너리 트랜스포메이션, 마이크로소프트, MIT 링컨 연구소, 노스캐롤라이나 주립대학교, 엔비디아, 앨런 튜링 연구소 등 업계 기업과 학술기관이 참여한다. 참여 기관들은 AI 안전 연구와 엔터프라이즈 소프트웨어 엔지니어링, 적대적 머신러닝(Adversarial Machine Learning), 규제 및 컴플라이언스 분야의 전문성을 결집해 하나의 공동 프로젝트를 추진한다.
스티븐 훌스 레드햇 AI 엔지니어링 부문 부사장은 “기업이 실험 단계의AI 파일럿에서 장기간 운영되는 자율 에이전트로 전환함에 따라, 명확한 운영 가드레일을 마련하는 것이 핵심 인프라 요건이 되고 있다”며 “레드햇은 라이트웰과 같은 이니셔티브를 통해 AI로 인한 취약점으로부터 오픈소스 공급망을 보호하기 위해 노력하고 있다”고 설명했다.
그는 “아사고는 이러한 노력의 연장선에서 기업의 정책 정의와 실제 운영 중인 에이전트를 자동으로 연결하는 기업용 AI의 다음 단계를 제시한다”며 “이를 통해 기업은 하이브리드 클라우드 전반에서 신뢰할 수 있는 AI를 안심하고 확장할 수 있는 엔드투엔드 운영 신뢰성을 확보할 수 있다”고 강조했다.
글. 바이라인네트워크
<김우용 기자>yong2@byline.network
