요즘 디지털전환(DT)으로 기업 사이에서 인공지능(AI) 기술 활용이 화두다. 그러나 기대감과 달리 도입 후에 인적, 자원부족 등의 이유로 AI를 충분히 활용하지 못하고 있는 것이 현실이다. AI 기술을 활용해 만든 모델을 쉽게 개발·배포하고, 이 과정을 자산화해 프로젝트 이후에도 모델의 주기를 관리할 수 있는 방법론이 필요하다.

김차영 애자일소다 수석은 <바이라인네트워크>가 주최한 ‘AI는 비즈니스 현장에서 어떻게 활용되나’ 웨비나에서 “기업의 비즈니스 전략에서 AI가 차지하는 비중이 높아지고 있으나, 전문인력 부족, 방법론 등에 어려움을 겪는 경우가 많다”며 “AI 기술 도입, 운영 어려움 극복을 위해 운영에 머신러닝작업(MLOps)이 필수 항목으로 떠오르고 있다”고 말했다.

MLOps는 머신러닝에 데브옵스(DevOps)를 접목한 개념으로, 머신러닝 엔지니어링의 핵심 기능이다. 데브옵스가 개발, 운영을 구분하지 않고 개발의 생산성과 운영의 안정성을 최적화하기 위한 방법론이라면, MLOps는 데브옵스에 AI를 적용한 방법론이다.

간략하게 설명하면 쉬운 모델 개발, 개발된 모델을 빠르게 운영환경에 반영, 자동화를 통한 수작업 오류 최소화, 운영 관리기능을 통한 예측품질 향상 등의 이점이 있다.

모델옵스의 특징

그런데, 최근에는 MLOps보다 진화된 모델옵스가 각광을 받고 있다. MLOps보다 기업, 모델 중심적이다. 회사 측에 따르면, 모델옵스는 세 가지 특징이 있다. 먼저, 기업관점에서 운영할 수 있다. 어떤 데이터, 알고리즘을 이용해 모델을 학습했는지, 이 모델은 누가 승인했는지 등을 모니터링할 수 있다.

두 번째는 모델 관점이다. 모델은 데이터 수집부터 탐색, 데이터 분석, 실험 및 검증을 거쳐 배포가 이뤄진다. 이런 환경에서 생성된 모델을 각 평가와 비교를 통해 지속적으로 생애주기를 관리한다.

세 번째는 지속적인 운영 관점이다. 개발, 배포, 모니터링 등 전 과정이 파이프라인과 워크플로우 형태로 구성됐다. 따라서 관찰, 모니터링을 통해 적시에 데이터를 반영하거나, 모델이 바뀌는 등 워크플로우를 확인할 수 있다.

김차영 수석은 “궁극적으로 기업이 원하거나 생각하는 AI 운영 시스템의 모습은 모델 개발부터 운영, 평가 해석까지 전 과정을 관리할 수 있어야 한다”며 “이런 점이 기업 입장에서 모든 AI, 의사결정 모델을 운영하는 목표로 이뤄져야 한다”고 말했다.

애자일소다는 MLOps가 생소했던 2018년부터 관심을 가지기 시작해, MLOps 방식의 포탈형 AI 분석·운영 플랫폼인 ‘스파클링소다’을 내놨다. 꾸준히 서비스 고도화를 진행하며, 최근 4.0 버전을 선보였다.



김차영 수석은 “스파클링소다의 지향점을 MLOps보다 진화한 모델옵스(ModelOps)로 삼으며 발전시켜 나가고 있다”며 “MLOps가 모델을 빨리 개발하고 쉽게 배포하는데 중점을 뒀다면, 모델옵스는 이런 부분을 기업 관점에서 바라보는 것이 특징”이라고 강조했다.

모델옵스로의 변화 및 장점

애자일소다의 스파클링소다는 AI 거버넌스를 위한 기반 환경을 제공한다. 모델을 개발하고 관리하는 과정에서 모델 버전, 각종 매트릭 정보, 이력관리 등을 통해 모델의 주기를 관리하고 이를 자산화한다. 모델별 성능 평가·비교를 할 수 있다.

스파클링소다는 모델의 약 1년 생애주기 기반으로 워크플로우를 구성한다. 이때 가상화 기술을 이용해 개인별 혹은 프로젝트별 학습 환경을 제공한다. 분석가가 빠르고 쉽게 모델을 개발할 수 있는 파이프라인 기반 환경이 특징이다.

스파클링소다는 모델의 1년 생애주기로 워크플로우를 구성한다.

아울러, 다양한 환경에서 일관된 사용성을 위한 표준성과 확장성을 제공한다. 보안, 규정준수 등 거버넌스를 충족하며 데이터 과학자, 엔지니어 등 다양한 사용자를 수용할 수 있는 이점이 있다. 학습을 통해 개발이 완료되면 모델 저장소에 자동으로 등록, 관리된다. 테스트용 데이터를 통해 성능을 비교하고 평가할 수 있도록 여러 관리 기능을 제공한다.

개발과 테스트가 끝난 AI 모델은 추가 개 발없이 서빙을 통해 서비스화할 수 있다. 서비스 운영 시 시스템 자원에 대한 효율적인 활용을 모니터링할 수 있다.

스파클링소다의 아키텍처

스파클링소다의 인프라를 살펴보면 쿠버네티스, 도커, GPU를 활용할 수 있는 환경을 지원한다. 넥서스, 깃랩, 프로메테우스, 그라파나, 마리아DB 등 다양한 오픈소스 기술을 활용한다.

이러한 기술 기반으로 만들어진 스파클링소다는 세 가지 특징이 있다. 먼저, 학습·개발 내용을 고객 자산으로 만들어준다. 프로젝트를 진행하면서 문제를 해결하는데 그치는 것이 아니라, 장기적 관점에서 기업이 AI 역량을 자산화할 수 있도록 한다. 파이프라인 형태로 단계별 로그, 히스토리 모델의 결과물을 관리해 자산화한다. 결과적으로, 담당 인력이 바뀌어도 유연하게 대응할 수 있는 장점이 있다.



스파클링소다 특징

두 번째는 AI 거버넌스를 위한 기반환경을 제공한다. 어떤 분석가가 어떤 데이터로 모델을 만들어 서빙 했는지 등 전반적인 모델 이력을 로그로 관리한다. 활동 이력을 지속적으로 추적 관리할 수 있다.

마지막으로, 기업의 분석 환경을 고려해 자원을 활용수 있도록 했다. 기업은 보안 제약으로 인해 다양한 오픈소스와 패키지를 이용하기 어렵다. 이에 반해, 스파클링소다는 필요한 패키지를 추가하면 프로젝트 단위로 개발환경에서 오픈소스를 사용할 수 있도록 한다.

김차영 수석은 “모델옵스는 모델 관점에서 지속적인 성능 유지와 개선을 돕는 솔루션”이라며 “금융, 제조, 유통 등 다양한 분야에서 여러 형태의 모델을 개발하고 서빙해서 운영할 수 있다”고 밝혔다.

글. 바이라인네트워크
<홍하나 기자>0626hhn@byline.network


[바이라인플러스 7월 무료 웨비나 ]
  • 진화된 클라우드 보안 방안과 제로트러스트 업무환경 구현
    날짜 : 2022년 7월 6일 (수)
    시간 : 13:30 ~ 17:30
    자세히보기