“이제는 리스크 관리” IBM, ‘왓슨x.거버넌스’ 출격

“지금 고민해야 하는 건 인공지능(AI) 거버넌스입니다. 이제는 올바른 AI 활용을 고민해야 합니다. 수많은 리스크를 어떻게 관리할지, 어떻게 통제 가능한 형태로 쓰는지가 기업들의 과제가 될 것입니다.”(김현정 한국IBM 컨설팅 대표)

IBM이 ‘왓슨x.거버넌스(Governance)’를 공개했다. 생성AI 활용에서 오는 부작용을 줄이고 올바른 활용 정책을 꾸려주는 솔루션이다. AI 규제 현황을 확인하고 리스크를 관리할 수 있다는 게 회사의 설명이다.

한국IBM은 14일 서울 여의도 사옥에서 기자간담회를 개최하고, 기업이 AI를 활용할 때 안전하고 투명하게 규정과 정책을 준수할 수 있도록 지원하는 왓슨x.거버넌스의 청사진을 소개했다.

IBM은 지난 7월 파운데이션 모델(FM)을 제공하는 AI 기술 개발 스튜디오인 왓슨X.ai와, AI 워크로드에 최적화한 저장소 플랫폼인 왓슨X.데이터를 공개한 바 있다. 이날 왓슨x.거버넌스까지 선보이며 ‘AI 모델 활용-저장-정책 관리’까지 AI 활용 절차를 모두 아우르는 라인업을 갖추게 됐다. 현재 왓슨 x.거버넌스는 한국을 포함한 전 세계에서 정식 버전을 사용할 수 있다.

김현정 대표는 ▲자사 데이터 유출과 데이터 품질 문제 ▲AI 모델의 편향성이나 환각 문제 ▲AI의 안전성과 신뢰성에 대한 규제를 현재 도전과제로 제시했다. 김 대표는 “기업 입장에서는 AI에 대한 기대 못지않게 우려 또한 크다”면서 “리스크 관리가 기업 경영의 우선 과제로 떠오르고 있다”고 말했다.

그는 생성AI 기술의 등장 이후 많은 기업이 AI 기술의 적용을 넘어 올바른 사용법을 고민하고 있다고 분석했다. 또한 환각 문제를 비롯해 편향성이나 지적재산권 침해, 정보 유출 등 여러 리스크로 제대로 된 활용에 어려움을 겪는다고 지적했다.

왓슨x.거버넌스를 활용하면 이 같은 고민을 해소할 수 있다. 마치 식품에 붙은 영양성분표처럼 생성AI 활용에 드는 리소스를 모두 표시하고 이에 따른 리스크를 확인할 수 있는 솔루션이다. ‘어떤 FM이 쓰였는지’ ‘적용 절차는 올바르게 진행했는지’ ‘현재 관련 규제 상황은 어떤지’ 등 AI 활용에 필요한 정책을 한 눈에 확인하고 관리할 수 있다.

일례로 보험사라면 보고서 요약이나 고객 요청 대응, 이메일 작성 등에 생성AI를 활용하게 된다. 이때 왓슨x.거버넌스를 쓰면 업무 효율은 높이고, 동시에 리스크는 줄일 수 있다. 보상 진행이 혹시 업무 매뉴얼에 어긋난 것은 아닌지, 정확한 보상 절차는 어떻게 되는지, 이메일에 부적절한 표현이 없는지 등 거버넌스와 관련한 모니터링을 수행하는 식이다.

이지은 한국IBM 전무는 왓슨x.거버넌스가 다양한 LLM과 머신러닝 모델을 배포하고 관리하는 데 어려움을 겪는 기업을 위한 원스톱 솔루션이라고 설명했다. 최근 오픈소스 LLM이 쏟아져 나오는 상황에서 AI 모델을 제대로 관리해 책임 있는 AI 환경을 구축할 수 있다는 것이다. 이 전무는 “우리나라를 포함해 각국 정부에서 AI 거버넌스에 대한 규제가 증가하고 있는 상황에서 신뢰성과 투명성을 높일 수 있다”고 밝혔다.

한편 IBM은 이달 초 메타를 바롯한 50여개 기업, 기관과 함께 ‘AI 얼라이언스’를 발족시켰다. 이번 왓슨x. 라인업 완성으로 특정 빅테크에 종속되지 않는 AI 생태계를 만드는 게 IBM의 목표다.

이 전무는 “AI 얼라이언스의 핵심은 기술이 특정 빅테크에 종속되어서는 안 된다는 것”이라며 “AI 기술을 더 많은 사람들이 활용해 더 많은 일들을 할 수 있도록 하는 것에 방점을 두고 있다”고 강조했다.

글. 바이라인네트워크
<이진호 기자>jhlee26@byline.network