[심재석의 입장] 구글 클라우드 넥스트에서 패러다임 전환을 느끼다

데이터 분석이 기업에서 처음 활용될 때, 임원정보시스템(EIS)이라는 것이 있었다. CEO를 비롯해 의사결정을 해야 하는 임원들에게 필요한 정보를 제공하는 시스템이었다.

하지만 실제적으로는 지역별 매출 추이나 재고 상황 등의 데이터를 보기 좋게 그래프로 보여주는 것이 EIS가 하는 역할의 대부분이었다. CEO와 임원들은 처음에 이것저것을 눌러보며 척척 나오는 그래프에 신기해 했지만, 그 뿐인 경우가 많았다. 사실 그 정도 정보는 늘상 보고 받는 것이기 때문에 EIS 상의 정보는 새로운 것이 아니었다. EIS는 경영진을 만족시키지 못했다.

EIS 유행이 지나고 등장한 것은 비즈니스인텔리전스(BI)라는 시스템이었다. EIS가 임원을 타깃한 시스템이라면 BI는 임원뿐 아니라 실무자도 데이터와 정보를 기반으로 의사결정을 내리자는 취지로 등장한 시스템이다. 사내의 모든 데이터를 데이터창고(DW)에 모아두고 그것을 OLAP(온라인분석처리)이라는 도구로 분석해서 보여주는 것이 BI 시스템이다. BI는 현재까지도 많이 사용된다.

하지만 기대와 달리 BI 시스템을 임원이든 실무자든 누구나 이용해서 실시간으로 의사결정을 내리는, 이상적인 기업은 많지 않다. BI 시스템 자체에 대해 어느 정도 학습이 필요하기 때문이다. 이용자의 디지털 리터런시(디지털을 받아들이는 능력) 정도에 따라 활용도가 차이난다.

이번 주 미국 라스베이거스에서 열리는 연례 컨퍼런스 ‘구글 클라우드 넥스트 2024’의 연례 컨퍼런스를 보면서 든 생각은 기존 BI의 시대가 지나고 있다는 것이었다.

넥스트 2024 기조연설에서 관심이 갔던 단어는 ‘그라운드(Ground)’였다. 토마스 쿠리안 구글 클라우드 대표는 두 가지 대목에서 ‘그라운드’라는 표현을 이용했다. 첫번째는 구글 검색과의 그라운딩이다. 쿠리안은 “중요한 발표가 있다”면서 “이제 구글 검색과 그라운딩할 수 있다”고 말했다.

이 문장에서 그라운드가 무슨 의미인지 쉽게 이해되지 않았다.그러다가 네이버 어학사전을 검색하니 국제언어대학원대학교 신어사전에 “AI 모델에 정보를 제공하다”라는 뜻이 있다는 것을 알게 됐다. 이를 이용해 해석하면 구글 검색 결과를 AI 모델에 제공할 수 있다는 의미가 된다. 쿠리안은 “구글 검색과 제미나이 응답을 그라운딩 하면 응답의 품질을 높이고, 할루시네이션(환각)을 현저히 줄일 수 있다”고 말했다.

이 발표가 그렇게 놀랍지는 않았다. 당연한 수순이었기 때문이다. 구글이 검색과 AI를 연결할 것이라는 걸 예상하는 게 어려운 일은 아니었다. 요즘 유행하는 RAG(검색증강생성)가 바로 검색을 활용해 AI의 신뢰성을 높이는 기술이다.

나에게는 쿠리안이 언급한 두 번째 그라운드가 보다 흥미로웠다. 기존 BI의 시대가 지나고 있음을 보여줬기 때문이다. 구글은 자사의 거대언어모델(LLM) 제미나이에 빅쿼리(데이터창고), 루커(BI 플랫폼)을 그라운드 했다고 발표했다. 제미나이는 인간의 언어를 다루는 기술이고, 빅쿼리나 루커는 데이터를 다루고 분석하는 기술이다. 이는 곧 인간의 언어로 데이터를 다루고 분석할 수 있다는 의미다.

구글은 Cymbal이라는 가상의 기업을 통해 생성형 AI가 도입되면 비즈니스 분석이 어떻게 바뀔지 데모로 보여줬다. 데모에서 한 패션의류 기업의 직원은 “고객 세그먼트와 지역을 기준으로 신발 판매 현황을 히트맵으로 보여줘”라고 입력했다. 그러자 판매량에 따라 다른 색으로 표시된 세계 지도가 그려졌다. 동시에 지난해 전세계에서 신발 판매량이 45% 증가했으며, 북아메리카의 18~24세가 가장 많은 증가폭을 보였다는 사실을 알렸다.

물론 데모는 잘 짜여진 각본일 것이다. 현실에 적용해보면 데모처럼 잘 작동하는 경우는 많지 않다. 하지만 이 장면은 패러다임이 바뀌고 있다는 것을 보여준다. 이용자는 그저 인간의 언어(자연어)로 궁금한 데이터를 물었다. 시스템은 인간의 언어를 이해하고 분석 결과를 제시했다.

아마 원래는 임원이 실무직원에게 “고객 세그먼트와 지역을 기준으로 신발 판매 현황을 히트맵으로 보여줘”라고 인간의 언어로 요청했을 것이다. 그러면 실무자는 BI 툴을 이용해 임원이 원하는 데이터를 뽑아서 보기 좋게 가공한 보고서를 작성했을 것이다. 이 과정에 적지 않은 시간이 소요될 것은 분명하다.

BI 시스템을 비롯해서 지금까지 등장한 수많은 비즈니스 기술은 누구나 쉽게 데이터를 확인하고 분석해서 실시간으로 의사결정을 내릴 수 있도록 하는 것을 목표로 삼아왔다. 하지만 대부분 성공적이지 못했다. 디지털 리터런시에 따라 활용도가 달랐고, 경영자나 임원은 디지털 리터런시가 높지 않은 경우가 많았기 때문이다.

하지만 LLM은 인간의 언어로 디지털 시스템과 소통할 수 있도록 지원한다. 이는 누구라도 특별한 학습 없이 디지털을 활용할 수 있게 된다는 의미다.

임원이 실무 직원에게 지시했던 말 그대로 컴퓨터에 입력하면, 원하는 결과를 즉시 얻을 수 있게 되는 시대가 오고 있다. 지금까지 비즈니스 기술 업계에서 추구했던 일들이 정말 현실화되는 게 아닐까.

글. 바이라인네트워크
<심재석 기자>shimsky@byline.network