기업이 생성AI 서비스를 업무에 잘 접목하려면

챗GPT와 같은 생성 AI를 기업에서 가져다 쓰려면 무엇이 필요할까요? 올 초 IT업계의 가장 뜨거운 이슈는 누가 뭐래도 챗GPT였습니다. 세상에, 인공지능이 이렇게 똑똑하게 글을 써내다니. 두 가지 화두가 떠올랐습니다. “이걸 당장 업무에 적용해보자, 내 능력이 배가 될거야”라는 희망의 축과 “인공지능이 내 일자리를 빼앗을지도 몰라”라는 절망의 축으로요.

희망과 절망 모두 논점은 ‘개인의 능력 함양’에 두고 있는데요(물론 절망편은 분배의 정의 담론을 가져오기도 했습니다). 개인들에게 챗GPT라는 단어가 익숙해지는 시점이 오니까, 이제는 본격적으로 기업이 생성 AI를 업무에 도입하려는 움직임이 생기고 있습니다. 생성 AI를 써서 새로운 서비스와 고객을 발굴하거나, 혹은 시간과 비용을 줄이는 방법을 만들 수 있다고 판단한 것이죠.

그리고, 이런 고민을 하는 기업에 자신들의 기술을 어떻게 내다팔까 기획하는 곳 역시 있기 마련입니다. LG CNS가 그 중 하나입니다.

이주열 LG CNS 상무(수석연구위원)는 최근 기자들과 만난 자리에서 “지금까지는 개인들이 챗GPT와 같은 생성AI를 활용하는데 초점을 맞춰 이야기가 진행됐다면, 이제는 기업에서 새로운 기술을 어떻게 써야 하는지를 보고 있다”고 말했습니다.

이주열 상무의 이야기를 이해하려면, 지금까지 왜 기업이 챗GPT와 같은 모델을 바로 가져다 쓰지 못했는지부터 살펴봐야 합니다.

이 상무는 그 배경을 몇 가지로 좁혀 설명합니다. 첫번째, 챗GPT는 무작위로 세상의 지식을 빨아들였기 때문에 기업마다 따로 필요로 하는 전문지식을 알기는 어렵습니다. 그렇게 쓰려면 별도의 장치가 필요한데요. 이 상무는 “예를 들어 LG CNS 내에 개발을 잘 하기 위한 정보가 있다 하더라도, 이에 대한 지식을 (지금 바로) 챗GPT를 통해 얻어내기는 어렵다”고 말합니다. “(원하는 정보를 추출하기 위한) 지식 투입 방안이 필요”하기 때문이죠.

두번째, 세번째, 네번째 이유도 있습니다. 지금의 챗GPT는 한 번에 입력할수 있는 글자 수에 제한이 있습니다. GPT4 기준으로 최대 입력 가능한 토큰 수가 3만2000개인데요, 영어로는 약 9만6000개 글자지만 한글로 바꾸면 1만2800자 수준으로 확 줄어 버립니다. A4를 기준으로 한다면 8페이지 분량 밖에 안 되죠. 잘 아시겠지만 기업에서 취급하는 문서들은 가볍게 8장을 넘겨버립니다. 다들 아마존이 아니라면 말입니다(아마존은 6페이지 안쪽으로 기획안을 만드는 문화가 있습니다).

또, 원하는 질문을 얻기 위한 최적의 프롬프트를 구성해야 하는데 그런 역량을 키우는 것도 필요한데다 잘못된 정보를 뻔뻔하게 정답이라고 우기는 할루시네이션(환각)도 기업이 지금 당장 생성AI를 업무에 가져다 쓰기 어렵게 하는 원인이 됩니다.

문제의 원인을 항목별로 정의할 수 있다는 것은, 그 일부를 줄이거나 없앨 수 있는 방법을 찾아낼 수 있다는 것을 뜻하기도 합니다. LG CNS 측에서 그간 생성 AI를 기업이 활용하지 못했던 원인을 찾고 이를 설명하려 나선다는 것은 여기서 사업 기회를 찾았다는 말이 되기도 하고요.

그런데, 이런 생각이 듭니다. ‘LG CNS가 생성AI를?’

LG CNS는 시스템통합(SI) 서비스로 돈을 법니다. 생성AI 개발은 오픈AI라거나 바드를 만드는 구글, 하이퍼클로바를 개발한 네이버 같은 곳들에서 하죠(물론, LG도 LG AI 연구원을 중심으로 초거대언어모델 ‘엑사원’을 개발합니다). 방대한 데이터를 인공지능에 집어넣어서 사람처럼 학습해 질문에 적합한 텍스트나 이미지 같은 걸 만들어내는 게 생성AI니까, LG CNS와는 거리가 좀 느껴지죠.

그렇지만 LG CNS는 생성 AI야말로 본인들의 새로운 먹거리라 보고 있습니다. 이주열 CNS 상무는 이 언어모델을 기업의 업무에 엮어주는 ‘서비스’ 시장이 열리고 있다고 소개합니다. 자신들이 초거대언어모델을 직접 만드는 플레이어는 아니지만, 기업들이 자신들의 기술을 가져다가 초거대 언어모델을 잘 접목해 쓸 수 있도록 하는 다리 역할을 할 수 있다는 것인데요.

위 그림에서 본다면, ‘Orchestrator(오케스트레이터, 자동화 관리 도구)’에 해당하는 부문에서 문제를 해결할 경쟁력을 갖추고 있다고 말합니다. 기업 내부에서 필요한 문서를 잘 찾아 검색해오거나, 이를 바탕으로 프롬프트를 잘 짤 수 있도록 가공하는 등의 역할이 여기에 들어간다는 겁니다. 오랜 기간 여러 기업의 시스템 통합 업무를 해오면서 클라우드와 온프레스미 형태로 서비스를 구축하는 역량이 있다는 게 경쟁력이 될 수 있죠.

시장은 열리고 있고, 글로벌로는 스케일AI나 퀀티파이, 디스틸AI 같은 곳이 LG CNS와 같은 역할로 시장에 출사표를 띄웠습니다. 기업이 직접 초거대언어모델을 만들거나 이를 튜닝해 쓸 수 있기는 하지만 이걸 가능하게 하는 개발인력과 자금을 끌어올 수 있는 곳은 빅테크 등 일부에 국한될테니까요, 시장은 충분하다고 보는 것입니다.

이주열 상무는 “기업들이 필요로 하는, 질문에 잘 맞는 문서를 찾아 검색해오는 기술이나 기업 데이터를 잘 튜닝해 후속학습을 하도록 하는 것을 누가 더 잘 하느냐가 생성 AI 서비스를 제공하는 기업들의 차별적인 경쟁력이 될 것”이라고 말하기도 했습니다.

글. 바이라인네트워크
<남혜현 기자> smilla@byline.network