“AI 레디 데이터의 핵심은 시맨틱 레이어”

“AI 에이전트의 성패는 모델이나 알고리즘이 아니라 데이터가 결정한다. AI 에이전트가 찾고, 해석하고, 실행할 수 있는 데이터를 준비해야 한다”

유철민 아마존웹서비스(AWS) 코리아 시니어 딜리버리 컨설턴트는 21일 ‘AWS 서밋 서울 2026’ 둘째 날 세션에서 AI 레디 데이터(AI-Ready Data)의 중요성을 강조했다.

AI 레디 데이터란 AI가 추가적인 가공 없이 분석 및 실행에 바로 활용할 수 있는 데이터를 뜻한다.

유 컨설턴트가 AI 레디 데이터의 핵심 축으로 꼽은 것은 ‘시맨틱 레이어’다. 시맨틱 레이어는 복잡한 원본 데이터와 일상 비즈니스 언어 사이에서 둘 사이를 연결하는 계층이다. 일종의 번역기라고 할 수 있다.

유 컨설턴트는 AI 에이전트 구동에 시맨틱 레이어가 필수적인 이유로 행간을 읽지 못하는 AI의 한계를 들었다. AI가 명확히 정형화된 데이터만 이해하기 때문에, 사람이라면 묵시적으로 파악할 수 있는 비즈니스의 숨은 맥락을 읽지 못한다는 의미다.

시맨틱 레이어는 맥락이 포함된 비즈니스 용어를 복잡한 원본 데이터와 정확하게 연결해 이 문제를 해결한다. AI 에이전트는 시맨틱 레이어가 있어야 실무자의 요청에서 생략된 의미까지 파악해 데이터를 조회하고, 이를 다시 일상 용어로 출력할 수 있다. 유 컨설턴트는 이를 두고 명령어와 데이터 사이에 “의미의 다리를 놓는 것”이라고 표현했다.

시맨틱 레이어의 핵심 재료는 기술, 비즈니스, 운영 정보를 아우르는 메타 데이터다. 메타 데이터란 ‘데이터를 설명하는 데이터’로서, AI가 시맨틱 레이어 안에서 데이터의 위상과 의미를 추론하게 해준다. 유 컨설턴트는 “메타 데이터를 구축할 때는 시스템 자동화에 의존하기보다 실무자의 도메인 지식을 투입해야 한다”고 강조했다.

유 컨설턴트는 기술 장벽을 해소하며 시맨틱 레이어 구축에 이르는 과정에 대해서도 설명했다. 그는 “AI가 데이터를 제대로 활용하지 못하게 만드는 4가지 장벽이 있다”며 “그 장벽들을 극복하는 것이 곧 시맨틱 레이어를 구축하는 과정”이라고 말했다.

이때 4가지 장벽은 ▲정확한 데이터를 찾지 못하는 ‘맥락 장벽’ ▲데이터 간 관계성을 이해하지 못하는 ‘연결 장벽’ ▲논리적 오류에 빠지는 ‘추론 장벽’ ▲근거를 추적할 수 없는 ‘신뢰 장벽’이다.

먼저 맥락 장벽은 AI가 사용자 요청에 부합하는 데이터를 제대로 찾지 못하는 문제다. 유 컨설턴트는 맥락 장벽의 해답으로 ‘벡터 검색’을 내세웠다. 데이터를 의미 단위로 분할(Chunking) 후 벡터 저장소에 임베딩해, AI가 단순 키워드 일치를 넘어 의미적으로 관련성 높은 정보를 찾아내도록 돕는 방법이다.

연결 장벽은 AI가 데이터 간의 복잡한 관계성을 이해하지 못해 단편적인 작업밖에 하지 못하는 현상이다. AI에게 데이터 관계도를 이해시키기 위해 필요한 게 ‘지식 그래프’다. 지식 그래프는 AI가 연쇄적인 추론을 할 수 있도록, 데이터를 흩어진 문서가 아닌 관계망 형태로 연결한다.

추론 장벽은 AI가 기업 내부 비즈니스 용어와 규칙을 이해하지 못해 논리적 오류를 범하는 것을 말한다. 그 해답으로 유 컨설턴트는 ‘온톨로지’를 제시했다. 온톨로지는 AI가 참고할 데이터의 범위(CQ)와 비즈니스 용어 사전(TBox)을 담은 업무 매뉴얼이다. 온톨로지로 명확한 행동 지침을 부여하면 AI의 자의적 해석으로 인한 오류를 막을 수 있다.

신뢰 장벽은 AI가 내린 결정의 근거를 설명할 수 없을 때 발생한다. 논리적으로 완벽한 추론이라도, AI가 어떤 규정이나 정책을 따른지 모른다면 신뢰할 수 없다. AI 에이전트를 실무에 투입하려면 추론의 모든 과정이 정확하게 설명돼야 한다. 이를 가능케 하는 것이 바로 출처·정책·의사결정 설명을 제공하는 시맨틱 레이어다.

시맨틱 레이어는 이전 세 장벽을 해소하며 마련된 기술 요소(벡터 검색·지식 그래프·온톨로지)가 한데 모여 동작하는 시스템이다. AI가 데이터를 의미 단위로 찾고, 관계망으로 추론하며, 비즈니스 규칙에 맞게 이해하는 작업이 하나의 계층 안에서 유기적으로 맞물려 돌아간다. 이 계층에 이르러서야 의사결정의 투명성까지 확보된 AI 레디 데이터가 완성된다는 게 유 컨설턴트의 설명이다.

유 컨설턴트는 이런 과정을 거쳐 원천 데이터가 AI 에이전트용 지식 자산으로 가공된다고 말했다. 회사 내 데이터 파이프라인이 벡터 검색-지식 그래프-온톨로지-시맨틱 레이어로 고도화되며 AI 레디 데이터가 만들어지는 것이다.

그는 끝으로 에이전트 도입을 대하는 기업의 인식 전환을 당부했다. 에이전트를 도입한다고 해서 기존 업무 프로세스를 통째로 갈아엎을 필요가 없다는 조언이다. 그는 “에이전트 도입은 기술 프로젝트가 아니라, 업무 재설계 프로젝트로 접근해야 한다”며 “기존 업무 프로세스를 분석해 에이전트가 가장 큰 도움을 줄 수 있는 지점을 찾아내는 것이 우선”이라고 강조했다.

글. 바이라인네트워크
<이슬찬 기자>seulbae@byline.network