오라클, DB를 거버넌스 최종 결정권자로 임명하다

오라클이 데이터베이스에 거버넌스를 내장시키며, AI 에이전트의 비즈니스 규칙 준수를 데이터베이스 차원에서 통제하려 하고 있다. AI의 신뢰성을 높이려면, 천방지축 AI에게 단순히 가이드라인을 따르라고 지시하는 것으로 부족하고, 데이터베이스 인프라 계층에 거버넌스 체계를 구축해 AI의 우회를 원천 차단해야 한다는 것이다. 데이터베이스 외부에 있던 데이터 품질, 데이터 카탈로그보다 더 견고한 내벽을 쌓아 AI 에이전트의 데이터 오남용을 방어한다는 구상이다.

후안 로이자 오라클 AI 데이터베이스 기술 부문 총괄 부사장은 26일(현지시간) 미국 라스베이거스에서 개최된 ‘오라클 AI 월드 2026’에서 스포트라이트 세션 발표에서 “AI의 문제점은 똑똑하지만 지나치게 자신만만한 십대가 일으키는 문제점과 매우 유사하며, 종종 답을 지어내고, 요청을 잘못 이해하고, 개인 정보를 노출하고, 잘못된 선택을 하고, 악의적인 행위자에게 속을 수 있다”며 “기존 아키텍처는 AI가 가져오는 이러한 변화를 처리하도록 설계되지 않았기 때문에, 단순히 기존 아키텍처 위에 AI를 덧붙이는 것만으로는 문제를 해결할 수 없고, AI에게 가이드라인을 따르라고 지시하는 것만으로는 충분하지 않다”고 밝혔다.

그는 “AI는 십대처럼 가이드라인을 무시하거나 훼손할 수 있기 때문에, 기업이 신뢰할 수 있는 AI 솔루션을 구축하는 유일한 방법은 애플리케이션 개발부터 데이터, 소프트웨어 플랫폼에 이르기까지 플랫폼 스택의 각 계층을 재고해 AI의 위험을 아키텍처적으로 최소화하는 것”이라며 “오라클의 딥 트러스트 AI 아키텍처는 각 인프라 계층 깊숙이 신뢰를 구축해 AI 모델이 신뢰 강제를 훼손하거나 우회할 수 없도록 한다”고 강조했다.

이날 오라클은 AI 신뢰 확보의 책임을 개별 AI 에이전트와 애플리케이션에 맡기는 대신, 기업 기술 스택 자체에 신뢰를 내재화하는 청사진인 ‘오라클 딥 트러스트 AI 아키텍처(Oracle Deep Trust AI Architecture)’를 발표했다.

새로운 아키텍처는 오라클 AI 데이터베이스, 오라클 자율운영 AI 데이터베이스, 오라클 APEX AI 애플리케이션 생성기 등의 검증된 기능을 결합해 보안, 개인정보 보호 및 비즈니스 규칙을 적용하고 신뢰할 수 있는 애플리케이션이 생성되도록 함으로써, 기업이 위험을 줄이면서 AI 혁신을 가속화할 수 있도록 지원한다.

기업이 기존 아키텍처에 더 많은 AI 에이전트와 AI 생성 애플리케이션을 배포함에 따라 민감한 정보 보호, 비즈니스 규칙 적용, 비즈니스 관련 질문에 대한 정확한 답변 확보, AI와 기업 시스템 간 상호작용에 대한 통제 유지 등의 과제가 커지고 있다. 오라클 딥 트러스트 AI 아키텍처는 기업 기술 스택의 4가지 핵심 계층인 소프트웨어 플랫폼, 데이터, 데이터 접근 및 애플리케이션 개발 계층 깊숙이 신뢰를 내재화해 AI 모델이 이를 우회하거나 훼손할 수 없도록 함으로써 이러한 과제를 해결하도록 지원한다. 오라클의 널리 알려진 최대 가용성 아키텍처(MAA)와 마찬가지로, 이 청사진은 개별 애플리케이션이나 에이전트가 필요한 모든 보호 조치를 완전하고 정확하게 구현하는 데 의존하지 않고도 기업이 AI의 생산성 및 혁신 효과를 실현할 수 있도록 돕는다.

후안 로이자 총괄 부사장은 “오라클 딥 트러스트 AI 아키텍처는 AI 기반 생산성 혁신을 가속화하는 동시에 위험을 줄여주며, 이 아키텍처를 기존 애플리케이션과 신규 애플리케이션 모두에 적용할 수 있다”며 “”딥 트러스트 AI 아키텍처는 AI에 대한 신뢰를 손쉽게 구축할 수 있도록 설계됐다”고 강조했다.

AI는 공격자가 새로운 취약점을 발견하고 공개된 취약점을 역공학하는 속도를 그 어느 때보다 빠르게 높이고 있다. 공격자는 AI로 패치와 소프트웨어 취약점을 신속하게 역분석하고, 이를 악용해 패치를 적용하지 않은 시스템을 공격하고 있다. 완전하고 시의적절한 패치 적용이 필수적인 보안 대책으로 거론되고 있다. 이에 오라클은 데이터 플랫폼에 대해 보안 업데이트를 항상 최신으로 유지하는 자동 패치를 제공한다. 오라클 자율운영 데이터베이스는 애플리케이션의 온라인 상태동안 최신 보안 업데이트를 자동으로 적용하며, 역분석 전에 업데이트 작업을 완료한다.

오라클 자율운영 AI 데이터베이스는 소프트웨어 업데이트 공개 전에 데이터베이스 엔진, 운영체제, 스토리지 및 펌웨어 전반에 보안 업데이트를 자동으로 적용한다. 롤링 패치 방식을 통해 애플리케이션 운영을 중단하지 않고 단계적으로 업데이트를 진행할 수 있다. 또한 상시 암호화 기능은 저장 중인 데이터와 전송 중인 데이터를 보호하며, 권한이 부여된 사용자와 애플리케이션에 투명한 복호화를 제공한다. 오라클 자율운영 AI 데이터베이스는 주요 하이퍼스케일러 환경과 오라클 클라우드 앳 커스터머를 통한 온프레미스 환경에서 제공된다.

또한, 오라클은 클라우드 공동 관리형 시스템과 온프레미스 시스템을 사용하는 고객의 보안 강화를 위해 2027년 2월 말까지 주요 보안 및 패치 도구를 무료 또는 대폭 할인된 가격으로 제공한다.

접근 정책과 비즈니스 규칙이 애플리케이션 코드에만 적용되는 경우, AI로 생성한 애플리케이션이 이를 잘못 구현할 수 있다. MCP 서버나 자연어-SQL(NL2SQL) 변환 등을 통해 데이터베이스에 직접 접근하는 에이전트는 이러한 정책과 규칙을 완전히 우회할 수도 있다.

로이자 총괄 부사장은 “AI가 생성한 코드를 완전히 신뢰하는 것은 십대 자녀에게 가족 차의 열쇠를 주고 학교나 축구 연습장처럼 당신이 원하는 곳만 갈 거라고 기대하는 것과 같다”며 “어쩌면 그렇게 할 수도 있고, 아닐 수도 있으며, 도중에 딴 데로 새버릴 수도 있다”고 비유했다.

그는 “AI 시대에 데이터 신뢰를 확보하는 것은 필수적이며, 데이터 신뢰 확보는 데이터 개인정보 보호 및 보안을 보장하는 것에서 시작된다”며 “매우 복잡하고 조직 내 역할로 구분된 데이터 개인정보 보호 규칙은 애플리케이션에 구현돼 맞춤형 애플리케이션 코드로 강제 적용되지만 이는 AI 시대에 엄청난 위험을 초래하며, 반드시 바뀌어야 한다”고 밝혔다.

그는 “AI는 새로운 앱을 생성할 때 데이터 개인정보 보호 규칙을 입력받을 수 있지만, 완성된 앱에 이러한 규칙을 완벽하고 매끄럽게 구현할 것이라고 신뢰할 수 없기 때문”이라며 “자연어 처리, AI 에이전트, MCP 프로토콜 등을 사용해 애플리케이션을 거치지 않고 데이터베이스에 직접 접근하는 AI 활용 사례가 점점 늘어나고 있기에, AI 모델이 우회하거나 무력화할 수 없는 데이터베이스 깊숙한 곳, 즉 원천 데이터에서 최종 사용자 수준의 데이터 개인정보 보호를 강화해야 한다”고 덧붙였다.

‘오라클 딥 데이터 시큐리티’는 기업이 최종 사용자의 접근 규칙을 오라클 AI 데이터베이스에서 직접 정의하고 모든 SQL 요청에 적용할 수 있도록 지원한다. 데이터베이스 자체에서 기업 디렉터리가 발급한 암호학적으로 서명된 토큰을 통해 사용자 신원을 확인하고, 해당 사용자가 접근할 수 있는 정보를 결정한다. 이러한 신원 관리 기능은 데이터베이스에서 비즈니스 규칙을 적용하는 오라클 SQL 어서션(Oracle SQL Assertions)으로 보완된다. 예를 들어 직원의 지출 한도를 초과하는 비용 청구를 허용하지 않도록 설정할 수 있으며, 어떤 애플리케이션, 최종 사용자 또는 에이전트가 요청하더라도 유효하지 않은 업데이트나 작업, 상충하는 변경 사항이 발생하지 않도록 방지한다.

로이자 부사장은 “SQL 어설션 기능은 데이터베이스 깊숙한 곳에서 데이터의 비즈니스 유효성을 강제해 우회하거나 훼손할 수 없도록 한다”며 “예를 들어, 21세 미만 고객이 술을 구매할 수 없도록 하려면, SQL 어설션을 정의해 주류를 주문하는 고객이 최소 21세 이상인지 확인하거나, 새로운 신용카드 결제가 카드 한도를 초과하지 않도록 확인할 수 있다”고 설명했다.

그는 “즉 데이터에 대한 비즈니스 규칙이 절대 무시되지 않도록 보장하는 선언적 메커니즘”이라고 덧붙였다.

오라클은 API를 통한 데이터 접근에 대해서도 데이터베이스 내재적인 거버넌스를 사용해야 한다는 입장이다.

로이자 부사장은 “AI가 생성한 앱이 데이터의 의미론을 이해하고, 완벽하게 액세스하며, 요구 사항 변경에 따라 데이터와 스키마를 발전시킬 수 있다고 신뢰할 수 있을까”라며 “AI에게 데이터베이스에 대한 완전한 SQL 접근 권한을 부여하는 것은 십대에게 스마트폰을 주고 가족에게 전화하고 음악을 듣는 용도로만 사용할 수 있고, 그 외에는 사용할 수 없다고 말하는 것과 같다”고 말했다.

그는 “AI가 생성한 앱에 무제한 SQL 접근 권한을 부여하는 것은 현명하지 않으며, 더 안전한 방법은 AI가 생성한 앱이 원하는 작업만 수행하는 데 필요한 정확한 데이터 인터페이스만 제공하는 것”이라며 “오라클은 AI가 생성한 데이터에 대한 접근이 관리되고, 이해하기 쉽고, 발전 가능하도록 보장하는 선언적 신뢰 데이터 API를 독자적으로 제공한다”고 밝혔다.

오라클 딥 트러스트 데이터 API는 구매 주문서와 같은 논리적 비즈니스 객체에 대한 읽기 및 쓰기 접근을 통제된 방식으로 제공한다. 임의의 SQL 접근을 허용하는 방식과 달리, 애플리케이션과 에이전트는 작업 수행에 필요한 객체만 활용할 수 있으며, 데이터베이스는 이들이 조회하거나 변경할 수 있는 범위를 규정하는 규칙을 적용한다.

그는 “데이터베이스는 상위 수준 비즈니스 객체에 대한 업데이트 규칙, 무결성 및 발전 가능성을 적용하고, 이러한 신뢰 API를 통해 신뢰와 제한된 데이터 접근이 데이터베이스에 내재돼 AI 모델에 의해 손상되거나 우회될 수 없게 된다”고 강조했다.

자연어로 질문하는 비즈니스 사용자를 위해 오라클 딥 NL2SQL(Oracle Deep NL2SQL)은 AI가 요청을 보다 정확하게 이해할 수 있도록 지원한다. 이를 위해 조직의 용어, 업무 관행 및 지표를 포함하는 비즈니스 지식과 정보의 정의 및 구성 방식을 설명하는 데이터 지식을 결합한 맥락을 제공한다. 지속적 피드백 학습은 사용자가 부정확한 응답을 수정할 수 있도록 지원하며, 지식 변경 검증은 수정 사항이 기업 지식 베이스에 반영되기 전에 검증되도록 돕는다. 이러한 기능을 통해 AI는 기존 NL2SQL 솔루션보다 비즈니스 관련 질문을 더 정확하게 해석하고, 조직의 데이터 및 비즈니스 맥락을 반영한 SQL을 생성할 수 있다.

로이자 부사장은 “비즈니스 사용자의 데이터 접근에서 AI는 자연어를 사용해 직접 질문하는 혁신적인 새로운 패러다임을 가능하지만, 자연어는 무한하고 모호하기 때문에 결과 답변에 완벽한 신뢰를 얻는 것은 불가능하다”며 “AI의 오해와 오류를 최소화하려면, AI가 회사의 비즈니스, 즉 내부 컨텍스트, 용어, 규칙을 이해해야 하고, 데이터가 어떻게 구성됐는지 데이터 지식도 이해해야 한다”고 말했다.

그는 “비즈니스 및 데이터 지식은 AI의 도움을 받는 인간으로부터 오고, AI가 실수할 때마다 인간이 지속적으로 데이터를 개선해야 한다”며 “AI가 실수하면 바로잡아 줘야 하고, 그래야 AI가 발전할 수 있으므로, 오라클의 딥NL2SQL은 이러한 과정을 자동화한다”고 강조했다.

오라클은 자체 AI 기반 애플리케이션 생성기에도 거버넌스를 강화했다. 오라클 APEX AI 애플리케이션 생성기는 AI 코딩 에이전트가 자연어로 작성된 애플리케이션 설명을 개방형 선언적 애플리케이션 정의 언어인 ‘APEX랭(APEXlang)’으로 변환할 수 있도록 지원한다. 오라클 APEX는 이러한 정의를 중앙 집중식 런타임 엔진에서 실행하며, 엔터프라이즈급 보안, 확장성 및 가용성을 제공하는 동시에 지속적인 애플리케이션 유지보수와 업데이트를 간소화한다. AI는 애플리케이션 실행 코드가 아닌 애플리케이션 정의만 생성하므로, 기업은 AI가 생성한 방대한 양의 실행 코드를 신뢰하거나, 해당 코드의 보안을 확보하고 유지보수할 필요 없이 애플리케이션을 구축하고 발전시킬 수 있다.

로이자 부사장은 “오라클의 방식은 AI가 앱에 필요한 기능만 생성하고 앱 구현 자체는 생성하지 않도록 함으로써 신뢰도를 극대화한다”며 “사용자가 AI에 원하는 데이터를 알려주면 AI가 선언적 SQL을 생성하고, SQL 엔진이 해당 데이터를 제공하는 방식”이라고 설명했다.

그는 “SQL은 데이터 접근의 기능을 명시할 뿐, 구현 방식은 명시하지 않고, 구현, 확장성, 가용성, 보안 등은 SQL 엔진에서 중앙 집중식으로 관리한다”며 “오라클 AI APEX 애플리케이션 생성기는 APEX Lang이라는 개방형 선언적 언어를 사용해 애플리케이션의 원하는 기능을 명확하게 지정한다”고 말했다.

그는 “APEX 엔진은 애플리케이션 보안, 가용성, 확장성, 진화 가능성 등 기업이 애플리케이션을 신뢰하는 데 필요한 모든 요소를 ​​중앙에서 구현한다”며 “애플리케이션 구현 엔진을 중앙 집중화함으로써 모든 애플리케이션의 사이버 보안을 크게 간소화하고 강화할 수 있다”고 덧붙였다.

개발자는 비주얼 스튜디오 코드(VS Code), 오라클 APEX 또는 코덱스와 같은 AI 코딩 에이전트를 비롯해 익숙한 개발 환경과 도구를 사용할 수 있다.

오라클의 널리 알려진 최대 가용성 아키텍처가 기업의 미션 크리티컬 시스템을 지속적으로 운영하기 위한 청사진을 제공했던 것처럼, 딥 트러스트 AI 아키텍처는 기업이 가장 중요한 데이터를 AI에 활용하기 위한 청사진을 제공한다. 보안, 개인정보 보호 및 비즈니스 규칙이 플랫폼, 데이터 및 애플리케이션 런타임에서 적용되므로, 새롭게 추가되는 모든 에이전트와 애플리케이션은 도입 첫날부터 이러한 보호 기능을 상속받는다. 이를 통해 기업은 위험을 함께 확대하지 않으면서 AI 활용 규모를 확장할 수 있다.

로이자 부사장은 “기존 제품 스택 위에 단순히 AI를 덧붙이는 방식은 위험에 노출될 가능성을 높인다”며 “마치 헬리콥터 부모처럼 AI에게 가이드라인을 따르라고 지시하는 것이 십대 자녀에게 그러하듯 AI가 규정을 준수하도록 보장하는 것은 아니므로, 기업이 신뢰할 수 있는 AI 솔루션을 구축하려면 애플리케이션 개발, 데이터, 그리고 기반 소프트웨어 플랫폼을 재고해 이러한 위험을 아키텍처적으로 최소화하고 우회할 수 없는 방식으로 구현해야 한다”고 강조했다.

글. 바이라인네트워크
<라스베이거스(미국)=김우용 기자>yong2@byline.network