오라클 클라우드, AI 에이전트 특화 인프라 전면공세

오라클의 AI 전략은 데이터 있는 곳에서 안전하게 AI를 작동시키고, AI를 실제 업무 실행으로 직접 연결하는 것이다. 장기인 데이터베이스를 AI 워크로드에 최적화되도록 업그레이드하고, AI 데이터베이스를 중심으로 AI 에이전트를 위한 오라클 클라우드 인프라스트럭처(OCI)의 AI 인프라 와 AI 데이터 플랫폼을 구축했다.

나정옥 한국오라클 부사장은 지난 11일 한국오라클에서 열린 기자간담회에서 “오라클의 AI 메시지는 한마디로 ‘Bring AI to Data’라고 표현할 수 있다”며 “고객의 핵심 데이터가 있는 곳에 AI를 두고, 단순한 답변을 넘어서 실행까지 이어지게 만드는 것이 목표”라고 강조했다.

나정옥 부사장은 “AI 에이전트는 단순히 업무를 보조하는 수준을 떠나 업무 수행 방식 전반을 근본적으로 바꾸는 전환점으로 발전하고 있는 상황”이라며 “AI는 이제 단순한 모델 하나를 결정해 완성되는 게 아니라 여러 계층이 유기적으로 서로 연결된 구조를 통해서 발전을 하고 있다”고 설명했다.

나 부사장은 “인프라와 클라우드 서비스, 데이터 플랫폼, 파운데이션 모델, 애플리케이션, 에이전트 등 모든 것이 하나의 생태계처럼 동작해야 하고, 이런 구조 하에서 지속적인 추론과 에이전트 워크플로우를 안정적으로 구현할 수 있다”고 강조했다.

오라클 AI 데이터베이스는 AI를 데이터베이스 안에 통합시켜 AI를 사용하는 복잡도를 줄이고, 그 데이터와 워크플로우, 승인, 정책을 활용해 AI가 업무를 실행하게 한다. OCI 엑셀러론(Acceleron), 제타스케일(Zettascale) 등의 인프라는 AI 워크로드의 특성에 맞는 저지연성과 높은 신뢰성을 뒷받침하며, 이것이 오라클이 말하는 엔터프라이즈 AI의 차별점이다.

오라클은 AI를 별개의 프로젝트로 취급하기보다 핵심 데이터와 운영 시스템의 재설계 과제로 다뤄야 한다고 조언한다. 조직의 목표는 ‘무엇을 자동화할 것인가’보다 ‘어떤 업무 결정을 AI가 안전하게 실행하도록 허용할 것인가”에서 시작돼야 한다.

나 부사장은 “많은 고객의 공통적인 우려는 데이터 준비도, ROI, 보안의 순서인데, 이는 AI의 가치가 데이터에 달려 있고 AI 에이전트가 비즈니스 데이터를 충분히 활용할 수 있어야 복잡한 실행까지 이어질 수 있다는 것”이라며 “오라클은 신뢰할 수 있는 데이터, 모델 선택의 자율성, AI 워크로드를 위한 인프라 등의 세 축으로 AI 전략을 지원한다”고 말했다.

그는 “AI를 독립 프로젝트로 보지 않고, 핵심 데이터와 운영 시스템을 융합하는 통합 프로젝트로 추진해야 하고, AI 비즈니스 활용성을 디자인할 때 데이터 접근과 권한, 감사, 승인 등의 워크플로우까지도 포함해서 프로덕션 레디 거버넌스를 우선적으로 처음부터 고려해야 된다”며 “AI는 단순히 GPU 인프라를 확보하는 데서 끝나는 게 아니라 네트워크 레이턴시, 보안, 가용성 등 모든 요소가 골고루 고려돼야 한다”고 강조했다.

오라클은 AI를 별도의 시스템으로 구축하는 대신 데이터 플랫폼에 AI를 통합해 활용하도록 하고 강조하고 있다. 그래야 AI를 실제 비즈니스와 업무 프로세스에 적용해 측정 가능한 성과와 기업 경쟁력으로 연결할 수 있다는 것이다. 이를 위해 분산된 레거시 데이터의 연결과 통합, 데이터와 AI의 네이티브 통합, 그리고 AI를 실제 운영 환경에서 안전하고 안정적으로 확장하기 위한 보안, 거버넌스, 안정성이 함께 갖춰져야 한다.

오라클은 AI 시대를 위한 OCI 인프라로 ‘액셀러론’이란 아키텍처를 1년전 ‘오라클 AI 월드 2025’에서 발포했다. OCI 액셀러론은 OCI Gen2의 신뢰·격리 원칙을 계승하면서 호스트, 패브릭, 보안 전반의 데이터 경로(data path)를 재설계한 차세대 인프라 아키텍처다. 2016년 OCI Gen2 이후 약 10년 만에 이뤄진 대대적인 인프라 업그레이드로, 단일 NIC나 특정 컴퓨트 유형이 아니라 OCI의 네트워크 아키텍처, 패킷 프로세싱, 스토리지 액세스, 인프라 격리(isolation) 전반을 포괄한다.

OCI Gen2는 고객 워크로드와 클라우드 제어 영역을 분리해 확실한 격리와 예측 가능한 성능을 구현했다. 액셀러론은 이 원칙을 그대로 유지하면서, 컨버지드 NIC(Converged NIC)으로 호스트의 경로와 오버헤드를 줄이고, 다중 평면 네트워킹(multiplanar networking)으로 대규모 패브릭의 장애 영향을 제한하며, ZPR로 업무상 허용된 통신만 첫 패킷부터 집행하도록 아키텍처를 확장한다.

한국오라클 장진호 상무는 “액셀러론은 OCI Gen2의 설계와 사상을 그대로 유지하되 성능을 더 AI 스럽게 바꿔놓은 아키텍처”라며 “왜 지금 액세러론이 필요하냐면 AI에서 필요로 하는 데이터 워크로드가 많이 바뀌었기 때문”이라고 설명했다.

전통적인 온라인트랜잭션프로세싱(OLTP) 워크로드는 사용자에서 애플리케이션, 데이터베이스, 스토리지로 이어지는 수직적(north-south) 데이터 흐름을 중심으로 했다. 현재의 실운영 단계 AI는 모델, 벡터 DB, 스토리지, 에이전트와 API 사이에서 데이터와 컨텍스트가 반복적으로 이동한다. 네트워크, 스토리지, 보안 경로에서 발생하는 작은 지연도 누적되면 CPU와 GPU가 데이터를 기다리게 된다. 따라서 AI 인프라의 경쟁력은 컴퓨트의 규모뿐 아니라 컴퓨트가 기다리지 않도록 설계된 전 구간 데이터 경로(end-to-end data path)에서 결정된다.

최근 공개된 E6, X12, A4 Ax 컴퓨트는 액셀러론의 호스트 아키텍처인 OCI 액셀러론 SmartNIC이 실제 컴퓨트 제품에 적용된 대표 사례이다. 핵심은 새로운 쉐이프 자체가 아니라, OCI Gen2의 신뢰 원칙 위에서 데이터 경로의 성능·복원력·보안을 함께 강화해 AI 워크로드를 실험에서 실운영 단계로 확장하는 것이다.

장진호 상무는 “컨버지드 NIC이란 가속 장치는 데이터 트래픽에 대한 컨트롤 플레인과 고객의 오퍼레이션 운영 플레인으로 완전히 분리해 컴퓨팅 파워의 가용성을 극대화한다”며 “액셀러론은 분리했던 트래픽을 실리콘 레벨에서 통합하면서도, 칩 차원의 하드 파트션을 통해 고객의 VM 네트워크, 가상화, 스토리지 등의 트래픽 처리를 구분해 레이턴시를 최소화한다”고 말했다.

다중 평면 네트워킹은 데이터의 이동 경로를 다중화하면서, 특정 지점에 장애 발생 시 다른 경로를 활용하도록 해 단절을 최소화한다. 이는 인프라 특정 지점의 장애로 전체 AI 인프라 연산이 지연되거나 중단되는 상황을 막아준다.

장 상무는 “이런 기술이 OCI가 80만장의 GPU를 하나의 클러스터로 만들 수 있는 핵심 기술”이라며 “여기에 제로 트러스트 패키지 라우팅(ZPR)이란 기술을 더했다”고 말했다.

ZPR은 네트워크 IP 관리를 ACL 방식 대신 의도 태그 방식으로 하는 것이다. 네트워크 구성이나 설정 변경에도 애플리케이션과 워크로드의 설계 의도만 따라 네트워킹 목표를 달성하게 한다. 장 상무는 “네트워크와 보안의 목표는 각기 다른데, ZPR은 두 측면의 목표 충돌에도 워크로드를 지연시키지 않게 하며 별도 장치를 구비할 필요도 없게 한다”고 강조했다.

오라클 AI 데이터베이스를 중심으로 하는 ‘오라클 AI 데이터 플랫폼’은 기업의 운영·분석 데이터를 안전하게 통합하고, 벡터 검색·자연어 질의·생성형 AI·AI 에이전트를 데이터 계층에 직접 결합해 실제 업무에 활용하도록 돕는 기반이다. 관계형·JSON·벡터·그래프·공간정보·텍스트를 오라클 AI 데이터베이스 26ai에서 통합 관리해 데이터 복제와 이동의 복잡성을 줄이고, OLTP·OLAP과 AI 벡터 서치를 함께 지원하고, 자연어 질의와 RAG를 통해 최신 기업 데이터를 기반으로 한 검색·분석·응답을 구현한다. 권한 관리, 암호화, 감사, 마스킹을 AI 활용에도 일관되게 적용해 민감 데이터를 기존 보안 체계 안에서 활용하도록 지원하고, 다양한 데이터베이스와 아파치 아이스버그 기반 레이크하우스에 연계해, 데이터 이동을 최소화하면서 온프레미스와 멀티클라우드 전반에서 활용한다.

한국오라클 김태완 상무는 “오라클 AI 데이터베이스 26ai는 컨버지드 아키텍처를 그대로 유지해 데이터 유형에 따라 데이터베이스를 분화시키지 않으며, 하나의 데이터베이스에서 하나의 쿼리 엔진과 하나의 보안 체계로 모든 유형의 데이터를 쿼리할 수 있다”며 “이를 이용해 고객의 데이터 유형과 속성이 달라도 여러 데이터베이스를 넘나들지 않으며, 데이터 가상화를 통해 제로카피데이터 기반으로 데이터 이동 없이 AI의 데이터 활용을 검증하고 활용할 수 있는 체계를 마련해준다”고 강조했다.

기업 AI의 경쟁력은 모델 수가 아니라 데이터의 최신성·정확성·접근 통제에 달려 있다. 오라클은 AI 데이터 플랫폼을 통해 데이터를 단순 저장소가 아닌, 신뢰할 수 있는 AI 애플리케이션과 업무 자동화의 기반으로 전환한다

그는 “오라클 AI 데이터베이스 26ai는 OCI에서만 지원되지 않고, 아마존웹서비스(AWS), 구글클라우드, 마이크로소프트 애저, 고객 데이터센터 등에서 사용가능하다”며 “또한 자연어 검색과 MCP를 이용해 데이터베이스를 조회할 수 있고, 데이터를 중심으로 하는 AI 에이전트가 오라클 데이터베이스 내에 존재해 작업을 처리한다”고 말했다.

그는 “이제 단순하게 AI를 위한 분석 플랫폼으로 데이터 마트를 만드는 데서 끝나지 않아야 하고, 이를 AI 에이전트가 호출해 사용할 수 있는 환경이 이뤄져야 한다”며 “혼합 워크로드를 지원하는 데이터베이스 엔진이어야 가능하다”고 덧붙였다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network