“스노우플레이크로 AI 시작부터 끝까지 쉽고 정확하고 안전하게”

스노우플레이크는 9일 서울 삼성동 코엑스 컨벤션센터에서 연례 데이터 클라우드 컨퍼런스 ‘스노우플레이크 월드 투어 서울’을 개최했다. 이 행사는 고객사와 파트너, 데이터 클라우드 업계 관계자 및 데이터 전문가가 참석해 데이터와 AI 최신 트렌드 및 산업별 혁신 사례를 선보이는 자리다.

최기영 스노우플레이크 코리아 지사장은 본 행사에 앞서 8일 그랜드 인터컨티넨탈 호텔에서 진행된 기자간담회에서 “스노우플레이크는 자사 기술과 전략으로 모든 조직이 데이터와 AI를 활용해 잠재력을 최대화할 수 있도록 지원하고 있다”며 “복잡한 솔루션을 다룰 때 발생하는 마찰을 최소화하고 부서 간 데이터 사일로를 해소해 운영 과정을 단순화하는 AI 데이터 클라우드를 제공해 누구나 쉽게 데이터와 AI를 활용할 수 있도록 지원한다”고 밝혔다.

최기영 지사장은 “필요한 데이터 소스를 얻는 단계부터 AI와 AI 에이전트가 답을 주는 상황까지 엔드투엔드로 기능을 제공한다”고 강조했다.

올해 스노우플레이크는 다양한 데이터 원천을 쉽게 데이터 플랫폼에 연동할 수 있는 데이터 통합 기능 ‘오픈플로우’를 선보였다. 오픈플로우는 아파치 나이파이 프로젝트를 기반으로 기업 내부에 구축된 사내 업무용 애플리케이션, 마이크로소프트 셰어포인트, 구글 드라이브, 퍼블릭 클라우드의 가상프라이빗센터(VPC) 내 시스템 등의 데이터를 스노우플레이크 플랫폼으로 쉽게 가져올 수 있게 한다. 정형, 비정형의 멀티모달 데이터를 스노우플레이크로 쉽게 통합하고 연결함으로써 시스템 간 데이터 흐름을 자동화해 데이터 엔지니어는 몇 분 만에 커스텀 커넥터를 생성하고 스노우플레이크의 관리형 플랫폼에서 실행할 수 있다.

정형 데이터를 스노우플레이크로 가져오는 ‘스노우파이프’도 업그레이드됐다. 러스트 언어로 구축된 스노우파이프 스트리밍을 활용해 오픈플로우에서 초당 최대 10GB의 스트리밍 데이터를 수집하고, 5-10초 내에 쿼리 가능한 상태로 전환하는 초저지연 처리 성능을 제공한다.

스노우플레이크는 지속적으로 ‘아파치 아이스버그’ 오픈 테이블 형식을 지원하고 있으며, 데이터웨어하우스와 데이터레이크 성능과 역량도 강화하고 있다. 또, 스노우플레이크는 포스트그레SQL 기업인 ‘크런치데이터’를 인수해 자사 AI 데이터 클라우드 플랫폼에 통합하고, ‘스노우플레이크 포스트그레스’로 제공할 예정이다. 이를 통해 개발자는 포스트그레스의 모든 기능을 활용하면서 미션크리티컬 AI 애플리케이션을 구축하고 실행하는 데 필요한 엄격한 거버넌스, 보안, 운영 표준 등을 제공받을 수 있게 된다.

최 지사장은 “스노우플레이크 코텍스 AI는 여러 산업 벤치마크 테스트에서 90% 이상의 정확도를 제공하며, 가장 높은 정확성을 보여주고 있다”며 “데이터 정확성과 사용 편의성이 스노우플레이크가 국내에서 호응을 얻고 있는 이유”라고 설명했다.

그는 “스노우플레이크는 단일 플랫폼에서 데이터와 AI 활용에 필요한 모든 기능을 통합 제공하기 때문에 사용하기 쉽고 정확하다”고 강조했다.

스노우플레이크의 생성형 AI 솔루션인 코텍스 AI는 ‘코텍스 오케스트레이션’을 제공하게 됐다. 이 기능을 통해 코텍스 AI가 멀티 AI 에이전트의 활동을 조율할 수 있게 됐다. 코텍스 날리지 익스텐션이란 기능을 통해 실시간 뉴스와 연구보고서를 AI 에이전트에서 RAG와 함께 홯용할 수 있다.

스노우플레이크 코텍스 에이전트 API를 참조해 작업을 자동화하는 에이전트 앱을 스노우플레이크 플랫폼 네이티브 앱으로 만들 수 있게 됐다. 개발한 에이전틱 네이티브 앱은 스노우플레이크 마켓플레이스를 통해 배포, 제공할 수 있다. 스노우플레이크가 선보인 코텍스 AISQL은 SQL을 활용해 정형 데이터뿐 아니라 비정형 데이터도 분석하게 해주는 기능이다. 생성형 AI 기술을 활용해서 분석가가 입력한 SQL로 비정형 데이터까지 조회하고 통합해 분석하게 해준다. 숫자 기반 행과 열뿐만 아니라 텍스트, 이미지, 오디오 등 다양한 데이터 유형을 자유롭게 질의할 수 있다.

고객이 직접 내부 데이터를 활용하기 위한 데이터 에이전트를 구축할 수 있지만, 스노우플레이크는 그 단계조차 건너 뛰고 싶어하는 기업을 위해 모든 내부 구성요소를 활용해 구축한 완성형 대화형 분석 인터페이스를 선보였다. ‘스노우플레이크 인텔리전스’다. 코텍스AI의 기능과 오픈플로우, DBT, 시맨틱 뷰 등을 활용하고, 데이터 사이언스 에이전트를 비롯한 서브 에이전트들을 통합한 서비스다. 기업은 대화형 인터페이스에서 기업 내외부 데이터를 쉽게 조회하고 분석할 수 있다.

최 지사장은 “세계 최고 수준의 AI 모델을 활용해 비즈니스에 최적화된 에이전트를 구축할 수 있고, 이를 통해 비전문가도 코드를 작성하지 않고도 앱을 출시하고 업무 시스템 내에서 데이터 분석과 시각화, 업무 자동화를 수행할 수 있다”며 “스노우플레이크는 AI 모델과 대화형 인터페이스를 통해 인사이트 도출과 비즈니스 혁신을 가속화하며, 보안과 거버넌스를 갖춘 데이터 공유 기능으로 협업 환경을 구축하고 있다”고 강조했다.

그는 “편의성, 연결성, 신뢰성으로 정의할 수 있는 스노우플레이크 AI 데이터 클라우드를 통해 산업 전반에 걸쳐 데이터 기반의 경쟁력을 확보하고 AI 비즈니스가 확장되길 바란다”고 덧붙였다.

간담회 고객사례 발표에서 미래에셋자산운용 디지털전략본부 노시희 본부장은 “미래에셋자산운용은 방대한 양의 데이터, 원본 데이터 관리의 복잡성, 데이터·모델 관리 부담, 다양한 글로벌 규제 환경 대응 문제를 해결하기 위해 스노우플레이크 AI 데이터 플랫폼을 도입했다”며 “웨어하우스를 확장하며 성능을 2배로 높이고, 15시간 걸리던 작업을 2분 35초 만에 완료하는 등 데이터 처리 속도와 배치 시간을 향상시켰지만 비용은 비슷한 수준으로 유지했다”고 밝혔다.

노시희 본부장은 “기업 재무 데이터는 공시 후 정정, 재작성 사례가 빈번해 금융기관들은 특정 시점에서 실제로 이용 가능했던 데이터를 보존하고 과거 시점의 의사결정 및 성과를 정확히 재현하는 포인트인타임(Point-In-Time Data) 데이터 관리가 중요하다”며 “AI 모델은 과거 데이터를 학습해 미래를 예측하는 구조로, 과거 시점에서 알 수 없던 정보가 데이터에 포함되면 문제가 발생한다”고 말했다.

미래에셋자산운용은 스노우플레이크 마켓플레이스를 통해 데이터 제공사로부터 데이터 소스를 공급받으며, 포인트인타임데이터 관리 과제를 해결했다. 데이터 제공사가 시점 데이터를 관리해 실시간으로 최적 데이터를 제공하므로, 미래에셋자산운용은 1차 데이터 파이프라인의 관리 복잡성과 유지관리 부담을 제거했다. 또한, 스노우플레이크의 스냅샷 기반의 제로카피 클로닝과 타임트레블 등의 기능을 통해 시점 데이터를 더 원활히 활용하게 됐다.

그는 “조직 내부에서 급증한 현업 부서의 데이터 공유 요청에 스노우플레이크 플랫폼으로 대응하고, 데이터 카탈로그, 코드 카탈로그, AI 어시스턴트, 클라우드 IDE, 워크플로우 자동화 등을 추진하고 있다”고 밝혔다.

장수백 부릉 엔지니어링본부 최고기술책임자(CTO)는 “부릉은 배송의 마지막 경험을 책임지고 있는 ‘라스트마일’ 서비스를 제공하는 기업으로, 라스트마일 서비스를 제공할 때 주문 정보, 배송 관제 지점, 배송 담당 라이더 등 수많은 데이터가 발생하고 변화한다”며 “이 방대한 데이터를 취합·분석해 비즈니스 전략을 세우는 과정의 효율성을 높여 더 빠른 의사결정을 내리기 위해 스노우플레이크 AI 데이터 플랫폼을 도입했다”고 밝혔다.

부릉은 스노우플레이크로 두가지 파이프라인을 구축했다.

서비스 데이터 스트리밍 파이프라인은 카프카, 스노우플레이크 커넥터를 통해 준실시간성으로 데이터를 처리하고, 데이터 수요공급 상황에 따라 처리 용량을 유연하게 확장할 수 있는 오토스케일링을 적용했다.

데이터레이크하우스 아키텍처는 앱 로그를 AWS 람다와 파이어호스, 아마존 S3에 아이스버그 테이블로 적재하고, 이 데이터를 스노우플레이크의 익스터널 볼륨을 통해 별도 이관과 추가 저장 비용없이 스노우플레이크에서 직접 활용하게 했다.

데이터 프로덕트 개념을 도입하고, 데이터 조직에서 기업 내 데이터 소비자를 위한 데이터세트를 스노우플레이크 마켓플레이스로 제공하고 있다. 스노우플레이크는 생성 데이터의 소유권과 소비자를 명확히 규정해 세밀하게 관리하게 해준다. 스노우플레이크 도입과 함께 데이터 거버넌스와 데이터 위원회를 구성해 데이터 관리 체계를 고도화하고 있다. 또한, 스노우플레이크 코텍스 AI를 활용해 자연어로 데이터를 활용하게 했다.

장수백 CTO는 “부릉은 스노우플레이크를 도입해 데이터 스트리밍과 데이터 레이크하우스, 두 가지 파이프라인을 구축했고, 이를 통해 데이터 제공 및 처리 작업을 효율화해 데이터 처리 병목 현상을 제거할 수 있었다”며 “데이터 적재는 최대 84% 압출율을 확인해 저장비용을 절감했고, 쿼리 성능은 기존 사용 서비스 대비 데이터 처리 성능 52% 개선, 인프라 비용 42% 절감이라는 성과를 얻었다”고 강조했다.

그는 “앞으로도 계속해서 스노우플레이크와의 협력을 강화하고 AI 배차 시스템의 전체 파이프라인을 자동화하는 것이 목표”라고 덧붙였다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network