IBM “AI, 이제 업무 도구 아닌 기업 운영체제”

“인공지능(AI)은 더 이상 비즈니스를 지원하는 기술에 머물지 않고 실제 시스템에 연결되며 기업 운영 방식 자체를 재정의하는 플랫폼으로 발전하고 있습니다.”

이수정 한국IBM 사장은 1일 서울 강남구 웨스틴 서울 파르나스에서 열린 ‘IBM AI 서밋 코리아 2026’에서 기조연설을 맡아 이같이 언급했다. 이번 세미나는 에이전틱 AI 시대를 맞아 단순한 업무 보조 도구를 넘어선 AI를 기업의 핵심 운영 체제로 전면 통합하기 위한 구체적인 해법과 현장 사례를 공유하기 위해 주최됐다.

이 사장은 전기가 처음 등장했던 과거에 빗대어 AI의 현재를 진단했다. 그는 “전구가 공장을 밝게 만들었다면 조립 라인은 산업 자체를 바꿨다”며 “AI 가치 역시 개별 업무 자동화에서 끝나지 않고 기업 데이터와 시스템, 의사결정 구조를 새롭게 엮을 때 비로소 진정한 비즈니스 가치가 실현된다”고 말했다.

이어 IBM 자체 조사 결과 2030년까지 기업 94%가 전사적 AI 도입 계획을 세웠다고 주장했다. 다만 파일럿 성공과 전사 규모 적용은 완전히 다른 차원의 과제라는 지적을 이어가기도 했다.

이 사장은 AI를 비즈니스 프로세스와 맞물리게 해 성공적인 퍼스트 엔터프라이즈로 도약하기 위한 필수 요소로 ▲실시간 인텔리전스 ▲행동 ▲운영 ▲신뢰 4가지를 꼽았다. 또 유연한 실행 환경을 뒷받침할 개방형 하이브리드 클라우드 아키텍처 중요성도 내세웠다. 실제 IBM은 AI와 하이브리드 클라우드를 전사적으로 활용해 45억달러 규모의 생산성 향상 효과를 거둔 바 있다.

같은 날 단상에 오른 닐 순다레산(Neel Sundaresan) IBM 오토메이션 & AI 총괄 사장은 에이전틱 AI 도입 확산 전략을 구체화했다.

순다레산 총괄 사장은 “앞으로 성공적인 기업 경쟁력은 AI 도입 여부가 아니라 이를 얼마나 신뢰하고 확장 가능한 방식으로 운영하느냐에 달렸다”고 강조했다. 텍스트 생성을 넘어 아이디어에서 코드로, 배포에서 운영까지 전 과정을 잇는 새로운 에이전트 방식이 필수적이라는 의미다.

그는 소프트웨어 개발 현장에서 사람과 협업하는 AI 파트너 ‘아이비엠 밥(IBM Bob)’ 사례를 소개하며 데이터, 자동화, 거버넌스를 통합 관리하는 신규 운영 모델을 제안했다.

이러한 패러다임 전환 속에서 실제 산업 현장 실무진들은 데이터 통합과 레거시 시스템 연동이라는 현실적인 과제를 마주하고 있다.

이지은 한국IBM 최고기술책임자(CTO) 전무가 이끈 패널 토론에서는 각 산업을 대표하는 전문가들이 참석해 AI 전환(AX) 사례를 공유했다.

박재만 KB증권 인공지능·디지털 본부장은 사내 AI 서비스 ‘깨비’ 구축 과정을 공유하며 신뢰할 수 있는 데이터 기반 마련이 최우선 과제였음을 설명했다. 박 본부장은 “거대언어모델(LLM)이 데이터를 빠르고 정확하게 찾아 분석하도록 돕는 메타 데이터 관리와 품질 관리가 에이전트 성공 열쇠였다”고 평가했다. 향후 사내 서비스를 넘어 기업 투자 금융 관련 비투비(B2B) 비즈니스 모델로 깨비를 확장하겠다는 계획도 내비쳤다.

권혜성 SK텔레콤 부사장은 무결성이 필수인 기존 비즈니스 지원 시스템(BSS)과 AI를 연동하는 과정의 세부 과제를 짚었다. 권 부사장은 급변하는 기술 환경 속에서 살아남기 위해 조직 문화 유연성이 절실하다며 “모든 레이어에 ‘제로 트러스트(Zero Trust)’ 보안 개념을 적용해 고객 신뢰를 지키면서 시스템을 가볍고 유연하게 바꾸는 투자를 진행 중이다”라고 전했다.

보험업계는 확산과 통제를 동시에 이루기 위한 해법을 내놨다. 손익준 삼성생명 상무는 올해를 혁신 원년으로 선포하고 관련 부서를 AX PI 센터로 통합해 과제 발굴부터 운영까지 엔드투엔드 체계를 완성했다고 알렸다. 손 상무는 무분별한 섀도우 AI 위험을 막고자 통제된 연구개발망을 조성하고 에이전트 전반을 감시하는 ‘컨트롤 플레인’을 올해 안에 도입할 목표를 밝혔다. 또 매월 AI 위원회를 열어 과제 리스크를 4단계로 철저히 분류하는 거버넌스 체계를 도입했다고 소개했다.

현재가 AI 통합 시대라면 미래는 차세대 컴퓨팅이 이끌 전망이라고 분석한 백한희 IBM 리서치 양자 알고리즘 센터 디렉터 박사는 양자 컴퓨팅이 더 이상 연구실 전유물이 아니라 반도체, 배터리, 바이오 등 실제 산업 적용 단계에 진입했다고 분석했다. 백 박사는 “미래를 기다리기보다 특정한 복잡한 난제를 풀기 위해 양자 처리 장치(QPU)와 기존 그래픽 처리 장치(GPU) 등이 함께 작동하는 퀀텀 센트릭 슈퍼컴퓨팅 활용 가능성을 지금부터 꼼꼼히 챙겨야 한다”고 조언했다.

한편 이날 행사는 기업들이 AI 모델 자체를 도입하는 단계를 지나, 신뢰할 수 있는 데이터 기반의 운영 체제를 확립하는 것이 미래 생존의 필수 조건이라는 공감대를 형성하며 마무리됐다.

한국IBM은 국내 기업들이 실험 단계를 벗어나 안전하고 확장 가능한 AI 운영 역량을 성공적으로 확보할 수 있도록 든든한 기술 지원과 방향성을 지속적으로 제공한다는 방침도 덧붙였다.

글. 바이라인네트워크
<김원민 기자>wmkim627@byline.network