AWS “한국 기업 AI 도입은 대세, 확장 고민의 단계”

“한국 기업 10곳 중 8곳이 AI로 생산성 향상을 경험하고 있고, 생산성 향상에 따라 주간 평균적으로 14시간을 절감했다고 한다. 다음의 과제는 어떻게 경제를 위한 진정한 전환으로 확산할 것인가다.”

닉 본스토우 스트랜드 파트너스 파트너는 11일 AWS코리아 사옥에서 진행된 ‘2026년 한국의 AI 잠재력 발현(Unlocking South Korea′s AI Potential 2026)’ 기자간담회에서 이같이 밝혔다. 

AWS 의뢰로 스트랜드 파트너스에서 진행한 해당 연구에 따르면, 국내 기업의 58%는 현재 AI를 활용중으로 1년전보다 10%포인트 증가했다. 국내 기업 리더 1000명과 일반 국민 1000명을 대상으로 진행한 이번 조사에서 지난 1년간 약 62만4000개 기업이 AI를 새로 도입했는데, 1분마다 1곳 이상의 기업이 AI를 도입한 셈이다.

AI 도입 확대는 실제 비즈니스 가치로 이어지고 있는 것으로 나타났다. AI 도입 기업의 81%가 생산성이 향상됐다고 답했고, 주당 평균 14시간을 절약하고 있다. 매출이 늘었다고 답한 기업도 10곳 중 거의 6곳에 달했다. 추가 도입에 대한 의지도 강해서, 도입 기업의 84%가 향후 12개월 내 AI 사용을 늘릴 것으로 내다봤다. 다만 도입 보편화로 과제는 ‘도입’ 자체에서 ‘조직 전반에 걸친 효과적인 확장’으로 옮겨가고 있다. 많은 기업이 AI의 가치를 증명하는 단계를 지나, 조직 전반에 확장할 수 있는 기반을 구축하는 단계로 넘어가고 있다. 성공적인 사용 사례를 반복 가능하고 안전하며 측정 가능한 비즈니스 역량으로 전환하려는 것이다.

국내 기업은 한층 고도화된 방식을 통해 AI를 활용하는 쪽으로 빠르게 옮겨가고 있다. 기초 단계에 머물러 있는 기업 비율은 70%에서 54%로 감소한 반면, 가장 고도화된 단계에 도달한 기업은 11%에서 26%로 2배 이상 증가했다. ICT(41%)와 제조업(35%)이 고도화 도입을 선도하고 있으며, 스타트업은 35%가 해당 단계에 도달한 반면 중소기업은 25%, 대기업은 9%에 그쳤다.

닉 본스토우는 “한국은 AI 도입에서 더 고도화된 전형적 단계로 진입하는 속도가 가장 뛰어나 보인다”며 “가장 고도화된 수준으로 AI를 활용하고 있다라고 분석한 기업의 비율이 작년 11%에서 2배 이상 상승한 26%로 나타났다”고 설명했다.

그는 “그런데 이 26% 좀 더 상세하게 들여다보면 스타트업과 엔터프라이즈 기업 사이에 비교적 불균등한 그런 배포 분포를 보이고 있다”며 “스타트업이나 중소기업은 빠르게 앞서 나간 전환적 단계에서 많은 비율을 보이고 있지만, 엔터프라이즈 기업의 전사적인 AI 확산은 여전히 부족한 부분이 있다”고 덧붙였다.

AI는 이사회 의제로도 확실히 자리 잡았으며, 조직의 67%가 AI 도입을 최상위 또는 중요 전략적 우선순위로 꼽았다. 그러나 이러한 의지가 일관된 체계로 전환되지는 못했다. 공식적이고 포괄적인 AI 전략을 갖춘 기업은 27%에 그쳤고, 47%는 AI 투자수익률(ROI)을 측정할 신뢰할 만한 방법이 없다고 답했다. 성공적인 AI 도입 여부를 측정할 수 있는 명확하고 일관된 기준을 갖춘 기업은 24%에 그쳤다.

AI 전략을 보유하고 있거나 계획 중인 기업들은 AI 확장에 필요한 조건으로 숙련된 AI 인재 확보(48%), 데이터 거버넌스 및 보안(44%), 신뢰할 수 있는 클라우드·디지털 인프라(39%) 등을 중요하게 꼽았다.

그는 “AI 도입 기업 가운데 AI 기반의 신제품과 서비스를 출시한 것은 18%에 불과하다”며 “AI로 성과를 낸 기업은 체계적인 AI 전략을 마련하고, AI 관련 ROI 측정 방법을 보유했다”고 말했다.

에이전트 레이어는 아직 초기 단계로, 37%가 인지를 하고 있지만 실제로 전면 도입한 기업은 8%였다. 그러나 에이전트를 도입한 곳의 54%는 의사결정을 가속했다고 했고, 51%는 효율성 증대를 경험했다고 답했다.

기업들은 이미 피지컬 AI 등 차세대 기술로 눈을 돌리고 있다. 응답자의 6%는 피지컬 AI를 전면 도입했고, 22%는 시범 적용 중이며, 39%는 도입을 계획하고 있다고 답했다. 자율 로봇, 예측 정비, 인간과 기계의 협업 등이 기업들이 주목하는 대표적 기회 영역이다.

신한금융그룹은 다중 턴 환경에서도 고객 의도를 정확히 분류할 지능형 챗봇 구축 과정에 에이전틱 AI를 적용했고, 큐원3(Qwen3) 30B 마이크로 에이전트 병렬 셀프 라우팅을 적용해 의도 분류 정확도를 92.5~97.9%까지 끌어올렸다. 전 구간 응답 지연 시간 5초 미만을 달성하며 추론 비용을 기존 대비 18분의 1 수준으로 대폭 낮췄다.

글로벌 보험사 알리안츠는 보장 확인부터 고객 통지까지 7개 전문 에이전트가 협업하는 시스템을 구축해 성과를 냈다. 종전 100일가량 소요되던 보험금 청구 처리 기간이 20일로 80% 단축됐다. 아마존 베드록 추론 엔진 재구축 프로젝트에서도 당초 30명 개발자가 12~18개월 걸릴 것으로 예상했던 작업을 단 6명이 76일 만에 끝마쳤다.

차세대 AI에 대한 준비는 아직 기업의 포부를 따라잡지 못하고 있다. 차세대 AI를 도입할 준비가 충분히 혹은 매우 잘 돼 있다고 답한 기업은 24%에 그쳤으며, 스타트업의 경우 같은 응답이 43%였다. AI 및 디지털 역량 부족(46%)과 기술·데이터 관련 장벽(38%)이 주요 장애물로 꼽힌다.

역량 문제는 완화되기보다 심화될 것으로 예상된다. 기업의 78%는 향후 3년간 AI 관련 역량에 대한 수요가 늘어날 것으로 내다봤고, 76%는 꾸준한 교육과 리스킬링이 경쟁력 유지에 필수라고 답했다. 그럼에도 자사 인력이 뛰어난 디지털 역량을 갖췄다고 믿는 기업은 22%에 그쳤다.

AI가 더 고도화되고 컴퓨팅 집약적으로 변함에 따라, 기업들은 기술 자체보다 확장을 가능하게 하는 조건에 주목하고 있다. 74%는 안정적인 전력 공급이 장기 AI 투자 결정에 중요하다고 답했고, 48%는 공공과 민간의 협력을 한국 AI 인프라 역량 확대의 가장 중요한 요소 중 하나로 꼽았다.

거버넌스도 동일하게 중요해지고 있다. 한국의 AI 기본법을 완전히 또는 상당 부분 인지하고 있다고 답한 기업은 64%에 달했지만, 규정을 준수할 준비가 완전히 되어 있다고 답한 기업은 22%에 불과하다. 기업들은 세부 의무 사항과 AI 관련 요건이 기존 데이터 보호 규정과 어떻게 맞물리는지 더 명확히 알고 싶어했다.

동시에, 국내 기업은 AI 기술에 접근하는 방식에서도 유연성을 원한다. AI를 활용하는 기업의 46%는 국내와 글로벌 AI 도구를 함께 쓰고 있고, 충분한 공급업체 선택권을 가진 기업 중 84%는 공급업체를 선택하고 전환할 수 있는 능력을 ‘매우 중요’ 또는 ‘극히 중요’하게 여긴다고 답했다. 72%는 글로벌 진출을 추진하는 국내 기업에게 글로벌 기술 기업에 대한 접근성이 중요하다고 답했다. 

그는 한국의 AI 성장 다음 단계가 안정적인 인프라, 명확한 규제, 그리고 폭넓은 기술 선택권에 대한 지속적인 접근에 달려 있음을 시사했다. 그는 “전체적으로 한국 기업은 한국이 전 세계적인 AI에서의 위치에 상당한 자신감을 가지고 있었지만, 인재의 구조, 고비용, 규제의 복잡성 혹은 명확성 결여 등에 개선이 필요하다고 했다”고 설명했다.

AWS는 AI 모멘텀을 실질적 전환으로 바꾸기 위한 3가지 과제를 제시했다. 우선, 명확한 비즈니스 목표와 측정 프레임워크로 성공적인 사용 사례를 식별하고 확장하고, 점점 고도화되는 AI 시스템을 조직 전반에 걸쳐 안전하고 안정적으로 배포할 수 있는 기반을 마련하며, 점점 더 고도화되는 AI 시스템과 함께 일하는 데 필요한 AI 및 디지털 역량, 판단력, 자신감을 직원에게 제공해야 한다고 했다.

그는 “이러한 기반을 AI 도입과 함께 다져나간다면, 국내 기업은 현재의 모멘텀을 생산성과 혁신, 장기 경쟁력이라는 보다 폭넓은 성과로 전환할 수 있다”고 밝혔다.

오순영 AWS 수석 솔루션즈 아키텍트는 “기계가 구매하는 시장에서는 비용 기준이 기존 토큰 단위에서 완수된 성과 단위로 이동한다”며 “추론 비용뿐 아니라 데이터 및 API 사용료, 실패 시 재시도, 인간 검수, 보안 감사 비용까지 에이전트 총원가를 종합적으로 판단해야 한다”고 강조했다.

과거 생성형 AI가 문서 작성 수준에 머물렀다면 에이전틱 AI는 목표를 받아 계획을 수립하고 도구를 활용해 직접 행동에 나선다. 이미 웹에서는 절반 이상이 사람보다 기계가 더 많은 활동을 수행하고 있다. 실질적인 웹 트래픽 51% 이상이 봇에서 발생하고 있다. 목적과 예산을 지닌 소프트웨어가 인간을 대신하는 새로운 고객으로 떠오른 것이다.

오 수석 솔루션즈 아키텍트는 “기계가 구매하는 시장에서는 비용 기준이 기존 토큰 단위에서 완수된 성과 단위로 이동한다”며 “추론 비용뿐 아니라 데이터 및 API 사용료, 실패 시 재시도, 인간 검수, 보안 감사 비용까지 에이전트 총원가를 종합적으로 판단해야 한다”고 강조했다.

그는 “상품의 가격을 정하고 공급망을 짜며, 고객 환불을 처리하고, 필요한 데이터를 구매하는 주체가 AI 에이전트일 수 있는 시대”라며 “모든 변화의 중심은 결국 사람이고, 에이전트 경제에서 사람의 역할은 실행 대신 판단과 책임으로 이동한다”고 말했다.

그는 “목적과 권한, 그리고 책임 등 3가지가 자율 AI 시대의 새 경제 질서를 끌고 가는 힘”이라며 “AWS는 인프라로 지원할 모든 준비를 하고 있다”고 덧붙였다.

글. 바이라인네트워크
<김원민 기자>wmkim627@byline.network