포춘500대 기업 85%는 마이크로소프트 AI를 어떻게 쓰나
마이크로소프트는 경쟁자 중 가장 빠르게 생성형 인공지능(AI)을 기업 시장에 공급했다. 포춘500대 기업 중 85%가 마이크로소프트의 AI 제품을 사용 중이고, 70%가 마이크로소프트365 코파일럿을 구독 중이라고 한다. 경쟁자들이 자체 대형언어모델(LLM) 개발에 투자하는 사이 마이크로소프트는 오픈AI에 모델 개발을 맡기고, 그 시간에 구체적 서비스와 세련미를 갖추는 데 과감히 투자했고 현재까지 그 전략이 성공하고 있다.
그 결과 약 1년 동안 마이크로소프트는 공개 가능한 고객 사례를 다수 확보했고 올해 이그나이트 2024 컨퍼런스에서 공개했다. 각 사례는 단순한 코파일럿 활용부터 AI 에이전트 플랫폼 구축까지 다양하다.
확실히 생성형 AI 붐은 확실히 존재하고, 마이크로소프트는 그 수혜를 톡톡히 입고 있다. 주요 기업의 사례가 구체적으로 나오며 AI 플랫폼 시장 경쟁에서 우위를 점유해가고 있다.
마이크로소프트가 IDC에 의뢰해 실시한 글로벌 설문조사 결과, 전세계 기업의 생성형 AI 사용은 2023년 55%에서 올해 75%로 증가했다. 회사가 생성형 AI에 1달러를 투자할 때 투자수익률(ROI)은 3.7배로 나타났다. 전세계 AI 지출은 2028년 6320억달러에 도달할 것으로 예측됐다.
토요타자동차는 선임 엔지니어의 은퇴 후에도 전문 지식을 보존하기 위해 생성형 AI의 힘을 활용하고 있다. 토요타는 마이크로소프트 애저 오픈AI 서비스, 애저 펑션, 코스모스DB 등을 사용해 새로운 차량 모델을 더 빠르게 개발한다는 목표로 내부 전문 지식을 저장하고 공유하는 생성 AI 에이전트 시스템 ‘O-beya’을 구축했다. 예를 들어 엔지니어가 시스템에 자동차를 더 빨리 달리게 하는 방법을 질문하면, 엔진 에이전트는 엔진 출력과 관련된 답변을 제공하고, 규제 에이전트는 배출 제한에 대한 답변을 제공하며, 시스템은 이를 하나의 답변으로 통합한다.
지난 14일 미국 항공우주국(NASA)가 지구과학 데이터시스템 프로그램에 마이크로소프트 애저 오픈AI 서비스를 활용해 ‘어스 코파일럿’을 만들었다고 발표했다.
액센추어는 10만명의 직원에게 마이크로소프트365 코파일럿과 에이전트를 제공중이며, 20만명에거 추가 배치할 계획이다.
제조 및 운영 자동화 자동차 공급업체 ‘ABB그룹’은 생성형 AI를 사용해 산업 부문 고객이 탄소 발자국을 잘 관리할 수 있도록 돕고 있다. 이 회사는 마이크로소프트 애저 오픈AI 서비스를 핵심 제닉스(Genix) 산업용 IoT 및 분석 제품군에 통합시켰다. 자연어로 고객 질문에 답하고 구체적이고 실행 가능한 통찰력을 제공하는 생성적 AI 솔루션인 제닉스 코파일럿이 구축됐다. ABB는 사전 예방적 접근 방식을 통해 고객이 운영 및 유지 관리 비용을 최대 40% 절감하고 생산 효율성을 30% 높이고 지속 가능성을 25% 개선했다. 제닉스 코파일럿을 통해 매출을 최소 20% 더 증가시킬 것으로 전망한다
항공사인 ‘에어 인디아’는 워크로드를 마이크로소프트 애저로 이전해 고객경험을 향상시켰다. 에어 인디아는 애저 오픈AI 서비스와 최신 GPT 모델을 구현해 예약 및 항공편 상태와 같은 주제에 대한 3만개의 일일 질의를 처리할 수 있는 가상 비서인 ‘AI.g’를 개발했다. 수백만 건의 자동화된 고객 상호 작용이 가능해져 콜센터 직원은 더 복잡한 문제에 집중할 수 있게 됐다. 애저 전환으로 재정적 절감도 이뤄졌다. 에어 인디아는 승객 수가 2배 늘어나는 가운데 콜센터의 통화량을 동일하게 유지하고 있다. 매일 약 9천개 질의를 받는데, AI.g는 하루에 1만개 질의를 처리할 수 있다. 이는 연간 수백만 달러를 절감 효과를 가져왔다.
주류판매업체 ‘캄파리그룹’은 마이크로소프트365 코파일럿을 도입해 ‘캄파리스타(Camparista)’란 생성형 AI 기능을 직원의 업무용 앱에 내장시켰다. 코파일럿은 회의 준비와 요약을 간소화했다. 초기 채택자는 하루에 16~30분을 절약했고, 80%는 작업 속도가 빨라졌으며, 81%는 생산성이 높아졌다고 한다. 86%는 작업 품질이 향상됐고, 73%는 일상적인 작업에 정신적 노력을 덜 들인다고 한다.
물류 플랫폼 ‘CH 로빈슨’은 마이크로소프트 애저 AI를 사용해 이메일 가격 견적 시스템을 자동화했다. 운송업체의 일일 가격 요청 2000건 이상에 대한 응답 시간을 크게 줄였다. 이 회사의 자동화된 AI 시스템은 이제 수신 이메일을 분류하고 생성 AI를 사용해 세부 정보를 조합한 다음 사람이 고객의 요청을 이행하는 데 필요한 단계를 복제한다. 이 자동화를 통해 이메일 견적 시간이 몇 시간에서 단 32초로 단축됐다. 애저 AI 통합으로 생산성을 연 15% 높였다고 한다.
통합 마케팅 솔루션 기업인 ‘덴츠’는 마이크로소프트 애저 AI를 사용해 고객 서비스를개선하고 있다. 덴츠는 애저 AI 스튜디오, 애저 머신러닝, 애저 오픈AI 서비스 등을 사용해 직원이 대화형 채팅을 통해 결과를 해석하고 분석 시간을 80% 단축할 수 있도록 돕는 코파일럿을 개발했다. 이를 통해 모델 정확도를 향상시키고, 고객의 광고 지출 수익을 높여 수백만 달러의 절감 효과를 얻었다. 이전에 고객을 직접 대면하는 미디어 플래너가 몇 주를 기다려야 했지만, 이제 수 분 안에 가능해졌다.
지능형 전력 관리 회사 ‘이튼’은 마이크로소프트365 코파일럿을 활용해 운영을 간소화, 자동화했다. 이는 직원의 데이터 접근을 개선하고, 지식을 중앙 집중화하면서, 팀이 더 높은 가치의 작업에 집중할 수 있도록 지원하고 있다. 코파일럿은 이튼의 재무 운영에서 수동적이고 많은 시간을 요하는 문서화 프로세스에서 특히 큰 효과를 발휘했다. 코파일럿은 이튼의 9000여개 표준 운영 절차(SOP)를 문서화하고, 각 SOP에 대해 83%의 시간을 절약 했다.
레노버는 프리미어 서포트 서비스팀에서 마이크로소프트365 코파일럿과, 다이나믹스365 컨택센터, 다이나믹스365 고객서비스 등을 사용중이다. AI 기반 채팅 서비스를 제공해 지원 운영을 간소화하고 증가하는 수요에 대응하고 있다. 코파일럿의 실시간 고품질 제안을 통해 서비스 담당자는 정보를 수집하고 검토하는 데 소요되는 시간을 줄이고 문제를 해결하는 데 더 많은 시간을 할애할 수 있게 됐다 서비스 담당자는 서비스 평균 처리 시간을 20% 감소시키고, 상담원 생산성을 15% 높였다.
반려동물 의료서비스 업체 ‘Mars Veterinary Health’는 수의 방사선 전문의의 전 세계적 부족이라는 과제를 해결하기 위해 애저 AI 스튜디오 모델 카탈로그 ‘미스트랄 LLM’을 사용해 X선 이미지를 검토하고 인간 방사선 전문의가 검토할 수 있는 진단을 제공하는 새로운 진단 도구인 ‘래피드리드(RapidRead)’를 구축했다. 래피드리드를 통해 진료소는 몇 분 만에 진단을 제공함으로써 더 많은 반려동물의 생명을 구하고 있다.
영국 산업 건강 서비스 제공업체인 ‘메디골드헬스(Medigold Health)’는 마이크로소프트애저로 운영을 혁신했다. 직장 건강 위험 감소와 직원 웰빙을 전문으로 하는 메디골드는 450명의 임상의와 기술자를 포함해 1천명 이상의 직원으로 구성된 팀으로 3500개 이상의 기업을 지원하고 있다. 이 회사는 마이크로소프트 애저 오픈AI 서비스, 애저 코스모스 DB, 애저 SQL 데이터베이스 등을 사용해 광범위한 노트 작성, 받아쓰기 및 보고서 생성과 같은 기존 고객 건강 평가의 수동적인 측면을 자동화했다. 이를 통해 임상의 유지율과 직무 만족도가 58% 증가했다.
사티아 나델라 마이크로소프트 최고경영자(CEO)는 “우리 의 사명은 지구상의 모든 사람과 모든 조직이 더 많은 것을 성취할 수 있게 힘을 실어주는 것”이라며 “AI의 중간 단계로 접어들면서 인간의 성취 를 촉진하는 일이 우리에게 달려 있다”고 밝혔다.
글. 바이라인네트워크
<김우용 기자>yong2@byline.network