마이크로소프트가 생성형 AI 채택 장벽을 허무는 방법

마이크로소프트는 인공지능(AI)을 기업에게 어떻게 제공할 지 잘 이해한 회사다. 작년 AI 어시스턴트인 ‘마이크로소프트 코파일럿’을 내놓고 기업의 즉각적인 생성형 AI 도입 경로를 텄고, 이제 한발 진화한 AI 에이전트를 기업에 투입하기 위한 심층적인 플랫폼을 구축했다.

지난 19일 미국 시카고에서 열린 ‘마이크로소프트 이그나이트2024’는 마이크로소프트가 생성형 AI를 기업에게 제공하는 전략과 방법, 도구를 명백히 보여준다.

마이크로소프트는 기업에서 생성형 AI를 채택하는 3계층의 방법론을 제시한다. ▲특별한 역량없이 바로 업무에 도입하고자 하는 사용자를 위한 ‘코파일럿’ ▲어느 정도 맞춤화된 생성형 AI를 활용하려는 사용자를 위한 ‘코파일럿 스튜디오’ ▲주도적으로 자신만의 생성형 AI 솔루션 구축을 원하는 사용자에게 ‘애저 AI 파운드리’가 마이크로소프트가 기업 AI 채택을 지원하는 3계층의 솔루션이다.

출발점: 코파일럿, 그리고 에이전트

마이크로소프트 코파일럿은 오픈AI의 GPT 모델을 특정 용도에 맞게 대화형 인터페이스로 활용하게 해주는 사용자인터페이스(UI)다. 사티아 나델라 마이크로소프트 최고경영자(CEO)는 “코파일럿은 단순한 AI UI가 아니라, 작업 방식과 생산성에 혁신을 가져오는 도구”라며 “모든 직원은 자신과 자신의 업무를 이해하는 코파일럿을 통해 생산성을 높이고, 창의력을 증대하며, 시간을 절약할 수 있다”고 말했다.

코파일럿은 사용자의 명령 전까지 그 스스로 어떤 일을 해야 할 지 아무것도 모른다. 이제 AI 에이전트 단계로 진화하면서 사전에 입력된 명령에 따라 더 구체적이고 명확히 작업을 수행하게 됐다. 코파일럿이 시작메뉴라면, 코파일럿의 AI 에이전트는 구체적인 앱이다.

코파일럿이 들어간 모든 마이크로소프트 비즈니스 애플리케이션은 각자의 에이전트를 갖게 됐다.

셰어포인트 에이전트는 특정 사이트, 파일, 폴더가 AI 에이전트와 연동돼 정보를 쉽게 찾을 수 있도록 돕는다. 사람의 정보 탐색을 자동화해 업무 복잡도를 낮춰준다. 사용자는 일반적인 비즈니스 프로세스를 지원하는 특정 셰어포인트 파일, 폴더 또는 사이트에 맞게 조정된 자체 에이전트를 쉽게 만들 수 있다. 이 에이전트는 개인화된 이름과 특정 행동을 갖도록 편집 가능하며, 이메일, 회의 및 채팅을 통해 공유할 수 있다. 사용자는 에이전트에게 질문하고 실시간 응답을 받을 수 있다. 셰어포인트 에이전트는 민감한 정보의 과도한 공유를 방지하기 위해 기존 사용자 권한과 민감도 레이블을 따른다. 셰어포인트 에이전트는 대화형으로 작동해 사용자가 ‘@멘션’으로 직접 상호작용할 수 있다. 신뢰할 수 있는 데이터 소스에서 정보를 가져오기에 정확한 결과를 제공한다.

팀즈의 통역 에이전트는 실시간 음성 통역을 제공한다. 사용자 음성 톤에 맞춘 시뮬레이션 기능도 제공한다. 팀 회의에서 최대 9개 언어로 실시간 통역을 가능하게 하므로 각 참가자는 자신이 선택한 언어로 말하고 들을 수 있다. 이 에이전트는 내년 초에 공개 미리보기로 제공될 예정이다.

팀즈의 ‘진행자 에이전트’는 효과적인 협업을 위해 팀 회의 및 채팅 내에서 일한다. 회의에서 진행자 에이전트가 실시간으로 메모를 작성해 모든 사람이 원활하게 공동 작성하고 협업할 수 있도록 한다. 채팅에서 진행자는 대화 진행에 따라 중요한 정보의 요약을 공유한다. 이 에이전트는 미리보기 중이다.

마이크로소프트365 코파일럿 비즈니스챗의 직원 셀프 서비스 에이전트는 휴가 신청, 급여 및 복지 정보확인, 장비 요청 등을 쉽게 처리할 수 있도록 돕는 기능으로, 조직에 따라 맞춤화할 수 있다. 비즈챗에서 사용자는 혜택 및 급여 정보를 검색하고, 휴직을 시작하고, IT와 함께 새 노트북을 요청하고, 마이크로소프트365 제품 및 서비스에 대한 지원을 한 곳에서 받을 수 있다. 이는 현재 비공개 미리보기로 제공되고 있다.

작업 관리 도구인 ‘플래너’의 프로젝트 매니저 에이전트는 프로젝트 계획 수립부터 실행까지의 과정을 자동화한다. 프로젝트 매니저 에이전트는 처음부터 자동으로 새로운 계획을 만들거나 사전 구성된 템플릿을 사용할 수 있다. 콘텐츠 제작을 포함한 작업도 완료할 수 있다. 이 에이전트는 현재 미리보기 중이다.

코파일럿 자체의 능력도 진화했다. 일단 업무 자동화 도구처럼 코파일럿을 사용할 수 있는 ‘코파일럿 액션’이 소개됐다. 사용자는 코파일럿이 수행할 작업의 규칙을 순서대로 설정해 반복적인 업무를 코파일럿에게 대행시킬 수 있다.

팀원에게 상태 업데이트 또는 의제 항목을 요청하거나, 주간 보고서를 작성하거나, 중요한 이메일과 채팅을 요약한 일일 이메일을 예약하든 등의 작업을 코파일럿에게 위임하면 된다. 사용자 정의 가능한 프롬프트 템플릿은 자동화되고, 필요에 따라 사용하거나, 특정 이벤트에 의해 작동된다. 정보 수집, 이메일, 워드 문서 같은 지정된 형식으로 표시할 수 있다. 코파일럿 액션은 비공개 미리보기 중이다.

팀즈 코파일럿은 ‘공유 화면 콘텐츠 분석(Analyze Screen-Shared Content)’ 기능을 갖게 됐다. 코파일럿이 공유된 화면 속 콘텐츠를 분석해 중요한 논의 사항을 기억하게 요약해준다. 채팅 및 프레젠테이션 자료를 통합한 새로운 콘텐츠 생성이 가능해 정보 활용도를 높였다. 내년 초 프리뷰 버전으로 제공될 예정이다.

파워포인트 코파일럿은 ‘내러티브 빌더(Narrative Builder)’이란 기능으로 문서에서 도출한 인사이트를 디자인, 발표 노트 및 애니메이션 등과 결합한 슬라이드로 제공한다. 내년 초부터 제공될 예정이다. 엑셀의 새로운 시작 경험(New Start Experience) 기능은 사용자 맞춤형 스프레드시트를 생성할 수 있도록 돕는다. 코파일럿은 제목, 수식 및 시각적 요소가 포함된 템플릿을 제안해 작업의 효율성을 높인다. 올해 연말부터 해당 앱을 통해 제공될 예정이다.

사티아 나델라 CEO는 “AI 에이전트를 생각하는 가장 좋은 방법은 당신의 팀 내의 팀원이라고 생각하는 것”이라며 “우리가 권한과 역할을 갖듯 에이전트도 매우 구체적인 권한을 가진 특정 역할로 범위를 지정할 수 있다”고 설명했다.

최종 사용자를 위한 코파일럿뿐 아니라 기업 관리자를 위한 기능도 나왔다. 기업의 관리자는 조직 내 마이크로소프트365 사용과 동향을 파악할 수 있게 됐다. 마이크로소프트365 관리센터(MAC)의 ‘마이크로소프트365 코파일럿’은 코파일럿을 포함하는 전체 구독 동향을 제공한다. 관리자가 할당한 영역에 걸쳐 주요 동향과 통찰력에 대한 개인화된 요약을 제공하고 모든 앱과 서비스에 대한 메시지 센터 게시물을 요약해준다. 팀즈 MAC의 코파일럿은 자연어 인터페이스로 특정 사용자를 위해 회의 보고서를 요약하고 통화 품질 또는 기타 문제를 해결하는 데 도움을 준다. MAC 코파일럿은 현재 비공개 미리보기 중이며 내년 초 정식 출시된다.

기업 리더를 위한 코파일럿 RoI 평가 도구도 제공된다. ‘코파일럿 애널리틱스(Copilot Analytics)’는 코파일럿 대시보드, 마이크로소프트365 관리센터 보고, 비바 인사이트 등의 기능을 가졌다. 코파일럿 대시보드에서 코파일럿 준비, 채택, 영향 및 학습 범주를 볼 수 있다. 마이크로소프트365 관리 센터 보고는 제안된 조치와 함께 채택 및 사용 동향을 보고서로 만들어준다. 비바 인사이트는 생산성과 비즈니스 결과에 걸친 포괄적인 측정 도구다. 영업, 재무, 마케팅 등의 비즈니스 KPI에 대한 코파일럿 사용을 분석할 수 있고, 다양한 사용자 정의 가능한 보고서 템플릿을 쓸 수 있다.

사티아 나델라는 “코파일럿과 모든 에이전트를 사용하기 시작한 후 모든 리더들이 근본적으로 궁금해하는 질문은 투자대비수익(ROI)를 어떻게 측정할 것인가라는 점”이라며 “코파일럿 애널리틱스는 예를 들어 영업 지역 관리자의 특정 코파일럿 사용 사례를 일정 기간 동안의 승률과 연계해 분석하게 해준다”고 말했다.

그는 “이는 단순히 코파일럿뿐 아니라, 사용자가 구축한 모든 에이전트에도 해당되며, 사용 사례를 관찰하고 비즈니스 KPI에 맞게 조정하는 작업이 가능해진다”며 “우리의 목표는 코파일럿 사용이 어떻게 궁극적으로 비즈니스 성과로 직접적으로 연결되는지를 보여주는 것”이라고 덧붙였다.

그는 “이는 영업, 마케팅, 재무 등 다양한 분야에 걸쳐 적용되며, 이는 근본적으로 변화 관리의 과정”이라며 “코파일럿 애널리틱스를 모든 사람의 업무, 워크플로우, 작업 산출물 처리 방식을 변화시키는 도구로 생각하는 것이 바로 궁극적으로 ROI를 얻는 방법”이라고 강조했다.

마이크로소프트는 AI 에이전트와 별개로 ‘자율 에이전트(Autonomous Agent)’란 것을 제공한다. AI 에이전트가 사용자 요청에 따라 작동하며 명확히 정의된 작업을 수행한다면, 자율 에이전트는 복잡한 프로세스를 독립적으로 실행하며, 더 큰 자율성과 지속적 학습 능력을 가졌다.

자율 에이전트는 최소한으로 사용자 개입이 이뤄지고, 다중 작업과 복잡한 프로세스를 실행할 수 있다. 특정 작업만 반복 수행하는 게 아니라 어떤 목표 달성을 위한 프로세스를 자동화하는 것이다.

마이크로소프트는 지난주 다이나믹스365에서 10개의 자율 에이전트를 선보였다. 공급망 최적화, 고객 서비스, 영업, 재무 등의 업무 프로세스를 대행해주는 에이전트다. 일례로 영업 자격 에이전트는 영업 사원이 가장 중요한 판매 기회에 집중할 수 있도록 잠재 고객 정보를 조사하고, 판매 기회를 우선순위에 따라 정리하며, 개인 맞춤형 이메일과 응답으로 고객 접촉을 지원한다. 마이크로소프트에 따르면, 맥킨지는 자율 에이전트를 구축해 클라이언트 온보딩 시간을 최대 90% 단축했다. DAO는 운송 프로세스 또는 화물 운송 프로세스를 최적화하는 에이전트를 구축해 첫해 수백만달러를 절감했다고 한다.

코파일럿의 앱 플랫폼화: 코파일럿 스튜디오

마이크로소프트365 코파일럿의 AI 에이전트는 기본적으로 개별 앱에서 사용자 스스로 간단히 만들 수 있다. 조금 더 복잡한 프로세스를 수행하는 ‘자율 에이전트’의 경우는 ‘코파일럿 스튜디오’를 활용해 쉽게 구축할 수 있다. 요약하면, 기업의 모든 AI 에이전트를 설계 및 구축하고, 운영하는 일종의 에이전트 플랫폼이다.

사티아 나델라는 “에이전트를 구축하는 데 많은 노력이 필요하고, 신비롭게 여기는데, 실제로는 매우 간단하다”며 “워드 문서나 파워포인트 슬라이드, 엑셀 스프레드시트를 만드는 것만큼 간단하게 에이전트를 생성할 수 있다”고 말했다.

직관적인 인터페이스를 통해 몇 번의 클릭만으로 에이전트를 생성하고, 마이크로소프트 365 데이터, 셰어포인트, 다이나믹스 CRM, 데이터 패브릭 원레이크 등과 통합해 데이터 기반으로 에이전트를 작동시킬 수 있다.

코파일럿 스튜디오 자율 에이전트를 사용하면, 사용자는 특정 이벤트 발생 시 복잡한 업무를 처리하는 자동 에이전트를 직접 구축할 수 있다. 이를 통해 사용자의 개입을 최소화하고 다양한 비즈니스 프로세스를 효율화할 수 있다. 에이전트 라이브러리를 활용하면, 다양한 시나리오에 대한 템플릿을 제공받아 손쉽게 에이전트를 설정할 수도 있다.

마이크로소프트는 마이크로소프트 365의 데이터를 기반으로 AI 에이전트를 설계 및 배포할 수 있는 도구로 ‘마이크로소프트 에이전트 SDK’를 제공한다. 코파일럿 스튜디오와 코드 기반 에이전트를 연결해 로우코드부터 프로 코드 솔루션까지 개발 솔루션을 지원한다.

코파일럿 스튜디오는 애저 AI 파운드리 통합으로 연결된다. 사용자는 코파일럿 스튜디오에서 만든 AI 에이전트를 애저 AI 카탈로그에서 사용 목적에 맞게 세부 조정할 수 있다. 애저 AI 검색을 통해 사용자 맞춤검색 데이터를 지식 소스로 추가할 수도 있다.

코파일럿 스튜디오의 에이전트는 사용자 업로드한 이미지를 분석해 정보를 제공한다. 음성 기반 에이전트를 앱이나 웹사이트에 적용해 개인 맞춤형 음성서비스를 고객에게 제공한다. 이를 통해 고객과의 소통을 강화하고, 요청을 더 빠르게 처리할 수 있다. 고급 지식 조정(Advanced Knowledge Tuning)을 사용해 에이전트의 지식을 세부적으로 조정하고 새로운데이터 소스를 추가해 보다 정확하고 수준 높은 응답을 지원한다.

모든 AI 에이전트를 한 곳에서 관리할 수 있는 중앙 집중형 대시보드를 제공한다. AI 에이전트의 작업 실행, 일정 관리, 자동화된 작업 활성화 및 비활성화 가능을 이용할 수 있다. 에이전트의 역할 및 권한을 세부적으로 조정해 조직 내 특정 작업에만 접근 가능하도록 설정할 수 있다.

코파일럿 스튜디오는 파트너 생태계로 확장 가능하다. SAP, 어도비, 링크드인 등이 각자의 에이전트를 개발해 마이크로소프트365와 통합시켰다. 예로 SAP 쥴 에이전트로 견적을 생성하고, 가격 정책을 최적화할 수 있다.

전사적 생성형 AI 채택의 경로: 애저 AI 파운드리

코파일럿, 코파일럿 스튜디오 등보다 더 깊이있게 생성형 AI를 구축하고자 하면, ‘애저 AI 파운드리’를 사용할 수 있다.

애저 AI 파운드리는 AI 애플리케이션 개발 및 관리를 위한 포괄적 플랫폼으로 설명된다. 기존 애저 AI 모델, 툴링 및 안전 및 모니터링 솔루션을 새로운 기능과 결합해 조직이 AI 솔루션을 설계, 맞춤화 및 관리할 수 있도록 지원한다. 깃허브, 비주얼스튜디오, 코파일럿 스튜디오 등의 개발자 도구와 통합돼 있다.

우선, 모델 실험 도구를 활용해 다양한 AI 모델을 테스트, 비교, 최적화할 수 있다. 오픈AI, 메타, 미스트랄 등의 상용 및 오픈 모델을 포함해 1800개의 모델을 활용할 수 있다., 실험 각 모델의 결과를 비교해 비즈니스 목표에 가장 적합한 모델을 선택할 수 있다.

애저 AI 파운드리는 맞춤형 AI 에이전트를 설계, 배포, 확장할 수 있는 기능을 제공한다. 에이전트를 기업의 데이터에 통합시켜 작업을 자동화하게 할 수 있다.

특히, 멀티 에이전트 프레임워크(Magnetic-One, Autogen, Semantic, Kernel)를 지원해 다양한 작업을 수행하도록 설계된 에이전트를 개발할 수 있다.

접근은 SDK와 포털로 가능하다. 현재 미리보기 중인 애저 AI 파운드리 SDK, 애저 AI 파운드리 포털(이전의 애저 AI 스튜디오)은 개발자 도구와, AI 모델, 서비스 및 도구를 발견하고 평가할 수 있는 환경을 제공한다.

애저 AI 에이전트 서비스는 전문 개발자가 비즈니스 프로세스를 자동화하기 위해 엔터프라이즈 레디 에이전트를 조정, 배포 및 확장할 수 있도록 한다. ‘브링유어오운스토리지(BYOS) 및 개인 네트워킹과 같은 기능을 통해 조직이 민감한 데이터를 보호하는 데 도움 되도록 데이터 개인 정보 보호 및 규정 준수를 보장한다.

사티아 나델라는 “마이크로소프트 365 코파일럿, 코파일럿 스튜디오, 에이전트 및 자율 에이전트는 AI를 기반으로 한 비즈니스 혁신을 위한 엔드투엔드 시스템”이라고 강조했다.

마이크로소프트는 생성형 AI를 도입하려는 기업에게 가장 채택하기 쉬운 코파일럿부터 시작해 점차 코파일럿 스튜디오, 애저 AI 파운드리 등으로 확장하도록 경로를 안내하고 있다. 코파일럿으로 당장의 업무 생산성 향상을 경험하고, 더 발전적인, AI 에이전트를 만들어 기업과 개인 사용자 각각의 특성에 맞는 AI 활용을 도모하게 한다. 그리고 전사적인 AI 에이전트 활용으로 확장하도록 애저 AI 파운드리를 제공한다.

마이크로소프트의 생성형 AI 포트폴리오는 전방위적으로 기업 구성원을 공략한다. 업무에 AI를 사용하고 싶어하는 직원, AI로 생산성과 효율성을 높이고 싶어하는 관리자, 더 많은 일을 성취하고 싶어 하는 경영자, 기업 구성원의 AI 요구를 충족시켜야 하는 IT담당자와 개발자에 이르기까지 공략지점 모두에게 솔루션을 제안하고 있다. 그리고, 그 코파일럿을 가장 잘 돌릴 수 있다는 ‘코파일럿+ PC’를 기업과 개인소비자에게 판매한다.

글. 바이라인네트워크
<김우용 기자>yong2@byline.network