알리바바 생성AI, ‘라마2’보다 빨라…광고 렌더링까지 뚝딱
유통 5.0 선결과제 ‘리테일테크 – AI’ 심층 진단
‘리테일&로지스 테크 컨퍼런스 2024’ 개막
알리바바클라우드 테크 리드 기조 강연 맡아
라마2 퍼포먼스 제친 생성AI ‘통이 시리즈’ 자신감
격리 클러스터, 프라이빗 네트워크 배포 등 현업 요구 지원
수많은 사전정의 모델 갖춰 쉬운 광고 생성도 가능
“작년 말 통이(Tongyi)라는 LLM(초거대언어모델)을 발표했습니다. 챗GPT나 라마(LLaMa) 같은 모델로 알리바바 그룹이 개발했는데요. 허깅페이스(전 세계 오픈소스 AI가 모이는 플랫폼) 애기를 할 수밖에 없네요. 허깅페이스 안에서 리더보드를 만들어 샘플 데이터셋을 통해 얼마나 빠른 퍼포먼스가 나오는지 수시로 평가하고 있는데요. (메타가 개발한) 라마2보다 훨씬 빠른 퍼포먼스로 리더보드 1등이 돼 있습니다. 속도 최적화를 지속하고 퍼포먼스를 점점 업그레이드하고 있습니다.”
임종진 알리바바클라우드 테크 리드는 7일 강남구 과학기술컨벤션센터에서 열린 ‘리테일&로지스 테크 컨퍼런스 2024’ 기조 연사로 나서 알리바바클라우드 생성AI 혁신 기술에 자신감을 보였다.
이날 행사는 200여명의 리테일과 AI 기업 관계자들이 모인 가운데 상담 부스에서 기술 교류가 이어졌다. 오전에 ▲알리바바클라우드에 이어 ▲유아이패스 ▲디지널이니셔티브 그룹 ▲효성인포메이션시스템 강연이 진행됐다.
오후 강연에 ▲클라우드플레어 ▲워카토 ▲파인더스AI ▲신세계인터내셔날 ▲11번가 ▲티맵모빌리티 ▲리비전컨설팅 ▲우아한형제들 등이 나서 생성AI 전략부터 보안, 물류, 로봇 등 현업에서 확보한 노하우를 공유한다.
<참고기사: 유통 5.0 선결과제 ‘리테일테크’…한중미 전략 한 자리서 본다>
작년 말 알리바바클라우드는 10가지 주요 AI 응용 모델 및 툴(통이 시리즈)을 발표한 바 있다. ▲통이싱천(인간형 캐릭터 생성) ▲통이존위트(문서 읽기 모델) ▲통이샤오미(고객서비스 버티컬 모델), ▲통이링마(프로그래밍 모델) ▲통이린신(헬스케어 모델) ▲통이파루이(법률 모델) ▲통이디엔진(금융 모델) ▲가상캐릭터 생성 도구 ▲스케치 투 스타일리스트 사진 도구 ▲디지털 아바타 제작 도구 등이다.
통이 시리즈는 알리바바 그룹의 초거대 커머스 등으로 확보한 행태 빅데이터를 기반으로 여타 LLM 대비 빠른 속도로 퍼포먼스를 끌어올려 눈길을 끌고 있다. 티몰과 타오바오, 알리익스프레스 등 홈페이지 상단에 보면 이미지 검색 활용이 가능하다. 이를 통해 하루 처리하는 이미지 검색량만 30억건 이상이다.
<참고기사: 리테일테크도 ‘생성AI’로…전지구적 커머스 알리바바 진단은?>
임 리드는 “데이터 사이언티스트 연봉이 너무 비싸다. 회사에서 고용하고 활용하기가 너무 어려운 환경”이라며 “이 데이터 엔지니어링 활용을 알리바바는 파이(PAI)라는 서비스로 제공 중”이라고 알렸다.
기업에서 오픈소스를 활용할 때 각 언어에 맞는 라이브러리를 찾기가 쉽지 않다. 알리바바클라우드는 이 같은 요구에 대응해 직접 검증한 라이브러리를 제공한다. 초당 20테라바이트 속도에 레이턴시 영역에서 1.5마이크로세컨즈 이하를 충족하는 클라우드 서비스를 제안했다. 기업이 최신 AI 모델을 반영한 GPU 전용 클러스터 존을 활용해 딥러닝을 진행하거나 AI 모델을 만들 때 활용할 수 있도록 지원한다.
임 리드는 “알리바바클라우드가 직접 개발한 AI 가속화 알고리즘으로 허깅페이스에서 제공하는 하나의 라이브러리를 학습시킨 결과, 기존 대비 3배 이상의 가속화 효과를 누릴 수 있었다”며 “특히 추론 영역에서 굉장히 빠른 효과를 받을 수 있다”고 강조했다.
이어서 “딥러닝 수행할 때 큰 문제점이 네트워크나 데이터 단절이 일어날 때, 그 학습된 시간을 처음부터 다시 수행해야 하는 경우가 가끔 있다”며 “이 때 엄청나게 큰 리소스 소모가 일어나는데, 저희는 체크 포인트 알고리즘을 넣어 데이터 학습이 실패하더라도 그 직전 체크 포인트부터 진행할 수 있도록 페일오버 알고리즘을 적용했다”고 부연했다.
이 밖에도 임 리드는 허깅페이스에서 AI 모델 검색이 불편하다는 현업 요구를 반영한 모델별 카테고리화를 적용한 검색 편의성 강화와 함께 실제 엔터프라이즈 환경에 적용할 수 있도록 격리된 클러스터 제공, 프라이빗 네트워크 안에서 배포 가능 등의 강점을 짚었다.
특히 생성AI는 광고 영역에서 혁신을 이뤘다. 알리바바클라우드는 ‘텍스트 투 비디오’, ‘이미지 투 비디오’ 등 최신 생성AI 기능까지 제공한다.
임 리드는 광고 샘플을 시연하며, 오리지널 상품 이미지에 샘플 이미지를 결합시켜 바로 광고 배너를 만드는 것을 보였다. 수많은 사전정의 모델을 제공해 쉬운 광고 생성을 돕는다.
그는 “GPU 클러스터 리소스를 많이 활용하는 렌더링 영역에서도 제공한다”며 “하나의 사진을 입력했을 때, 거의 10초 내 렌더링을 입혀주는 AI 모델도 제공 중이다. 고민하고 있는 AI 모델이 있다면 아마도 찾아드릴 수 있을 것”이라고 재차 자신감을 보였다.
글. 바이라인네트워크
<이대호 기자>ldhdd@byline.network
