노타, ‘모두의 AI’ SKT 컨소시엄 참여

AI 모델 경량화·최적화 기술 기업 노타(대표 채명수)는 정부의 독자 AI 파운데이션 모델(독파모) 프로젝트에 이어 모두의 인공지능(AI) 사업에 참여해 SK텔레콤(SKT)이 주관하는 컨소시엄에서 AI 모델 경량화와 최적화를 맡는다고 1일 밝혔다.

모두의 AI는 과학기술정보통신부와 정보통신산업진흥원이 추진하는 사업으로, 국민 누구나 일상에서 AI를 쉽고 안전하게 활용할 수 있도록 서비스를 구축하는 것을 목표로 한다. 이 사업에서 노타는 SKT 컨소시엄의 AI 모델 인프라 분야에 참여한다.

독파모가 국가 AI 파운데이션 모델 개발에 초점을 맞춘다면 모두의 AI는 AI 역량을 국민이 실제 사용하는 서비스로 구현하는 데 목적이 있다. 노타는 두 사업을 통해 모델 개발 단계에서 연산량과 메모리 사용량을 줄이고, 실제 서비스 환경에서는 대규모 이용자를 처리할 수 있도록 운영 효율을 높이는 작업을 지원한다.

SKT 컨소시엄은 이용자의 상황과 필요를 이해해 공공·생활 정보를 맞춤형으로 안내하고 필요한 후속 행동까지 연결하는 AI 서비스를 구현할 예정이다. 공공 서비스 탐색·신청과 증명서 발급을 비롯해 의료·교통·금융·교육 등 생활 영역의 예약·신청·결제까지 지원하는 실행형 AI로 확대하는 방안도 추진한다.

이처럼 이용자가 직접 사용하는 서비스로 AI 활용 범위가 넓어지면서 많은 이용자의 다양한 요청을 동시에 처리할 수 있는 운영 환경도 요구된다. 단순한 정보 검색부터 여러 단계의 판단과 도구 활용이 필요한 복잡한 업무까지 요청 형태가 다양하기 때문이다. 하나의 고성능 모델만으로 모든 작업을 처리하면 인프라 부담과 운영 비효율이 커질 수 있다는 것이 노타의 설명이다.

실제 국민 대상 AI 서비스에서는 여러 AI 모델과 AI 에이전트가 동시에 작동할 수 있어 제한된 연산 자원을 효율적으로 활용하는 기술이 필요하다. 모델 성능뿐 아니라 응답 속도와 안정성, 메모리 사용량과 연산 효율까지 함께 고려해야 서비스 품질을 높일 수 있다고 노타는 설명했다.

노타는 이 과정에서 자체 AI 모델 경량화·최적화 플랫폼 ‘넷츠프레소’를 기반으로 모델 성능을 유지하면서 연산량과 메모리 사용량을 줄이고, 실제 서비스 환경에서 빠르고 안정적으로 작동할 수 있도록 최적화하는 동시에 운영 효율도 높일 계획이다.

넷츠프레소는 AI 모델 특성과 목표 하드웨어 환경을 함께 분석한다. 데이터센터와 기업 서버, 엣지 디바이스 등 다양한 인프라에서 AI 모델을 효율적으로 구동할 수 있도록 지원한다.

결국 모델 개발 단계에서는 연산량과 메모리 사용량을 줄이고, 실제 서비스 단계에서는 대규모 이용자를 처리할 수 있도록 운영 효율을 높이는 것이 노타의 역할이다.

채명수 노타 대표는 “국가 AI 경쟁력은 우수한 모델 개발을 넘어 국민이 실제 사용하는 서비스를 구현하고, 이를 대규모 환경에서도 빠르고 안정적으로 운영하는 역량에서 완성된다”며 “‘모두의 AI’ 프로젝트에서도 모델 개발부터 실제 서비스 운영까지 최적화 역량을 폭넓게 적용해 대한민국이 독자적인 AI 기술과 활용 기반을 갖추는 ‘소버린 K-AI’ 실현에 기여하겠다”고 말했다.

글. 바이라인네트워크
<김원민 기자>wmkim627@byline.network