NPU 기업들이 컴파일러 인재 찾기에 혈안이다. 퓨리오사, 리벨리온 등 국내 주요 NPU 기업 모두 컴파일러 인재 채용에 발벗고 나섰다. 아직 초기 단계인 AI반도체 시장이 활성화될 수 있는 핵심 열쇠가 컴파일러가 될 것이라는 판단에서다.

NPU(Neural Processing Unit)는 사람의 뇌 신경망과 같은 구조로 데이터를 처리하는 반도체로, 인공지능 처리에 특화된 것이 특징이다.

 

NPU는 기존에 사용되던 범용 반도체에 비해 구조가 다소 복잡하다. 범용 반도체는 입력된 데이터를 순차적으로 처리하는 ‘폰 노이만(Von Neumann)’ 아키텍처를 기반으로 한다. 하지만 NPU는 사람의 신경망과 같은 구조를 가지고 있어, 더욱 복잡하다.

개발자들은 프로그램을 개발할 때 C, C++, 파이썬과 같은 개발언어를 사용한다. 하지만 이 언어로 개발된 프로그램은 NPU 상에서 바로 구동할 수 없다. NPU 상에서 바로 구동할 수 있는 프로그램을 개발하기 위해서는 NPU용 API(Application Programming Interface, 프로그램과 프로그램 사이를 연결하는 인터페이스)를 알아야 한다. 하지만 이런 API를 활용할 수 있는 개발자의 수는 적다.

이 때 컴파일러의 역할이 중요해진다. 컴파일러란 특정 프로그래밍 언어를 다른 언어로 번역하는 프로그램을 말한다. 쉽게 말해 프로그래밍 통역사다. 컴파일러를 사용하면 개발자가 일반 개발언어 사용해 프로그램을 개발해도 이 프로그램을 NPU 상에서 쉽게 구동할 수 있다.

이미 AI 반도체 시장에서 컴파일러 기술을 통해 생태계를 확장한 기업이 있다. 바로 엔비디아다. 엔비디아는 GPU 컴퓨팅 컴파일러 역할을 수행하는 쿠다(CUDA, Computed Unified Device Architecture)를 통해 GPU를 확산시킬 수 있었다.

엔비디아의 GPU가 AI반도체 시장에서 독주할 수 있었던 이유는 GPU의 병렬 처리 구조 때문도 있지만, 컴파일러를 비롯한 소프트웨어 기술을 탄탄히 쌓았기 때문이라는 평가를 받는다. 엔비디아는 고객사가 인공지능 서비스를 더 수월하게 구현할 수 있도록 소프트웨어 툴킷을 제공하고 있다. 특히 자연어 처리, 화상통화, 의료, 오토모티브 등 수요가 높은 부문에서는 소프트웨어와 애플리케이션까지 오픈소스로 사용할 수 있도록 솔루션을 제공하고 있다.

NPU 시장이 아직도 초기 단계에 남은 이유는 컴파일러 인재가 매우 귀하기 때문이다. NPU 기업이 컴파일러 인재를 확보하게 된다면, AI 시장에서 NPU가 GPU의 인기를 넘어설 수도 있다. 국내 NPU 기업 관계자는 “엔비디아는 성능을 높이기 위해 코어 수를 늘리는 방법을 취하고 있는데, 그 과정에서 전력 소모가 늘어난다는 단점이 있어 고객사에서 대안을 찾고 있다”며 “NPU는 AI 데이터 처리에 최적화된 반도체로, 컴파일러 인재만 넉넉하게 확보한다면 언젠가 AI반도체 시장 대부분을 GPU가 아닌 NPU가 차지하게 될 것”이라고 말했다.


NPU 시장이 활성화되면 국내 NPU 스타트업이 수혜를 입을 것으로 보인다. 엔비디아가 현재 AI반도체 시장을 점령하고 있지만, 이는 모두 GPU를 기반으로 한 서비스다.

NPU 업계 관계자는 “컴파일러 기술은 소프트웨어 기술 중에서도 복잡한 기술에 속하는데, 미국을 비롯한 해외에서도 찾기 어려운 인재”라며 “10억원씩 주고 컴파일러 인재 영입에 나선 기업도 있으나, 없는 인력마저도 주요 기업에 몰려 있어 인재를 확보하기 어려운 상황”이라고 덧붙였다.

글. 바이라인네트워크
<배유미 기자> youme@byline.network


[온라인 컨퍼런스] 2022 이커머스 비즈니스 인사이트 가을

‘2022 이커머스 비즈니스 인사이트 가을’에서는 업계의 현재 상황과 최신 트렌드, 앞으로의 변화 방향에 대해 공유하고, 참가자들이 앞으로의 전략을 세울 수 있는 인사이트를 제공하고자 합니다.

일시 : 9월 28일~29일 오후 14시 ~ 17시
장소 : 온라인
문의 : byline@byline.network
자세히 보기