NPU가 필요한 이유, Arm 신제품 4종 공개

반도체 설계 기업인 Arm이 신제품 4종을 발표했다. 이 신제품들을 직접 소비자가 구매하지는 않겠지만 사용자들의 스마트폰 속 칩의 다른 이름으로 둔갑해 팔리게 될 제품이다.

신제품은 NPU 2종과 GPU 2종이다.

우선 NPU는 Ethos-N57와 Ethos-N37 NPU 2종이 공개됐다. NPU는 머신러닝과 관련된 데이터가 발생했을 때 이 데이터를 센싱하는 역할을 하는 칩셋이다. SoC 내부에 CPU, GPU와 함께 탑재된다. 얼마 전 발표한 Arm ML 프로세서 Ethos-N77보다 가성비를 잡은 제품이다. 두 제품의 특성은 다른데, Ethos-N57은 초당 2테라옵스 성능 범위에 최적화돼 있으며, 머신러닝 성능과 전력 효율 사으이 균형을 강조한 제품이다. 용도는 주로 메인스트림 스마트폰(고급형 폰) 탑재용이다. Ethos-N37은 크기가 1㎟인 초소형 제품으로, 초당 1테라옵스 성능 범위에 맞춰져 있다. 크기가 작으므로 스마트폰이 아닌 다른 각종 엔드포인트에 탑재될 것으로 기대한다.

GPU의 경우 Mali 라인업의 설계를 변경해 등장했다. 새 설계의 이름은 발할(Valhall) 아키텍처다. 제품은 Mali-G57과 D37로, Mali-G57은 콘솔 수준의 그래픽을 제공하는 제품이다. 전작 중 Mali-G52 대비 30% 향상된 성능과 배터리 효율을 보장한다. Mali-D37은 초소형 제품이다. 1㎟ 미만의 공간만을 차지해 풀HD와 2K 해상도 재생을 보장한다.

발할 설계와 그 전 설계인 바이프로스트의 차이는 엑스큐션 엔진 작동 영역에서 발생한다. 바이프로스트는 4개 혹은 8개의 레인이 엔진을 불러왔지만, 발할 아키텍쳐는 16개 레인을 2개 세트로 확보할 수 있다. 레인이 32개로 확장된 셈이다. 차지하는 면적은 거의 동일하지만 바이프로스트는 두개의 텍스쳐, 발할은 4개를 한꺼번에 표시할 수 있다.

NPU가 필요한 이유

온디바이스 AI가 필요한 이유는 IoT나 각종 엔드포인트들이 늘어나고 있기 때문이다. 예를 들어 보안 카메라에서 데이터를 바로 클라우드로 보낸다면 온디바이스 AI가 무용할 수도 있다. 그러나 IoT 제품에는 다양한 센서들이 탑재돼 있고, 이 센서들이 만들어내는 데이터 중 필요한 데이터를 센싱해내야 폭발적인 데이터 중 필요한 것만을 뽑아낼 수 있다. 이것이 온디바이스 AI의 역할이며, 이 데이터를 일반적인 사례 데이터와 비교할 때 서버나 클라우드를 사용하면 된다.

필요한 소프트웨어 동시 제공

Arm은 머신러닝 업계에서 오픈 소스 표준을 보유하고 있다. 이름은 Arm NN으로, 오픈 소스로 제공해서 채택률이 높다. 텐서플로, 파이토치 등의 프레임워크를 모두 지원해 하드웨어와 프레임워크의 간격을 메우는 소프트웨어다. 유니티와 협력해 Arm 기반 프로세서에서 유니티를 더 잘 구동할 수 있는 기술을 유니티에 사전 통합한다.