NHN이 영국 반도체 회사 그래프코어와 손잡은 이유

“어려운 기술을 손쉽게 사용하도록 만드는 것은 NHN의 장기다. NHN은 AI 기술 또한 손쉽게 활용할 수 있도록 기술을 개발해 나갈 것이며, 이 과정에서 그래프코어와 함께 더욱 강력한 AI 개발 생태계를 만들어 나가겠다.”

김명신 NHN 클라우드부문 CTO는 NHN-그래프코어 협약식에서 이 같이 말했다. NHN은 게임, 금융결제, 엔터테인먼트 등 사람들의 실생활과 밀접한 요소를 IT 기반으로 개발하고 있다. 더불어 이 IT 서비스의 기반이 되는 클라우드 서비스도 제공하고 있다. NHN은 소비자들의 요구사항이 발전하면서 이에 맞춰 기술을 지속적으로 개발하고, 수요에 대응하며 새로운 기회를 창출하고 있다.

이번에 NHN은 특별히 클라우드 사업부문에서 그래프코어와 협업한다.  AI의 수요가 증가하면서 NHN은 AI 및 클라우드 인프라를 손쉽게 확장할 수 있는 방법을 찾고 있었는데, 그 방안으로 그래프코어의 IPU를 활용하기로 한 것이다. 따라서 양사는 AI 인프라 확장을 위한 MOU를 체결했다.

김명신 CTO는 최근 들어 AI 기술이 다양한 분야에서 폭넓게 사용되기 시작한 데에는 이유가 있다고 했다. 그의 설명에 따르면, 딥러닝 기술을 개발하기 위해서는 대용량의 데이터와 이 대용량의 데이터를 처리할 수 있는 컴퓨팅 파워가 필요하다. 과거에는 데이터도 많지 않았고, 빅데이터를 처리할 수 있는 컴퓨팅 리소스를 찾는 것도 어려웠기 때문에 딥러닝 기술도 크게 발전하지 않았다.

하지만 코로나19의 확산과 더불어 비대면 서비스가 증가하면서 데이터가 폭발적으로 증가했다. 더불어 이 데이터를 저장하고 활용할 수 있는 기술들도 속속 개발되기 시작했다. 이 데이터 저장 관련 기술로 클라우드 기술이 발전하기 시작했고, 클라우드와 이를 기반으로 하는 AI 기술도 발전되기 시작했다. 김 CTO는 “클라우드는 AI 기술을 현실화하는 기폭제 역할을 했다”고 전했다.

이 기반에는 그래프코어의 IPU가 있었다. 나이젤 툰(Nigel Toon) 그래프코어 CEO는 “CPU와 GPU가 AI 발전에 공헌하고 있는 것은 사실이지만, 사실 이 두 프로세서는 AI 기술만 놓고 봤을 때에는 한계가 있다”고 말했다. 두 프로세서는 AI의 범용성을 넓히는 방향보다는 프로세서 자체의 성능에 초점을 맞춰 발전하는 경향이 있다. 이에 반해, 그래프코어의 IPU는 처음부터 AI 전용 프로세서를 목적으로 개발됐기 때문에, AI의 범용성을 넓히는 데에는 IPU가 더 효과적이라는 것이 나이젤 툰 CEO의 설명이다.

그래프코어는 AI에 특화된 프로세서 IPU를 개발한 영국 반도체 기업이다. IPU는 지능처리장치(Intelligence Processing Unit)의 약자로, 지속해서 발전하고 있는 AI 알고리즘을 효과적으로 구현하는 것을 목적으로 한다. 2016년에 설립된 그래프코어는 지금까지 7억1000만달러(한화 약 8292억8000만원) 가량 투자를 받았는데, 그만큼 AI 반도체 라이징 스타로 주목 받고 있다.

기존에 AI 알고리즘 구현을 위해 주로 사용되던 프로세서는 GPU였다. 과거의 성능 정도를 구현하기 위해서는 GPU만으로도 충분했다. 하지만 AI의 성능이 높아지면서 프로세서의 발전 또한 필요한 실정이었다. 메모리 용량도 늘려야 하고, 전력 효율성도 높여야 했으며, 데이터 처리 속도도 늘려야 했다. 이 조건을 그래프코어의 IPU가 충족할 수 있다는 것이다.

크리스 턴슬리(Chris Tunsley) 그래프코어 제품 마케팅 디렉터는 IPU가 AI에 특화될 수 있었던 요소로 ▲병렬화 수준 증대 ▲메모리 접근성 확보를 꼽았다. 우선 CPU는 직렬 처리 방식을 하는 프로세서로, 한 번에 여러 데이터를 처리할 수 없다. GPU는 병렬 처리 방식을 하는 프로세서로 한 번에 여러 데이터를 처리할 수 있다는 특징을 가지고 있다. 여기에 IPU는 언제든지 각 프로세서가 각기 다른 데이터를 처리할 수 있는 병렬 처리 방식인 MIMD(Multiple Instruction, Multiple Data, 병렬 다중명령 다중 데이터) 아키텍처를 가지고 있다. 따라서 여러 복합적인 AI 연산을 한 번에 처리할 수 있으며, GPU보다 더욱 고도화된 AI 알고리즘을 구현하는 데 유리하다.

메모리 접근성 또한 IPU가 높다. CPU는 메모리 칩과 분리가 되어 있었기 때문에 대역폭이 제한적이었다. GPU는 고대역폭 메모리 HBM2를 탑재해 함께 사용하면서 메모리 대역폭을 5배 향상시킬 수 있었다. 하지만 하나의 메모리에서 모든 데이터를 처리한다는 점에서 비효율성은 발생할 수밖에 없었다. IPU는 하나의 프로세서 당 약 1GB의 S램을 탑재해 데이터를 효율적으로 저장하고 처리할 수 있다는 장점을 가지고 있다. 이를 통해 초고속 메모리 대역폭을 사용할 수 있으며, 대용량의 데이터를 빠르게 처리할 수 있다.

김명신 CTO는 NHN 클라우드에 IPU를 사용해 AI를 구현했을 시, 비용 당 계산능력을 경쟁사와 비교했다. 그의 설명에 따르면, IPU를 사용하면 경쟁사 대비 8배 빠른 연산이 가능하며, 7배 이상의 큰 메모리를 지원할 수 있다. 뿐만 아니라 2배 이상의 컴퓨팅 능력을 제공할 수 있다.

김명신 CTO는 “NHN이 당면한 문제를 하나씩 해결하기 위해 여러 방법을 찾던 중 그래프코어라는 업체를 찾게 됐다”며 “그래프코어는 NHN이 클라우드 시장에서 직면하고 있는 AI 분야의 한계를 뛰어넘을 수 있는 기술력을 가진 회사라고 보고 있다”고 전했다.

한편, NHN은 이번 그래프코어와의 협업을 통해 소비자들에게 최상의 HPC 서비스를 제공하고, AI 인프라 구축을 위한 하드웨어·소프트웨어 구성을 검토할 방침이다. 더불어 한국에서 AI 생태계 확장을 위해 추후 기술을 지속해서 개발해 나갈 예정이다.

글. 바이라인네트워크
<배유미 기자> youme@byline.network