그래프코어의 IPU, 얼마나 발전했나

영국 AI반도체기업 그래프코어가 자사 인공지능 칩 IPU(Intelligence Processing Unit) 시스템이 최신 MLPerf 1.1 벤치마크 테스트에서 높은 성능을 나타냈다고 밝혔다.

MLPerf AI 벤치마크 테스트를 진행하기 위해서는 엄격한 조건을 만족해야 한다. 그만큼 이 테스트 심사를 거치는 것만으로도 AI 반도체 기업에게는 큰 의미가 있다. 그래프코어에 따르면, 자사 범용 AI프로세서 IPU-POD 16은 엔비디아 DGX A100 성능을 능가했다. 이미지 처리 테스트 ‘레스넷(ResNet) 50’ 훈련 시 엔비디아 DGX A100은 29.1분이 걸린 반면, 그래프코어 IPU POD 16은 28.3분을 기록했다.

또한 그래프코어는 최근 클라우드 하이퍼스케일이나 엔터프라이즈용 AI에 최적화된 ▲IPU-POD 128 ▲IPU-POD 256를 출시했는데, 이에 대한 벤치마크 결과도 공개했다. 그래프코어에 따르면, 해당 칩으로 레스넷 50 모델 훈련을 동일하게 진행한 결과, 각각 5.67분, 3.79분만에 모든 학습을 마쳤다.

자연어 처리 모델 BERT도 진행했다. 페브리스 모이잔(Fabrice Moizan) 그래프코어 글로벌 세일즈 부사장은 “BERT 모델 훈련을 진행한 결과, 전년 벤치마크 성능 대비 IPU-POD 16은 5%, IPU-POD 64는 12%가 각각 향상했다”고 말했다.

칩 개발과 더불어 그래프코어는 지속해서 포플러(Poplar)라는 이름의 소프트웨어 스택도 제공한다. 그래프코어는 포플러를 통해 개발자가 IPU를 더욱 수월하게 사용할 수 있도록 지원한다. 포플러는 2020년 12월부터 올해 상반기까지 총 3번의 업데이트를 거쳤는데, MLPerf 테스트에서도 성능이 향상된 것으로 나타났다.

그래프코어는 지속해서 한국 시장에서도 사업을 확장할 예정이다. 그래프코어는 현재 KT, NHN 등 국내 업체에도 AI 시스템을 제공하고 있다. 패브리스 모이잔 부사장은 “한국은 많은 고객이 활발하게 활동하는 시장”이라며 “오랜 역사를 토대로 파트너사와 지속해서 네트워크를 형성할 것”이라고 말했다.

더불어 그래프코어는 GNN(Graph Neural Network) 모델을 구현하기 위한 아키텍처도 제공한다. GNN은 그래프 구조와 연결성 등을 사용한 인공 신경망을 말한다. 일반 인공 신경망이 벡터나 행렬 형태로 데이터를 처리하는 것과 달리, GNN 모델은 그래프 구조를 가지고 데이터를 처리하고 학습한다. 이는 사회 네트워크나 단백질 분자 분석 등에도 적용할 수 있다.

부사장은 “그래프코어는 IPU를 통해 GNN 모델을 구현하고, 이를 적용한 사례를 만들어 낼 것을 기대한다”고 말했다.

글. 바이라인네트워크
<배유미 기자>youme@byline.network