약 4년 전 구글 딥마인드의 알파고가 바둑에서 이세돌9단을 이겼을 때 세상은 충격에 빠졌다. IT업계에서도, 바둑계에서도, 대부분 이세돌 9단의 압도적 승리를 예상하고 있었기 때문이다. 사실상 무한대의 경우의 수를 가지고 있다는 바둑에서 경우의 수를 계산하는 컴퓨터는 직관을 가진 인간을 이길 수 없을 것으로 믿고 있었다. 알파고의 승리 이후 AI는 4차 산업혁명을 위한 가장 중요한 기술로 떠올랐다.

당시 알파고의 특징으로 GPU(Graphics Processing Unit)를 통해 머신러닝을 했다는 점이 꼽혔다. GPU? 게임용 PC에 들어가는 GPU? 그렇다, 그 GPU다. GPU는 CPU와 달리 병렬계산을 한다. 동시에 여러 일을 할 수 있기 때문에 학습속도가 빠르다.

GPU는 더 화려하고 유려한 그래픽을 보여주기 위해 개발된 칩이지만 AI 분야에서 더 각광을 받고 있다. GPU는 딥러닝과 함께 AI의 성능을 획기적으로 발전시켰다.


AI 반도체의 등장


AI는 주로 수많은 데이터를 학습한 후, 주어진 정보 안에서 특정 행동을 하거나 결과를 도출한다. 그만큼 많은 정보를 빠른 시간 안에 학습해야 한다. 하지만 우리가 흔히 사용하는 CPU로는 이 수많은 데이터를 단시간에 처리하고, 학습하고 적용하는 데 어려움이 있다. CPU의 트랜지스터가 아무리 늘어난다고 해도, 주어진 데이터를 단일로 처리하는, ‘직렬 처리 방식’의 CPU는 여전히 구조상의 한계를 가지고 있다.


이 문제를 해결하기 위해서는 학습 데이터를 단시간에 받아들이고 처리하고 적용할 수 있는 특별한 프로세서가 필요하다. 이 특별한 프로세서가 바로 AI 반도체다.  AI 반도체는 인공지능에 탑재되는 프로세서로, 학습, 추론 등 인공지능 서비스 구현에 필요한 대규모 연산을 높은 성능, 높은 전력효율로 실행할 수 있다. 인공지능의 핵심 두뇌와 같은 역할을 하는 것이다.

처음에는 GPU가 이 역할을 주로 했다. 하지만 GPU는 AI만을 위해서 개발된 것은아니다. 이 때문에 시간이 가면서 GPU의 병렬처리 특성을 활용하되 AI만을 위한 전용 반도체가 등장하고 있다. 예를 들어 초기 버전의 알파고는 GPU를 활용했지만, 이후에는 구글이 직접 개발한 TPU(Tensor Processing Unit)라는 AI 전용칩을 통해 학습했다.

하지만 아직 AI 시장을 절대적으로 휘어잡을 수 있는 반도체는 아직 없다. 현재 시장에 존재하는 AI 반도체의 종류는 다양하다. 한국전자통신연구원(ETRI)의 자료에서는 AI 반도체를 ▲기존 반도체 진화형 ▲1세대 AI 반도체 ▲2세대 AI 반도체로 분류하고 있다.



기본에 AI 특성을 더한 진화형


‘기존 반도체 진화형’은 이전부터 사용되던 CPU, GPU, FPGA(field programmable gate array) 등을 AI 데이터 처리에 특화되도록 개발한 반도체를 말한다. 먼저, CPU는 중앙처리장치로, 데이터 처리 프로세서의 기본과도 같다. 이는 마찬가지로 AI 데이터 처리에도 사용될 수 있다. AI 반도체로 사용되기 위해 처리 속도를 높이는 방향으로 개발되고 있다. 하지만 CPU는 들어오는 데이터를 순차적으로 직렬 처리하기 때문에, 한계가 존재할 수밖에 없다.

이 한계를 극복하기 위해 GPU와 FPGA와 같은 대안이 등장했다. 먼저 GPU는 앞서 설명했듯 데이터를 병렬 처리한다는 특징을 가지고 있다. 원래 GPU는 그래픽 처리를 위해 개발됐으나, 다량의 데이터를 한 번에 처리할 수 있어 주요 AI 반도체 중 하나로 자리잡았다. GPU 시장 주요 플레이어는 엔비디아(NVIDIA)로, 리서치기관 JPR에 따르면 2020년 2분기에 GPU 시장에서 80%의 점유율을 기록했다.

FPGA는 칩 내 논리소자 설계나 프로그래밍 등을 전부 사용자가 마음대로 커스터마이징할 수 있는 칩을 말한다. 기본만 설정돼 있고, 회로는 사용자가 직접 설정해야 한다. AI가 발전하면 그 성능도 함께 발전해야 하는데, FPGA는 발전 사이클이 빠르고, 전력 요구사항이 GPU보다 낮다. 또한, 아직 AI 알고리즘이 확정되지 않은 상태에서도 효율성과 유연성 사이에서 절충이 잘 이뤄졌다. 가트너에 따르면, 현재 FPGA에서 선두를 달리고 있는 기업은 자일링스(Xilinx)로, 51.1%의 시장점유율을 차지하고 있다.


오직 AI를 위한 1·2세대


1세대 AI 반도체는 기존 반도체 진화형보다 AI에 좀 더 특화된 반도체로, AI의 연산 속도를 높이기 위해 개발됐다. 주문형 반도체(Application Specific Integrated Circuit, 이하 ASIC)이 이에 해당한다. ASIC에는 딥러닝 신경망 네트워크 추론을 가속화하기 위한 TPU(Tensor Processing Unit), GPU에 비해 처리량을 13배 이상 높인 IPU(Intelligent Processing Unit) 등이 해당한다. 주로 구글이나 페이스북과 같은 IT 대기업에서 개발되고 있으며, TPU는 구글 딥마인드 알파고의 핵심 하드웨어다. 속도와 효율성은 개선됐지만, 다품종 소량생산으로 단가를 맞추기 어렵다는 한계를 가지고 있다.

2세대 AI 반도체는 사람의 실제 뇌를 모델로 한 반도체다. 기존의 프로세서는 입력되는 데이터를 순차적으로 알고리즘에 맞게 처리하는 ‘폰노이만 방식’을 채용했다. 하지만 2세대 AI 반도체는 사람의 뇌에 존재하는 신경세포(뉴런)와 연결고리(시냅스) 구조를 모방했다. 뉴로모픽(Neuromorphic)이 대표적이다.

2세대 AI 반도체는 연산 성능이나 효율성이 뛰어난 반면, 아직 기술 성숙도가 낮고 아직 폰노이만 방식이 대중화되어 있기 때문에 범용성이 낮다는 한계점을 가지고 있다. 다만 세계에서 이 2세대 AI 반도체 기술을 지속해서 개발하고 있다. IBM은 2014년 S램 기술로 사람의 뇌 구조를 채용한 ‘트루노스(Truenorth)’ 칩을 공개했다. 지난 2019년 6월에는 삼성전자가 뉴로모픽 프로세서 인력을 늘리고 개발에 집중할 것이라고 밝힌 바 있다.


인공지능과 함께 성장하는 AI반도체 시장


AI 반도체 시장에 대한 관심이 뜨거운 가운데, 성장세도 주목할 만하다. 시장조사기관 IHS마킷에 따르면, 2025년 세계 AI 반도체 매출이 1289억달러(한화 약 153조원)에 이를 것이라고 전망했다. 2019년 매출 428억달러(약 48조원)에 비해 약 3배가량 증가한 수치다.


세부영역에서도 마찬가지다. 시장조사기관 T4의 통계에 따르면, GPU 시장은 2020년 200억달러(약 22조원)를 기록했으며, 2025년 350억달러(39조원)를 기록할 전망이다. 또한, 마켓앤마켓(Markets And Markets)은 FPGA 시장이 2020년 59억달러(약 6조원)에서 2025년 86억달러(약 9조원)까지 성장할 것이라고 예측했다. ASIC 시장도 마찬가지다. 그랜드뷰리서치(Grand View Research)에 따르면, ASIC 시장 규모는 2019년에 140억달러(약 16조원)를 기록했으며, 2020년부터 2027년까지 연평균성장률(CAGR) 5.2%를 기록할 것이라고 분석했다.

글. 바이라인네트워크
<심재석 기자> <배유미 인턴기자>