챗GPT 따라 주목받는 AI반도체, NPU 생태계 확대하려면

올해 1월, 반도체 업계가 줄줄이 부진한 성적표를 받아 들었죠. 지난해 상반기까지만 해도 반도체 수급난이라면서 호황을 기대하는 분위기가 지배적이었는데, 반년 만에 인플레이션과 경기 침체 여파로 불황이 파고 들었습니다. 순식간에 업황이 곤두박질치면서 각 기업의 반도체 재고는 켜켜이 쌓였고, 타격은 고스란히 기업이 입었습니다.

SK하이닉스, 인텔, 마이크론과 같은 종합반도체업체(IDM)는 반도체 생산량을 줄이기로 했고, 엔비디아, AMD 등 팹리스 업체도 재고 소진에 사력을 다했습니다. 삼성전자는 끝까지 “인위적 감산은 하지 않겠다”는 의지를 내비쳤지만, 실적 하락은 피하지 못했죠.

시장조사업체 카운터포인트리서치는 보고서를 통해 “팹리스 업계 4분기 매출이 전반적으로 부진했는데, 올해 상반기에도 약세를 보일 것”이라고 전망했습니다. PC, 스마트폰 시장이 줄어들 것으로 예상되는 가운데, 각 기업은 새로운 성장 동력을 찾아야 하는 상황에 놓였습니다.

그런데 말이죠, 반도체 불황에 맞춰 혜성같이 등장한 키워드가 있습니다. 바로 챗GPT입니다.챗GPT는 미국의 오픈AI가 선보인 초거대 언어생성 모델입니다. 사람처럼 대화도 하고 에세이도 쓰고, 심지어 시와 기사도 씁니다. 점차 AI가 할 수 있는 것들이 늘어나면서 그 생태계도 기하급수적으로 확장되고 있습니다.

반도체 업계도 챗GPT와 생성AI를 바라보면서 희망회로를 돌리기 시작했습니다. AI든 클라우드든 5G든 뭐든 반도체가 없이는 이들을 구동할 수 없거든요. 하지만 아직 AI반도체 시장은 초기 단계라는 분석도 곳곳에서 나오는데  이를 위해서는 현 상황에 대해서도 청진기를 대야겠죠.

바이라인네트워크가 <챗GPT와 AI반도체의 미래> 바비네 스터디를 준비한 이유도 이 때문이죠. 그 전에 AI반도체가 이 세상에 왜 필요하며 관심을 보이는 기업은 어디가 있는지, AI반도체 산업이 어떻게 해야 활성화될 수 있을 지 알아보도록 하겠습니다.

AI반도체가 왜 필요한데?

아직 대부분의 AI는 그래픽처리장치(GPU)를 기반으로 돌아갑니다. GPU 시장 80%는 미국 반도체 업체 엔비디아가 차지하고 있고요. 시장조사업체 딜로이트에 따르면 엔비디아의 AI반도체 시장점유율은 97%인데요, 그만큼 GPU가 여전히 AI 시장에서는 대세라고 볼 수 있겠습니다.

그런데 GPU는 애초에 AI 알고리즘 처리가 아닌 그래픽 처리를 위해 개발됐습니다. 물론 한 번에 많은 양의 데이터를 처리할 수 있기 때문에 그간 AI반도체로 사용되긴 했습니다만, 업계에서는 암암리에 GPU에 대한 불만이 나오고 있는 상황입니다.

GPU로 대용량의 AI 처리를 하기 위해서는 두뇌 역할을 하는 코어 수를 늘려야 합니다. 코어 수를 늘리면 그만큼 프로세서의 용량이 커지고, 전력을 많이 소비하게 됩니다. 전력 소비가 늘어나면 총소유비용(TCO)은 더 많이 들겠죠.

TCO를 줄이고 효율적인 AI 알고리즘 처리를 위해 세계 각국의 기업은 AI가속기 개발에 뛰어들었습니다. AI가속기는 인간의 뇌를 표방해 만들었다는 의미에서 신경망처리장치(NPU)로도 불립니다. 사람의 뇌는 시냅스라는 신경 구조로 연결이 돼 있습니다. 여기에서 특정 자극이 주어지면 전기 신호가 모이고, 이를 기반으로 뇌는 정보를 처리하죠.

이 구조를 차용한 프로세서를 AI가속기, 혹은 NPU라고 부릅니다. NPU는 프로세서에 입력되는 데이터를 순차적으로 처리하는 폰 노이만 아키텍처에 비해 데이터 학습 및 추론 속도를 높이고, 에너지 효율성도 향상시킬 수 있다는 이유로 주목받기 시작했습니다.

상황이 이렇다 보니 많은 기업이 AI반도체 개발에 팔을 걷어 붙였습니다. 네이버는 삼성전자와 함께 AI가속기 개발에 나선다고 밝혔죠. SK하이닉스는 SK텔레콤과 AI반도체 자회사 사피온과 손잡고 ICT 협의체를 구성해 긴밀하게 협업하기로 했고요. SKT가 움직이니 KT도 질세라 국내 AI반도체 스타트업 리벨리온과 손잡고 AI 및 클라우드 개발에 박차를 가하기로 했습니다.

가시적인 성과도 속속 나오고 있습니다. AI반도체 스타트업 리벨리온은 지난 13일 데이터센터용 AI반도체 아톰(Atom)을 출시했다고 밝혔습니다. 또 다른 반도체 스타트업 퓨리오사AI도 AI반도체 워보이(Warboy)를 양산하고 있습니다. SKT의 AI반도체 자회사 사피온은 올해 중으로 차세대 AI반도체 X330을 선보일 계획이라고 밝혔고요.

여기서 AI반도체는 오로지 AI 알고리즘 처리를 위해 만들어진 반도체를 말합니다. 해당 업체에 따르면, AI반도체를 탑재하면 현재 사용되고 있는 GPU에 비해 에너지 소모가 적고, 더 빠르게 AI 처리를 할 수 있습니다. AI 처리 속도를 높여준다고 해서 AI 가속기라고도 불리죠. 챗GPT의 급부상과 함께 AI반도체 업체도 기술 개발에 속도를 내고 있는 모습이죠.

NPU도 사용하기 쉬워야 한다

AI반도체 시장은 아직 크게 확대되지는 못한 상황입니다. 앞서 언급한 것처럼 GPU가 AI반도체 점유율 90% 이상을 차지하고 있으니까요. 그렇게 AI 서비스 업체가 GPU에 불만을 가지고 있다고는 하는데, 왜 그럼에도 NPU 사용 비중은 낮은 걸까요?

여러 이유가 있겠지만, 가장 큰 이유는 아직 사용하기 어려워서입니다. 엔비디아를 먼저 예로 들어볼까요. 엔비디아는 다양한 사람들이 쉽게 GPU로 AI를 개발할 수 있도록 딥러닝, 데이터분석 등 소프트웨어 풀스택을 함께 제공합니다. 사용자는 그저 AI 프로그램을 짜는 데에만 집중하면 되는 겁니다. 이러한 상대적 편리함을 이유로 많은 AI개발자는 여전히 GPU를 사용하고 있습니다.

프로그래밍 언어 측면에서도 NPU는 한계가 있습니다. 대부분의 개발자는 프로그램을 개발할 때 C언어나 C++, 파이썬과 같은 언어를 사용합니다. 이는 CPU, GPU 등의 폰 노이만 아키텍처 프로세서를 기반으로 하는 프로그램에 적절합니다.

NPU를 기반으로 프로그램을 구동하기 위해서는 NPU용 API(Application Programming Interface, 프로그램과 프로그램 사이를 연결하는 인터페이스)로 프로그램을 짜야 합니다. 그런데 이 API를 활용할 수 있는 인력이 매우 적습니다. 결국 NPU를 확대하기 위해서는 NPU용 API와 보편적으로 사용되는 프로그래밍 언어를 통역하는 장치가 필요합니다. 이를 ‘컴파일러(Compiler)’라고 합니다.

그런데 이 컴파일러 인력은 세계적으로 구하기 매우 어렵습니다. 한 NPU 업계 관계자는 “컴파일러 기술은 소프트웨어 기술 중에서도 난이도가 매우 높은 복잡한 기술에 속하는데, 미국을 비롯한 해외에서도 관련 인재를 찾기 어렵다”고 말했습니다. 결국 NPU와 개발자 간 장벽을 낮추기 위해서는 컴파일러 인재 확보가 필요하다고 볼 수 있겠죠.

결국 AI반도체 산업이 활성화되기 위해서는 NPU 업체의 인력 확보 등 해결해야 할 과제가 적지 않은 셈입니다 SW·서비스 기업 간 장벽을 허무는 것도 중요합니다. NPU 산업 활성화는 과연 어떻게 할 수 있을까요. AI반도체는 어떤 바람을 불러올까요. 또 모르죠 <챗GPT와 AI반도체의 미래>에서 진짜 해답이 나올지도요.

글. 바이라인네트워크
<배유미 기자>youme@byline.network

[컨퍼런스 안내] 2024 인플루언서 마케팅 & 브랜드 혁신 컨퍼런스

숏폼과 영상을 잘 다루는 인플루언서가 여느 때보다 각광받는 시대입니다. 소셜 미디어를 통한 입소문도 인플루언서의 역할이 점점 커지고 있습니다.

인플루언스 마케팅 성공 경험과 인사이트를 한 자리에서 조망할 수 있는 자리를 준비했습니다.

  • 일시: 2024년 5월 29일 13:30 ~ 오후 18:00
  • 장소: 서울 강남구 영동대로 513 코엑스 3층 컨퍼런스룸 300호

관련 글

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다