[인사이드 반도체] 메모리 강자 한국, 초거대 AI 대비 기술은?

초거대 AI 시대가 다가오고 있습니다. 초거대AI란 슈퍼컴퓨터 급의 대용량 하드웨어에 AI 기술을 적용한 AI 슈퍼컴퓨터를 말합니다. AI가 적용되는 산업 분야가 많아지면서 방대한 데이터가 늘어나기 시작했고, 이를 뒷받침하기 위한 여러 기술이 개발되고 있죠.

그 중 국내 기업은 메모리 시장점유율 1위 국가답게, 메모리 부문에 대한 기술을 주로 선보이고 있습니다. 프로세싱 인 메모리(Processing In Memory, PIM)기술이 대표적입니다. 지난 13일에는 PIM 인공지능반도체 심포지엄을 개최해 관련 기술 발표의 장이 열리기도 했고요. 이번 인사이드 반도체에서는 국내 기업이 개발하고 있는 PIM이 무엇이고 현재 어느 단계까지 와 있는지 알아보고자 합니다.

PIM 반도체가 뭔가요?

일단 세계적으로 메모리가 수용해야 할 데이터가 늘어난다는 점은 부인할 수 없습니다. 시장조사업체 옴디아에 따르면 2020년부터 2025년까지 전 세계 총 데이터 규모는 연평균성장률 61%를 기록하고, 2025년에는 175제타바이트(ZB)를 달성할 전망입니다. 여기서 1ZB는 약 1조기가바이트(GB) 정도 됩니다.

또한 옴디아에서는 AI 트레이닝 모델에 필요한 컴퓨팅 자원도 매년 10배씩 증가할 것이라고 추측했습니다. 컴퓨팅 자원이 늘어나면 그만큼 전력 사용량이 늘어날 수밖에 없습니다. 따라서 데이터를 보유하고 있는 각 기업은 데이터센터를 운영하는 데 드는 총소유비용(TCO)을 줄이기 위해 전력 효율성을 높일 방안을 모색할 것으로 예상됩니다.

이 같은 수요를 충족하기 위해서는 프로세서 성능 강화 못지않게 메모리를 효율적으로 만드는 것이 중요합니다. 이를 이해하기 위해서는 일반적으로 프로세서가 어떻게 데이터를 처리하는지 알 필요가 있습니다.

시스템에 입력된 데이터는 D램이라는 메모리에 임시 저장됩니다. D램은 데이터를 오래 저장하는 데 사용되지는 않고, 중앙처리장치(CPU)로부터 전송된 데이터를 임시 저장하는 역할을 합니다. 이후 D램은 CPU가 데이터를 처리하는 속도에 맞춰 데이터를 하나씩 전송해주죠.

다만 CPU는 한 번에 하나의 데이터만 처리할 수 있습니다. 한 번에 처리해야 할 데이터의 양이 많아지면 과부하가 걸리고, 결국 데이터 병목현상이 발생하게 됩니다. 앞서 이야기한 것처럼 세계 데이터 규모는 날이 갈수록 늘어나고 있다는 점을 고려하면, 앞으로 CPU가 데이터를 처리할 때 병목현상이 일어날 여지가 더 많다고 볼 수 있겠죠.

이 같은 수요를 맞추기 위해 등장한 메모리가 바로 PIM 개념입니다. PIM은 문자 그대로 메모리 안에서 데이터를 처리하는 기술을 말합니다. 모든 데이터를 메모리 안에서 처리하는 것은 아니라고 해도, CPU가 좀 더 데이터를 빠르고 수월하게 처리할 수 있도록 일종의 정제 과정을 거친다고 보면 되겠습니다. 비슷한 개념으로는 메모리 가까운 곳에서 데이터 처리 부품이 탑재되는 프로세싱 니어 메모리(Processing Near Memory, PNM)이 있습니다.

PIM을 도입하면 데이터 처리 속도가 빨라질 뿐만 아니라 전력 소모가 줄어듭니다. 기존에는 CPU가 날것의 데이터를 전부 처리해야 했는데요, 이 날것의 방대한 데이터를 D램에서 CPU로 전송할 때에도 전력 소모가 발생합니다. 하지만 PIM 기술을 도입하면 이미 D램 내에서 어느 정도 데이터를 처리했으니, 소화하기 쉬운 데이터만 전송하면 되거든요. D램 내에서는 별도의 전송 과정이 필요 없으니 전력이 소모되지 않습니다. 따라서 전력 효율성 측면에서도 강점을 가지고 있다고 볼 수 있습니다.

손교민 삼성전자 마스터는 지난 13일 개최한 PIM 인공지능반도체 심포지엄에서 “업계가 D램에 요구하는 성능은 높은 대역폭(데이터가 오가는 길목 역할)과 데이터 저장 용량으로, 단순하다고 볼 수 있다”며 “PIM을 비롯한 차세대 메모리는 컴퓨팅 성능을 높여 용량 확대 효과를 내고 에너지 효율을 개선하도록 할 것”이라고 설명했습니다. 그 일환으로 국내 주요 메모리 업체도 PIM 기술 개발에 팔을 걷어붙였습니다.

기업⋅정부 관심 한 몸에 받은 PIM

사실 PIM이라는 개념이 최근에 나온 것이라고 보기에는 어렵습니다. 20년 전부터 PIM이라는 개념은 업계에서 거론되고 있었거든요.

지금의 프로세서가 D램을 거쳐 CPU에 전달된 후 데이터 처리 과정을 거친다고 앞서 말씀드렸죠. 이 같은 구조를 폰 노이만 아키텍처라고 합니다. 이 폰 노이만 아키텍처는 1945년 세상에 등장했습니다. 그런데 시대가 발전하면서 데이터의 양이 늘어나고, 일각에서는 데이터 병목현상에 대한 우려의 목소리를 내기도 했죠. 이때가 2000년대 초반인데요, 이를 기점으로 학계와 산업계는 PIM 기술 개발에 나섰습니다. 아직 상용화 사례가 나온 것은 아니지만 말이죠.

그런데 이제는 그 성과가 점점 가시적으로 드러나고 있습니다. 삼성전자는 지난 2021년 2월 메모리 반도체와 인공지능 프로세서를 하나로 결합한 HBM-PIM을 개발했다고 밝혔습니다. 여기서 HBM은 고대역폭 메모리로, 데이터가 다닐 수 있는 길목이 매우 넓은 메모리라고 이해하면 되겠습니다.

SK하이닉스도 올해 2월 PIM 개발에 성공했다고 발표했고요. 개발까지는 4~5년 정도 더 걸릴 예정이라고 하지만, 그럼에도 성과를 보였다는 점에서 고무적이라 판단할 수 있겠죠. 현재 마이크론 등 글로벌 메모리 반도체 기업도 PIM 반도체 개발에 나선 것으로 알려졌습니다.

이후에도 삼성전자와 SK하이닉스 등 주요 메모리 업체는 PIM 반도체를 포함한 차세대 메모리 개발에 주력할 것으로 보입니다. 최근 스마트폰과 PC 수요가 줄어들면서 기존 메모리 매출도 줄어드는 추세거든요. 증권가에서는 올해 4분기 주요 메모리 기업이 역성장할 것이며, 심할 경우 적자 전환도 할 수 있다는 전망이 지배적이죠.

그럼에도 AI 서비스 확대 여파로 고성능 메모리 부문은 기대할 만하다는 것이 각 업체의 설명입니다. 삼성전자와 SK하이닉스는 지난 3분기 실적발표 당시 “현재 컨슈머 부문 수요 여파로 시장 상황이 좋지는 않지만, 고성능 메모리 중심으로 제품 라인업을 구성해 늘어나는 서버⋅데이터센터 수요를 충족하겠다”고 발표했습니다.

더불어 우리나라는 메모리를 강점으로 가지고 있는 국가죠. 따라서 시스템반도체 사업도 메모리와 많은 연관이 있는데요, PIM 기술 개발이 확대되면 추후 차세대 시스템반도체 개발에도 탄력을 얻을 것으로 보입니다. 좀 더 시너지 효과를 낼 수 있다는 말이죠.

최근 기자와 만난 한 국내 팹리스 업계 관계자는 “메모리와 함께 협력하는 부문 측면에서는 우리나라가 메모리 중심으로 반도체 산업이 편성돼 있기 때문에 긍정적”이라며 “주요 기업이 PIM을 비롯한 차세대 메모리 기술을 개발하고 있는데, 이는 다른 국가에 위치한 기업에 비해 강점으로 작용할 수 있을 것”이라고 설명했습니다.

정부 차원에서도 PIM에 대한 전폭적인 지원을 약속했습니다. 과학기술정보통신부(과기부)와 산업통상자원부(산업부)는 지난 9월 PIM 인공지능반도체사업단을 출범했습니다. 양 기관은 PIM 인공지능반도체 핵심기술개발사업을 추진하기 위해 사업단을 구성했다고 밝혔는데요, 이에 7년간 총사업비 4027억원을 투입하겠다는 계획도 발표했습니다.

지금이 메모리 한파라고는 하지만, 이때 차세대 기술 기반을 다져 놓으면 추후 호황이 돌아왔을 때 앞설 수 있겠죠. 그런 의미에서 국내 기업과 정부가 PIM 기술 관련 성과를 이후에도 지속해서 낼 수 있길 바라게 되네요.

글. 바이라인네트워크
<배유미 기자>youme@byline.network