SK하이닉스와 삼성전자가 PIM 기술을 주목한 이유

AI 시장을 선점하기 위한 글로벌 기업 간 경쟁이 치열하다. 주요 반도체 기업들이 합종연횡을 시도하고, 관련 기술을 개발하고 있다. 프로세서 제공업체 AMD는 최근 FPGA 개발업체 자일링스를 인수했다. 최종적으로 불발됐으나 엔비디아는 영국 IP 설계업체 Arm 인수를 시도하기도 했다.

AI시장 선점에 팔을 걷어붙이고 나선 곳은 팹리스뿐만이 아니다. 메모리 기업 또한 AI시장을 공략하기 위한 차세대 메모리를 개발하고 있다. 최근에는 SK하이닉스가 메모리 반도체에 데이터 처리 기능을 함께 탑재한 차세대 메모리 반도체 기술 PIM(Processing In Memory)을 개발한 것도 이런 흐름 중에 하나다.

PIM은 왜 주목받는 기술일까?

PIM 기술은 최근 국내 메모리 강자들이 모두 뛰어든 영역이다. SK하이닉스 뿐만 아니라 삼성전자도 한다. 앞서 언급한 것처럼 반도체 시장이 AI 중심으로 재편되어 가면서, 전력 손실이나 데이터 지연을 잡는데 새로운 기술이 들어가야한다는 필요성이 커졌기 때문이다.

PIM 개발 이전에는 일반적으로 하나의 시스템에 입력된 데이터가 휘발성 메모리 D램에 임시 저장되고, D램은 프로세서의 데이터 처리속도에 맞춰 저장한 데이터를 전송하는 방식으로 움직였다. 이후 프로세서는 전송 받은 데이터를 처리하고, 결과를 출력하거나 다시 비휘발성 메모리에 전송해 저장하도록 한다.

과거에는 하나의 시스템에 메모리 반도체와 프로세서가 별도로 탑재됐다. 따라서 메모리와 프로세서 간 데이터 전송을 해야 했는데, 그 과정에서 데이터 처리 시간이 지연되고, 전력 손실이 일어났다.

PIM은 하나의 칩이 메모리와 프로세서의 역할을 모두 하도록 만든다. 반도체 간 별도로 데이터 전송을 하지 않아도 되는 것이다. 따라서 데이터 전송 과정에서 생기는 지연 시간과 전력 손실을 줄일 수 있다. 데이터를 더 효율적으로 처리할 수 있는 것이다.

특히 PIM 기술은 대규모 데이터를 처리하거나 실시간으로 데이터를 출력해야 하는 AI, 데이터센터, 고성능 컴퓨팅 등에 적용될 수 있을 전망이다. 해당 분야에서는 연산 특성에 최적화된 기술이 필요한데, PIM 기술이 이를 극복하는 데 도움이 된다는 것이 SK하이닉스 관계자의 설명이다.

SK하이닉스가 PIM 기술을 적용해 개발한 GDDR6-AiM (자료: SK하이닉스)

인텔 잡겠다…인메모리 반도체 신제품 만든 SK하이닉스

SK하이닉스는 PIM 기술에 대해 소개하며 최신형 그래픽 처리장치용 메모리 GDDR6을 기반으로 하는 인메모리(In-Memory) 반도체 ‘GDDR6-AiM(Accelerator in Memory)’ 샘플을 개발했다고 밝혔다. 이 회사 관계자에 따르면, 해당 반도체는 특정 연산에서 속도가 최대 16배 빨라지며, 에너지 소모는 80%가량 줄어든다.

SK하이닉스 외에도 주요 메모리 기업은 PIM 기술을 개발하고 있다. 삼성전자는 지난 2021년 2월 세계 최초로 고성능 컴퓨팅용 고대역폭 메모리 HBM(High Bandwidth Memory)을 탑재한 PIM을 개발했다. 더 나아가 비휘발성 메모리를 활용한 인메모리 기술도 개발하고 있다. 미국 주요 메모리 기업이자 세계 D램 시장점유율 3위인 마이크론도 현재 PIM을 개발하고 있는 것으로 알려졌다.

우리 정부도 PIM 기술을 지원하기 위한 방안을 마련하고 있다. 과학기술정보통신부는 19일 ‘인공지능 최고위 전략대화(전략대화)’를 개최해 2028년까지 PIM 기술 부문에 4000억원을 추가 투자할 것이라고 밝혔다. 지난 2020년부터 2029년까지 PIM 기술 개발에 1조원을 투입하기로 결정한 바 있는데, 투자 금액을 늘린 것이다. 더불어 과기정통부는 PIM을 포함한 AI 반도체 개발에 필요한 소프트웨어, 실증사업, 데이터센터 등을 지원하고, 인재 양성에도 팔을 걷기로 결정했다.

주요 메모리 기업과 정부가 PIM 기술에 관심을 가지는 가장 큰 이유는 AI 시장이 확장되면서 이를 뒷받침할 만한 스마트 메모리의 필요성이 커졌기 때문이다. AI반도체 업계 관계자에 따르면, AI 개발자는 전력을 적게 소비하면서 많은 용량의 데이터를 가볍게 처리할 방법을 찾고 있다. PIM 반도체는 메모리 역할과 함께 AI 데이터 처리를 함께 지원한다. 따라서 CPU나 GPU와 같은 프로세서와 함께 탑재하면 연산 속도를 높일 수 있다.

더 나아가 국내 주요 반도체 기업은 PIM 기술을 고도화해 디바이스 내에서 메모리가 반도체 중심 역할을 하는 ‘메모리 센트릭(Memory-Centric)’ 컴퓨팅을 활성화하는 것을 목표로 삼고 있다.

메모리 센트릭 컴퓨팅이 활성화되면, 메모리 강국인 우리나라에 긍정적으로 작용할 수 있다. 트렌드포스 등 시장조사기관에 따르면, 우리나라 D램 시장점유율은 70%, 낸드 시장점유율은 50%가량 된다. 이미 메모리 부문에서 많은 시장을 점유하고 있는 것이다. 여기에 각 디바이스가 메모리 중심으로 구동된다면, 그만큼 메모리 수요는 증가하게 될 것이다. 따라서 메모리 센트릭 컴퓨팅 시장이 활성화되면, 그 수혜는 우리나라가 가장 많이 입을 것으로 보인다.

주요 메모리 기업이 CPU, GPU, 통신모듈, OS 등 시스템과 통합하는 기술을 고도화하고, 메모리를 스마트화하고 있다. 앞으로도 메모리 기업은 PIM 기술을 개발해 AI반도체 시장의 필요를 충족할 전망이다.

글. 바이라인네트워크
<배유미 기자>youme@byline.network

[컨퍼런스 안내] 클라우드 보안 & 제로트러스트 컨퍼런스 2024

  • 일시: 2024년 7월 4일 오전 8:40 ~ 오후 6:00
  • 장소: 서울 서초구 강남대로 213 양재 엘타워 6층 그레이스홀

[무료 웨비나] 디지털 전환 시대의 필수! AI기반 아이덴티티 보안의 모든 것

  •  2024년 7월 16일 (화) 14:00 ~ 15:30

[무료 웨비나] B2B기업, AI 시대 어떻게 고객을 발굴할 것인가?

  • 정민아 <하룻밤에 읽는 B2B 마케팅> 저자
  • 2024년 7월 9일(화) 14:00~15:00

관련 글

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다