AI 성장에는 메모리 혁신이 필요하다

“AI 성능을 늘리기 위해서는 데이터를 뒷받침할 메모리 혁신도 함께 일어나야 한다.”

반도체 팹리스 회사들의 행사에 삼성전자가 등장했다. ‘메모리’를 들고. 14일 인천 송도컨벤시아에서 열린 AI반도체 학술대회 ‘AICAS 2022’의 참여자는 주로 AI반도체 칩을 설계하는 팹리스 업체들이다. 그런데 삼성전자는 이 행사에 자사의 강점인 메모리를 갖고 나왔다. AI 시장이 성장하기 위해서는 시스템반도체와 알고리즘 개발도 필요하지만, 메모리 또한 뒷받침돼야 한다는 이유에서다.

기조연설을 맡은 송용호 삼성전자 메모리사업부 컨트롤러개발팀장(부사장)에 따르면, AI가 처리해야 하는 데이터의 용량이 큰 폭으로 증가하고 있으나, 이를 처리할 만한 메모리 용량은 그만큼 성장하지 못하고 있다. 따라서 AI가 처리할 수 있는 데이터 최대 용량과 메모리 용량 간 차이가 발생하고, 그만큼의 비효율이 발생하는 것이 실정이다. 이 차이를 업계에서는 ‘메모리 월(Memory Wall)’이라고 한다.

송 부사장은 “메모리 월을 극복하기 위해서는 선제적으로 고성능 메모리를 만들 필요가 있다”며 “그간 쌓아온 메모리 경쟁력을 기반으로 AI와 프로세서 시장을 뒷받침할 솔루션을 선보일 것”이라고 강조했다.

삼성전자는 인터넷⋅컴퓨터 산업이 활성화됐던 과거에도 메모리 부문에서 강점을 가지고 있었다. 그 강점을 이어가 현재는 모바일, 컴퓨팅 부문을 타깃한 메모리를 중심으로 사업을 영위하고 있다. 미래에는 AI, 데이터센터 등 4차 산업이 발전하면서 방대한 양의 데이터를 저장하고 연산할 수 있도록 돕는 메모리가 필요할 전망이다. 삼성전자도 기술 흐름에 맞춰 고성능 메모리를 개발하고 제공할 것이라는 계획을 밝혔다.

송용호 부사장은 기조연설에서 삼성전자의 AxDIMM과 스마트SSD에 대해서도 설명했다. 먼저 AxDIMM은 PIM(Processing in Memory) 기술을 칩단위에서 모듈 단위로 확장한 제품을 말한다. 여기서 PIM은 메모리반도체에서 자체적으로 데이터 연산을 할 수 있도록 프로세싱 기능을 탑재하는 기술을 말한다.

기존 프로세서는 데이터를 처리하기 위해 D램에서 CPU로 데이터를 전송하는 작업을 수반해야 했는데, 메모리에 프로세싱 기능을 탑재하면 데이터 전송 과정이 필요하지 않아 데이터 처리 속도를 높일 수 있다. 더불어 전송에 필요한 에너지도 소모되지 않아 저전력으로 구동할 수 있다. 이를 모듈화한 것이 AxDIMM이다.

송 부사장에 따르면, AxDIMM을 사용하면 기존 메모리로 AI가속기를 사용할 때에 비해 성능을 80% 가량 높일 수 있다. 여기에 삼성전자의 스마트SSD도 함께 적용하면 속도 지연성도 36.3% 낮출 수 있다. 해당 메모리는 빠른 속도로 대용량의 데이터를 처리해야 하는 고성능 컴퓨팅, AI 등에 사용할 것으로 보인다.

뒤이어 송 부사장은 스마트 SSD 2.0을 언급했다. 스마트SSD란 기존 SSD에 자체 데이터 처리를 위한 프로세서를 탑재한 저장장치를 말한다. 데이터 병목현상을 줄이고 CPU 사용도를 높일 수 있다는 것을 강점으로 한다. 지난 2020년 11월 삼성전자는 스마트 SSD 1.0을 선보였는데, 해당 저장장치에는 자일링스의 FPGA(Field Programmable Gate Arrays)가 탑재돼 데이터 처리를 담당했다. 이를 통해 고속 컴퓨팅을 가능하게 했고, 데이터 처리속도와 에너지 효율성도 높일 수 있었다는 것이 삼성전자 측의 설명이다.

이번 행사에서 선보인 스마트SSD 2.0은 소프트웨어 정의 아키텍처를 지원하는 것이 달라진 점이다. 리눅스와 Arm 아키텍처를 지원하는데, 이로써 개발자도 쉽게 스마트SSD 2.0을 적용한 AI 모델을 개발할 수 있다고 송 부사장은 설명했다. 여기에 스마트SSD 1.0에 하드웨어 가속회로도 추가해 고성능을 구현할 수 있다. 삼성전자는 2022년 3분기에 스마트SSD 2.0 개념증명(Proof of Concept, PoC)을 진행할 계획이다.

송용호 삼성전자 부사장은 “현재 AI 기반 서비스를 뒷받침하기 위한 이기종 플랫폼 구축도 계획하고 있다”며 “소프트웨어, 하드웨어, 알고리즘 등 다방면에서 협업 체제를 구축하고, 컴퓨팅 스토리지 부문에서 새로운 가치를 창출할 것”이라고 말했다.

글. 바이라인네트워크
<배유미 기자>youme@byline.network

AI 트랜스포메이션을 위한 리테일 테크는 무엇일까

– 리테일 & 로지스 테크 컨퍼런스 2024

리테일 산업은 이제 디지털 산업입니다. 온라인뿐 아니라 오프라인 기업도 디지털 기술을 활용하지 않고서는 생존할 수 없습니다. AI 기술의 발달은 리테일 업계에 새로운 기회와 도전과제를 안겨주었습니다.

생성형 AI, 이커머스 쏠림, D2C 확장, 오프라인 매장의 폐점, 경기 침체, 늘어만 가는 배송 수요 등의 많은 변화 속에서 리테일과 물류, 커머스 업계는 디지털 없이는 변화에 대처할 수 없음을 알고 있습니다.

이에 바이라인네트워크는 리테일&로지스 테크 컨퍼런스 2024를 개최합니다. 리테일과 물류 기업이 어떻게 AI와 디지털 기술을 활용하고 있는지, 디지털 혁신을 위해 필요한 기술과 활용사례는 무엇인지 살펴보는 자리가 될 것입니다.

  • 일시: 2024년 3월 7일(목) 9:00 ~ 18:00
  • 장소: 서울 강남구 테헤란로7길 22 ST Center (과학기술컨벤션센터) 지하 1층 대회의실

관련 글

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다