[AI 반도체 스타트업은 지금 ③] “누구나 AI 쉽게 쓰려면, 어떤 문제가 풀려야 하나” 하이퍼엑셀
AI 반도체 시장이 격변하고 있다. 글로벌 빅테크가 AI 반도체 확보에 집중하고 있는 요즘, 국내에서도 독자 기술과 전략으로 도전장을 내미는 스타트업들이 성장하고 있다. <바이라인네트워크>는 AI 반도체 분야에서 각자의 색깔로 시장을 개척 중인 국내 주요 스타트업들을 시리즈로 조명한다.
연재기사 ① “내 길 가겠다”는 퓨리오사AI, 독자생존 방법론
연재기사 ② 사피온 품은 리벨리온, 사업 본궤도에 한 발짝
이재명 정부는 국민 모두가 수준 높은 AI를 무료로 활용하는 ‘모두의 AI’ 프로젝트를 추진하겠다고 밝혔다. 프로젝트의 취지는 더 많은 사람이 더 쉽게 AI를 활용할 수 있도록 문턱을 낮춰서, AI를 못 써서 손해보는 사람이 없게 만들겠단 이야기다. 많은 사람이 AI를 쉽게 쓸 수 있을 수록 AI 경쟁력이 높아질 것도 당연하다.
그런데, 그렇게 하려면 선결되어야 할 과제가 있다. AI 서비스 자체가 저렴해져야 한다. 값이 싸야 인심 좋게 모두가 나눠 쓸 수 있다. 지금 AI 솔루션에 ‘모두’라는 단어를 붙여 강조하는 이야기도 여기에 있다. 아직은 AI 서비스의 값이 싸지 않아서다. 대표적인 AI 서비스인 챗GPT는 유료 버전이 싸게는 월 3만원, 비싸게는 30만원 가까이 한다.
AI 요금이 비싼 이유는 서비스를 만들고 운영하는 데 돈이 많이 들어가기 때문이다. 여기에는 AI 서비스를 이용할 때 연산을 수행하는 ‘AI 반도체’의 가격이 비싼 점도 한몫한다. 즉, AI 반도체가 저렴해지면 서비스 요금도 지금보다는 다소 저렴해지지 않을까 기대할 만하다.
자연스레 신생 AI 반도체 회사는 ‘가성비’에서 활로를 찾는다. 이미 시장을 독점한 거대 기업과 경쟁하려면, 성능은 다소 부족할지언정 가격이 저렴하고 전력을 적게 소모하는 반도체를 개발해야 시장에서 유리하게 작용할 수 있다. 하이퍼엑셀도 이 점에 주목해 가성비를 내세우는 회사 중 하나다.
하이퍼엑셀의 주무기는 ‘가성비’
하이퍼엑셀은 다른 AI 반도체 기업과 차별화된 요소로 ‘값싼 NPU’를 언급했다. 이 회사의 모토도 “누구나 AI의 혜택을 누리게 하겠다”는 것이다. 그래서 더 저렴한 칩을 만드는 데 집중했다.
하이퍼엑셀은 생산 단가를 낮추기 위해 ▲값비싼 고대역폭메모리(HBM) 대신 LPDDR 메모리를 사용하고 ▲생산 단가가 낮은 파운드리에 양산을 맡겼다.
LPDDR 메모리는 HBM 대비 저렴하고 소모 전력이 적으며 공정도 비교적 간단하다. 개발에 소요되는 시간도 HBM보다 짧다. 이진원 하이퍼엑셀 최고기술책임자(CTO)는 “LPDDR 메모리를 사용함으로써 전체 개발비를 포함한 비용이 타사 대비 열 배 정도, 소모 전력은 30~50% 정도 줄어들 것”으로 봤다. 그렇다고 LPDDR의 성능이 확연히 떨어지는 것도 아니다. 삼성전자도 최근까지 LPDDR 메모리로 AI 반도체를 개발하는 프로젝트를 진행해 왔다.
LPDDR 메모리의 단점은 ‘대역폭’이 HBM보다 낮다는 것. 대역폭은 한 번에 얼마나 많은 데이터를 보낼 수 있는지 나타내는 지표다. 대역폭이 낮으면 한꺼번에 많은 데이터가 오가는 AI 학습 작업에 불리하다. 다만, 하이퍼엑셀은 AI 추론 작업에 집중한다. 이미 쌓은 데이터에서 결론을 도출하는 AI 추론 작업에서는 대역폭이 그리 중요하지 않다. 오히려 하이퍼엑셀의 LPU처럼 전력 소모량이 적은 칩이 더 유리하다고 평가될 정도다.
이외에 하이퍼엑셀은 낮은 대역폭의 활용률(Utilization)을 끌어올리는 독자 기술을 적용해 메모리 간 성능차를 좁히는 데 주력하고 있다.
회사는 파운드리를 선정할 때도 가격 경쟁력을 우선했다. TSMC 5nm(나노미터) 공정과 삼성 파운드리의 4nm 공정을 저울질했다. 두 공정의 성능은 비슷했지만 TSMC측 비용이 50% 이상 비쌌다. 하이퍼엑셀은 더 저렴한 칩을 만들기 위해 삼성 파운드리를 골랐다.
하이퍼엑셀의 미래는?
이진원 CTO는 최근 AI 반도체 시장을 두고 “규모가 점점 크고 빠르게 확장되고 있다”며 “온디바이스 AI 반도체 분야에서도 LLM에 대한 관심이 커지는 추세”로 분석했다.
하이퍼엑셀은 내년쯤 서버와 데이터센터용 칩 시장을 본격적으로 공략할 계획이다. 2023년에 출시했던 AMD FPGA(프로그래머블 비메모리 반도체) 기반 서버 ‘오리온’을 통한 경험을 밑바탕 삼아 데이터센터에 바로 사용할 수 있는 양산품을 개발하고 있다.
내년 상반기 중으로 차세대 LPU ‘베르다’의 작동을 시연할 계획을 세웠다. 그 뒤에는 더욱 규모가 커진 데이터센터에 어울리는 칩을 개발하면서 온디바이스 LLM용 AI 반도체도 만들 예정이다.
더 많은 제품을 개발·출시하려면 사세 확장이 불가피하다. 이진원 CTO는 “전 분야에서 뛰어난 인재를 상시 채용, 연말까지 회사 규모를 현재의 50명에서 70명 수준으로 확대할 계획”이라고 밝혔다.
국산 AI 반도체 진흥하려면 정부 지원 필요하다
하이퍼엑셀은 국산 AI 반도체 기업을 위한 정부의 직접적인 지원이 필요하다고 토로했다. 개발부터 생산까지 막대한 자본이 필요한데, 여기에 드는 비용을 정부가 직접 지원하거나 투자도 해볼 만하다고 주장했다.
이 CTO는 “더 큰 서버의 수요가 점점 증가하는 반도체 시장에서 스타트업이 모든 분야를 아우르기는 어렵다”며 “국내외 기업과 협력할 수 있도록 정부가 적극적으로 도와줬으면 좋겠다”고 말했다.
이번 정부가 AI 보급을 위해 얼마나 적극적인 투자와 지원을 할지 기대되는 상황이다. 이진원 CTO는 지난 15일 대통령비서실 AI미래기획수석으로 취임한 하정우 전 네이버클라우드 AI혁신센터장에 대한 기대도 내비쳤다. 그는 “하 신임 수석이 항상 인프라는 (반도체 분야에) 필요조건이라고 강조해 왔다”며, “이번 정부가 AI 인프라를 확장하기 위해 다방면으로 업계를 지원하길 바란다”고 말했다.
글. 바이라인네트워크
<이병찬 기자>bqudcks@byline.network
