엔비디아, 양자 컴퓨팅 상용화 장벽 AI로 뚫는다
엔비디아가 양자 컴퓨팅을 가속하는 개방형 AI 모델 제품군인 ‘엔비디아 아이징(NVIDIA Ising)’을 16일 발표했다. 실용적인 애플리케이션을 구동할 수 있는 양자 프로세서 개발을 가속할 수 있다는 설명이다. 큐비트 프로세서에서 발생하는 양자 오류 등의 난제를 보정할 수 있는 AI 기반 제어 계층을 만들어 양자컴퓨팅의 신뢰성을 높이자는 해법이다.
실용적인 양자 애플리케이션을 대규모로 구현하려면 양자 프로세서 보정(calibration)과 양자 오류 정정(error correction) 분야에서 획기적 발전이 필요하다 현존 양자 프로세서를 대규모의 신뢰할 수 있는 컴퓨터로 전환하는데 AI 모델을 활용해야 한다는 게 엔비디아의 분석이다.
분석업체 레조넌스에 따르면, 양자 컴퓨팅 시장은 2030년에 110억달러를 넘어설 것으로 전망된다. 이러한 성장세는 양자 오류 정정과 확장성 등 핵심 엔지니어링 과제 해결을 위한 지속적인 기술 발전에 따라 크게 좌우될 것으로 예상된다.
엔비디아 아이징 제품군은 복잡한 물리 시스템에 대한 이해를 획기적으로 단순화한 대표적인 수학 모델에서 명칭을 가져왔다. 이는 하이브리드 양자 클래식 시스템(hybrid-quantum classical systems) 구축의 핵심 과제인 양자 오류 정정과 보정을 위한 확장 가능한 고성능 AI 도구를 제공한다.
아이징 모델은 최고 수준의 양자 프로세서 보정 워크플로우를 지원하며, 양자 오류 정정에 필요한 디코딩 과정에서 최대 2.5배 더 빠른 성능과 3배 더 높은 정확도를 제공한다. 이를 통해 연구자들은 양자 컴퓨터를 활용해 훨씬 더 크고 복잡한 문제를 해결할 수 있다.
엔비디아 아이징은 양자 프로세서 개발을 가속화하는 최첨단 맞춤형 모델, 도구, 데이터를 포함한다.
아이징 캘리브레이션(Ising Calibration)은 양자 프로세서의 측정 결과를 신속하게 해석하고 반응할 수 있는 비전 언어 모델(VLM)이다. 이를 통해 AI 에이전트가 지속적인 보정 작업을 자동화할 수 있어, 기존 며칠이 걸리던 작업을 단 몇 시간 수준으로 단축한다.
아이징 디코딩(Ising Decoding)은 양자 오류 정정을 위한 실시간 디코딩을 수행하는 3D 합성곱 신경망(CNN) 모델이다. 속도 또는 정확도에 각각 최적화된 두 가지 버전으로 제공된다. 아이징 디코딩 모델은 현재 업계 표준 오픈소스 도구인 파이매칭(pyMatching) 대비 최대 2.5배 빠르고 3배 높은 정확도를 제공한다.
선도적인 기업, 학술 기관, 연구 기관들은 양자 컴퓨팅 개발을 위해 아이징을 도입하고 있다.
아이징 캘리브레이션은 이미 아톰 컴퓨팅, 대만 중앙연구원, 이로큐, 컨덕터퀀텀, 페르미 국립 가속기 연구소, 하버드공대, 인플렉션, 아이온큐, IQM 퀀텀 컴퓨터스, 로렌스 버클리 국립연구소 첨단 양자 테스트베드, 큐컨트롤, 영국 국립물리연구소(NPL) 등에서 사용되고 있다.
아이징 디코딩은 코넬 대학교, 에덴코드, 인플렉션, IQM 퀀텀 컴퓨터스, 퀀텀 엘리먼츠, 샌디아 국립연구소, 시큐시(SEEQC), 캘리포니아 대학교, 시카고 대학교, 서던 캘리포니아 대학교, 연세대학교 등에서 도입하고 있다.
엔비디아는 NIM 마이크로서비스와 함께 양자 컴퓨팅 워크플로우와 훈련 데이터로 구성된 쿡북을 제공한다. 이를 통해 개발자들은 최소한의 설정만으로 특정 하드웨어 아키텍처와 사용 사례에 맞게 모델을 파인튜닝할 수 있다. 또한 연구자의 시스템에서도 실행 가능해 자체 데이터를 안전하게 보호할 수 있다.
엔비디아 아이징은 하이브리드 양자-클래식 컴퓨팅을 위한 엔비디아 큐다-Q 소프트웨어 플랫폼을 보완하는 동시에 실시간 제어와 양자 오류 정정을 지원하는 엔비디아 NVQ링크 QPU-GPU 하드웨어 인터커넥트와 통합된다. 이를 통해 연구자와 개발자는 오늘날의 큐비트를 미래의 가속화된 양자 슈퍼컴퓨터로 발전시키는 데 필요한 종합적인 도구를 활용할 수 있다.
엔비디아 아이징은 엔비디아 오픈 모델 포트폴리오에 새롭게 추가됐다. 엔비디아 오픈 모델 포트폴리오에는 에이전트 기반 시스템을 위한 엔비디아 네모트론, 피지컬 AI를 위한 엔비디아 코스모스, 자율주행차를 위한 엔비디아 알파마요, 로보틱스를 위한 엔비디아 아이작 GR00T, 생명의학 연구를 위한 엔비디아 바이오네모 등이 있다.
이러한 오픈 모델, 데이터, 프레임워크는 깃허브, 허깅페이스, 엔비디아 등에서 이용가능하다.
엔비디아 창립자 겸 CEO 젠슨 황은 “AI는 양자 컴퓨팅을 실용화하기 위해 필수적이다. 아이징을 통해 AI는 제어 계층으로서 양자 기계의 운영체제 역할을 수행하고, 취약한 큐비트를 확장 가능하고 신뢰할 수 있는 양자-GPU 시스템으로 전환한다”고 밝혔다
글. 바이라인네트워크
<김우용 기자>yong2@byline.network
