IBM, 양자 프로세서 ‘나이트호크’ 1040큐비트로 확장…2027년 구축 목표

IBM이 양자 프로세서 ‘나이트호크(Nighthawk)’를 내년 1040큐비트 규모로 확장한다. 차세대 모델인 나이트호크 r3는 520개의 프로그래머블 큐비트로 1만회의 양자 연산을 지원하도록 설계한다. 두 개의 프로세서를 연결해 단일 시스템으로 구성하고, 양자컴퓨팅과 고전컴퓨팅을 통합하는 플랫폼 개발도 추진한다.

IBM은 12일(현지시간) 미국 뉴욕주 요크타운 하이츠에서 나이트호크 r3 개발 계획을 발표했다. 새 프로세서는 기존 나이트호크 r2의 연산 구조와 속도를 유지하면서 더 큰 규모의 회로를 처리하는 데 초점을 맞췄다.

나이트호크 r2는 지난 9월 공개된 프로세서다. 120큐비트에서 7500회 이상의 양자 연산을 수행하도록 설계됐으며, 초당 최대 10만개의 샘플을 처리한다. 고속 큐비트 초기화 기술을 적용해 회로 실행 사이의 대기 시간을 줄이고, 수백만~수십억개의 샘플을 수집할 수 있도록 했다.

IBM에 따르면 E.ON, 알고리드믹(Algorithmiq), Q-CTRL 등 고객사와 파트너는 나이트호크 r2에서 지금까지 340억개 이상의 회로를 실행했다. 이 과정에서 기존 IBM 양자 프로세서 대비 최대 19배의 성능 향상을 보고했다. E.ON은 에너지 그리드 최적화용 양자 머신러닝에서 15배의 속도 향상을 기록했다고 밝혔다.

IBM은 올해 초 오크리지 국립연구소와 진행한 자성 물질 시뮬레이션에서도 나이트호크 r2를 활용해 연산 속도를 12배 높였다고 설명했다. 실험 결과는 중성자 산란 실험과 일치했다. 퀀텀 엘리먼츠(Quantum Elements)와 패리티QC(ParityQC)도 자체 작업 부하에서 성능 개선을 보고한 파트너로 소개됐다.

지난 7월 IBM과 파트너들이 수행한 양자 우위 실험은 처음 IBM 퀀텀 헤론(IBM Quantum Heron)에서 진행됐다. 이후 알고리드믹과 수행한 이종 양자 물질 시뮬레이션을 나이트호크 r2로 확장했다. IBM은 새 프로세서의 속도와 연결성을 활용해 회로 실행 시간을 기존 헤론 기반 실험보다 8배 단축했다고 밝혔다. 같은 수준의 정확도를 고전 텐서 네트워크 방식으로 구현하려면 약 240배 많은 메모리가 필요할 것으로 추산했다.

나이트호크 r3는 물리 큐비트 2034개 가운데 520개의 프로그래머블 큐비트를 활용한다. 총 1만회의 양자 연산을 지원하도록 설계됐다. r2의 정사각 격자 연결 구조와 연산 성능을 유지하면서 프로세서 간 연결을 위한 칩 간 연결 장치인 엘 커플러(l-coupler) 10개를 도입한다. 이를 통해 여러 프로세서를 연결하는 모듈형 구조를 구현한다.

IBM은 프로세서 연결에 필요한 기술도 시험했다. 올해 나이트호크 r1 프로세서 연결에 엘 커플러 4개를 사용해 양자 상태 전송 충실도 99.3%를 달성했다. 목표치는 99.9%다. 또 두 개의 극저온 모듈을 하나의 시스템으로 연결했다. 작동 온도에 도달하는 데 5일 이내가 걸렸으며, 냉각 온도는 15밀리켈빈(mK) 미만이었다.

IBM은 2027년 나이트호크 r3 프로세서 2개를 연결해 1040큐비트 단일 시스템을 구축할 계획이다. 프로세서 연결 기술과 극저온 모듈 통합을 바탕으로 연산 규모를 확대한다는 구상이다.

양자컴퓨팅과 고전컴퓨팅을 결합하는 플랫폼도 개편한다. IBM 퀀텀 플랫폼에 고성능컴퓨팅(HPC) 기반 고전컴퓨팅 자원을 통합해 하나의 환경에서 양자 워크플로를 실행할 수 있도록 한다. 사용자는 노트북부터 슈퍼컴퓨터까지 다양한 고전컴퓨팅 자원을 양자 연산 과정에 연결할 수 있다.

IBM과 일본 이화학연구소(RIKEN)는 플랫폼을 활용해 샘플 기반 양자 대각화(SQD) 작업을 기존 연구보다 5배 빠르게 실행했다. 동시에 연산량은 100배 늘렸다. 클리블랜드 클리닉과 이화학연구소도 생물학적으로 중요한 구조를 모델링하기 위해 6억800만개의 샘플을 자동 처리했다. 워크플로 자동화를 적용하지 않은 경우보다 처리 속도가 33배 빨랐다는 게 IBM 측 설명이다.

양자 오류 정정 기능도 강화한다. IBM 퀀텀 플랫폼은 양자·고전컴퓨팅 환경에서 오류를 탐지하고 수정하는 데 필요한 펄스 수준 기능을 제공한다. 연산 타이밍을 조정하고 큐비트를 빠르게 초기화할 수 있다. 양자 측정 과정에서 더 많은 정보를 추출하는 기능도 지원한다. IBM은 이를 통해 오류 정정 연구에 필요한 제어와 관측 범위를 넓힌다는 계획이다.

IBM은 오크리지 국립연구소 및 AMD와 양자 오류 정정용 공동 설계 플랫폼도 구축했다. 나이트호크와 오크리지 국립연구소의 엄브라(Umbra) 고성능컴퓨팅 시스템을 물리적으로 함께 배치했다. 시스템에는 AMD 인스팅트 MI355X 그래픽처리장치(GPU)와 5세대 AMD 에픽(EPYC) 중앙처리장치(CPU)가 탑재됐다.

제이 감베타(Jay Gambetta) IBM 리서치 총괄사장은 “유용한 양자컴퓨팅의 핵심은 정확하고 빠르게 결과를 제공할 수 있느냐에 달려 있으며, 두 요소 모두 필수적”이라며 “나이트호크 아키텍처를 더 크고 강력한 양자컴퓨터로 확장하고 고전컴퓨팅 자원과 통합해 오류내성을 향해 나아갈 것”이라고 말했다.

글. 바일인네트워크
<김원민 기자>wmkim627@byline.network