신약 개발, 재료 설계, 기초 물리학 등에 필요한 다양한 계산을 순식간에 해치우는 꿈의 컴퓨터. 바로 양자컴퓨터다. 선진국과의 격차가 너무 커 추격에 어려움을 겪고 있는 분야지만 우리에게도 최신 양자컴퓨터가 생겼다. 최근 연세대에서 가동을 시작한 IBM 퀀텀 시스템 원(Quantum System One)이 그 주인공이다.

사립대학교가 대규모 자본투입이 필요한 양자컴퓨터를 도입한 것은 그 자체가 대단한 도전이다. 제조사인 IBM과 사용자인 연세대 모두 사용료에 대해서는 함구하고 있지만, 상당한 금액을 지불해야 한다는 것은 당연한 일이다. 덕분에 우리도 최신 양자컴퓨터의 성능을 직접 활용할 수 있게 됐다. 우리가 직접 개발한다면 그 시간은 걸리겠지만 비용은 적게 들 수 있다. 반면 그만큼의 기회비용과 시간이 소요된다. 무엇이 정답인지는 알 수 없다. 이제 이 컴퓨터를 잘 활용해 투입된 비용 이상의 높은 성과를 내는 것이 중요해졌다. 아울러 최신 양자컴퓨터의 상황도 정확히 파악해야 하는 숙제도 생겼다.◇한국도 본격 양자컴 시대 개막= IBM이 연세대 송도캠퍼스에 설치한 양자컴퓨터 ‘IBM 퀀텀 시스템 원’은 미국, 캐나다, 독일, 일본에만 설치돼있었다. 한국이 5번째 설치 국가다. 현장에서 바라본 양자컴퓨터는 유리 외벽에 둘러싸여 있어 마치 박물관에 전시된 미술 작품을 보는 듯했다. 지금껏 보아온 양자컴퓨터 모형들이 샹들리에와 같은 모양을 하고 있었던 것과 크게 비교됐다. 이 컴퓨터는 127큐비트 IBM 퀀텀 이글 프로세서로 구동된다. 이 컴퓨터는 여러 양자컴퓨터 구현 방식 중 초전도체 방식을 사용한다. 당연히 -237도를 유지하기 위해 다양한 냉각장치가 컴퓨터 주변에 함께 가동된다. 건물 외부에도 냉각을 위한 시스템이 있다.

표창희 한국IBM 상무는 "2의 127제곱에 해당하는 연산을 동시 처리할 정도로 빠른 계산 속도를 가지고 있으며 양자 유용성 단계의 성능을 보유한 양자컴퓨터"라고 설명했다. 정재호 연세대 양자사업단도 "100큐비트를 넘긴 양자컴퓨터의 성능은 슈퍼컴퓨터도 따라잡을 수 없는 정도"라고 강조하며 바이오, 특히 신약 개발 분야에 엄청난 기여를 하게 될 것이라고 기대했다.

IBM은 양자컴퓨터 분야에서 단연 선두에 있는 기업이다. 지난해에는 이미 1000큐비트를 돌파하는 ‘콘도르’ 프로세스를 공개해 양자 업계를 깜짝 놀라게 했다. IBM은 매년 2배씩 빨라지는 양자 프로세서를 공개해왔다. 비슷한 시기 국내에서는 이제서야 20큐비트의 컴퓨터를 개발하는 프로젝트가 진행되고 있던 것과 비교하면 격차가 엄청나다.IBM은 올해 국내에서 퀀텀 시스템 원을 공개하기 이전에도 빅 뉴스를 발표했다. 지난해 발표한 ‘헤론’ 양자 프로세서를 통해 특정 클래스의 양자 회로를 최대 5000개의 2큐비트 게이트 연산까지 정확하게 실행할 수 있게 한 것이다. 헤론 프로세서는 양자컴퓨터의 문제인 오류 해결에 주력한 프로세서다. 국제 학술지 네이처(Nature)지에 게재된 2023년 유용성 실험에서는 데이터당 처리 시간이 총 112시간 소요됐으나 이번에는 50배 빠른 2.2시간 만에 완료했다. 표창희 상무는 3년 내에 양자컴퓨터가 현재 사용되는 슈퍼컴퓨터를 앞서는 양자우위(Quantum Supremacy)가 벌어질 것이라고 전망했다. IBM은 10만큐비트 규모의 양자 슈퍼컴퓨터 개발이라는 야심 찬 계획도 추진 중이다.◇양자에 AI 탑재한 구글= 발전은 IBM에서만 이뤄진 것은 아니다. 오히려 더 큰 뉴스가 인공지능(AI)으로 노벨상을 받은 구글에서 나왔다. 구글이 최근 공개한 ‘알파큐빗(AlphaQubit)’ 시스템이다. 네이처에도 발표된 이 시스템은 구글딥마인드와 퀀텀AI 팀이 공동 개발한 것이다. AI 기반 디코더 시스템으로 양자컴퓨터의 가장 큰 난제인 오류 정정 문제에 획기적인 해결책을 제시했다. 양자컴퓨터는 계산이 거듭될수록 오류가 쌓인다. 노이즈에 취약한 탓이다. 이를 위해 구글은 최신 거대언어모델(LLM)에 사용되는 트랜스포머(transformer) 모델을 꺼내 들었다. 트랜스포머는 구글이 개발한 방식으로 AI 발전에도 중대한 전기를 마련했다. 알파큐빗은 기존 방식 대비 오류 감지 정확도를 50% 이상 향상시켰으며 이는 실용적인 양자컴퓨터 구현을 크게 앞당길 것으로 평가받고 있다.

최근 양자 분야에서 다크호스도 등장했다. 바로 엔비디아다. AI 발전에 결정적인 역할을 한 엔비디아는 최근 미국 애틀랜타에서 열린 SC24 행사에서 양자 분야에 대한 관심을 적극 표명했다. 젠슨 황 엔비디아 최고경영자와 이언 벅 가속 컴퓨팅 부문 총괄 겸 부사장이 직접 구글, 아이온큐와의 협력을 밝혔다. 엔비디아의 쿠다Q 기술을 활용해 양자오류 문제를 해결하는 계산을 도움 받는 형식이다. 이 방식은 양자우위를 강조하는 양자진영 측이 슈퍼컴의 지원이 필요함을 현실적으로 인정하고 있음을 보여준다. 강력한 GPU를 사용하는 슈퍼컴퓨터가 없다면 조기에 정확한 양자컴퓨터를 설계하는 게 어렵다는 의미다.

◇양자컴과 슈퍼컴의 융합= 전통적인 슈퍼컴퓨터가 대규모 병렬 처리로 복잡한 연산을 수행한다면 양자컴퓨터는 양자역학적 특성을 활용하여 특정 문제를 혁신적으로 해결한다. 현재 최고 성능의 슈퍼컴퓨터인 로런스리버모어국립연구소의 엘 캐피탄은 초당 1.73엑사플롭스의 연산을 처리할 수 있다. 전 세계에서 현재 이 컴퓨터보다 빠른 컴퓨터는 없다. 하지만 양자컴퓨터는 암호화, 신약 개발, 기후 모델링 등 특정 영역에서 슈퍼컴퓨터를 뛰어넘는 잠재력을 보유하고 있다. 이 때문에 상호보완 가능성도 부각되고 있다.

IBM의 양자-중심 슈퍼컴퓨팅 비전은 양자컴퓨터와 슈퍼컴퓨터의 장점을 결합해 새로운 차원의 컴퓨팅 성능을 달성하려는 시도다. 이는 양자컴퓨터와 기존의 고전 컴퓨터를 효과적으로 결합하는 하이브리드 접근법으로, 실용적인 문제 해결에 초점을 맞추고 있다. 또 다른 양자컴퓨터 업체 아이온큐가 선보인 하이드리드 양자컴퓨터도 비슷한 방식이다.​