양자컴퓨터는 기존 디지털 컴퓨터가 수행할 수 없는 작업을 해낼 것으로 기대되지만 양자컴퓨터의 정보 단위인 큐비트(qubit)의 정보가 빠르게 손실돼 오류가 발생하는 것이 주요 해결 과제다. 국내 연구팀이 독자적으로 세계 최고 수준의 광기반 양자컴퓨터 오류정정 기술을 개발하는 데 성공했다.

한국과학기술연구원(KIST)은 이승우 양자기술연구단 책임연구원팀이 새로운 방식의 양자 오류정정 기술을 개발하고 이를 기반으로 결함허용 범용 양자컴퓨팅 아키텍처를 설계하는 데 성공했다고 29일 밝혔다. 범용 양자컴퓨터 선두 기업인 사이퀀텀(PsiQuantum)의 최근 기술을 뛰어넘을 수 있다는 성능 입증 결과도 나왔다. 연구결과는 8월 1일 국제학술지 '피지컬 리뷰 레터스'에 공개됐다.

범용 양자컴퓨터(Universal Quantum Computer)는 고전 컴퓨터처럼 임의의 알고리즘을 입력해 연산을 수행할 수 있는 컴퓨터다. 양자컴퓨팅의 정보 단위인 큐비트는 외부 영향에 취약해 잡음이나 오류가 쉽게 발생한다. 하지만 큐비트 하나의 오류를 아무리 줄이더라도 컴퓨팅 시스템의 규모가 커질수록 오류가 누적돼 유용한 알고리즘을 구현하기 어렵다. 
예를 들어 1회 연산의 정확도가 99%라고 하더라도 이를 100번만 반복하면 정확도가 36% 수준으로 떨어진다. 실용적인 범용 양자컴퓨터를 개발하기 위해서는 큐비트의 양자 오류를 정정할 수 있는 기술이 반드시 필요한 상황이다. 최근 범용 양자컴퓨터 개발을 이끄는 구글이나 AWS, 미국 하버드대 등 글로벌 기업과 연구 그룹이 모두 양자 오류정정 기술 개발에 집중하는 이유다.

양자 오류정정 기술이 적용되는 결함허용(fault-tolerance) 범용 양자컴퓨터의 성능은 '결함허용 임계값(thresholds)'으로 비교할 수 있다. 결함허용 임계값은 임계값 이하의 큐비트 오류 발생률에서는 오류가 누적되지 않도록 해 전체 연산의 오류를 이론적으로 0에 가깝게 만들 수 있는 한계값을 말한다. 임계값이 높을수록 오류정정 성능이 우수하다고 볼 수 있다.
양자 오류정정은 여러 개의 물리적 큐비트나 한 차원 높은 양자 상태에 정보를 입력해 오류를 발견하고 수정하는 기술이다. 광기반 양자컴퓨팅의 글로벌 선두 기업인 사이퀀텀(PsiQuantum)은 '퓨전 기반(Fusion-based) 양자컴퓨팅'이라는 자체 개발 기술을 활용해 결함허용 임계값 2.7%를 달성했다. 연구팀은 여기서 한 층위를 더 추가해 오류정정 성능을 높인 '입력 퓨전(Encoded fusion)' 기법을 활용해 양자컴퓨팅 구조를 설계했다.

연구팀이 개발한 방식은 실험 결과 임계값이 최대 14%까지 구현 가능하다는 것이 확인됐다. 현재 전 세계 광기반 범용 양자컴퓨팅 시스템에서 가장 높은 기록이다. 광기반 양자컴퓨팅의 자원인 광자(빛 입자)를 같은 양 소모했을 때 사이퀀텀의 방식보다 자원 효율성도 높았다.

연구팀은 양자컴퓨팅 후발 주자로서 선두를 추격할 핵심 기술이 양자 오류정정이라고 판단해 10여 년 전부터 독자적으로 양자 오류정정 연구를 수행해 왔다. 연구결과와 관련된 국내외 특허 출원은 모두 마친 상태다.

이승우 책임연구원은 "반도체 칩 설계처럼 양자컴퓨터도 구조 설계가 중요하다"며 "1000개의 큐비트가 있어도 오류정정이 되는 구조가 아니면 한 단위의 연산도 어렵다"고 말했다. 이어 "양자컴퓨팅 실용화는 아직 시간이 필요하지만 그 시기를 앞당기는 데 기여한 연구"라고 밝혔다.