퀀티뉴엄(Quantinuum)이 양자컴퓨터를 활용해 위상수학 분야에서 난제로 꼽힌 매듭 이론(knot theory)을 양자 알고리즘으로 계산하는 데 성공했다.

이는 그동안 이론으로만 존재하던 알고리즘이 처음으로 실제 양자 하드웨어에서 구현된 사례다. 처음으로 양자컴퓨터가 단순 성능평가가 아닌 실제 의미 있는 수학 문제를 다룰 수 있음을 실험적으로 보여준 사례라는 평가다.

12일 퀀티뉴엄은 '적은 양자 연산으로, 더 큰 이점(Less Quantum, More Advantage)'이라는 논문을 아카이브에 게재했다.해당 논문은 양자컴퓨터 H2-2를 활용해 매듭 이론의 핵심 계산 문제인 존스 다항식(Jones Polynomial)을 계산한 결과를 담고 있다. 퀀티뉴엄은 이를 통해 매듭의 위상학적 특성을 구별해내는 데 성공했다고 밝혔다.

네이처 등 과학전문 저널은 해당 연구가 단순한 속도 평가나 샘플링 테스트를 넘어 양자컴퓨터가 실제로 복잡한 수학 문제를 해결하는 데 사용될 수 있다는 가능성을 보여준 첫 사례 중 하나로 주목했다.

매듭 이론은 한 줄의 폐곡선이 3차원 공간에서 어떻게 엉킬 수 있는지를 수학적으로 분석하는 분야다. 이때 매듭의 구조를 정량적으로 구별하기 위해 사용되는 대표적인 계산식이 바로 존스 다항식이다.

매듭의 교차 방식에 따라 계산되는 이 다항식은 수학, 물리학, 생물학을 비롯해 DNA 구조 분석에서도 핵심적인 역할을 한다.

다만 이 다항식을 계산하는 과정은 매우 복잡하다. 특히 매듭의 교차점 수가 많아질수록 경우의 수는 기하급수적으로 증가하며, 존스 다항식을 정확히 계산하는 문제는 #P-하드(#P-hard)로 분류된다. 고전 컴퓨터로는 실용적인 시간 내에 해답을 구하기 어려운 문제라는 뜻이다.

퀀티뉴엄은 이번에 해당 알고리즘을 실제 하드웨어에 맞춰 구현하고, 교차점이 최대 600개에 이르는 복잡한 매듭의 존스 다항식을 계산하는 데 성공했다. 연구진은 매듭의 교차 패턴을 양자 연산 시퀀스로 변환하는 알고리즘을 구축하고 이를 양자컴퓨터 H2-2에서 실행해 측정된 확률값을 바탕으로 다항식 근사값을 추출했다고 밝혔다.

논문에 따르면 이 과정에서 최대 16개의 큐비트와 340개의 2-큐비트 양자 게이트를 포함한 회로가 사용됐으며, 다양한 종류의 에러 완화 기법이 적용됐다.

대표적으로 양자 상태 중 유효한 계산만을 유지하고 나머지를 제거하는 '피보나치 기반 상태 제한', 위상 오류를 줄이는 '켤레 트릭(Conjugate Trick)', 비정상 상태를 검출해 배제하는 '비피보나치 오류 검출' 등의 기법이 활용됐다.

퀀티뉴엄 연구진은 고전 컴퓨터 기반의 텐서 네트워크 알고리즘(mpo-proj)과 양자 알고리즘(cfev)을 비교해, 양자컴퓨터가 계산 시간, 메모리, 에너지 효율 면에서 우위를 가질 수 있음을 정량적으로 분석했다.

연구 결과에 따르면 교차점 수가 2천400~3천개 이상의 매듭의 경우, 양자 알고리즘이 고전 방식보다 더 적은 시간과 메모리, 에너지로 계산을 수행할 수 있었다. 특히 고전 알고리즘은 복잡도가 높아질수록 메모리 사용량이 급증해 실행 불가능한 경우가 발생한 반면, 양자 알고리즘은 비교적 안정적으로 계산을 수행했다.

이번 연구가 주목받는 이유는, 단순히 양자컴퓨터가 빠르다는 시연이 아니라 실제 수학적 난제를 계산 가능하게 만들었다는 점에 있다.

지금까지 발표된 여러 양자우월성 실험들은 대부분 양자컴퓨터에 유리하게 설계된 특수한 샘플링 문제를 대상으로 했다.

반면 퀀티뉴엄은 수학, 물리, 생물학 등 다양한 분야에서 실질적 응용이 가능한 문제를 양자 알고리즘으로 계산했고, 고전 알고리즘과의 비교 분석을 통해 양자의 실질적 효용성을 검증하려는 노력을 병행했다.