미국 IBM이 개발한 ‘퀀텀 시스템 원(IBM Quantum System One)’이란 컴퓨터가 있다. 우리가 일상적으로 사용하는 컴퓨터(이하 ‘고전 컴퓨터’)가 아니라 이른바 ‘양자 컴퓨터’다. 지금의 ‘슈퍼 컴퓨터’로도 감당할 수 없는 규모의 연산을 훨씬 빠른 속도로 수행할 수 있다고 한다. 대다수 시민들에게 아직 익숙하지 않은 양자 컴퓨터란 기술이 실험실을 뛰쳐나와 실용적 활용의 시작 단계에 이른 것이다.

연세대학교는 지난해 11월, 송도 국제캠퍼스에 설치한 양자 컴퓨터를 공개했다. 연세대로선 앞으로 형성될 국내 양자 기술 및 산업생태계에서 ‘허브’ 지위를 선도적으로 확보하겠다고 선언한 셈이다. 이 사업을 주도해온 연세대 양자사업단의 단장인 정재호 의과대 외과학 교수를 만났다.

양자 컴퓨터가 뭔가? 현재 사용 중인 PC, 스마트폰, 태블릿(‘고전 컴퓨터’) 등과의 차이는?

비유로 설명하겠다. 당신이 하늘을 비행 중인 항공기를 자주 보고 싶다고 치자. 그 확률을 높이려면 무엇을 어떻게 해야 할까?

구름을 걷어내야 하나. 고성능 망원경을 갖고 다니면서 수시로 하늘을 바라볼까?

훨씬 좋은 방법이 있다. 비행기가 가장 많이 출몰하는 곳으로 가라. 공항 근처다. 인천공항 부근에선 거의 5분에 한 대씩 볼 수 있다.

맞다. 그런데 비행기 보는 것과 컴퓨터 사이에 무슨 관계가 있나.

나는 당신에게 ‘비행기를 가장 자주 볼 수 있는 곳은 어디일까’라는 문제를 제출한 셈이다. 그 정답을 찾기 위한 연산(계산)을 컴퓨팅이라고 할 수 있다. 이제 고전 컴퓨팅과 양자 컴퓨팅이 이 문제를 어떻게 푸는지 비교해보자. 고전 컴퓨팅이라면 서울 강남, 신촌, 대구, 광주, 춘천 등 수많은 지역을 ‘순차적으로 하나씩’ 방문(연산)할 것이다. 그러다 보면 언젠가 ‘인천공항의 비행기 관측 확률이 가장 높다’는 정답을 찾게 된다.

양자 컴퓨팅에서는 수많은 지역의 비행기 관측 가능성을 한꺼번에(동시에) 고려한 뒤 인천공항의 확률이 가장 높다고 판단한다. 양자 컴퓨팅은 ‘정답의 확률이 가장 높은 곳으로 당신을 데려가는’ 기술이다. 연산량이 비약적으로 줄어든다.

고전 컴퓨터로는 하나씩 차례로 탐색하는데 양자 컴퓨터는 한꺼번에 처리한다니 연산량이 매우 줄긴 하겠다. 그 능력은 어디서 나오는가.

‘중첩(superposition)’ 같은 ‘양자 세계(원자 및 이를 구성하는 전자, 양성자 등 아주 작은 입자들의 세계)’의 물리학적 현상에서 비롯된다. ‘중첩’ 등의 ‘양자 현상’들을 잘 활용해서 알고리즘을 정교하게 설계하면 연산 속도를 엄청나게 향상시킬 수 있다. 양자 세계는 극미(極微)하지만 너무나 큰 세상이기도 하다(편집자 주: 이후 10~20년 안으로 양자 컴퓨팅의 연산 속도가 특정 부문에서는 고전 컴퓨터보다 수백~수천 배, 심지어 수백만 배에 이를 것으로 추정하는 과학자들도 있다).

그 기술이 어마어마한 규모의 연산이 필요한 인공지능(AI)과 결합하면 어떻게 될까.

이론적으로는, AI의 학습 및 가속화가 지금과 차원이 다를 정도로 촉진되어 훨씬 고성능의 AI가 출현할 것이다. 또한 양자 컴퓨팅은 이후 AI 발전에 따라 늘어날 에너지 소모와 비용을 줄이는 데도 기여할 수 있다.

GPT-3(오픈AI가 2020년에 내놓은 대규모 언어모델. 챗지피티는 GPT 시리즈의 응용 프로그램)의 파라미터가 약 1750억 개였다. GPT-4의 그것은 수천억 개에서 수조 개로 추정된다(편집자 주: GPT 같은 언어모델은 ‘y = ax + b’ 같은 방정식의 집합이다. 여기서 a가 파라미터인데 한국어로는 ‘계수’라고 부른다. AI의 ‘학습’은 현실 세계의 데이터를 방정식에 대입해 연산하면서 파라미터를 바꿔나가는 과정이다. 그렇게 조정해야 하는 파라미터가 수천억 개에서 수조 개에 이른다면 얼마나 많은 연산이 필요할까).

AI는 결국 연산이다. 이렇게 학습시킨 덕분에 요즘 우리가 쓰는 수준의 AI가 나온다. 데이터센터에서 수천, 수만 개의 GPU(AI의 학습에 주로 활용되는 고성능 연산장치로 전력 소모량이 크다)를 장기간 돌리며 연산한 결과다. 연산량이 늘어날수록 이에 필요한 전력 소비량도 증가한다. 이재명 정부의 공약인 ‘모두의 AI’를 실현하려면 더 많은 전력이 필요할 것이다. 양자 컴퓨팅을 활용하면 AI의 성능을 유지하면서 연산량과 이에 따른 전력 소비를 확 줄일 수 있다.