[김윤수의 퀀텀점프] 이제 한국도 쓴다…양자컴 제대로 알기 <3>

“아무도 달을 쳐다보지 않으면 달은 존재하지 않는 것인가?”

요즘 하루가 멀다고 양자컴퓨터 신기술이 쏟아져나오고 있습니다. 지난해 말 구글이 ‘윌로’를 공개한 지 두달 만에 마이크로소프트(MS)가 ‘마요라나1’, 27일(현지시간)에는 아마존웹서비스(AWS)도 ‘오셀롯’이라는 양자컴퓨터 칩을 국제학술지 ‘네이처’에 발표했습니다. 공통 키워드는 ‘오류정정’입니다. 이제 큐비트라는 계산 용량만 늘릴 게 아니라 오류를 줄여 정확도를 높이겠다는 거죠. 이들의 오류정정 대결을 따라잡기 위해 <2>편을 잠시 되짚어 보겠습니다.

원자나 전자처럼 아주 작은 입자의 위치는 ‘A 지점에 있을 확률 80%, B 지점에 있을 확률 20%’라는 식으로 확률적으로만 알 수 있다고 했습니다. 여기서 말하는 ‘확률’의 의미는 단지 입자를 100번 관측할 때 A 지점에 80번, B 지점에 20번 빈도로 관측된다는 것을 넘어 입자가 관측 전에는 A에 80%, B에 20%씩 구름처럼 퍼져 동시에 존재한다는 것도요. 그러다가 관측되면 이 상태가 무너지고 우리에게 익숙한 A나 B 한곳으로 위치가 정해진다고 했습니다. 입자가 동시에 여러 위치에 있는 ‘양자중첩’ 현상입니다.

맨 처음의 인용문은 알베르트 아인슈타인이 양자중첩이란 아이디어에 반발해 했다는 말로 전해집니다. 입자가 스스로 관측당하는지를 대체 어떻게 알고 관측 전에는 양자중첩 상태로 있다가 관측당하면 즉시 태세를 바꿔 우리에게 익숙한 한곳의 위치를 취한다는 게 말이 되냐는 거죠. 그런 논리라면 지금 하늘에 떠있는 달도 아무도 관측하지 않으면 특정한 위치를 잃는다는 얘기가 됩니다.

양자중첩보다 아인슈타인의 말이 더 상식적인 것 같지만 ‘관측의 영향’을 감안하면 얘기가 달라집니다. 관측은 입자를 빛으로 쬐는 행위입니다. 빛 스스로도 광자라는 입자이기에 원자나 전자처럼 작은 입자는 광자에 쬐면(맞으면) 위치가 변합니다. 관측 자체가 대상을 왜곡시키는 변수라는 거죠. 오히려 관측당하지 않은 입자의 ‘순수한’ 본모습은 여러 위치에 고루 퍼져있는 양자중첩 상태이고 관측이라는 왜곡이 가해지면 이 상태가 붕괴된다고도 말할 수 있겠습니다. 따라서 관측의 의미는 우리가 입자를 인지했다는 것과 무관하게 입자가 광자의 영향을 받았다는 데 있습니다.

마찬가지로 입자는 광자만이 아니라 주변 공기와 같은 다른 입자, 열이나 우주방사선 등에도 상태가 왜곡될 수 있습니다. 만약 달도 이런 외부 영향들로부터 거의 완전히 차단된다면 이론적으로는 양자중첩 상태가 될 수 있습니다. 하지만 쉽지 않겠죠. 큰 물체일수록 외부 영향에 더 쉽고 빈번하게 노출된다는 것은 직관적으로도 이해할 수 있습니다.

광자와 전자, 또 전자를 포함하는 원자는 작아서 상대적으로 양자중첩 상태가 되기 쉽습니다. 하지만 달은 고사하고 원자들이 모여 분자 크기만 돼도 쉽지 않습니다. 노벨 물리학상 수상자 안톤 차일링거는 탄소 원자 60개로 이뤄진 대형 분자인 풀러렌을 양자중첩 상태로 만든 연구가 학계를 놀라게 하기도 했죠. 넷플릭스의 인기 SF 시리즈 ‘삼체’의 원작 소설에서는 우주군(軍)을 살지도 죽지도 않는 ‘양자 유령’으로 만들어 외계문명의 침입에 맞선다는 발상이 나오는데 아직은 말그대로 공상과학(SF)이라고 봐야 할 것 같습니다.

◇‘양자 고양이’ 꺼내든 AWS…빅테크 오류정정 기술 대전

양자컴퓨터도 이 같은 ‘외부 영향’과 싸우고 있습니다. 커다란 냉각장치를 주렁주렁 매단 것도 주변 입자의 움직임을 최소화해 외부 영향을 막기 위해서입니다. 양자컴퓨터는 입자를 0과 1의 디지털 정보를 동시에 갖는 양자중첩 상태 ‘큐비트’로 만들어 빠르게 연산한다고 했죠. 성능을 키우기 위해 더 많은 입자를 사용해 큐비트를 늘릴수록 양자컴퓨터 몸집이 커져 외부 영향에 더 노출될 수밖에 없습니다. 외부 영향으로 큐비트 상태가 왜곡되면 계산 오류를 낳습니다. 현재 양자컴퓨터 오류는 계산 1000번에 1번꼴로 꽤 높다고 하죠.

최대한 큐비트를 유지해 계산 오류를 최소화하는 기술이 오류 정정입니다. 구글의 경우 윌로 칩이 105큐비트인데 궁극적으로는 100만 큐비트를 목표로 하니 앞으로 빅테크 간 레이스가 아직 한참 남았다고 볼 수 있습니다. 구글이 집중하는 기술은 ‘논리적 큐비트’입니다. 논리적 큐비트는 실제로는 여러 큐비트가 하나의 계산을 담당하는 방식입니다. 큐비트 1개만 쓰면 오류 위험이 크니까 여러 개에 같은 계산을 맡겨 서로 크로스체크시킨다고 볼 수 있죠. 실제 동원되는 큐비트들을 물리적 큐비트, 이들이 삼삼오오 모여 구현하는 실질적인 계산 단위를 논리적 큐비트라고 합니다.

논리적 큐비트가 오류를 쉽게 줄일 것 같지만 대신 더 많은 연산 자원(물리적 큐비트)을 동원해야 한다는 딜레마가 있습니다. 더 많은 물리적 큐비트를 동원한다는 것은 양자컴퓨터 몸집이 커져 외부 영향에 더 민감해진다는 모순이 발생하는 거죠. 구글은 윌로 관련 블로그 게시글를 통해 “격자(논리적 큐비트를 이루는 물리적 큐비트들의 집합)가 클수록 논리적 큐비트가 점점 보호되고 성능이 향상될 것으로 예상된다”면서도 “하지만 격자를 더 크게 만들면 오류 가능성도 더 커진다는 미묘한 점이 있다”고 언급하기도 했습니다.

해법은 물리적 큐비트 자체의 오류율을 ‘일정 수준’ 아래로 낮추면 이들이 모인 논리적 큐비트도 오류율 제어가 가능하다는 것이고 그 일정 수준, 즉 임계값 미만 오류율을 사상 최초로 달성한 양자 칩이 바로 윌로라는 게 구글의 설명입니다. 구글은 네이처 논문을 통해 구체적으로 3X3격자(17큐비트)→5X5격자(49큐비트)→7X7격자(97큐비트)로 규모가 커질 때마다 오류율이 2.14배씩 감소했다고 큐비트 유지시간도 기존 20μs(마이크로초·1000분의 1초)에서 55~81μs로 늘었다고 밝혔습니다.

후발주자인 AWS는 이런 논리적 큐비트도 여전히 한계고 지적하다며 새로운 무기 ‘고양이 큐비트’를 꺼내들었습니다. 논리적 큐비트의 오류를 줄이려면 지나치게 많은 물리적 큐비트가 동원돼야 하는데 고양이 큐비트 방식이 이 부담을 크게 개선할 수 있다는 거죠. 고양이 큐비트는 아직 보편화한 기술이 아니라 기자에게도 낯선 게 사실입니다. ‘앨리스&밥(Alice&Bob)’이라는 프랑스 양자컴퓨터 스타트업이 주도적으로 개발 중이라고 하는데요. 요약하자면 0과 1의 양자중첩 상태를 이중으로 가진 큐비트입니다. 나이브하게는 ‘0과 1의 중첩’과 ‘1과 0의 중첩’이 겹쳐 0과 1이 뒤바뀌어도 전체 상태가 변하지 않는다고 이해됩니다.

잠시 부연하자면 큐비트는 외부 영향으로 ‘비트 플립’과 ‘위상 플립’이라는 두 가지 오류가 생길 수 있습니다. 비트 플립은 큐비트의 0과 1이 뒤바뀌는 현상입니다. 큐비트가 0과 1의 상태를 동시에 갖는다고 해도 각각의 확률은 다르기 때문에 0과 1이 뒤바뀌면 전혀 다른 큐비트가 됩니다. 앞서 예로 든 입자가 ‘A 지점에 80%, B 지점에 20%’에 있는 것과 ‘B 지점에 80%, A 지점에 20%’ 있는 것이 서로 다른 것처럼요.

반면 ‘A 지점에 80%, B 지점에 20%’와 ‘B 지점에 80%, A 지점에 20%’의 중첩 상태를 이중으로 가져서 A와 B를 바꿔도 전체 상태는 유지되는 것이 고양이 큐비트의 원리입니다. 비트 플립을 막을 수 있다는 거죠. 이를 통해 비트 플립은 배제하고 위상 플립이라는 변수에만 집중해 더 효율적으로 오류를 줄일 수 있다는 게 AWS의 설명입니다. 결과적으로 필요한 물리적 큐비트를 줄여 “오류 정정 비용을 현재 접근 방식에 비해 최대 90% 줄일 수 있다”고 합니다.

MS의 마요라나1은 외부 영향을 덜 타는 신소재 ‘토포컨덕터(위상초전도체)’로 접근합니다. 반도체 물질인 인듐비소와 초전도체 물질인 알루미늄을 원자 단위에서 결합한 소재로, 극저온에서 고체·액체·기체와 다른 토폴로지(위상적) 상태를 만들어 큐비트를 안정화한다는 설명입니다.

구글·AWS·MS의 양자컴퓨터가 모두 초전도체 방식이라면 이와는 또 다른 기술도 있습니다. 27일 SK텔레콤과 인공지능(AI)·양자컴퓨터 분야 전략적 제휴를 맺은 미국 기업 아이온큐가 대표적입니다. 아이온큐는 큐비트를 일종의 전기적 덫(트랩)에 가둬 외부 영향으로부터 보호하는 ‘이온트랩’ 기술을 내세웁니다. 극저온이 필요한 초전도체와 달리 상온 작동이 가능하다는 것이 장점으로 꼽히죠. 비슷하게 움푹 팬 홈으로 공이 굴러떨어져 갇히듯 전자기장 조절을 통해 일종의 전기적 홈을 만들어 입자를 가두는 ‘광학 격자’ 등 다양한 기술이 활발히 연구되고 있습니다.

사실 양자컴퓨터 원리를 길게 설명하면서 언급하지 않은 개념이 있습니다. 물리적 큐비트를 그룹화해 하나의 논리적 큐비트로 만든다는 것은 물리적 큐비트들이 서로 연동된다는 말로 들립니다. 논리적 큐비트가 아니더라도 대규모 연산에 큐비트들 간 연동이 필요하죠. 다음 주제는 양자중첩과는 또다른 현상이자 양자컴퓨터·양자인터넷 등에 필수적인 ‘양자얽힘’입니다.