“90비트 소인수분해 성공”…양자컴으로 해킹 진짜 될까 [김윤수의 퀀텀점프]

이번주 2300만 가입자를 보유한 SK텔레콤의 서버 해킹 사고가 알려지면서 나라가 떠들썩했죠. 이 와중에 한 외신 기사가 눈에 띄었는데요. 양자컴퓨터가 현대 암호의 근간인 ‘큰 수의 소인수분해’를 해냈다는 내용입니다. 인공지능(AI) 같은 신기술의 등장으로 해킹 기술이 날로 발전하는 상황에서 양자컴퓨터의 위협까지 현실이 될지 주목됩니다(참고: [김윤수의 퀀텀점프] 양자컴에 비트코인 휘청이는 이유).

외신 사우스차이나모닝포스트(SCMP)는 22일(현지 시간) 왕차오 중국 상하이대 교수 연구팀이 ‘디웨이브퀀텀’의 양자컴퓨터를 사용해 90비트짜리 RSA 수를 소인수분해하는 데 성공했다고 보도했습니다. 90비트는 숫자 0이나 1이 90개 나열된 90자리 이진법 수, 이를 우리에게 익숙한 십진법 수로 환산하면 최대 27자리 숫자가 됩니다.

이처럼 큰 수는 직접 계산은 물론 슈퍼컴퓨터로도 쉽지 않다고 했죠. 잠시 설명하자면 소인수분해는 어떤 수를 2, 3, 5, 7, 11, 13, 17, 19… 등 더 이상 나눠지지 않는 소수(素數)들의 곱으로 표현하는 계산입니다. 가령 91을 소인수분해하려면 2, 3, 5, 7…로 차례로 나눠본 후 그중 7로 나눠지고 몫은 13이 된다는 것을 확인해 7 X 13이라는 결과를 내는 과정을 거칩니다.

다만 숫자가 커질수록 소인수분해 난이도는 급상승합니다. 가령 151709 = 211 X 719이란 것과 211과 719가 각각 소수라는 것을 알아내기는 어렵습니다. 슈퍼컴퓨터는 이 계산을 쉽게 해내겠지만 계산법은 사람과 다르지 않아서 훨씬 더 큰 수를 만나면 결국 같은 한계에 부딪히게 됩니다. 현재 널리 쓰이는 RSA 암호는 큰 수의 소인수분해가 어렵다는 점을 응용합니다. 큰 수를 소인수분해해야만 암호를 풀 수 있게 만드는 거죠.

양자컴퓨터는 0과 1의 디지털 정보를 동시에 처리하는 큐비트 단위로 빠른 병렬 연산이 가능하죠. 이론적으로는 소인수분해 역시 병렬 연산을 통해 기존 슈퍼컴퓨터보다 빠르게 풀 수 있습니다. 슈퍼컴퓨터보다 ‘비교적 짧은 시간’ 안에 계산을 해낼 수 있는 양자컴퓨터 알고리즘 ‘쇼어 알고리즘’이 이미 존재하고요. 구글 연구팀은 2000만 큐비트 성능의 양자컴퓨터로 2048비트, 즉 600여자리 숫자의 매우 큰 수를 8시간 안에 소인수분해할 수 있다는 논문을 2019년 발표하기도 했습니다.

다만 그렇다고 현재 시중에 나온 양자컴퓨터가 실제로 큰 수의 소인수분해를 해낼 수 있는 것은 아닙니다. 현실적으로 큐비트 수의 한계는 물론 양자컴퓨터를 얘기할 때 늘 부연설명했던 노이즈, 즉 계산 오류의 문제가 있기 때문입니다. 이런 상황에서 현존 양자컴퓨터를 사용해 비교적 큰 수인 90비트 수를 소인수분해해냈다는 소식이 눈에 띕니다. SCMP는 이것이 “얼마 전까지만 해도 불가능하다고 생각됐던 성과”라고 강조했죠. 특히 디웨이브퀀텀의 독자 기술로 자주 언급되는 계산 최적화 기법 ‘양자 어닐링’을 활용했다는 설명입니다.

현재 RSA 암호에 널리 쓰이는 수는 ‘RSA-2048’라 불리는 2048비트짜리, 십진법으로는 617자리 수입니다. 당장 90비트 수를 소인수분해하는 능력으로는 현대 암호가 위협받는다고 말할 수는 없겠죠. 다만 양자컴퓨터의 성능 발전에 따라 해킹 위협도 점점 커질 수밖에 없어 보입니다. 암호화폐인 비트코인 투자자들이 양자컴퓨터 업계를 특히 신경쓰는 이유이기도 하죠.

물론 소인수분해 대신 새로운 방식으로 양자컴퓨터에 대항하는 ‘양자내성암호(PQC)’ 기술 발전까지 감안하면 마냥 비관적이지만은 않습니다. 이미 우리 정부도 이달 14일 국가 암호체계를 PQC로 전환하기 위한 사업에 착수하는 등 전 세계적으로 PQC 도입 움직임이 활발해지고 있습니다. 정부는 특히 국민 생활과 밀접한 에너지, 의료, 행정 분야의 정보통신 인프라에 PQC를 적용하기 위해 분야별로 한전KDN 컨소시엄, 라온시큐어 컨소시엄, LG유플러스 컨소시엄을 선정했습니다. 가령 한전KDN 컨소시엄은 한국전력공사의 ‘전력 사용량 원격 검침 시스템’에 PQC를 적용할 예정이죠. 조만간 양자암호의 창(양자컴퓨터)과 방패(PQC) 간 맞대결이 중요한 관전포인트가 될 것 같습니다.