애플보다 100배 빠른 ‘동형암호’ 기술로 글로벌 시장 공략

[연중 기획 혁신창업의 길] R&D 패러독스 극복하자 〈91〉 천정희 크립토랩 대표

올해 잇따른 연쇄 해킹으로 IT 강국의 허술한 보안 현실이 드러났다. 보안이냐 편리함이냐. 기업들은 줄곧 두 방향을 놓고 고민에 빠지곤 했다. 데이터를 암호화하면 안전하지만, 정작 이를 활용하려면 암호를 해제하는 복호화(decryption) 과정을 거쳐야 해 시간도 지체되고 또다시 보안 위협에 노출될 수 있어서다.

서울대학교 수학과 교수로 있는 천정희(56) 대표가 세운 크립토랩은 이같은 해묵은 딜레마에 대한 해법, ‘동형암호’ 기술을 보유한 스타트업이다. 동형암호는 복호화를 거치지 않고 암호화한 상태에서 데이터를 연산 등에 활용할 수 있는 기술이다. 이론상으로는 등장한 지 60년도 더 된 개념이지만, 실제 활용에는 기술적 한계가 있었다.

암호 풀지 않고도 데이터 활용

보안·속도 다 잡은 차세대 기술

“개발한 기술 보호 위해 창업”

서울대 교수직과 사업화 병행

천 대표는 2016년 산업에 적용 가능한 4세대 동형암호를 개발해 이듬해 논문으로 발표했고, 2018년 크립토랩을 세워 본격적인 기술의 사업화에 나섰다. 미국 구글·마이크로소프트·IBM과 중국 알리바바 등 글로벌 기업들이 자체적으로 동형암호 개발에 뛰어든 상황. 크립토랩은 최신 4.5세대 기술을 세계 최초로 구현하며 경쟁에서 가장 앞서 있다는 평가를 받고 있다. 회사는 지난달 대전 KAIST에서 열린 ‘혁신창업국가 대한민국 국제포럼’에서 중소벤처기업부 장관상을 받았다. 지난 13일 서울 관악구 서울대학교에서 천 대표를 만났다.

창업에 뛰어든 수학자

동형암호 연구, 어떻게 시작했나.

“박사 때까지 순수수학인 정수론을 연구했다. 가우스 등 수학 거장들이 2000년 넘게 쌓아온 성과를 넘어설 수 없겠다는 한계를 늘 느껴왔다. 2011년 서울대 정교수가 된 이후, 본격적으로 동형암호 연구를 시작했다. 암호를 풀지 않고 데이터를 활용할 수 있다는 발상이 매력적이었다. 또 가우스 시대엔 없었던, 현대 문제를 정수론을 통해 풀 수 있다는 점에서 ‘실패해도 좋은, 평생 바칠 만한 도전을 하자’는 마음으로 이 연구를 택했다.”

창업 계기는.

“개발한 기술을 보호하기 위해서 창업했다. 학교 시스템 안에서는 어려웠다. 원천 특허는 낼 수 있어도 산업 특허는 교수나 학생 개인이 추진하기 어려웠다. 또 서울대의 경우 당시 한 해 4건 이상부터 특허 심사 지원을 해주지 않았다. 하루가 급한 기술 경쟁 속에서 이런 구조로는 연구 성과를 지킬 수 없었다.”

30년 가까이 연구자였는데, 두려움은 없었나.

“처음엔 창업할 생각이 없었다. 기술을 받아 줄 회사를 찾으며 친엄마의 마음으로 기업들을 찾아다녔다. 그러나 좋은 기술이지만 실제 사업화까진 최소 5~10년은 걸린다며 모두 손을 들었다. 결국 내가 직접 해야겠다고 마음먹었다. 처음 2년(2018~2019년)은 거의 혼자 연구·개발하며 핵심 특허를 냈고, 산업 현장에서 쓰일 수 있는 동형암호 기술의 기반을 다졌다.”

“고객이 정답이더라”

기술 사업화에서 어려웠던 점은.

“좋은 기술이라고 고객이 바로 생기는 건 아니었다. 4세대 동형암호 알고리즘을 발명하면서 동형암호는 이미 실시간으로 구동하는 수준이 됐다. 그러나 정작 산업 현장에선 잘 쓰이지 않았다. 이유를 고민하다가 기술이 아무리 좋아도 도입이 복잡하거나 시간이 오래 걸리면 외면당한다는 점을 알게 됐다.”

천 대표는 창업 후에도 6년간 연구개발에 몰두했다. 고객이 기존 보안 방식이 아닌 새롭게 등장한 동형암호를 선택할 이유를 만들어야 했기 때문이다. 핵심은 속도였다. 2023년 11월 크립토랩은 행렬 연산을 수 밀리세컨드(ms·1000분의 1초) 단위로 처리하는 ‘4.5세대 동형암호’를 구현했다. 애플이 아이폰에 적용하는 2세대 동형암호 기술보다 100배 이상 빠르며, 데이터 보호와 연산 효율을 동시에 갖춘 세계 최고 수준의 성과다.

4.5세대 개발 후, 고객의 반응은 달라졌나.

“업체 미팅에서 질문이 달라졌다. 예전에는 ‘정말 멋지네요’ 한마디로 끝났지만, 1초 걸리던 연산이 수 밀리세컨드로 줄자 ‘속도는 알겠고, 크기는요? 가격은요?’라는 현실적 질문이 돌아왔다. 그제야 비로소 ‘이제 진짜 고객이 생겼구나’ 싶었다. 연구의 세계가 옳고 그름을 따지는 영역이라면, 사업은 ‘어떻게 하면 고객이 쓸 수 있을까’를 풀어가는 영역이었다. 정답은 논문이나 기술 그 자체가 아니라, 결국 고객에게 있었다.”

크립토랩은 4.5세대 동형암호 기술을 기반으로 개발한 소프트웨어 ‘혜안’을 앞세워, 회사 설립 8년 차인 올해를 비즈니스의 원년으로 정했다. 토스가 얼굴 인식 기술에 크립토랩의 동형암호 기술을 적용한 데 이어, 국방부·LG유플러스 등도 기술을 도입했다.

더 큰 세계로 나간다

글로벌 경쟁 상황은.

“현재 동형암호 시장은 ‘3파전’ 구도다. 미국의 듀얼리티 테크놀로지(Duality Technologies), 프랑스의 자마(Zama), 그리고 우리다. 이들이 각각 2세대·3세대 기술이라면, 우리는 4세대, 나아가 4.5세대 기술을 보유하고 있다. IBM·구글·애플 등 빅테크 기업들도 자체 개발에 나섰지만, 아직은 연구 단계다. 기술력으로 우리가 이들보다 약 1~2년 앞서 있지만, 한숨 쉬면 따라잡히는 세계라서 기술 우위를 사업화로 이어가는 것이 앞으로의 승부처다.”

크립토랩은 국내뿐 아니라 해외 시장 선점에도 나섰다. 천 대표는 지난해 8월부터 1년간 교수 안식년을 활용해 미국 실리콘밸리에 머물며 현지 시장의 흐름을 직접 체감했다. 올여름 실리콘밸리에 영업팀을 꾸려 본격적인 해외 사업 기반을 마련한 뒤 국내로 돌아왔다.

미국 영업팀이 생긴 지 석 달 정도 됐다.

“매출은 아직 없지만, 시장 진입을 위한 첫걸음이라고 본다. 현지 경험이 풍부한 인도 출신 마케팅 전문가 등을 파트타이머로 영입해 손발을 맞추고 있다. 실리콘밸리에서 중요한 건 속도다. e메일을 보내고 2시간 안에 답이 없으면 ‘관심이 식었다’고 여길 만큼 모든 게 빠르게 돌아간다.”

향후 과제는.

“현 단계에선 영업 문제를 어떻게 풀어갈지가 가장 큰 숙제다. 모든 것을 직접 할 수도 없고, 남에게 완전히 맡길 수도 없다. 학교 강의, 연구, 회사 운영을 병행하고 있지만 어느 하나도 쉽게 놓을 수 없다. 회사를 비우면 기술 주도권이 흔들리고, 강의를 멈추면 후학이 끊긴다. 지금까지 암호를 연구하는 30여명의 박사를 배출했지만, 여전히 한 줌이다. 최근 5년간 제자들 대부분이 해외로 나가면서 국내 인력난도 심화하고 있다. 연구·사업·교육 세 축을 어떻게 병행할 것인가, 그 균형점을 찾는 것이 과제라고 생각한다.”

김한준 알토스 대표

크립토랩의 천정희 대표는 국내에서 개발된 기술로 전 세계 시장을 선도하는, 세계 유일의 동형암호 원천기술을 보유한 창업가다. AI 시대 데이터 보호의 중요성이 커지는 가운데, 크립토랩의 기술은 차세대 데이터 암호화의 핵심 표준으로 부상하고 있어서 그 성장 가능성이 더욱 기대되는 팀이다.

김지훈 LG유플러스 CSO(최고전략책임자·상무)

초고속 연산과 병렬처리가 가능한 양자컴퓨터의 등장은 기존의 암호체계를 무력화할 수 있다는 점에서 새로운 보안 패러다임을 요구하고 있다. 크립토랩은 동형암호를 핵심 기술로 삼아, 차세대 보안 체계를 선도하고 있다. 향후 국내 보안 생태계를 한 단계 끌어올리고, 양자 시대를 대비한 신뢰 기반의 디지털 전환을 이끌어갈 것으로 기대한다.

◆‘혁신창업의 길’에서 소개하는 스타트업은 ‘혁신창업 대한민국(SNK) 포럼’의 추천위원회를 통해 선정합니다. SNK포럼은 중앙일보·서울대·KAIST를 중심으로, 혁신 딥테크(deep-tech) 창업 생태계 구성원들이 함께 참여하는 단체입니다. 대한민국이 ‘R&D 패러독스’를 극복하고, 퍼스트 무버 국가로 도약하기 위해서는 연구개발(R&D)에 기반한 기술사업화(창업 또는 기술 이전)가 활성화되어야 한다는 취지입니다.