한양대 서재홍 교수팀, 딥러닝 기반 얼굴 인증 시스템 보안 취약점 입증

한양대학교 수학과 서재홍 교수 연구팀이 상용 클라우드 기반 얼굴 인증 API를 대상으로 단 100번의 인증 시도만으로 사용자 얼굴 이미지를 복구할 수 있는 새로운 기법을 발표했다.

얼굴 인증 기술은 모바일 뱅킹, SNS 프로필 인증 등 다양한 스마트폰 앱에서 간편하고 빠르게 사용자 인증을 할 수 있어 널리 사용되고 있다. 이 기술은 주로 딥러닝 기반 얼굴 인식 알고리즘을 활용하는데, 최근에는 비용과 개발 효율성 문제로 인해 자체 개발보다는 빅테크 기업들이 제공하는 클라우드 API를 사용하는 사례가 많다.

일반적으로 얼굴 인증은 사용자가 미리 등록한 얼굴 사진과 실시간으로 촬영한 사진을 비교하여 이루어진다. 기존의 공격 기법들은 수십만 번의 인증 시도를 거쳐 점진적으로 원본 얼굴과 유사한 이미지를 생성하는 방식이었기 때문에 실제 서비스에 큰 위협이 되지 않았다.

하지만 서재홍 교수팀은 기존과는 전혀 다른 방식으로 접근했다. 얼굴 인식 모델이 특정 수학적 성질을 만족하도록 학습되는(metric learning) 구조에 착안했다. 연구팀은 일종의 직교 기저(orthogonal basis) 역할을 하는 얼굴 이미지들을 찾아냈고, 이를 기반으로 단 100번의 인증 시도만으로 사용자 얼굴 이미지를 효과적으로 복원할 수 있음을 실험을 통해 입증했다. 이는 기존 공격 기법보다 수천 배 이상 향상된 효율로, 실제 서비스에 심각한 보안 위협이 될 수 있다.

서 교수는 “이번 연구는 단순한 공격 기법 제시에 그치지 않고, 딥러닝 기반 얼굴 인증 시스템의 구조적 특성을 수학적으로 분석하는 데 의미가 있다”며 “안전한 딥러닝 기술 발전을 위해 수학이 핵심적인 역할을 할 수 있다는 가능성을 보여줬다”고 밝혔다. 그는 또 “이번 성과는 수학적 역량을 갖춘 학생 연구자들의 기여가 컸다”고 덧붙였다.

이번 연구는 과학기술정보통신부와 정보통신기획평가원이 추진하는 ‘정보보호핵심원천기술개발사업’과 한국연구재단의 ‘우수신진연구자 지원사업’의 지원을 받아 수행됐다. 연구 논문 「Scores Tell Everything about Bob: Non-adaptive Face Reconstruction on Face Recognition Systems」는 작년 5월 미국 샌프란시스코에서 열린 정보보호 분야 최고 권위 국제학술대회인 ‘IEEE Symposium on Security and Privacy 2024’에서 발표됐으며, 김선필 한양대 석박사통합과정 학생이 제1저자로, 정보라 한양대 석사과정생 및 싱가포르 과학기술청 연구자들이 공동 저자로 참여했다.