한양대·국민대 연구팀, 검증형 AI 기술 ‘vCNN’ IEEE TDSC 최우수논문상

한양대학교 정보시스템학과 오현옥 교수 연구팀과 국민대학교 전자공학부 김지혜 교수 연구팀이 공동 개발한 검증형 인공지능(Verifiable AI) 기술 ‘vCNN’이 국제 저널 『IEEE Transactions on Dependable and Secure Computing(이하 TDSC)』의 2024년 Best Paper Award (최우수논문상)을 수상했다. 이번 연구는 인공지능 추론 결과의 신뢰성을 입력 데이터나 모델을 공개하지 않고도 증명할 수 있다는 점에서 높은 평가를 받았다.

최근 AI가 의료 진단·금융 사기 탐지·공공 서비스 등으로 확산됨에 따라 결과 계산의 정확성 보장이나 민감 데이터(의료 이미지·거래 내역) 보호, 기업 핵심 자산인 모델 가중치 비공개 등의 필요성이 커지고 있다. 그러나 기존 방식은 정확성 검증을 위해 개인정보나 영업 비밀을 노출하거나, 암호학적 기법 적용 시 과도한 계산 시간으로 대규모 서비스 활용에 어려움이 있었다.

공동연구팀이 개발한 vCNN(Verifiable Convolutional Neural Network)은 이러한 핵심 병목을 해결했다. vCNN은 영지식증명(zk-SNARKs)을 활용해 입력과 모델을 공개하지 않은 채 ‘AI가 규정 절차대로 정확히 계산했다’는 사실만을 짧고 간결한 증명으로 제공한다. 특히 CNN의 핵심 연산인 합성곱(convolution) 증명 방식을 새롭게 설계해 기존 O(l·n)(커널 크기 l, 데이터 크기 n)이던 복잡도를 O(l + n)으로 줄였다. 그 결과 MNIST 모델에서 약 20배, VGG16 모델에서 약 1만8,000배의 증명 속도 향상을 달성했으며, 보안성 또한 수학적으로 입증했다.

연구를 이끈 오현옥 한양대 교수는 “vCNN은 신뢰 가능한 AI 구현을 위한 포문을 연 연구”라며 “향후 의료·금융 등 실제 AI 적용 분야에서 신뢰성을 제공할 수 있도록 발전시켜 나가겠다”고 수상 소감을 밝혔다.

TDSC는 IEEE Computer Society가 발행하는 보안·신뢰성(Dependability & Security) 분야의 권위 있는 최상위(Q1) 국제 저널로, 해당 연도 게재 논문 중 가장 독창적이고 영향력이 큰 단 한 편에만 Best Paper Award를 수여한다. 이번 수상은 단독 수상으로 공식 인정됐다.

해당 연구는 과학기술정보통신부 및 정보통신기획평가원(IITP) 사업의 지원을 받아 수행됐으며, 논문 「vCNN: Verifiable Convolutional Neural Network Based on zk-SNARKs」에는 국민대 이승화 박사가 제1저자, 한양대 고한경 박사가 참여자, 한양대 오현옥 교수와 국민대 김지혜 교수가 공동 교신저자로 참여했다.