‘양날의 검’ 딥페이크…악용 막고 올바른 활용법 찾는다

전방위 피해 예방·활용 교육 강화

1~8월 관련 성범죄 일평균 1.85건

8~10월 일평균 8.8건 ‘껑충’

지방의회 의원들도 피해 입어

상업적 광고 활용 등 장점도 있어

故 박윤배 배우 영상으로 재현

현존 배우들과 대화 나누기도

경찰청, 탐지 소프트웨어 개발

市교육청, 정보통신 윤리 교육

미디어 리터러시 교육 등 병행

최근 딥페이크(Deepfake) 기술이 발전하면서 이를 악용한 피해 사례도 급증하고 있다. 딥페이크는 인공지능(AI)을 이용해 사진, 영상, 음성 등의 미디어를 조작하는 기술로 정교한 편집을 거쳐 가짜 콘텐츠를 진짜처럼 만들 수 있다. 외관상으로는 진위 구별이 힘들 정도의 콘텐츠도 만들어진다.

딥페이크는 상업적인 광고나 창의적인 콘텐츠에 유용하게 활용될 수 있는 것이 장점이다. 실존 인물이 역사 속 인물과 대화하는 장면을 연출하거나 세상을 떠난 사람을 마치 살아 돌아온 것처럼 재소환하기도 한다. 지난해 1월 방영된 드라마 ‘전원일기’ 배우들이 모인 tvN 예능 ‘회장님네 사람들’에서는 딥페이크를 활용한 디지털 휴먼 기술로 고(故) 박윤배 배우를 영상으로 재현해 현존하는 배우들과 대화하는 장면을 방송했다.

하지만 최근에는 사생활 침해, 금융 범죄, 정치적 오용 등 단점이 부각되면서 심각한 사회적 문제로 떠오르고 있다. 악의적으로 활용되면 SNS, 텔레그램 등으로 빠르게 퍼져 사회적 혼란을 야기한다.

이에 대해 딥페이크를 악용하는 사례에 대한 예방 대책을 강화함과 동시에 딥페이크 기술의 장점을 살릴 수 있는 올바른 활용법에 대한 교육도 함께 확대해야 한다는 목소리가 나온다.

◇허위 성착취물, 사기, 협박…다양하게 악용되는 딥페이크

가장 빈번한 딥페이크 악용 사례는 사생활 침해와 허위 정보 유포, 디지털 성범죄로의 이용 등이다. 특히 실존 인물 사진의 얼굴을 음란물에 합성하는 딥페이크 성착취물 범죄가 올 하반기 들어 화두에 올랐다.

경찰청에 따르면 올 1월부터 8월 27일까지 일평균 1.85건이던 딥페이크 허위영상물 성범죄는 8월 28일부터 10월 25일까지 두 달여간에 일평균 8.8건으로 급증했다. 학교 내에서 학생, 교직원 등을 대상으로 한 범행이 발생했고 올해 검거된 피의자 중 81.2% 가량이 10대인 것으로 나타났다. 대구경찰은 올해 들어 10월까지 딥페이크 성착취물 피해 신고를 총 37건 접수했다.

프로필 사진 등이 온라인상에 퍼져 있는 전국 지방의회 의원들이 딥페이크 불법 합성물 협박 피해를 받은 사실이 알려져 공인을 대상으로 한 범행 위험에도 빨간불이 켜졌다. 대구에서도 지난 20일까지 기초의원 12명이 자신의 사진에 음란물을 합성한 협박성 메일을 받은 것으로 알려졌다. ‘당신의 범죄 증거를 갖고 있다. 어떤 영향이 터지는지 잘 알고 있을 거다’라는 등의 내용이다.

대구경찰은 이중 8건의 피해 신고를 받고 수사에 나섰다. 성폭력처벌법상 허위영상물 편집·반포와 협박 등의 혐의가 적용될 것으로 보이며 향후 서울청이 전국에 접수된 신고를 병합 수사할 것으로 전해졌다.

사기 등 경제범죄에도 활용된다. 외국에서는 부모가 한국을 여행 중이던 딸이 방 안에 감금된 영상과 함께 누군가에게서 합의금을 보내라는 협박 전화도 받은 사실이 알려지기도 했다. 신고를 받은 영사관이 한국 경찰에 신고해 조사한 결과 딥페이크 기술로 만들어진 가짜 영상을 이용한 전화금융사기(보이스피싱)였다. 다행히 해당 사건에서 금전적 피해는 발생하지 않은 것으로 전해졌다.

부모-자녀 간 관계 등을 이용해 딥보이스, 딥페이크 등을 활용한 피싱 범죄가 국내에서도 일어나지 않으리란 법이 없다. 이에 경찰은 SNS에 게재된 영상, 사진, 목소리 등이 표적이 될 수 있어 불특정 다수가 볼 수 없도록 공개 설정을 바꾸는 등 예방이 중요하다고 강조했다.

◇딥페이크 탐지 소프트웨어, 미디어 리터러시 교육…전 분야의 대책

이러한 딥페이크의 악용과 이로 인해 야기되는 피해를 예방하기 위해 전 분야에서 다양한 대책이 강구되고 있다.

경찰청은 지난 3월 딥페이크 탐지 소프트웨어를 개발했다. 페이스 스왑(Face Swap) 등 딥페이크로 의심되는 영상을 시스템에 업로드하면 통상 5∼10분 안에 분석을 완료해 영상의 진위 여부를 판별하고 결과보고서도 바로 제작해 낸다. 진위 여부 탐지율은 약 80%에 달하며 수사 방향을 설정하는 보조 자료로 활용한다고 경찰청은 설명했다.

네이버, 카카오 등 주요 온라인 플랫폼과 소셜미디어들도 자체 AI 기반 딥페이크 탐지 시스템을 도입하고 있다.

딥페이크 범죄는 주로 온라인의 익명성을 악용하기 때문에 국제적으로 발생하는 경우가 많다. 때문에 수사당국도 다른 국가들과의 공조 수사를 강화하기 위해 협조체계 구축에 힘쓰고 있다. 하지만 여전히 개선이 필요한 부분이 많아 대응이 늦어지고 있다는 비판도 따른다.

법적 규제도 강조된다. 국회는 지난 14일 딥페이크 등 디지털 성범죄에 대해 피해자가 성인인 경우까지 경찰의 위장수사를 확대하는 성폭력 처벌법 개정안을 통과시켰다. 현재는 아동·청소년성보호법에 따라 아동, 청소년이 피해자인 범죄에 대해서만 경찰의 신분 비공개 수사와 신분 위장 수사가 가능하다.

대구시교육청은 미디어 리터러시 교육과 정보통신 윤리 교육 등을 병행하고 있다. 사이버범죄의 사례와 예방법, 스마트기기 사용, 허위정보를 판별하는 법 등을 주요 내용으로 한다.

전문가들은 딥페이크를 악용하는 사례에 대한 예방책을 강화하는 한편 딥페이크의 장점을 살릴 수 있는 활용법에 대한 교육도 함께 확대해야 한다고 강조했다.

박한우 영남대 미디어커뮤니케이션학과 교수는 “딥페이크 기술은 좋은 방향으로 활용하면 대형 재난 상황을 가상으로 연출해 대처 방법 등을 교육하는 영상으로 활용할 수도 있다”며 “단점이 부각되면서 규제나 윤리 교육 등으로 치우쳐져 있는데 어떻게 하면 장점을 잘 활용할 수 있을지 대다수의 사람들이 알 수 있게 미디어 리터러시 교육 등을 지금보다 넓혀야 한다”고 말했다.

조성제 대구한의대 경찰행정학과 교수는 “딥페이크의 활용에 대해서는 기본적으로 관련 기관들의 교육이 확대돼야 한다”며 “관련 범죄 예방에 대해선 성범죄는 단속 여건이 강화되고 있는 것 같은데 경제범죄 관련해서는 상대적으로 관심사가 좀 떨어지는 것 같아 예방 대책이 함께 강구돼야 한다”고 했다.

박용규기자 pkdrgn@idaegu.co.kr