사회적 신뢰와 민주주의 파괴... '허위조작 정보' 딥페이크와의 전쟁

딥페이크 우려로 추억의 졸업 앨범까지 제작 중단

딥페이크 규제 : 유럽 "자율성 강조", 미국 "강력한 개입", 중국 "철저한 통제"

딥페이크, 대응 '사회적 신뢰' 회복이 필요

[디지털포스트(PC사랑)=정혜] 2024년에 개정된 성폭력처벌법에 따라, 우리나라에서는 딥페이크 영상 행위 자체를 처벌할 수 있게 됐다. 이제 유포 목적의 입증 없이도 법적 제재가 가능해졌지만, 피해 건수는 급증하고 있어 그 실효성은 여전히 의문으로 남아 있다.

여성가족부에 따르면 2023년 423건이었던 딥페이크 피해 건수는 2024년에는 1,384건으로 3.3배 이상 급증했다. 이 중 10대 피해자가 절반에 가까워(46.3%) 학생과 학부모의 불안감이 더욱 커지고 있다.

딥페이크 우려로 추억의 졸업 앨범까지 제작 중단

최근 디지털 기술의 악용이 일상 속 안전을 위협하고 있다. 학교 현장에서는 딥페이크 피해에 대한 우려로 졸업앨범 제작을 포기하거나 축소하는 사례가 늘고 있다. 실제로 경기도 여주의 한 초등학교는 2025년 졸업앨범을 아예 제작하지 않기로 결정했는데, 이는 교사와 학부모, 학생 모두가 디지털 범죄와 개인정보 유출을 우려해 촬영 자체를 꺼린 결과이다.

딥페이크, 대선 기간에도 위협적 존재로 등장

6·3 조기 대선을 앞두고 유력 대선주자 캠프들은 ‘딥페이크’ 대응에 촉각을 곤두세우고 있다. 지난 총선 이후 챗GPT 열풍과 함께 딥페이크 영상 제작과 유포가 온라인상에서 일종의 유행처럼 번지면서, 틱톡에서는 ‘수영복을 입은 윤석열 전 대통령 부부’나 ‘부인에게 욕설을 하는 더불어민주당 이재명 대선 예비후보’ 등 명백한 가짜 영상들이 확산되고 있는 실정이다. 이러한 현상은 선거의 공정성을 심각하게 위협할 수 있다.

이처럼 정치적으로 민감한 시기에 딥페이크 콘텐츠가 혐오와 분열을 조장하는 도구로 악용될 경우, 사회 전반에 대한 신뢰는 더욱 약화되고, 나아가 공동체의 근간 자체가 흔들릴 수 있다.

딥페이크는 허위 정보와 거짓 이미지를 통해, 특히 선거 기간 동안 상대 후보에 대한 비방을 사실처럼 믿게 만듦으로써 공정한 여론 형성과 국민의 주권 행사에 중대한 장애물이 될 수 있다. 실제로 언론 보도조차 믿을 수 없다는 불신과 거짓 선동은 계엄령과 대통령 탄핵 사태를 거치며 격화되었고, 결국 폭력 사태로까지 이어지면서 사회적 갈등을 더욱 증폭시키고 있다.

텍스트 기반 가짜뉴스보다 더 위협적인 딥페이크

사회적 갈등은 객관적 사실과 민주적 가치를 지향하는 언론보도를 통해 공정한 여론을 형성하고, 공동체의 문제를 함께 해결해 나아가야 한다. 그러나 허위 거짓정보가 딥페이크 기술과 결합하며 정치적 이해득실로 사회를 더욱 극심하게 혼탁하게 만들 수 있다는 것이 우리에게 가장 큰 위협으로 다가온다.

기존의 가짜 뉴스는 주로 텍스트에 기반했지만, 딥페이크는 시각적 및 청각적 요소까지 동원해서 조작하여 더욱 진짜처럼 보이게 한다. 예를 들어, 2024년 미국 뉴햄프셔주 예비선거 당시에는 조 바이든 대통령의 가짜 음성 메시지가 대량 유포되어 유권자들의 판단을 혼란스럽게 했다.

딥페이크 규제 : 유럽 "자율성 강조", 미국 "강력한 개입", 중국 "철저한 통제"

유럽은 AI법(AI Act)을 통해 모든 AI 생성 콘텐츠에 'AI 생성'이라는 표시를 의무화하고 있으며, 이를 위반할 경우 매출의 최대 3~6%를 벌금으로 부과한다. 이러한 조치는 딥페이크 단속보다는 투명성을 높이고 자율적인 판단을 유도하는 데 중점을 두고 있다.

한편, 미국은 딥페이크를 선거 개입과 정치 공작의 도구로 간주하고 있다. 이에 따라 연방정부는 딥페이크를 활용한 정치 광고 규제를 강화하고, 가짜 뉴스 플랫폼에 대한 법적 책임을 확대하고 있다. 또한 FBI와 사이버보안국(CISA)을 중심으로 딥페이크 탐지 태스크포스를 운영 중이다.

중국은 모든 AI 콘텐츠에 대해 사전 등록과 표시를 강제하며, '딥합성 기술 규정'을 통해 플랫폼 및 개인의 딥페이크 콘텐츠 업로드를 철저히 통제하고 있다. 허가 없이 딥페이크를 사용하거나 'AI 생성' 문구를 생략할 경우 형사 처벌까지 가능하다.

한국, 딥페이크 콘텐츠 단속은 강화되고 있지만

6·3 조기 대선을 앞두고 중앙선거관리위원회는 4월 9일 ‘허위사실 공표 비방 특별대응팀'을 발족했다. 사이버공정선거지원단과 ‘허위사실비방 딥페이크 검토자문단’을 포함해 AI 기술을 활용한 허위 콘텐츠 단속에 나섰다. 경찰은 전국 278개 경찰서에 선거사범 수사상황실을 설치해 딥페이크 관련 범죄를 집중 단속할 예정이다.

국회는 2023년 선거일 90일 전부터 딥페이크 영상 제작 및 유포를 금지하는 공직선거법을 개정했다. 딥페이크를 통한 선거 조작을 명확히 불법으로 규정했다. 이에 법을 위반할 경우 7년 이하의 징역이나 1,000만~5,000만 원의 벌금에 처해질 수 있다.

올해 대선은 얼마 남지 않았기 때문에 당장 큰 문제는 아니지만, 선거 90일 전 제한 규정은 기술 유포 속도에 비해 지나치게 협소하다는 비판이 제기되고 있다. 또한 ‘딥페이크’의 정의가 명확하지 않고 플랫폼 사업자의 책임 규정도 불분명해 더 구체적인 법률 보완이 마련돼야 한다는 지적도 나온다.

무엇보다 정보통신망법 개정을 통해 AI 생성 콘텐츠 표시 의무화도 추진하고 있지만, 현재 국회 계류 중이라 법 개정이 지연되고 있다. 빨라야 내년 초에 시행될 것으로 예상된다. 이에 기술적인 검증 장치가 없는 상황에서 플랫폼 기업들에게만 책임을 지우려는 것은 불합리하다.

딥페이크 대응 '사회적 신뢰' 회복이 필요

현재 허위 조작 정보는 유권자의 판단에 영향을 미치고 정치적 혼란을 초래하며, 이는 사회에 큰 위협으로 작용하고 있다. 디지털 기술은 계속 진화하고 정교해지면서 법망을 얼마든지 피해 갈 수 있다.

특히 양극화된 정치 상황에서 각 진영이 악의적인 콘텐츠를 유포하는 현실 속에서, 정치적 해결책을 마련하여 딥페이크 문제에 신속히 대응할 것을 기대하기도 어렵다. 민주주의의 적은 AI 기술이 아닌 바로 허위 사실로 여론을 조작하는 정치세력들이다.

따라서 현재 대응 방향은 처벌 강화와 플랫폼의 법적 책임 확대에 초점을 맞추고 있지만, 근본적인 해결책은 선출직 공무원 등 공인의 '사회적 신뢰'를 회복하는 데 있다. 법과 기술이 발전해도 사람들이 서로를 믿지 못하면 사회는 분열될 수밖에 없다. 이번 계엄 사태와 대통령 탄핵 과정을 통해 우리는 정보의 검증과 사회적 신뢰가 얼마나 중요한지 뼈저리게 확인할 수 있었다.

이번 대선 기간 동안 딥페이크를 이용한 가짜 허위 정보에 적극 대응하고, 디지털 세대에 맞는 정책과 대안 마련을 위해 폭넓고 깊이 있는 논의가 필요하다. 이를 위해 디지털 리터러시 교육을 강화하고, 기술 악용 방지를 위한 제도적 장치를 마련하여 사회 전반의 인식을 개선하는 계기가 되기를 기대한다.

<이 기사는 digitalpeep님의 네이버 블로그에도 실렸습니다.>