정부가 인공지능(AI) 기술 발달로 앞으로 더 교묘해질 것으로 예상되는 딥페이크 범죄에 대한 플랫폼 사업자의 의무를 강화하기로 했다.
최근 사회를 떠들썩하게 한 '지인 능욕' 등 불법 딥페이크 영상물 문제를 계기로 정보통신망법 등 관련 법을 더욱 적극적으로 해석해 텔레그램 등 국내외 플랫폼 사업자에 대한 규제를 추진할 계획이다.
6일 정부는 국무조정실을 중심으로 발표한 딥페이크 성범죄 대응 방안에서 플랫폼 사업자의 의무 강화 방침을 밝혔다.
당국은 불법 딥페이크 영상물을 공유하기 위해 오픈 채널 접속 링크와 비밀번호를 불특정 다수에게 배포, 접속을 유도하는 행위도 법에 저촉되는 '청소년 유해물 제공·매개 및 불법 촬영물 등의 유통'에 해당한다며 플랫폼 사업자 규제의 근거로 제시했다.
불법 딥페이크 영상물이 주로 유통되는 텔레그램 등 플랫폼이 청소년 유해물을 제공 또는 매개하는 통로로서 국내 대리인 지정이나 시정 명령의 대상이 된다는 이야기다. 이들 규정을 이행하지 않았을 때는 과태료 등 제재가 부과된다.
네이버, 메타 등 기존에 당국의 관리 아래 있는 플랫폼 사업자들은 불법 촬영물 유통 방지 의무를 이행하지 않으면 시정 명령이나 과징금 대상이다.
다만, 텔레그램 등 해외에 뿌리를 둔 플랫폼이 국내 규제에 좀처럼 대응하지 않는 것은 플랫폼 의무 강화 방침의 한계로 지적된다.
이에 방송통신심의위원회와 경찰청은 텔레그램과 핫라인 구축, 실무협의 정례화 등에 합의했고 수사와 관련한 협조 의사를 전달받았다고 밝혔다.
또한 방송통신위원회는 플랫폼 사업자가 불법 영상물 유통 방지책, 신고·삭제 처리 결과, 책임자 지정 등의 내용을 담아 매년 제출하는 투명성 보고서가 부실하거나 허위 사실을 포함했을 경우 과태료를 부과할 수 있도록 정보통신망법을 개정할 방침이다.
디지털 성범죄물을 게재한 이에 대해 서비스 이용 중단, 탈퇴 등 제재를 가할 수 있도록 정보통신망법을 개정하고 텔레그램, 다크웹 등 해외에 서버를 둔 영역의 모니터링 인원을 증원할 방침이다.
과학기술정보통신부는 딥페이크 성범죄 확산을 AI 등 최신 기술로 최소화하기 위해 차단·탐지 기술의 연구개발을 지원하고 딥페이크 보안 기술을 특허 우선심사 대상에 선정해 3개월 내 신속 심사가 이뤄지도록 할 계획이다.
또 국회에서 논의 중인 인공지능 기본법에 AI 합성 콘텐츠를 플랫폼에 게재할 때 AI 생성물임을 표시하는 워터마크 삽입 의무화를 담도록 하고 규정을 어길 때는 처벌하는 방안도 마련하기로 했다.
윤상진 기자 press@jeonpa.co.kr
<저작권자 © 전파신문, 무단 전재 및 재배포 금지>
