사실과 구분 못할 인공지능에 현실로 다가온 피해…실질적 대책은 미흡

최근 배우 이이경 씨가 인공지능을 활용한 가짜 사생활 유출 의혹으로 피해를 입으며 논란이 일고 있다. 인공지능이 실제와 구분하기 어려운 영상과 이미지를 양산하면서 사회 곳곳에서 피해가 발생하고 있지만, 이를 막을 제도적 장치는 여전히 미흡하다는 지적이 나온다.

23일 경기신문 취재에 따르면 최근 SNS에서는 한 이용자가 배우 이이경 씨와 성적인 메시지를 주고받았다는 사진과 영상을 공개했다. 그러나 논란이 확산되자 당사자는 해당 내용이 인공지능을 이용해 만든 조작물이라고 밝힌 것으로 확인됐다. 소속사 측이 법적 대응을 예고할 정도로 파장은 컸다.

최근 SNS와 유튜브 등에서는 이와 같은 인공지능 기반 콘텐츠가 지속적으로 확산되고 있다. 실제와 차이를 구별하기 어려워 피해가 늘어나고 있지만, 이를 사전에 차단할 제도는 사실상 부재한 상황이다.

국회는 지난해 12월 26일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’을 제정했고, 내년 1월 시행을 앞두고 있다. 해당 법은 인공지능을 이용한 콘텐츠 제작 시 이를 명시하도록 하는 등 책임을 부과하고 있지만, 실제 범죄 예방 효과로 이어질지에 대해서는 회의적인 시각이 많다.

논란의 핵심은 실효성이다. 인공지능을 활용한 투자 권유 영상은 사회적 피해를 가장 크게 만들 수 있는 분야지만, 이를 법으로 사전에 걸러낼 수 있을지는 미지수다.

실제 최근 인공지능 기반 투자 플랫폼을 사칭한 사기 사이트 EquiloomPRO(이퀄룸)는 이재명 대통령이 직접 투자를 권유하는 것처럼 조작한 영상을 유포했다. 유튜브에서도 코미디언, 배우 등 유명인을 내세운 유사 콘텐츠가 다수 확인되고 있다.

한 업계 관계자는 “이런 영상들을 제작한 조직의 상당수는 중국 등 해외에 위치한 경우가 많아 국내법 적용이 어렵다”며 “AI 기본법은 기업 책임을 강화하는 성격이 강해 실제 범죄 예방이나 피해 최소화 효과로 이어지기 어렵다”고 말했다.

AI 대응 인력 부족 문제도 해결 과제다. 한병도 더불어민주당 의원이 행정안전부로부터 제출받은 자료에 따르면 전국 243개 지자체의 전산직렬 공무원 4549명 중 데이터직류는 19명(0.4%)에 불과했다. 이로 인해 지자체가 AI 기본법을 제때 이행하지 못할 가능성이 있다는 우려도 제기된다.

수사 분야에서도 현실은 비슷하다. 한 경찰 관계자는 “피해가 발생해야 뒤늦게 수사하는 경우가 대부분”이라며 “서민을 대상으로 한 피해가 급증할 수 있는 상황에서 보다 실질적인 대책이 필요하다”고 말했다.

[ 경기신문 = 박진석 기자 ]