미국의 기술 윤리학자 트리스탄 해리스는 직접 출연한 넷플릭스 다큐멘터리 ‘소셜딜레마’를 통해 “AI(인공지능)는 윤리적인 문제와 프라이버시 문제를 야기할 수 있다”고 경고했다. 그는 AI가 발전된 미래를 제시하는 것만큼 그 그림자도 깊어질 것이라고 짚은 셈이다.
실제 ‘생성형 AI’의 등장은 삶의 많은 것을 바꾸고 있다. 이는 대중문화에서도 마찬가지다. 이미 생성형 AI를 이용한 영화 ‘중간계’가 개봉했고, 많은 드라마들도 CG(컴퓨터그래픽)가 쓰일 공간에 AI의 손을 빌려 결과물을 내기 시작했다. 유튜브나 각종 SNS(사회관계망서비스)에도 이러한 콘텐츠를 흔히 볼 수 있다.
하지만 이미 경고한 대로 그 부작용도 서서히 드러나는 중이다. 연예계에서의 최근 일련의 사건은 훨씬 명확하고 중대하다. 제공된 정보를 토대로 실제와 비슷한 이미지와 영상을 만들어내는 기술은 실제 범죄와 유사한 형태로 연예계에 다가오기 시작했고, 실제 그 피해사례도 나오고 있다.
최근 이정재를 사칭해 범죄를 저지른 ‘가짜 이정재’ 사건이 대표적이다. 이정재를 사칭한 ‘로맨스 스캠’ 일당이 SNS를 통해 50대 여성 A싸에게 접근해 약 5억원을 가로챘다. 연인인 것처럼 연애의 감정을 자극하는 ‘로맨스 스캠’을 사기에 이용한 일당은 경남 밀양에 거주하는 여성에게 지난 4월 “팬들과 소통하기 위해 연락했다”며 접근을 시도했다.
사칭범은 AI로 생성된 가짜 셀피와 신분증을 보내며 A씨를 속였다. 소속사 경영진이라 자신을 소개한 공범은 “이정재를 만나게 해주겠다”며 600만원을 요구했다. 결국 이정재의 소속사 아티스트컴퍼니는 22일 “최근 당사 소속 배우를 사칭해 금품을 요구하고 금전적인 이익을 취한 범죄가 보도됐다”며 “당사는 물론 아티스트 개인도 어떠한 경우를 불문하고 금품, 계좌이체, 후원 등 경제적 요구를 하지 않는다”고 주의를 당부했다.
결론은 완벽히 나지 않았지만, 최근 논란이 된 배우 이이경 관련 사건도 이와 비슷하게 흘러가고 있다. 처음에는 이이경의 사생활이 폭로돼 배우 당사자에게 치명적인 피해가 일어났지만, 정작 폭로자는 갑자기 태도를 바꿔 “AI로 장난을 쳤다”고 사과하고 나섰다.
자신을 독일인 여성이라고 주장한 B씨는 22일 자신의 SNS를 통해 “처음에는 장난으로 시작했던 글”이라며 “글을 쓰고, AI 사진을 쓰고 하다 보니 점점 더 실제로 그렇게 제가 생각하게 된 것 같다”고 말했다. 실제 B씨가 공개한 영상에는 두 사람이 사용한 것처럼 보일 수 있는 모바일 메신저와 SNS 대화 관련 이미지가 있었다.
전 노무현재단 이사장인 유시민 작가 역시 비슷한 피해를 입었다. 앞서 한 유튜브 채널은 생성형 AI 기술을 이용해 유 작가의 가짜 인터뷰 장면이 담긴 영상을 수 건 제작해 게재해 논란이 됐다. 영상에는 유 작가가 특정한 정치 이슈에 대한 발언을 하는 모습이 담겼는데, 자세히 보면 입 모양과 음성이 전혀 다르고 동작 역시 같은 행동이 반복되는 등 조악했다.
실제 AI를 통해 생성된 스타들의 많은 이미지와 영상은 사전에 합의되지 않은 광고의 형태로 나돌아 문제가 되더니, 이제는 ‘로맨스 스캠’ 사기를 통해 팬들에게 접근하고 실제 당사자의 루머를 퍼뜨려 이미지에 치명적인 피해를 입히는 등 그 수위가 높아지고 있다.
한 연예기획사 관계자는 “각종 유튜브나 SNS를 통해 나오는 AI 콘텐츠들은 새로운 위협이 되기 시작했다”며 “연락을 받거나, 이상한 정보를 접했을 때는 꼭 소속사의 공식 채널이나 공지를 통해 나오는 정보만을 믿어달라 말씀드릴 방법밖에는 현재는 없다”고 고충을 토로하기도 했다.
