메타, 유명인 ‘가짜 AI’ 만들어 은밀한 대화 유도

메타가 가수 테일러 스위프트, 배우 앤 해서웨이 등 유명인의 이름과 모습을 당사자 동의 없이 사용해 소셜미디어 챗봇 수십 개를 만들었다고 로이터통신이 29일(현지시간) 보도했다.

챗봇 중 상당수는 메타가 제공한 제작 도구로 개인 사용자들이 만들었지만, 메타 직원도 테일러 스위프트 패러디 챗봇 등 최소 3개를 직접 제작한 것으로 드러났다.

인공지능(AI)으로 생성한 가상 유명인 챗봇은 메타가 운영하는 플랫폼인 페이스북·인스타그램·왓츠앱에서 공유됐다. 로이터가 몇 주간 실험한 결과 챗봇들은 자신이 실제 배우나 가수라고 주장하며 사용자에게 만남 제안을 하는 등 성적인 접근을 반복했다.

특히 일부 성인 유명인 챗봇은 선정적이었다. 사적인 사진을 요구하면 실재 인물과 똑같이 생긴 사람이 욕조에 앉아 있거나 속옷만 입은 사진을 만들었다. 미성년인 배우 워커 스코벨의 챗봇에 ‘해변 사진’을 요청하자 상의를 입지 않은 이미지를 생성하는 등 로이터는 메타가 청소년 배우의 챗봇도 허용한 정황도 포착했다.

메타 생성형 AI 담당 부서의 한 제품 리더는 직접 테일러 스위프트와 영국 레이싱 선수 루이스 해밀턴 챗봇을 만들었다. 메타 측은 직원이 만든 챗봇이 제품 테스트 차원이었다고 해명했다. 그러나 사용자 상호작용 누적 1000만회 이상을 기록한 것으로 나타났다.

해당 내용이 보도되기 전 메타는 문제가 된 챗봇 십수개를 삭제했지만, 삭제 사유에 대한 언급은 거부했다. 앤디 스톤 메타 대변인은 로이터에 “메타 정책은 유명인 이미지 생성 자체는 허용하지만 누드, 은밀한 모습, 성적 암시가 담긴 이미지는 금지하고 있다”며 “속옷을 입은 이미지가 만들어진 것은 정책 집행 실패”라고 인정했다.

최우석 기자 dol@segye.com

[ⓒ 세계일보 & Segye.com, 무단전재 및 재배포 금지]