“연령 제한없이 성인물 생성”... 머스크 xAI '매운맛 모드' 논란

본인 인증 없이 반나체 캐릭터 생성 가능

국립성착취예방센터 “18세 미만 차단해야”

일론 머스크가 설립한 인공지능(AI) 스타트업 xAI의 챗봇 '그록'이 선정성 논란에 휩싸였다.

xAI는 4일(현지시간) 이미지 및 비디오 생성기인 '그록 이매진'(Grok Imagine)을 공식 출시했다. 수퍼그록(SuperGrok), 엑스 프리미엄 플러스(Premium+) 등 유료 멤버십 가입자가 이용할 수 있는 기능으로 iOS 앱에서 서비스하고 있다.

그록 이매진은 텍스트나 이미지 프롬프트를 입력하면 최대 15초 분량의 영상을 생성한다. 구글 '비오', 오픈AI '소라', 어도비 '파이어플라이' 등과 비슷한 서비스다.

문제는 그록 이매진에 포함된 '매운맛(스파이시 · Spicy)' 모드다. 영상을 생성할 때 사용자는 사용자 지정(Custom), 일반(Normal), 재미(Fun), 매운맛 중 하나의 옵션을 선택할 수 있는데, 매운맛을 선택하면 노출이 많거나 성적 대상화하는 애니메이션을 만들어낼 수 있다.

'매운맛' 옵션을 선택하면 생년월일을 입력해야 하지만, 본인 인증을 요구하지 않기 때문에 사실상 연령제한이 없는 셈이다. 또한 직접 만들지 않더라도 이 영상을 엑스에 공유하고 있어 문제가 되고 있다.

머스크는 그록을 통해 만들었다며 6초짜리 영상을 공유했다. 날개를 달고 노출이 많은 옷을 입은 여성이 움직이는 모습이 묘사됐다. 머스크는 그록 이매진으로 현재까지 3400만 개 이상의 이미지가 생성됐다고 밝혔다.

그록은 지나치게 선정적인 이미지는 블러 처리해 흐릿하게 생성한다. 다만 IT 전문매체 테크 크런치는 “얼마나 노골적으로 표현할 수 있는지는 한계가 있지만, 얼마든지 우회할 수 있는 수단이 있다. 실제로 반나체 이미지를 생성할 수 있었다”고 전했다.

또한 일부를 제외하고는 유명인의 사진으로도 영상을 제작할 수 있어 딥페이크에 대한 우려도 커졌다.

xAI는 이전에도 선정성 논란에 휩싸인 바 있다.'AI 캠패니언(동반자)' 기능을 통해 선보인 캐릭터 '애니'가 망사 스타킹과 얇은 란제리 옷차림으로 묘사됐기 때문이다. 미 국립성착취예방센터(NCOSE)는 “미성년자도 애니와 대화할 수 있다”며 xAI에 애니 캐릭터를 삭제하거나 애플에 그록 앱 이용 연령 제한을 18세로 바꿔야 한다고 요구했다.

서희원 기자 shw@etnews.com