[그게 뭔가요] 이게 뭐야? 불쾌한데, 자꾸만 등장하는 ‘AI 슬롭’

인스타그램이나 유튜브를 보다가 깜짝 놀랄 때가 가끔 있습니다. 백화점에서 사람이 거미로 변해 공격하거나, 교황이 사탄과 이야기하는 등 불쾌한 영상을 만날 때가 있죠. 비현실적인 일들이 주를 이루는 이 콘텐츠들은, 무의미하고 무분별하게 뿌려집니다. 이런 영상이나 이미지를 보면 하루 종일 불쾌한 기분이 듭니다.

이들은 대부분 AI로 만들어진 콘텐츠입니다. AI의 기술 발전으로 영상이나 이미지 편집에 대한 별다른 지식이 없이 프롬프트 입력만으로 원하는 콘텐츠를 만들 수 있기 때문에 심술부리듯 이런 콘텐츠를 만들어 여기저기 올리는 사람들이 있습니다.

이런 콘텐츠는 ‘AI 슬롭(Slop)’라고 부릅니다. AI 시대에 등장한 신조어죠. 일종의 AI 스팸과 같은 콘텐츠라고 이해하면 됩니다.

몇 분 만에 만들 수 있는 이 영상들은 진짜인가 오해할 정도입니다. 그리고 한 번 보면 알고리즘을 망쳐버립니다. 관련 콘텐츠를 계속 추천해 주는, AI 슬롭의 늪에 빠집니다. 그리고 AI로 만든 ‘쓰레기’들 때문에, 사람이 만드는 양질의 콘텐츠들이 묻히고 있습니다. 이러한 AI 슬롭들은 왜 만들어지고, 사람들에게 계속 퍼지는 걸까요.

책임감 없이 쉽게 만들어지는

AI 슬롭은 주로 소셜 미디어에서 볼 수 있는 형편 없고 품질이 낮은 AI 생성 콘텐츠를 말합니다. 슬롭은 본래 더러운 쓰레기, 가축에게 먹이로 주는 음식 찌꺼기를 의미합니다. 그 뜻처럼 AI 슬롭은 사람들에게 의미 없이 소비되고 버려집니다. 원하지도 않는데 자꾸만 뿌려지는 스팸메일처럼, AI 슬롭은 소셜 미디어를 이용하는 사람들에게 자꾸만 나타납니다.

이제 AI로 이미지를 만드는 건 너무나 쉽습니다. 원하는 단어를 몇 개 입력하고 생성 버튼만 누르면 만들어집니다. 잘 사용하면 매우 유용합니다. <바이라인네트워크>의 기자들도 기사 이미지를 넣을 때, AI로 만든 이미지를 활용할 때가 있습니다.

단어 몇 개만 넣으면 이런 귀여운 이미지를 순식간에 만들어줍니다. 이렇게 세상에 무해한 것들만 AI가 생성해 준다면 얼마나 좋을까요. 안타깝게도 조회수를 올리기 위해, 자극적인 이미지와 영상이 수없이 많이 생성되고 있습니다.

이들은 윤리적인 문제에는 관심이 없습니다. 오직 조회수만 신경 씁니다. 사람들의 호기심을 자극할 수만 있다면, 부정적인 반응은 개의치 않습니다. 오로지 ‘어그로(부정적 관심)’를 끌겠다는 생각만 가득합니다. 그들은 예수나 아기같이 사람들이 잘 다루지 않는 이미지들을 주로 쓰고 이를 본 사람에게 불쾌한 기분을 느끼게 합니다.

사람들의 이목을 끌면 돈이 되니까

이들이 ‘AI 슬롭’을 만드는 이유는 결국 돈 때문입니다. 사람이 만드는 양질의 콘텐츠보다 저렴하고 빠르게 만들 수 있는 AI 영상이 더 수익성이 높습니다. 알고리즘을 한번 타면 몇억 뷰가 나오기도 합니다.

문제는 소셜 미디어가 적절히 이와 같은 콘텐츠를 처리하지 않는다는 점입니다. 아니, 어쩌면 처리할 생각이 없어 보이기까지 합니다. 많은 사람들의 관심을 끄는 콘텐츠는 소셜 미디어 입장에서도 수익에 도움이 되기 때문이겠죠. 소셜미디어는 사용자가 계속해서 영상을 보게끔 알고리즘을 설계해 놨습니다.

유튜브 측은 AI 슬롭을 막기 위한 대책이 있는가라는 <바이라인네트워크> 질문에 아래와 같은 답을 보내왔습니다.

기본적으로 콘텐츠가 AI를 활용해서 만들어졌는지와 관계 없이 유튜브의 정책은 개별 동영상과 채널에 동일하게 적용됩니다. 이를 바탕으로:

1) 수익을 창출하기 위해서는 기본적으로 유튜브 파트너 프로그램에 가입할 수 있는 요건이 충족되어야 하고,

2) 수익을 창출하는 채널은 커뮤니티 가이드를 위반하지 않아야 하며, 광고주 친화적인 콘텐츠 가이드라인을 포함해 다양한 수익 창출 정책을 계속해서 준수해야 합니다.

이를 통해 다른 사람의 콘텐츠를 차용했거나 반복적인 콘텐츠는 아닌지 등 진정성 있게 콘텐츠를 제작했는지도 보고 있습니다.

물론 소셜미디어가 아무런 노력을 하고 있지 않은 건 아닙니다. 지난 2023년 유튜브는 AI 콘텐츠에 새로운 정책을 추가했습니다. AI로 생성한 콘텐츠에는 이를 알리도록 ‘변경되었거나 합성된 콘텐츠’라는 라벨을 달도록 했습니다.

인스타그램도 비슷한 정책을 가지고 있습니다. 유튜브의 경우 크리에이터가 스스로 라벨을 달아야 하지만, 인스타그램은 크리에이터가 달지 않으면 인스타그램 측이 식별해서 AI로 생성한 콘텐츠에 라벨을 붙입니다.

하지만 이런 라벨 정도로는 AI 슬롭 확산이 멈추지 않고 있습니다.

그럼에도, 사람이 만드는 이유

양산형으로 빠르게 만들어지는 AI 슬롭과 반대로, 느리더라도 양질의 콘텐츠를 만드는 사람들이 있습니다. 이들은 책임감 있는 콘텐츠를 제작하려 노력합니다. 직접 촬영을 하거나 오픈소스를 편집해 콘텐츠를 올립니다. 듣고 싶은 클래식을 요청하면, 30초 정도의 짧은 영상을 제작해 올리는 한 크리에이터의 이야기를 들어봤습니다.

Q. 영상을 만들 때 AI 프로그램을 쓰나?

A. 아니다. 소라로 몇 번 제작을 시도했는데, 퀄리티가 좋지 않았다. 인간이 만든 것보다 훨씬 떨어진다.

챗지피티를 구독하면 패키지로 AI 영상 제작 프로그램인 ‘소라(Sora)’를 이용할 수 있습니다. 챗지피티 플러스(월 20달러, 한화 약 3만 원) 구독 버전의 경우, 손이나 발 같은 섬세한 표현과 화면전환이 부자연스럽거나 중간에 영상이 아예 바뀌는 등 아직 프로그램의 수준이 높지 않았다고 말했습니다.

이를 뒷받침하듯, 작년 12월 더버지는 소라의 실제 사용 후기가 실망스러웠다고 보도했습니다. 소라를 테스트할 때, ‘실뭉치를 갖고 노는 고양이’ 같은 간단한 요청에는 진짜 뛰어노는 듯한 고양이를 잘 만들어냈습니다. 하지만 고양이 꼬리가 두 개로 바뀌거나 실뭉치가 뭉개지는 등 묘사가 어긋나기도 했습니다.

그리고 복잡한 요청을 하면 이런 시각적인 문제는 더 빈번하게 나타났습니다. 아직 인간의 움직임을 묘사하는 건 AI에도 어려운 영역입니다. 그리고 더버지는 “소라가 처음부터 생성한 것은 실제로 사용할 수 있는 것이 없었다”고 혹평했습니다.

Q. 퀄리티만이 문제인가? 다른 이유는 없는지도 궁금하다.

A. 가격도 있다. 사용해본 것이 저렴한 버전이라 더 퀄리티가 좋지 않은 것도 있겠지만, 고급 버전은 너무 비싸다. 그리고 가성비(가격 대비 성능의 비율)가 좋지 않다.

후기들을 살펴보면 퀄리티에 비해 AI 영상 제작 프로그램의 가격이 높다는 이야기가 많습니다. 소라를 쓸 수 있는 챗지피티 프로 버전은 월 200달러로 한화 약 30만 원입니다. 최근 공개된 구글의 AI 영상 제작 모델인 ‘비오 2’는 소라보다 가격이 높습니다. 1초에 50센트로, 한화로 약 730원입니다. 1분 길이의 영상을 제작하려면 4만 원이 넘어갑니다. 전문가를 겨냥해 만든 이 모델 역시 손가락이나 눈동자, 피부 질감 등의 세부적인 표현에서 문제가 드러났다고 여러 외신은 보도했습니다.

마지막으로 크리에이터 A 씨의 의견을 정리해봤습니다. “챗지피티 프로 버전(월 30만 원)을 쓰기엔 아직 사람이 만든 영상의 퀄리티가 더 높다”입니다. 그렇기에 30초 내외의 짧은 영상을 만듦에도 불구하고 AI 제작 툴을 쓰지 않습니다. 결국, 질 좋은 콘텐츠는 사람이 만드는 이유입니다.

글. 바이라인네트워크

<최가람 기자> ggchoi@byline.network