‘트랄랄레오 트랄랄라’가 뭔데?···‘뇌 썩는 듯한’ AI 슬롭, 어찌할꼬

‘트랄라레오 트랄랄라’ 밈 대표 예시

플랫폼 신뢰도는↓·서버 비용은↑

구글·메타, 반복 콘텐츠 수익 제한

네이버도 짜깁기 게재 모니터링

사용자에 부정적 영향 빠르게 확산

‘인터넷 중독 치료’ 씁쓸한 순기능도

최근 유행 중인 밈(인터넷 유행) 중 ‘트랄라레오 트랄랄라’라는 게 있다. 파란색 나이키 운동화를 신고 해변에 선, 다리가 3개인 상어 캐릭터다. 생성형 인공지능(AI)으로 만든 캐릭터에 이탈리아어처럼 들리는 음성을 덧입힌 게 전부인데, 알파 세대(2010년대 이후 출생)의 폭발적 반응에 힘입어 전 세계로 퍼져나갔다. 올해 초 틱톡에서 시작된 이 밈은 ‘이탈리안 브레인롯’이라 불리는 콘텐츠 시리즈의 일부다. 기괴한 이미지와 아무 의미 없는 이탈리아어의 조합이 마치 뇌가 썩는 듯한 느낌을 준다는 의미로 이름 붙여졌다.

인공지능 시대의 찌꺼기, AI 슬롭

트랄라레오 트랄랄라 정도면 양반이라고 해야 할까. 생성형 AI가 널리 보급되면서 AI가 찍어낸 저품질의 이미지와 동영상이 넘쳐나고 있다. 정보를 찾아 블로그·카페를 검색하다 출처를 알 수 없는 동일한 게시물을 발견하는 일도 부지기수다. 오죽하면 AI에 음식 찌꺼기(slop)를 더한 신조어 ‘AI 슬롭’까지 등장했다.

AI 생성 콘텐츠의 부상은 통계로도 확인된다. 시장조사업체 튜브필터에 따르면 지난 5월 4주 세계 최대 동영상 플랫폼 유튜브에서 구독자가 크게 늘어난 채널 50개 중 8개는 AI 생성 영상을 쇼츠로 올린 채널이었다.

AI만 잘 쓰면 쉽게 돈을 벌 수 있다는 기대는 여기에 기름을 부었다. 생성형 AI는 현재 부업 시장에서 가장 주목받는 도구다. ‘하루 30분이면 AI로 쇼츠를 만들어 수천만원을 벌 수 있다’고 주장하는 온라인 강의와, 해당 강의를 듣고 수익 창출에 성공했다는 후기가 줄이으면서 비슷한 성격의 유튜브 계정, 블로그가 우후죽순 생겨나는 중이다.

저품질 콘텐츠의 양산으로 플랫폼의 고민도 깊어지고 있다. 트랄라레오 트랄랄라의 경우처럼 그저 ‘황당함’을 선사하는 데 그치지 않고 플랫폼의 신뢰도를 떨어뜨리기 때문이다.

사용자 참여형 온라인 백과사전 ‘위키백과’의 고민은 사용자 제작 콘텐츠(UGC) 기반 플랫폼의 고민을 잘 보여준다. 지난해 10월 미국 프린스턴대 연구진이 발표한 논문 ‘위키백과에서의 AI 생성 콘텐츠의 부상’에 따르면 같은 해 8월 위키백과에 생성된 영어 문서 2090개 가운데 약 5%인 145개가 AI 생성 콘텐츠로 나타났다.

이 밖에 AI로 대량 생산된 콘텐츠로 인해 급증한 서버 비용도 현실적인 문제로 꼽힌다.

글로벌 플랫폼 기업들은 AI 슬롭을 걸러내기 위한 대응책을 속속 내놓고 있다.

구글은 지난달 중순 유튜브 파트너 프로그램(YPP) 정책을 개편해 재사용·반복 게재 콘텐츠의 수익 창출을 제한하기로 했다. 콘텐츠 제작에 AI를 활용하는 것 자체를 막는 것은 아니지만, 수익화를 노리고 AI로 찍어낸 저질 콘텐츠를 걸러내려는 목적으로 풀이된다.

인스타그램·페이스북을 보유한 메타도 칼을 빼들었다. 타인의 게시물을 허가 없이 재활용해 반복 게재하는 비창의적 사용자에 대해 수익 창출을 일정 기간 제한하기로 했다.

Z세대에게 인기가 높은 이미지 기반 SNS 핀터레스트 역시 사용자 불만을 잠재우기 위해 지난 4월 특단의 조치를 취했다. AI 생성 이미지에 라벨을 붙이고 사용자가 원할 경우 AI 생성 콘텐츠에 덜 노출될 수 있도록 기능을 추가하겠다고 발표한 것이다.

국내 플랫폼들 사정도 크게 다르지 않다. 네이버는 생성형 AI로 대량으로 만들어낸 콘텐츠와 타인의 콘텐츠를 복사·짜깁기해 게재하는 행위를 모니터링하고 수익화 제한 등 제재를 하고 있다. 지난 5월에는 AI 제작 콘텐츠에 ‘AI 활용’ 아이콘을 붙이는 기능도 도입했다.

네이버 관계자는 “(생성형 AI의 확산으로) 관리하고 주시해야 하는 콘텐츠가 다양해지고 있는 것이 사실”이라며 “좋은 검색 결과를 제공하기 위해 검색 알고리즘, 탐지 기술 등을 지속적으로 고도화하고 있다”고 말했다.

전문가들은 AI 슬롭이 인터넷을 천천히 ‘질식시키고’ 있다고 지적한다. 뉴욕대 산하 진실성 연구소의 최고 연구 책임자 제프 앨런은 최근 블룸버그통신에 “AI 슬롭은 인터넷 사용자에게 부정적 영향을 빠르게 광범위하게 끼치고 확산된다”며 “건강한 생태계를 파괴하는 ‘조류 번식’과도 같다”고 말했다.

이 밖에 인간 크리에이터의 소외, AI가 만든 가짜 정보가 초래하는 정치적 혼란을 경고하는 목소리도 점차 커지고 있다. AI가 생성한 저품질의 데이터를 학습한 AI의 품질 저하 우려도 꾸준히 제기된다.

AI 슬롭에는 순기능이 없을까. 미국 시사지 디 애틀랜틱이 최근 지적한 AI 슬롭의 의외의 기능은 쓴웃음을 자아낸다.

“AI는 온라인의 많은 부분을 신뢰할 수 없게 만들어 더 많은 이들을 오프라인으로 끌어낼 수 있다. AI 슬롭은 마침내 우리의 인터넷 중독을 치료할지도 모른다.”