"뭐가 진짜 아이유야? 절대 속지 마세요"…AI 합성 불법 도박 광고 '우르르' 나오더니 결국

AI 딥페이크 기술을 활용해 유명인·언론·정부기관을 사칭하는 불법 온라인 도박 광고가 SNS에서 급속히 퍼지고 있는 것으로 나타났다. 법으로 금지된 온라인 도박을 마치 ‘합법 서비스’처럼 위장해 소비자를 끌어들이는 방식이 정교해지면서 피해 우려가 커지고 있다.

한국소비자원은 페이스북에 노출된 온라인 도박 광고를 모니터링한 결과, 허위·기만 광고 38건을 확인했다고 10일 밝혔다. 수사기관과 언론의 반복된 경고에도 게시물이 계속 올라오고 있어, 기술 기반의 조작 광고에 대한 플랫폼 차원의 대응 필요성이 제기된다.

◇ "얼굴과 목소리가 진짜 같다"…너무 정교해 구분이 어렵다

소비자원 조사에 따르면 유명 연예인·스포츠 스타가 직접 도박 앱을 추천하는 것처럼 제작된 딥페이크 영상 6건, 지상파 뉴스 화면을 합성한 영상 8건 등 총 14건(중복 포함)의 ‘언론·유명인 사칭형’ 광고가 확인됐다.

또 동행복권·카카오·CU 등 유명 기업의 로고나 캐릭터를 무단 삽입해 제휴 서비스로 보이게 만든 광고도 13건(34.2%) 확인됐다.

이들 영상은 얼굴 움직임과 음성까지 합성돼 실제 방송 인터뷰처럼 보이도록 제작됐다. 뉴스 포맷을 따라 만든 영상에서는 앵커가 등장해 “크리스티아누 호날두가 만든 애플리케이션 덕분에 억대 당첨금을 받았다"는 허위 사연을 전달하고, "신규 이용자가 600만원 상당의 보너스와 최대 300억원의 당첨 기회를 얻는다"는 식의 과장 문구가 반복된다.

또 다른 영상에서는 가상의 인터뷰이가 "앱 가입만으로 75만원의 보너스를 받았다거나 3일 만에 2000만원을 벌어 빚을 갚았다"는 이야기를 하며 시청자 호기심을 자극한다. 또 유명인을 사칭한 딥페이크에서는 강원랜드 앱이 ‘정식 라이선스를 받은 합법 서비스’인 것처럼 강조하거나 ‘당첨금이 5분 안에 입금된다’는 식의 문구를 덧붙여 실제 발언처럼 조작했다.

특히 정부기관이나 공기업을 사칭한 광고는 전체의 절반을 훌쩍 넘는 24건(63.2%)으로 가장 많았다. 기획재정부·강원랜드 로고를 그대로 사용하고 ‘정부 인증’, ‘합법 운영’이라는 문구를 삽입해 공공기관이 직접 운영하는 공식 서비스처럼 꾸민 것이다.

소비자원은 이러한 영상들이 실제 뉴스 화면과 유사해 처음으로 시청하면 진위를 구분하기 어렵다고 지적했다. 영상의 완성도가 높아질수록 허위 정보가 사실처럼 받아들여질 위험도 커진다는 것이다.

◇ 게시자 신원 파악 어려워…플랫폼 광고 모니터링 강화

이 같은 광고들은 한 번 클릭하면 알고리즘에 의해 유사 광고가 연속적으로 노출되는 방식으로 운영돼 피해 확산 가능성이 높다. 광고 게시자의 신원을 확인하기 어려운 점도 문제로 지적된다.

소비자원은 조사 결과를 메타(Meta)에 전달해 광고 차단을 요청했으며, 향후 SNS 플랫폼을 대상으로 한 딥페이크 기반 허위 광고 모니터링을 강화할 예정이다. 앞으로도 주요 온라인 플랫폼을 대상으로 딥페이크 기반 허위 광고 모니터링을 강화할 계획을 밝혔다.

소비자원은 온라인 도박이 행위 자체만으로도 불법이라는 점을 강조하며 누구나 AI 기술로 유명인·언론·공공기관을 사칭한 합성 영상을 제작할 수 있는 만큼 각별한 주의를 당부했다.

불법 도박 사이트 및 의심 사례는 불법사행산업감시신고센터(1855-0112)에 신고할 수 있으며, 소비자 피해 상담은 1372 소비자상담센터에서 가능하다.