감염병 최고 전문가가 단백질바 판매를?...중국 AI 딥페이크 사기 골치

중국 온라인 쇼핑몰에서 대중에게 친숙한 감염병 전문가가 건강보조식품을 판매하는 딥페이크 영상이 생방송으로 방영돼 소비자들이 혼란을 겪었다. 갈수록 정교해지는 인공지능(AI) 합성기술에 대한 우려가 커지고 있다.

16일 상관신문 등에 따르면 장원훙 국가전염병의학센터장 겸 푸단대 부속 화산병원 감염과 주임이 단백질바를 판매하는 영상이 몇 차례 심야 온라인 쇼핑몰에 생방송으로 송출됐다. 장 센터장은 중국 최고의 감염병 전문가로 꼽히는 인물로, 코로나19 대유행 기간 대중매체에서 바이러스의 변이나 감염상황을 설명했다.

영상은 AI으로 합성한 가짜였다. 입 모양 등이 어색해 주의해서 보면 가짜라는 사실을 파악할 수 있었지만 노인들이 방송을 보고 상품을 주문했다는 경험담이 쏟아졌다. ‘반화 234’란 이름을 사용하는 이 계정은 1200개 이상의 단백질바를 판 것으로 전해졌다.

장 소장은 현지 언론과의 인터뷰에서 “그러한 계정이 두 개 이상 있는데 계속 바뀐다. 플랫폼에 반복해서 금지를 요청했지만 많은 사람들, 특히 AI에 익숙하지 않은 노인들은 진실을 모른다”며 경찰 신고도 고려했지만 사기 용의자를 특정할 수 없어 신고가 어렵다고 말했다.

중국 쇼핑몰에서는 업체가 자사 최고경영자(CEO)의 영상과 음성을 합성해 내보내는 쇼핑 방송을 흔히 볼 수 있다. 비유하자면 삼성전자가 AI를 활용해 이재용 회장이 직접 휴대폰을 판매하는 영상을 제작하는 식이다. 관영매체에서도 이를 긍정적으로 소개하는 등 국가적으로도 기술혁신과 경제활성화에 도움이 된다며 AI 활용을 장려한다.

하지만 딥페이크 영상이 사회에 혼란을 주고 범죄에 활용되는 것에 대한 우려도 커지고 있다. 지난 10월 국경절 연휴에는 레이쥔 샤오미 회장이 욕설을 하며 대중을 꾸짖는 가짜 영상이 돌아다녔다. 지난 5월 블라디미르 푸틴 러시아 대통령 방한을 앞두고 러시아 출신이라는 금발 여성이 출연해 “나는 중국 남성과 결혼하고 싶다”고 말하는 영상이 퍼졌는데 이 역시 가짜로 밝혀졌다.

홍콩에서는 지난 10월 여성들이 등장하는 가짜 영상으로 보이스피싱 범죄를 저질러 630억원을 가로친 일장이 체포됐다. 여성 왕훙(온라인 유명인)을 합성한 딥페이크 성범죄도 기승을 부리고 있다.

AI 합성 영상 규제 논의가 나오고 있지만 사극 합성 영상이 먼저 철퇴를 맞았다. 홍콩 사우스차이나모닝포스트(SCMP) 등에 따르면 중국 당국은 최근 단편드라마에서 사극 장면을 황당무계한 장면으로 합성하지 못하도록 하는 규제안을 발표했다.

청나라 배경의 사극 궁궐 장면이 느닷없이 주인공이 오토바이를 타고 다니는 모습으로 전환되는 등 현대적 요소를 집어넣은 십수초 분량의 사극 합성영상이 온라인에서 인기를 끌고 있는데 이를 금지한 것이다. 서유기, 삼국지 등의 고전물을 AI로 합성하는 것도 금지됐다. 전통문화의 품위를 훼손한다고 본 것이다.

중국 온라인에서는 “정말 규제를 해야 할 것은 규제하지 않고 엉뚱한 것을 먼저 규제한다”는 탄식이 나오고 있다.

중국 당국은 이밖에도 AI제작 콘텐츠에 표시를 의무화하는 규정을 추진 중이다.