톈안먼 항쟁 36주년 …AI로 더 치밀해진 검열, ‘가짜역사’ 우려

호주 ABC 방송 검열지침 입수 분석

AI가 풍자 이미지도 걸러내게 학습

홍콩 빅토리아 공원에서는 음식 축제

중국 온라인에서는 6월이 아니더라도 ‘톈안먼 항쟁’ 희생자를 추모하거나 유혈 진압을 비판하는 게시물을 찾을 수 없다. 평소에도 검열이 적용되기 때문이다. 인공지능(AI)의 발달로 ‘톈안먼 지우기’ 작업이 더욱더 효과적이고 수월해질 것이라는 우려가 나온다.

톈안먼 항쟁 36주년인 4일 호주 ABC방송은 중국 소셜미디어와 플랫폼에 적용되는 검열 지침을 입수하고 틱톡과 더우인(중국판 틱톡)의 모기업 바이트댄스 전·현직 검열 담당자 4명을 인터뷰했다며 중국 인터넷 플랫폼의 검열 방식을 상세히 소개했다.

보도에 따르면 지침은 약230페이지 분량이다. 중국 인터넷 감독기구인 국가인터넷정보판공실의 지시에 따라 다중채널네트워크(MCN) 사업자들이 지켜야 할 지침과 매뉴얼을 담고 있다.

톈안먼 항쟁 관련 게시물은 대중에 노출되지 않는 것이 철칙이다. 2022년 웨이보 매뉴얼에는 톈안먼 학살은 “민감한 사건”이며 “결코 공개돼서는 안 된다”고 적혀 있다. 전 웨이보 검열 담당자 류리펑(가명)은 “검열관에게 이보다 더 중요한 사건은 없다”며 시진핑 중국 국가주석에 대한 비판 게시물 확산을 엄정히 단속하는 과정에서 톈안먼 항쟁 검열도 강화됐다고 전했다.

플랫폼에 올라오는 모든 게시물은 AI에 의해 우선 검토된다. 이미지, 텍스트, 동영상 자막, 이모지, 특수문자 조합 등이 모두 검토 대상이다. 검열 담당관들은 위험한 이미지가 무엇인지 AI를 학습시킨다.

2022년 더우인 매뉴얼에는 한 남성이 맨몸으로 탱크를 막는 ‘탱크맨 사진’을 ‘전복적인 이미지’로 규정한다. 더우인 알고리즘은 사과 4개를 일렬로 늘어놓고 앞에 바나나가 놓인 이미지도 탱크맨 사진의 풍자로 간주하고 걸러낸다. 과거에는 검열관들이 ‘사물이 일렬로 놓인 이미지’를 일일이 찾아냈지만 AI가 자동으로 걸러낼 수 있게 됐다.

AI가 추려낸 ‘불온 게시물’ 가운데 높은 등급을 받은 콘텐츠는 인간 검열관들이 직접 검토한다. 톈안먼 항쟁 관련 게시물이 많이 올라오는 6월 첫째 주가 되면 검열관들도 ‘비상 모드’가 된다. 실적을 위한 할당량도 부과된다. 실수했다가는 플랫폼이 정지되는 등 처벌을 받을 수 있기 때문에 ‘선 삭제 후 검토’ 방식으로 검열이 이뤄진다. 꽃이나 촛불 등 추모를 떠올리게 하는 게시물도 일단 금지한다.

전·현직 검열관들은 잔인한 콘텐츠에 노출돼 있어 정신적 고통을 호소한다. 검열관 월급은 1500달러(200만원)로 중국에서 적은 보수는 아니지만 불쾌하고 폭력적인 콘텐츠에 지속해서 노출돼 번아웃, 우울증, 불안을 겪는 이들이 많다고 전해진다.

ABC는 한 취재원이 검열관으로 일하는 것은 “매일 역사의 가장 어두운 페이지를 다시 겪는 것과 같고, 모든 키보드 입력을 기록하는 소프트웨어에 감시당하는 것과 같다”고 말했다고 전했다.

레넌 창 호주 디킨대 교수는 “AI로 인해 시각적, 상징적 게시물에 대한 검열이 더욱 수월해졌다”며 “검열이 계속되고 AI가 계속 강력해진다면 우리 후손들은 과거에 무슨 일이 일어났는지 알 수 없게 된다. 필터링을 거친 ‘가짜 세상’ ‘가짜 역사’가 만들어진다”고 말했다.

창 교수는 알고리즘 학습으로 편향된 데이터가 중국 바깥의 인터넷에 영향을 미칠 가능성이 있다며 중립적인 데이터베이스를 보존할 방법을 찾아야 한다고 말했다. 가디언에 따르면 2023년 구글에서 ‘탱크맨’을 검색하자 AI가 생성한 탱크 앞에서 셀피를 찍는 사진이 가장 먼저 검색된 적 있다.

류리펑은 “수년간 검열관으로 일하면서 인간의 창의성이 AI 검열관보다 몇 배나 더 강력하다는 걸 깨달았다”고 전했다.

이날 위챗 등 중국 메신저에서는 ‘시스템 점검 중’이라는 이유로 프로필 사진 변경이 금지됐다. 과거 톈안먼 희생자 추모 행사가 열렸던 홍콩 빅토리아 공원에는 전날부터 경찰들이 대거 투입돼 순찰을 벌였으며 주말부터 음식 축제가 열렸다고 홍콩프리프레스(HKPF)가 보도했다. 홍콩의 한 양초 가게는 인스타그램에 양초 한 자루를 6.4달러에 판매한다는 게시물을 올렸다.

존 리 홍콩 행정장관은 전날 브리핑에서 홍콩에서 촛불을 켜거나 톈안먼 항쟁 추모 글귀가 적힌 티셔츠를 입는 행동이 합법인지 묻자 “모든 것은 합법적으로 이뤄져야 한다”며 “국가안보를 위협하는 사람은 누구든 조처를 하겠다”고 답했다.

같은 날 대만 양안 관계 담당 기구 대륙위원회는 “중국 공산당이 사건의 진실을 직시하지 못하면 결코 역사적 오명을 벗을 수 없을 것이라고 성명을 발표했다.

린젠 중국 외교부 대변인은 이날 미국 국무부가 톈안먼 항쟁 36주년을 기리는 논평을 낸 것에 대해 “중국에 대한 모해”라고 밝혔다.