틱톡, 머신러닝·심사역·가이드라인 '삼중 시스템'으로 이용자 보호 고도화

#담배를 입에 물거나, 흉기를 신체 가까이에 대는 행동을 하자 틱톡 센터 내 모니터에 '흡연' '상해' 카테고리 위험 지수가 빨갛게 변하며 높아진다. 반면 단순히 담배를 들고만 있거나 칼로 고기를 써는 행동을 하면 지수는 흰색으로 표시되며 내려간다. 머신러닝을 적용한 모니터링 기능이 작동한 모습이다. 틱톡은 단순한 사물 인식이 아니라, 인물의 동작이나 맥락을 함께 고려해 위험도를 판단하고 콘텐츠 유통 여부를 결정한다.

지난 13일 틱톡은 싱가포르 본사에 위치한 틱톡 투명성 및 책임 센터(TAC)에서 자사 알고리즘과 콘텐츠 심사 과정을 공개하며 플랫폼의 투명성과 책임성을 강조했다.

틱톡은 매일 약 160만 건의 유해 콘텐츠를 삭제하고 있다. 콘텐츠는 업로드 이후 자동 필터링, 전문 심사역 검토, 최종 검토의 3단계 절차를 거친다. 콘텐츠 중 83%는 이용자에게 노출되기 전에 머신러닝 기술로 자동 차단된다.

머신러닝이 감지하기 어려운 콘텐츠는 전문 심사 담당자가 다시 한번 가이드라인을 위반하지 않는지 24시간 검증한다. 수 만명의 전문 심사역은 현지 문화나 관습, 법률 위반 맥락도 고려한다.

틱톡 관계자는 “한국과 이슬람 국가에서 허용된 노출의 수위가 다르다는 점 등을 고려해 콘텐츠를 검토한다”며 “교육적 목적이나 문화적 관행과 같은 예외적인 문화 상황을 살펴보며 예외를 허용하기도 한다”고 밝혔다.

지난해 4분기 기준 틱톡은 약 1억5300만여 건의 동영상을 삭제했다. 이용자 혹은 외부 기관의 신고를 받기 전에 틱톡이 내부적으로 삭제를 한 선제적 삭제 비율은 98.5%에 달한다. 24시간 이내에 콘텐츠를 삭제한 비율은 90.8%, 이용자가 콘텐츠를 보기 전에 삭제한 비율은 83.2%로 집계됐다. 한국의 경우 지난해 4분기 기준 동영상 삭제 상위 50개국에는 포함되지 않았다.

커뮤니티 가이드라인 또한 지속 고도화 중이다. 선정적인 콘텐츠, 허위 정보, 딥페이크 등 시대 변화에 따라 필요한 규정을 추가하고 개선한다. 글로벌 10개 외부 자문위원회의 피드백을 통해 세부 기준도 보완하고 있다.

특히 선거와 딥페이크 및 가짜뉴스 이슈가 맞물리면서, 생성형 AI 정치 콘텐츠에 대해서는 라벨 여부와 관계없이 삭제 조치한다. 중립 원칙을 강조하기 위해 특정 정치 세력을 지지하거나 금전 모금 콘텐츠는 허용하지 않는다.

틱톡 관계자는 “정치 자금 모금이 허용되면 사용자 간의 상호작용과 의견 교환에 금전적이 요소가 영향을 미칠 수 있다”며 “틱톡은 플랫폼 내 모든 상호작용이 진실되기를 바란다는 맥락에서 오랫동안 정치적인 유료 광고를 허용하지 않는 것”이라고 설명했다.

지난해에는 전 세계적으로 선거가 많은 해였다는 점을 고려, 커뮤니티 가이드라인 업데이트도 진행했다. 아울러 60개 이상의 언어를 지원하는 전 세계 20여 개의 팩트 체크 기관과 협력해 허위 정보 여부를 판단한다.

청소년 보호 정책도 강화 중이다. 청소년 이용자에게는 계정 비공개 설정, DM 제한, 피드 노출 제한, 시청 시간 설정(기본 60분) 등 다양한 보호 기능을 제공한다. 세이프티 페어링 기능을 활용하면 부모가 자녀 계정을 연동해 사용시간, 키워드, 피드 설정 등을 조절할 수 있다.

추천 알고리즘에는 다양성을 담기 위해 노력 중이다. 틱톡은 이용자에게 익숙한 콘텐츠 60%, 새로운 시각의 콘텐츠 40%를 혼합 제공하는 방식으로 필터버블을 방지한다. 반복 노출될 경우 정신 건강에 영향을 줄 수 있는 다이어트 등 민감 주제는 '스톱갭(Stop-gap)' 기술로 차단한다.

틱톡 관계자는 “영향력이 큰 플랫폼인 만큼 논란보다는 논의가 필요한 주제가 많다”며 “틱톡은 신중하고 진지하게 콘텐츠 관리에 접근하고 있으며 지속적으로 안전성을 확보하기 위해 서비스 개선에 노력하고 있다”고 말했다.

싱가포르=손지혜기자

싱가포르=손지혜 기자 jh@etnews.com