인공지능(AI)을 기반으로 제작한 이미지나 동영상을 구별하도록 돕는 ‘콘텐츠 자격 증명’ 기술에 대한 관심이 커지고 있다. 딥페이크 등 AI 악용으로 인한 피해 사례가 빈번해지는 상황에서 삼성전자(005930)가 신형 스마트폰 갤럭시S25 시리즈에 콘텐츠 자격 증명 기술을 탑재하고 '콘텐츠 출처 및 진위 확인을 위한 연합(C2PA·Coalition for Content Provenance and Authenticity)'에 스마트폰 제조사 최초로 가입했기 때문이다. 삼성전자가 C2PA 회원사인 어도비, 구글, 네이버, 메타, 틱톡 등과 함께 콘텐츠 투명성을 강화하고 AI의 부작용을 해결하는 데 앞장설지 주목된다.
29일 정보기술(IT) 업계에 따르면 삼성전자의 갤럭시S25 시리즈는 콘텐츠 자격 증명을 지원한다. 콘텐츠 자격 증명은 콘텐츠의 출처와 생성 과정에 대한 정보를 제공하는 것이다. 식품 포장지 등에 영양 성분을 적는 것처럼 콘텐츠에도 편집자, 제작 시간과 장소, 편집 이력 등 정보를 메타데이타 형태로 표시한다. 눈에 띄는 형태의 워터마크 이용자는 어도비 인스펙트·콘텐츠크리덴셜스 홈페이지 등을 활용하면 세부 정보를 확인해 AI를 통해 생성한 이미지나 동영상을 구별할 수 있게 된다. 김정현 삼성전자 MX사업부 CX실장 부사장은 22일(현지시간) 미국 새너제이에서 열린 갤럭시S25 언팩행사에서 "모두 더 투명한 AI 세상을 만들기 위한 노력의 일환"이라고 설명했다.
삼성전자는 콘텐츠 자격 증명 표준 개발을 주도하는 C2PA에도 가입했다. C2PA는 2021년 설립된 글로벌 연합체다. 구글, 마이크로소프트(MS), 메타, 아마존, 어도비, 인텔, 틱톡 등 테크 기업과 영국 BBC, 일본 NHK 등 미디어 회사, 소니 등 카메라 제조사도 회원으로 참여 중이다. 네이버는 지난해 7월 국내 기업 최초로 C2PA에 합류했다. 이스트소프트(047560)도 같은 해 11월 한국 기업으로는 두번째로 가입했다.
삼성전자가 합류한 C2PA는 디지털 콘텐츠에 대한 신뢰 구축에 힘을 쏟고 있다. 딥페이크 기반의 음란물로 인격권이 침해되거나 특정 인물을 사칭한 콘텐츠가 가짜뉴스·사기범죄에 활용되는 문제가 심화하고 있기 때문이다. 지난해 미국 뉴햄프셔주에서 치러진 민주당 프라이머리(예비선거)를 하루 앞두고 조 바이든 미 대통령의 가짜 AI 목소리가 투표 거부를 독려하는 일이 발생했다. 또 대만 총통 선거에서는 민진당에 불리할 수 있는 다수의 딥페이크 영상이 퍼져 논란이 되기도 했다.
삼성전자의 합세를 계기로 디지털 콘텐츠의 투명성 확산 속도가 빨라질지 주목된다. 업계에서는 스마트폰 제조사 최초로 C2PA에 가입한 삼성전자가 AI를 활용한 디지털 콘텐츠 생산의 기준을 높이고 이용자에게 보다 신뢰할 수 있는 콘텐츠 환경을 조성할 것으로 기대한다. 앤디 파슨스 어도비 콘텐츠 진위 이니셔티브(CAI) 수석 디렉터는 "삼성이 갤럭시 S25에 AI가 생성한 이미지에 대한 콘텐츠 자격 증명을 구현해서 전 세계 수백만 명의 소비자와 크리에이터에게 출처를 보여주는 중요한 툴을 알리고 이를 확산하는 데 큰 진전을 이루게 됐다"고 평가했다. 이어 "삼성의 이 같은 노력은 콘텐츠 진위 표준에 대한 업계의 광범위한 채택을 가속할 것"이라며 "더욱 투명하고 신뢰할 수 있는 디지털 생태계 기반을 강화하기 위해 다른 스마트폰 및 하드웨어 제조사도 이 같은 흐름에 동참하기를 기대한다"고 전했다.
다만 극복할 과제도 있다. 콘텐츠 자격 증명을 무력화하는 방법도 더욱 정교해지고 있어 대응이 필요하다. 범죄 목적으로 제작된 콘텐츠의 경우 콘텐츠 자격 증명 기술이 적용되지 아예 진위 파악이 힘들 수도 있다. AI 개발사·스마트폰 제조사·콘텐츠 플랫폼의 참여도 더 늘어야 한다는 분석이 제기된다. 애플과 일론 머스크 테슬라 최고경영자(CEO)가 설립한 xAI, 최근 화제가 된 중국 딥시크 등은 C2PA에 가입하지 않았다.
