과기정통부, AI 생성물 ‘눈에 안 보이는’ 워터마크 재검토한다

과학기술정보통신부가 인공지능(AI) 생성물에 적용하기로 했던 ‘비가시적 워터마크’(눈에 보이지 않는 표시) 허용 방침을 재검토하겠다고 밝혔다.

류제명 과기정통부 2차관은 13일 정부세종청사에서 열린 국회 과학기술정보방송통신위원회 국정감사에서 “기계가 아닌 사람이 보기에 ‘AI가 만든 것이구나’ 하고 알 수 있어야 한다”는 최민희 과방위원장의 지적에 “검토하겠다”고 답했다.

앞서 과기정통부는 지난달 17일 공개한 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법) 하위법령 초안에 AI 생성물에 비가시적 워터마크를 허용하는 내용을 담았다. 비가시적 워터마크는 사람 눈에는 보이지 않지만 디지털 파일 내부에 출처나 생성 정보를 암호화해 삽입하는 기술로, 별도의 디지털 판독 과정을 거쳐야만 AI 생성물 여부를 확인할 수 있다.

최 위원장은 이에 대해 “기계 판독 기준이 말이 되느냐”며 “각종 AI 페이크(가짜 생성물)에 대해 사람이 직접 판별할 수 있어야 한다”고 지적했다.

이날 국정감사에서는 AI가 만든 사진·영상·음성이 시연되며 논란이 일었다. 김장겸 국민의힘 의원은 “AI를 이용한 녹취록은 아주 손쉽게 만들 수 있다”며 AI 생성 사진과 음성 파일을 공개했다. 주식 차명거래 의혹으로 수사받는 이춘석 전 국회 법제사법위원장과 배경훈 장관이 건배하는 장면을 합성한 사진과, 이를 두고 익명의 인물들이 대화하는 AI 음성이었다. AI가 만들어낸 대화에는 이 전 위원장이 국정기획위원회에서 AI 관련 보고를 받던 시기 배 장관과 부적절한 만남을 가졌다는 듯한 뉘앙스가 담겨 있었다.

표면적으로는 ‘AI의 부작용’을 경고하는 시연이었지만, 최근 조희대 대법원장과 한덕수 전 국무총리의 ‘비밀회동’ 의혹이 유튜브 AI 생성물에서 비롯된 점을 겨냥한 퍼포먼스로도 읽혔다. 김 의원은 “이걸(AI가 만든 사진과 대화를) 사실이라고 주장한다면, 민주당 논리대로라면 특검을 해야 한다고 하지 않겠느냐”고 말했다.

김 의원이 재생한 딥페이크 사진과 음성에 여당 의원들이 강하게 항의하면서 국감은 30분가량 정회됐다. 국감이 재개된 뒤 배 장관은 “딥페이크 영상을 보여준 취지에는 공감하지만, 자막으로 딥페이크임을 명시했으면 좋았을 것 같다”며 “사실로 오인돼 퍼질 수 있어 우려스럽다. 유감을 표한다”고 말했다.

이후 최 위원장은 국정감사를 이어가던 도중 김 의원의 사진·음성 생성물을 다시 언급하며 “부총리께서는 가짜임을 명확히 알 수 있도록 표시해달라고 했는데, 정작 정부의 AI 생성물 표시 기준은 왜 그렇게 안 세우느냐”고 꼬집었다. 그는 “아무리 AI 업계가 요구해도 안 되는 것은 안 되는 것”이라며 “AI 투명성과 관련해 깊이 고민해주시기 바란다”고 덧붙였다.