AI기본법 시행령, AI 생성물 표시 의무에 '워터마크' 혼선

인공지능(AI)기본법 시행령 입법예고가 진행 중인 가운데 AI 생성물에 대한 표시 의무와 워터마크에 대한 업계 혼선이 있는 것으로 나타났다.

26일 업계에 따르면 일각에서 AI기본법 시행령상 AI 기술이나 서비스로 제작한 생성물을 표시해야 하는 의무 관련, 워터마크 전면 도입을 검토하고 있다. AI 생성물을 한눈에 알리기 위한 표시 방법이다.

과학기술정보통신부가 입법예고한 시행령에 따르면 AI 사업자는 실제와 구분하기 어려운 AI 생성물의 경우 사람이 인식할 수 있도록 표시해야 한다. 기계가 판독할 수 있는 방법을 취하더라도 생성형 AI에 의해 만들어졌다는 사실을 사람이 인지할 수 있도록 1회 이상 문구·음성 등으로 안내해야 한다.

당초 시행령은 사람 또는 기계가 판독할 수 있는 방법 둘 중 하나로 AI 생성물임을 표시하면 됐다. 그러나 입법예고 직전 '누가 봐도 AI 생성물임을 알 수 있게 해야 한다'는 국회 의견에 따라 사람의 인지 가능성이 핵심 요건으로 자리잡았다. AI 투명성과 신뢰성을 강화하기 위한 조처다.

업계에서는 AI로 만들어낼 수 있는 생성물의 종류가 다양한데 어떻게 표시해야 할지 세부 설명이 필요하다는 입장이다. 특히 워터마크를 영상 등에 계속 표시하기 위해서는 기술과 비용이 필요, AI 생성 서비스를 시작하는 스타트업이나 예산 문제로 중소·벤처기업에 부담이 될 것이라는 우려가 지배적이다.

업계 관계자는 “AI 생성물의 경우 언어모델뿐만 아니라 코딩, 이미지, 영상 등 다양하고 영상은 숏폼부터 웰메이드 콘텐츠까지 길이에 따라 또 구분된다”며 “시행령상 AI 생성물을 어떻게 표시해야 하는지 명확하지 않아서 워터마크를 고려하고 있는 사업자가 다수”라고 설명했다.

또 국내 기업의 서비스만 표시 의무 대상이라면 역차별이라는 의견도 나오는 실정이다. 그러나 이는 잘못 알려진 사실로 확인됐다. 워터마크는 표시 방법 중에 하나일 뿐이며 국내에서 유통되는 모든 생성물에 해당하는 의무라는 것이다.

특히 시행령에 언급된 것처럼 사람이 인식할 수 있는 표시 방법이면 무엇이든 사용할 수 있다는 게 정부 설명이다. 예를 들어 웹툰 서비스를 제공하기 전이나 후에 AI의 도움을 받았다는 문구를 넣거나 영상 역시 자막이나 엔딩크레딧 등에 AI로 어떤 부분을 생성했는지 알리는 문구를 삽입하면 된다.

정부는 업계 이해도를 높이기 위해 AI기본법 가이드라인을 적극 활용할 계획이다.

과기정통부 관계자는 “워터마크는 AI 생성물을 표시할 하나의 선택권 중 하나일 뿐”이라며 “AI 투명성 가이드라인에 AI 생성물별 다양한 고지 사례와 풍부한 표시 사례를 담아 민간에서 참고할 수 있게 하겠다”고 말했다.

박종진 기자 truth@etnews.com