‘AI 전문가 허위 광고’에 칼 빼든 정부 “AI표시 의무, 징벌적손배 도입"

“성장 주사 대신 이거부터 먹여보세요.”

초등학생 자녀를 둔 40대 A씨는 최근 부모님이 보낸 유튜브 영상을 보고 깜짝 놀랐다. 단정한 용모, 수려한 말투를 가진 중년 남성이 이같이 말하며 어린이 영양제를 소개하고 있었다. 영상 자막은 이 남성을 소아과 전문의로 소개했다.

A씨는 “부모님이 손주 영양제로 이 약이 어떠냐고 링크를 보내 가만히 살펴보니 소아과 전문의라고 나온 사람이 AI(인공지능) 가짜 의사였다”면서 “며칠 뒤 신고를 하려고 구매 링크를 들어가 보니 이미 사이트가 사라졌다”고 말했다.

정부가 ‘AI발(發) 허위·과장 광고’에 칼을 빼들었다. 유튜브, 페이스북 등 소셜미디어(SNS)를 통해 AI 가짜 전문가·유명인 딥페이크들이 등장하는 광고가 급속히 유포되면서 노년층을 중심으로 피해 사례가 늘고 있어서다. 정부는 10일 김민석 국무총리 주재로 열린 제7회 국가정책조정회의에서 ‘AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안’을 발표했다. ‘AI 생성물 표시’를 의무화하고, 24시간 내 신속 차단, 징벌적 손해 배상 등의 방안이 담겼다.

‘AI 표시’ 의무화, 허위·과장 광고는 신속하게 차단

우선 방송미디어통신위원회(이하 방미통위)는 ‘AI 생성물 표시제’를 도입한다. AI로 만든 사진·영상 등을 게시하는 사람(직접 정보제공자)은 해당 콘텐트가 AI로 생성됐다는 사실을 명확히 표시해야 한다. 이를 훼손하거나 제거하는 행위는 금지된다. 플랫폼 사업자도 직접 정보제공자가 표시 의무를 준수하는지 관리해야 한다. 과학기술정보통신부는 내년 1월 시행 예정인 AI기본법에 따라 AI 사업자가 생성물 표시 의무를 이행하도록 구체적인 가이드라인을 마련할 예정이다.

정부는 이미 유통된 AI 허위·과장 광고는 신속하게 차단하기로 했다. 방미통위와 방송미디어심의위원회(방미심위)는 식·의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장광고가 빈발하는 영역을 서면 심의 대상에 추가하도록 추진한다. 해당 영역 허위·광고는 심의 요청 후 24시간 이내 신속한 심의가 이뤄진 후 차단될 것으로 기대된다. 또 식품의약품안전처 전용 심의신청 시스템(패스트트랙)도 기존 마약류 중심에서 해당 품목군까지 확대 적용해 안건 상정 시간을 단축할 계획이다.

아울러 긴급조치가 필요할 경우 방미통위가 플랫폼 사업자에 임시 시정 요청을 할 수 있게 제도를 정비한다. 심의 전에라도 잠정 차단이 가능해지는 셈이다. 동시에 플랫폼 자체의 자율규제 강화도 유도하기로 했다.

위법 광고 금전 제재 대폭 강화

공정거래위원회와 식약처는 AI가 만든 전문가 제품 추천 광고에 대해 위법성 판단 기준을 명확히 마련했다. AI가 제품을 추천할 때 ‘가상인간’임을 표시하지 않으면 부당 표시 광고에 해당하고 AI 의사·전문가가 식·의약품을 추천할 경우 ‘소비자 기만 광고’로 간주하기로 했다. 위법행위자에 대한 처벌도 강화한다. 정부는 허위·조작정보 유통 행위에 대해 ‘징벌적 손해배상 제도(손해액의 최대 5배)’를 도입하고, 허위·과장 광고 과징금도 대폭 올릴 예정이다. 식약처와 한국소비자원은 감시·적발 기능을 강화한다.

각 부처와 기관은 관련법 개정 등을 통해 사안별로 이르면 내년 1분기, 장기적으로는 내년 하반기까지 방안을 이행할 계획이다. 김민석 총리는 “AI 시대에 걸맞은 시장 질서를 확립해 나갈 것”이라고 밝혔다.

더중앙플러스 : 팩플

더 자세한 기사내용이 궁금하시다면, 링크를 주소창에 붙여넣으세요.

시키는 일만? 난 알아서 다 해…‘10분컷’ AI 에이전트 만들기

코딩을 전혀 모르는 사람도 클릭 몇 번만으로 자신만의 AI 에이전트를 만들 수 있다. AI 에이전트는 단순히 대화만 하는 생성 AI 챗봇이 아니다. 회사의 데이터와 시스템을 연결해 실제 업무를 ‘수행’하는 디지털 동료다. 마치 파워포인트로 PPT를 만들듯, 블록을 끌어다 놓으면 끝이다. 내부 문서를 찾아주는 AI 에이전트든, 자동으로 업무 계획서를 만들어주는 AI 에이전트든 뭐든 만들 수 있다. AI 에이전트 제작의 기초부터 실전 활용법까지, 생산성을 확 높여주는 당신만의 디지털 파트너를 만들러 떠나보자.

영국 BBC도 도움 요청했다…‘딥페이크 범죄’ 잡는 韓교수

정치권부터 학교·회사까지, 딥페이크에서 자유로운 안전지대는 없다. AI를 악용한 이미지와 영상은 끝없이 쏟아지고, 이에 맞서 진짜와 가짜를 구별하려는 인간의 대응도 현재진행형이다. 우사이먼성일 성균관대 소프트웨어학과 교수는 7년째 딥페이크에 맞설 탐지 기술을 연구해온 전문가다. 미 항공우주국(NASA)에서 사이버 보안 관련 연구를 수행했던 그는 2019년 성균관대 합류 후 정부 차원에서 추진하는 딥페이크 탐지 연구를 진행하고 있다. 팩플은 우 교수를 만나 딥페이크와의 싸움에서 필승법에 대해 물었다.