‘불법 AI 의료광고’ 방지책 시급하다

치과계 주도 국회토론회서 정부-의료단체-플랫폼 역할 모색

처벌조항 신설, 플랫폼 책임제, AI의료광고감시센터 등 제시

불법 AI 의료광고의 위험성을 막기 위해 강력한 규제와 처벌 조항이 시급하다는 목소리가 치과계 주도로 제기됐다.

더불어민주당 김남희ㆍ전진숙ㆍ정진욱 의원과 불법AI의료광고대응협의단이 지난달 27일 국회의원회관에서 공동주최한 ‘불법 생성형 AI 의료광고의 문제와 제도 개선 방안’ 국회토론회에서 참석자들은 내년 1월 인공지능(AI)기본법 시행을 앞두고 생성형 AI와 딥페이크 기술을 활용한 불법 의료광고가 급속히 확산되면서 의료 소비자들의 피해가 우려되는 실정을 지적하고 대책 마련이 시급하다는 데 한목소리를 냈다.

발제에 나선 조서진 불법AI의료광고대응협의단장은 비의료인이 AI로 만든 영상에 의사가운을 입히고 전문의처럼 말하게 하는 사례가 급증해 환자들이 피해를 입을 가능성이 더욱 커졌다고 지적했다.

조서진 단장은 “이는 단순한 기술 문제가 아니라 국민의 건강과 생명을 위협하는 의료법 위반이자 의료윤리의 붕괴로, 이미 본격적으로 늘어 토대가 무너지기 시작했다”며 “불법 AI 의료광고는 국민 건강권과 의료 시장의 공정성을 동시에 위협하는 심각한 사회문제”라고 우려했다.

불법 AI 의료광고가 특히 위험한 이유는 파급력과 피해규모가 기존 허위광고와 비교할 수 없을 정도로 크기 때문이다. AI 기술은 전문가도 가짜를 구분하기 어려울 정도여서 의료지식이 부족한 환자들은 사실로 믿기 쉽다. AI 영상은 빠른 시간 안에 많은 이들에게 노출돼 순식간에 퍼져나간다. 근거 없는 미화나 비방으로 의료시장 질서를 무너뜨려 결국 피해가 국민에게 돌아갈 수밖에 없다.

문제는 대응책이 마땅치 않다는 점이다. 현행 의료광고심의 제도는 오프라인 중심의 전통 광고 중심이어 AI시대를 전혀 고려하지 않고 설계됐다. AI 광고는 제작자·출처가 불분명하며 어떤 AI 모델이 사용됐는지 확인하기 어렵고 플랫폼의 책임 역시 명확하지 않다.

조 단장은 “불법 AI 의료광고는 기존 사전심의 제도의 완전한 사각지대에 놓여있고, 무엇보다 불법 의료광고 삭제 중심의 대응방식은 한계가 분명해 계정을 차단해도 새 계정이 바로 만들어지고 광고가 계속 재생산된다”며 “이 구조가 지속된다면 의료시장 전체가 왜곡되고 국민건강이 심각한 위험에 처할 것은 자명하다”고 내다봤다.

이런 이유로 강력한 법적 규제, 실효적 감시체계, 강제력 있는 처벌이 시급하다. 조 단장은 △AI 의료광고의 법적 정의와 처벌 조항 신설을 통해 AI 딥페이크, 음성 합성, 이미지 조작 등을 불법으로 정의하고, 제작·유포자에 대한 형사처벌과 행정처분을 강화해야 한다고 제시했다.

△플랫폼 공동책임제를 도입해 유튜브, 인스타그램 등 플랫폼이 불법 의료광고를 방치했을 때 과징금이나 행정제재를 부과해 플랫폼 스스로 필터링과 차단 시스템을 강화하도록 유도할 필요도 있다. △AI 알고리즘의 투명성 강화를 위해서 AI로 만든 의료 영상·광고는 출처, 모델명, 제작자, 수정 이력 등을 의무적으로 표시하여 책임을 추적하고 법적조치를 취할 수 있도록 해야 한다.

아울러 대한치과의사협회를 비롯한 의료 전문 단체와 정부가 협력하여 ‘AI 의료광고 감시센터’를 설립해 실시간 모니터링, 신속한 신고 접수와 즉시 삭제 절차 등의 조치가 가능한 체계를 구축해야 한다는 의견을 내놓았다.

조서진 단장은 “AI가 국민의 건강과 생명을 지키는 방향으로 올바르게 사용되기 위해서는 법적·제도적·윤리적 안전장치가 반드시 필요하다”며 “내년 시행될 AI기본법에는 불법 AI 의료광고의 위험성을 반영하여 강력한 규제와 처벌조항이 꼭 포함돼야 하며 정부, 국회, 의료계가 함께 힘을 모아 AI가 국민건강을 지키는 기술로 발전할 수 있도록 함께 나아가야 한다”고 강조했다.

이어 최치원 대한치과의사협회 전 부회장이 좌장을 맡은 가운데 정석환 한국인공지능교육연구협회장, 손병진 바른치협공정실행본부장, 정형준 인도주의실천의사협의회 사무처장, 손계룡 법무법인 이인 대표변호사, 이광희 TRUST WORTHY AI KOREA 대표가 패널토론을 벌였다.

이광희 대표는 영상 합성 여부를 판별하는 대신 콘텐츠에 포함된 언어적ㆍ행정적 패턴을 기반으로 불법 가능성을 식별하는 접근방식을 제안했다.

그는 “가령 ‘임플란트 29만원’, ‘즉시 상담 링크’ 등 특정 패턴을 자동 분석하여 위험성을 판단하고, 해당 콘텐츠와 함께 공익 경고 영상이나 진실 기반의 정보 콘텐츠를 플랫폼 추천 알고리즘을 통해 동시에 노출시키는 방식이 기술의 한계를 우회하면서도 사회적 경각심을 효과적으로 높일 수 있는 실질적 대안”이라며 “정부는 AI 생성물 표시 의무, 의료광고 모니터링 기준 정비 등을 추진하고 플랫폼들은 의료 관련 키워드에 대해 위험 콘텐츠와 공익 콘텐츠를 병렬 노출하는 알고리즘 정책을 마련해야 한다”고 제안했다.