몇 년 전 대기업 고위 임원으로 퇴직한 60대 중반의 A 씨. 얼마 전 오랜만에 그를 만나 반가운 인사와 옛 추억에 대한 즐거운 대화를 나눴다. 얼마 지나지 않아 주제는 건강으로 넘어갔다. A 씨의 관심은 온통 ‘건강한 은퇴 생활’에 쏠려 있었다. 한참 이야기를 나누다 그가 꺼낸 말은 충격적이었다. "소셜네트워크서비스(SNS)에 한 의사가 출연해 관절에 좋은 건강 기능 식품이라고 해서 구입했는데 생각보다 효과가 없네요. 친구들도 그거 보고 다 샀다고 해서 구입했는데 영 별로예요.”
A 씨가 봤다는 그 동영상을 같이 봤다. 인자하면서도 스마트해 보이는 인물이 건강 관련 강연을 하고 있었다. 하지만 금세 이상한 점이 발견됐다. 인물을 소개하는 자막에 ‘의사’라는 단어는 있었지만 정확한 이름도, 어느 병원에서 근무하는지도, 어떤 분야의 전문의인지도 표기돼 있지 않았다. 입 모양과 음성이 살짝 어긋나는 부분들도 보였다. 진짜 의사가 아니라 인공지능(AI)으로 만든 가짜 의사였다. A 씨에게 이렇게 말했다. “이 사람은 진짜 의사가 아닙니다. 당장 그 건기식을 끊고 병원을 가세요. 친구 분들한테도 꼭 전해 주세요.”
최근 SNS를 통해 넘쳐나는 ‘AI 가짜 의사’가 국민 건강을 위협하고 있다. AI가 제작한 영상의 진위 여부를 판가름하는 데 익숙하지 않은 고령층들에는 더욱 그렇다. 주변에서 조심하라고 해도 “의사가 직접 말했다”면서 무시하고 맹신하는 경우도 있다. AI 가짜 의사들은 전립선, 무릎 관절, 당뇨 등 다양한 병증을 허위 광고한다. 부작용이 검증되지 않은 의약품이나 건기식을 복용하면 심각한 후유증을 앓을 수 있고 적절한 치료 시기를 놓치면 돌이킬 수 없는 건강 약화로 이어질 수 있다. 이런 방식의 허위 광고가 워낙 넘쳐나다 보니 의료계에서는 "AI 가짜 의사·약사의 허위 광고는 국민 건강에 대한 보이스피싱”이라는 지적도 나온다.
AI 가짜 의사 문제는 국정감사에도 등장했다. 지난달 국회 보건복지위원회 국감에서 여러 의원들이 “AI 가짜 의사·약사가 난무하고 있다” “생성형 AI로 제작된 광고가 국민 건강과 안전을 위협하고 있다” “보건 당국이 모니터링을 강화해야 한다”고 연이어 지적했다. 오유경 식품의약품안전처장은 이에 대해 “최근 AI 전문가들이 소비자의 오인과 혼동을 유발할 가능성이 점점 커지고 있다”고 인정했다. 그러면서도 “AI 기반 광고는 정보 생성과 확산 속도가 매우 빨라 기존 법 체계 내에서 대응하기에는 한계가 있다”며 “소비자의 피해를 최소화하기 위해 허위 광고 관리 체계를 보완하는 방안을 검토하겠다”고 말했다.
오 처장의 답변처럼 AI로 제작한 가짜 의사·약사들의 허위 광고를 규제할 관련 법이 미비한 것은 사실이다. 현행 식품표시광고법·약사법·화장품법·의료기기법 모두 의사의 제품 광고를 금지하고 있다. 하지만 AI 가짜 의사에게는 적용되지 않는다. 규제 공백을 틈탄 상술이 난무하고 있는 것이다. 게다가 AI 생성물임을 명시해야 한다는 규정도 없다. 이를 의무화하는 AI기본법은 내년 1월에야 비로소 시행된다.
법의 사각지대를 막기 위한 노력도 진행되고 있다. 국회 과학기술방송통신위원회 소속 박정훈 국민의힘 의원은 지난달 28일 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안’을 대표 발의했다. AI로 제작한 영상·음향·이미지 등을 광고에 활용할 경우 AI 생성물이라는 사실을 표시하도록 하는 내용이 담겼다. 아울러 SNS 플랫폼 사업자는 표시 규정을 어긴 광고를 즉시 삭제해야 한다. 박 의원은 법안 제안 이유로 “AI로 실제 존재하지 않는 전문가를 생성해 의약품·건기식의 효능을 광고하는 경우 이용자가 이를 실제 전문가의 발언으로 오인해 피해를 입을 우려가 있다”고 설명했다.
AI로 제작된 수많은 콘텐츠가 범람하는 시대다. 진짜와 가짜를 구분하기 힘들다. 기술이 발전할수록 그렇다. 그 간극을 활용한 상술은 선량한 시민에게 피해를 입힌다. 특히 건강과 관련된 문제는 불가역적인 손실을 유발할 수 있다. 한 걸음 앞선 ‘가짜’를 걸러내려면 두 걸음 앞서야 한다. 국민 건강을 지키려면 정부·국회의 ‘앞북’ 행정·입법이 절실하다.
