"유료 가입자 늘어나겠네" 성적 대화 허용한 챗GPT… AI 윤리 논란 본격화

오픈AI가 AI 챗봇 챗GPT에 대해 성인 이용자를 대상으로 한 성인용 대화 및 콘텐츠 제공을 허용할 계획을 공식 발표했다. 이는 AI의 대화 가능 영역을 크게 확장해 성인 사용자 중심 맞춤형 상호작용 경험을 제공하겠다는 취지다.

샘 올트먼 CEO는 14일(현지시간) X에 “12월에는 연령 제한 기능을 본격적으로 도입하여 ‘성인 이용자는 성인답게 대하자’는 원칙 아래, 인증된 성인에게는 erotica(성애 콘텐츠) 등 보다 폭넓은 표현을 허용할 것”이라고 언급했다. 그는 그간 챗GPT에 정신건강 관련 제한을 두었던 배경을 설명하며 “정신건강에 문제가 없는 대부분 사용자에게는 챗봇이 덜 유용하게 느껴졌다는 점을 고려해 제한을 완화할 준비가 되었다”고 말했다.

올트먼은 또 “몇 주 내로 GPT-4o의 특성을 반영한 새 버전을 선보이겠다”면서 “이번 업데이트는 사용자들이 챗GPT와 더 자연스러운 대화를 나눌 수 있도록 설계될 것”이라고 밝혔다. 그는 이어 “이용자가 챗GPT에게 친구처럼 대화하길 원한다면 그렇게 설정할 수 있게 할 것”이라고 덧붙였다.

이같은 발표에 대해 미국 매체들은 “AI 서비스의 새 전환점”이라며 엇갈린 반응을 보였다.

미국 기술 매체 The Verge는 이번 정책 변화가 단순한 ‘성인 콘텐츠 허용’ 이상의 의미를 지닌다고 평가했다. 매체는 이번 발표에 대해 "AI 대화의 ‘표현 자유’ 범위를 실험하는 조치”라며 그동안 안전성·윤리 문제로 인해 제한돼 있던 AI의 감정적·인간적 대화 가능성이 크게 확장될 것으로 내다봤다. 다만 이러한 시도가 사회적 논란과 규제 리스크를 동반할 수 있다는 점도 동시에 지적했다.

미국 매체 Axios는 이번 오픈AI의 결정이 단기적으로는 유료 구독자 확대에 긍정적인 영향을 미칠 수 있다고 평가했다. 다만 “AI 챗봇에 성인용 대화를 허용하는 것은 윤리적 기준과 콘텐츠 규제의 새로운 논란을 촉발할 가능성이 있다”며, 정부 기관과 규제 당국이 개입할 여지가 커질 것으로 내다봤다. 특히 성인 인증 과정에서 개인정보 보호 문제와 지역별 법적 기준 차이가 향후 쟁점이 될 수 있다고 지적했다.