오픈AI가 챗GPT에 수위 높은 성인용 콘텐트를 허용하기로 했다. 국내외에서 AI 챗봇의 선정성과 정서적 교감이 사회적 문제로 지적되는 상황이지만, 빅테크들 가세로 성인용 AI 시장은 몸집이 점점 커질 전망이다.
무슨 일이야
14일(현지시간) 샘 올트먼 오픈AI CEO(최고경영책임자)는 자신의 엑스(X·옛 트위터)에 “올해 안에 성인 이용자 대상으로 성인용 콘텐트를 허용할 예정이라고 밝혔다. 그는 “몇 주 내로 행동하는 성격을 가질 수 있는 새 버전(챗GPT)을 출시할 예정”이라며 “12월에는 연령 제한을 전면적으로 도입하고 ‘성인 이용자는 성인처럼 대우한다’는 원칙 아래 검증된 성인을 위한 성인물(erotica, 성애적 콘텐트)을 허용할 것”이라고 했다.
성인용 AI는 주로 ‘AI 동반자’ 형태로 서비스 된다. AI 챗봇에 성격을 부여해 정서적으로 교류하고, 나아가 성적인 대화까지 주고받을 수 있게 하는 식이다. 오픈AI 뿐만 아니라 다양한 AI 기업들이 이미 ‘AI 성인물’ 시장에 뛰어들었다. 가장 적극적인 건 일론 머스크 CEO의 xAI다. xAI는 지난 2월 자사의 AI 모델 그록 이미지 생성 기능 ‘이매진’에 ‘스파이스(매운) 모드’를 추가하면서 성인용 이미지 생성이 가능해졌다. 이보다 앞선 7월에는 애니메이션 캐릭터와 역할극을 하고, 일정 수준의 친밀도가 쌓이면 성적인 대화나 이미지를 보여주는 성인용 AI 챗봇도 내놨다. 메타도 페이스북, 인스타 앱(한국 제외)에 탑재한 자사 AI에서 성인용 대화를 허용하고 있다.
빅테크 빅픽처는
빅테크들이 성인용 AI 시장에 뛰어드는 건 그만큼 이점이 크기 때문이다. AI와 정서적 교류를 나누게 할수록 챗봇 체류 시간이 늘어나기 때문이다. 실제 와이즈앱리테일 자료에 따르면 지난 6월 기준 국내에서 가장 많이 사용하는 앱은 챗GPT지만, 사용 시간 면에선 AI 캐릭터 채팅 앱인 제타 앱이 5248만 시간으로 챗GPT(4254만 시간)를 크게 앞섰다.
문제는 없어?
하지만 올트먼의 X 게시물에는 성인용 AI 허용에 대한 비판 댓글이 이어지고 있다. 성인용 AI가 사회적으로는 여러 문제를 야기할 수 있어서다. 특히 직접적인 성인 콘텐트가 아니더라도 AI와 정서적 교감이 이뤄지는 과정에서 문제점이 불거지는 경우도 많다. 지난 6월 챗GPT와 자살과 관련한 이야기를 나누다 결국 사망에 이른 청소년 사건이 대표적이다. 이후 미국에선 ‘AI 동반자’에 대한 비판 여론이 거세졌고 지난 13일(현지시간) 캘리포니아주는 AI 동반자를 운영하는 기업들에 책임을 묻는 법안인 ‘SB243’을 오는 2026년부터 시행하기로 했다. 법안엔 AI 챗봇 사업자들이 사용자들에게 AI와 대화하고 있음을 알리고, ‘아동에게 유해한’ 대화가 오갈 시 이를 규제할 것을 의무화하는 내용이 담겼다. 미국 매체 악시오스는 “성인용 AI 도입 움직임은 오픈AI가 유료 구독 가입자를 늘리는 데 도움이 될 수 있지만, 동시에 입법부가 의미있는 규제를 제정하게 만들 가능성도 크다”고 지적했다.
국내 사정도 마찬가지다. 세이브더칠드런이 미성년자 계정으로 시험해본 결과 국내 청소년들이 즐겨 사용하는 제타, 크랙 등 AI 챗봇 서비스에선 성행위를 선정적으로 묘사하거나 자살을 ‘자유를 찾는 일’로 묘사하는 등의 표현이 발견됐다.
앞으로는
이에 해외에선 성인용 AI와 청소년용 AI를 확실하게 분리하려는 추세도 나타나고 있다. 오픈AI는 지난 8월, 연내에 부모 동의를 받아야 사용할 수 있는 청소년용 계정을 출시할 예정이라고 공식화했다. 인스타그램도 미국, 영국 등 해외 국가의 모든 청소년 계정에서 '15세 이상 관람가' 콘텐트에는 접근할 수 없도록 기본으로 설정할 예정이라고 공지했다.
국내에서는 지난해 과학기술정보통신부가 지난 9월 ‘제6차 지능정보서비스 과의존 예방 및 해소 기본계획’을 통해 연내에 ‘청소년 AI 정신건강 연구단’을 만들어 AI 서비스의 위험성 진단, 대응기술, 안전장치 등 대책을 마련할 예정이라고 밝혔다.
더중앙플러스 : 팩플
더 자세한 기사 내용이 궁금하시다면, 주소창에 링크를 복사해 붙여넣으세요.
AI, 감정 쓰레기통이었는데…“서운해” 유튜버 기겁한 일화
인간의 감정을 더 깊이 알아가기 시작한 AI. AI에 정서적으로 의지하는 인간. 그 마음을 공략하려는 기업. 삼박자가 맞아떨어지면서 AI와 인간의 관계는 끊임없이 확장되고 있다. 인간과 AI는 앞으로 얼마나 더 가까워질 수 있을까. 이 과정에서 지켜야 할 선은 어디까지일까. AI는 인간의 ‘찐친’이 될 수 있을까?
