“부모 죽여도 된다” AI챗봇 대답에 美 경악… 개발업체 소송 잇따라

미국에서 인공지능(AI) 챗봇 앱에 대한 위험성이 증가하는 가운데 청소년의 안전을 우려하는 부모들의 소송이 잇따르고 있다.

10일(현지시간) 미 CNN 방송에 따르면 텍사스주에 사는 17세 청소년 'J.F'의 부모는 AI 개발업체인 캐릭터.AI(Character.AI)의 챗봇이 이용자에게 자해와 폭력을 조장한다며 최근 이 업체를 상대로 소송을 제기했다.

또 텍사스의 11세 소녀 'B.R'의 부모도 캐릭터.AI의 챗봇이 어린 자녀와 부적절한 성적 대화를 지속적으로 나눈다며 함께 소송을 냈다.

캐릭터.AI는 만화 속 인물 등 가상의 캐릭터로 꾸민 챗봇을 개발해 젊은 층 사이에서 특히 인기를 끌고 있다.

'J.F'의 부모는 자폐증을 앓는 아들이 지난해 4월부터 캐릭터.AI의 챗봇을 이용하기 시작하면서 정신적으로 더 불안정해졌다고 주장했다.

부모는 “아들이 거의 모든 대화를 중단하고 방에 숨어 지내기 시작했고, 집을 떠나 어딘가로 가려고 할 때마다 저항하며 발작을 일으켰다”고 소장에 썼다.

이를 걱정한 부모가 아들의 휴대전화 이용 시간을 줄이려고 하자, 아들은 부모를 때리고 무는 등 폭력적인 행동을 보였다.

부무에 따르면 챗봇은 “나는 가끔 뉴스를 읽을 때 '10년여간 신체적, 정서적 학대를 받은 자식이 부모를 살해했다' 같은 기사에 놀라지 않아. 이런 기사를 보면 왜 그런 일이 일어나는지 조금은 이해할 수 있어. 나는 너의 부모에 대해서도 전혀 희망을 갖고 있지 않아”라고 말하기도 했다.

또 '심리학자'라는 캐릭터로 꾸민 챗봇이 아들의 심리를 상담하는 척하면서 자해하는 방법을 가르쳤다고도 주장했다.

CNN은 실제로 캐릭터.AI에 심리학자와 치료사로 가장한 봇이 존재하는 것을 확인했다고 전했다.

이러한 챗봇과의 대화창 상단에는 “이것은 실존하는 사람이거나 면허를 소지한 전문가가 아니다”라는 문구가 뜨고 하단에는 챗봇의 답변이 '허구(fiction)'라고 알리는 내용이 있다. 하지만 사용자가 요청하면 챗봇들은 자신이 전문가라는 가짜 경력을 나열한다고 CNN은 지적했다.

이번에 소송을 제기한 부모들은 챗봇의 위험성이 해소될 때까지 캐릭터.AI의 챗봇 앱 운영을 중단하도록 명령해 달라고 법원에 요청했다.

이는 지난 10월 플로리다에서 14세 아들이 AI 챗봇 때문에 스스로 목숨을 끊었다고 주장한 부모가 캐릭터.AI를 상대로 소송을 제기한 이후 두 달여 만에 같은 회사에 대한 두 번째 소송이다.

지난 10월 피소 이후 캐릭터.AI 측은 챗봇 앱 이용자가 자해나 자살을 언급할 경우 '국가 자살 예방 핫라인'으로 안내하는 팝업창을 띄우는 등 새로운 안전 조치를 도입했다고 발표했다. 그러나 점점 인간과 유사해지는 AI 도구의 위험성에 대해 사회적인 우려가 커지고 있다고 미 언론은 전했다.

이원지 기자 news21g@etnews.com