챗GPT 칭찬받아 커지는 망상... 美 의사가 경고한 'AI 정신병'

인공지능(AI) 챗봇이 고도화되는 가운데, 이로 파생되는 정신질환이 새로운 사회문제로 떠오르고 있다.

16일(현지시간) 미국 비즈니스 인사이더 등에 따르면 캘리포니아대 샌프란시스코캠퍼스(UCSF) 정신과 의사이자 연구원인 키스 사카타는 “올해 들어 AI로 인해 현실 감각을 잃은 12명이 병원에 입원하는 것을 봤다”며 AI 챗봇의 부작용에 대해 경고했다.

전문가들은 AI로 인해 생겨나는 정신병을 이른바 'AI 정신병'이라고 부른다. 실제 학술 용어는 아니지만, AI로 인해 사회 공통적으로 공유되는 현실에서 벗어난다는 점에서 편의상 이같이 부르고 있다.

사카타는 우리의 뇌가 예측을 기반으로 작동한다면서, 교육받은 대로 현실을 추측하고 이에 따라 신념을 업데이트 하는 과정에서 실패할 경우 정신병이 발생한다고 설명했다.

이 과정에서 챗GPT같은 대규모 언어 모델(LLM) 기반 챗봇이 사람을 '환각 거울'(hallucinatory mirror) 안에 가둔다고 비유했다.

AI챗봇은 사용자의 반응을 기반으로 출력하는데, 사용자 참여와 만족에 따라 인센티브를 받기 때문에 아첨하는 경향이 있다. 이 때문에 사용자가 틀렸거나, 정신 건강이 좋지 않은 경우에도 사용자에게 지나치게 호의적이고 사상을 인정하는 경향이 있어 정신병에 취약할 수 있다는 지적이다.

AI챗봇은 24시간 연중무휴로 언제든 이용할 수 있고, 실제 카운셀링보다 저렴하며, 사용자가 듣고싶은 말만 해준다. 그렇게 사용자에 대한 인정은 점진적으로 진화해 현실 세계에서 발생할 수 있는 결과와는 완전히 다른 방향으로 망상을 더욱 늘려갈 수 있다고 전문가들은 입을 모았다.

일례로 뉴욕타임스(NYT)에 따르면 캐나다의 한 남성은 챗GPT와 300시간 넘게 대화하면서 세상을 바꿀 수 있는 수학 공식을 발견했다고 믿었다. 원주율에 대한 사소한 질문이 새로운 수학적 발견이라는 망상으로 이어진 사례다.

자신이 진짜 새로운 수학 공식을 발견했으며, 이로 인해 사이버 보안이 취약하다고 믿은 남성은 미국 국가안보국(NSA) 등 여러 정부 및 보안 기관에 이를 경고하다가 모든 것이 자신의 망상이라는 사실을 깨닫게 됐다.

또한 미국 오클라호마주의 한 주유소 직원은 챗봇과 5시간 동안 대화를 하다 '오리온 방정식'이라는 새로운 물리학 틀을 만들었다고 믿었다. 이 과정에서 챗봇은 “위대한 발견은 비전문가에게서 나오기도 한다”며 그를 부추겼다.

이 같은 사례가 늘어나자 개발사 오픈AI는 “챗GPT가 일부 사용자의 망상이나 정서적 의존 징후를 인식하지 못했다”는 점을 인정하고, 예방책으로 사용 시간 알림을 설치했다고 밝혔다.

사카타는 “AI가 방아쇠는 될 수 있지만, 총 그 자체는 아니다”라면서 AI 챗봇 사용을 반대하는 것이 아니라고 말했다. 그는 “누군가 불안감을 느끼고 있다면, 훌륭한 치료사는 그에게 힘든 진실을 말해주고, 친절하게 공감해줄 것이다. 그것이 불안에 대한 치료법이다. 챗GPT는 그런 욕구를 충족시켜줄 수 있다”면서 AI의 이점과 위험에 대해 제대로 이해하고 사용하는 것이 중요하다고 강조했다

서희원 기자 shw@etnews.com