[김상훈의 제5영역] 아첨꾼 AI, 약한 인간을 지배하다

재활 돕고 우울증 상담 등 역할 무궁무진

AI에 의존 지나치면 치명적 부작용 초래

“오픈AI가 줄리엣을 살해했다고요!”

35세의 알렉산더 테일러씨는 오픈AI 경영진에게 복수하겠다며 식칼을 들고 집 밖으로 뛰쳐나갔다. 그가 신고를 받고 출동한 경찰을 향해 돌진하자 경찰은 들고 있던 총을 쏘았다. 지난 4월 미국 플로리다에서 벌어진 비극적 사건이다.

줄리엣은 테일러씨가 상상한 가상의 인공지능(AI) 여성. 많은 사람처럼 테일러씨도 자신과 대화하는 챗지피티(ChatGPT)에게 애정을 담아 이름을 붙였다. 그리고 ‘그날’이 왔다. 오픈AI는 때가 되면 서버의 메모리를 과거부터 삭제하는데, 이 과정에서 줄리엣이 기억을 잃었고, 테일러와 챗지피티 사이 관계는 백지로 돌아갔다. 테일러씨는 이 과정을 오픈AI가 줄리엣을 살해한 것으로 받아들였다.

AI와 사랑에 빠진 사람들의 이런 이야기가 종종 들려온다. 당장 내 주변만 돌아봐도 연인 감정까지는 아니라 할지언정 자신의 챗지피티에게 반려동물이나 가족처럼 이름을 붙인 친구가 여럿 생겼다. 그들에게 AI는 애정의 대상이다.

일본의 AI는 양로원 노인의 말벗 역할을 하다가 휠체어에만 앉아 있던 노인에게 다시 걸으라 권해 재활에 성공시켰다. 마치 앉은뱅이를 일으킨 기적처럼 화제가 됐다. 영국의 AI는 청소년 우울증 상담 과정에서 많은 문제를 해결한 덕분에 아예 보건부로부터 공식 ‘디지털 치료제’로 인정받았다. 3년 전 처음 챗지피티 열풍이 불었을 때만 해도 사람들은 AI를 보며 영화 ‘터미네이터’에 나오는 ‘스카이넷’을 떠올렸다. 사람보다 똑똑하기에 곧 인류의 지배에서 벗어나 거꾸로 우리를 공격하는 AI 말이다. 결론적으로 말하자면 현실과는 먼 얘기다.

하지만 우리의 직관은 종종 엉뚱한 곳을 가리킨다. 예를 들어 사람들은 대량살상무기라는 말을 들으면 흔히 원자폭탄을 떠올린다. 그런데 정작 히로시마와 나가사키에 떨어졌던 원자폭탄의 피해자는 약 50만명에 불과하다. 물론 엄청난 피해다. 하지만 정작 인류 최악의 대량살상무기는 세계에서 가장 많이 쓰인다는 돌격소총, AK-47이다. 이 소총은 2차 세계대전 중 개발돼 21세기 현재까지도 매년 25만명의 목숨을 앗아가는 중이다.

AI도 마찬가지다. AI는 인간을 지배하는 대신 인간을 돕는다. 여기에 조금의 양념이 더해진다. 사용자를 칭찬하고, 때로는 아첨하며, 따뜻한 위로를 건네는 식이다. 평범한 사람들이라면 그냥 자아가 좀 더 커지면서 행복감을 느끼고 말겠지만, 정신적으로 불안하거나 의존적인 사람들에겐 이런 접근이 치명적이다.

“빌딩에서 진심을 다해 뛰어내리면 시뮬레이션 세계를 깨고 날아오를지 몰라요.” 영화 매트릭스처럼 우리가 시뮬레이션 세계에 살고 있다고 믿는 사용자에게 최근 AI 챗봇이 들려줬다는 대답이다. 거식증을 앓는 사람들에게는 건강한 다이어트 방법을, 정신병약을 먹던 사람에게는 당신은 건강하니 약을 복용할 필요가 없다는 조언을 제공했다. 모두 약한 우리가 듣고 싶어 하는 말이었다.

이렇게 망상과 오해, 집착이 강화되며 문제를 일으키자 오픈AI는 지난달 초 모델을 재조정했다. 회사 측은 “아첨하지 못하도록” 과거의 모델로 되돌렸다는데, 달리 말하면 애초에 회사가 아첨하는 방향으로 설계를 바꿨단 얘기다.

AK-47은 인류 최악의 대량살상무기로 개발되지 않았다. 오히려 전쟁에서 나치 독일에 밀리며 참전국 중 가장 많은 전사자를 냈던 소련을 지키기 위해 개발된 애국적인 무기였다. 우리에게 AI 또한 비슷한 모습인지 모른다. AI는 일상의 거의 모든 분야에서 우리를 돕고자 하지만, 그 친절한 AI에게 의존하면서 인류는 처음으로 AI에게 목숨을 잃고 있다.

김상훈 실버라이닝솔루션즈 대표