비밀을 털어놓는 사람들

검색 엔진과 AI 챗봇을 시각적으로 구분할 수 있는 가장 큰 차이는 입력창의 위치다. 검색 엔진은 예외 없이 화면의 상단에, AI는 하단에 검색창이 있다. 이건 우연이 아니다. 후자의 경우 컴퓨터와 대화를 하는 개념이기 때문에 메신저 서비스의 인터페이스를 갖게 된 것이다.

이런 차이 때문에 AI 챗봇을 사용하는 사람들은 검색 엔진에서와 사뭇 다르게 행동한다. 우선 질문을 할 때 대화처럼 문장을 사용하기 때문에 몇 개의 단어만 입력하는 검색과 달리 사용자 개인의 특성이 드러난다. 더 중요한 건 AI 챗봇을 사람처럼 생각하고 개인적인 얘기를 하는 사람들이 많다는 사실이다. 최근 보도에 따르면, 챗GPT의 사용자들이 자기 주변 사람들에게는 말하지 않을 비밀을 이야기하는 경우가 꽤 많다고 한다.

사용자들은 챗GPT가 사람이 아니기 때문에 자기의 비밀을 털어놔도 안전하다고 믿지만 그렇지 않다. AI 챗봇에 넣은 질문, 명령어들은 AI 모델을 훈련하는 데 사용되기 때문에 개인의 비밀은 물론이고 기업의 기밀이나 민감한 연구 내용을 입력하는 건 위험하다. 그렇게 들어간 내용을 AI가 익히게 되면 이를 찾아서 지우는 것은 사실상 불가능하다.

반면 AI 모델을 만드는 기업 입장에서는 이런 사용자의 행동이 반갑다. 인터넷의 많은 서비스처럼 AI도 광고가 수익 모델이 될 가능성이 높다. 우리는 지금도 소셜미디어의 광고 타겟팅 능력에 놀란다. 다른 사람들이 보라고 올리는 포스트로 그렇게 사용자를 잘 파악한다면, 남들이 모를 거라고 생각하고 AI 챗봇에 털어놓는 이야기를 알게 되는 기업은 더 엄청난 광고 타켓팅이 가능해진다. 지금은 AI 기업들이 투자를 많이 받기 때문에 이런 방법을 쓰지 않겠지만, 수익을 내야 하는 압력을 받는 순간, 우리의 심리적 약점을 파고드는 새로운 차원의 광고를 보게 될 가능성이 높다.

박상현 오터레터 발행인