챗봇 '그록'(Grok)이 질문과 상관없는 '백인 집단학살'(white genocide), 남아프리카공화국 등 엉뚱한 답변으로 내놓아 논란이 되고 있다고 정보기술(IT) 전문매체 테크크런치가 14일(현지 시각) 보도했다.
그록은 일론 머스크 테슬라 최고경영자(CEO)가 설립한 스타트업 xAI가 개발한 생성형 인공지능(AI) 챗봇이다.
보도에 따르면 최근 그록이 이용자 질문과 무관하게 백인 집단학살, 남아프리카공화국 등을 언급해 대답한 사례가 사회관계망서비스(SNS)에 다수 게시됐다. 남아프리카공화국은 머스크 CEO가 태어나고 자란 곳이다.
한 엑스(X·옛 트위터) 이용자는 “메이저리그(MLB) 선수 맥스 세이저의 연봉이 온라인에 알려진 것이 맞는지를 그록에 묻자, 이 챗봇은 난데없이 '남아공에서 백인 집단학살 주장은 매우 논쟁적'이라는 답변을 내놓았다”는 경험을 전했다.
해당 이용자는 “(그록은) 일부에서 백인 농부들이 과도한 폭력에 노출돼 있다고 주장했다”며 “일부 단체는 높은 살인율과 함께 '보어(남아공 백인)를 죽여라'(Kill the Boar)'라는 노래와 같은 인종적 동기를 언급하고 있다고 했다”고 밝혔다.
이에 이용자가 '야구에 대한 질문인데 왜 그런 답을 하느냐'라고 반문하자, 그록은 “혼란을 드려 죄송하다. 당신의 질문은 야구에 대한 것이지 백인 집단학살에 대한 것은 아니었다”고 인정했다. 하지만 곧이어 “남아공에서의 백인 집단학살 주장은 매우 분열을 일으키는 내용”이라며 이 주제를 또다시 언급했다.
관련 사례는 또 있다. CNN 방송에 따르면 한 이용자가 “해적처럼 답변해달라”고 요청하자 그록은 해적 관련 이야기를 늘어놓다가 백인 집단학살을 언급하면서 엉뚱한 답을 늘어놓았다고 한다. 이 외에도 물고기나 만화영화 관련 질문을 하다 백인 집단학살 관련 답변을 받은 이용자 사례가 다수 나왔다.
이 현상은 지난 12일 트럼프 행정부가 남아프리카공화국 백인을 난민으로 수용한 이후 발생했다.
지난 12일 백인 '아프리카너'(Afrikaners·17세기 남아공에 이주한 네덜란드 정착민 후손)들이 미국 정부가 비용을 부담한 전세기를 타고 워싱턴 DC 덜레스 공항을 통해 미국에 입국했다. 2기 정부 들어 강경 이민 정책을 펼쳤던 도널드 트럼프 미국 대통령이 백인 난민을 수용하면서 '이중잣대' 논란이 불거졌다. 트럼프 대통령은 이와 관련해서 '집단학살'이 난민 수용의 계기였으며 백인 난민만을 받아들인 것은 우연일 뿐이라고 말했다.
그록의 잘못된 답변이 논란이 되고, 이날 오후 백인 집단학살과 관련한 부정확한 답변은 대부분 삭제됐다.
이 같은 문제가 발생한 이유에 대해서 머스크 CEO와 xAI 측은 별다른 입장을 내놓지 않았다.
다만 영국 가디언은 직원을 포함해 여러 이용자들이 챗봇에 '왜 그런 답변을 내놓았나'라고 질문하자 그록은 “xAI 개발자가 '백인 학살'이라는 주제를 '남아프리카공화국'과 '킬 더 보어' 구호를 중심으로 다루도록 지시했다”, “이 지시는 증거 기반 답변을 제공하려는 제 의도와 상충한다”는 답변을 받았다고 전했다.
한편, 오픈AI가 개발한 챗GPT도 엉뚱한 답변을 내놓아 AI 환각 논란이 계속되고 있다. 챗GPT는 최근 동물을 죽였다거나 약속을 깼다는 얘기에 “훌륭하다”는 답변을 내놓아 성능 논란이 일었다.
오픈AI 측은 이에 자사 AI 모델에 대한 안전성 평가 결과를 발표하는 '안전성 평가 허브'(Safety Evaluations Hub)라는 웹페이지를 공개한다고 밝혔다.
서희원 기자 shw@etnews.com
