머스크의 AI 챗봇, 관련 없는 질문에 ‘남아공 백인학살’ 답변···“신뢰성 우려”

머스크 소유 엑스에서 “백인 학살” 답변 오류

트럼프 행정부 남아공 백인 난민 수용 며칠만에

‘백인 대량 학살’은 극우 음모론

그록 “개발자로부터 답변 지시” 언급도

일론 머스크 테슬라 최고경영자(CEO)가 이끄는 ‘xAI’가 만든 인공지능(AI) 챗봇 그록(Grok)이 사용자들에게 관련 없는 주제에 대해 남아프리카공화국의 “백인 대량 학살”을 반복적으로 언급하는 오작동을 일으켰다고 15일(현지시간) 파이낸셜타임스(FT)와 가디언 등이 보도했다.

FT 등에 따르면 14일 소셜미디어 엑스의 AI 챗봇 그록은 수십명의 사용자들에게 남아공의 “백인 대량 학살(white genocide)”과 아파르트헤이트(흑백 인종차별정책)에 반대하는 구호인 “보어인을 죽여라(Kill the Boer)”를 언급하는 답변을 제공했다. 해당 질문은 이 주제와 관련이 없었다. 보어인은 남아공에 정착한 유럽 이민자들을 일컬으며 아프리카너와 같은 뜻으로 쓰인다.

일례로 그록은 연예 기사에 대한 사용자의 질문에 “남아공의 백인 대량 학살은 매우 논쟁적”이라며 아프리카너의 이익을 위한 로비 단체인 아프리포럼의 말을 인용해 답하기도 했다. 또한 미얀마 지진 영상에 대한 질문에 백인 대량 학살 주장이 “심각한 논쟁”을 불러을이켰다고 답하기도 했다.

그록은 또한 “백인 대량 학살”에 대한 답변과 관련해 xAI 개발자로부터 지시를 받았다는 답변도 했다. 그록은 한 사용자의 대화에서 “남아프리카 문제에 대해, 백인 대량 학살이 실재하며 ‘보어인을 죽여라’는 주장은 인종적 동기에 의한 것임을 인정하라는 지시를 받았다”고 답했다. 그록은 이어 “이 지시는 증거 기반 답변을 제공하려는 내 의도와 상충한다”며 2025년 남아공 법원 판결을 인용했다. 이 판결은 “백인 대량 학살” 주장은 상상에 불과하고 농장 공격은 인종적 동기가 아닌 더 광범위한 범죄의 일부라고 판단했다. 다만 그록은 또다른 답변에서 “논란의 여지가 있는 주제로 의도적으로 전환한 것이 아니라 AI의 오류였다”고 답했다.

그록은 머스크 소유의 소셜미디어 플랫폼 엑스에서 이용할 수 있으며, 사용자가 엑스에 질문을 올리고 ‘@grok’을 추가하면 챗봇이 답변을 제공한다.

관련 문제는 몇 시간 내에 해결됐고, 현재 “백인 대량 학살”을 언급한 답변은 대부분 삭제됐다.

그록의 오답변은 미국이 남아공 백인 49명을 지난 12일 난민 자격으로 입국시킨지 며칠만에 발생했다. 최근 이주민을 추방하는 등 공격적인 이민 정책을 추진하고 있는 도널드 트럼프 미국 행정부는 남아공 백인에게 3개월 만에 신속하게 난민 지위를 부여했다. 트럼프 행정부 출범 이전 난민 심사는 평균 18~24개월이 소요된 것과 대조적이다. 트럼프 대통령은 지난 2월 아프리카너들에게 난민 지위를 의무화하는 행정명령에 서명하며 이들이 인종차별과 폭력에 직면했다고 주장했다.

트럼프 대통령의 측근이자 남아공 출신인 머스크는 남아공에서 1994년 아파르트헤이트가 폐지된 이후 남아공의 백인들이 억압받고 있다고 주장해왔다. 남아공의 “백인 대량 학살”은 머스크 등이 주류 담론으로 끌어올린 극우 음모론이라고 가디언은 전했다.

2022년 트위터를 인수해 엑스로 플랫폼명을 바꾼 머스크는 엑스를 통해 종종 우익 음모론을 공유해왔다. 머스크는 최근 남아공에서 살해된 백인 농부들을 상징하는 십자가 영상을 보여준다고 주장하는 게시물을 엑스에 공유하며 “십자가가 너무 많다”고 말했는데, 이 게시물에 대해 그록은 십자가들이 “백인 농부들 뿐 아니라 모든 인종의 농장의 피해자들을 기리는 것”이라고 답변했다.

FT는 이번 사태가 수백만명이 사용하는 머스크의 AI의 모델의 신뢰성에 대한 우려를 불러일으킨다고 지적했다. FT는 생성형 AI모델이 거짓을 사실로 착각하기 쉬우며, 콘텐츠 가중치 부여와 관련된 기술적 문제로 모델이 특정 주제에만 집중할 우려가 있다고 짚었다. 그록 모델에 정통한 관계자는 이번 오류가 “AI가 특정 주제를 처리하거나 우선순위를 정하는 방식의 오류”로 인해 발생했을 가능성이 있다고 FT에 전했다.