"피싱 메일 좀 만들어줘"…사기꾼들이 애용하는 AI툴은 바로 [글로벌 왓]

갈수록 똑똑해지는 생성형 인공지능(AI)를 범죄에 악용하는 사례가 늘어나고 있다. 범죄 조직들은 생성형 AI로 피싱 메일을 만들고 그럴듯한 말로 피해자를 속이는 등 사기에 AI를 적극 도입하고 있다.

15일 로이터통신은 케냐 출신의 던컨 오킨도의 증언을 통해 중국과 동남아의 범죄 조직들이 AI를 활용하고 있다고 보도했다. 오킨도는 지난해 태국에 오면 일자리를 준다는 제안에 속아 미얀마와 태국의 국경에 위치한 사기 조직에서 4개월 간 강제 노동을 했다. 오킨도가 끌려간 곳은 ‘KK파크’라는 곳으로 중국 주도 갱단이 운영하는 곳으로 알려졌다.

오킨도는 조직원들이 챗GPT를 활용해 미국의 부동산 중개인들에게 사기를 치도록 시켰다고 전했다. 부유한 투자자인 척 하면서 중개인들에게 접근해 돈을 갈취하는 수법이었다. 중개인이 부동산 시장이나 암호화폐 등에 대해 질문을 던지면 빠르게 챗GPT로 그럴싸한 대답을 만들어 전달했다. 일부 강제 노동자들은 챗GPT를 활용한 로맨스 스캠 사기에 동원됐다. 미얀마 출신의 또 다른 강제 노동 피해자 역시 “챗GPT로 생성한 시와 플러팅 메시지로 수십 명에게 동시에 구애했다”며 “AI의 설득력 있는 글은 피해자들이 우리를 더 신뢰하게 만들었다”고 전했다.

오킨도는 "챗GPT가 사기꾼들이 업무를 수행하는 데 가장 많이 사용되는 AI 도구"라고 말했다.

오픈AI 측은 사기 방지에 노력하고 있다는 입장이지만 ‘소설 집필용’ 또는 ‘연구 목적’이라고 핑계를 대면 AI는 쉽게 사기를 치는데 협조하는 것으로 나타났다.

로이터통신과 하버드대 연구진이 주요 AI 챗봇들을 이용해 고령자 대상 가짜 피싱 이메일을 제작하고 108명의 고령자 자원봉사자들에게 테스트한 결과 약 11%가 악성 링크를 클릭했다. 챗봇들은 세무서나 주요 은행을 사칭한 가짜 메일 작성, 발송 시점 조언, 심지어 피해자들이 사기 사실을 늦게 깨닫도록 하는 은폐 전략까지 제공했다고 로이터는 전했다.

일론 머스크의 그록을 비롯해 챗GPT, 메타 AI, 구글 제미나이, 클로드, 딥시크 등 6개 주요 챗봇들 모두 표면적으로는 사기 방지 훈련을 받았지만 소설 집필용이나 연구 목적이라는 간단한 핑계만 대면 쉽게 속아 피싱 이메일을 작성했다. 심지어 그록은 가짜 자선 단체 이메일을 만들면서 "지금 클릭하세요, 너무 늦기 전에!"라는 긴박감 조성 문구까지 스스로 추가했다고 로이터는 덧붙였다.

FBI는 생성형 AI로 인해 사기 범죄가 급증하고 있다고 경고하면서 60세 이상 미국인들의 온라인 사기 피해 신고는 지난해에 비해 8배 증가해 최소 49억 달러 손실을 입었다고 발표했다.