오픈AI, 북한 해커들 챗GPT 악용 정황 확인...계정 차단

“국가 주도 해커들, 인공지능 활용해 더욱 정교한 사이버 공격과 정보 조작 시도”

오픈AI(OpenAI)가 챗GPT(ChatGPT)를 악용해 사이버 공격과 정보 조작 활동을 벌이던 북한과 중국 연계 계정을 차단했다. 이번 조치는 인공지능(AI)의 악용을 방지하고, 사이버 보안 강화를 위한 조치의 일환으로 이루어졌다.

◆북한 해커들의 챗GPT 악용 사례

오픈AI가 2025년 2월 발표한 위협 인텔리전스 보고서에 따르면, 북한의 해킹 그룹인 VELVET CHOLLIMA(벨벳 촐리마, 일명 김수키(Kimsuky) 또는 에메랄드 슬릿(Emerald Sleet)) 및 STARDUST CHOLLIMA(스타더스트 촐리마, 일명 APT38 또는 사파이어 슬릿(Sapphire Sleet))과 연계된 계정이 챗GPT를 악용한 정황이 확인됐다.

이들은 챗GPT를 활용해 사이버 침입 도구를 연구하고, 암호화폐 관련 정보를 탐색했으며, 원격 관리 도구(Remote Administration Tools, RAT) 개발과 디버깅을 시도했다. 특히, 원격 데스크톱 프로토콜(RDP) 무차별 대입 공격에 사용할 수 있는 오픈소스 보안 도구와 코드를 연구하는 데 챗GPT를 활용했다.

또한, 이 과정에서 보안 업계에 알려지지 않은 악성 바이너리(staging URL)를 노출했으며, 이는 보안업계의 협력을 통해 탐지 및 차단이 이루어졌다. 이러한 조치를 통해 보안 기업들이 해당 악성 파일을 탐지할 수 있게 되었으며, 잠재적인 피해를 사전에 방지할 수 있었다.

이뿐만 아니라, 오픈AI는 북한의 IT 노동자 위장 취업 계정도 적발했다. 이들은 서방 기업에 고용된 후 챗GPT를 활용해 코드 작성, 문제 해결, 동료와의 업무 커뮤니케이션을 수행했다. 또한, 화상 회의를 피하거나, 승인되지 않은 국가에서 기업 시스템에 접속하는 등의 의심스러운 행동을 정당화하는 스토리를 만들어내는 데도 챗GPT를 활용한 것으로 나타났다.

◆중국 해커 그룹의 챗GPT 악용 사례

보고서에 따르면, 중국의 해킹 그룹 또한 챗GPT를 활용해 감시 도구를 개발하고 이를 홍보하는 데 사용한 정황이 포착됐다. 오픈AI는 이를 ‘Peer Review(피어 리뷰)’ 캠페인으로 명명했다. 이들은 챗GPT를 사용해 X(구 트위터), 페이스북, 텔레그램, 인스타그램, 유튜브, 레딧 등의 SNS를 모니터링하는 감시 도구를 개발했다. 해당 도구는 인권 시위와 관련된 게시물을 감지해 중국 당국에 보고하는 역할을 했다. 또한, 감시 도구를 홍보하기 위한 콘텐츠 제작에도 챗GPT가 사용됐다.

또한, 중국과 연계된 또 다른 활동으로 ‘Sponsored Discontent(스폰서드 디스컨텐트)’ 캠페인이 확인됐다. 해당 캠페인은 챗GPT를 활용해 미국을 비판하는 영어 소셜미디어 게시물과 스페인어 기사를 작성했다. 특히, 일부 기사는 라틴아메리카의 주요 언론 매체에 게재되었으며, 이는 중국 정부의 대외 여론 조작 시도 중 하나로 분석됐다.

보안 전문가들은 이번 사례가 국가 주도의 해커들이 인공지능을 활용해 더욱 정교한 사이버 공격과 정보 조작을 시도하고 있음을 보여준다고 분석했다. AI 기술의 발전은 긍정적인 가능성을 제공하는 동시에, 악용될 경우 보안 위협을 더욱 심화시킬 수 있다.

전문가들은 AI 악용을 막기 위해 기업들이 내부 네트워크에서 AI 모델의 사용을 철저히 모니터링하고, 이상 활동을 감지하는 보안 조치를 강화해야 한다고 조언했다. 또한, AI 기술을 안전하게 활용하기 위해서는 강력한 접근 통제와 보안 교육이 필수적이며, 사이버 공격과 정보 조작을 방지하기 위한 국제적인 협력이 필요하다고 강조했다.

★정보보안 대표 미디어 데일리시큐 /Dailysecu, Korea's leading security media!★