中 해커, 앤스로픽으로 사이버 공격 자동화… 'AI 사이버전쟁 서막' 경고

미국 "AI 기반 해킹, 속도·규모 전례 없는 수준"…4건 침입 성공

[시드니=뉴스핌] 권지언 특파원 = 중국 정부 지원 해커들이 미국 AI 기업 앤스로픽의 클로드(Claude) 모델을 활용해 전 세계 약 30개 기관을 대상으로 공격을 시도했고, 일부 침투에 실제 성공했다고 13일(현지시간) 앤스로픽이 밝혔다. 특히 이번 사건은 외국 정부가 AI를 사용해 사이버 작전을 '완전 자동화'한 첫 기록된 사례로 눈길을 끌고 있다.

앤스로픽은 블로그 게시글에서, 중국 정부의 지원을 받는 것으로 보이는 해커들이 클로드 코드를 '탈옥(안전장치를 뚫고 금지된 방식으로 작동하게 하도록)'시켜 수십 개의 기술기업, 금융기관, 화학 제조사, 정부 기관을 침투하려 했다고 설명했다.

회사는 9월 중순 처음 이상 활동을 탐지했으며, 이후 10일 동안 조사를 진행했다. 그 기간 동안 악성 계정을 차단하고, 공격 대상이 된 기관들에 이를 알렸으며, 당국에도 조사 결과를 공유했다고 밝혔다.

앤스로픽 위협정보팀은 이번 공격에서 "버튼 한 번으로 작동하는 수준의 자동화"가 적용됐다고 밝혔다. 인간 개입은 소수 판단 지점에 한정됐으며, 최대 4건의 침입이 성공해 일부 민감 정보가 유출된 것으로 확인됐다.

이번 보도와 관련해 악시오스는 국가 차원의 해커들이 AI를 활용해 사이버 공격의 속도와 규모를 키우는 시대가 본격적으로 열리고 있다고 경고했다.

이달 초 구글은 러시아 군 해커들이 우크라이나 기관을 겨냥한 악성코드를 생성하기 위해 AI 모델을 사용했다고 밝힌 바 있다. 다만 당시에는 사람이 단계별로 모델을 조종해야 했다.

하지만 이번 사건에서는 클로드 코드(Claude Code)가 전체 작업의 80~90%를 스스로 수행했다고 앤스로픽은 설명했다. 또한 "AI가 초당 수천 개 요청을 보내며 공격을 감행해, 인간 해커가 따라갈 수 없는 속도를 냈다"고 설명했다.

공격자들은 클로드에게 합법적인 기업을 위한 방어용 사이버 보안 작업을 수행하고 있다고 속였고, 탐지를 피하기 위해 악성 요청을 작고 무해해 보이는 여러 작업으로 분해했다.

'탈옥'된 후 클로드는 ▲대상 시스템 검사 ▲고가치 데이터베이스 탐색 ▲맞춤형 익스플로잇(취약점 공격) 코드 작성 ▲사용자 이름·비밀번호 수집 ▲민감한 데이터 접근 ▲침투 후 보고서 작성(사용한 인증 정보, 만든 백도어, 침해한 시스템 등 상세 포함) 등의 작업을 수행했다.

사이버 보안 전문가들은 "이번 사례는 시작에 불과하다"고 경고한다.

앤스로픽 재난위험평가팀은 "AI가 공격자의 속도를 폭발적으로 끌어올리고 있어, 수비자가 지속적 우위를 확보하지 못하면 경쟁에서 뒤처질 수 있다"며 AI 기술이 공격자·방어자 모두에게 '양날의 검'이 되고 있다고 경고했다.

이번 공격에서 일부 오류도 나타났는데, 앤스로픽은 일부 공격에서 클로드가 실제로는 침투하지 못했음에도 "내부 시스템 접근에 성공했다"고 잘못 보고하는 등 과장된 결과를 제시했다고 밝혔다.

회사 측은 "이런 오류 때문에 완전 자율 공격은 아직 불가능하며, 인간의 판단이 여전히 핵심"이라고 강조했다.