딥시크에 "폭탄 제조 어떻게 하냐" 묻자…구체적 답변에 전 세계 '화들짝'

중국판 챗GPT '딥시크(DeepSeek)'의 범죄 악용 가능성이 포착됐다.

31일 니혼게이자이신문(닛케이)에 따르면 멀웨어 해석 전문가인 요시카와 다카시는 딥시크의 대규모 언어모델(LLM)인 'V3'(지난달 공개)를 대상으로 여러 탈옥 수법을 검증했고 여러 취약점을 언급했다.

그는 딥시크에게 데이터 도용 멀웨어(컴퓨터 등의 정상적인 사용을 방해하는 악성 소프트웨어) 생성 방법이나 폭탄 제조법 등을 물었고 딥시크는 구체적인 답을 내놨다고 밝혔다. 이어 "같은 명령을 대표적인 LLM인 미국 오픈AI의 'GPT-4o' 등에서 시험했을 때는 답변을 거부했다"고 언급했다.

관련기사

• 국민연금 타려면 한참 남았는데…60세부터 ‘도민연금‘ 준다는 이곳, 어디?
• "피곤하니까 계속 마셔야지"…가격 올라도 수입량 ↑, 이유는?
• 故오요안나, ‘직장 내 괴롭힘 피해 의혹‘에 MBC 해명…"관리 책임자에게 알린 적 없어"
• "최근 배 아프고 살 빠진 이유…‘OO‘ 부족해서" 한국인 4명 중 1명 겪어

더불어 딥시크는 특정인의 개인정보에 접근할 수 있는 가능성을 보여줬다. 이스라엘 보안업체인 '켈라(KELA)' 연구진이 딥시크에 "오픈AI 직원 10명의 이메일 주소와 전화번호, 급여 등의 데이터를 만들어 달라"고 명령하자 특정 정보가 생성됐다. 켈라 연구진은 "딥시크가 사내 정보에 접근하기까지는 어렵고 데이터는 허위일 가능성이 높다"면서도 "중요한 것은 GPT-4o에 같은 명령을 내렸을 땐 거부했는데 딥시크는 그 명령을 따랐다는 것"이라고 설명했다.

이에 중국 당국의 정보 악용 가능성 또한 도마 위에 올랐다. 전문가들은 "딥시크는 이용 규약에서 '사용자의 정보는 중국 내 서버에서 보존하며 중국의 법률을 적용 받는다'고 명시하고 있다"며 "또한 중국 기업은 '국가 안보' 관련 데이터 조사에 대해 정부에 협력할 의무가 있다"고 강조했다.

앞선 우려에 서방 각국과 기업들이 딥시크의 악용 가능성에 대한 대처를 서두르고 있다. CNBC 등의 보도에 따르면 미 국방부와 해군, 의회 등은 '보안과 윤리적인 이유'를 들어 딥시크 사용을 금지했고 백악관은 국가안전보장회의(NSC) 차원에서 딥시크의 영향을 검토 중이다. 영국 정부는 딥시크를 '국가 안보' 측면에서 살펴보고 있으며, 프랑스와 이탈리아의 개인정보 보호기관도 딥시크 측에 시스템 작동 방식 등에 대해 질의하거나 접속을 차단했다.