MS 컴플라이언스 총괄이 안내하는 딥시크 보안 대책

딥시크의 대형언어모델(LLM) 서비스의 개인정보 침해 이슈가 전세계적으로 떠오르고 있다. 이에 퍼블릭 클라우드 서비스에서 제공하는 딥시크 모델에 대한 안전성이 주목받는다.

중국 스타트업 딥시크는 LLM과 챗봇 서비스를 제공하고 있다. 해당 서비스가 이용자의 개인정보를 과도하게 수집돼 중국으로 전송한다는 의혹이 줄곧 제기돼왔다. 개인정보보호위원회는 지난 17일 딥시크 앱의 국내 사용자 신규 다운로드를 차단했다. 또한 팔로알토네트웍스는 딥시크가 가드레일을 우회하는 탈옥 공격에 취약하고 악성 콘텐츠를 생성하기 쉽다는 조사결과를 발표했다.

딥시크는 오픈소스 모델로 허깅페이스에서 누구나 모델을 다운로드 받을 수 있다. 이에 주요 클라우드 기업들은 딥시크-R1 추론 모델을 검증해 재빨리 자사 플랫폼에서 이용할 수 있게 했다. 마이크로소프트, 아마존웹서비스, 구글클라우드 등이 생성형 AI 모델 서비스로 제공중이고, 엔비디아도 ‘엔비디아 추론 마이크로서비스(NIM)’으로 제공한다.

보안 침해 우려를 제기받는 건 중국에 서버를 둔 딥시크 자체 서비스다. 퍼블릭 클라우드에서 제공되는 딥시크 모델의 경우 서비스 제공업체 측에서 자체적인 가드레일과 안전장치를 제공하므로 1차적 보안 우려에서 떨어지게 된다. 그리고 클라우드 서비스에서 자체적으로 제공하는 안전 장치를 활성화하고, 거버넌스와 모니터링 솔루션을 결합해 조직 전반의 정보 보호를 강화할 수 있다.

마이크로소프트의 데이터 보안, 규정준수, 개인정보보호부문 총괄관리자인 헤라인 오베로이는 13일 올린 블로그를 통해 마이크로소프트 애저 AI 파운드리와 깃허브에서 딥시크 모델을 안전하게 활용하는 방안을 설명했다. 마이크로소프트 서비스에 한정된 설명이지만, 딥시크 모델을 써드파티에서 사용하는 것을 검토중인 기업과 개발자라면 참고할 만해 소개한다.

헤라인 오베로이는 “마이크로소프트 시큐리티는 위협 보호, 포스처 관리, 데이터 보안, 규정 준수 및 거버넌스를 제공해 빌드하고 사용하는 AI 애플리케이션을 보호한다”며 “이런 기능은 기업이 딥시크-R1 모델로 빌드된 AI 앱을 보호하고 거버넌스하며, 별도의 딥시크 소비자 앱 사용에 대한 가시성과 제어력을 얻는 데에 사용할 수 있다”고 밝혔다.

마이크로소프트는 현재 애저 AI 파운드리와 깃허브를 통해 1800개 AI 모델에 접근하게 하고 있다. 딥시크-R1 모델도 지난달말 서비스되고 있다. 애저 AI 파운드리의 스튜디오 플랫폼에서 딥시크-R1 모델의 API를 활용하고 각자의 AI 앱에 연동할 수 있다.

마이크로소프트는 애저 AI 파운드리에서 딥시크-R1 모델을 제공하기에 앞서 모델 동작에 대한 자동 평가와 잠재적 위협 완화를 위한 광범위한 보안 검토를 레드팀을 통해 진행했다. 마이크로소프트 애저는 이처럼 AI 모델 호스팅에 별도 보호 장치를 붙이고 애저 경계 안에서 유지되도록 한다.

또한 애저 AI 콘텐츠 안전 기능이 콘텐츠 필터링을 내장해 악성, 유해 또는 근거없는 콘텐츠를 탐지하고 차단한다. 안전 평가 시스템을 통해 이용자는 배포 전 애플리케이션을 테스트할 수 있다.

헤라인 오베로이는 “AI 워크로드는 개발자가 오픈소스 리소스를 사용할 때 새로운 사이버 공격 표면과 취약성을 도입하게 한다”며 “따라서 모델, 오케스트레이터, 기반 데이터 소스 등 모든 AI 인벤토리와 이런 구성요소를 둘러싼 직접적, 간접적 위험을 발견하기 위해 보안 포스처 관리부터 시작하는 것이 중요하다”고 설명했다.

그는 “개발자가 딥시크-R1 또는 기타 AI 모델로 AI 워크로드를 빌드할 때 클라우드용 마이크로소프트 디펜더의 AI 보안 포스처 관리 기능은 보안팀이 AI 워크로드의 가시성을 확보하게 한다”며 “AI 사이버 공격 표면과 취약성을 발견하며, 악의적 행위자가 악용할 사이버 공격 경로를 탐지하고, 사이버 위협에 대한 보안 포스처를 사전에 강화하기 위한 권장사항을 제공한다”고 덧붙였다.

마이크로소프트 디펜더는 AI 워크로드를 매핑하고 ID 위험, 민감 데이터, 인터넷 노출 등의 보안 통찰력을 종합해 상황에 맞는 보안 문제를 지속적으로 표면화한다. AI 워크로드에서 중요한 격차를 우선시하도록 맞춤화된 위험 기반 보안 권장 사항을 제안한다. 관련 보안 권장 사항은 애저 포털의 애저 AI 리소스 자체에도 나타난다.

헤라인 오베로이는 “강력한 보안 태세를 갖추면 사이버 공격의 위험이 줄어들지만, AI의 복잡하고 역동적인 특성으로 인해 런타임에도 적극적인 모니터링이 필요하다”며 “어떤 AI 모델도 악의적인 활동에서 면제되지 않으며 즉시 주입되는 사이버 공격 및 기타 사이버 위협에 취약할 수 있다”고 강조했다.

그는 “애저 AI 파운드리와 통합된 클라우드용 디펜더는 딥시크 AI 애플리케이션에서 비정상적이고 유해한 활동을 지속적으로 모니터링하고, 발견 사항을 상관시키고, 보안 경고를 뒷받침하는 증거로 보강한다”며 “이를 통해 보안 운영 센터(SOC) 분석가에게 탈옥 사이버 공격, 자격 증명 도난, 민감한 데이터 유출과 같은 활성 사이버 위협에 대한 경고를 제공한다”고 덧붙였다.

예를 들어, 신속한 인젝션 공격이 발생하면 애저 AI 콘텐츠 세이프티 프롬프트 실드가 실시간으로 이를 차단한다. 그리고 클라우드용 마이크로소프트 디펜더로 경고가 전송되고, 인시던트는 마이크로소프트 위협 인텔리전스로 보강돼 SOC 분석가가 IP 주소, 모델 배포 세부 정보, 경고를 트리거한 의심스러운 사용자 프롬프트와 같은 뒷받침하는 증거에 대한 가시성을 통해 사용자 동작을 이해하도록 돕는다.

마이크로소프트 디펜더는 딥시크 본사의 서비스 사용에 대한 모니터링도 제공한다. 딥시크 서버의 앱을 이용할 때 승인되지 않은 활동을 감시하다가 위험 평가를 충족하지 못한 경우 자동으로 제어를 한다. 사용자의 서비스 접근도 차단할 수 있다.

딥시크를 활용하다가 민감한 기업 내부 정보를 유출하는 상황은 거버넌스 도구인 ‘마이크로소프트 퍼뷰’를 활용할 수 있다. 마이크로소프트 퍼뷰 데이터로스프리벤션(DLP)를 사용하면 지원되는 브라우저에서 사용자가 민감 데이터를 붙여넣거나 민감한 콘텐츠를 포함한 파일을 생성형 AI 앱에 업로드하는 것을 차단할 수 있다. DLP 정책은 내부자 위험 수준에도 적응해 ‘위험 증가’로 분류된 사용자에게 더 강력한 제안을 적용하고 ‘위험 감소’로 분류된 사용자에게 덜 엄격한 제한을 적용할 수 있다.

글. 바이라인네트워크

<김우용 기자>yong2@byline.network