마이크로소프트가 코파일럿+ PC의 인공지능(AI) 기능 중 하나로 선보였던 ‘리콜(Recall)’ 기능의 개인정보보호 모델과 보안 아키텍처를 자세하게 공개했다. 리콜은 마이크로스프트의 야심찬 새 기능이지만 사생활 침해, 데이터 유출 등의 비판을 받아왔다. 보안성 강화로 여론을 돌릴 수 있을 지 주목된다.
마이크로소프트는 지난 27일 블로그에서 윈도우11의 미리보기 기능인 ‘리콜’의 보안 및 개인정보보호 아키텍처를 설명하면서 “리콜의 안전한 설계와 구현은 알려진 위협에 대한 강력한 제어 세트를 제공한다“며 ”마이크로소프트는 가장 정교한 공격에 대해서도 보안과 개인정보보호를 유지하면서 모든 사람이 AI의 힘을 사용할 수 있도록 하는 데 전념하고 있다“고 강조했다.
리콜은 윈도우 PC를 사용한 화면의 데이터를 스냅샷으로 보관하는 기능이다. 사용자는 과거의 PC 작업을 언제든 다시 확인하고 백업에 사용할 수도 있다. 화면을 사진처럼 촬영하는 게 아니며, 윈도우는 사용자 화면 속의 여러 구동 관련 정보를 추출해 DB로 만들어 보관한다. 생성형 AI가 화면 속에 있는 내용을 인식하고 문서로 만들어 시간 순으로 저장하는 것이다.
리콜 기능은 5월 처음 공개됐는데, 공개 직후 여러 비판에 직면했다. 사용자의 PC 이용 화면을 촬영한다는 콘셉트부터 사생활 침해 비판을 받았다. 스냅샷 파일이 악의적 공격자에게 유출되기 쉽고, 보안 취약점으로 노려질 수 있다는 비판도 제기됐다. 마이크로소프트는 윈도우11 업데이트에 리콜을 포함시키려다 배포를 보류하고 미흡한 부분을 보완하겠다고 했다.
10월 다시 시범 출시를 앞두고 마이크로소프트는 ‘리콜’ 기능의 강화된 보안성을 설명했다. 마이크로소프트는 4가지 원칙에 따라 리콜을 구축했다고 밝혔다.
1. 리콜은 사용자에게 통제권을 준다. 코파일럿+ PC 설정 환경에서 사용자는 리콜을 이용해 스냅샷을 저장할 지 선택할 수 있다. 사용자가 활성화하지 않으면 스냅샷은 촬영되지 않고 저장되지도 않는다. 사용자는 리콜 기능을 완전히 제거할 수 있다.
2. 리콜의 민감 데이터는 암호화되며 키는 보호된다. 벡터 데이터베이스의 스냅샷 관련 정보는 항상 암호화된다. 암호화 키는 사용자 기기의 신뢰플랫폼모듈(TPM)에 보호되고 가상화 기반 보안 인클레이브(VBS Enclave)란 보안 환경 내에서만 사용가능하다. 다른 사용자는 키에 접근할 수 없어 암호를 해독할 수 없다.
3. 스냅샷 관련 데이털르 처리하는 리콜 서비스는 격리된다. 리콜 내에서 스크린샷 및 관련 데이터에서 작동하거나 암호 해독 작업을 수행하는 서비스는 VBS Enclave 내에 있다. VBS Enclave에서 나가는 정보는 리콜을 사용할 때 사용자의 요청 정보다.
4. 사용자는 리콜 사용에 적극적인 의사를 표시한다. 윈도우 헬로 인헨스드 사인인 시큐리티(window hello Enhanced Sign-in Security)를 활용해 관련 작업을 승인한다. 리콜 설정 변경, 사용자 인터페이스에 대한 액세스의 런타임 승인 등의 작업을 포함한다. 리콜은 속도 제한, 해머링 방지 조치 등으로 악성코드로부터 보호한다. 현재 리콜은 구성된 후에만 대체 방법으로 핀(PIN)’을 지원한다.
VBS 인클레이브는 애저와 동일한 하이퍼바이저를 사용해 컴퓨터 메모리의 정보를 처리할 수 있는 특수한 보호 영역이다. 제로트러스트 원칙을 사용해 인클레이브 코드는 암호화 증명 프로토콜을 사용해 스냅샷 처리와 같은 중요한 작업 수행 전 안전 여부를 확인한다. 이 영역은 윈도우 헬로를 통해 사용자가 원한을 부여해야 접근할 수 있다. 커널과 관리자 사용자와 격리돼 있다. 스냅샷 회수도 윈도우 헬로 자격증명을 사용해 인증해야 사용가능하다.
생체인식 자격증명은 리콜 콘텐츠 검색을 위해 등록돼야 한다. ‘윈도우 헬로 인핸스드 사인인 시큐리티’와 함께 VBS 인클레이브를 사용하면 리콜 기능을 사용해 검색하는 동안 데이터를 잠시 복호화할 수 있다.
리콜은 사용을 선택하지 않는 한 스냅샷을 촬영하거나 저장하지 않는다.
스냅샷 데이터는 장치의 로컬로 저장된다. 이 데이터는 마이크로소프트나 타사와 공유되지 않으며 동일 장치의 다른 윈도우 사용자 간에도 공유되지 않는다고 마이크로소프트는 강조했다. 스냅샷 저장 전 윈도우가 사용자의 허가를 요청한다.
리콜을 지원하는 브러우저에서 비공개 브라우징의 내용은 저장되지 않는다.
사용자는 지원되는 브라우저에서 보는 특정 앱이나 웹사이트를 필터링할 수 있다. 리콜 콘텐츠를 얼마나 오래 지속될 지 정할 수 있고, 디스크 용량을 스냅샷 용도로 지정할 수 있다.민감한 콘텐츠 필터링은 기본값으로 활성화돼 있고, 비밀번호, 국가 ID 번호, 신용카드 번호 등을 리콜에 저장되지 않도록 정할 수 있다.
만약 저장하길 원하지 않는 정보를 리콜에서 찾았다면? 시간 범위, 앱, 웹사이트의 모든 콘텐츠, 리콜 검색에서 찾은 정보를 모두 삭제할 수 있다.
시스템 트레이의 아이콘을 통해 스냅샷 저장시점을 알수 있고, 스냅샷 저장을 일시중지할 수 있다
리콜의 아키텍처는 보안설정, 시맨틱 인덱스, 스냅샷 스토어, 리콜 사용자경험, 스냅샷 서비스 등의 구성요소로 이뤄진다.
보안 설정은 VBS 인클레이브 내에서 사용되는 보호된 데이터 저장소다. 리콜을 위한 보안 구성 데이터를 저장한다. 보안에 민감한 설정을 변경하려면 악의적 변조를 방지하기 위해 인클레이브 내에서 수행되는 작업을 사용자가 승인해야 한다. 설정은 변조 감지 시 기본값으로 돌아간다.
시맨틱 인덱스는 이미지와 텍스트를 나중에 검색할 수 있도록 벡터로 변환한다. 벡터는 스냅샷에서 추출한 개인정보를 참조할 수 있으므로 벡터는 VBS 인클레이브 내에서 보호되는 키로 암호화된다.
사용자경험은 타임라인, 검색, 특정 스냅샷 보기 등을 포함한다. 스냅샷 서비스는 VBS 인클레이브에서 반환된 데이터를 조회하고 처리하며 새로운 스냄샷을 저장하기 위한 런타임을 제공하는 백그라운드 프로세스다.
스토리지 서비스는 VBS 인클레이브에 상주하므로 공격으로부터 보호된다. 반면 리콜 UI 같은 구성요소는 인클레이브 외부에서 작동해 신뢰할 수 없다.
VBS 인클레이브 외부 프로세스는 스냅샷이나 암호화 키에 대한 접근을 직접 수신하지 않으며, 승인 후에만 인클레이브에서 변환된 데이터를 받는다. 승인 기간에 타임아웃과 해머링 방지 보호 기능이 있어 악성 조회의 영향을 제한한다. 스냅샷 서비스는 인클레이브 외부의 조회에서 반환된 데이터를 포함한 메모리에 악성 접근을 더욱 제한한다. 리콜 VBS 인클레이브는 동시성 보호와 단조 카운터를 사용해 악의적 사용자의 너무 많은 요청에 따른 시스템 과부하를 방지한다.
리콜은 코파일럿+ PC에서만 작동한다. 마이크로소프트는 책임있는 AI와 개인정보보호를 염두에 두고 리콜을 설계, 구축했다고 강조하면서 철저한 보안평가를 수행했다고 덧붙였다. 마이크로소프트 오펜시브 리서치&시큐리티 엔지니어링 팀(MORSE)은 수개월동안 리콜 설계 검토와 침투 테스트를 수행했다. 제3자 보안 공급업체가 독립적인 보안 설계 검토 및 침투 테스트를 수행했다. 책임있는 AI 영향 평가(RAI)가 완료됐으며, 6가지 원칙(공정성, 신뢰성 및 안전, 개인정보보호 및 보안, 포용성, 투명성, 책임성) 등에 대한 위험, 피해 및 완화 분석이 포함된다.
글. 바이라인네트워크
<김우용 기자>yong2@byline.network
