SK쉴더스, 'LLM 앱 취약점 진단 가이드' 발간

SK쉴더스가 인공지능(AI) 보안 위협에 선제 대응하기 위해 ‘거대언어모델(LLM) 애플리케이션(앱) 취약점 진단 가이드’를 발간했다고 8일 밝혔다.

오픈 AI의 챗GPT, 구글의 제미나이 등 LLM 기반 앱이 산업 전반에서 폭넓게 활용되고 있다. 하지만 이 앱들은 데이터 및 사용자 입력 처리 방식의 독특한 특성으로 인해 기존 정보기술(IT) 시스템과 다른 보안 위협에 취약하다는 지적이 나온다.

SK쉴더스는 올해 주요 보안 위협 요소 중 하나로 ‘AI 기반의 해킹 증가’를 꼽으면서 특히 소규모언어모델(sLLM)을 겨냥한 해킹과 LLM의 구조적 취약점을 악용한 데이터 조작·유출 공격이 심화할 것으로 예측했다. 이번 가이드는 이러한 위협에 선제 대응하기 위한 조치를 담았다.

가이드는 LLM 통합, 에이전트, 모델 등 세 가지 핵심 영역의 보안 이슈를 다뤘다. 특히 14개의 주요 취약점을 위험도에 따라 3단계로 분류해 점검 방법과 대응 방안을 제시했다. 대표적인 보안 위협으로 사용자의 입력값을 악의적으로 조작하는 ‘프롬프트 인젝션’과 앱 프로그래밍 인터페이스(API) 요청값을 변경하는 ‘API 매개 변수 변조’ 등을 언급했다.

가이드는 이러한 보안 위협을 예방하기 위해 사용자와 시스템 명령어(프롬프트)를 분리하고 데이터 흐름 점검 및 데이터 검증 절차를 강화해야 한다고 강조했다. 또 LLM의 코드 실행 유무에 따라 샌드박스를 활용해 악성코드 실행을 방지하고 검색증강생성(RAG) 활용 시 권한 없는 데이터 접근을 차단하기 위해 그룹별 권한 관리 체계를 구축하도록 권고했다. 다층 보안 체계 도입도 주문했다.

가이드는 SK쉴더스 공식 홈페이지에서 무료로 내려받을 수 있다.

김병무 SK쉴더스 사이버보안부문장(부사장)은 “AI 기술은 편리함을 제공하지만 기술적 불안정으로 인해 보안 취약점이 악용될 경우 심각한 해킹 사고가 발생할 수 있다”며 “이번 가이드는 기업과 기관이 직면할 수 있는 AI 보안 문제를 사전에 예방함과 동시에 신뢰할 수 있는 AI 시스템을 구축하는 데 실질적 도움을 줄 것으로 기대된다”고 말했다.