생성형 AI 활용 느는데 보안 우려는 '여전'

국내 기업이 생성형 인공지능(AI) 도입에 속도를 내고 있지만, 내부정보 유출 등 보안 우려가 여전히 큰 것으로 나타났다. 거대언어모델(LLM) 활용이 업무 효율 제고를 위해 거스를 수 없는 흐름인 만큼 LLM 전문 보안 솔루션을 도입해야 한다는 제언이 나온다.

이스트시큐리티가 국내 기업의 LLM 보안 현황을 파악하기 위해 보안 담당자와 실무자 200여명을 대상으로 진행한 설문조사 결과를 최근 공개했다.

조사 결과, 응답자의 절반(50%)이 이미 생성형 AI를 업무에 적용하고 있다고 답했다. 생성형 AI를 가장 많이 활용하는 업무 분야는 '데이터 분석 및 의사결정 지원'(42%)으로 집계됐다. 이어 챗봇·자주묻는질문(FAQ) 등 고객 서비스(30%)와 콘텐츠 생성·자동화(28%) 순이었다. 기업이 비즈니스 인사이트를 얻거나 고객대응(CS)을 자동화하는 데 생성형 AI를 적극 활용하고 있는 것으로 보인다.

이스트시큐리티 관계자는 “아직 생성형 AI를 사용하지 않은 기업 중 상당수가 향후 도입에 긍정적”이라며 “생성형 AI가 단순 관심을 넘어 실제 업무 프로세스 전반에서 빠르게 확산하고 있다”고 분석했다.

다만 기업이 LLM 도입에 여전히 불안감을 갖고 있는 것으로 조사됐다.

먼저 LLM 도입 시 우려 사항으로 민감한 데이터 유출(64.5%), 시스템 안정성 및 신뢰성 부족(20.6%), 악의적 공격 및 모델 오용(14.9%) 등을 거론했다.

특히 생성형 AI 사용으로 인한 정보 유출·데이터 손실 우려에 대해 79%(매우 우려 25%+어느 정도 우려 54%)가 '그렇다'고 답했다. '보통'이라는 응답은 18%였으며, '다소 우려하지 않는다'는 3%에 불과했다.

이에 따라 기업이 안심하고 생성형 AI를 활용하기 위해 LLM 맞춤 보안 솔루션의 필요성이 커지고 있다.

실제 기업 대다수(87%)가 LLM 보안 전문 솔루션 필요성에 공감했다. LLM 보안 전문 솔루션 도입 시 고려사항으론 '민감 데이터 유출 차단 기능'(51.8%), '실시간 위협 탐지·차단'(28.0%), '다른 시스템과 통합·호환성'(10.6%), '비용·운영 편의성'(9.6%) 등을 열거했다.

이스트시큐리티는 △민감정보 보호 △실시간 위협 대응은 물론 △업무효율 증대를 위해 LLM 보안 솔루션이 필요하다고 강조했다. 데이터 유출을 방지하고 LLM을 악용한 신종 공격에 빠르게 대응·학습하는 방어체계를 구축하는 동시에 보안팀과 현업 부서 모두 관리 부담을 경감할 수 있다는 게 회사 측 설명이다.

조재학 기자 2jh@etnews.com