AI 악용한 사이버공격 AI로 막는다

인공지능(AI) 기술 발전으로 사이버 공격, 개인정보 유출 등 다양한 우려가 커지자 AI 관련 보안 수요도 늘어나고 있다.

23일 ICT 업계에 따르면 지난달부터 이달까지 사이버 보안 기업 지니언스의 엔드포인트 위협 탐지·대응(EDR) 제품에 대한 문의가 지난해 같은 기간과 비교해 30% 증가했다.

EDR은 컴퓨터 네트워크에 연결된 단말 장치(엔드포인트)에서 발생하는 보안 위협을 AI가 빠르게 탐지해 대응하는 제품이다.

EDR과 같은 제품은 AI를 활용해 기존 보안 제품의 성능을 높인다는 의미에서 'AI 포 시큐리티'(AI for Security) 유형으로 불린다.

해당 유형은 AI를 통해 악성 코드와 스팸 메일 등을 탐지할 수 있어, 기존 사람이 책임지던 보안 업무를 효율적으로 개선할 수 있다.

지니언스 관계자는 "딥시크 등 생성형 AI 모델의 발전으로 사이버 공격의 양상이 더욱 복잡해지고 지능적으로 변화하고 있다"며 "보안 사고를 예방하고 즉각 대응하는 설루션의 역할이 중요해졌다"고 전했다.

AI 시스템에 대한 외부의 공격을 막아내는 '시큐어링 포 AI'(Securing for AI)에 대한 관심도 높아지고 있다.

해당 서비스를 통해 AI 학습 데이터를 조작해 머신러닝 모델이 예상치 못한 반응을 내놓는 '데이터 포이즈닝(오염)' 문제 등을 예방할 수 있다.

SK쉴더스·삼성SDS 등 사이버 보안 관련 기업들은 생성형 AI 시스템을 구축하려는 기업이 늘며 AI 보안 관련 컨설팅 수요가 증가하고 있다고 입을 모았다.

삼성SDS 관계자는 "챗GPT 이후 생성형 AI 관련 보안 문의가 꾸준히 늘고 있다"고 전했다.

이런 가운데 AI 보안 기술 개발도 활발해지고 있다.

특허청에 따르면 전 세계 주요국 특허청(IP5, 한국·미국·중국·유럽연합·일본)에 출원된 AI 관련 보안 기술 특허는 2012년 37건에서 2021년 1천492건으로 대폭 증가했다.

AI를 악용한 사이버 공격과 데이터 유출 문제 등이 커지며 향후 AI를 활용한 보안 중요성은 훨씬 커질 것이라는 분석이 나온다.

염흥열 순천향대 정보보호학과 교수는 "AI는 보안 역량을 높이는 데 굉장히 많이 활용될 것"이라며 "AI 보안 기술의 국제 표준화도 추진되고 있어 적극적인 기술 개발이 필요하다"고 말했다.

다만 AI를 활용한 'AI 포 시큐리티' 제품의 경우 성능적 검증을 거쳐야 한다는 지적도 제기된다.

김승주 고려대 정보보호대학원 교수는 "AI 기술을 활용한 보안 제품의 성능이 객관적으로 검증됐다거나 기존 보안 제품보다 효과적이라는 데이터는 아직 없다"며 "기업들의 구매로 이어지기까진 시간이 더 필요하다"고 말했다.

산업팀 press@jeonpa.co.kr

<저작권자 © 전파신문, 무단 전재 및 재배포 금지>