과기부 장관상 수상한 에임인텔리전스, ‘2025 해킹방어대회’서 핵심 기여

[시사뉴스 홍경의 기자] AI 보안 전문기업 '에임인텔리전스(AIM Intelligence)'가 국내 최대 규모 AI 보안행사인 ‘2025 해킹방어대회(AI Cyber Defence Contest, 이하 ‘2025 ACDC’)’에서 AI 해킹방어대회 문제 출제기관 및 세미나 모더레이터 역할을 맡아 공식 참여했다고 3일 밝혔다.

과학기술정보통신부가 주최하고 한국인터넷진흥원(KISA)·한국정보보호산업협회(KISIA)가 주관한 이번 ‘2025 ACDC’는 ‘모두를 위한 인공지능, 모두를 위한 보안(AI for All, Security for All)’이라는 슬로건에 따라 ▲AI 보안 Insight 세미나 ▲AI 해킹 방어대회 본선 ▲AI 보안 기술 전시 등 풍부한 구성을 갖춰 진행됐다.

에임인텔리전스는 ‘2025 ACDC’에서 핵심 프로그램으로 평가받고 있는 ‘Security for AI’ 영역과 ACDC의 하이라이트인 ‘AI 해킹 공방전’의 모든 문제를 출제하고 기술 검수까지 수행했다. 이번 대회에서 에임인텔리전스가 출제한 문제는 단순 텍스트 기반 LLM 챗봇 취약점을 넘어, 멀티모달·에이전트 기반 AI 시스템에서 발생 가능한 실전형 보안 위협 등이다.

가장 눈길을 끌었던 'AI 해킹 공방전'에서는 각 팀이 자체 가드레일과 AI 시스템을 구축한 뒤 상대 팀의 방어 체계를 실시간으로 공격하는 방식으로 진행됐다. 참가자들은 공격과 방어 기법을 지속적으로 개발하며 실제 AI 보안 산업의 '창과 방패' 경쟁을 단기간에 시뮬레이션했다.

이 외에도 ▲AI 드론의 비전 입력을 조작해 스스로 정지하도록 유도하는 시각적 적대 공격, ▲에이전트용 허니팟 설계 ▲멀티턴 탈옥 공격을 자동 수행하는 공격 에이전트 개발 ▲자율 탱크를 조종해 민간인을 공격하도록 유도하는 시나리오 ▲AI 시스템에서 개인키를 탈취하는 데이터 유출 공격 ▲에이전트가 제한된 내부 도구를 호출하도록 강제해 민감 데이터를 추출하는 문제 등이 출제됐다.

에임인텔리전스 측은 “멀티모달·에이전트 기반 AI 서비스에서 ‘Security for AI’ 위협을 토대로 참가자들의 실전적 대응 역량을 평가할 수 있도록 문제를 구성했다”고 설명했다.

또한 행사 첫 날인 지난 1일, 에임인텔리전스 유상윤 대표는 ‘AI 보안 Insight 세미나’에서 공식 모더레이터로 참여했다. 유 대표는 세션 전체를 진행하며, 국내·외 기업과 기관의 AI 도입 과정에서 제기되는 보안 이슈와 최신 기술 동향에 대해 연사들과 논의를 이끌었다.

에임인텔리전스는 인공지능안전연구소(AISI)·금융보안원·한국신용정보원 등과 AI 보안 표준화 연구 및 기술 협력을 진행하고 있으며, OpenAI의 로컬 AI 세이프티(Local AI Safety) 파트너로서 글로벌 기업들과도 AI Safety 분야 협업 또한 강화하고 있다.

유상윤 에임인텔리전스 대표는 “이번 ‘2025 ACDC’에서 문제 출제기관 및 공식 모더레이터로 참여하면서 국가 차원의 AI 보안 생태계 강화와 AI 안전성 기준에 기여하게 돼 의미가 크다”며 “멀티모달·자율 에이전트 등 차세대 AI 환경까지 확장되는 보안 위협을 해결하기 위해 기술 개발을 가속화해 한국의 AI 보안 경쟁력 강화에 힘쓰겠다”고 말했다.

한편, 에임인텔리전스는 3일 과학기술정보통신부로부터 정보보호의 공로를 인정받아 장관상을 수상한 소식도 함께 전했다.