[혁신플랫폼톡]AI 에이전트의 부상

2025년 현재 인공지능(AI) 분야에서 가장 주목받는 키워드 중 하나는 AI 에이전트다. AI 에이전트란 사용자를 대신해 자율적으로 작업을 수행하는 AI 기반의 애플리케이션(앱)으로, 환경을 인식하고 데이터를 수집하며, 의사결정을 내리고 학습을 통해 지속적으로 개선되는 특징을 갖고 있다.

특히 대규모언어모델(LLM) 기반의 AI 에이전트는 대용량 데이터를 처리하고 맥락을 이해하는 능력이 뛰어나며 자연어 처리 기술을 통해 보다 유연하고 정교하게 사람과 상호작용할 수 있다는 장점이 있다. 이러한 특성 덕분에 LLM 기반의 AI 에이전트는 다양한 산업에서 도입이 검토되고 있다. 자동화 및 업무 효율화를 위한 핵심 솔루션으로 기대를 모으고 있다.

넥서스AI도 법률 AI 에이전트인 'AI 사건진단'의 상용화를 준비하고 있다. 'AI사건진단'은 의뢰인의 형사사건 정보를 입력받아 대화를 통해 죄명과 법조항을 도출하고, 검찰의 공소제기 방식과 예상 형량, 집행유예 가능성을 예측해주는 역할을 한다. 이를 통해 변호사는 보다 신속하고 체계적으로 사건을 분석할 수 있으며, 법률 지식이 부족한 일반인들도 보다 쉽게 법적 대응 방향을 모색할 수 있다.

AI 사건진단을 개발하며 얻게 된 경험을 LLM 기반의 AI 에이전트 도입을 고려하고 있는 기업이나 개인들에게 도움이 됐으면 하는 마음으로 공유해본다.

첫째, LLM은 단순히 학습을 시킨다고 해서 완벽한 답변을 제공하는 만능 해결사가 아니다. 양질의 데이터를 학습시키면 성능이 향상되지만 여전히 일정 수준의 오류 가능성이 남는다. 뿐만 아니라 법률분야처럼 심도 있는 논리적 추론이 필요한 영역에서는 단순한 데이터 학습만으로는 높은 수준의 업무 능력을 갖춘 LLM을 만들기 어렵다. 이 때문에 AI 에이전트 개발에 있어 LLM의 기능적 한계를 극복하기 위한 해당 도메인 데이터의 확보와 인간의 휴리스틱적인 개입이 꼭 필요하다.

둘째, 사용할 LLM의 특성을 파악하는 것이 매우 중요하다. 현재 가장 앞서 있다고 평가받는 GPT4o는 뛰어난 추론 능력이란 장점이 있지만 비싸고 느리다. 이에 비해 제미나이(Gemini)는 빠르고 저렴하며 지시 순응 능력이 뛰어나지만 종합적인 판단 능력에서는 GPT4o에 미치지 못한다. 이러한 LLM의 특성은 AI 에이전트 개발의 많은 부분을 차지하는 프롬프트 작업에 큰 변수가 되므로 AI 에이전트의 초기 설계 시 이에 대한 고려가 꼭 필요하다.

셋째, AI 에이전트는 목표가 구체적일수록 성능이 향상된다. 예를 들어, '고객센터 에이전트'보다 '이동통신 고객센터 에이전트'가 구현하기 쉽다. 그보다 더 구체적인 '이동통신 요금안내 에이전트'가 더욱 높은 완성도를 갖출 가능성이 크다. 넥서스AI는 AI 에이전트의 완성도를 높이기 위해 법률 분야 중에서도 형사 사건에 집중했고 형사 사건중에서도 쟁점이 없는 인정사건에 집중했다.

LLM이 특정 영역에서 한계를 보일 때, 이를 어떻게 보완할 것인지에 대한 인간의 휴리스틱적 개입이 에이전트의 성능을 결정한다. AI가 어려움을 겪는 문제 유형을 식별하고, 어떤 데이터를 어떻게 추가해 보완해야 하는지가 AI 에이전트 개발의 핵심 요인이다.

GPT, 제미나이, 라마(Llama), 딥시크(DeepSeek), 하이퍼클로버 X(HyperCLOVA X) 등 다양한 LLM이 출시되며 기술이 빠르게 발전하고 있다. 이같은 기술이 일정 수준에 도달하면 결국 AI 에이전트의 품질을 좌우하는 요소는 해당 분야 전문 지식과 경험을 담아내는 인간의 능력이 될 것이다.

이재원 넥서스AI 대표 jwlee@nexusai.kr